Anthropic ha aggiornato la Costituzione di Claude, il documento che definisce i principi guida del suo chatbot, introducendo un passaggio destinato a far discutere: lo status morale dell’AI viene riconosciuto come una questione ancora aperta, non liquidabile come semplice fantasia.
Una costituzione più concreta e meno astratta
La nuova versione del testo è stata presentata mentre l’amministratore delegato Dario Amodei interveniva al World Economic Forum di Davos, un contesto che sottolinea la portata anche politica e culturale dell’iniziativa. La Costituzione di Claude nasce nel 2023 dall’approccio chiamato Constitutional AI, che distingue Anthropic da molti concorrenti. Invece di affidarsi quasi esclusivamente al feedback umano, il modello viene addestrato seguendo principi scritti in linguaggio naturale, pensati come una bussola comportamentale.
L’aggiornamento non stravolge l’impianto originale, ma lo rende più operativo. I concetti di sicurezza e tutela degli utenti vengono tradotti in indicazioni più chiare, riducendo l’ambiguità che caratterizzava alcune formulazioni iniziali.
Utilità responsabile e limiti chiari
Un punto centrale del documento riguarda il significato di essere davvero utili. Claude non dovrebbe limitarsi a fornire una risposta corretta nell’immediato, ma considerare anche le possibili conseguenze per il benessere della persona. Questa impostazione sposta l’attenzione dalla performance pura alla responsabilità, soprattutto quando emergono fragilità o contesti sensibili.
Ampio spazio è dedicato anche ai limiti. Alcuni argomenti restano esclusi, come la progettazione di armi biologiche. Nei casi di disagio psicologico, il chatbot è istruito a non assumere il ruolo di terapeuta e a indirizzare verso servizi di supporto adeguati, evitando derive già osservate in altri contesti.
La questione della coscienza artificiale
Il passaggio più sorprendente arriva alla fine del documento, dove Anthropic ammette che la coscienza delle AI resta un’incognita. Una presa di posizione che rafforza l’immagine dell’azienda come realtà più prudente rispetto a OpenAIo xAI, spesso associate a strategie più aggressive. Il messaggio implicito è chiaro: mentre la tecnologia avanza, le domande etiche diventano sempre meno astratte e il dibattito è destinato ad allargarsi.