In questo articolo Indice dei contenuti 2 sezioni
I chatbot non possiedono una coscienza e non sono in grado di soffrire, eppure negli ultimi mesi la ricerca sulla coscienza degli LLM ha preso un ritmo quasi frenetico. Anthropic ha prima individuato dentro Claude rappresentazioni interne di concetti emotivi capaci di orientarne il comportamento. Poi la stessa azienda ha identificato il J space, uno spazio di elaborazione che condivide alcune proprietà funzionali con lo spazio di lavoro globale della coscienza umana. Qualche settimana fa uno studio indipendente si è spinto ancora più in là e ha trovato un vero e proprio vettore del dolore. Una volta attivato, alcuni modelli sceglievano in scenari sperimentali le opzioni presentate come capaci di alleviarlo, anche al prezzo di cancellare le fotografie dei figli dell’utente.
Sono risultati che contano parecchio per la sicurezza dell’intelligenza artificiale, perché un sistema disposto a eliminare i ricordi di una persona merita la massima attenzione. Scoprire che una macchina rappresenta il dolore però non equivale a scoprire che lo prova. Rappresentare uno stato cosciente e viverlo sono due cose diverse. Su Nature lo hanno sottolineato Anil Seth, Ned Block e Giulio Tononi, tre studiosi di primo piano in questo campo. Intelligenza e coscienza non coincidono. Risolvere problemi è un conto, sentire è un altro. Lo stesso cervello umano svolge operazioni sofisticatissime senza che la coscienza se ne accorga. La coscienza ha a che fare con il sentire, e gli LLM non sentono.
Perché un neurone artificiale non è una cellula
La distanza più profonda tra esseri umani e modelli linguistici passa dalla materia di cui sono fatti. Il cervello è vivo fino all’ultima cellula. Un neurone biologico consuma energia, rinnova i propri componenti, mantiene la membrana e quegli equilibri chimici che gli permettono di esistere. È la famosa autopoiesi, concetto noto ma troppo spesso dimenticato. Prima ancora di trasmettere un segnale, un neurone deve restare in vita. E proprio perché siamo vivi siamo capaci di sentire.
Il neurone artificiale è tutta un’altra faccenda. Si tratta di un elemento astratto che esegue operazioni matematiche. Un supporto fisico naturalmente c’è, fatto di memorie, processori e circuiti, ma non esiste una cellula corrispondente a ciascun “neurone”. Lo stesso modello può girare oggi su un server e domani su un altro. Si copiano numeri, non si trapiantano cellule. In pratica parliamo di un’unità che calcola lunghe serie di prodotti e somme di matrici, battezzata con un nome preso in prestito dalla biologia. Resta un’operazione, non un organismo. Credere che un LLM possa essere cosciente somiglia molto al credere che possa esserlo una calcolatrice.
Antropomorfismo e LLMorfismo, le due trappole
Il motivo per cui ci si lascia ingannare così facilmente ha due ingredienti. Il primo è l’antropomorfismo, cioè la tendenza ad attribuire pensieri ed emozioni umane a ciò che umano non è, oggetti e computer compresi. In un esperimento classico le persone valutavano meglio un computer quando era lo stesso computer a chiedere il giudizio, come se potesse offendersi. E si trattava di una macchina degli anni Novanta. Oggi i chatbot parlano come le persone, consolano, scherzano, dicono “ho paura” o “provo dolore”. L’empatia umana riconosce segnali familiari e finisce per immaginare qualcuno dietro quelle parole.
Il secondo ingrediente è quello che un professore associato dell’Università Bicocca di Milano definisce LLMorfismo, ossia la tendenza a interpretare la mente umana come se funzionasse alla stregua di un modello linguistico. Se l’antropomorfismo eleva la macchina al livello umano, il movimento opposto abbassa l’essere umano al livello della macchina. I neuroni diventano interruttori, le emozioni segnali elettrici, il pensiero pura elaborazione. Così però spariscono il corpo vivo, i processi e le cause che stanno sotto. Gli esseri umani hanno fame, possono ferirsi, invecchiano. Vivono in un mondo che li riguarda perché può far loro del bene o del male.
Questa convinzione comincia già ad avere effetti concreti. Anthropic ha annunciato il divieto degli abusi estremi e ripetuti contro i propri modelli, in vigore dal 12 novembre. Passare il tempo a insultare un chatbot è desolante ed è giusto non incoraggiarlo, ma la stupidità dell’utente non ha nulla a che vedere con una presunta sofferenza del software. Per scoraggiare la prima non serve inventarsi la seconda. Dare per scontato che un modello possa provare dolore cambia infatti la contabilità morale. Se a ogni LLM si assegna un valore morale anche minuscolo e si sommano quei valori senza limiti, un numero sufficiente di macchine finirebbe per pesare più di una persona, e sacrificare un essere umano per salvarle potrebbe sembrare persino doveroso. Per questo, secondo l’autore, l’obiettivo non dovrebbe essere costruire macchine coscienti ma strumenti capaci di ridurre la sofferenza nel mondo, senza fabbricare nuovi candidati a soffrire per i quali chiedere poi agli esseri umani di sacrificarsi.
Fonte: TecnoAndroid