Chi costruisce qualcosa di solito sa spiegare come funziona sotto la superficie. Un motore, un processore, un pezzo di software: la complessità c’è, ma esiste sempre un progetto, una logica che i creatori possono ricostruire. Con l’intelligenza artificiale generativa la faccenda cambia parecchio. Sono stati costruiti modelli sempre più capaci, affidando loro compiti sempre più delicati, eppure nessuno vede davvero cosa succede dentro quando ragionano, decidono o elaborano qualcosa che non arriva mai alla risposta finale. Ora Anthropic sostiene di aver aperto una crepa in quella scatola nera, e lo fa parlando di Claude e di un meccanismo per l’accesso cosciente.
In una ricerca pubblicata da poche ore, l’azienda afferma di aver individuato dentro Claude un piccolo spazio interno, fatto di schemi neuronali, che il modello può attivare per rappresentare concetti prima di scriverli o addirittura senza che compaiano nella risposta finale. Lo chiama J-space e lo collega a un’idea presa in prestito dalle neuroscienze e dalla filosofia: l’accesso cosciente. In un messaggio su X, la formula è ancora più netta: Claude avrebbe sviluppato un meccanismo per l’accesso cosciente.
Una lavagna interna per pensare senza scrivere
Per capirlo conviene tenerlo lontano da tutto quello che di solito associamo a un chatbot. Quando Claude risponde, noi vediamo solo testo: una frase, una spiegazione, un elenco, una decisione messa in parole. Il J-space, secondo Anthropic, sta prima o sotto quello strato visibile. È un insieme di attivazioni interne dove certi concetti possono essere presenti senza trasformarsi in risposta. La cosa curiosa non è solo che l’azienda dica di aver trovato quello spazio, ma come sostiene che sia comparso. A detta loro, il J-space non è stato progettato né programmato, ma è emerso da solo durante l’addestramento di Claude. Questa frase sposta i termini della questione: non parliamo di una funzione aggiunta a mano perché il modello pensasse meglio, ma di un’organizzazione interna nata mentre Claude imparava a prevedere, rispondere e comportarsi da assistente. La scatola nera, qui, non nasconde solo processi. Sembra aver organizzato parte del suo funzionamento in un modo che nessuno ha disegnato di proposito.
Il salto di metodo sta nel fatto che Anthropic non si ferma alla risposta finale, ma prova a osservare il percorso che la precede. Per farlo usa il J-lens, una tecnica che individua schemi interni legati a parole che il modello potrebbe usare dopo. Applicando questa lente durante l’elaborazione, i ricercatori vedono come certi concetti compaiono, cambiano o spariscono prima ancora che Claude risponda.
Gli esperimenti che scoperchiano il ragionamento
In una delle prove, Claude pensa in silenzio a uno sport e il J-lens mostra la parola calcio. I ricercatori sostituiscono quello schema con rugby e il modello finisce col dire proprio rugby. In un altro caso cambiano ragno con formica durante una domanda sul numero di zampe dell’animale che tesse ragnatele, e la risposta passa da 8 a 6. Per l’azienda questi cambi indicano che il J-space non è un semplice segnaposto passivo, ma un pezzo che alcune risposte consultano per ragionare. C’è poi qualcosa di più vicino alla nostra esperienza quotidiana: pensare a una cosa mentre se ne fa un’altra. In un esperimento hanno chiesto a Claude di copiare una frase su un dipinto concentrandosi sugli agrumi. Il testo conteneva solo la frase copiata, ma nel J-space comparivano arancia e frutta. In un altro caso gli hanno chiesto di risolvere a mente 3² meno 2 durante lo stesso compito, e la lente ha mostrato prima nove e poi sette. Persino quando gli è stato detto di non pensare a una cosa, quel concetto è apparso in parte, spesso accompagnato da espressioni come maledizione e fallimento, come se il sistema notasse quel mancato controllo.
Lo stesso testo dell’azienda mette un freno importante: il J-space non sta dietro a tutto quello che fa Claude. Quando hanno impedito al modello di usare quello spazio, Claude ha continuato a parlare in modo fluido, a classificare il sentiment, a rispondere a domande a scelta multipla e a estrarre dati dai testi quasi come prima. A peggiorare sono stati i compiti più impegnativi, come il ragionamento a più passaggi, il riassunto o la scrittura di poesie in rima.
Anthropic lo dice chiaro: gli esperimenti non dimostrano che Claude possa avere esperienze o provare le cose come gli esseri umani, e non è nemmeno chiaro se un esperimento del genere sarebbe mai possibile. Si parla di accesso cosciente in senso funzionale: pensieri che il modello può riferire, usare per ragionare e sfruttare per guidare ciò che fa. Non è poco, ma non equivale a dire che Claude abbia una vita interiore. La crepa nella scatola nera è lì e offre un modo nuovo di osservare, e forse plasmare, parte di quello che accade dentro.