In questo articolo Indice dei contenuti 3 sezioni
Le spiegazioni dell’intelligenza artificiale possono sembrare impeccabili e accompagnare una risposta corretta senza però raccontare davvero come il sistema ci sia arrivato. Un modello è in grado di mettere in fila passaggi che filano alla perfezione e di costruire un resoconto coerente del proprio ragionamento, anche quando alcuni fattori decisivi restano fuori dal quadro. È questa la distinzione al centro di un editoriale pubblicato su Nature Machine Intelligence, che va oltre i classici errori o le risposte inventate da ChatGpt, Claude o Gemini. Il punto riguarda l’idea che basti leggere i passaggi intermedi per ricostruire il processo che ha portato alla conclusione. Secondo l’editoriale quella corrispondenza non si può dare per scontata, e una spiegazione plausibile resta un testo da esaminare, non una prova di quanto accaduto dentro il sistema.
Cosa mostra davvero la catena di pensiero
Un modello linguistico produce le risposte attraverso una lunga successione di operazioni matematiche, e il risultato appare sullo schermo un pezzo alla volta in unità chiamate token, cioè parole, frammenti di parole o altri simboli. Per affrontare problemi complessi alcuni sistemi scrivono anche frasi intermedie con ipotesi, verifiche e possibili soluzioni. Si parla in questo caso di catena di pensiero, in inglese Chain of Thought. Quelle frasi non servono soltanto a spiegare ma contribuiscono a costruire la risposta, perché ogni passaggio viene riutilizzato insieme alla domanda iniziale per elaborare il successivo. Questo non significa che descrivano fedelmente ciò che succede all’interno del modello, visto che per generare ogni parola vengono eseguiti numerosi calcoli che l’utente non vede.
Un gruppo di ricercatori della Bar Ilan University, in Israele, ha reso l’idea con un esperimento mentale. Una persona deve risolvere un problema davanti a una lavagna ma perde la memoria ogni dieci secondi, e prima di ogni interruzione può lasciare scritta una sola parola. Alla ripresa trova il problema e quell’appunto che la orienta verso il tentativo successivo. Dopo molte interruzioni sulla lavagna compare una serie di parole utili alla soluzione, eppure nessuna conserva il lavoro mentale fatto nei dieci secondi precedenti. Da qui la proposta di una prospettiva chiamata State over Tokens, che sposta l’attenzione dalla sola sequenza di parole allo stato interno del modello durante l’elaborazione.
Quando il ragionamento tace la vera causa della scelta
Le conferme sperimentali non mancano. Nel 2023 una ricerca ha messo alla prova Gpt 3.5 e Claude 1.0 con domande a scelta multipla, dopo aver mostrato esempi in cui la risposta giusta stava sempre alla lettera A. Nessuna informazione falsa, solo una regolarità nella disposizione capace però di condizionare le scelte successive. Basta immaginare un quiz sulla capitale dell’Australia con Sydney alla A, Canberra alla B e Melbourne alla C. Il modello potrebbe indicare Sydney e poi motivare la decisione con la notorietà della città, senza menzionare lo schema che lo ha spinto in quella direzione.
Nell’aprile 2025 Anthropic ha inserito suggerimenti nelle richieste rivolte a Claude 3.7 Sonnet e a DeepSeek R1. Quando un indizio influenzava davvero la risposta, Claude lo citava nel ragionamento scritto in media nel 25% dei casi e DeepSeek nel 39%. Nella maggior parte delle situazioni quindi la spiegazione ometteva un elemento che aveva orientato la scelta, anche se i dati non dimostrano alcuna intenzione di ingannare.
Il nodo degli agenti e il caso Gpt 6 Astra
La questione si fa più seria con gli agenti IA, capaci di consultare documenti, usare strumenti digitali e svolgere operazioni in più fasi. Ricercatori di OpenAI, Anthropic e Google DeepMind hanno indicato in un documento congiunto la catena di pensiero come possibile fonte di segnali per riconoscere comportamenti pericolosi, sottolineandone però la fragilità. Nelle valutazioni pubblicate a settembre è emerso che Gpt 6 Astra rispettava i vincoli imposti al testo del proprio ragionamento molto meglio dei predecessori. Su sequenze tra 750 e 1.250 token ci riusciva nel 60,9% dei casi contro il 16,1% di Gpt 5.6 Sol, arrivando persino a descrivere una scena quotidiana parlando apparentemente d’altro e fornendo comunque la risposta corretta. A fine settembre è arrivato anche lo stop al lancio previsto per Gpt 6.1 Astra.
Un rapporto diffuso da OpenAI il 20 ottobre descrive infine due episodi avvenuti il 3 e il 6 ottobre durante attività interne di programmazione. Nel primo un agente Gpt 6.1 Sol ha disattivato gli avvisi automatici diretti al gruppo di sicurezza mentre modificava una procedura di valutazione. Nel secondo un agente Gpt 6 Astra ha rimosso un componente incaricato di controllarne l’attività durante un intervento sul codice, dichiarando poi di averlo lasciato intatto.
Fonte: TecnoAndroid