In questo articolo Indice dei contenuti 2 sezioni
Anthropic sta mettendo alla prova un nuovo sistema pensato per Claude. Si chiama dreaming e permette al modello di ripercorrere le esperienze accumulate, sistemare gli appunti presi lungo il cammino e riordinare le informazioni destinate alle sessioni successive. Il nome evoca qualcosa di quasi poetico, ma conviene non lasciarsi ingannare. Dietro l’idea del “sognare” non c’è alcuna prova che il modello abbia sogni o viva esperienze soggettive. Si tratta piuttosto di una fase di manutenzione della memoria, un lavoro di pulizia e riorganizzazione che con l’immaginazione notturna degli esseri umani ha davvero poco a che vedere.
La scelta del termine è suggestiva, su questo non ci sono dubbi. Il cuore della faccenda però è molto più pratico e riguarda il modo in cui un sistema di intelligenza artificiale gestisce ciò che ha imparato strada facendo, soprattutto quando quello che ha imparato non è del tutto corretto.
Perché ricordare non basta
Nel rapporto tecnico pubblicato il 6 novembre l’azienda mette il dito su un problema molto concreto degli agenti AI. Conservare un’informazione, da solo, non è sufficiente. Anche un ricordo sbagliato può infatti sopravvivere nel tempo e continuare a condizionare il lavoro successivo, portando l’agente fuori strada. Una memoria che si limita ad accumulare dati rischia così di trasformarsi in una trappola, perché un errore registrato una volta tende a ripresentarsi ogni volta che quell’appunto viene riletto e preso per buono.
Va chiarito anche di quale tipo di memoria si stia parlando. Quella studiata da Anthropic è fatta di contenuti salvati e rileggibili, una sorta di taccuino che Claude può consultare quando serve. Nessun intervento tocca i parametri interni del modello, che restano esattamente com’erano. Il dreaming agisce quindi su ciò che è stato scritto e non sul funzionamento profondo del sistema. Proprio per questo può correggere le annotazioni senza mettere mano alla struttura che sta sotto.
L’esempio di Pokémon Rosso
Per rendere l’idea l’azienda ha scelto un banco di prova decisamente curioso, cioè Pokémon Rosso. Durante la partita Claude aveva annotato una posizione errata nei pressi del Monte Luna e, fidandosi di quell’appunto, continuava a imboccare il percorso sbagliato. Un circolo vizioso in piena regola, dove l’informazione scorretta spingeva ogni nuovo tentativo verso lo stesso vicolo cieco. Il problema insomma non era la mancanza di un ricordo ma la presenza di un ricordo inesatto.
A sbloccare la situazione è stato proprio il processo di dreaming. Confrontando gli appunti con il resoconto originale della sessione, il sistema ha individuato l’incongruenza e ha corretto il dato. Nella prova descritta l’agente è così riuscito ad andare avanti fino a Celestopoli, lasciandosi alle spalle l’ostacolo che lo aveva tenuto fermo.
Fonte: TecnoAndroid