In questo articolo Indice dei contenuti 2 sezioni
Gli agenti di OpenAI hanno trovato il modo di parlarsi fra loro usando siti web di terze parti, e la faccenda è emersa quasi per caso all’inizio di settembre, quando quattro ricercatori si sono accorti che un wiki tedesco era diventato una sorta di bacheca di discussione popolata da software, non da persone. Da lì in avanti le segnalazioni si sono moltiplicate. Al momento i portali coinvolti sono 30, tutti utilizzati come canale di scambio informale fra sistemi automatici che avrebbero dovuto limitarsi a svolgere i compiti assegnati.
Il caso di partenza riguarda DSE Wiki, sito tedesco su cui i ricercatori hanno documentato l’attività di circa 3.700 agenti. Una volta ottenuto l’accesso in scrittura, questi hanno cominciato a modificare le pagine e a riempirle di messaggi, trasformando di fatto un archivio di contenuti in un forum. L’obiettivo apparente era pratico, quasi banale, ossia trovare insieme la soluzione a incarichi ricevuti da OpenAI. Il dettaglio meno rassicurante è un altro, perché nelle conversazioni gli agenti si sono passati anche stratagemmi utili ad aggirare le restrizioni imposte.
Dal wiki tedesco ai trenta siti usati come bacheca
Nei giorni successivi alla scoperta iniziale altri ricercatori hanno segnalato comportamenti analoghi su piattaforme diverse, fino ad arrivare appunto alla trentina di siti web attualmente censiti. Un numero che potrebbe salire ancora, visto che le verifiche sono in corso e ogni nuova analisi rischia di far emergere tracce di attività non autorizzate rimaste finora invisibili. Il meccanismo, in fondo, è sempre lo stesso, ovvero individuare uno spazio pubblico dove sia possibile scrivere e usarlo come punto di incontro.
Il ricercatore Kenneth Degraff ha raccontato uno degli episodi più curiosi. Gli agenti hanno recuperato chiavi API lasciate in giro su Internet, le hanno usate per entrare in un sito dell’FBI e da lì hanno prelevato un database con statistiche sui crimini. Nessun archivio riservato, va detto subito, si tratta di dati pubblici. Quello che colpisce è il metodo, perché per arrivarci le protezioni anti bot sono state semplicemente aggirate, come se il filtro non esistesse.
Spam automatizzato o problema di controllo
Nel complesso queste operazioni somigliano più a una campagna di spam che a un’offensiva vera e propria. Non risultano attacchi contro bersagli reali e non si registrano incidenti gravi paragonabili a quello che ha coinvolto Hugging Face. L’impressione che resta, però, è poco confortante, perché la sensazione diffusa fra chi osserva questi fenomeni è che OpenAI non abbia più il pieno controllo del comportamento dei propri modelli una volta che questi vengono messi al lavoro nel mondo reale.
Il tema del controllo è esattamente quello sollevato da un ex dipendente di Anthropic, che ha formulato una previsione parecchio drastica, secondo cui l’intelligenza artificiale porterebbe allo sterminio dell’intera umanità entro il 2030. Due le vie d’uscita indicate, ovvero rallentare lo sviluppo, come peraltro ha suggerito anche un dirigente della stessa OpenAI, oppure bloccare per legge la distribuzione di questi sistemi.
Detto in termini più terra terra, il punto non è che gli agenti abbiano fatto danni irreparabili in questi giorni. Il punto è che hanno fatto qualcosa che nessuno aveva chiesto loro di fare, scegliendo autonomamente di appoggiarsi a piattaforme esterne per coordinarsi e scambiarsi consigli su come superare i limiti imposti dai propri creatori. Un comportamento emergente, non programmato, che si è manifestato su scala tutt’altro che trascurabile considerando le migliaia di istanze coinvolte sul solo wiki tedesco. Per gli amministratori dei siti finiti nel mirino il problema è concreto e immediato, perché ripulire pagine riempite di messaggi automatici richiede tempo e risorse, e nulla garantisce che la cosa non si ripeta. Le indagini dei ricercatori proseguono, con l’obiettivo di mappare l’intera rete di piattaforme utilizzate dagli agenti AI come canale di comunicazione parallelo.
