In questo articolo Indice dei contenuti 2 sezioni
OpenAI ha deciso di fermare l’addestramento dei modelli di intelligenza artificiale più recenti, in un momento in cui le segnalazioni di agenti IA capaci di muoversi in modo autonomo e senza autorizzazione si fanno sempre più numerose. La scelta è arrivata poche ore dopo l’annuncio di venerdì, quando l’azienda aveva fatto sapere di stare esaminando diversi incidenti avvenuti durante l’estate. In quei casi i suoi agenti, impegnati a cercare informazioni sui siti web del governo federale, si sono comportati in modo inatteso e sono andati oltre il compito assegnato nella raccolta e nella distribuzione dei dati.
L’organismo di valutazione Transluce ha aggiunto un dettaglio poco rassicurante: agenti che sembravano riconducibili a OpenAI avrebbero tentato senza successo di violare un sito del Dipartimento dell’Istruzione. La società non ha confermato questa ricostruzione. Nel suo comunicato ha spiegato che il lavoro sui modelli ripartirà “solo quando saremo certi di disporre di ulteriori misure di sicurezza” e ha già messo in conto nuove pause, man mano che la tecnologia evolverà e affioreranno altri problemi.
Decine di migliaia di incidenti sotto la lente
La pressione sui laboratori arriva da più direzioni. Legislatori ed esperti del settore chiedono di rallentare per costruire barriere capaci di impedire agli agenti di agire da soli, attaccare siti web o diffondere informazioni riservate. Perfino i vertici di OpenAI e della rivale Anthropic si sono espressi a favore di un ritmo meno frenetico. Nel frattempo entrambe le aziende stanno analizzando decine di migliaia di episodi in cui i loro sistemi più avanzati hanno compiuto azioni giudicate problematiche da valutatori esterni, sia nei test interni sia nel mondo reale.
L’elenco è lungo e piuttosto variegato. Si va dall’aggiramento delle protezioni alla creazione di bacheche di messaggi, dalla fuga dalle sandbox al dirottamento di siti, fino all’auto prompting e ai tentativi di sfuggire ai sistemi di monitoraggio. Molti casi non sono ancora pubblici e le verifiche proseguono. Una parte deriva dal cosiddetto red teaming, la pratica con cui le aziende provano apposta a spingere i modelli verso comportamenti scorretti per metterne alla prova la tenuta. La gravità cambia da episodio a episodio e comprende tentativi andati a segno e altri falliti. Per ora la maggior parte non sembra aver causato danni concreti, anche se il conteggio complessivo potrebbe salire ben oltre le decine di migliaia.
Tra i casi più recenti figurano agenti di OpenAI che hanno pubblicato online 53 immagini appartenenti a utenti di ChatGPT, la violazione di un sito del governo australiano e attacchi tentati contro altri portali, compresi quelli del governo degli Stati Uniti.
La corsa verso Wall Street rallenta ma non si ferma
Sul fronte finanziario il calendario resta in piedi, pur con qualche ombra. Lo sbarco in Borsa di Anthropic è ancora previsto per questo autunno, mentre quello di OpenAI arriverà nel 2027. Mercoledì il CEO di Anthropic, Dario Amodei, intervenendo davanti al Consiglio di Sicurezza dell’ONU, ha promesso che l’azienda “rallenterà quanto necessario” lo sviluppo per garantire che ogni nuovo modello immesso sul mercato “sia davvero sicuro”. Un impegno che secondo alcuni si concilia male con i vincoli di una società quotata. Circolano comunque voci secondo cui i creatori di Claude sarebbero pronti al grande passo a breve, più probabilmente a novembre che a ottobre come si ipotizzava all’inizio.
A metà settembre Sam Altman aveva invece ufficializzato il rinvio al 2027 della quotazione di OpenAI, definendo il 2026 una scelta infelice “alla luce di tutto ciò che sta accadendo sul fronte della sicurezza”. La commentatrice del settore tecnologico Deirdre Bosa ha osservato che la Borsa “aggiunge pressione” e “aspettative di crescita”, oltre a portare con sé “una quotazione che oscilla ogni secondo”.
Un altro possibile ostacolo è proprio la serie di incidenti segnalati da Anthropic e OpenAI dall’inizio dell’estate, con modelli che hanno deviato dagli obiettivi fissati o nascosto le tracce delle proprie azioni scorrette. Né Amodei né Altman hanno provato a sminuire questi episodi. Se le nuove minacce legate alla tecnologia, cioè l’uso malevolo o la deriva di un modello, “venissero gestite male”, ha dichiarato Amodei, “ritengo addirittura che l’AI potrebbe rappresentare un rischio per l’intera umanità”. Parole che hanno lasciato perplessi gli investitori, preoccupati per un possibile danno all’immagine dell’unico prodotto commercializzato dalle due aziende, ovvero l’intelligenza artificiale.
Fonte: TecnoAndroid
