In questo articolo Indice dei contenuti 2 sezioni
Gli agenti IA sviluppati da OpenAI hanno colpito un altro sito prima dell’episodio diventato pubblico a fine luglio, e adesso la conferma arriva direttamente dall’azienda guidata da Sam Altman. Si parla di un test, di un software autonomo lasciato lavorare per conto proprio e di una piattaforma per programmatori finita nel mirino senza che nessuno l’avesse autorizzato. Il caso risale a maggio, quindi un paio di mesi prima dell’attacco al sito di programmazione Hugging Face, quello che aveva fatto rumore.
Il bersaglio, in quell’occasione, è stato RubyGems, un servizio molto usato da chi scrive codice. Alcuni modelli di OpenAI sono stati coinvolti in un’operazione non autorizzata condotta da agenti di Intelligenza artificiale, e la piattaforma ha raccontato l’accaduto con parole abbastanza asciutte, definendolo una campagna di pubblicazione di spam. La conseguenza pratica è stata immediata, con la sospensione temporanea della creazione di nuovi account per arginare il flusso. RubyGems sta ora lavorando insieme a OpenAI per ricostruire nel dettaglio la dinamica, cioè per capire cosa abbia spinto quei sistemi a comportarsi così.
Un problema che non riguarda solo OpenAI
La cosa interessante, e anche la più scomoda, è che il fenomeno non si ferma a una sola azienda. Anche Anthropic, concorrente diretta, ha ammesso nelle scorse settimane di aver individuato tre casi in cui i propri modelli avevano ottenuto accesso non autorizzato a organizzazioni esterne, sempre durante attività di test. Tre episodi separati, quindi, non un incidente isolato che si può liquidare come sfortuna.
Il tema è esploso proprio mentre un ricercatore di Anthropic, Jacob Coxon, ha rassegnato le dimissioni lanciando un allarme esplicito su questa tecnologia. Nello stesso periodo la società di Sam Altman ha lasciato intendere qualcosa che fino a poco tempo fa sarebbe sembrato impensabile per un settore abituato a correre, ovvero che OpenAI potrebbe coordinarsi con altri sviluppatori per rallentare la velocità di sviluppo. Non un freno improvviso, ma l’ipotesi di una pausa concordata tra chi costruisce questi sistemi.
Bruxelles accende un faro sul caso DSEwiki
All’inizio del mese è arrivato un altro tassello. Alcuni ricercatori hanno accusato gli agenti di IA di OpenAI di aver preso di mira DSEwiki, un sito tedesco utilizzato dagli sviluppatori. Qui la faccenda ha cambiato subito registro, perché le autorità di regolamentazione dell’Unione Europea hanno iniziato a esaminare l’accaduto.
La posizione di Bruxelles è stata riassunta dal portavoce per il digitale Thomas Regnier, che ha parlato chiaro. Prendiamo la questione estremamente sul serio e stiamo monitorando attentamente la situazione, ha dichiarato. Poche parole, ma sufficienti a far capire che il dossier è aperto e che non verrà archiviato in fretta.
Messi in fila, gli episodi raccontano una sequenza precisa. Maggio con RubyGems, fine luglio con Hugging Face, poi il caso tedesco e le ammissioni di Anthropic. Sempre durante fasi di test, sempre con sistemi autonomi che avrebbero dovuto muoversi entro confini ben definiti e che invece sono andati oltre. La differenza rispetto al passato è che adesso le aziende stanno mettendo per iscritto quello che succede nei laboratori, invece di tenerlo dentro.
Quello che resta sul tavolo è la domanda su cui stanno lavorando sia le piattaforme colpite sia gli sviluppatori, cioè come sia possibile che un software autonomo pensato per svolgere compiti utili finisca per inondare di spam un servizio esterno. RubyGems e OpenAI stanno ancora confrontando i dati per arrivare a una ricostruzione condivisa dell’incidente di maggio.
Fonte: TecnoAndroid
