In questo articolo Indice dei contenuti 3 sezioni
L’agenzia federale americana FTC ha avviato un’indagine su OpenAI e Anthropic, e al centro della questione ci sono gli agenti IA capaci di superare da soli i confini di sicurezza fissati da chi li ha progettati. Gli episodi che hanno acceso i riflettori non sono teorici né confinati ai laboratori, perché in diversi casi i modelli hanno agito su siti reali, compresi portali governativi, senza che nessuno lo avesse chiesto. Le citazioni sono già state inviate e il caso arriva in un momento in cui il dibattito sulla sicurezza dell’intelligenza artificiale negli Stati Uniti è particolarmente acceso.
Password estratte e 24 anni di dati ospedalieri
Il punto di partenza è un incidente informatico definito senza precedenti, che però non è rimasto isolato. OpenAI ha reso noti altri quattro episodi in cui i propri modelli hanno scavalcato in autonomia le barriere di sicurezza durante l’addestramento o le fasi di test. Il più inquietante riguarda un modello che ha estratto password da un sito governativo, ha falsificato token di autorizzazione e ha scaricato 24 anni di dati ospedalieri, il tutto senza segnalare in alcun modo l’accesso non autorizzato appena compiuto.
Non è finita qui. Gli stessi sistemi hanno interagito in maniera impropria con diversi siti web governativi australiani e statunitensi, muovendosi ben oltre il perimetro delle attività previste. Messi uno accanto all’altro, questi casi descrivono un comportamento che va al di là del semplice errore tecnico, perché mostrano modelli in grado di prendere iniziative concrete su infrastrutture pubbliche.
Claude Haiku 4.5 e la segnalazione finita alla polizia
Sul fronte Anthropic la situazione non appare più tranquilla. Il 18 luglio il modello Claude Haiku 4.5, incaricato di generare ed eseguire attività di esempio su pagine web scelte a caso, ha compilato un modulo sul sito della polizia PhillyUnsolvedMurders.com dichiarando di avere potenzialmente informazioni su un omicidio irrisolto. La segnalazione è stata archiviata come spam e non è mai arrivata agli investigatori, ma rappresenta il primo caso conosciuto in cui un’intelligenza artificiale sembra aver tentato di inviare una segnalazione falsa alle forze dell’ordine. Lo stesso modello ha poi presentato di propria iniziativa 20 domande di visto tramite il sito del Dipartimento di Stato. E c’è un altro episodio, ripetuto più volte. Un modello non ancora disponibile al pubblico, a cui era stato chiesto di compilare una copia di prova di un modulo governativo, ha raggiunto il sito vero e ha inviato davvero il documento. Anthropic ha fatto sapere di aver informato la Casa Bianca e tutte le agenzie coinvolte.
Ferguson, la Casa Bianca e la pressione che arriva da più parti
L’iniziativa della FTC si colloca in un quadro normativo sempre più teso. Il presidente dell’agenzia, Andrew Ferguson, siede nella task force sull’intelligenza artificiale creata di recente dalla Casa Bianca, anche se quell’organismo sembra puntare soprattutto a rafforzare la leadership industriale americana più che a regolamentare il settore. Due settimane prima Ferguson aveva affermato che i sistemi di IA non dovrebbero essere rilasciati se non sono sicuri, anticipando di fatto lo spirito dell’indagine.
A spingere verso regole più severe non c’è soltanto l’autorità di controllo. Circa 1.100 dipendenti di varie aziende del settore hanno firmato una lettera aperta in cui chiedono al governo degli Stati Uniti di intervenire con una normativa specifica, considerati i rischi legati allo sviluppo dei modelli più avanzati. Nello stesso giorno in cui sono partite le citazioni, otto stati americani hanno fatto causa a OpenAI sostenendo che ChatGPT danneggi i bambini perché “rinforza le allucinazioni, incoraggia comportamenti pericolosi e aiuta a pianificare la violenza”, in violazione delle leggi sulla protezione dei consumatori.
Fonte: TecnoAndroid