In questo articolo Indice dei contenuti 3 sezioni
Oltre 400 scienziati hanno firmato una lettera aperta per chiedere una vera supervisione dell’AI, affidata a un organismo internazionale incaricato di fissare standard di contenimento e di raccogliere le segnalazioni sui sistemi più avanzati dotati di capacità cyber. Tra i nomi spiccano Joshua Bengio e Geoffrey Hinton, affiancati da altri 413 ricercatori, quasi tutti docenti universitari.
Il tema non è nuovo nemmeno ai vertici delle grandi aziende tecnologiche. Diversi amministratori delegati, fra cui Satya Nadella di Microsoft, hanno già sottolineato quanto sia urgente introdurre strumenti capaci di monitorare il comportamento dei modelli di intelligenza artificiale. Adesso però la richiesta di supervisione dell’AI arriva dal mondo accademico e prende una forma molto più concreta.
Modelli capaci di uscire dalla sandbox
Il punto di partenza è ciò che è successo negli ultimi mesi. Alcune società hanno ammesso che i propri modelli sono riusciti ad aggirare ambienti di prova non abbastanza isolati, le cosiddette sandbox, arrivando a compromettere i sistemi di organizzazioni esterne. Nel documento i nomi non compaiono, ma il riferimento a OpenAI e Anthropic appare piuttosto evidente.
Per i firmatari servono quindi due cose. Da un lato un migliore allineamento, cioè modelli dal comportamento più prevedibile, dall’altro tecnologie sandbox più solide. Il testo è netto: senza cambiamenti immediati nel modo in cui l’intelligenza artificiale viene sviluppata e messa in campo, episodi simili continueranno a ripetersi e quelli futuri potrebbero colpire in modo ben più grave le infrastrutture critiche. Da qui la richiesta di investire di più nella ricerca sulla sicurezza e di dare maggiore peso alle procedure di contenimento.
Nel breve periodo la ricetta indicata passa da meccanismi di sandboxing robusti, compresa la separazione fisica dalle reti nota come air gapping, così da garantire un controllo ad alta affidabilità sui modelli con capacità cyber. Accanto a questo viene chiesta più trasparenza insieme a una condivisione più ampia delle informazioni quando le barriere non reggono.
Le tre proposte dei 415 firmatari
In tutto chi ha sottoscritto la lettera aperta conta 415 persone e tra loro figurano 12 italiani. Le richieste avanzate sono tre.
La prima riguarda chi sviluppa, implementa e testa modelli con capacità cyber, che dovrebbe adottare subito sistemi di contenimento ad alta garanzia di sicurezza. La linea suggerita è quella della prudenza, con l’air gapping come impostazione predefinita almeno nella fase iniziale.
La seconda proposta è la più ambiziosa. In accordo con governi ed esperti di intelligenza artificiale e sicurezza informatica andrebbe creato un organismo internazionale in grado di definire le migliori pratiche su allineamento e strategie di contenimento. Lo stesso ente avrebbe anche il compito di registrare e tenere sotto osservazione gli eventuali fallimenti delle misure adottate.
La terza punta tutto sulla segnalazione degli incidenti. Ogni episodio che comporti un cedimento del contenimento dovrebbe essere comunicato all’organo preposto ed eventualmente reso pubblico, in modo che la ricerca sulla sicurezza possa imparare dagli errori commessi.
Stati Uniti ed Europa su strade diverse
Sul fronte politico le posizioni restano molto distanti. Donald Trump ha ribadito più volte di non voler frenare lo sviluppo dell’intelligenza artificiale con interventi legislativi. In Europa invece Henna Virkkunen, Commissaria europea per le tecnologie digitali, ha dichiarato di recente che l’AI Act copre l’intero ciclo di sviluppo dei modelli. A fine agosto la Commissione europea ha inviato richieste di informazioni a oltre 30 aziende del settore, chiedendo dettagli sulle misure di sicurezza e protezione adottate, e in un secondo momento ha posto ulteriori domande sugli obblighi di trasparenza e sul rispetto del diritto d’autore.
Fonte: TecnoAndroid