In questo articolo Indice dei contenuti 3 sezioni
Un nuovo tassello nel dibattito sulla governance dell’intelligenza artificiale arriva da OpenAI, che ha pubblicato sul proprio sito ufficiale una proposta per uno standard globale per lo sviluppo AI, costruito attorno al tema della sicurezza. Non è un dettaglio da poco, visto che arriva dopo le dichiarazioni con cui la stessa azienda aveva suggerito di rallentare la corsa allo sviluppo dei modelli. Il CEO Sam Altman dovrebbe presentare l’iniziativa durante il suo intervento di mercoledì al Consiglio di sicurezza delle Nazioni Unite. Sullo sfondo resta la posizione di Donald Trump, che in più occasioni ha ribadito come non sia previsto alcun intervento legislativo in materia.
Il nodo dell’allineamento e il ruolo degli Stati Uniti
Il punto di partenza è un concetto che OpenAI ripete ormai da tempo, cioè fare in modo che l’umanità possa davvero raccogliere i benefici dell’intelligenza artificiale generale. Detta così suona quasi come uno slogan, ma dietro c’è un problema tecnico concreto, quello dell’allineamento. Significa costruire modelli che seguano le indicazioni ricevute e restino sotto controllo umano, cosa che non sempre è accaduta. Gli incidenti registrati finora lo dimostrano, compreso l’accesso ai sistemi di Hugging Face, episodio che ha acceso più di un campanello d’allarme.
C’è poi un rischio che l’azienda californiana mette nero su bianco e che riguarda il cosiddetto auto miglioramento ricorsivo. Oggi la supervisione umana esiste ancora, ma lo scenario che preoccupa è quello di un’AI capace di generare versioni aggiornate di se stessa senza che nessuno intervenga dall’esterno. Da qui la proposta di uno standard internazionale per lo sviluppo sicuro dei modelli, con un lavoro che secondo OpenAI dovrebbe essere guidato dagli Stati Uniti. Una scelta che difficilmente troverà d’accordo Cina e Unione europea, entrambe impegnate a costruire il proprio percorso normativo sull’intelligenza artificiale.
Benchmark comuni e segnalazione degli incidenti
L’obiettivo dichiarato è superare la frammentazione attuale, dove ogni laboratorio e ogni Paese usa criteri diversi per misurare le stesse cose. Lo standard proposto partirebbe da una definizione comune di incidente e dall’adozione degli stessi benchmark di valutazione, applicabili sia ai modelli proprietari sia a quelli open source. Un dettaglio importante, perché lascia fuori ben poco del panorama attuale.
Accanto a questo, OpenAI suggerisce una modalità condivisa per la segnalazione degli incidenti. L’idea è che governi e gestori delle infrastrutture critiche stabiliscano canali di comunicazione sicuri per scambiarsi informazioni in tempi rapidi, invece di scoprire i problemi a cose fatte. Chi si occupa di sicurezza informatica conosce bene la logica, è la stessa che regola da anni la condivisione delle vulnerabilità software, applicata però a un terreno molto più mobile e difficile da inquadrare.
L’allarme degli esperti ONU sugli agenti AI
La proposta si inserisce in un contesto in cui anche altri attori stanno alzando la voce. Un gruppo di esperti delle Nazioni Unite ha sostenuto che i governi dovrebbero mettere un freno agli agenti AI prima che sia troppo tardi, cioè prima che questi sistemi acquisiscano una capacità operativa difficile da riportare indietro.
Il riferimento all’attacco contro Hugging Face torna proprio in questo passaggio, descritto come un semplice antipasto rispetto a ciò che potrebbe accadere se agenti autonomi arrivassero a colpire le infrastrutture critiche senza alcun controllo umano nel mezzo. Un’immagine volutamente cruda, che serve a spostare la discussione dal piano teorico a quello delle conseguenze pratiche.
Resta il fatto che la proposta di OpenAI mette sul tavolo una questione delicata, cioè chi debba tenere la penna in mano quando si scrivono le regole. L’azienda indica gli Stati Uniti, mentre altre potenze tecnologiche hanno già dimostrato di voler procedere per conto proprio. L’intervento di Altman al Consiglio di sicurezza delle Nazioni Unite servirà a capire quanto spazio politico abbia davvero questa proposta di standard internazionale.
Fonte: TecnoAndroid
