CAISI

La proposta di OpenAI sui nuovi modelli AI mette sul tavolo una questione spinosa: chi deve controllare i sistemi di intelligenza artificiale prima che arrivino al pubblico, e soprattutto, questo controllo deve essere una scelta libera o un obbligo? Mentre Donald Trump ha firmato un ordine esecutivo che lascia alle aziende la facoltà di sottoporre i propri sistemi a verifica, OpenAI spinge in direzione opposta. Vuole regole più stringenti, e le vuole affidate a chi conosce davvero la materia. Due visioni che non collimano Il punto di partenza è l'ordine firmato da Trump, che prevede un controllo preliminare facoltativo dei nuovi sistemi da parte della NSA, la National Security Agency. In pratica, le aziende possono chiedere una valutazione fino a 30 giorni prima del lancio pubblico. La NSA, da parte sua, dovrà accertare che non ci siano rischi per la sicurezza nazionale né per le infrastrutture critiche. Per testare le capacità cyber dei modelli verrà usato un benchmark messo a punto da diverse agenzie federali. Niente obbligo, dunque, contrariamente a quanto si era ipotizzato all'inizio di maggio. Sam Altman, amministratore delegato di OpenAI, ha incontrato alcuni funzionari del governo alla Casa Bianca. Difficile immaginare che non si sia parlato proprio di questo provvedimento. E la posizione dell'azienda è netta: il controllo dovrebbe essere obbligatorio, e a occuparsene dovrebbe essere il CAISI, il Center for AI Standards and Innovation. Il motivo? A differenza della NSA, il CAISI possiede le competenze tecniche necessarie per valutare davvero questi sistemi. Il nodo dell'auto-miglioramento ricorsivo Non si tratta solo di una preferenza burocratica. OpenAI ha pubblicato un documento in cui spiega le sue ragioni, e c'è un dettaglio che pesa più di altri. Aziende come OpenAI, Anthropic, Google, Microsoft e xAI condividono già le informazioni sui propri sistemi con il CAISI. Affidare a quell'ente la valutazione, quindi, sembra la mossa più logica e meno dispendiosa. Nel documento emerge anche un rischio che viene definito imminente, lo stesso che ha sollevato pure Anthropic. Parliamo dell'auto-miglioramento ricorsivo, un meccanismo in cui i sistemi di intelligenza artificiale arrivano a scrivere in autonomia il codice dei modelli e a progettare le loro versioni successive. Un'eventualità che fa drizzare le antenne, perché solleva una domanda scomoda: cosa succede se gli esseri umani perdono il controllo? Secondo OpenAI, soltanto il CAISI ha la possibilità di valutare con la dovuta urgenza la presenza di protezioni adeguate contro questo scenario. L'ordine esecutivo, intanto, fissa una scadenza precisa: i benchmark dovranno essere sviluppati entro 60 giorni. Tradotto, nei prossimi due mesi i dirigenti di OpenAI e i funzionari della Casa Bianca torneranno quasi certamente a sedersi allo stesso tavolo per discutere di come misurare e contenere i rischi legati a questi sistemi.

CAISI

CAISI, si dimette Chris Fall: terzo AI czar in fuga dall’agenzia

OpenAI sfida Trump sui controlli AI: vuole verifiche obbligatorie