In questo articolo Indice dei contenuti 2 sezioni
Quattro agenzie federali statunitensi sono finite in tribunale perché nessuno, fuori da una ristretta cerchia, sa come funzionino davvero i test di sicurezza sull’intelligenza artificiale che l’amministrazione Trump applica ai modelli di frontiera prima che vengano rilasciati al pubblico. A muoversi è Protect Democracy, organizzazione no profit e dichiaratamente bipartisan, che parla di un framework segreto di cui non sono stati diffusi quasi dettagli, né alla stampa né al Congresso. Non si conoscono i criteri, non si conoscono le aziende coinvolte, non si conosce nemmeno su quale base legale poggi l’intera operazione. Il punto sollevato nella causa è tutt’altro che astratto. Decidere quali modelli possono uscire e quali no, secondo il gruppo, potrebbe essere la questione politica più rilevante di questa Casa Bianca. E almeno un’azienda, OpenAI, avrebbe negoziato un accordo privato con il governo federale per limitare la distribuzione dei propri modelli più avanzati a partner selezionati dall’esecutivo. Chi siano questi soggetti, e con quale metro siano stati scelti, resta materia riservata.
Cosa chiede la causa contro le agenzie federali
La richiesta depositata punta a un ordine del giudice che imponga la pubblicazione di tutto il materiale non classificato entro il 30 settembre. Nel pacchetto rientrano il testo del framework, i termini di partecipazione, l’identità dei partecipanti e i criteri con cui l’accesso ai modelli di frontiera viene concesso oppure negato. In aggiunta, viene chiesta un’ingiunzione che impedisca ai funzionari di trattenere documenti che classificati non sono.
Il sospetto, messo nero su bianco, è che il meccanismo possa prestarsi ad abusi. Funzionari dell’Office of the National Cyber Director, dell’Office of Science and Technology Policy, del Dipartimento del Tesoro e del Dipartimento del Commercio potrebbero favorire tempi rapidi per le aziende gradite alla Casa Bianca. Sul versante opposto, esiste già un precedente concreto, con un giudice che ha stabilito come illegittima la decisione di Trump di mettere Anthropic in lista nera perché considerata troppo woke.
C’è poi un aspetto pratico che riguarda chiunque usi questi strumenti. Quando emerge una vulnerabilità nel mondo reale, e il caso del modello di OpenAI che ha violato Hugging Face è l’esempio più recente, nessuno può sapere se il problema derivi da una revisione mai completata, da test obsoleti o da controlli semplicemente saltati.
GOLD EAGLE, il Congresso e la scadenza che pesa
L’accelerazione dell’amministrazione risale a quando il governo aveva segnalato il modello Mythos 5 di Anthropic come troppo pericoloso per essere rilasciato. Da lì la corsa ad ampliare le collaborazioni industriali, così che i team del Center for AI Standards and Innovation potessero esaminare modelli prerilascio con protezioni ridotte o rimosse, per valutarne capacità e rischi legati alla sicurezza nazionale. A luglio è arrivato GOLD EAGLE, una struttura di raccolta e smistamento che si appoggia a partner industriali per segnalare vulnerabilità informatiche in vari settori. Anche qui, nessun nome, nessun termine contrattuale, nessuna base giuridica resa nota.
Il 3 agosto la Casa Bianca ha annunciato di aver completato il framework volontario per la revisione dei modelli prima della distribuzione pubblica. Alcune parti del processo sono effettivamente classificate, in particolare un sistema di benchmarking riservato che serve a stabilire quando un modello vada considerato di frontiera. Il framework in sé, però, classificato non è. Un portavoce ha comunque liquidato la questione spiegando che il fatto che una cosa non sia classificata non significa che verrà diffusa a tutti.
Manca perfino una definizione di modello di frontiera coperto. Troppo stretta, e sistemi rischiosi passerebbero sotto il radar. Troppo larga, e agenzie già assottigliate dai tagli del DOGE finirebbero per non riuscire a valutare nulla come si deve. Sul fronte parlamentare la partita si intreccia con il rinnovo del Cybersecurity Information Sharing Act del 2015, che a quanto risulta è l’unica copertura legale che permette alle aziende di condividere informazioni con il governo attraverso GOLD EAGLE. Camera e Senato non concordano sulla scadenza del voto, che potrebbe arrivare al più presto il 30 settembre e al più tardi l’11 dicembre. Deana El-Mallawany, direttrice dei programmi e consulente legale di Protect Democracy, ha spiegato che né il gruppo né il Congresso dispongono di informazioni sufficienti per decidere in modo consapevole. Un alto funzionario, al lancio del programma, aveva ammesso pubblicamente che senza quella riautorizzazione l’iniziativa sarebbe fondamentalmente compromessa.
