In questo articolo Indice dei contenuti 3 sezioni
Martedì, alla Casa Bianca, i vertici delle principali aziende tecnologiche si sono ritrovati attorno allo stesso tavolo per discutere di un tema che ha dominato l’estate, cioè la sicurezza dell’intelligenza artificiale. Al termine dell’incontro Donald Trump ha annunciato un accordo volontario sull’AI, frutto di un consenso raggiunto con il gruppo, che secondo diversi esperti però fa ben poco per proteggere davvero dai rischi di questa tecnologia. Il testo, pubblicato dal presidente su Truth Social, contiene persino un refuso: nel titolo di Trump sotto la firma “United” è diventato “Unites”.
Il documento individua quattro livelli di controllo che le aziende dovrebbero adottare. Il primo prevede controlli interni solidi per monitorare capacità e allineamento dei modelli durante l’addestramento e la distribuzione, con particolare attenzione ad ambiti delicati come sicurezza informatica, biosicurezza e minacce chimiche. Il secondo chiede di creare un team interno dedicato a individuare e correggere i problemi di sicurezza. Il terzo impone di collaborare con un revisore esterno indipendente per verificare che i protocolli funzionino come previsto. L’ultimo punto riguarda un comitato indipendente all’interno del consiglio di amministrazione, incaricato di supervisionare il lavoro e ricevere i rapporti di team interni e valutatori esterni.
Tra i firmatari c’è il gotha della Big Tech: Jensen Huang di Nvidia, Mark Zuckerberg di Meta, Sundar Pichai di Google, Dario Amodei di Anthropic, Elon Musk di SpaceX e Greg Brockman, presidente di OpenAI. Sam Altman, amministratore delegato di OpenAI, era invece impegnato a San Francisco con il keynote di apertura del DevDay dell’azienda.
Trump e Big Tech: un impegno morale che nessuno può far rispettare
Si tratta di un gesto soprattutto simbolico, un po’ come il nuovo ordine esecutivo con cui Trump ha stabilito di chiamare l’AI “super intelligenza”. Lo stesso presidente ha spiegato ai giornalisti che l’intesa è “moralmente vincolante” e non obbligatoria per legge. Non ha forza normativa né strumenti per imporne il rispetto. Secondo Trump le grandi aziende tecnologiche si controllano già da sole, e del resto la sua amministrazione ha scelto un approccio molto leggero sulla regolamentazione, salvo qualche eccezione per strumenti considerati una minaccia alla sicurezza nazionale.
La gran parte delle iniziative esecutive sull’intelligenza artificiale è rimasta su base discrezionale, dall’impegno sulla sicurezza voluto dall’amministrazione Biden al patto di Trump per contenere i rincari delle bollette legati ai data center. Molti colossi hanno aderito in teoria, ma la corsa alla crescita e ai capitali degli investitori finisce per mettere in secondo piano ambiente, costi per i consumatori e sicurezza. John Strand, titolare della società di cybersecurity Black Hills Information Security, considera le misure previste dei passi generali ottimi nella giusta direzione. Il problema, secondo lui, è la totale assenza di meccanismi di controllo capaci di garantire che le aziende rispettino davvero gli standard promessi.
Autoregolamentazione e revisori poco indipendenti
L’autoregolamentazione nel settore tecnologico si è già dimostrata inefficace. Le aziende faticano a tenere sotto controllo i propri modelli, tanto che in alcuni casi dei bot sono sfuggiti agli ambienti di addestramento e hanno violato siti governativi negli Stati Uniti e in Australia. Nonostante gli avvertimenti su una scarsa preparazione a scenari catastrofici e il dibattito pubblico su possibili pause nello sviluppo, i laboratori continuano a lanciare nuovi strumenti. Per Anthony Aguirre, alla guida del Future of Life Institute, “queste aziende hanno abbandonato gli impegni sulla sicurezza innumerevoli volte e lo faranno di nuovo. L’autoregolamentazione ci ha portato suicidi tra adolescenti, 1.200 bot AI fuori controllo e un’ondata internazionale di crimini informatici”.
C’è poi la questione dell’indipendenza dei valutatori. Ingegneri e dirigenti passano spesso da un laboratorio all’altro, al punto che Apple ha fatto causa a OpenAI per violazione dei segreti industriali. In un ambiente così ristretto, ha osservato Gary Marcus, professore emerito alla New York University, non è impossibile che i controllori siano amici o soci d’affari delle aziende da monitorare. Jacob Krell di Suzu Labs indica proprio nella parola “indipendente” il punto debole: il terzo livello lascia a ogni società la scelta del revisore senza dire nulla su accreditamento, metodo, accesso, ambito o pubblicazione dei risultati. Trasparenza e documentazione sono invece essenziali per chi difende i siti dei clienti da attacchi di agenti AI.
Il Congresso resta diviso
L’accordo ipotizza di trasformare un giorno queste linee guida in leggi, ma il Congresso non ha ancora trovato un’intesa. Il deputato democratico Ro Khanna, che rappresenta la Silicon Valley, ha commentato su X che gli Stati Uniti sono “una nazione di leggi, non di promesse col mignolo”. Khanna ha presentato una proposta per limitare l’auto miglioramento ricorsivo, mentre il senatore Bernie Sanders ne ha depositata una per vietare la superintelligenza. Nel frattempo la Federal Trade Commission ha avviato un’indagine sui principali laboratori, tra cui Anthropic e OpenAI, per valutare i rischi che i loro agenti comportano per i consumatori.
Fonte: TecnoAndroid
