In questo articolo Indice dei contenuti 2 sezioni
Un kill switch capace di spegnere i modelli di intelligenza artificiale quando qualcosa va storto: è questa la proposta più chiacchierata contenuta nell’ordine esecutivo firmato dal Governatore della California Gavin Newsom, annunciato peraltro in risposta a un post piuttosto sopra le righe di Donald Trump. L’obiettivo dichiarato è accelerare l’arrivo di una supervisione esterna sui rischi legati ai sistemi AI, una linea che, va detto, era stata suggerita anche da nomi come Dario Amodei, Sam Altman e Satya Nadella.
Il contesto non nasce dal nulla. La California si era già mossa sul piano legislativo, e l’ordine esecutivo arriva più che altro a dare una spinta a un impianto normativo che rischiava di restare sulla carta. Tra incidenti recenti, richieste di rallentare la corsa allo sviluppo arrivate da alcune aziende del settore e un governo federale sostanzialmente fermo, lo Stato ha scelto di muoversi per conto proprio.
Valutazioni indipendenti e un registro per i revisori
Newsom aveva già firmato due provvedimenti. Il primo definisce un quadro di riferimento per le organizzazioni indipendenti chiamate a valutare i sistemi di intelligenza artificiale sotto il profilo della sicurezza e del rischio. Il secondo istituisce un registro statale dei revisori AI, cioè le figure incaricate di controllare che i sistemi rispettino la normativa dello Stato, con standard precisi su indipendenza, trasparenza e integrità.
L’ordine esecutivo chiede ora alla Government Operations Agency di accelerare l’applicazione di quelle leggi e di mettere insieme un gruppo di esperti di livello internazionale. Il compito è chiaro e il tempo poco: entro due mesi dovranno arrivare proposte concrete per rafforzare le regole sulla sicurezza dell’intelligenza artificiale.
Sul tavolo ci sono almeno quattro obblighi. Le aziende che sviluppano sistemi AI dovranno ospitare in pianta stabile, dentro i propri laboratori, un’organizzazione indipendente incaricata di condurre audit e valutazioni periodiche. I quadri di riferimento sulla sicurezza, i report sulla trasparenza e le valutazioni dei rischi che le aziende leader devono già depositare secondo la normativa statale dovranno essere verificati da un organismo indipendente, secondo standard giudicati adeguati. Poi c’è appunto il kill switch, che le società dovranno realizzare e la cui efficacia sarà controllata in modo continuativo da soggetti terzi. Infine andranno aggiornate le definizioni di incidente critico per la sicurezza, includendo i casi di perdita di controllo, come l’attacco contro Hugging Face.
Perché in molti dubitano che l’interruttore funzioni
L’idea, nella teoria, è semplice: se un’azienda perde il controllo di un modello o di un agente, si preme il pulsante e tutto si ferma. Nella pratica diversi esperti storcono il naso, e le obiezioni sono tecniche prima ancora che filosofiche. I sistemi AI girano distribuiti su server diversi, quindi staccare la spina a una singola macchina non produce alcun effetto reale.
C’è poi un secondo problema, meno intuitivo. Un sistema dotato di un interruttore di emergenza diventa potenzialmente più esposto agli attacchi informatici, perché quel meccanismo è di fatto una porta in più da presidiare. Chi riesce a raggiungerla può usarla contro chi l’ha costruita.
Il rischio maggiore, però, riguarda uno scenario diverso. Una superintelligenza potrebbe duplicare se stessa su altre infrastrutture e lasciare istruzioni a una schiera di agenti AI con un solo compito, ovvero trovare il modo di smantellare quell’interruttore. In quel caso, una volta perso davvero il controllo, le probabilità che qualcuno riesca a spegnere il sistema si ridurrebbero a zero.
La California, intanto, tira dritto. L’ordine esecutivo fissa la scadenza dei due mesi per le proposte del gruppo di esperti, e da lì passerà la trasformazione delle indicazioni in regole operative per le aziende che sviluppano i modelli più avanzati sul territorio statale.
Fonte: TecnoAndroid
