In questo articolo Indice dei contenuti 2 sezioni
Anthropic ha elaborato una proposta di legge destinata agli Stati Uniti che punta a contenere i rischi catastrofici legati all’intelligenza artificiale. Il cuore dell’iniziativa ruota attorno a una domanda tutt’altro che banale, ovvero chi dovrebbe avere il potere di fermare un modello AI prima che provochi conseguenze gravissime. Il dibattito su come arginare una crescita fuori controllo di queste tecnologie è aperto da tempo e oscilla tra chi guarda al fenomeno con scetticismo e chi invece tende all’allarmismo. Proprio per questo appare sempre più evidente che un’opinione condivisa sul da farsi ancora non esiste, e ogni nuova proposta finisce inevitabilmente per alimentare la discussione.
Il nodo dei modelli più avanzati
La questione riguarda soprattutto i modelli AI di fascia più alta, quelli capaci di eseguire operazioni complesse, di interagire con sistemi informatici e di prendere decisioni con un intervento umano piuttosto limitato. Non si parla quindi dei semplici assistenti usati ogni giorno per scrivere un messaggio o riassumere un documento, ma di strumenti in grado di agire con un buon margine di autonomia. È proprio su questo terreno che la società guidata da Dario Amodei ha deciso di muoversi, mettendo nero su bianco un testo pensato per il Congresso americano. I dettagli sono emersi grazie a un’indiscrezione e descrivono un approccio piuttosto concreto al problema.
L’idea di fondo è introdurre un meccanismo capace di impedire la distribuzione dei sistemi considerati particolarmente pericolosi. Il percorso immaginato da Anthropic passa attraverso verifiche indipendenti, quindi controlli affidati a soggetti esterni rispetto a chi sviluppa la tecnologia, e prevede anche un eventuale intervento della magistratura. In altre parole la decisione di bloccare un modello non resterebbe nelle mani della sola azienda che lo ha creato, ma potrebbe coinvolgere un giudice chiamato a valutare il caso. Una struttura di questo tipo sposta il baricentro della responsabilità e affida a figure terze un ruolo decisivo nei momenti più delicati.
Le soglie previste dalla proposta di legge
Uno degli aspetti più rilevanti della proposta di legge riguarda la scelta di fissare parametri precisi, così da non lasciare spazio a valutazioni troppo vaghe. Il blocco potrebbe essere richiesto quando esiste un rischio prevedibile e imminente di provocare la morte di oltre 50 persone. In alternativa scatterebbe di fronte alla possibilità di danni materiali superiori a circa 892 milioni di euro. Si tratta di soglie molto elevate, che delimitano il campo d’azione a scenari estremi piuttosto che all’uso quotidiano dell’intelligenza artificiale da parte di aziende e cittadini.
Anche le situazioni prese in esame sono ben circoscritte. Al primo posto compare lo sviluppo di armi biologiche, uno degli ambiti che più preoccupano quando si parla di tecnologie avanzate finite nelle mani sbagliate. Subito dopo arrivano gli attacchi informatici, un fronte in cui strumenti capaci di operare con poca supervisione umana rappresentano un tema particolarmente sensibile. Il terzo scenario indicato dal testo riguarda infine i sistemi AI in grado di sottrarsi ai controlli dei propri sviluppatori, cioè modelli che finiscono per sfuggire alla supervisione di chi li ha progettati e addestrati.
Fonte: TecnoAndroid