In questo articolo Indice dei contenuti 2 sezioni
Anthropic ha sottoposto ai legislatori di Washington una bozza di legge federale che, se approvata, ridurrebbe in modo netto i casi in cui il governo statunitense può fermare un modello di intelligenza artificiale. La mossa ha un precedente preciso. Quest’estate l’amministrazione americana, appellandosi a ragioni di sicurezza nazionale, aveva imposto all’azienda di sospendere l’accesso a Claude Fable 5 e Mythos 5 per qualsiasi cittadino straniero, dentro o fuori dagli Stati Uniti, compresi i dipendenti stranieri della società stessa. Non avendo un sistema affidabile per verificare in tempo reale la nazionalità degli utenti, la compagnia aveva scelto la strada più drastica e aveva sospeso i due modelli per tutti, fino alla revoca dei controlli. La vicenda aveva fatto parecchio rumore e la proposta nasce proprio per evitare che uno stop del genere possa ripetersi.
Cosa prevede la proposta di Anthropic
Secondo il testo della bozza, Washington potrebbe bloccare i modelli IA più avanzati in circolazione soltanto davanti a un rischio prevedibile e imminente di danni superiori a circa 900 milioni di euro, oppure di oltre 50 tra morti e feriti gravi. Le minacce prese in considerazione sarebbero appena tre: la creazione o il rilascio di un’arma biologica, un modello che sfugge al controllo di chi lo ha sviluppato e un attacco informatico.
Il documento non si limita però a fissare dei paletti per le autorità. Agli sviluppatori verrebbe chiesto di dotarsi di framework di sicurezza, di pubblicare rapporti di trasparenza per ogni nuovo modello, di tutelare chi segnala irregolarità e di comunicare gli incidenti critici al Dipartimento del Commercio. A controllare che tutto venga rispettato ci penserebbero valutatori indipendenti registrati presso lo stesso dipartimento, incaricati di esaminare periodicamente aziende e modelli. I laboratori potrebbero anche pagarli, purché il compenso non dipenda dall’esito delle verifiche. Un rischio imminente fra quelli previsti andrebbe poi notificato entro 72 ore.
Il passaggio più delicato riguarda chi avrebbe davvero il potere di intervenire. Il Dipartimento del Commercio non potrebbe fermare un modello in autonomia ma dovrebbe chiedere un’ordinanza al tribunale federale del Distretto di Columbia. Nessun altro dipartimento, agenzia o funzionario federale avrebbe la facoltà di sospendere lo sviluppo, la distribuzione o l’uso interno di un sistema di intelligenza artificiale.
Il nodo delle leggi statali e le reazioni
C’è poi la questione del rapporto con i singoli Stati. La bozza di Anthropic prevarrebbe infatti su alcune norme statali, in particolare quelle sulla comunicazione pubblica dei rischi, sulle valutazioni indipendenti e sulla segnalazione degli incidenti critici. Si tratta di un tipo di proposta a cui i Democratici si sono già opposti in passato. E non manca una certa contraddizione con le posizioni espresse dalla stessa azienda appena qualche mese fa, visto che a giugno sosteneva che gli Stati dovessero mantenere piena autorità di legiferare in assenza di una legge federale solida.
Le reazioni sono decisamente divise. Charlie Bullock, dell’Institute for Law & AI, ha definito il testo “piuttosto ragionevole” e più avanzato rispetto a quanto fatto da altri laboratori, pur considerandolo più debole del FRONTIER Act. C’è però chi fa notare che nessuno degli incidenti segnalati finora sembra aver provocato danni oltre quella cifra o vittime su larga scala, quindi nessuno di essi avrebbe superato la soglia fissata dalla proposta.
Ben più duro il giudizio del legale Jay Shooster, che ha bollato la bozza come scandalosa e inaccettabile. Sulla stessa linea critica si colloca Matt Spence, in passato al Pentagono, secondo cui il testo impedirebbe di fatto al governo di agire contro quasi ogni rischio esistenziale imprevisto, limitandone i poteri ai soli ambiti informatico e biologico.
Fonte: TecnoAndroid