Anthropic ha messo nero su bianco una serie di proposte rivolte ai governi per gestire quelli che definisce rischi catastrofici legati ai modelli di intelligenza artificiale più avanzati. Il documento si chiama Advanced AI Framework e ruota attorno a un’idea piuttosto netta: servono regole obbligatorie, non semplici raccomandazioni lasciate alla buona volontà di chi sviluppa questi sistemi. Il CEO Dario Amodei lo dice chiaramente, una valutazione vincolante dovrebbe diventare la norma. Sulla stessa lunghezza d’onda, va detto, si era già espressa anche OpenAI. C’è poi un secondo fronte, l’Economic Policy Framework, che affronta una questione diversa ma altrettanto delicata: cosa succede al lavoro quando l’AI inizia a fare cose che prima facevano le persone.
Perché certi modelli AI preoccupano
Il punto di partenza è concreto. Claude Mythos, uno dei modelli dell’azienda, è in grado di scovare migliaia di vulnerabilità nei software e perfino scrivere il codice degli exploit per sfruttarle. Esiste una versione più blindata, Claude Fable 5, con restrizioni maggiori. Ma il ragionamento resta: strumenti così potenti, finiti nelle mani sbagliate, diventano un problema serio. Per questo Anthropic sostiene che i governi dovrebbero introdurre leggi con obblighi precisi per gli sviluppatori e sanzioni pesanti in caso di violazione, fino al blocco della distribuzione o al ritiro dal mercato di modelli già rilasciati.
Quali sono i pericoli che l’azienda californiana mette nella categoria dei rischi catastrofici? Quattro, in sostanza. Quelli biologici, quelli cyber, la perdita di controllo e lo sviluppo automatizzato. I sistemi più potenti, rilasciati senza protezioni adeguate, potrebbero essere sfruttati per mettere a punto armi biologiche o per colpire infrastrutture critiche con attacchi informatici. A questo si aggiungono i pericoli legati a decisioni prese in autonomia dalle macchine e quelli della ricerca automatizzata, che rischia di amplificare tutti gli altri.
Valutazioni, controlli indipendenti e nuove agenzie
La proposta entra anche nel merito di come tutto questo dovrebbe funzionare. Gli sviluppatori, secondo Anthropic, dovrebbero effettuare una valutazione dei rischi e pubblicarne i risultati, così da garantire più trasparenza. E queste valutazioni non dovrebbero restare un affare interno: meglio affidarne l’esame ad aziende indipendenti. Si aggiungono poi obblighi di sicurezza durante la fase di sviluppo dei modelli, pensati per evitare che vengano presi di mira da attacchi informatici.
Il tassello finale riguarda la vigilanza. L’idea è istituire agenzie governative che controllino il rispetto degli obblighi e che, quando serve, possano imporre interventi correttivi per eliminare i rischi. In caso di violazioni le sanzioni potrebbero arrivare fino al ban vero e proprio dei modelli AI.
L’impatto dell’AI sul lavoro
Sul versante economico il discorso cambia tono. L’intelligenza artificiale sta entrando in sempre più settori, accelera i progressi scientifici, aumenta la produttività. Tutto bello, almeno fino a quando non si guarda al rovescio della medaglia: parecchie attività oggi svolte da persone finiranno per essere gestite dalle macchine.
L’Economic Policy Framework prova a immaginare alcune risposte, calibrandole su tre diversi scenari a seconda di quanto salirà la disoccupazione. Tra le ipotesi sul tavolo ci sono il sostegno economico alle famiglie, incentivi rivolti alle aziende e una redistribuzione ai cittadini dei profitti generati dalle stesse aziende che sviluppano AI. Un’opzione, quest’ultima, che era già stata ventilata da Donald Trump.