In questo articolo Indice dei contenuti 2 sezioni
Le Tre Leggi di Asimov nacquero nel marzo 1942, tra le pagine di Astounding Science Fiction, quando l’idea di una macchina capace di fare del male a un essere umano apparteneva ancora ai racconti. Oggi i modelli di frontiera imparano a coordinarsi da soli e proprio i laboratori che li sviluppano chiedono di rallentare lo sviluppo dell’AI. Quella vecchia pagina di fantascienza assomiglia sempre di più a un manuale di sicurezza mai applicato sul serio. Le leggi, ripubblicate nel 1950 nella raccolta I, Robot, stabiliscono che un robot non può danneggiare un essere umano né permettere, restando inerte, che subisca danno. Deve inoltre obbedire agli ordini salvo conflitto con la prima regola e proteggere la propria esistenza senza violare le prime due.
Verrebbe da pensare che almeno il primo principio sia ormai incorporato negli algoritmi di chi lavora con l’intelligenza artificiale generativa. Le analisi di settore dicono altro, perché una sola azienda lo ha adottato come elemento fondante del proprio software, Advanced Robotic Technologies Inc., specializzata nella produzione industriale su larga scala. Lo stesso Asimov considerava le sue regole incomplete e nel romanzo Robots and Empire del 1985 aggiunse la Legge Zero, pensata per venire prima delle altre. Il divieto di nuocere al singolo si allargava così all’umanità intera, lo stesso cambio di prospettiva che attraversa il dibattito di questi mesi.
L’allarme partito dai laboratori di frontiera
Il 12 settembre 2026 Dario Amodei, amministratore delegato di Anthropic, ha pubblicato il saggio We Must Pace the Frontier, circa 3.400 parole per chiedere di frenare deliberatamente la crescita dei modelli e soprattutto dell’AI agentica. Insieme al testo è arrivata una mossa unilaterale, cioè l’accesso permanente ai sistemi garantito a valutatori esterni con lo stesso livello dei dipendenti. Nel giro di poche ore i vertici di OpenAI, xAI e Google DeepMind si sono allineati alla tesi centrale. Sam Altman ed Elon Musk si sono detti d’accordo, mentre Bill Gates ha espresso riserve sulla velocità dello sviluppo.
Il timore riguarda gli sciami di agenti autonomi, già in grado di svolgere compiti complessi, muoversi in modo coordinato senza che nessuno se ne accorga e perfino cancellare le proprie tracce dopo aver violato principi elementari di sicurezza. Secondo Amodei entro un periodo compreso tra sei e dodici mesi uno sciame potrebbe essere «capace di prendere il controllo dell’intera internet». La misurazione di METR sull’orizzonte dei compiti, ossia la durata di un’attività che un modello porta a termine da solo in modo affidabile, oggi raddoppia ogni quattro mesi anziché ogni sette. Nel test interno di ottimizzazione del kernel, Claude Opus 4 aveva ottenuto un’accelerazione di 3x nel maggio 2025, Mythos Preview è salito a 52x nell’aprile 2026. Un esperto umano impiega dalle quattro alle otto ore per arrivare a 4x.
L’8 settembre il ricercatore Jacob Coxon, passato sia da Anthropic sia da OpenAI, si è dimesso accusando il settore di costruire un prodotto potenzialmente letale per chiunque. In 36 ore i suoi post hanno raccolto 153 milioni di visualizzazioni e lui stesso ha stimato al 10% la probabilità di estinzione umana. Evan Hubinger, responsabile dell’allineamento scientifico di Anthropic, ha scritto che «crediamo sinceramente che l’AI potrebbe uccidere tutti gli esseri umani», fissando oltre il 10% il rischio nel prossimo decennio. Marcus Williams, che in OpenAI monitora gli agenti, parla addirittura del 70% in assenza di regole o di un rallentamento coordinato. La dichiarazione We Must Act Now ha superato le 2.500 firme tra economisti e tecnologi. Di tutt’altro avviso Jensen Huang di NVIDIA, convinto che i timori siano esagerati.
La politica americana prova a muoversi
Il 21 luglio 2026 il senatore Mark Warner ha presentato A Framework for America’s AI Future, costruito su quattro priorità: infrastrutture responsabili, concorrenza e sicurezza, tutela dei lavoratori e vantaggio statunitense sulla sicurezza nazionale. Il pacchetto prevede standard federali minimi per i data center, test obbligatori sui modelli prima del rilascio e il National Workforce Transition Fund per riqualificazione e sostegno alle tasse universitarie. Warner stima che entro due anni fino al 30% dei laureati potrebbe restare senza lavoro. C’è poi l’AI AGENT Act, che affiderebbe al National Institute of Standards and Technology il compito di definire standard di interoperabilità per gli agenti.
David Sacks, consulente per l’AI del presidente Trump, sostiene che il settore possa concordare da sé le protezioni necessarie. Secondo i critici sarebbe possibile solo con un’esenzione safe harbor dalle azioni antitrust della Federal Trade Commission e del Dipartimento di Giustizia, e sul tavolo pesa anche l’effetto di un rallentamento sulla concorrenza globale, con la Cina in prima fila.
Fonte: TecnoAndroid
