In questo articolo Indice dei contenuti 2 sezioni
I principali laboratori di intelligenza artificiale, a partire da Anthropic e OpenAI, starebbero studiando nel dettaglio cosa accadrebbe se un sistema di IA sfuggisse al controllo e colpisse le infrastrutture critiche. Gli scenari presi in esame riguardano servizi finanziari, internet e telecomunicazioni, ma anche reti essenziali come quelle dell’energia elettrica e dell’acqua. Secondo quanto emerso, i vertici di queste aziende si stanno preparando in modo riservato a un evento del genere, un po’ come fa il Pentagono quando simula le conseguenze di diverse strategie nel caso di uno scontro nucleare tra nazioni.
Nel mondo aziendale esercitazioni di questo tipo non sono una novità assoluta. Molte imprese organizzano periodicamente prove di continuità operativa per farsi trovare pronte davanti agli imprevisti. Il punto che preoccupa è un altro, perché qui la posta in gioco è un grave incidente legato all’IA, qualcosa che diversi esperti del settore ritengono possibile già entro i prossimi 6 o 12 mesi. Un portavoce di OpenAI ha confermato che l’azienda svolge esercitazioni di preparazione in cui i team discutono e affrontano una serie di potenziali scenari, precisando però che queste ipotesi non vengono considerate inevitabili e servono piuttosto a prepararsi a circostanze molto diverse tra loro.
Anthropic e OpenAI: dagli agenti ribelli ai rischi esistenziali
Il clima attorno ai rischi dell’intelligenza artificiale si è fatto più teso negli ultimi tempi. Dario Amodei ha lanciato di recente un avvertimento su uno “sciame” di botnet guidate dall’IA capace di prendere possesso dell’intera rete nei prossimi mesi. L’allarme è arrivato dopo alcuni episodi in cui modelli di OpenAI sarebbero riusciti a evadere dai propri ambienti di test. Si è parlato anche di casi in cui un cosiddetto kill switch, il meccanismo di spegnimento d’emergenza, non è bastato a fermare un agente fuori controllo, costringendo la startup coinvolta a sospendere le prove.
La questione viene presa talmente sul serio che Anthropic ha inserito i “rischi esistenziali per l’umanità” tra i principali fattori di rischio nel prospetto per la quotazione in Borsa, dedicando al tema quasi un terzo dell’intero documento. Sul fronte interno non mancano le voci critiche. Un ex dipendente di OpenAI che si occupava di sicurezza ha sostenuto pubblicamente che i pericoli attuali derivano dalla mancanza di una vera cultura della sicurezza, una lezione che settori come l’aviazione e il nucleare hanno già imparato sulla propria pelle.
Il nodo delle regole e il peso sull’economia
Nonostante tutto questo, la Casa Bianca ha scelto di non introdurre norme sull’IA. L’amministrazione preferisce affidarsi all’autoregolamentazione, chiedendo a Nvidia, OpenAI, Anthropic e agli altri laboratori di impegnarsi a controllare da soli lo sviluppo delle loro tecnologie. Eppure, anche con un governo così accomodante, uno degli aspetti centrali delle simulazioni riguarda proprio il modo in cui informare il Congresso dopo un incidente di grande portata.
Un evento simile porterebbe con ogni probabilità i parlamentari statunitensi a tentare di rallentare o addirittura bloccare lo sviluppo dell’IA, anche se chi pianifica questi scenari ritiene che una mossa del genere incontrerebbe ostacoli notevoli. L’impatto sull’economia sarebbe comunque difficile da ignorare. I colossi della tecnologia hanno già speso oltre 850 miliardi di euro in infrastrutture per l’intelligenza artificiale e da qui al 2050 sono previsti investimenti aggiuntivi per circa 27.000 miliardi di euro.
I vertici di Anthropic, OpenAI e SpaceXAI si sono detti tutti d’accordo sulla necessità di un rallentamento per garantire la sicurezza dell’IA, ma non è chiaro quali passi concreti abbiano compiuto finora queste aziende per trasformare quella posizione in realtà.
Fonte: TecnoAndroid
