In questo articolo Indice dei contenuti 3 sezioni
Le grandi aziende dell’intelligenza artificiale danno ormai quasi per scontato che una catastrofe legata all’IA arriverà presto, probabilmente nel 2027, e si stanno già preparando a gestire il giorno dopo. Non passa settimana senza notizie di attacchi condotti con questi strumenti o di avvertimenti lanciati dai vertici del settore. Proprio in questi giorni OpenAI ha fermato l’addestramento dei suoi modelli perché erano sfuggiti al controllo, mentre Sam Altman ha ammesso che alcune conseguenze negative sono inevitabili. Con queste premesse la domanda non è più se ci sarà un grande disastro, ma quando.
Secondo alcune indiscrezioni, i colossi del comparto stanno simulando in privato cosa accadrà dopo un incidente di grandi proporzioni. Lo scenario più temuto è un cyberattacco capace di lasciare intere aree senza servizi finanziari, connessione internet, elettricità o acqua.
Il giorno D e le simulazioni di Anthropic e OpenAI
Due elementi colpiscono più di altri. Il primo è che questa eventuale catastrofe viene vista come quasi inevitabile. Il secondo riguarda i tempi, perché fonti anonime parlano di un orizzonte compreso tra 6 e 12 mesi, quindi proprio nel 2027. Per non farsi trovare impreparati, i vertici di Anthropic, OpenAI e di altre realtà del settore stanno pianificando scenari post disastro con un approccio che ricorda molto quello del Pentagono.
Le posizioni però non coincidono del tutto. Un portavoce di OpenAI ha confermato che l’azienda conduce esercitazioni per ogni evenienza, pur senza considerare il disastro inevitabile. Anthropic invece ha preferito non commentare. Tra le ipotesi simulate ci sono sciami di agenti che evadono da un ambiente di test, sul modello dell’attacco degli agenti di OpenAI a Hugging Face, oppure malintenzionati che trovano impieghi inattesi per i modelli già disponibili. Il lavoro più grosso comunque resta di tipo pedagogico e consiste nell’avvisare e formare il Congresso degli Stati Uniti.
Perché un attacco del genere cambierebbe tutto
Un’offensiva di questa portata contro un’infrastruttura critica più o meno globale porterebbe con sé una forte sfiducia verso la tecnologia e trasformerebbe i suoi leader quasi in cattivi. Sullo sfondo finirebbe sotto accusa anche la classe politica per non aver posto un freno. L’Unione Europea è stata pioniera nel regolamentare l’IA, eppure ha rinviato più volte le norme e ne ha ammorbidito i toni per non restare indietro. La società si ritrova così con una patata bollente tra le mani, fatta di sistemi sempre più capaci e di strumenti legislativi insufficienti per contenerne i rischi.
Non è un compito semplice. Serve saper distinguere il grano dalla pula e soprattutto avere le competenze per regolare senza soffocare. Gli Stati Uniti invece hanno un Congresso anziano e poco avvezzo alla tecnologia, oltre a un’economia fortemente legata all’infrastruttura dell’intelligenza artificiale. Sul tavolo ci sono diverse proposte, come vietare la superintelligenza secondo l’idea di Bernie Sanders, mettere in pausa lo sviluppo dell’IA avanzata o imporre un interruttore di emergenza.
Il nemico è già in casa
Il nodo di fondo è che esistono molti modelli a pesi aperti che chiunque può scaricare e usare per fare danni, e su questo non si torna indietro. Di per sé non è nemmeno un male, perché alzare una barriera comporterebbe un altro pericolo, cioè concentrare un potere enorme nelle mani di pochi.
Quanto alle soluzioni, lo spegnimento d’emergenza di tutti i sistemi non sembra praticabile e, come spiega Bill Gates, implicherebbe che qualcosa di grave è già successo. Il cofondatore di Microsoft ritiene insufficiente anche l’autoregolamentazione, perché non si fida della capacità delle aziende di tenere sotto controllo i rischi. Secondo alcuni esperti di sicurezza informatica la strada più sensata è usare l’IA per combattere l’IA malevola.
Con le elezioni di metà mandato ormai vicine, i dirigenti delle grandi società del settore sanno che per ora non arriverà nessuna nuova legge. L’obiettivo è quindi farsi trovare ben posizionati quando succederà, avendo già piantato il proprio seme in vista delle future regole e politiche. Secondo le loro previsioni queste dovrebbero arrivare prima delle presidenziali del 2028.
Fonte: TecnoAndroid
