In questo articolo Indice dei contenuti 3 sezioni
Ogni volta che qualcuno annuncia che l’intelligenza artificiale ci porterà all’estinzione, la sensazione è di aver già sentito quella frase. Ed è vero. “Serve regolare l’intelligenza artificiale prima che diventi un pericolo per l’umanità” sembra uscita dalla lettera pubblicata da Dario Amodei pochi giorni fa, invece la pronunciò Elon Musk nel 2017, quando ChatGPT non esisteva, Claude nemmeno, e nessuno dei modelli che usiamo oggi era neppure immaginabile fuori dai laboratori. L’idea che la macchina sfugga di mano e finisca per minacciare la nostra sopravvivenza ha più di vent’anni alle spalle.
I credenti dell’AI doom lanciano avvertimenti praticamente identici da oltre un decennio. Cambia il tono, cambia il pubblico, ma la sostanza resta la stessa. Prima passavano quasi inosservati, oggi riempiono le prime pagine.
Intelligenza artificiale: dove nasce il movimento doomer
Il movimento per la sicurezza dell’IA è nato molto prima di Anthropic e OpenAI. Le prime tracce si trovano nella fondazione del MIRI, sigla di Machine Intelligence Research Institute, nel 2000, anche se solo dal 2005 l’attenzione si è spostata sui rischi esistenziali legati alle macchine intelligenti.
Nel 2009 uno dei cofondatori del MIRI, Eliezer Yudkowsky, contribuisce a far nascere LessWrong, una comunità online in cui una delle ossessioni ricorrenti era la minaccia della singolarità tecnologica. Lì convivevano il transumanesimo, cioè l’idea di migliorare l’essere umano attraverso la tecnologia, e l’altruismo efficace, la corrente che prova a misurare con strumenti quantitativi quali azioni producano il maggior bene possibile. Dall’incrocio di queste due visioni esce una tesi molto precisa: l’intelligenza artificiale supererà inevitabilmente l’uomo e, se non viene allineata ai nostri obiettivi, diventerà una minaccia per la specie.
Queste idee non sono rimaste confinate nei forum. Le élite tecnologiche hanno iniziato a finanziarle con cifre importanti. Nel 2015 Elon Musk destina circa 9 milioni di euro in borse di studio per formare ricercatori capaci di costruire una tecnologia sicura. Nello stesso anno firma un manifesto insieme a Demis Hassabis di DeepMind, Geoffrey Hinton, Yann LeCun, Ilya Sutskever, Steve Wozniak e perfino Stephen Hawking. Il testo, pubblicato dal Future of Life Institute, chiedeva più ricerca sulla sicurezza e sosteneva che “i nostri sistemi di intelligenza artificiale devono fare ciò che vogliamo che facciano”. Anche Bill Gates si era inserito nella discussione con toni misurati: prima le macchine faranno molti lavori al posto nostro senza essere super intelligenti, poi, qualche decennio dopo, diventeranno abbastanza potenti da preoccupare.
Il catastrofismo esploso dopo ChatGPT
Dopo quella stagione arriva un periodo tranquillo, poi il 2023 riaccende tutto. Con GPT 4 appena uscito e lo sviluppo in piena ebollizione, arrivano due lettere aperte. La prima, sempre targata Future of Life, chiedeva di fermare per almeno sei mesi l’addestramento di nuovi modelli, firmata tra gli altri da Wozniak, Musk, Jaan Tallinn e Max Tegmark. A maggio la seconda, diffusa dalla ong Center for AI Safety, introduce la parola che cambia il registro: estinzione. “Mitigare il rischio di estinzione dovuto all’IA dovrebbe essere una priorità mondiale, insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare”. Tra i firmatari Geoffrey Hinton, Dario Amodei, Demis Hassabis e persino Sam Altman.
Nel 2025 Yudkowsky e Nate Soares, fondatore e attuale presidente del MIRI, pubblicano un libro il cui titolo dice già tutto: se qualcuno la costruisce, moriremo tutti.
Il 10% che ha riacceso la polemica
La frase che ha infiammato questi giorni non è la più estrema mai sentita, ma arriva da una posizione scomoda. Evan Hubinger, attuale responsabile dell’allineamento di Anthropic, parla di un 10% di probabilità che l’IA spazzi via l’umanità. Non è un ex dipendente risentito, è la persona che si occupa di rendere sicuri i modelli di frontiera di uno dei due laboratori più avanzati.
Fonte: TecnoAndroid
