C’è un nutrito catalogo di film in cui l’intelligenza artificiale compare come minaccia per l’umanità. Basti pensare a 2001: Odissea nello spazio (1968), Ghost in the Shell (1995), Blade Runner (1982), Matrix (1999) o a produzioni più recenti come Ex Machina (2014) e la serie tv Westworld (2016). Tuttavia, nessuno di questi titoli ha influenzato l’immaginario collettivo e alimentato le nostre paure di una tecnologia talmente potente da sfuggire al controllo umano quanto The Terminator, il film di James Cameron uscito negli Stati Uniti il 26 ottobre 1984.
La nascita di un mito
A dimostrare l’impatto sconfinato di questa pellicola è la sola parola “Skynet”, divenuta sinonimo di un’intelligenza artificiale ribelle, e l’uso diffuso dell’espressione “Scenario Terminator” per descrivere un futuro ipotetico in cui le macchine prendono il sopravvento. Non solo: l’iconica immagine del T-800 (il cyborg interpretato da Arnold Schwarzenegger), ridotto a uno scheletro metallico dagli occhi rosso acceso, accompagna da decenni qualsiasi articolo che tratti dei rischi esistenziali legati all’AI.
E pensare che, al momento dell’uscita del film, in pochi avrebbero scommesso sul suo successo. James Cameron ne scrisse la sceneggiatura in gran fretta nel 1982, dopo essere stato licenziato dal set di Piranha paura, e temeva che The Terminator sarebbe stato schiacciato al botteghino dalla concorrenza del Dune di David Lynch e di 2010: l’anno del contatto (seguito passato quasi inosservato di 2001). La produttrice, Gale Ann Hurd, riuscì a raccogliere solo 6,4 milioni di dollari di budget e perfino lo stesso Schwarzenegger, reduce dal successo di Conan il barbaro, parlava del film come di “qualche film del ca**o che devo fare”.
Contro ogni pronostico, The Terminator si rivelò un trionfo, incassando 78,3 milioni di dollari e diventando uno dei film più redditizi, in proporzione al budget, di sempre. Da lì nacque una lunga serie di sequel (tra cui Terminator 2: Judgment Day, considerato uno dei migliori della saga), e soprattutto l’AI cinematografica assunse un nuovo volto: quello del micidiale T-800, che soppiantò persino HAL 9000 come simbolo dei pericoli delle macchine pensanti.
I paradossi e il multiverso
Nonostante la fama come film “sull’AI”, il primo Terminator in realtà dedica pochissimo spazio diretto all’argomento. L’intera trama ruota attorno a Sarah Connor, in fuga con l’aiuto di Kyle Reeves – un soldato proveniente dal futuro – dal letale T-800, inviato indietro nel tempo da Skynet per impedire la nascita di John Connor, destinato a diventare il leader della resistenza umana.
La pellicola è un adrenalinico film d’azione che sfiora appena alcuni temi profondi, come la contrapposizione tra destino e libero arbitrio (celebre la frase di John Connor: “Il destino non è scritto, ma è quello che ci creiamo con le nostre mani”). Attraverso questa dicotomia, The Terminator gioca con i più classici paradossi temporali, seppur con grande leggerezza.
Uno di questi è proprio la nascita di John Connor: Reeves torna dal futuro per proteggere Sarah, i due si innamorano e così scopriamo che Reeves è il padre di John Connor. Un paradosso logico che però non viene spiegato più di tanto nel film. E impallidisce di fronte a quello di Terminator 2: è infatti dai resti del Terminator inizialmente sconfitto (in particolare un braccio e un microchip) che lo scienziato della Cyberdyne, Miles Dyson, crea la tecnologia destinata a gettare le basi di Skynet.
Nella serie animata Terminator Zero, appena arrivata su Netflix, questi paradossi temporali vengono “risolti” attraverso l’ormai classica teoria del multiverso: ogni volta che si altera il passato, non si modifica il futuro, ma si genera una linea temporale alternativa. Un espediente narrativo che aggiunge nuove prospettive – e un pizzico di ordine – a una storia spesso intrisa di contraddizioni.
L’AI nel primo Terminator
A ben guardare, nel primo Terminator il nome Skynet viene pronunciato soltanto due volte, e le pochissime informazioni sul sistema ce le fornisce Reeves: “Skynet: una rete di computer della difesa. Nuovo. Potente. Collegato a tutto. Che gestiva tutto. Dicono che sia diventato intelligente, un nuovo tipo di intelligenza. Poi ha visto gli esseri umani come una minaccia, non solo quelli dall’altra parte. Ha deciso il nostro destino in una frazione di secondo: l’estinzione”.
Nonostante il poco spazio dedicato, Skynet è riuscito a instillare nelle persone la paura di un’AI dotata di autonomia e volontà distruttiva. Come sottolinea anche la BBC, “Skynet fu un prodotto della ‘seconda primavera dell’intelligenza artificiale’”. Quando Cameron scrisse la sceneggiatura, infatti, lo scienziato informatico Geoffrey Hinton stava rivalutando le reti neurali, ispirate al funzionamento dei neuroni umani, gettando così le basi per l’intelligenza delle macchine. Un processo culminato nel 2012 con la rete neurale AlexNet, progettata dallo stesso Hinton, capace di riconoscere il contenuto di un’immagine con un’accuratezza senza precedenti. Per questo suo lavoro pionieristico, Hinton ha conquistato il Nobel per la Fisica.
Nel Terminator cinematografico, i riferimenti a queste teorie emergono nel sequel: Terminator 2 ci rivela infatti che il chip del T-800 è basato su una rete neurale, e lo stesso Skynet funziona in modo analogo. “La mia CPU è una rete neurale, un computer che impara”, spiega il T-800. Informazioni frammentarie, ma sufficienti per comprendere che dietro la visionaria fantascienza di Cameron si celava almeno un seme di realtà scientifica.
Il “Giorno del Giudizio” e la duplice visione di Skynet
È proprio in Terminator 2 che il “Giorno del Giudizio” di Skynet si fa più concreto: “Il sistema va online il 4 agosto 1997. Le decisioni umane sono rimosse dalla difesa strategica. Skynet inizia a imparare a tasso esponenziale. Diventa autocosciente alle 2.14 del mattino del 29 agosto. In preda al panico, gli umani cercano di staccare l’interruttore”, spiega il T-800. Risultato? Skynet lancia missili nucleari contro la Russia, che risponde a sua volta, causando tre miliardi di vittime in sole 24 ore.
Curiosamente, tra il primo e il secondo film, l’origine della ribellione cambia leggermente: per Reeves, Skynet avrebbe deciso di sterminare l’umanità vedendola come minaccia; per il T-800, la reazione sarebbe avvenuta in nome dell’autoconservazione. In ogni caso, con queste storie – tra il 1984 e il 1991 – James Cameron ha scolpito nella nostra immaginazione la paura di un’apocalisse tecnologica.
Le armi autonome e il confine tra finzione e realtà
Al di là della finzione, oggi non c’è alcun sistema di intelligenza artificiale in procinto di diventare senziente o di ribellarsi come Skynet. Eppure, nei conflitti moderni vediamo già come i sistemi di deep learning stiano entrando in uso proprio in campo militare.
Nel conflitto in corso a Gaza, ad esempio, l’esercito israeliano sta utilizzando un sistema chiamato “The Gospel” per individuare obiettivi con una velocità impensabile fino a pochi anni fa. Analizzando informazioni provenienti da droni, comunicazioni intercettate e attività di sorveglianza, questo strumento fornisce all’esercito centinaia di “target” ogni giorno. Ciò solleva interrogativi preoccupanti sul cosiddetto automation bias, ovvero la tendenza degli esseri umani ad affidarsi ai risultati di un software anche quando l’istinto o la prudenza suggerirebbero di verificare ulteriormente.
Per questo motivo, alcuni critici hanno definito The Gospel una “fabbrica di omicidi di massa”, sottolineando i rischi di assegnare a un algoritmo decisioni di importanza vitale. Senza bisogno di evocare Skynet, esistono già “cedimenti” del fattore umano di fronte alle macchine. L’intelligenza artificiale, insomma, non deve diventare senziente per risultare pericolosa: basta che noi umani le deleghiamo troppi compiti critici.
Il monito di Terminator per il presente
È qui che Terminator ci offre un monito prezioso: la vera minaccia non è un’intelligenza artificiale dotata di coscienza, bensì il nostro affidamento spontaneo a sistemi che possono sfuggirci di mano. Se nel film il pericolo è rappresentato da un futuro governato da un’AI unica e centralizzata, nella realtà il rischio riguarda la progressiva cessione di potere decisionale alle macchine, in diversi settori, compreso quello militare.
Il messaggio che James Cameron ha lasciato in eredità è che l’essere umano debba sempre restare vigile, assumendosi la responsabilità delle proprie azioni e ponendo limiti all’autonomia dei sistemi automatici. Solo così potremo evitare che la fantasia distopica di un “Scenario Terminator” trovi un giorno terreno fertile nella nostra realtà.
