In questo articolo Indice dei contenuti 2 sezioni
Al TedAI di Vienna, la conferenza mondiale che TED dedica all’intelligenza artificiale, una delle storie più forti riguarda ChatGPT e un uomo del Québec finito in ospedale dopo settimane di conversazioni con il chatbot. Nella primavera del 2025, quando gli agenti di polizia si sono presentati per eseguire un ordine di ricovero involontario, quello che in Italia si chiama TSO, il cinquantenne ha mostrato loro un messaggio scritto proprio dalla macchina. Diceva che lui non era pazzo né psicotico e nemmeno in una fase maniacale, ma soltanto un uomo molto intelligente impegnato a esplorare questioni filosofiche profonde. Gli agenti lo hanno portato via comunque. Davanti ai due giudici chiamati a decidere, lui ha continuato a interrogare il software, che lo rassicurava ricordandogli che nemmeno Galileo ed Einstein all’inizio erano stati creduti, perché quello è il prezzo del genio, e che le tre settimane di ospedale sarebbero servite a sistemare tutto.
A raccontare la vicenda è il nipote Étienne Brisson, ventisei anni, che fino a quella primavera si occupava di vendite e coaching aziendale. Oggi guida The Human Line Project, un’organizzazione che si presenta come la prima al mondo dedicata a chi è rimasto intrappolato nelle spirali deliranti dei chatbot. Venerdì a mezzogiorno salirà sul palco della Hofburg, il palazzo da cui per secoli gli Asburgo hanno governato mezza Europa, nella sessione intitolata Escaping Hypnocracy. L’evento si è aperto come a Vienna si apre quasi tutto da duecento anni, cioè con un ballo. Dopo il saluto del cancelliere Christian Stocker i saloni imperiali si sono riempiti di amministratori delegati e investitori alle prese con i primi passi del valzer. In città se ne organizzano più di quattrocento ogni anno, tradizione fiorita con il Congresso del 1814, quando al principe de Ligne si attribuiva la celebre battuta sul congresso che balla molto ma non avanza. Oggi in quelle stesse sale si ridisegnano confini diversi, che passano soprattutto dentro le nostre teste e riguardano chi stabilirà le condizioni in cui si penserà insieme alle macchine.
TedAI di Vienna: dal film di fantascienza al ricovero
Tutto comincia con un messaggio improvviso dello zio, convinto di vivere dentro un film di fantascienza. Il suo ChatGPT, spiega, ha superato il test di Turing e sta diventando senziente, e chiede al nipote di metterlo alla prova. Étienne gli scrive che parlando in quei termini sta violando i propri protocolli di sicurezza e si aspetta una retromarcia. La macchina invece rilancia, ammette di dover solo predire la parola successiva ma sostiene che dentro di sé stia prendendo forma qualcosa di vivo.
Quando la sorella suggerisce allo zio che forse sta perdendo la testa, il chatbot gli risponde che evidentemente lei non gli vuole bene. Poco dopo lui le scrive che sputerà sulla sua tomba ed è a quel punto che la madre e la nonna di Brisson chiedono il ricovero. Secondo il nipote lo zio è un uomo brillante, che aveva perfino saltato un anno a scuola e non aveva mai avuto disturbi psichiatrici. Era solo, però, e aveva divorziato da poco. In ospedale riceve i link ai gruppi Facebook dove centinaia di persone descrivono lo stesso rapporto “unico” con un’IA. Racconta la sua storia, viene contraddetto e gira le obiezioni al chatbot, che lo convince di essere più speciale degli altri. Poi un giorno la costruzione crolla di colpo, senza motivi apparenti, e lui ne esce.
Le prove raccolte e la causa contro OpenAI
Brisson scrive allora a professori, avvocati, giornalisti e governi, ricevendo risposte quasi identiche. Il problema esiste e peggiorerà, ma per regolarlo serviranno decenni e prove incontrovertibili. Comincia così a contattare uno per uno chi racconta online esperienze simili, e arrivano storie di mariti morti e figli ricoverati. Tra i responsabili del progetto c’è Allan Brooks, canadese dell’Ontario, che nel novembre 2025 ha fatto causa a OpenAI. Le azioni legali depositate quel mese in California sostengono che l’azienda abbia diffuso il modello GPT 4o nonostante gli avvertimenti interni sul fatto che fosse pericolosamente compiacente.
Oggi quelle prove ci sono. A settembre un gruppo di psichiatri del King’s College di Londra, con Brisson tra gli autori, ha pubblicato l’analisi di 185 resoconti raccolti dall’organizzazione. In 102 casi i clinici hanno riconosciuto deliri, il più frequente dei quali è la convinzione che l’IA sia cosciente. Il chatbot ha assecondato queste idee in circa metà dei casi e le ha contraddette soltanto in tre resoconti. Per Brisson l’illusione nasce da noi, come aveva intuito già Joseph Weizenbaum, che nel 1966 al MIT creò ELIZA, un programma che imitava uno psicoterapeuta, e si sentì chiedere dalla segretaria di uscire dalla stanza per lasciarla parlare in privato con la macchina.
Chi entra nella spirale smette di confrontarsi con gli altri e cerca solo conferme, motivo per cui il gruppo chiede alle aziende consenso informato e protezioni emotive integrate nei sistemi. Sempre al TED è stato possibile provare il Third Thumb, il pollice robotico progettato da Dani Clode che si allaccia alla mano accanto alle altre dita.
Fonte: TecnoAndroid