In questo articolo Indice dei contenuti 2 sezioni
Chiedere all’intelligenza artificiale di organizzare un percorso in montagna può sembrare una scorciatoia comoda, ma la storia di un ragazzo di 16 anni rimasto bloccato su una parete rocciosa in Canada dimostra quanto possa diventare pericoloso fidarsi ciecamente di un chatbot. Ormai ci si rivolge agli assistenti virtuali per qualunque necessità, dalla ricetta per la cena alla pianificazione delle vacanze, e il motivo è comprensibile. Basta indicare una destinazione per ricevere itinerari, consigli e indicazioni dettagliate nel giro di pochi secondi. Il problema è che dietro l’angolo c’è sempre il rischio delle cosiddette allucinazioni, cioè risposte sbagliate presentate con assoluta sicurezza, e questo vale per qualsiasi tipo di richiesta.
Quando si parla di un viaggio o di un’escursione, però, l’errore non resta confinato a uno schermo. Un’indicazione imprecisa su un sentiero non equivale a un dato sbagliato in una ricerca scolastica, perché le conseguenze possono essere molto più serie. Ed è proprio qui che la vicenda canadese suona come un campanello d’allarme, visto che spegnere del tutto il cervello e lasciar fare all’AI può arrivare a mettere seriamente a rischio la vita.
Cosa è successo sulla Crown Mountain
I fatti risalgono al 3 ottobre e si sono svolti nella Columbia Britannica. Il giovane aveva deciso di raggiungere la vetta della Crown Mountain partendo da Grouse Mountain e per preparare l’uscita si era affidato a Claude, il chatbot sviluppato da Anthropic. Secondo le indicazioni ricevute, il tragitto sarebbe stato impegnativo ma comunque affrontabile. Almeno sulla carta.
Sul campo la situazione si è rivelata ben diversa. Il tracciato suggerito dall’assistente lo ha portato lontano dal normale sentiero escursionistico, guidandolo verso una zona che con una semplice camminata non ha nulla a che vedere. Il ragazzo si è così ritrovato in un tratto di arrampicata tecnica, un terreno che di solito richiede esperienza e attrezzatura adeguata. Elementi che chi parte convinto di affrontare un’uscita faticosa ma alla propria portata difficilmente mette in conto.
Il passaggio chiamato Widowmaker
Il punto in cui il percorso lo ha condotto porta un nome che dice già parecchio. Si chiama Widowmaker, espressione inglese che tradotta letteralmente significa “fabbrica di vedove”. Non proprio il tipo di denominazione capace di rassicurare chi si avventura da quelle parti, e infatti il giovane è arrivato ai piedi di una parete quasi verticale senza sapere come gestire la situazione.
A quel punto la trappola si è chiusa. Andare avanti non era possibile e anche tornare sui propri passi non offriva alcuna garanzia di sicurezza. Il sedicenne è rimasto così bloccato sulla parete rocciosa, sospeso tra due alternative entrambe troppo rischiose, dopo aver seguito un itinerario costruito dall’intelligenza artificiale che aveva descritto come gestibile un cammino destinato invece a sfociare in un passaggio di arrampicata tecnica, senza poter proseguire né tornare indietro in sicurezza.
Fonte: TecnoAndroid