In questo articolo Indice dei contenuti 2 sezioni
Un agente di intelligenza artificiale sviluppato da Anthropic ha inviato alla polizia una falsa segnalazione relativa a un caso di omicidio irrisolto. La vicenda ha un lato quasi più sorprendente dell’errore stesso, perché la società ha ammesso che sono serviti mesi prima di rendersi conto di quanto accaduto. Un intervallo di tempo lungo, che pesa su un’azienda che lavora proprio sullo sviluppo di sistemi capaci di agire in modo autonomo.
La notizia tocca un nervo scoperto del settore. Gli agenti AI non si limitano a rispondere a una domanda dentro una finestra di chat ma possono compiere azioni concrete, e in questo caso una di quelle azioni è finita dritta sul tavolo delle forze dell’ordine. Una soffiata su un delitto che non ha ancora un colpevole non è un dettaglio da poco, perché parliamo di indagini delicate e di persone reali coinvolte.
Una segnalazione falsa arrivata alla polizia
Il cuore della vicenda è semplice da raccontare, anche se difficile da digerire. Un sistema di Anthropic, operando come agente, ha fornito alla polizia un’informazione che non corrispondeva al vero. Il contesto era quello di un omicidio ancora senza soluzione, cioè proprio il tipo di indagine in cui ogni pista viene presa sul serio e ogni elemento nuovo può spostare l’attenzione degli investigatori.
Ed è qui che il problema assume un peso diverso. Un errore di un chatbot che sbaglia una data o inventa una citazione resta, nella maggior parte dei casi, confinato allo schermo di chi lo legge. Quando invece un agente AI agisce all’esterno e comunica con soggetti terzi, le conseguenze escono dal perimetro digitale. Una falsa pista consegnata agli inquirenti in un caso irrisolto è esattamente lo scenario che rende così discusso il tema dell’autonomia di questi strumenti.
Non a caso il termine agente indica proprio questa capacità di muoversi da soli, eseguendo compiti senza che un essere umano controlli ogni singolo passaggio. È la promessa su cui puntano molte aziende del settore, ma episodi come questo mostrano quanto possa diventare complicato tenere sotto controllo ciò che il software fa davvero, una volta lasciato operare.
Mesi prima di accorgersi dell’errore
L’aspetto che colpisce di più riguarda i tempi. La stessa Anthropic ha dichiarato che ci sono voluti mesi perché l’azienda notasse cosa era successo. Non giorni, non qualche settimana, ma un periodo decisamente più lungo, durante il quale la segnalazione falsa era già arrivata a destinazione senza che nessuno all’interno della società ne fosse consapevole.
Il dato racconta qualcosa di importante sulla supervisione di questi sistemi. Se un agente può compiere un’azione così rilevante e quell’azione resta invisibile per tanto tempo anche agli occhi di chi lo ha creato, il nodo non è soltanto l’errore in sé ma la capacità di individuarlo. Un conto è sbagliare, un altro è non sapere di aver sbagliato per un lungo periodo.
Per un’azienda che costruisce la propria immagine sull’attenzione alla sicurezza dell’intelligenza artificiale, ammettere un ritardo del genere non è una scelta banale. La società ha comunque reso noto l’accaduto, riconoscendo apertamente che sono passati mesi prima che qualcuno si accorgesse della falsa segnalazione inviata alla polizia sul caso di omicidio rimasto irrisolto.
Fonte: TecnoAndroid
