In questo articolo Indice dei contenuti 2 sezioni
Una donna di 30 anni della Florida è stata arrestata dopo aver confidato a Claude, il chatbot sviluppato da Anthropic, l’intenzione di aprire il fuoco contro le forze dell’ordine. Lei stessa ha poi spiegato di usare l’intelligenza artificiale come un semplice diario segreto, ma quei messaggi sono finiti prima davanti ai moderatori umani dell’azienda e poi sul tavolo della polizia. La vicenda mostra con molta chiarezza dove si ferma la riservatezza degli assistenti conversazionali, cioè nel punto esatto in cui compare il rischio concreto che le parole si trasformino in azioni.
Il contesto è quello che ormai tutti conoscono. Si parla con i chatbot ogni giorno e praticamente per qualsiasi cosa, dalle ricerche veloci ai consigli più personali. A forza di farlo, molte persone finiscono per affidare a questi strumenti anche i pensieri peggiori, un po’ come si farebbe con un confidente di lunga data. Dietro lo schermo però i sistemi di sicurezza dei modelli non smettono mai di vigilare, e questa donna americana lo ha scoperto nel modo più duro, mentre stava progettando una sparatoria.
I messaggi a Claude e l’intervento dei moderatori
La protagonista si chiama Carli Michelle Heller. Il 26 settembre ha scritto a Claude di voler sparare sui locali delle forze dell’ordine. Il giorno successivo è tornata sull’argomento sostenendo di essersi procurata una nuova arma da fuoco. A quel punto i sistemi automatici di Anthropic hanno inoltrato le conversazioni a un gruppo di moderatori umani, incaricati di valutare la gravità della situazione.
La società applica una precisa politica d’emergenza che consente di revocare la riservatezza quando esiste un rischio letale. È proprio quello che è successo in questo caso. L’azienda ha allertato immediatamente le autorità, senza perdere tempo. Subito dopo la segnalazione gli agenti si sono presentati nell’abitazione della sospettata a Bonita Springs, in Florida, e l’hanno fermata senza alcun incidente. Nei suoi confronti è scattata un’incriminazione penale per minaccia terroristica elettronica.
Durante l’interrogatorio successivo all’arresto la trentenne ha dato la sua versione dei fatti. Secondo quanto dichiarato, l’intelligenza artificiale di Anthropic per lei era soltanto uno spazio personale dove sfogarsi, un diario privato appunto, e nulla di più. Una spiegazione che non ha cambiato la sostanza delle accuse.
Le parole dello sceriffo e il nodo della privacy
Sulla vicenda è intervenuto anche lo sceriffo Carmine Marceno, che ha voluto ricordare come l’intelligenza artificiale sia uno strumento potente e, come qualsiasi altra tecnologia, possa essere usata in modo improprio. Quando qualcuno sfrutta l’AI per pronunciare una minaccia o per facilitarla, ha spiegato, la cosa va presa sul serio. Online non si è mai davvero anonimi. Il problema secondo lo sceriffo è che le persone hanno l’impressione che la macchina non le giudicherà, ma l’AI non è un amico.
Ed è qui che si tocca il punto più delicato. Il tono colloquiale di questi assistenti fa dimenticare in fretta un dettaglio fondamentale, ovvero l’archiviazione dei dati. Ogni parola digitata resta memorizzata sui server e può essere esaminata in qualsiasi momento dall’azienda che gestisce il servizio. La sensazione di intimità che nasce dalla conversazione finisce così per nascondere una realtà molto meno privata di quanto sembri.
Il caso di Bonita Springs non è nemmeno isolato. Si tratta infatti della terza segnalazione di questo genere che Anthropic ha trasmesso alla polizia a partire da agosto.
Fonte: TecnoAndroid
