Le conversazioni con Claude, il chatbot di Anthropic, sono comparse tra i risultati di ricerca di Google durante lo scorso fine settimana, e questo dovrebbe far riflettere chiunque pensi che quello che scrive a un assistente virtuale resti davvero tra sé e lo schermo. I chatbot sono costruiti apposta per dare la sensazione di una chiacchierata intima. Sono gentili, quasi troppo amichevoli, e simulano l’esperienza di parlare con un amico online, un amico che però riesce a produrre un muro di testo in pochi secondi. La realtà è ben diversa, soprattutto se per privato si intende qualcosa destinato solo ai propri occhi.
Il problema è emerso grazie a un post diventato virale su Reddit. Bastava aggiungere alla propria ricerca la stringa “site:claude.ai/share” per far spuntare vere e proprie conversazioni indicizzate dai motori di ricerca. In pratica, se un utente aveva parlato con Claude di un argomento che qualcun altro stava cercando, e Google aveva archiviato quello scambio, il testo integrale della chat diventava leggibile. Tra le conversazioni finite in chiaro c’erano avvocati che discutevano strategie legali, ingegneri alle prese con problemi tecnici e persone che si aprivano su questioni personali. A seconda del contenuto, il livello di imbarazzo poteva andare dal fastidioso al davvero mortificante.
Qualche precisazione è doverosa. Anthropic ha tappato la falla in fretta, non appena il thread su Reddit ha iniziato a girare. Provando adesso a cercare qualsiasi cosa con quella stringa, si ottiene semplicemente un risultato vuoto, quindi le chat dovrebbero essere al sicuro d’ora in avanti. E soprattutto, la cosa non sembra aver toccato tutti gli utenti. Si trattava dei cosiddetti share link, i collegamenti che Claude genera quando si decide di condividere una conversazione con qualcun altro. Il difetto pare nascere proprio da questa funzione, quindi chi ha condiviso una chat potrebbe essersela ritrovata in quel database consultabile. Detto questo, non tutte le conversazioni trapelate rientrano necessariamente in quella categoria. Una situazione identica si era già verificata a settembre, e almeno un utente coinvolto aveva negato di aver mai condiviso le proprie chat. Prendendo per buona la sua parola, è possibile che alcune conversazioni esposte appartenessero a persone che non avevano mai usato la funzione di condivisione.
Le conversazioni con l’AI non sono private
Anche chi è sicuro che le proprie chat con Claude non siano state condivise, o si fida del fatto che la falla sia stata chiusa, farebbe bene a non dare per scontata la privacy delle proprie conversazioni con un chatbot. Il punto è un altro. Anche senza aver mai condiviso nulla, quello che si scrive non resta chiuso dentro il proprio account. Tutto ciò che viene detto a Claude arriva ad Anthropic e viene usato per addestrare i modelli futuri, a meno di non aver disattivato esplicitamente questa opzione.
E non riguarda solo Anthropic. Quasi tutte le aziende di intelligenza artificiale funzionano così, ognuna con le proprie regole. In alcuni casi ci sono persone in carne e ossa che rileggono le conversazioni, un dettaglio a cui difficilmente si pensa mentre si chiede aiuto al chatbot per una questione delicata.
Anche disattivando l’uso dei dati per l’addestramento, l’azienda può comunque conservare le chat per un certo periodo. Anthropic, per esempio, tiene i dati delle conversazioni per 30 giorni dopo la cancellazione. Quei dati restano quindi sui server anche quando non sono più accessibili all’utente. E non è l’unica realtà alle prese con l’indicizzazione. Per Claude è la seconda volta, mentre gli utenti di ChatGPT avevano affrontato un problema simile ad agosto. Per chi decide comunque di usare questi strumenti, la regola resta una sola: mai condividere informazioni personali o riservate, soprattutto dati molto sensibili come quelli sanitari. L’intelligenza artificiale è ormai parte del panorama e in tanti la trovano utile, ma chi tiene alla propria riservatezza deve sapere che questi strumenti non hanno a cuore i suoi interessi.