Negli Stati Uniti si torna a discutere di come proteggere i dati sanitari finiti nelle mani delle intelligenze artificiali, e stavolta la spinta arriva direttamente dal Congresso. Sempre più persone, ormai, raccontano ai chatbot cose che non dovrebbero, comprese le richieste di consigli medici, una pratica sconsigliata sotto ogni punto di vista. Il problema non è solo la qualità dubbia delle risposte, ma anche cosa succede a quelle informazioni una volta digitate.
La maggior parte dei chatbot AI ha termini e condizioni che permettono di usare le conversazioni come materiale per l’addestramento. E spesso le clausole delle app consentono pure di raccogliere quei dati e rivenderli. È proprio su questo punto che due esponenti democratici vogliono intervenire, aggiornando una vecchia legge sulla privacy per bloccare la vendita dei dati sanitari.
Warren e Scanlon: la proposta di legge che arriva dal Congresso
Nelle prossime settimane la senatrice Elizabeth Warren e la deputata Mary Gay Scanlon presenteranno una nuova versione dell’Health and Location Data Protection Act. L’idea è ampliarne la portata per vietare alle aziende di vendere questo tipo di informazioni ai broker di dati, con un occhio di riguardo proprio per tutto ciò che viene inserito nei sistemi di intelligenza artificiale.
Il tempismo non è casuale. Le società che sviluppano AI stanno spingendo attivamente gli utenti a caricare informazioni mediche sulle loro piattaforme. A gennaio Elon Musk aveva invitato pubblicamente le persone a caricare le proprie cartelle cliniche, comprese le risonanze magnetiche, su Grok, il chatbot di xAI. Nello stesso mese OpenAI ha lanciato ChatGPT Health, una scheda isolata dentro ChatGPT pensata per essere più sicura, incoraggiando comunque il caricamento di documenti medici e altri dati sensibili. Poco dopo è arrivata anche Anthropic con Claude for Healthcare, uno strumento definito “HIPAA ready” e rivolto a privati, medici e ospedali.
Perché conviene stare alla larga dai consigli medici dei chatbot
Gli Stati Uniti avrebbero bisogno di una legge federale sulla privacy con la stessa ampiezza e forza del GDPR europeo. Interventi frammentari come questo sono meglio di niente, ma lasceranno sempre la normativa un passo indietro rispetto alla tecnologia.
Vista l’inaffidabilità dell’AI generativa, sarebbe una pessima idea affidarsi a un chatbot per qualsiasi consiglio sulla salute. Meglio evitare, e basta. Per altre conversazioni delicate, invece, Siri resta l’opzione più tranquilla. Sia il vecchio passaggio di consegne verso ChatGPT sia il nuovo utilizzo dei modelli Google Gemini da parte di Siri rispettano i rigidi requisiti di Apple sulla privacy, che vietano la raccolta dei dati degli utenti.