ChatGPT Salute: OpenAI scommette sulla privacy e l’uso medico

31 Parlare di intelligenza artificiale in medicina oggi significa camminare su una linea sottile, dove entusiasmo e diffidenza si inseguono senza mai staccarsi davvero. Da un lato c’è la promessa di un accesso più semplice alle informazioni sanitarie, dall’altro la paura che una risposta sbagliata, detta con troppa sicurezza, possa fare più danni che benefici. A raccontare bene questa tensione è un aneddoto condiviso dal dottor Sina Bari, chirurgo praticante e responsabile dell’area AI healthcare per iMerit, che negli ultimi mesi si è trovato a gestire una situazione tanto curiosa quanto significativa.

ChatGPT arriva negli studi medici: opportunità e rischi per i pazienti

Un giorno, un paziente si è presentato nel suo studio con alcune pagine stampate. Non erano referti, né articoli scientifici, ma una conversazione con ChatGPT. Il chatbot sosteneva che un farmaco prescritto dal medico avesse addirittura il 45% di probabilità di causare un’embolia polmonare. Un dato allarmante, che avrebbe spaventato chiunque. Peccato che, andando a fondo, quella percentuale provenisse da uno studio condotto su un gruppo molto ristretto di pazienti affetti da tubercolosi, quindi del tutto irrilevante per il caso specifico. Un esempio perfetto di come l’AI possa sembrare autorevole anche quando mette insieme informazioni fuori contesto. Eppure, sorprendentemente, lo stesso Bari non è affatto contrario all’idea di portare ChatGPT in ambito sanitario in modo più strutturato. Anzi, l’annuncio di ChatGPT Salute da parte di OpenAI lo ha reso piuttosto ottimista. Secondo lui, formalizzare qualcosa che le persone già fanno — parlare della propria salute con un chatbot — può essere un passo avanti, soprattutto se accompagnato da tutele sulla privacy e da limiti chiari. Il nuovo servizio promette infatti un ambiente più riservato, con la garanzia che le informazioni condivise non verranno usate per addestrare i modelli, e la possibilità di sincronizzare dati provenienti da app come Apple Health o MyFitnessPal. È proprio qui che iniziano le domande più scomode. L’esperto di sicurezza Itai Schwartz ha fatto notare come questi dati, una volta sincronizzati, escano da sistemi conformi all’HIPAA, la rigidissima normativa americana sulla protezione dei dati sanitari, per finire nelle mani di un’azienda che non è formalmente soggetta alle stesse regole. In pratica, informazioni estremamente sensibili passano da un ambiente fortemente regolamentato a uno molto più fluido, dove non è ancora chiaro quali obblighi legali verranno applicati. Il punto non è accusare OpenAI, ma chiedersi come reagiranno le autorità e quali paletti verranno messi.

Da ChatEHR a Claude: come l’AI riduce la burocrazia sanitaria

Nel frattempo, l’uso di ChatGPT per questioni di salute è già una realtà di massa. Ogni settimana, centinaia di milioni di persone pongono domande mediche al chatbot. Andrew Brackin, investitore nel settore health tech, lo considera uno sviluppo quasi inevitabile: se questo è uno dei principali casi d’uso, ha senso creare una versione pensata apposta per quel contesto. Il vero nodo resta l’affidabilità, perché le cosiddette “allucinazioni” dell’AI, in medicina, non sono solo errori innocui. C’è però chi ribalta la prospettiva. Il professor Nigam Shah di Stanford fa notare che, negli Stati Uniti, aspettare mesi per vedere un medico di base è la norma. In questo scenario, parlare subito con un sistema imperfetto potrebbe sembrare meglio che non parlare con nessuno. Molti clinici, tuttavia, vedono il futuro dell’AI più dalla loro parte che da quella dei pazienti: strumenti come ChatEHR o Claude for Healthcare stanno riducendo il peso della burocrazia e liberando tempo per la relazione umana. Forse è proprio lì che l’AI può fare la differenza più grande, almeno per ora. ChatGPT Salute arriverà a breve, e con lui nuove promesse, nuovi dubbi e, inevitabilmente, nuove discussioni.