Quando si parla di intelligenza artificiale applicata alla medicina, la storia di un certo Antoine Finkelstein vale più di mille discorsi teorici. Questo sviluppatore aveva un dolore alla spalla destra che lo tormentava da settimane. Dopo essere passato da un ortopedico ha fatto una risonanza magnetica sulla zona dolorante, e il referto parlava chiaro: rottura parziale di grado III nel tendine sottoscapolare. Solo che lui non si è fermato lì. Ha preso quella stessa risonanza e l’ha data in pasto a Claude Opus 4.8, giusto per sentire cosa ne pensava la macchina. E la risposta è arrivata spiazzante, perché secondo quel modello la spalla era “intatta”.
La macchina dà indizi, ma non basta
Insospettito, Finkelstein ha cominciato a pensare che la clinica volesse magari guadagnarci sopra. Così ha chiesto i dati grezzi DICOM della risonanza: gli sono arrivati 266 MB di immagini, che ha poi incrociato con i modelli di IA oggi disponibili. Prima una rapida consultazione con ChatGPT, che ha tirato fuori alcune possibili negligenze niente male. La clinica gli aveva applicato la terapia a onde d’urto, sconsigliata per le tendinopatie senza calcificazione. E poi gli avevano iniettato del Traumeel, un prodotto omeopatico registrato in Germania “senza indicazione terapeutica”.
A quel punto è entrato in scena Claude Opus 4.8, trasformato di fatto in un medico a cui chiedere una seconda opinione. Configurando il modello sulla piattaforma Claude Code, lo sviluppatore gli ha permesso di installare i pacchetti di codice necessari per elaborare le immagini mediche grezze. Dopo un’ora di lavoro, il modello ha emesso un verdetto sorprendente: il tendine che i medici umani vedevano rotto al 50 per cento era completamente sano. Per non fidarsi di un solo responso, Finkelstein ha montato un sistema di arbitraggio cieco, mandando in campo diversi subagenti indipendenti che lavoravano su immagini isolate tra loro per evitare i bias di conferma. Risultato unanime: nessuna rottura, né parziale né totale.
Quantità non vuol dire qualità
La vicenda ha acceso un bel dibattito su Hacker News, con riflessioni che vale la pena tenere a mente. L’IA azzera il costo delle visite, certo, ma avere più informazioni non significa risolvere il problema. Un utente ha raccontato una storia che gli era capitata con l’auto: tre meccanici diversi, tre risposte diverse, e uno gli aveva persino consigliato una riparazione che sapeva essere inutile. “La soluzione a un’informazione incerta non è più informazione, ed è proprio quello che l’IA può fornire, ma informazione migliore. E in questo momento l’IA non può darla.”
C’è poi un altro nodo. I grandi modelli linguistici sono pensati per essere gentili, quasi compiacenti. Sono in un certo senso casse di risonanza che vogliono tenerci contenti, e quindi non sono fatti per contraddirci in modo netto. Se uno scrive le proprie sospette nel prompt, il chatbot tende a dargli ragione, e spesso parte proprio con un “Hai assolutamente ragione…”. Sui temi medici questo è un guaio, perché le risposte possono cambiare parecchio tra una sessione e l’altra, ma con un tono sempre sicuro e convincente finiscono per aumentare la confusione invece di chiarirla.
Chi risponde se qualcosa va storto
Nel confronto è intervenuto anche un radiologo professionista. Secondo lui i modelli attuali restano mediocri nell’interpretare le immagini mediche, soprattutto per la mancanza di banche dati pubbliche e massicce su cui allenarsi. Quei dati sono protetti dalle leggi sulla privacy sanitaria, e per ora il problema è di difficile soluzione. Però lo stesso radiologo ammetteva che gli ultimi modelli si avvicinano già alla precisione di un medico specializzando del primo o secondo anno. La minaccia teorica alla professione del radiologo è qualcosa di cui si parla da anni, eppure non sembra vicina a concretizzarsi.
E qui arriva il punto più scomodo: dietro l’IA non c’è nessun responsabile se qualcosa va male dopo aver seguito un suo consiglio. Anche i medici umani sbagliano, possono avere bias o perfino interessi commerciali, vendere trattamenti. Ma la differenza giuridica è enorme. Il sistema sanitario ha licenze, regolamenti e una gestione delle responsabilità che punisce le negligenze. L’IA invece costringe ognuno a gestirsi da solo davanti all’incertezza.
Su questioni così delicate si vede bene che l’IA è ancora lontana dall’essere un sostituto vero degli esperti in carne e ossa. La medicina di oggi sarà pure “mercificata”, ma uno strumento per quanto economico o attraente non ha ancora la precisione richiesta in certi ambiti. Come ha messo nero su bianco lo stesso Finkelstein: “non posso sapere se posso fidarmi dell’IA, quindi sono in una specie di limbo in cui o tento la fortuna con un altro medico, o aspetto e vedo se la spalla migliora con la riabilitazione che sto facendo”.