Le allucinazioni dell’AI restano il problema più insidioso dei chatbot moderni, e ora l’Antitrust italiana ha deciso di intervenire in modo concreto. Il caso più eclatante degli ultimi tempi è probabilmente quello dell’avvocato sanzionato per aver citato nella sua arringa ben quattro sentenze che non esistevano, inventate di sana pianta dal sistema di intelligenza artificiale generativa a cui si era affidato. Ma il rischio non si ferma alle aule di tribunale. Basta pensare a chi chiede al proprio chatbot informazioni su un farmaco o su un’opportunità di investimento, ricevendo risposte precise, dettagliate, dal tono autorevole. Peccato che siano false o sbagliate. Le allucinazioni sono ancora oggi il tallone d’Achille di qualsiasi sistema generativo, anche il più potente. Claude, nella sua recente intervista “concessa” a Walter Veltroni, lo ha ammesso apertamente: “Ho lacune enormi e faccio errori”. Molte aziende, però, preferiscono non sbandierarlo troppo, relegando qualche avvertimento generico nel mezzo di lunghissimi termini e condizioni che nessuno legge.
L’Autorità garante della concorrenza e del mercato (Agcm), guidata da Roberto Rustichelli, ha deciso che tutto questo non basta più. Pochi giorni fa ha chiuso tre istruttorie aperte in contemporanea nei confronti dell’AI cinese DeepSeek, di quella francese Mistral con il suo chatbot Le Chat, e Nova AI, gestita dalla turca Scaleup Yazilim. Le indagini partivano dalla stessa contestazione. I chatbot non informavano gli utenti in modo chiaro, immediato e comprensibile del fatto che i loro sistemi possono produrre contenuti inesatti, fuorvianti o del tutto inventati. Per l’Agcm si tratta a tutti gli effetti di una potenziale pratica commerciale scorretta ai sensi del Codice del consumo, capace di impedire agli utenti di prendere decisioni consapevoli. Soprattutto in ambiti delicati come salute, finanza e diritto.
Niente multe, ma impegni vincolanti per DeepSeek, Mistral e Nova AI
La mano dell’Antitrust è stata tutto sommato leggera, più orientata a prevenire che a punire. Nessuna delle tre aziende è stata sanzionata, si è preferito arrivare a dei patti. DeepSeek, Mistral e Nova AI si sono impegnate a proporre rimedi che l’Autorità ha ritenuto sufficienti per affrontare le criticità emerse caso per caso. Si tratta di impegni vincolanti. Andranno messi in pratica entro 120 giorni, pena la riapertura del procedimento e una multa fino a circa 10 milioni di euro.
DeepSeek ha accettato il pacchetto più ampio. Prevede la pubblicazione di avvisi in bella evidenza sul rischio di allucinazioni direttamente nelle interfacce di chat e sul sito web, in italiano. E poi traduzione integrale in lingua italiana dei disclaimer rilevanti, programmi interni di formazione sulla compliance e, soprattutto, un impegno tecnico attivo a investire nella riduzione del tasso di allucinazioni. DeepSeek dovrà anche presentare all’Autorità un rapporto completo sulla conformità entro la scadenza dei 120 giorni.
Mistral, per il suo Le Chat, si è impegnata su quattro fronti. In particolare, nell’ inserimento di disclaimer direttamente nella chat (con una formula tipo “Le Chat può commettere errori. Verifica le risposte”), rafforzamento e localizzazione in italiano dei propri termini di servizio con riferimento esplicito alla possibile inaffidabilità degli output, migliore accessibilità di questi termini lungo tutto il percorso dell’utente (homepage, login, registrazione, pagine degli app store e interfaccia di chat) e traduzione completa in italiano del sito web e del centro assistenza.
Nova AI aveva un problema in più. Oltre all’assenza di avvertimenti sulle allucinazioni, il suo prodotto nascondeva una caratteristica strutturale. Nova AI è un aggregatore cross platform che offre un’unica interfaccia per accedere a più modelli sottostanti (ChatGPT, Gemini, Claude, DeepSeek) senza però comunicarlo agli utenti, che potevano credere di interagire con un’unica IA proprietaria. Scaleup si è impegnata a rendere esplicita la propria natura di aggregatore, dichiarando anche che non elabora né aggrega le risposte dei modelli che utilizza.
Perché questa vicenda segna un precedente europeo
A prima vista potrebbe sembrare una questione burocratica. Tre aziende tech che firmano qualche impegno con un’autorità di regolazione e vanno avanti. Ma la portata è più significativa di quanto appaia. Questa è la prima volta che un regolatore europeo ha ottenuto impegni vincolanti e specifici da aziende di AI riguardo alla trasparenza sulle allucinazioni, inquadrandola come obbligo di tutela del consumatore. E lo ha fatto contemporaneamente nei confronti di società appartenenti a tre giurisdizioni diverse (Cina, Francia, Turchia), applicando lo stesso standard a tutte. Informare gli utenti del rischio di allucinazioni nel momento stesso in cui usano il servizio è un obbligo elementare.
Lo stesso AI Act dell’Unione europea, all’articolo 13, richiede che i fornitori di modelli di intelligenza artificiale per uso generale forniscano informazioni adeguate sulle capacità e sui limiti dei loro sistemi. L’intervento dell’Antitrust italiana fissa, per la prima volta nella pratica, qualcosa di simile a dei paletti su cosa significhi davvero “adeguato”.