In questo articolo Indice dei contenuti 2 sezioni
Nel dibattito sull’intelligenza artificiale c’è un equivoco che continua a circolare anche tra chi lavora nel settore, e riguarda la differenza tra accuratezza e affidabilità: un modello che ottiene punteggi altissimi nei test non è automaticamente un sistema sicuro, stabile, utilizzabile senza rischi in un contesto reale. Sono due piani distinti. Il primo misura quanto spesso il sistema indovina la risposta corretta su un insieme di dati noto, il secondo riguarda il comportamento complessivo della tecnologia quando esce dal laboratorio e incontra il mondo, con tutto il disordine che il mondo porta con sé.
La confusione nasce perché le prestazioni si comunicano bene. Una percentuale è chiara, sintetica, si mette in una slide e convince. L’affidabilità, invece, è una proprietà scomoda da riassumere, perché si compone di dimensioni diverse che vanno valutate insieme. E quando gli errori hanno un peso concreto, per esempio in ambito sanitario, finanziario o di sicurezza, quella percentuale da sola smette di dire qualcosa di utile.
Le dimensioni che contano davvero nella valutazione dei modelli AI
La prima è la generalizzazione, ovvero la capacità di funzionare anche su dati che il modello non ha mai visto. Un sistema può essere bravissimo a riconoscere schemi già incontrati durante l’addestramento e crollare appena le condizioni cambiano leggermente. Succede più spesso di quanto si immagini, e il problema non emerge nei benchmark proprio perché i benchmark sono costruiti su casi selezionati.
Poi ci sono spiegabilità e interpretabilità, spesso trattate come sinonimi ma non sovrapponibili. La prima riguarda la possibilità di ricostruire il perché di una singola decisione, di rendere leggibile il percorso che ha portato a un certo risultato. La seconda guarda al funzionamento interno del modello, alla comprensione di come le sue componenti contribuiscono all’output. Senza almeno una delle due, davanti a un errore rimane pochissimo margine per capire cosa sia andato storto e per intervenire.
C’è infine il tema della robustezza e della resilienza agli attacchi. Un modello robusto continua a comportarsi in modo coerente anche quando i dati in ingresso sono rumorosi, incompleti o semplicemente diversi dal previsto. La resilienza riguarda invece la capacità di resistere a manipolazioni deliberate, a input costruiti apposta per indurre il sistema in errore. Due aspetti che nella pratica si intrecciano e che raramente compaiono nelle comunicazioni commerciali sui nuovi modelli.
Perché la questione riguarda l’uso quotidiano dell’intelligenza artificiale
Valutare l’intelligenza artificiale guardando solo alla percentuale di risposte corrette significa fermarsi alla superficie. Nei contesti reali le condizioni cambiano, i dati arrivano sporchi, gli utenti fanno cose imprevedibili, qualcuno prova deliberatamente a forzare il sistema. Un modello accurato in condizioni ideali può rivelarsi fragile appena esce da quella bolla, e la fragilità non si vede finché non produce danni.
È qui che la distinzione tra accuratezza e affidabilità diventa operativa e non teorica. Chi introduce sistemi automatici in processi delicati ha bisogno di sapere non solo quanto spesso il modello ha ragione, ma anche cosa accade quando sbaglia, quanto quell’errore sia riconoscibile, quanto sia possibile risalire alla sua origine e correggerlo. Una risposta sbagliata che nessuno riesce a spiegare è un problema di natura diversa rispetto a una risposta sbagliata di cui si comprende il meccanismo.
Le cinque dimensioni citate, generalizzazione, spiegabilità, interpretabilità, robustezza e resilienza, formano una griglia di valutazione più utile del singolo numero di prestazione. Non eliminano il rischio, che resta parte di qualsiasi sistema probabilistico, ma permettono di misurarlo e di decidere con maggiore consapevolezza dove conviene affidarsi a un modello AI e dove invece serve mantenere un controllo umano più stretto, soprattutto quando le conseguenze di un errore sono rilevanti.
