In questo articolo Indice dei contenuti 3 sezioni
Che l’AI manca di giudizio non è più soltanto un’impressione di chi la usa tutti i giorni per lavoro, ma il risultato a cui arriva un nuovo studio, in sintonia con quanto sostiene anche il premio Nobel Demis Hassabis. Il punto debole non riguarda la capacità di calcolo o la quantità di informazioni che questi sistemi riescono a maneggiare, che anzi restano impressionanti. Riguarda qualcosa di molto più sottile e difficile da misurare, ossia la capacità di capire quando vale la pena insistere su una strada e quando invece conviene abbandonarla.
Dove i modelli si fermano davvero
Il momento critico arriva quando bisogna scegliere. Quale ipotesi merita ulteriore investimento di tempo, risorse, attenzione. Se l’evidenza raccolta fino a quel punto è sufficiente per dire di aver capito qualcosa oppure serve continuare a scavare. E soprattutto quando è il caso di cambiare radicalmente direzione, buttando via mesi di lavoro perché la pista seguita non porta da nessuna parte. Su questi passaggi l’intelligenza artificiale fallisce, e non per un difetto momentaneo che una versione successiva potrà correggere con qualche parametro in più.
È una distinzione che vale la pena tenere a mente, perché si tende a confondere due cose diverse. Un conto è produrre risposte plausibili, riassumere, tradurre, generare codice che funziona. Un altro conto è il giudizio, cioè quella facoltà che permette a un ricercatore, a un medico, a un giornalista di dire “qui c’è qualcosa che non torna” senza saper spiegare del tutto perché. Hassabis, che di questi sistemi conosce l’interno meglio di quasi chiunque altro, arriva alla stessa conclusione dello studio, e il fatto che a dirlo sia uno dei protagonisti del settore pesa più di qualsiasi critica esterna.
Intuito e creatività, le due cose che non si imitano
Insieme al giudizio mancano intuito e creatività. Termini che nel dibattito pubblico vengono usati un po’ a caso, ma che qui hanno un significato preciso e operativo. L’intuito è quello che fa saltare un passaggio logico perché la conclusione si intravede prima di averla dimostrata. La creatività, nel senso che interessa in questo contesto, è la capacità di uscire dallo spazio delle soluzioni già note, non di ricombinare in modo elegante quello che esiste già. I modelli attuali sono straordinari nel secondo compito e sostanzialmente inerti nel primo. Il che spiega perché tante applicazioni funzionino benissimo finché il problema è ben definito e i confini sono chiari, mentre iniziano a scricchiolare appena la domanda diventa vaga, contraddittoria, o richiede di decidere cosa vale la pena chiedersi in primo luogo.
Cosa cambia per il lavoro e per chi lo fa
Le conseguenze sul lavoro sono grandi, e vanno lette in una direzione forse meno catastrofica di quella a cui si è abituati. Se la parte che l’AI non sa fare è proprio quella del giudizio, allora il ruolo dell’umano non sparisce ma si sposta. Si concentra nei punti di svolta, nelle decisioni che orientano il resto, nella scelta di quale problema affrontare e di quando fermarsi.
Significa anche che le competenze da coltivare cambiano di segno. Meno esecuzione ripetitiva, che le macchine assorbono senza fatica, e più capacità di valutare, di dubitare, di riconoscere quando i dati raccolti bastano oppure no. Una gerarchia diversa da quella a cui la formazione professionale ha abituato intere generazioni, costruita invece sull’accumulo di procedure e sulla velocità nell’applicarle.
