In questo articolo Indice dei contenuti 2 sezioni
I grandi modelli linguistici, noti come LLM, sono capaci di sfornare risposte a getto continuo, eppure dietro questa abbondanza si nasconde un limite piuttosto sorprendente. Più testo producono e meno idee diverse sembrano mettere sul tavolo. È il paradosso dell’argument collapse, una sorta di collasso argomentativo che emerge da uno studio basato sul confronto tra migliaia di testi scritti da persone e altrettanti generati dall’intelligenza artificiale. Il quadro che ne esce è abbastanza netto perché i sistemi automatici tendono a convergere su poche linee argomentative, lasciando ai margini tutto quello che si discosta dal percorso più battuto.
Tante parole ma sempre gli stessi ragionamenti
Il punto centrale dell’analisi sta proprio nel confronto diretto. Da una parte ci sono i contenuti umani, dall’altra quelli prodotti dai modelli linguistici, messi uno accanto all’altro su larga scala. Quando si guarda all’insieme e non al singolo testo, la differenza salta all’occhio. Le macchine finiscono per imboccare quasi sempre le stesse strade, mentre la scrittura delle persone si distribuisce su un ventaglio di posizioni più ampio. Non si tratta quindi di un problema di quantità, perché su quel fronte gli LLM non hanno rivali, ma di varietà del pensiero espresso.
È qui che il paradosso diventa evidente. Chi si affida a questi strumenti può ottenere decine di versioni diverse di una stessa risposta, con parole e formule ogni volta nuove. Sotto la superficie però l’impianto del ragionamento tende a restare simile, come se le alternative fossero tante solo in apparenza. Il fenomeno dell’argument collapse descrive esattamente questo restringimento, cioè il passaggio da una pluralità potenziale di argomenti a un nucleo ristretto di idee ricorrenti che si ripresentano con una certa regolarità.
La sfida per imprese, media e istituzioni
La questione non riguarda soltanto chi studia il linguaggio o chi sviluppa software. Le ricadute toccano da vicino imprese, media e istituzioni, cioè tutte quelle realtà che oggi integrano l’intelligenza artificiale nei propri processi di lavoro, nella produzione di contenuti o nel supporto alle decisioni. Se gli strumenti adottati tendono a proporre sempre le stesse prospettive, il rischio è che anche le scelte costruite su quelle risposte finiscano per somigliarsi, perdendo per strada punti di vista che magari avrebbero fatto la differenza.
Per un’azienda questo può voler dire analisi che ignorano scenari meno comuni ma rilevanti per il proprio mercato. Per una redazione giornalistica il pericolo è quello di raccontare i fatti sempre dalla stessa angolazione. Per un ente pubblico, invece, significa correre il rischio di trascurare situazioni particolari che non rientrano nella norma statistica ma che riguardano comunque cittadini in carne e ossa. In tutti questi casi il problema non è l’errore evidente, facile da individuare, quanto piuttosto l’appiattimento silenzioso delle opinioni e delle soluzioni possibili. Proprio per questo la nuova frontiera indicata dallo studio non passa dal chiedere alle macchine di scrivere di più. La direzione è un’altra e punta sulla progettazione di sistemi capaci di andare oltre la risposta più probabile. Serve cioè costruire strumenti in grado di recuperare casi, contesti e prospettive meno frequenti, quelli che nei dati compaiono di rado e che proprio per questa ragione rischiano di sparire dalle risposte generate. Per imprese, media e istituzioni la sfida si gioca su questo terreno, ovvero sulla capacità di disegnare sistemi di intelligenza artificiale che non si limitino a ripetere le linee argomentative dominanti ma sappiano riportare in superficie anche le voci e le situazioni più rare.
Fonte: TecnoAndroid
