In questo articolo Indice dei contenuti 3 sezioni
Un sistema genetico mai descritto prima è stato individuato nel DNA dei virus da Claude, il modello sviluppato da Anthropic, e la cosa curiosa è che nemmeno gli agenti della stessa azienda sono poi riusciti a rifare il percorso che aveva portato a quel risultato. I ricercatori hanno controllato, la scoperta ha retto alla verifica, ma il pezzo mancante resta il metodo: come ci sia arrivata, l’IA di Anthropic, non è stato possibile ricostruirlo passo dopo passo. Detta così sembra un dettaglio tecnico da addetti ai lavori, e invece tocca uno dei nodi più delicati del rapporto fra intelligenza artificiale e ricerca scientifica. Perché in laboratorio una scoperta vale nella misura in cui può essere ripetuta. Se un esperimento funziona una volta sola e poi non si riesce a riprodurlo, la comunità scientifica alza il sopracciglio, e a ragione.
Cosa ha trovato Claude nel materiale genetico dei virus
Il punto di partenza è l’analisi del materiale genetico virale, un terreno dove la quantità di dati disponibili è enorme e dove la capacità di riconoscere schemi ricorrenti fa la differenza. Claude ha segnalato l’esistenza di un sistema genetico che fino a quel momento non era stato descritto in letteratura. Non una variante nota riletta in modo diverso, ma qualcosa di nuovo. La verifica da parte dei ricercatori è arrivata dopo, ed è il passaggio che dà peso alla vicenda. Senza quel controllo umano si sarebbe trattato di una segnalazione interessante e nulla più, di quelle che nel mondo dei modelli linguistici capita di archiviare come falso positivo. Qui invece il riscontro c’è stato, ed è quello che rende la questione meno banale di tante altre annunciate a colpi di comunicato.
Il problema della riproducibilità e cosa significa per la ricerca
Il nodo vero arriva nel momento in cui gli agenti di Anthropic hanno provato a ricalcare la stessa strada. Non ci sono riusciti. Lo stesso tipo di sistema, messo davanti allo stesso genere di compito, non ha restituito lo stesso esito. È una situazione che chi lavora con i modelli generativi conosce bene, perché questi strumenti non funzionano come un algoritmo deterministico che dati gli stessi input sputa fuori sempre lo stesso output. La conseguenza pratica è scomoda. Da un lato si ha un risultato valido, controllato, che aggiunge qualcosa alla conoscenza sui virus. Dall’altro manca la possibilità di trasformare quel colpo di fortuna, se di fortuna si tratta, in un metodo ripetibile. E un metodo che non si può ripetere, in biologia come altrove, difficilmente diventa uno strumento su cui costruire.
C’è poi un aspetto che riguarda la trasparenza dei modelli. Quando un sistema arriva a una conclusione corretta senza che sia possibile ricostruire il ragionamento che l’ha generata, resta una scatola nera anche per chi l’ha progettata. Non è una novità assoluta nel settore, ma vederlo applicato a una scoperta scientifica concreta cambia la prospettiva rispetto ai soliti esempi da laboratorio.
Un caso che pesa più di molti annunci
Nel dibattito sull’intelligenza artificiale applicata alla scienza girano parecchie dichiarazioni entusiaste e pochi episodi verificabili. Questo appartiene alla seconda categoria, con tutte le contraddizioni del caso. Da una parte la prova che un modello linguistico può segnalare qualcosa che gli esseri umani non avevano notato nel genoma virale. Dall’altra la dimostrazione che quella capacità, oggi, non si comporta come uno strumento affidabile e programmabile. La scoperta resta acquisita, il percorso che l’ha prodotta no. E per ora Anthropic non ha una spiegazione su quale combinazione di condizioni abbia permesso a Claude di individuare quel sistema genetico la prima volta.
Fonte: TecnoAndroid
