In questo articolo Indice dei contenuti 3 sezioni
Elena Vasquez, Marcus Chen, Amara Okafor: nomi che suonano credibili, curriculum da luminari, firme in calce a studi accademici reperibili online. Peccato che si tratti di scienziati fantasma, identità partorite dai modelli di intelligenza artificiale e mai esistite nella realtà. I paper però esistono eccome, caricati su archivi considerati affidabili, e questo è il nodo di uno studio firmato da Michał Brzozowski del Samsung AI Center di Varsavia e da Neo Christopher Chung, professore dell’università della stessa città, che parla apertamente di contaminazione sistematica dell’editoria scientifica da parte delle IA. Il punto di partenza è quasi banale nella sua stranezza. Quando a un modello linguistico di grandi dimensioni viene chiesto di inventare la figura di un esperto senza indicazioni precise sul nome, la macchina non pesca a caso. Attinge a un gruppo ristretto di identità, quasi sempre le stesse, e spesso le propone accoppiate.
Le coppie ricorrenti che tradiscono l’algoritmo
Claude di Anthropic genera con regolarità impressionante il duo Elena Vasquez e Marcus Chen, a volte con l’aggiunta della collega inesistente Amara Okafor. Gemini di Google preferisce Aris Thorne e Lena Petrova. ChatGpt punta invece su una figura solitaria, Elara Voss. Una specie di impronta digitale che gli algoritmi lasciano addosso ai testi che producono, riconoscibile a chi sa dove guardare.
Il problema smette di essere una curiosità statistica nel momento in cui queste identità finiscono a firmare pubblicazioni vere e proprie. I due ricercatori hanno contato 1.655 articoli pseudoscientifici caricati su Zenodo, l’archivio digitale ad accesso aperto gestito dal CERN, gli stessi che poi rimbalzano su ResearchGate, la rete sociale della comunità scientifica che per sua natura non garantisce l’attendibilità di quanto ospita, dato che i lavori non passano da una verifica indipendente. Fin qui si potrebbe scrollare le spalle. Solo che da Zenodo e ResearchGate quei testi vengono raccolti e infilati senza controlli nei cataloghi dei grandi aggregatori accademici, Google Scholar e Semantic Scholar in testa. E l’onda ha iniziato a lambire anche arXiv, la piattaforma della Cornell University dedicata alle bozze non ancora revisionate, che ha reagito sospendendo per un anno gli utenti sorpresi a caricare materiale generato dalle IA.
Chi ci guadagna e come
Dietro la produzione di falsi studi scientifici non c’è un unico profilo. Ci sono truffatori, operatori di canali commerciali, gestori di vere e proprie fabbriche di ricerche fasulle costruite per fare soldi. Alcuni sono accademici in carne e ossa che usano i propri profili universitari autentici per caricare in rete lavori inventati, altri gestiscono portali che imitano riviste scientifiche, come journaloffunctionalmaterials.com e journalofcomputerengineering.com, e hanno capito che duplicare gli stessi file su Zenodo dà al raggiro una patina di legittimità. L’obiettivo finale è monetizzare la credibilità scientifica. Research Gold, per dirne una, si promuoveva offrendo studi medici presentati come frutto del lavoro di esperti umani, mentre erano scritti per intero da modelli IA. Direttrice scientifica e fondatrice dichiarata: quella Elena Vasquez che non esiste. Stessa logica per la Threshold Clinic, struttura terapeutica con sede a Toronto, che sul proprio sito esibiva uno staff completo di psicologi e assistenti sociali immaginari, corredato da fotografie d’archivio spacciate per ritratti dei professionisti.
Numeri piccoli, effetti lunghi
Qualche centinaio di lavori fittizi dentro archivi che ne ospitano centinaia di migliaia sembra poca cosa. Però nei due mesi analizzati la media è stata di 25 pubblicazioni al giorno, un ritmo calibrato per non far scattare i sistemi di controllo delle piattaforme. Il danno concreto passa dai codici DOI, le targhe identificative permanenti assegnate ai contenuti scientifici. Non certificano nulla sulla qualità, attestano solo che un documento è stato registrato e acquisito, ma bastano perché gli aggregatori lo raccolgano e lo diffondano. Così i database accademici si riempiono di pubblicazioni spazzatura, collaborazioni mai avvenute, gruppi di ricerca composti da persone inesistenti. Sul lungo periodo l’affidabilità delle fonti si incrina, i ciarlatani prosperano e quella massa di documenti rischia di finire nei dati di addestramento dei modelli IA, che si ritroverebbero a imparare da testi già inquinati.
