In questo articolo Indice dei contenuti 2 sezioni
Una mappa errata degli Stati Uniti stampata su un’agenda scolastica ha messo in imbarazzo la Farnsley Middle School, scuola media pubblica di Louisville, in Kentucky, dove il diario distribuito agli studenti conteneva nomi di stati inventati di sana pianta, una tavola periodica zeppa di errori e perfino fasi lunari che in natura non esistono. Il materiale sarebbe stato prodotto con software di intelligenza artificiale generativa, quel tipo di strumenti commerciali che sfornano grafiche in pochi secondi e che, quando devono scrivere del testo dentro un’immagine, combinano spesso disastri. A far scoppiare il caso sono stati i genitori. Sfogliando l’agenda insieme ai figli, si sono accorti che gli errori non erano un paio di refusi sfuggiti alla revisione, ma un problema diffuso su decine di pagine diverse. Difficile non notarli, del resto, visto il livello: sulla cartina il Kentucky diventava “Venecky”, la Louisiana si trasformava in “Lookoong” e l’Alabama compariva come “Alotome”.
Stati con nomi inventati e una tavola periodica da rifare
L’elenco delle stranezze prosegue con l’Illinois ribattezzato “Vitoiis”, l’Arizona scritta “Arizone” e la Carolina del Sud diventata “Sorth Cuanto”. Sono esattamente i tipici errori visivi che si riconoscono nelle immagini generate dai modelli di IA, dove le lettere vengono disegnate come forme grafiche più che come parole vere e proprie, con risultati che a prima vista sembrano plausibili e poi, guardando meglio, non hanno alcun senso.
Il problema, nel caso dell’agenda scolastica, è che parliamo di uno strumento che i ragazzi hanno tra le mani ogni giorno. Un diario delle medie non è un poster decorativo, contiene materiale di consultazione rapida che gli studenti tendono a considerare affidabile per definizione, proprio perché arriva dalla scuola. Se accanto agli spazi per i compiti compaiono una cartina sbagliata, una tavola periodica con elementi fuori posto e uno schema delle fasi lunari inesistenti, il rischio è che qualcuno prenda per buone quelle informazioni senza farsi domande.
Non è il primo scivolone dell’IA nei materiali didattici
Il caso di Louisville non è un episodio isolato. Le imprecisioni nei materiali didattici legate all’uso dell’intelligenza artificiale stanno diventando una costante, e qualche volta arrivano dove nessuno se lo aspetterebbe. Un esempio piuttosto clamoroso ha riguardato la rivista scientifica “Frontiers in cell and developmental biology”, che si è trovata costretta a ritirare uno studio già approvato e pubblicato.
Dentro quel lavoro c’erano immagini anatomiche di un roditore generate con il software Midjourney. Proporzioni grottesche, dettagli che in natura non esistono e didascalie composte da lettere messe insieme a caso, il tutto passato indenne attraverso il controllo dei revisori umani. Un cortocircuito che dice parecchio su quanto sia facile, oggi, far scivolare contenuti generati automaticamente dentro circuiti che dovrebbero essere blindati.
Il denominatore comune tra i due episodi è la mancanza di una verifica finale fatta da una persona. Gli strumenti di IA generativa producono materiale dall’aspetto professionale, pulito, graficamente convincente, e proprio questa apparenza di solidità tende ad abbassare la guardia di chi dovrebbe controllare. Una cartina degli Stati Uniti disegnata male salta subito all’occhio di un adulto attento, ma se nessuno la guarda con attenzione prima della stampa finisce direttamente sui banchi.
Nel frattempo l’agenda della Farnsley Middle School è già nelle mani degli studenti, con i suoi stati dai nomi impronunciabili e le sue lune che non esistono. Un piccolo caso locale, emerso grazie alle segnalazioni delle famiglie e ripreso dalle emittenti della zona, che racconta bene cosa succede quando la fretta di produrre contenuti a basso costo incontra tecnologie che nessuno ha ancora imparato a maneggiare del tutto.
