In questo articolo Indice dei contenuti 2 sezioni
Un’anguria che piange, legata a una sedia e interrogata, poi fatta a pezzi da un ananas col volto coperto e una bandiera alle spalle: benvenuti nel fruitslop, il filone di video generati dall’intelligenza artificiale che sta occupando i feed di mezzo pianeta e che ha nei ragazzini il suo pubblico più affezionato. Non è un incubo da digestione difficile, sono reel, ne esistono milioni, e girano da mesi con numeri impressionanti.
La formula, all’inizio, era quasi innocua. Frutti antropomorfi alle prese con drammi da soap opera di terza fascia, triangoli amorosi, licenziamenti improvvisi, amicizie tradite, fratellanze spezzate. Qualche deriva stranamente pornografica, pure. Roba senza senso, prodotta in serie, consumata in tre secondi e dimenticata in due. Il classico AI slop, quella melma generativa che riempie i social senza chiedere il permesso a nessuno.
Quando la macedonia diventa un obitorio
Il punto è che la macedonia si sta guastando. Un’analisi del Global Network on Extremism and Technology, il GNET, ha messo in fila un numero crescente di clip che scivolano in quello che i ricercatori chiamano, senza troppi giri di parole, “AI fruit/vegetable gore”. Torture, mutilazioni, crudeltà varie, tutto messo in scena con la leggerezza cromatica di un cartone animato per bambini.
E non si parla di brutalità astratta, il martello in testa a Tom e Jerry. Gli analisti hanno notato che i carnefici vengono caratterizzati con una certa cura: cartelli criminali, gruppi di estrema destra, nichilismo militante. La violenza indossa un’uniforme, e quell’uniforme porta con sé un’ideologia precisa. Il dettaglio cambia tutto, perché sposta il baricentro dal nonsense al messaggio. Secondo i ricercatori, questi contenuti rafforzano il fascino per la violenza fine a sé stessa e permettono alla cosiddetta “ode alla violenza” online di guadagnare terreno tra i più giovani. C’è poi l’effetto assuefazione, quello che preoccupa di più: una volta che il cervello si è abituato al cocomero smembrato, il passaggio a materiale audiovisivo reale e molto più duro diventa una discesa senza attrito.
Va detto per onestà che il report del GNET è un’analisi di superficie, non uno studio longitudinale con dati solidi e revisione tra pari. Che l’intelligenza artificiale stia davvero spingendo gli adolescenti verso l’estremismo resta un’ipotesi, appesa a un filo piuttosto sottile.
Il problema non è la frutta, è la fabbrica
Che la papaya torturata generi o meno piccoli estremisti, in fondo, è una questione secondaria. Il nodo vero sta altrove, sta nell’impianto industriale che produce tutto questo. Queste clip escono da bot farm a ritmo continuo, un rubinetto aperto che nessuno chiude, e trascinano dentro chiunque passi di lì. I bambini per primi, perché la loro alfabetizzazione mediatica è ancora un cantiere aperto, con le impalcature montate e il tetto da fare.
Il meccanismo è ricorsivo: l’algoritmo serve solo ciò che trattiene, e ciò che trattiene viene replicato, amplificato, moltiplicato. Non c’è una regia dietro, non serve. Basta la matematica dell’engagement. Oggi lo stampo glorifica la violenza. Domani, con lo stesso identico stampo, potrà glorificare i brogli elettorali, il razzismo, o qualunque altra patologia sociale salti in mente. Basta cambiare il prompt, cinque secondi di lavoro. È questa plasticità infinita, questa capacità di riempire qualsiasi contenitore con qualsiasi veleno, a rendere lo slop generativo una faccenda seria.
I social si ritrovano così a ospitare un genere che nessuno ha progettato davvero, nato dall’incrocio tra strumenti generativi alla portata di tutti e sistemi di raccomandazione che premiano l’assurdo. La frutta che piange è solo il costume di scena. Sotto c’è una linea di produzione che non ha bisogno di sceneggiatori, attori, budget o tempo, e che può cambiare argomento in qualsiasi momento senza rallentare di un secondo.
