Gli abusi sui minori online stanno crescendo a una velocità che mette in difficoltà chiunque provi a contrastarli, e oggi la vera partita si gioca su un terreno preciso: l’intelligenza artificiale. Perché se da un lato i criminali la usano per produrre materiale sempre più sofisticato, dall’altro è diventata anche l’arma più efficace nelle mani di chi indaga. Il punto è capire chi la sa usare meglio.
Qualche numero aiuta a inquadrare la portata del fenomeno. Nel 2010 il National center for missing and exploited children, una delle principali realtà statunitensi che si occupa di bambini scomparsi, aveva ricevuto centomila segnalazioni di materiali pedopornografici. Nel 2025 la sua CyberTipline, lo strumento per le segnalazioni sullo sfruttamento sessuale minorile attivo anche fuori dagli Stati Uniti, ne ha raccolte oltre 21,3 milioni, con più di 61,8 milioni tra immagini, video e altri file. Un balzo che lascia senza parole. E c’è di più: i casi legati all’intelligenza artificiale generativa hanno toccato 1,5 milioni di segnalazioni, mentre quelli collegati alla tratta sessuale di minori online sono passati da 8.480 nel 2023 a 105.877 nel 2025, con un incremento superiore al 1.100%.
Quando l’AI passa da mesi a ore
In Europa la situazione non è diversa. Nel 2024 si sono registrate oltre 20,5 milioni di segnalazioni relative a materiali di abuso sessuale minorile online, e i contenuti generati tramite intelligenza artificiale sono saliti da circa 4.700 casi nel 2023 a più di 67mila nel 2024, con una crescita del 1.325%. Dietro ogni segnalazione, però, può nascondersi una mole impressionante di file da esaminare uno per uno. In molte giurisdizioni l’analisi di un singolo sequestro informatico richiede dai sei mesi a un anno. Tempo durante il quale le vittime restano nell’ombra, i materiali continuano a girare e gli investigatori accumulano un’esposizione a contenuti devastanti che può sfociare nel disturbo post-traumatico da stress.
Ed è qui che entra in gioco l’intelligenza artificiale. “Immaginate un laptop sequestrato a un sospettato”, racconta a Wired Italia Irakli Beridze, responsabile del Centro per l’intelligenza artificiale e la robotica dell’Unicri, l’istituto delle Nazioni Unite con sede a Torino che lavora sulla prevenzione del crimine. “All’interno possono esserci migliaia, in alcuni casi milioni di file. Quando non si usava l’intelligenza artificiale, gli agenti guardavano ogni singolo file, uno per uno. Con un classificatore AI, oggi, l’intero processo si completa in un giorno”. Da mesi a ore, insomma.
Una piattaforma per gli investigatori di mezzo mondo
Tutto parte dal 2020, quando l’Unicri insieme al ministero dell’Interno degli Emirati Arabi Uniti lanciò il programma AI for Safer Children, pensato per portare competenze e strumenti di intelligenza artificiale alle forze dell’ordine di tutto il mondo. Due anni dopo è diventato operativo l’AI for Safer Children Global Hub, una piattaforma online che cataloga oltre cento strumenti AI, gratuiti e accessibili a qualunque agenzia investigativa nelle sei lingue ufficiali dell’Onu. Oggi conta investigatori provenienti da 128 paesi, per oltre 1.500 utenti attivi, e più di 2.700 agenti in circa 65 paesi hanno ricevuto formazione diretta.
Gli strumenti coprono l’intero arco investigativo. I classificatori automatici di immagini e video sono la prima linea: addestrati su dataset di materiali già identificati come abusivi, oppure tramite tecniche come il rilevamento di nudità e la stima dell’età, setacciano interi archivi e separano i file rilevanti da quelli che non lo sono in tempi impossibili per un essere umano. Poi ci sono gli strumenti di riconoscimento di oggetti e scene, che aiutano a capire dove un materiale è stato prodotto. Un lavoro quasi maniacale: l’angolo di una finestra, il modello di una presa elettrica, un’insegna intravista sullo sfondo. In un caso documentato, il confronto tra i dettagli di un video e il database fotografico di una piattaforma di prenotazione alberghiera ha permesso di risalire alla città e al paese dell’abuso.
Ci sono infine gli strumenti di elaborazione del linguaggio naturale, che analizzano cronologie di conversazioni alla ricerca di prove, individuando pattern linguistici ricorrenti e collegamenti tra utenti. Un lavoro che da solo richiederebbe centinaia di ore. Per evitare che la mancanza di fondi blocchi le indagini, l’Unicri ha ottenuto dagli sviluppatori l’impegno a fornire le proprie soluzioni gratuitamente ai paesi in via di sviluppo quando serve a risolvere un caso. “Nessun caso dovrebbe restare irrisolto perché un paese non può permettersi uno strumento”, è la logica di fondo.
Il rovescio della medaglia
Resta il nodo delle grandi piattaforme. Google, Microsoft, OpenAI, Anthropic: tutte sviluppano tecnologie applicabili al contrasto di questi reati, e alcune già lo fanno, ma per molti il contributo del settore è ancora troppo poco. Beridze la pensa così: “Tutti dovrebbero fare di più: le aziende tecnologiche, i governi, ognuno di noi. Il problema è enormemente più grande di qualsiasi singola iniziativa”. L’Unicri, dal canto suo, mantiene una posizione di terzietà: “Come Nazioni Unite, non promuoviamo strumenti specifici né facciamo pubblicità a nessuna azienda”.
C’è poi un paradosso difficile da ignorare. Lo stesso sviluppo dell’intelligenza artificiale che permette di classificare milioni di immagini sta generando una nuova categoria di materiali abusivi: deepfake, immagini sintetiche di minori, false identità costruite con voci e volti artificiali, manipolazione emotiva tramite messaggi automatici per adescare i bambini. Una crescita esponenziale che mette in crisi sia il piano tecnico sia quello giuridico, perché in molti paesi la legge punisce i materiali che ritraggono vittime reali ma non ha ancora una risposta chiara sulle immagini generate dall’AI. E gli stessi strumenti di rilevazione faticano, visto che erano stati addestrati su dataset che questi contenuti non li contemplavano.
“Il problema è enorme”, ammette Beridze. “Noi con AI for Safer Children stiamo contribuendo ma non possiamo salvare tutti i bambini del mondo. Il volume delle segnalazioni che arriva solo al database Ncmec è già incomprensibile”. Il Centro per l’intelligenza artificiale e la robotica era stato inaugurato all’Aia nel 2017, tra i primi programmi dell’Onu dedicati all’AI, e l’anno prossimo ne ricorre il decennale. Nel frattempo ha prodotto con Interpol le prime linee guida per un uso etico e responsabile dell’AI, conduce formazione per forze dell’ordine e magistrature e lavora sul piano educativo. Ma la sfida resta enorme: la tecnologia corre più veloce delle leggi, dei protocolli investigativi, dei trattati internazionali. Le reti di sfruttamento operano tra giurisdizioni diverse, sfruttando proprio le falle nella cooperazione tra stati. E lo stesso AI Hub, per quanto aperto, copre oggi circa due terzi dei membri delle Nazioni Unite.