microsoft AI anti pedofili

Microsoft compie un decisivo passi in avanti per arginare la pedofilia e la pedopornografia in rete con la messa a punto di una tecnologia che sfrutta un algoritmo gestito da un’intelligenza artificiale. Questo strumento sarà usato nelle chat, soprattutto nelle varie “stanze” che si creano attorno al mondo dei videogame online, e potrà individuare automaticamente i predatori sessuali in cerca di minori da circuire.

L’annuncio è stato fatto dalla stessa Microsoft in un post sul proprio blog, e l’algoritmo sarà disponibile anche per tutte le aziende che ne faranno richiesta. Il suo potenziale si basa sull’analisi di alcuni set di parole o espressioni figurate a cui solitamente fanno ricorso i molestatori nelle chat.

 

Microsoft: grazie all’intelligenza artificiale addio ai pedofili

In base alle notizie che sono circolate in rete, Microsoft avrebbe sviluppato l’AI a partire da alcune tecnologie segrete brevettate dall’azienda di Redmond, Seattle, che non sono note. L’algoritmo che opera nell’applicazione pare sia già stato testato con successo nelle chat di gioco della console Xbox.

Riguardo all’analisi contenutistiche alla ricerca di pedofili, il programma processa le conversazioni e assegna loro un punteggio. Fatto questo, l’AI lo può usare per valutare la possibilità di segnalare la chat al controllo di un tecnico umano che verificherà a sua volta le eventuali minacce da segnalare alle autorità competenti.

Come avrete capito, si conosce solo il funzionamento del processo ma nulla che riguardi le routine su cui è stato sviluppato l’algoritmo. Chiudiamo con le dichiarazioni di Courtney Gregoire, Chief Digital Safety Officer di Microsoft:”questo è un passo significativo, anche se non è una panacea. Lo sfruttamento sessuale e l’abuso dei bambini sul web e la ricerca degli adescatori online sono problemi gravi. Ma non siamo spaventati dalla complessità di queste questioni”.