I deepfake stanno uscendo rapidamente dal recinto della satira politica e della propaganda online per diventare qualcosa di molto più concreto e preoccupante. Parliamo di strumenti operativi, usati dai criminali per aggirare i controlli di identità su cui si reggono banche, marketplace, piattaforme di lavoro e sistemi aziendali. Nel corso degli ultimi anni, chi opera nel cybercrimine ha puntato sempre di più su questa tecnologia per impersonare individui reali, ottenendo accessi stabili a server e account da sfruttare anche a distanza di mesi. Un singolo errore nella fase di iscrizione a un servizio, o nel recupero di un profilo, può trasformarsi in un problema persistente e difficile da arginare.
Il nodo centrale è che molte difese attuali si basano ancora su tre elementi fragili: password facilmente aggirabili, somiglianze facciali e semplici verifiche pensate per escludere interazioni robotiche. Peccato che questi controlli funzionino solo dando per scontato che la fotocamera e il flusso video siano affidabili e che l’hardware non sia compromesso. E questa, nel mondo reale, è un’assunzione piuttosto ottimista.
Lo studio della Purdue University e i limiti dei sistemi attuali
Per capire quanto siano davvero solide le nostre difese, uno studio indipendente della Purdue University ha messo alla prova diversi sistemi biometrici utilizzando contenuti tratti dal Political Deepfakes Incident Database, una raccolta di volti diffusi su piattaforme social che sono stati ricodificati e alterati digitalmente. Le prestazioni delle piattaforme di sicurezza variano enormemente quando si passa dall’ambiente controllato del laboratorio al caos del mondo reale. Anche il miglior rilevatore di deepfake, in condizioni non ideali, rischia di farsi ingannare con relativa facilità.
Qualcuno potrebbe pensare che basti sottoporre il materiale sospetto alla revisione di un esperto umano. Ma altri studi hanno confermato che nemmeno l’occhio umano riesce più a distinguere in modo affidabile i contenuti falsi da quelli autentici. E questo cambia tutto, perché la domanda non è più soltanto “quel volto sembra reale?”, ma piuttosto: l’intera tecnologia che usiamo per discriminare il vero dal falso è ancora all’altezza della sfida?
L’approccio a tre livelli contro i deepfake
Proprio da questa consapevolezza nasce l’approccio promosso da Incode Deepsight, una delle aziende più attive in questo settore. Il loro sistema si basa su tre livelli di verifica, costantemente integrati in tempo reale. Il primo passaggio consiste nell’analisi dei media per individuare eventuali manipolazioni delle immagini. Subito dopo, il software verifica l’integrità del dispositivo e della fotocamera, bloccando flussi di informazioni non autorizzati. Infine, viene effettuata un’analisi dei file per intercettare eventuali richieste automatiche di accesso.
