Una delle prossime funzionalità AI di Windows 11, denominata Recall, ha scatenato numerose polemiche. Quest’ultima cattura screenshot dell’attività dell’utente ogni pochi secondi e li elabora tramite un sistema di riconoscimento del testo. Il processo li rende facilmente ricercabili grazie a un algoritmo AI capace di comprendere ed elaborare il linguaggio naturale.
Microsoft descrive Recall come una sorta di “memoria umana” per il sistema operativo. Alcuni esperti di sicurezza hanno però rapidamente individuato potenziali rischi per la privacy degli utenti. Gli screenshot potrebbero, infatti, contenere informazioni sensibili come password, dati bancari o conversazioni private. Sebbene questi dati vengano salvati ed elaborati localmente, risultano comunque facilmente accessibili, poiché il database SQLite in cui vengono archiviati i testi estratti dagli screenshot non è criptato.
Continuano le critiche a Windows 11 Recall
L’azienda di Redmond ha avuto l’opportunità di difendere la sua funzione durante una conferenza sull’AI organizzata da Erik Brynjolfsson, direttore dello Stanford Digital Economy Lab. All’evento ha partecipato Jaime Teevan, una delle responsabili di ricerca e sviluppo per l’intelligenza artificiale di Microsoft. Le risposte fornite sono state però giudicate da molti giornalisti e osservatori come poco convincenti e vaghe.
Brynjolfsson ha posto una domanda diretta sui vantaggi e svantaggi di Recall, nonché sui rischi e le opportunità legate all’uso dei dati. La risposta di Teevan, però, è stata evasiva e non ha affrontato i problemi di sicurezza sollevati. Ha parlato dell’importanza dei dati nell’era dell’intelligenza artificiale e delle opportunità offerte dalla capacità di catturarli e utilizzarli, ma non ha fornito dettagli concreti su come Microsoft intende proteggere questi dati. In seguito, Teevan ha solo confermato che i dati generati da Recall rimangono in locale, una rassicurazione debole dato che esistono già strumenti per estrarli.
Le critiche verso la funzione dunque continuano a crescere. Molti ritengono che la funzione potrebbe violare il GDPR e altri principi legali recenti, come il diritto all’oblio. Si sollevano anche preoccupazioni per scenari complessi, come la gestione delle cartelle cliniche di molti pazienti da parte di un’azienda, o le implicazioni per il sistema giudiziario nell’esaminare tutte le attività di un imputato sul proprio computer.
Inoltre, disattivare Recall non è semplice. Durante la configurazione iniziale di un Copilot Plus PC, l’utente viene informato dell’esistenza della funzione, ma invece di poter disattivare immediatamente la funzione, deve accedere a un’altra pagina delle impostazioni. Qui potrà “gestire le opzioni di Recall“, anche se non è presente una chiara opzione di disattivazione.