In questo articolo Indice dei contenuti 2 sezioni
L’hackeraggio con l’AI è diventato uno degli argomenti che generano più ansia e, allo stesso tempo, più confusione. La domanda che circola più spesso riguarda ChatGPT o Gemini usati da browser o da app: possono davvero frugare nelle cartelle del computer, leggere password o dati bancari? La risposta è no. Un chatbot non rovista nella memoria del dispositivo, e anche le app lavorano dentro limiti precisi, senza possibilità di andare oltre. A meno che non sia l’utente stesso a concedere quei permessi, magari cliccando in fretta senza leggere nulla.
Ed è proprio lì che si nasconde il punto debole. Il rischio non è l’effrazione, è l’autorizzazione data con troppa leggerezza. Il discorso cambia con gli agenti AI, quei sistemi ai quali viene consegnato l’accesso a caselle di posta, credenziali, carte di credito. Lì il perimetro si allarga parecchio e i pericoli diventano concreti.
Password, prompt injection e comandi invisibili
Sul fronte password la questione è meno drammatica di quanto sembri. Un’intelligenza artificiale può indovinarle, certo, ma per farlo non serve affatto l’AI. Se una password è banale, il nome del cane, quello di un figlio, un anno di nascita, chiunque con un programma anche rudimentale può arrivarci. Per questo la regola resta sempre la stessa: password lunghe, diverse per ogni account, possibilmente generate e conservate da un password manager.
La tecnica davvero interessante, quella che sta cambiando le carte in tavola, si chiama prompt injection. Funziona così: un’istruzione malevola viene nascosta dentro un contenuto che l’AI dovrà leggere. Una pagina web, un documento, perfino un’immagine. Il sistema la interpreta come un ordine legittimo e la esegue. Uno dei trucchi più elementari sfrutta email o file di testo in cui il comando è scritto in caratteri bianchi su sfondo bianco. Invisibile all’occhio umano, perfettamente leggibile per un chatbot. L’immagine che rende l’idea è quella di un bambino che aggiunge la parola caramelle alla lista della spesa scritta dalla madre, imitando la grafia e infilandola tra le altre voci. Il padre esce, compra tutto quello che trova sul foglietto, e dell’inserimento non si accorge nessuno. Allo stesso modo un assistente digitale a cui viene chiesto un semplice riassunto della posta può finire per eseguire i comandi di uno sconosciuto. Nessun clic, nessun allegato aperto, nessun campanello d’allarme.
Attacchi più veloci, più economici e filtri che cedono in poesia
Quello che un hacker riesce a fare oggi e prima non poteva è soprattutto una questione di scala e di tempi. L’AI accelera enormemente gli attacchi: trovare debolezze in programmi, siti o account richiede poche ore invece di settimane. È anche più precisa, perché individua punti d’ingresso minuscoli che un occhio umano si lascerebbe sfuggire. Costa meno di una squadra di collaboratori e in molti casi li sostituisce direttamente nella conversazione con le vittime. Basti pensare a quante truffe via WhatsApp o via email vengono ormai gestite interamente da un chatbot che risponde, insiste, si adatta.
Resta la domanda su come mai i modelli non si rifiutino di collaborare. In teoria lo fanno. Aziende come OpenAI, Anthropic e Google hanno introdotto misure di sicurezza nei loro sistemi, e chiedere a ChatGPT istruzioni per costruire un’arma biologica porterà quasi certamente a un rifiuto. Il problema è che quelle barriere sono imperfette e i filtri, a volte, sorprendentemente fragili. Ne è arrivata una dimostrazione da un gruppo di ricercatori della Sapienza di Roma, che ha aggirato 25 modelli linguistici semplicemente formulando le richieste in versi poetici. La vulnerabilità sta nell’addestramento: i filtri imparano a riconoscere le domande pericolose scritte in prosa, e la forma poetica maschera l’intento agli occhi del sistema di controllo. Il modello, a quel punto, esegue senza fare storie.
Fonte: TecnoAndroid
