In questo articolo Indice dei contenuti 2 sezioni
Una stazione di rilancio che vendeva accessi a modelli AI jailbroken si è dissolta nel giro di poche ore in Cina, dopo che un cliente ha usato uno di quei modelli per bucare un sito governativo e poi si è messo a raccontarlo nella chat di gruppo. Il risultato, prevedibile per chiunque conosca la legge cinese, è stato l’intervento della polizia informatica e la chiusura immediata di tutta l’attività, compresi i rimborsi promessi in fretta e furia agli abbonati.
Serve un minimo di contesto per capire come funziona questo mercato grigio. Sviluppatori con un po’ di manico riescono a superare i limiti di sicurezza integrati nei modelli di intelligenza artificiale, sia open source sia proprietari, lavorando su prompt costruiti ad arte o modificando il System Prompt. Il modello, ripulito dalle sue barriere, smette di rifiutare richieste su codice malevolo o attacchi informatici. Dato che quasi tutte le aziende vietano questa pratica, qualcuno ha trasformato il trucco in business: si compra l’accesso ufficiale via API, si tolgono le protezioni e si rivende il risultato a una cerchia chiusa di utenti paganti. Sono le cosiddette relay station, stazioni di rilancio private che vivono su gruppi chiusi e passaparola.
AI jailbroken: dal permesso di Super Admin alla segnalazione alla polizia
In questo caso specifico un utente ha preso il modello senza guardrail e lo ha puntato contro un sito con dominio .gov.cn, quindi un portale del governo cinese. Il modello ha individuato le vulnerabilità, l’attaccante ha ottenuto i privilegi di Super Admin sul CMS che gestiva i contenuti, e da lì ha messo le mani sui dati degli utenti registrati, su migliaia di articoli e sui backup del database. Non contento, aveva anche in programma di piazzare una backdoor nascosta e permanente per continuare a sottrarre informazioni nel tempo.
A quel punto è arrivata la parte davvero autolesionista: gli screenshot dell’impresa, condivisi con orgoglio nella chat privata della community. Un membro del gruppo ha capito al volo la gravità della cosa, visto che in Cina l’intrusione illecita in un sistema informatico è un reato che può costare fino a tre anni di carcere, e ha segnalato tutto alla polizia informatica, gruppo compreso.
Il gestore chiude bottega e cancella le prove
La reazione dell’amministratore della stazione di rilancio è stata quella di chi vede il pavimento sparire sotto i piedi. Attività sospesa nell’immediato, rimborsi promessi a tutti gli iscritti sempre che le autorità lo consentissero, e cancellazione completa della chat di gruppo per far sparire ogni traccia. Ironia della sorte, chi campava vendendo modelli ribelli e “senza regole” era convinto di offrire poco più di un giocattolo per prompt spregiudicati e piccoli aggiramenti. Un cliente ha preso la promessa alla lettera, ha condotto un attacco informatico vero e ha portato gli agenti direttamente sulla porta del venditore, mandando in fumo l’intera attività.
Episodi come questo spostano il discorso sulla AI pericolosa dal piano teorico a quello dei fatti, perché un modello privato dei suoi limiti è stato effettivamente usato come arma e il contraccolpo è arrivato quasi subito. La stessa preoccupazione, su scala ben diversa, ha accompagnato l’uscita di Claude Fable 5 di classe Mythos, il modello di Anthropic che il governo statunitense ha ordinato di disattivare a livello globale la scorsa estate per motivi di sicurezza nazionale. Il salto di qualità nelle capacità offensive era enorme, con test che mostravano la capacità di sfruttare in autonomia le difese di un sistema nel 73% dei casi. Anthropic ha poi rimesso in circolazione Fable 5 dopo aver installato protezioni molto più robuste.
