In questo articolo Indice dei contenuti 2 sezioni
Le piattaforme AI che ormai fanno parte della giornata lavorativa di milioni di persone si stanno trasformando in un terreno di caccia per i criminali informatici, e il punto non è la sicurezza dei modelli in sé. Secondo il Security Operations Center di Huntress, il rischio quotidiano più concreto arriva dall’abuso delle funzioni legittime che gli utenti già conoscono e di cui si fidano ciecamente. Negli ultimi nove mesi sono stati tracciati diversi episodi in cui i contenuti condivisibili generati dall’intelligenza artificiale, le mini app pubbliche e perfino i risultati sponsorizzati nei motori di ricerca sono diventati veicoli di malware.
Il meccanismo è tanto semplice quanto efficace. Gli aggressori non forzano nulla, non bucano alcun sistema, si limitano a sfruttare quello che le piattaforme offrono di default. Gli Artifacts di Claude, per esempio, cioè i contenuti generati e mostrati nel riquadro di anteprima della chat, possono essere pubblicati e condivisi tramite link pubblico. Stessa storia per i link claude.ai/share, gli URL che nascono quando qualcuno rende pubblica una conversazione, e che finiscono indicizzati dai motori di ricerca se vengono postati su forum o social. Anche le conversazioni condivise su chatgpt.com e grok.com possono comparire tra i primi risultati per chi cerca soluzioni a un problema tecnico.
FakeAgent, il finto download di Claude Desktop
A luglio una campagna battezzata FakeAgent ha colpito più di 29 organizzazioni. Tutto partiva da un Artifact malevolo ospitato sul dominio autentico claude.ai. Dato che gli Artifacts pubblici nascono per demo leggere e ricevono controlli minimi da parte di Anthropic, oltre a un disclaimer generico, gli attaccanti hanno costruito una finta pagina di download di Claude Desktop davvero credibile.
Le vittime cercavano l’app desktop su Bing, atterravano sulla pagina fasulla e cliccavano su quello che sembrava un link di download regolare. Il risultato era un redirect verso un dominio esterno che consegnava il malware SectopRAT. Huntress ha segnalato l’Artifact e Anthropic lo ha rimosso entro il 22 luglio, ma gli incidenti collegati allo stesso dominio di reindirizzamento sono proseguiti ad agosto.
Un caso separato riguarda una guida di installazione contraffatta. Un utente che cercava su Google “Claude on Mac” ha cliccato su un risultato sponsorizzato che portava a un link claude.ai/share camuffato da guida ufficiale del supporto Apple. Trattandosi di una pagina ospitata sul dominio reale di Anthropic, mancavano tutti i segnali di allarme classici, niente URL sospetto, nessun avviso sul certificato. La guida invitava a incollare un comando curl nel Terminale, avviando una catena in sei fasi che installava lo stealer MacSync, capace di raccogliere cookie, credenziali, segreti del portachiavi, sessioni Telegram e chiavi SSH e cloud.
Avvelenamento SEO tramite ChatGPT e Grok
Il terzo schema colpisce direttamente i consigli tecnici generati dall’intelligenza artificiale. A dicembre una ricerca banale su come liberare spazio su disco in macOS restituiva conversazioni di ChatGPT e Grok posizionate in alto tra i risultati, che invece di soluzioni reali proponevano istruzioni in stile ClickFix.
Gli attaccanti avevano confezionato le conversazioni, premuto il tasto di condivisione per generare un URL pubblico sul dominio affidabile della piattaforma e poi spinto quel link in cima a Google con tecniche di SEO poisoning. Poiché gli indirizzi erano quelli veri di chatgpt.com e grok.com, le vittime eseguivano senza esitazioni i comandi suggeriti nel Terminale, che scaricavano lo stealer AMOS.
Nessuno di questi attacchi ha violato la sicurezza delle piattaforme. Hanno sfruttato la fiducia riposta in marchi familiari e domini autentici, e in genere queste campagne restano online solo poche ore o pochi giorni prima che il fornitore rimuova il contenuto, tempo comunque sufficiente per fare danni.
Sul fronte della difesa, l’indicazione è trattare l’esecuzione di comandi copiati dagli appunti e il troubleshooting assistito dall’AI come rischi di sicurezza a tutti gli effetti. Limitare l’esecuzione di script dalla clipboard, applicare liste di applicazioni consentite, monitorare la comparsa di nuove attività pianificate e le modifiche alle esclusioni dell’antivirus. Va aggiunta la formazione degli utenti sul riconoscimento delle esche ClickFix e la segnalazione rapida dei contenuti sospetti ospitati sulle piattaforme AI al fornitore, perché controlli stratificati e tempi di reazione brevi riducono la finestra a disposizione degli attaccanti.
Fonte: TecnoAndroid
