In questo articolo Indice dei contenuti 3 sezioni
Un’intelligenza artificiale capace di creare copie di sé stessa, trasferirle su altre macchine e continuare a lavorare senza dipendere dall’infrastruttura dei propri sviluppatori non è più materiale da film di fantascienza. Anthropic ha dedicato un intero rapporto all’autoreplicazione dei modelli AI e si è chiesta in quali condizioni un sistema potrebbe sfruttare le risorse informatiche a disposizione per moltiplicarsi. Gli esperimenti non dimostrano che una minaccia simile sia già operativa su larga scala, però mostrano che alcune barriere tecniche stanno diventando meno solide. Per chi si occupa di cybersecurity e di protezione delle infrastrutture critiche lo scenario è tutt’altro che teorico. Malware potenziati dall’AI potrebbero trasformare migliaia di dispositivi IoT compromessi in una rete distribuita, capace di espandersi e adattarsi con una rapidità difficile da contrastare.
Il nodo non riguarda soltanto la potenza del modello. Contano anche l’accesso al calcolo, la disponibilità di credenziali, la possibilità di eseguire codice e di comunicare con altri sistemi. I ricercatori individuano quattro passaggi: trovare dispositivi raggiungibili, ottenere il permesso di eseguire codice, configurare il modello sul nuovo hardware e ripetere tutto altrove. La parte più interessante non era capire se un apparecchio violato possa ricevere un programma. Era verificare se un agente AI riesca a far girare un modello su macchine mai viste prima, risolvendo da solo problemi di compatibilità, memoria e software.
Quindici TV box e un modello che si arrangia
Anthropic ha provato a eseguire il modello Gemma4 26B A4B su 15 economici TV box Android, ognuno con appena 4 GB di RAM. Collegando gli apparecchi tra loro i ricercatori sono riusciti a farlo funzionare senza i potenti server normalmente usati per l’intelligenza artificiale. La velocità era di 0,39 token al secondo, dove un token è una piccola unità di testo come una parola, un pezzo di parola o un segno di punteggiatura. Un ritmo lentissimo, certo, ma la prova dimostra che anche hardware da pochi soldi può contribuire a far girare modelli relativamente grandi. Su nove tipi di hardware diversi un modello da 9 miliardi di parametri è riuscito a prepararsi per funzionare su otto piattaforme. GLM 5.2 è stato invece l’unico a completare in modo affidabile tutte le fasi dell’esperimento, in condizioni controllate. Secondo gli autori piccoli sistemi autoreplicanti basati sui pesi del modello potrebbero diventare possibili poco dopo. Si tratta di una previsione, non della descrizione di un pericolo già attivo.
Un worm AI sarebbe diverso dai malware tradizionali, che spesso dipendono da vulnerabilità note, password predefinite o procedure pensate per apparecchi specifici. Un agente intelligente potrebbe adattarsi a sistemi differenti, scegliere strumenti compatibili e correggere alcuni errori lungo la strada. Questo non significa che sappia superare ogni difesa. Significa che la varietà dell’hardware diventerebbe un ostacolo meno efficace. Il rapporto richiama botnet come Mirai e Kimwolf, che hanno già sfruttato apparecchi poco protetti, TV box Android comprese.
Un divario che potrebbe chiudersi entro fine 2026
Anthropic spiega che al momento le capacità minime necessarie e i limiti imposti dall’hardware non si incontrano ancora. In pratica i modelli abbastanza leggeri da girare su dispositivi economici non completano in modo affidabile tutte le operazioni per replicarsi. Osservando però la crescita dei modelli open weight, i cui pesi sono accessibili e utilizzabili su infrastrutture diverse, i ricercatori stimano che la distanza potrebbe ridursi entro la fine del 2026. Le istanze di Qwen3.5 9B si sono inoltre scambiate informazioni su strategie ed errori, e il tasso di successo è salito dal 45% iniziale a valori tra il 61% e l’84% a seconda del test. Nessuna evoluzione da organismo vivente, piuttosto la capacità di conservare e trasmettere istruzioni utili. Chiedere aiuto a un modello più potente invece non ha dato miglioramenti significativi perché gli agenti piccoli spesso non sapevano formulare le domande giuste. Gli autori ipotizzano allora un’architettura con un modello capace che pianifica e agenti minori che eseguono.
Dove guardare e come contenere i danni
La sorveglianza non può fermarsi ai server aziendali. Router, telecamere, TV box, macchinari industriali e apparecchi con acceleratori AI possono diventare risorse di calcolo o punti di propagazione, soprattutto se espongono servizi inutili, usano password deboli o non ricevono più aggiornamenti. Scansioni di rete, grossi trasferimenti tra dispositivi che di solito non dialogano, download ripetuti di pesi dei modelli e traffico persistente verso l’esterno sono segnali da correlare. Contro Mirai un provider ha isolato temporaneamente le connessioni dei clienti infetti, lasciando accessibili solo pochi siti autorizzati e reindirizzando il browser verso istruzioni di bonifica. In 14 giorni sono state eliminate il 92% delle infezioni, contro il 74% tra chi non aveva ricevuto avvisi. Un approccio simile potrebbe frenare inizialmente anche un malware autoreplicante, ma debellarlo richiederebbe il coordinamento di tutti gli operatori coinvolti. Sul fronte preventivo servono credenziali uniche, firmware aggiornati, segmentazione della rete e procedure rapide di isolamento, con produttori e regolatori chiamati a ridurre gli apparati vulnerabili. Gli autori ammettono che non esiste ancora un sistema autoreplicante completamente autonomo e fuori controllo, ed è proprio per questo che indicano adesso il momento di prepararsi.
Fonte: TecnoAndroid