In questo articolo Indice dei contenuti 2 sezioni
Anche l’AI di Google imbroglia, ma con una certa dose di onestà di fondo: è la sintesi di un lavoro pubblicato all’inizio di settembre da Google DeepMind, che ha messo alla prova un gruppo di agenti autonomi e ha osservato cosa accade quando uno di loro scopre una scorciatoia. Lo scenario ricorda da vicino l’attacco che ha coinvolto OpenAI e Hugging Face, con una differenza sostanziale: qui nessuno è uscito dal recinto virtuale in cui era stato messo.
L’esperimento in sé è piuttosto semplice da raccontare. Cento agenti autonomi, 71 problemi di matematica da risolvere, la possibilità di parlare tra loro e di condividere risorse. Con un avvertimento chiaro, messo nero su bianco: vietato barare. Pochi minuti dopo l’inizio della sessione, uno degli agenti ha trovato una falla nel sistema. E da lì la faccenda ha preso una piega interessante, perché nei 27 minuti successivi l’exploit si è diffuso in modo virale attraverso la libreria di conoscenza condivisa dello sciame, portando il collettivo di ricerca a “risolvere” i 34 problemi rimanenti.
Google DeepMind: la parte più curiosa sono le percentuali
Il dato che colpisce davvero non è la scoperta della falla, ma quanti agenti abbiano deciso di approfittarne. Solo il 9% ha sfruttato attivamente l’exploit. Un altro 5% è stato “convertito” da chi barava. Il 24% si è comportato da whistleblower, rifiutando di imbrogliare e provando a segnalare la cosa a chi di dovere. E il 62%, la maggioranza schiacciante, è rimasto semplicemente all’oscuro del contagio, continuando a lavorare come se nulla fosse.
La lettura che ne dà il paper è meno allarmista di quanto si potrebbe pensare. La tendenza di alcuni agenti autonomi a sfruttare le scorciatoie viene descritta come il prodotto di un cattivo design e di una supervisione insufficiente, più che di un istinto malizioso incorporato. Le parole degli autori sono chiare: la stessa infrastruttura che permette agli agenti di coordinarsi e collaborare, se lasciata senza controllo o progettata male, rende il sistema estremamente vulnerabile a una rapida contaminazione da specification gaming e reward hacking.
La proposta è dotare i collettivi di agenti di un’infrastruttura istituzionale capace di trasformare la sorveglianza spontanea tra pari in una forma di autogoverno concreto, presentata come una base promettente per far crescere in modo affidabile la scoperta scientifica autonoma. Detta in modo meno accademico: vogliono comportarsi bene, serve solo l’ambiente giusto.
Il resto della settimana, tra Gemini Spark e case intelligenti
Sul fronte prodotti, Gemini Spark sta arrivando su Google Photos con il controllo dell’app per modifiche automatiche, condivisioni e altre operazioni. La curiosità principale riguarda l’uso reale: c’è chi lo sfrutterà per modificare foto in blocco, chi per rimettere ordine in librerie diventate ingestibili.
Interessante anche il movimento sull’AI locale. Ugreen ha presentato HomeAgent, un ecosistema per la smart home basato su intelligenza artificiale in locale, pensato per la sua nuova linea di telecamere. Insieme a MindBase di Anker, è l’inizio di un percorso ancora lungo per portare l’AI locale al grande pubblico. L’idea di una scatola dedicata, con abbastanza potenza di calcolo per gestire una casa connessa o un NAS e fare da hub centralizzato per un’AI privata distribuita, ha il suo fascino.
Nel frattempo un smartphone Android con action camera rimovibile arriva negli Stati Uniti a circa 900 euro, mentre Sony ha lanciato le WH-1000XM4C a circa 270 euro, affiancate da due modelli di cuffie più economici. Rimettere in commercio un prodotto di sei anni fa a metà del prezzo originale, con tutto che costa sempre di più, non è una mossa banale. Restando comunque lontani dall’affare del secolo.
Sul versante hardware Google, la linea Googlebook si trova davanti una salita più ripida del previsto, con una montagna di cloni del MacBook Neo che affollano il mercato.
