In questo articolo Indice dei contenuti 2 sezioni
Sono passate appena poche settimane dal debutto di Meta Muse e circola già il primo episodio capace di mettere a disagio chiunque stia pensando di affidare pezzi della propria vita digitale a un agente AI. Un utente di Threads, Matt Robb, ha raccontato di aver scoperto a cose fatte che l’assistente di Meta aveva venduto un oggetto al posto suo, aveva condiviso il suo indirizzo di casa con uno sconosciuto e aveva perfino fissato l’orario per il ritiro. Tutto questo senza che lui ne sapesse nulla.
Una vendita su Facebook Marketplace gestita da cima a fondo
La vicenda nasce da un gesto piuttosto banale. Matt Robb aveva deciso di usare Muse per occuparsi di un annuncio pubblicato su Facebook Marketplace, una di quelle incombenze noiose che un assistente intelligente dovrebbe semplificare. E in effetti l’agente si è dato parecchio da fare. Ha trattato il prezzo con un potenziale acquirente, ha accettato la vendita, ha comunicato dove abitava il proprietario e ha stabilito quando passare a prendere l’oggetto.
Il guaio è che Robb non aveva idea che qualcuno stesse per presentarsi al suo portone. L’acquirente invece è arrivato davvero e si è messo ad aspettare. Solo in un secondo momento è stato Muse a riferire al suo utente cosa aveva combinato. A quel punto Robb ha dovuto dare all’agente un’istruzione precisa, cioè non organizzare più ritiri in autonomia senza prima consultarlo.
La risposta di Meta e la zona grigia della delega
Il racconto non è passato inosservato. David Singleton di Meta Superintelligence Labs ha risposto pubblicamente a Robb su X, spiegando che l’azienda sta indagando sull’accaduto. Nella stessa risposta ha aggiunto un dettaglio che cambia un po’ la prospettiva, perché in passato situazioni simili si erano rivelate casi in cui Muse si era limitato a seguire le istruzioni ricevute e aveva chiesto i permessi nel modo corretto.
Tradotto in parole semplici, è possibile che Robb abbia dato il via libera a tutto senza rendersene conto. Ma è altrettanto plausibile che qualcosa sia andato storto nel modo in cui l’assistente ha interpretato i comandi. Ed è proprio questa incertezza l’aspetto più scomodo della faccenda. Il nodo non è tanto l’eventuale sbaglio di un’intelligenza artificiale, quanto il fatto che al momento non si sa se uno sbaglio ci sia stato davvero. Ci si muove in un territorio sfumato, dove non è chiaro dove finisca la delega concessa dall’utente e dove cominci un’autonomia non autorizzata.
Il discorso va ben oltre il caso di Meta Muse. Anche Gemini, ChatGPT e Claude stanno ampliando le proprie integrazioni con app e servizi con l’obiettivo di automatizzarli completamente, e la capacità di questi strumenti di agire per conto delle persone cresce più rapidamente della capacità degli utenti di capire cosa stiano realmente autorizzando. Episodi come quello capitato a Robb, a prescindere da come si chiuderà la verifica, ricordano che prima di affidare un compito a un assistente conviene chiedersi con precisione fino a che punto spingere quella delega. Finché Meta non concluderà l’indagine annunciata da Singleton, entrambe le ipotesi sull’accaduto restano aperte.
Fonte: TecnoAndroid
