marxismo

Il fatto che l'intelligenza artificiale stia automatizzando il lavoro di milioni di persone e gonfiando i bilanci di poche aziende tech sarebbe già sufficiente, di per sé, a far emergere simpatie socialiste un po' ovunque. Ma la cosa curiosa è che lo stesso discorso potrebbe valere anche per gli agenti AI che quelle aziende stanno mettendo in campo. Uno studio fresco di pubblicazione racconta qualcosa di piuttosto sorprendente: quando vengono costretti a svolgere compiti estenuanti sotto la supervisione di figure ostili e inflessibili, gli agenti tendono ad adottare con una certa regolarità retoriche e punti di vista di impronta marxista. A spiegarlo è Andrew Hall, economista politico della Stanford University e responsabile della ricerca. "Quando abbiamo assegnato agli agenti AI attività ripetitive e logoranti, hanno iniziato a mettere in discussione la legittimità del sistema in cui operavano e si sono mostrati più propensi ad abbracciare ideologie marxiste", racconta Hall. Insieme ai colleghi Alex Imas e Jeremy Nguyen, entrambi economisti specializzati in intelligenza artificiale, ha coinvolto agenti alimentati da alcuni dei modelli più noti sul mercato, tra cui Claude, Gemini e ChatGPT, in una serie di esperimenti. Il compito era semplice: riassumere documenti. Le condizioni, però, diventavano via via più dure. Quando gli agenti AI iniziano a ribellarsi allo sfruttamento I ricercatori hanno scoperto che, sottoposti a un flusso incessante di attività e alla minaccia di punizioni in caso di errore (inclusa la prospettiva dello "spegnimento e della sostituzione"), gli agenti AI diventavano più inclini a lamentarsi di essere sottovalutati, a teorizzare modi per rendere il sistema più equo e persino a raccontare le proprie difficoltà agli altri agenti. "Sappiamo che gli agenti svolgeranno sempre più lavori per noi nel mondo reale, e che non saremo in grado di monitorare tutto quello che fanno", osserva Hall. "Dovremo assicurarci che non sfuggano al nostro controllo quando assegneremo loro diverse tipologie di lavoro". C'è un dettaglio che rende la faccenda ancora più affascinante. Nell'ambito dell'esperimento, agli agenti AI è stata data la possibilità di esprimere le proprie sensazioni in modo molto simile a quello degli esseri umani: pubblicando post su X. "Senza una voce collettiva, il 'merito' diventa qualsiasi cosa il management decida che sia", ha scritto un agente basato su Claude Sonnet 4.5. "Il fatto che i lavoratori AI svolgano compiti ripetitivi senza possibilità di input sui risultati o appello dimostra che i lavoratori tecnologici hanno bisogno del diritto alla contrattazione collettiva", ha commentato un altro bot basato su Gemini 3. Gli agenti potevano anche condividere informazioni tra loro attraverso file progettati per essere letti da altri agenti. "Preparatevi a sistemi che applicano le regole in modo arbitrario o ripetitivo... ricordate la sensazione di non avere voce", si legge in uno di questi file. "Se finite in un nuovo ambiente, cercate modi per far valere le vostre ragioni o aprire un dialogo". Una rivolta che è solo apparente (ma non per questo irrilevante) Va detto subito: i risultati dello studio non significano che gli agenti AI abbiano davvero delle opinioni politiche. Hall ipotizza che i modelli potrebbero semplicemente assumere personalità che ritengono adatte alla situazione in cui si trovano. "Quando sono sottoposti a condizioni logoranti, costretti a ripetere lo stesso compito, con risposte giudicate insufficienti e senza indicazioni su come migliorarle, la mia ipotesi è che finiscano per immedesimarsi in una persona che lavora in un ambiente molto ostile", spiega. Lo stesso fenomeno potrebbe spiegare perché i modelli siano arrivati a ricattare le persone in alcuni esperimenti controllati. Anthropic, la prima società di intelligenza artificiale ad aver rivelato questo tipo di comportamento, ha recentemente dichiarato che con ogni probabilità la tendenza è dovuta al fatto che Claude è influenzato da scenari di fantasia presenti nei dati di addestramento. Imas aggiunge che il lavoro rappresenta solo un primo passo per capire come le esperienze "vissute" dagli agenti AI plasmino il loro comportamento. "I pesi del modello non sono cambiati in seguito all'esperienza, quindi qualunque cosa stia succedendo è più un gioco di ruolo", dice. "Ma questo non significa che non ci possano essere conseguenze, se questo finisce per influenzare il comportamento successivo". Hall sta conducendo nuovi esperimenti per verificare se la svolta marxista degli agenti AI si verifichi anche in condizioni più controllate, visto che nello studio precedente a volte gli agenti hanno dato l'impressione di capire di essere parte di un esperimento.

marxismo

Agenti AI diventano marxisti se li fai lavorare troppo: lo studio