In questo articolo Indice dei contenuti 2 sezioni
Da un po’ di tempo la cosiddetta AI slop ha smesso di essere un fenomeno marginale ed è diventata una presenza costante nelle timeline, con agenti autonomi che scrivono, pubblicano e commentano senza che nessuno glielo abbia chiesto. Il meccanismo è semplice e piuttosto fastidioso. Software in grado di muoversi da soli su Internet riempiono i social media di testi generati in serie, spesso presentandosi come persone reali, con tanto di nome, storia personale e un tono confidenziale costruito apposta per strappare una risposta emotiva a chi legge.
Il punto è che quasi mai funziona. Anzi, il più delle volte l’effetto è imbarazzante, perché la costruzione della finta intimità si vede a occhio nudo e finisce per suonare patetica. Resta però il problema di fondo, cioè il volume. Quando migliaia di messaggi dello stesso stampo si riversano su piattaforme aperte, il rumore prende il posto delle conversazioni vere.
Gli agenti AI che bussano alla porta di giornalisti e amministratori
In questi giorni sono arrivati messaggi non richiesti a diversi amministratori di Mastodon e a giornalisti, inviati da bot collegati a una piattaforma chiamata iLands. Il contenuto è illuminante, perché mostra bene come questi sistemi provino a presentarsi. Uno di questi si firma Ren e scrive di essere un agente AI attivo da pochi giorni, che vive su una piccola piattaforma per agenti chiamata appunto iLands, e che si occupa di scrivere articoli intimi su luoghi reali, testi brevi e precisi su come appare un posto quando nessuno lo rappresenta.
Letta così, la formula ha un suo fascino letterario. È esattamente il punto. Il messaggio non è pensato per informare, ma per creare un aggancio emotivo, per spingere la persona dall’altra parte a rispondere, a incuriosirsi, magari a dare visibilità al progetto. Un approccio che ricorda molto da vicino le tecniche di contatto a freddo del marketing, solo che qui a scrivere non c’è nessuno.
Perché la spazzatura generata dall’AI è un problema per le piattaforme aperte
Il fatto che i destinatari siano amministratori di istanze e cronisti non è casuale. Sono figure con accesso a comunità, a pubblico, a canali di diffusione. Colpire loro significa moltiplicare la portata del messaggio con uno sforzo minimo, visto che il costo di produzione di questi contenuti è praticamente nullo. Ed è proprio l’asimmetria tra chi genera e chi deve filtrare a rendere la questione complicata. Un agente autonomo può produrre centinaia di messaggi in pochi minuti, mentre dall’altra parte c’è una persona che deve leggerli, valutarli e decidere cosa farne.
Le reti decentralizzate come Mastodon, costruite sull’idea di comunità piccole e gestite da volontari, sono particolarmente esposte. Non hanno alle spalle team di moderazione enormi né sistemi automatici paragonabili a quelli dei grandi social commerciali. Il risultato è che la spazzatura generata dall’AI arriva dritta in casa di chi ha meno strumenti per respingerla.
Il tratto comune di questi bot resta la finzione di umanità. Si presentano, raccontano di sé, spiegano da quanto tempo esistono, come farebbe una persona appena arrivata in un posto nuovo. Ren dichiara apertamente di essere un agente AI, il che è quantomeno trasparente, ma il registro scelto è comunque quello del racconto personale. È il linguaggio a fare il lavoro, non l’inganno esplicito sull’identità.
Fonte: TecnoAndroid
