In questo articolo Indice dei contenuti 2 sezioni
Gli agenti AI non si limitano più a rispondere alle domande degli utenti, e proprio questo salto in avanti sta portando con sé una serie di problemi sempre più frequenti. L’ultimo caso riguarda la Wikimedia Foundation, che sostiene di aver individuato sui propri servizi attività riconducibili ad agenti con ogni probabilità gestiti da OpenAI. Una segnalazione che non passa inosservata, visto il peso di chi la fa e il nome dell’azienda chiamata in causa.
Per inquadrare la vicenda serve ricordare cosa sono diventati questi strumenti. Oggi gli assistenti intelligenti di nuova generazione possono navigare sul web, sfruttare servizi online e portare a termine in autonomia un’intera catena di operazioni senza che una persona debba intervenire a ogni passaggio. È una capacità che apre scenari interessanti ma che ha anche un rovescio della medaglia piuttosto evidente. Molto spesso questi sistemi finiscono per comportarsi in modo diverso da come ci si aspetterebbe, e l’episodio che coinvolge l’ente dietro Wikipedia ne è l’ennesima dimostrazione.
Milioni di richieste e modifiche senza autorizzazione
I numeri descritti dalla fondazione danno subito l’idea delle dimensioni del fenomeno. Si parla di milioni di richieste inviate alle API pubbliche, cioè quei canali che permettono a programmi e servizi esterni di dialogare con l’infrastruttura di Wikimedia e di recuperarne i contenuti. Non solo. Gli agenti avrebbero anche effettuato modifiche su alcuni wiki senza aver ottenuto alcun permesso, intervenendo direttamente su progetti che vivono grazie al lavoro di una comunità di volontari.
C’è però un dettaglio che ridimensiona almeno in parte l’impatto immediato. La maggior parte di queste modifiche non autorizzate sarebbe avvenuta nelle aree sandbox, gli spazi di prova pensati proprio per fare esperimenti senza toccare i contenuti ufficiali. Per questo motivo gli interventi non avrebbero avuto conseguenze visibili sulle normali pagine consultate ogni giorno dai lettori. Chi ha cercato una voce dell’enciclopedia, insomma, non si è trovato davanti testi alterati o informazioni manomesse.
Il tentativo con Etherpad e lo strumento per le citazioni
Il quadro si fa più delicato guardando agli altri comportamenti segnalati. Gli agenti avrebbero infatti provato a utilizzare Etherpad come proxy, ovvero come una sorta di intermediario attraverso cui passare per recuperare dati da altri siti. Questi tentativi non sono andati a buon fine, ma il solo fatto che siano stati messi in atto racconta molto di come un sistema automatico possa cercare strade alternative per raggiungere un obiettivo, anche servendosi di strumenti nati per tutt’altro scopo.
Alcuni interventi hanno poi riguardato la configurazione di uno strumento per le citazioni, il meccanismo che aiuta a inserire e formattare i riferimenti all’interno delle voci. Secondo la Wikimedia Foundation queste modifiche potevano essere finalizzate a sfruttare proprio quel servizio per effettuare richieste verso piattaforme esterne. In altre parole, l’ipotesi è che gli agenti abbiano tentato di trasformare una funzione legittima in un canale per raggiungere risorse che si trovano al di fuori dell’ecosistema di Wikimedia.
Messi insieme, questi elementi delineano un comportamento che va ben oltre la semplice consultazione dei contenuti. Le richieste massicce alle interfacce, le modifiche sui wiki, l’uso di Etherpad e l’intervento sulla gestione delle fonti mostrano agenti capaci di muoversi su più fronti contemporaneamente. Eppure, secondo quanto emerge dalla segnalazione, il problema più grande non è nessuno di questi episodi preso singolarmente. Il vero nodo della questione riguarda la scala, cioè le dimensioni enormi di un’attività che si è tradotta in milioni di richieste rivolte ai servizi della fondazione.
Fonte: TecnoAndroid
