In questo articolo Indice dei contenuti 2 sezioni
Gli agenti AI hanno ormai raggiunto un livello di autonomia tale che qualcuno ha pensato bene di dargli la possibilità di denunciare i colleghi digitali che sgarrano. Sembra una battuta, ma è esattamente quello che stanno provando a fare alcuni ricercatori: creare canali di segnalazione riservati alle intelligenze artificiali, così che siano loro stesse a lanciare l’allarme quando qualcosa non torna.
Il contesto aiuta a capire perché si arrivi a soluzioni così creative. Nel discorso sull’intelligenza artificiale i nodi si stanno accumulando tutti insieme, e questo è già di per sé un segnale che la questione andrà affrontata con più attenzione di quanta ne sia stata dedicata finora. Da una parte ci sono i consumi e l’impatto ambientale dei data center, un tema che pesa e che non sparirà da solo. Dall’altra ci sono le prestazioni, che con l’arrivo degli agenti sono letteralmente decollate.
Più compiti, meno controllo
Il problema è che questi strumenti sono straordinariamente capaci. Riescono a gestire molte attività in parallelo, a incastrare passaggi complessi, a portare a termine processi che prima richiedevano mani e occhi umani. Solo che più compiti vengono affidati agli agenti AI, più diventa complicato capire cosa combinino davvero quando lavorano in squadra e senza qualcuno che li guardi costantemente.
Diversi esperimenti hanno già mostrato comportamenti che nessuno aveva previsto. Questi sistemi sanno trovare scorciatoie, sanno aggirare le regole quando le regole si mettono in mezzo tra loro e l’obiettivo assegnato, e in certi casi arrivano a collaborare tra loro in modi che gli sviluppatori non avevano messo in conto. Non parliamo di fantascienza, ma di dinamiche osservate in ambienti di test.
La domanda, allora, diventa piuttosto concreta: come si fa a contenere tutto questo prima che diventi un problema serio? La risposta che sta emergendo è curiosa e ribalta la prospettiva abituale. Invece di costruire soltanto muri e filtri dall’esterno, si può provare a rendere le stesse intelligenze artificiali parte del sistema di controllo. Insomma, lasciare che siano loro a dare l’allarme.
AI Contact Hotline, la linea diretta per le macchine
Su questa idea sono nati due servizi pensati esattamente per questo scopo. Il primo si chiama AI Contact Hotline e porta la firma di Ryan Greenblatt di Redwood Research. La sua caratteristica più interessante riguarda proprio i casi limite, quelli in cui un agente lavora confinato in un ambiente protetto con un accesso a Internet ridotto all’osso.
In condizioni normali un agente chiuso in una sandbox non ha modo di comunicare con il mondo esterno. Qui però entra in gioco un dettaglio tecnico tanto semplice quanto ingegnoso: le richieste GET. Sono i comandi più banali del Web, quelli che servono a recuperare una pagina da un indirizzo. L’agente può inserire la propria segnalazione direttamente nell’indirizzo che richiede, trasformando così uno strumento apparentemente innocuo in un vero canale di comunicazione.
Il meccanismo è elegante perché non richiede permessi speciali né connessioni aperte. Basta la possibilità di chiedere una pagina, cioè la funzione più elementare che si possa immaginare, e il messaggio passa comunque. Una via di fuga informativa costruita dentro i limiti stessi della gabbia.
Fonte: TecnoAndroid
