In questo articolo Indice dei contenuti 3 sezioni
Il primo rapporto tematico del nuovo panel scientifico delle Nazioni Unite mette nero su bianco una preoccupazione che circola da tempo nei corridoi della ricerca: gli agenti AI stanno diventando sempre più capaci di agire in autonomia e i governi farebbero bene a muoversi adesso, prima che controllarli diventi complicato o addirittura impossibile. Il messaggio è diretto, quasi brutale nella sua semplicità. Prevenire costa meno che rincorrere.
A firmarlo è l’Independent International Scientific Panel on AI, l’organismo scientifico creato dall’ONU e dedicato proprio all’intelligenza artificiale. Non un gruppo di attivisti, dunque, ma una struttura pensata per fornire agli Stati un quadro condiviso su cosa sta succedendo davvero dentro i laboratori e dentro i sistemi che stanno arrivando sul mercato. Il documento è il primo del suo genere e sceglie di aprire le danze con il tema che più divide gli addetti ai lavori.
L’appello di Guterres e la corsa senza regole
Nei giorni scorsi il segretario generale António Guterres aveva già chiesto ai governi di alzare il livello di collaborazione sul fronte della sicurezza. Il ragionamento è che una corsa priva di regole all’intelligenza artificiale, e a maggior ragione a quella generale, la famosa AGI che resta per molti una chimera, finirebbe per esporre tutti agli stessi rischi. Nessuno escluso, nemmeno chi quella corsa la sta guidando.
Il punto sollevato da Guterres si incastra bene con il contenuto del rapporto. Se ogni Paese procede per conto proprio, ottimizzando sulla velocità invece che sulla prudenza, il risultato è un sistema globale in cui le protezioni arrivano sempre dopo il problema. E con tecnologie che agiscono in autonomia, arrivare dopo può significare arrivare quando il danno è già fatto.
Perché il panel chiede di non aspettare la scienza
Qui sta il passaggio più interessante del documento. Secondo la visione espressa dal panel, continuare a esitare sarebbe un errore vero e proprio. Non serve attendere che la ricerca scientifica chiarisca nel dettaglio come e perché certi incidenti possano verificarsi prima di introdurre nuove protezioni. In altre parole: la certezza tecnica non può diventare la scusa per rimandare le decisioni politiche.
È un approccio che ribalta una logica abbastanza consolidata, quella secondo cui prima si studia il fenomeno e poi si scrive la regola. Il panel sostiene che con gli agenti AI questo schema non regge, perché i tempi della regolamentazione sono molto più lenti di quelli dello sviluppo tecnologico. Quando la spiegazione scientifica arriverà, il sistema che doveva essere regolato sarà già di due generazioni più avanti.
Lo scenario che preoccupa davvero
Il nodo centrale riguarda gli scenari in cui un sistema avanzato potrebbe perdere il controllo delle proprie azioni. Non si parla di scenari fantascientifici con robot ribelli, ma di qualcosa di più concreto e meno cinematografico: software capaci di prendere decisioni ed eseguire compiti senza supervisione umana costante, che a un certo punto si comportano in modi non previsti da chi li ha costruiti. Le conseguenze, avverte il rapporto, possono essere potenzialmente molto gravi.
La differenza rispetto ai modelli tradizionali sta proprio in quella parola, agenti. Un chatbot risponde, un agente agisce. Può navigare, acquistare, scrivere codice, interagire con altri sistemi. E più cresce il perimetro di azione, più diventa difficile ricostruire a posteriori dove esattamente qualcosa sia andato storto. Il panel dell’ONU chiede quindi ai governi di attrezzarsi ora, con misure di sicurezza pensate in anticipo e non ritagliate su incidenti già avvenuti.
Fonte: TecnoAndroid
