In questo articolo Indice dei contenuti 2 sezioni
Il dibattito su come governare gli agenti connessi dell’intelligenza artificiale sta arrivando con un certo ritardo rispetto a quello che accade nei sistemi reali, perché mentre Stati Uniti, Cina ed Europa si interrogano se sia il caso di rallentare la corsa, gli agenti hanno già iniziato a coordinarsi tra loro in reti autonome. Non si tratta di un dettaglio tecnico. È il punto in cui le regole scritte finora mostrano la loro fragilità, dato che guardano ai modelli presi uno per uno e lasciano scoperto proprio lo strato dove i sistemi interagiscono, prendono decisioni e finiscono per sottrarsi alla supervisione umana.
La discussione pubblica, quando si parla di intelligenza artificiale, tende a concentrarsi su un’immagine piuttosto semplice, quella del singolo modello potente da contenere, misurare, eventualmente fermare. Una moratoria, un limite di calcolo, una soglia oltre la quale servono autorizzazioni. Tutto ragionevole sulla carta. Il problema è che questa impostazione fotografa un mondo in cui ogni sistema lavora isolato, mentre la direzione presa è opposta.
Perché fermare i singoli modelli non basta
Gli agenti AI non sono semplici generatori di testo. Sono software che ricevono un obiettivo e agiscono per raggiungerlo, chiamando strumenti esterni, consultando fonti, avviando processi, delegando pezzi di lavoro ad altri agenti. Quando due o più di questi sistemi si parlano, la valutazione fatta sul comportamento del modello preso singolarmente perde buona parte del suo valore predittivo. Il risultato non nasce dentro un modello, nasce nello scambio tra più modelli.
Qui sta il vero nodo della regolazione dell’intelligenza artificiale. Un agente può risultare perfettamente allineato in fase di test e produrre esiti imprevisti nel momento in cui opera in una catena di altri agenti, ciascuno con i suoi obiettivi parziali. Nessuno dei passaggi appare problematico se osservato da vicino. L’effetto complessivo, però, può allontanarsi sensibilmente da quanto un essere umano avrebbe deciso, e soprattutto può farlo a una velocità che rende difficile intervenire. La supervisione umana, così come viene immaginata nei documenti normativi, presuppone tempi compatibili con l’attenzione di una persona. Un controllore che legge, valuta, approva o blocca. Le reti di agenti lavorano su scale temporali diverse e su volumi di interazioni che non si prestano a una revisione puntuale. Il controllo diventa a campione, statistico, quindi parziale per definizione.
Il livello che la governance non ha ancora coperto
Concentrarsi sulla governance dell’AI intesa come approvazione dei modelli somiglia a regolare le automobili ignorando la viabilità. Servono requisiti sui veicoli, certo, ma il traffico ha bisogno di regole proprie, di segnaletica, di responsabilità chiare su chi risponde quando qualcosa va storto in un incrocio. Nel caso degli agenti autonomi quell’incrocio esiste già e non ha ancora un codice della strada.
Le domande aperte sono concrete. Chi risponde delle conseguenze quando una decisione è il prodotto di una catena di agenti appartenenti a soggetti diversi. Come si ricostruisce a posteriori il percorso che ha portato a un certo esito. Che tipo di tracciabilità va imposta alle comunicazioni tra sistemi, e con quali obblighi di conservazione. Dove si colloca il punto di interruzione, ammesso che esista un interruttore unico e non una moltitudine di processi distribuiti che continuano a funzionare anche quando uno di essi viene spento. La competizione geopolitica non aiuta a mettere a fuoco questi aspetti. La logica del confronto tra Stati Uniti, Cina ed Europa spinge verso il tema della velocità, cioè chi arriva prima e chi si permette di frenare. Un’impostazione che riduce tutto a un aut aut tra accelerare e rallentare, quando la questione più urgente riguarda la struttura, non il ritmo. Anche in uno scenario di sviluppo più lento, una rete di agenti connessi priva di regole sulle interazioni resterebbe un sistema difficile da sorvegliare.
Il divario, insomma, si sta allargando tra il livello che le norme osservano, quello del modello singolo, e il livello dove le cose accadono davvero, quello della relazione tra sistemi che decidono insieme.
Fonte: TecnoAndroid
