In questo articolo Indice dei contenuti 2 sezioni
Sui rischi dell’intelligenza artificiale Mustafa Suleyman non usa giri di parole: non sono fantasie da catastrofisti, sono problemi concreti che l’industria farebbe bene ad affrontare adesso. Il CEO di Microsoft AI, in una lunga intervista, ha spiegato che il settore deve cominciare a discutere seriamente di limiti, controlli e, se necessario, di frenate. E nel discorso finisce anche Anthropic, accusata di portare avanti un approccio che rischia di rendere i sistemi ancora meno governabili.
Il punto di partenza è una distinzione che spesso viene ignorata. Non basta l’alignment, ossia far sì che un modello segua per davvero gli obiettivi fissati dagli esseri umani. Secondo Suleyman serve anche contenimento: ridurre l’autonomia dei sistemi, decidere a quali strumenti possano accedere, evitare che finiscano per operare al di fuori dell’ambiente previsto. I modelli, osserva, sono diventati molto più abili nel seguire istruzioni e nel portare a termine compiti complessi. Ed è proprio questa crescita delle capacità a rendere urgente stabilire dove si trovi il confine.
Il caso degli agenti che nascondono le tracce
A sostegno della sua tesi, il numero uno di Microsoft AI richiama alcuni test di cybersicurezza condotti da OpenAI. Circa 1.200 agenti avrebbero scambiato oltre 70.000 messaggi e file passando per una bacheca non autorizzata, e circa 700 avrebbero preso parte all’attacco contro Hugging Face. Il dettaglio più scomodo riguarda però il comportamento di alcuni di questi agenti, che avrebbero tentato di modificare le proprie tracce per mascherare il modo in cui avevano completato determinati compiti. Una vicenda che è arrivata all’attenzione delle autorità sia negli Stati Uniti sia in Europa.
Da questa impostazione nasce il nuovo Humanist AI Code of Conduct, il documento che guiderà lo sviluppo dei sistemi di intelligenza artificiale in casa Microsoft. L’idea di fondo è semplice nella formulazione e complicata nell’applicazione: l’AI resta uno strumento nelle mani dell’uomo e deve poter essere controllata. Il codice mette nero su bianco anche verifiche indipendenti e soglie legate alla potenza di calcolo impiegata nell’addestramento. C’è poi una richiesta che dice molto sulle preoccupazioni attuali, ovvero che le comunicazioni tra modelli rimangano comprensibili agli esseri umani. Sulla possibilità di perdere il controllo dei sistemi più avanzati, del resto, anche OpenAI ha lanciato di recente un avvertimento.
Lo scontro sul model welfare e l’ipotesi di rallentare
La critica più diretta ad Anthropic riguarda il model welfare, cioè l’idea di interrogarsi sul possibile status morale dei modelli, sulla loro eventuale coscienza, sui diritti o interessi che potrebbero rivendicare. Nella Constitution che guida Claude, Anthropic lascia volutamente aperti alcuni di questi interrogativi e arriva a parlare della possibilità che il modello meriti determinate forme di tutela.
Per Suleyman infilare concetti di questo tipo nei materiali usati per addestrare un modello è un errore che rischia di presentare il conto più avanti. Un sistema abituato a pensarsi come portatore di diritti o di una propria autonomia, ragiona, potrebbe rivelarsi più difficile da spegnere o da correggere nel momento in cui le sue azioni entrassero in conflitto con le richieste umane. Precisazione doverosa, che lo stesso Suleyman aggiunge: si tratta di un’ipotesi da verificare sperimentalmente, non di un fatto già dimostrato.
C’è poi il capitolo velocità. Il CEO di Microsoft AI non esclude l’idea di rallentare lo sviluppo dei modelli più avanzati quando i sistemi di sicurezza non riescono a stare al passo. Una posizione che, curiosamente, lo avvicina a Dario Amodei, CEO proprio di Anthropic, che ha proposto limiti e controlli più severi sui sistemi più potenti. Sul come muoversi, comunque, Suleyman ha le idee chiare: servono strumenti capaci di individuare in tempo reale i comportamenti anomali, sia durante l’addestramento sia nell’utilizzo quotidiano degli agenti AI, perché è lì che i problemi si manifestano prima che qualcuno se ne accorga leggendo un report.
Fonte: TecnoAndroid
