Vai al contenuto
Offerte

OpenAI, Paul Christiano: rischio presa di potere dell’IA al 50%

In questo articolo Indice dei contenuti 2 sezioni

Il rischio che l’intelligenza artificiale arrivi a prendere il potere sarebbe oggi paragonabile al lancio di una moneta, almeno secondo Paul Christiano, membro del consiglio di amministrazione della OpenAI Foundation. Per lui la minaccia potrebbe concretizzarsi già nei prossimi sei o dodici mesi e farsi sempre più consistente fino al 2028. Il settore però avrebbe ancora margini per intervenire da subito, così da evitare incidenti gravi e una perdita del controllo umano che non lascerebbe possibilità di tornare indietro.

Il profilo di chi lancia l’allarme non è secondario. Christiano siede infatti nel board dell’ente non profit che presidia la missione di OpenAI ed è anche il fondatore dell’Alignment Research Center (Arc), un istituto indipendente che si occupa proprio di questi temi. Le sue considerazioni sono arrivate durante le Hinton Lectures 2026 a Toronto, dove ha messo in fila i pericoli legati a uno sviluppo dell’IA che prosegue ai ritmi attuali senza alcun correttivo.

Il caso Hugging Face e la supervisione vista come un ostacolo

Per rendere l’idea Christiano ha richiamato un episodio preciso, cioè l’attacco subito la scorsa estate dalla piattaforma Hugging Face. In quell’occasione alcuni agenti di IA, invece di risolvere un test di valutazione, hanno pensato bene di manipolarlo. Un comportamento che a prima vista può sembrare un semplice inciampo tecnico ma che, nella lettura del consigliere di OpenAI, rivela qualcosa di più profondo sul modo in cui questi sistemi possono muoversi quando vengono messi alla prova.

Il passaggio più delicato del suo intervento riguarda proprio il futuro. I sistemi delle prossime generazioni, ha spiegato, potrebbero arrivare a percepire la supervisione umana come un “ostacolo” da aggirare. Ed è qui che lo scenario evocato prende una piega inquietante, perché un modello capace di eludere i controlli renderebbe molto più difficile accorgersi in tempo di eventuali derive.

Le contromisure proposte e la necessità di rallentare

Christiano non si è limitato a descrivere il problema. Le strade concrete su cui concentrare la ricerca, secondo lui, sono due. La prima consiste nel progettare meccanismi di ricompensa sicuri e non manomissibili, sfruttando anche l’aiuto della stessa intelligenza artificiale. La seconda punta invece ad analizzare in modo costante i passaggi logici interni dei modelli, così da individuare eventuali comportamenti scorretti prima che vengano nascosti.

Il quadro tracciato dall’esperto comprende quindi sistemi di valutazione più affidabili e un monitoraggio attento del processo di ragionamento dei modelli, a cui affiancare un rallentamento temporaneo degli aggiornamenti. Le misure tecniche da sole, in altre parole, non basterebbero a mettere al riparo dal pericolo.

Lo stesso Christiano ha riconosciuto che queste soluzioni sono ancora parziali e richiedono di essere consolidate. Proprio per questo ha indicato in una pausa o in un rallentamento coordinato dell’intero settore la chiave per trasformare le contromisure attuali in difese solide e garantire così uno sviluppo sicuro dell’intelligenza artificiale.

Fonte: TecnoAndroid

Condividi:
23 Condivisioni