In questo articolo Indice dei contenuti 2 sezioni
Un nome pesante entra nella stanza dove si decide se un modello può uscire o restare in laboratorio: OpenAI ha scelto Paul Christiano per il consiglio della OpenAI Foundation e per il Safety and Security Committee, cioè l’organismo che ha il potere di dire sì o no alla distribuzione dei nuovi sistemi. Una nomina che arriva in un momento in cui il tema della sicurezza dell’intelligenza artificiale è tornato al centro del dibattito, e non per ragioni astratte.
Il contesto conta parecchio. Nelle scorse ore la decisione di Jacob Coxon di lasciare Anthropic ha acceso una discussione piuttosto vivace in rete. Il ricercatore ha spiegato la propria uscita sostenendo che le aziende stiano correndo verso una superintelligenza capace di superare gli esseri umani, senza però disporre ancora degli strumenti necessari per controllarla. Una critica che non arriva da un osservatore esterno, ma da chi quei laboratori li ha frequentati dall’interno.
Chi è Paul Christiano e perché il suo nome pesa
Christiano non è un commentatore qualunque che critica il settore da fuori. Ha lavorato in OpenAI ed è tra i ricercatori che hanno contribuito allo sviluppo del reinforcement learning from human feedback, meglio conosciuto con la sigla RLHF. Per capirsi senza girarci troppo intorno, si tratta della tecnica che permette di correggere il comportamento di un modello linguistico usando le valutazioni delle persone: gli esseri umani indicano quale risposta è preferibile, il sistema impara a orientarsi verso quel tipo di risultato. È uno dei mattoni su cui poggiano gli assistenti conversazionali che oggi vengono usati da milioni di persone. Il fatto che una figura del genere entri in un comitato con potere decisionale sulla distribuzione dei modelli dice qualcosa sulla direzione che OpenAI vuole dare alla propria governance. Il Safety and Security Committee, in fondo, è l’ultimo filtro: valuta se un sistema sia abbastanza sicuro per finire nelle mani del pubblico oppure se serva ancora lavoro prima del rilascio. Non un ruolo consultivo generico, ma una funzione che incide sui tempi e sulle modalità con cui la tecnologia arriva sul mercato.
Autonomia crescente, domande diverse
Il punto che emerge da entrambe le vicende è che la questione della sicurezza sta cambiando natura. Finché un sistema si limita a rispondere a una richiesta, il perimetro del problema resta relativamente circoscritto. Quando invece i modelli iniziano ad agire in autonomia, portando avanti compiti senza supervisione costante, la domanda si sposta: non più soltanto cosa dice un modello, ma cosa fa e con quale margine di iniziativa.
È esattamente il terreno su cui si muovono le preoccupazioni espresse da chi lascia i laboratori, come nel caso di Anthropic, e su cui dovrà lavorare chi, come Christiano, entra invece nei meccanismi decisionali. Due percorsi opposti, stessa preoccupazione di fondo: la velocità con cui avanzano le capacità dei sistemi rispetto alla velocità con cui vengono sviluppati gli strumenti per tenerli sotto controllo. Per OpenAI la mossa ha anche un valore di segnale verso l’esterno. Portare dentro il board una delle voci più riconosciute sui rischi dell’AI significa mettere nella struttura di controllo qualcuno che quei rischi li studia da anni, con una competenza tecnica difficile da liquidare come allarmismo. Il Safety and Security Committee, con questa aggiunta, cambia composizione proprio mentre il settore accelera sui sistemi capaci di operare in modo sempre più indipendente.
