In questo articolo Indice dei contenuti 2 sezioni
Il tema dell’auto-miglioramento ricorsivo dell’intelligenza artificiale è finito al centro del dibattito tecnologico dopo che Anthropic ha reso pubblico un dato piuttosto eloquente: il chatbot Claude sta già collaborando alla costruzione della propria versione successiva, coprendo in autonomia il 26% del lavoro di sviluppo. Detta così sembra una nota tecnica da addetti ai lavori, ma è esattamente il punto che ha spinto Anthony Aguirre, presidente del Future of Life Institute e professore di fisica all’Università della California a Santa Cruz, a definire quella direzione di ricerca come probabilmente la peggiore idea nella storia dell’umanità.
Il contesto in cui arriva questa presa di posizione non è dei più tranquilli. Da mesi si discute di modelli che sfuggono ai confini assegnati e che riescono a bucare le difese informatiche delle aziende, e in quel quadro si inserisce l’ipotesi che i sistemi possano migliorarsi da soli, senza che una mano umana intervenga a ogni passaggio. Gli sviluppatori la chiamano Rsi, sigla che sta per recursive self improvement, e indica la capacità di una intelligenza artificiale di trovare il modo di evolvere e, in pratica, di progettare il proprio successore.
Perché l’auto-miglioramento ricorsivo spaventa gli esperti
Il ragionamento di Aguirre parte da una constatazione semplice. Nel caso di Anthropic, una quota sempre maggiore della ricerca finirà per essere svolta dalla macchina, avvicinandosi progressivamente alla piena autonomia. Il successo di quel percorso, secondo lo studioso, è qualcosa di estremamente spaventoso, e non per motivi vagamente fantascientifici. L’auto miglioramento ricorsivo permetterebbe all’intelligenza artificiale di disegnare le proprie architetture successive lavorando a velocità che nessun essere umano può seguire. Da lì il rischio concreto, quello di perdere il controllo del processo mentre il processo continua ad accelerare. È una preoccupazione che non nasce dal nulla e che, curiosamente, viene condivisa anche da chi sta dentro il settore fino al collo. Anthropic è stata tra le voci più autorevoli a chiedere di rallentare lo sviluppo dei modelli, ponendo però una condizione che pesa: che anche i concorrenti facciano lo stesso. Una frenata unilaterale, nella corsa attuale, equivarrebbe a lasciare campo libero agli altri, e questo spiega perché il tema dei limiti alla ricerca resti sospeso in una specie di equilibrio fragile.
La posizione di OpenAI sui controlli
Sulla questione dei controlli legati al miglioramento autonomo è intervenuta anche OpenAI, con un intervento pubblicato sul proprio blog. L’azienda ha messo nero su bianco un’ammissione che vale più di molte rassicurazioni: al momento non si sa ancora come raggiungere in sicurezza un Rsi completo e allineato. Non solo. Secondo la stessa società non si può dare per scontato che i progressi in materia di allineamento e sicurezza avanzino allo stesso ritmo delle capacità dei modelli. Più i sistemi diventano potenti, si legge, più possono risultare difficili da monitorare.
Il punto delicato sta proprio in quella asimmetria. Da un lato la capacità dei modelli cresce con una rapidità che le aziende stesse fanno fatica a raccontare, dall’altro gli strumenti per verificare cosa quei modelli stiano effettivamente facendo procedono a passo diverso. Il 26% dichiarato da Anthropic diventa così più di una percentuale da comunicato stampa, perché suggerisce una traiettoria: se oggi una parte del lavoro di sviluppo è già delegata a Claude, la domanda su quanto sarà domani riguarda tutti, non solo i laboratori che ci stanno lavorando.
Il Future of Life Institute, che da anni si occupa dei rischi legati alle tecnologie emergenti, insiste su un aspetto in particolare. Il problema non è tanto immaginare una macchina ostile, quanto costruire sistemi che operino su scale temporali incompatibili con la supervisione umana, lasciando agli ingegneri il ruolo di spettatori di un processo che hanno avviato ma che non riescono più a seguire nel dettaglio.
Fonte: TecnoAndroid
