In questo articolo Indice dei contenuti 2 sezioni
La porta dei laboratori di OpenAI si apre a valutatori esterni, e non soltanto nella fase finale. L’azienda guidata da Sam Altman ha annunciato che permetterà a soggetti terzi di esaminare i suoi modelli lungo tutto il ciclo di sviluppo, quindi durante l’addestramento, nelle fasi di test interne e anche dopo il rilascio al pubblico. Una mossa anticipata dallo stesso Altman quando aveva commentato la proposta arrivata da Dario Amodei, numero uno di Anthropic, e che ora prende forma concreta con un documento pubblicato sul sito ufficiale.
Il contesto non è casuale. Nel corso di un intervento al Consiglio di sicurezza delle Nazioni Unite, il CEO di OpenAI aveva spinto per la creazione di uno standard condiviso sulla sicurezza dei modelli AI, costruito insieme dai governi e dalle aziende che quei modelli li sviluppano davvero. Amodei, collegato in video, si era espresso nella stessa direzione. Due tra i principali attori del settore che chiedono regole comuni, cosa che fino a poco tempo fa sarebbe sembrata perlomeno insolita.
Come funzionerà la valutazione esterna dei modelli
Il meccanismo prevede l’ingresso di organizzazioni private e di realtà senza scopo di lucro, chiamate a effettuare valutazioni indipendenti in tre momenti distinti: addestramento, valutazione vera e propria e distribuzione. L’idea di fondo è semplice quanto pragmatica. Chi costruisce un sistema tende a guardarlo sempre dalla stessa angolazione, mentre occhi esterni possono individuare rischi trascurati e verificare se le misure di protezione funzionano davvero oppure esistono solo sulla carta.
Le verifiche non saranno rapide sondaggi di qualche giorno. OpenAI parla di valutazioni multiple portate avanti in parallelo, con tempi che possono arrivare a settimane o addirittura mesi. Il lavoro viene suddiviso in quattro categorie principali. La prima riguarda i casi di sicurezza durante l’addestramento, l’implementazione interna e quella esterna. La seconda si concentra sulle misure di salvaguardia considerate critiche, sempre nelle fasi di implementazione interna ed esterna. La terza guarda alle capacità del modello rispetto a specifiche categorie di rischio, ovvero ambito chimico, biologico, sicurezza informatica e capacità del sistema di migliorare se stesso. La quarta è dedicata alle indagini su incidenti critici legati al disallineamento, cioè quei casi in cui un modello si comporta in modo diverso da quanto previsto.
I principi che regolano il lavoro dei valutatori
Perché tutto questo abbia un senso, servono paletti chiari, e l’azienda ne ha elencati diversi. Le richieste di valutazione devono essere definite e concordate in anticipo, senza zone grigie. L’accesso ai sistemi sarà proporzionato, nel rispetto dei vincoli legali, di quelli di sicurezza e della proprietà intellettuale, perché nessuno intende consegnare le chiavi di casa senza limiti. Le metodologie utilizzate dovranno essere trasparenti e basate su standard riconosciuti, mentre i valutatori dovranno dimostrare sia competenza tecnica sia effettiva indipendenza rispetto a chi li ha chiamati. C’è poi il capitolo pubblicazione. I risultati vanno diffusi in maniera responsabile, proteggendo le informazioni sensibili e confidenziali. Un equilibrio delicato, perché troppa riservatezza svuoterebbe di senso l’intera operazione, mentre troppa apertura rischierebbe di mettere in circolazione dettagli tecnici che è meglio non rendere pubblici.
Il tema degli standard internazionali resta il vero orizzonte di tutta l’iniziativa. OpenAI aveva già delineato in precedenza la propria visione di un quadro condiviso sulla sicurezza dei sistemi di intelligenza artificiale, e l’apertura ai valutatori terzi va letta come un tassello di quel disegno più ampio. La collaborazione tra industria e istituzioni, secondo Altman, è l’unica strada percorribile per costruire regole che reggano alla velocità con cui questi sistemi evolvono.
L’annuncio arriva in un momento in cui la pressione sulle aziende del settore è aumentata sensibilmente, sia dal lato dei regolatori sia da quello dell’opinione pubblica. Aprire i propri modelli a controlli esterni durante l’addestramento, e non solo a giochi fatti, rappresenta un cambio di passo rispetto alle pratiche seguite finora dai grandi laboratori di intelligenza artificiale.
Fonte: TecnoAndroid
