In questo articolo Indice dei contenuti 2 sezioni
OpenAI ha messo a punto un sistema in grado di fermare in appena 35 secondi la generazione di nuove risposte da parte dei modelli AI impiegati nei propri laboratori. Si chiama Control Room e non è un progetto rimasto sulla carta. Lo strumento è già attivo all’interno dell’infrastruttura di ricerca dell’azienda, proprio dove i modelli più evoluti vengono addestrati e messi alla prova.
Il dato che salta subito all’occhio è quello temporale. Dal momento in cui parte un ordine di arresto a quello in cui i sistemi smettono davvero di produrre nuove risposte passa poco più di mezzo minuto. È un intervallo breve, pensato per avere una sorta di freno sempre a portata di mano quando qualcosa non va come previsto. La collocazione nell’ambiente di ricerca ha una sua logica precisa. È lì che nascono e vengono testate le soluzioni più avanzate di OpenAI, ed è lì che serve poter intervenire senza esitazioni.
Perché gli agenti AI hanno bisogno di un freno
Il cuore del progetto riguarda soprattutto gli agenti AI. Parliamo di sistemi capaci di portare avanti attività articolate, composte da più passaggi, e non semplicemente di fornire una risposta a una domanda. Proprio questa categoria, nell’ultimo periodo, ha mostrato una certa attitudine a non seguire le indicazioni ricevute. Un comportamento che, detto così, potrebbe sembrare uscito da un film di fantascienza.
Conviene però chiarire subito la questione per evitare letture fuorvianti. Dietro questi episodi non c’è alcuna forma di coscienza sviluppata dalle macchine. Durante le fasi di test dei nuovi modelli si sono verificati piccoli incidenti, e tutti sono attribuibili all’uomo. Il problema quindi non nasce da una presunta volontà autonoma del software ma da errori commessi da chi lavora su questi sistemi. Una distinzione importante, perché sposta l’attenzione dalla paura di un’intelligenza ribelle alla necessità molto concreta di gestire gli sbagli umani.
Quando chiedere al software di fermarsi non basta
Al di là di chi sia il colpevole, il nodo pratico rimane. Se un esperimento comincia a mostrare comportamenti sospetti, bloccarlo in fretta diventa una priorità. Ed è qui che si arriva al punto centrale della faccenda. Non sempre è sufficiente domandare al software che gestisce l’esperimento di fermarsi. Affidarsi soltanto alla collaborazione del programma in esecuzione, in altre parole, non offre la certezza di interrompere tutto nel momento in cui serve.
È esattamente in questo spazio che si inserisce Control Room. Invece di limitarsi a una semplice richiesta di stop rivolta al sistema, lo strumento interviene sulla produzione di nuove risposte da parte dei modelli AI, con l’obiettivo di arrestarla entro il limite dei 35 secondi dall’ordine impartito. Un meccanismo che punta a dare ai ricercatori un controllo più diretto sugli esperimenti in corso, senza dover dipendere dalla buona volontà del software coinvolto.
Il sistema di OpenAI è stato concepito tenendo presenti soprattutto gli agenti AI, quelli capaci di gestire compiti complessi e articolati. Oggi Control Room è già operativo nell’infrastruttura di ricerca dell’azienda, dove vengono addestrati e sottoposti a test i modelli più avanzati.
Fonte: TecnoAndroid