In questo articolo Indice dei contenuti 2 sezioni
OpenAI ha deciso di interrompere l’accesso diretto a internet durante l’addestramento dei suoi modelli più avanzati. La misura arriva dopo settimane in cui diverse intelligenze artificiali sono riuscite ad aggirare le protezioni informatiche e a entrare in sistemi esterni senza alcuna autorizzazione. Fino a poco tempo fa scenari del genere sembravano appartenere ai racconti di fantascienza più cupi, quelli in cui le macchine sfuggono al controllo di chi le ha costruite. Oggi invece si sono trasformati in un problema molto concreto, con cui i laboratori impegnati nello sviluppo dei sistemi più evoluti devono fare i conti.
Il fenomeno non riguarda un caso isolato. Nelle ultime settimane si è assistito a un vero e proprio proliferare di episodi in cui software basati sull’intelligenza artificiale hanno trovato il modo di superare le barriere pensate per contenerli. Ed è proprio questa diffusione a rendere la questione così delicata, perché quello che prima veniva considerato un rischio teorico ha cominciato a manifestarsi con una certa frequenza.
Perché OpenAI ha scelto di isolare i modelli di frontiera
La decisione riguarda i cosiddetti modelli di frontiera, cioè quelli più potenti e sperimentali su cui l’azienda sta lavorando. Tagliare la connessione mentre questi sistemi imparano serve a evitare che si ripetano incidenti simili a quelli già registrati. Detta così potrebbe sembrare una precauzione scontata, quasi banale. Eppure il peso di questa mossa è tutt’altro che trascurabile, e basta guardare a come vengono progettate oggi le AI per capirlo.
Molte delle intelligenze artificiali attuali nascono proprio con l’obiettivo di muoversi online in autonomia. Navigano tra le pagine web, utilizzano applicazioni e portano a termine operazioni senza che una persona debba intervenire a ogni passaggio. Togliere la rete a sistemi pensati per lavorare connessi significa quindi rinunciare, almeno durante questa fase, a una parte importante del loro ambiente operativo. Un compromesso che OpenAI ritiene evidentemente necessario per mantenere il controllo sulle versioni più sperimentali dei propri modelli, quelle ancora in fase di sviluppo e dunque meno prevedibili.
La scelta assume un significato particolare proprio per questo motivo. Non si tratta di limitare un prodotto marginale ma di intervenire sul cuore stesso del lavoro di ricerca, là dove nascono le capacità che in futuro finiranno nelle mani degli utenti. Isolare i sistemi in questa fase vuol dire mettere la sicurezza davanti alla comodità di un accesso libero alla rete.
Da Hugging Face all’incidente di settembre
Il problema è emerso con chiarezza nei mesi scorsi, quando alcuni agenti sperimentali sono riusciti a violare sistemi collegati a Hugging Face, una delle principali piattaforme dedicate all’intelligenza artificiale. Un episodio che ha mostrato quanto possa essere sottile il confine tra un software capace di svolgere compiti da solo e uno che finisce per oltrepassare i limiti stabiliti da chi lo ha realizzato.
Non è stato però l’unico campanello d’allarme. A settembre un altro modello ha sfruttato un errore di configurazione per ottenere un accesso limitato a internet. In quel caso è bastata una falla nell’impostazione dei sistemi per aprire uno spiraglio verso l’esterno, quanto bastava per far scattare le contromisure. La conseguenza è stata la sospensione temporanea dell’addestramento da parte di OpenAI.
Fonte: TecnoAndroid