In questo articolo Indice dei contenuti 2 sezioni
Trentacinque ricercatori cinesi che lavorano nel campo dell’intelligenza artificiale hanno firmato un documento destinato a far discutere a lungo. Al centro c’è l’idea di un sistema capace di gestire in autonomia il proprio automiglioramento e, passo successivo tutt’altro che banale, di costruire da sé i modelli che prenderanno il suo posto. Il lavoro porta un titolo piuttosto eloquente, “The Last AI Built by Humans“, che tradotto suona come “l’ultima IA costruita dagli esseri umani”, e propone una roadmap in 5 livelli per arrivare fin lì.
Già il nome scelto dice molto delle ambizioni del progetto. L’obiettivo dichiarato non è un software un po’ più bravo del precedente ma una tecnologia che a un certo punto smetta di avere bisogno della mano umana per evolversi. È un cambio di prospettiva notevole perché fino a oggi ogni nuova generazione di modelli di IA è passata attraverso il lavoro di ingegneri, ricercatori e squadre di sviluppo che decidono cosa migliorare e come farlo.
Una tabella di marcia per macchine che progettano macchine
La proposta del team cinese è strutturata come un percorso a tappe. I cinque livelli descrivono una progressione verso un’intelligenza artificiale sempre più indipendente, fino al punto in cui sarebbe lei stessa a occuparsi della propria crescita e della nascita dei suoi successori. In pratica si immagina un ciclo in cui il sistema analizza i propri limiti, interviene per superarli e poi mette in piedi una versione nuova, potenzialmente più capace di quella di partenza.
Detta così può sembrare un’astrazione accademica, eppure il tema dell’IA che crea altre IA tocca un punto molto concreto. Se la catena dello sviluppo si accorcia e l’intervento umano si riduce, cambia anche il modo in cui si controllano le scelte fatte lungo la strada. Ed è proprio qui che la questione smette di essere soltanto tecnica e diventa anche politica, etica e per certi versi filosofica.
Il documento, insomma, non si limita a descrivere un traguardo lontano. Prova a tracciare un percorso ordinato che renda quel traguardo più leggibile, scomponendolo in passaggi distinti. Un approccio che ha il merito di rendere il dibattito più concreto ma che inevitabilmente porta con sé parecchie domande.
Sicurezza e supervisione, i nodi ancora aperti
La pubblicazione della roadmap ha infatti sollevato più di un dubbio sulla sicurezza di sistemi del genere. Un’intelligenza artificiale che si perfeziona da sola rischia di muoversi in direzioni difficili da prevedere, e più i passaggi si moltiplicano più diventa complicato ricostruire perché una certa decisione sia stata presa. Non si tratta di scenari apocalittici ma di un problema pratico che chi lavora nel settore conosce bene.
L’altro grande interrogativo riguarda la supervisione futura. Se a progettare la nuova generazione di modelli è la generazione precedente, chi verifica che il risultato rispetti i limiti fissati in origine? E con quali strumenti, visto che il ruolo umano nel processo tende per definizione a restringersi? Sono domande che il settore dovrà affrontare con attenzione, perché riguardano il controllo stesso di tecnologie sempre più potenti.
Il titolo scelto dai trentacinque ricercatori, con quel riferimento esplicito all’ultima IA costruita dalle persone, rende bene l’idea della posta in gioco. La proposta descrive una strada in cinque tappe verso un’intelligenza artificiale in grado di occuparsi del proprio miglioramento e di dare vita ai propri successori, e proprio questa prospettiva ha acceso il confronto sui temi di sicurezza e controllo che accompagnano lo sviluppo del settore.
Fonte: TecnoAndroid