Un team dedicato per gestire tutti i rischi che sono legati alla crescita dell’intelligenza artificiale. A quanto pare, secondo alcune stime, l’IA in futuro potrebbe raggiungere livelli assurdi, superando anche l’uomo in maniera agevole. Proprio per questo motivo il colosso per eccellenza OpenAI, che durante gli ultimi tempi sta facendo parlare molto di sé grazie alla creazione di ChatGPT, avrebbe deciso di formare una squadra che si occuperà di gestire la situazione.
L’azienda pensa che entro 10 anni il superamento dell’uomo da parte dell’IA possa compiersi senza problemi, come descrive in alcune dichiarazioni:
“La superintelligenza sarà la tecnologia più impattante mai inventata dall’umanità e potrebbe aiutarci a risolvere molti dei problemi più importanti presenti nel mondo. Ma l’enorme potere di una superintelligenza potrebbe anche essere molto pericoloso e portare alla sottomissione dell’umanità o addirittura alla sua estinzione“.
IA: una squadra apposita per controllare i rischi
Sono due i ricercatori che OpenAI ha scelto di nominare a capo del team che gestirà gli eventuali rischi. L’azienda dedicherà inoltre il 20% di tutte le sue risorse di calcolo ora disponibili. L’obiettivo sarà quello di sviluppare un ricercatore automatico in merito all’allineamento sui valori umani e soprattutto sulla correttezza.
“Sebbene questo sia un obiettivo incredibilmente ambizioso e non siamo certi di riuscirci, siamo ottimisti che uno sforzo concentrato e concertato possa risolvere questo problema. Ci sono molte idee che hanno dimostrato promesse in esperimenti preliminari, abbiamo metriche di progresso sempre più utili e possiamo utilizzare i modelli attuali per studiare molti di questi problemi in modo empirico“.
OpenAI pubblicherà aggiornamenti in maniera costante, in modo da far guardare al futuro in maniera molto più tranquilla.