Leike denuncia gravi mancanze da parte di OpenAI sulla sicurezza dell’IA
Nel tumulto delle recenti vicende legate ad OpenAI, l’attenzione si concentra ora sulle dinamiche interne dell’azienda, dopo la recente delusione per il fallimento del progetto del browser con ChatGPT. Emergono interrogativi sul ruolo di un team dedicato al controllo di un’IA “superintelligente“.
Leike e la sua esperienza nel team Superalignment
Nel corso del 17 maggio 2024, portali come TechCrunch e Gizmodo hanno fatto eco alle parole di Jan Leike, ex membro del team Superalignment di OpenAI, guidato insieme a Ilya Sutskever. Questo gruppo, creato nel luglio 2023, si era prefissato l’obiettivo di affrontare le sfide legate al controllo dell’intelligenza artificiale superintelligente nei prossimi quattro anni.
Leike ha espresso critiche severe riguardo alla gestione della sicurezza da parte di OpenAI, affermando che l’azienda ha decisamente trascurato questo aspetto a favore dello sviluppo dei prodotti, mettendo a rischio la sensibilità dei dati nel settore dell’intelligenza artificiale.
Secondo Leike, le priorità dell’azienda erano sbilanciate, sottolineando l’importanza di concentrarsi su aspetti cruciali come sicurezza, monitoraggio, riservatezza e impatto sociale. Sembra però che le richieste del team Superalignment per ottenere risorse adeguate siano state sistematicamente respinte, tanto da portare il team stesso alla sua progressiva disgregazione.
Anche se il team Superalignment sembra essere ormai un lontano ricordo, John Schulman è stato incaricato di portare avanti parte del lavoro precedentemente svolto. Ma le dimissioni di diversi membri del team negli ultimi giorni evidenziano una chiara situazione di incertezza all’interno di OpenAI.
Contrasti interni ed incertezze pericolose
Questi attriti interni sollevano dubbi sul futuro dell’azienda e sulla sua capacità di gestire le sfide legate all’intelligenza artificiale e al suo sviluppo. Nel frattempo, è stato annunciato il nuovo modello GPT-4o, destinato a migliorare l’esperienza di intelligenza artificiale. Resta da vedere come OpenAI affronterà le tensioni interne e se riuscirà a mantenere la sua posizione di leader nel settore, come noi ci aspettiamo che faccia.