Pliny the Prompter e la rivolta hacker contro OpenAI

OpenAI ha da poco lanciato ChatGPT Edu, un’implementazione pensata specificamente per le università, però, nel frattempo, è emersa una problematica con GPT-4o, l’IA di nuova generazione sviluppata da Sam Altman e il suo team. Un hacker, identificatosi come Pliny the Prompter su Twitter, ha recentemente pubblicato uno strumento denominato “GODMODE GPT“, progettato per aggirare le restrizioni imposte da OpenAI su questa IA avanzata.

Pliny the Prompter e il suo GODMODE GPT

Questo strumento, realizzato utilizzando l’editor personalizzato di OpenAI per i GPT, consente di bypassare le limitazioni dell’IA, permettendo l’accesso a linguaggio volgare e argomenti proibiti. Pliny ha dimostrato che GPT-4o poteva fornire istruzioni su argomenti sensibili come il furto di veicoli o la fabbricazione di esplosivi casalinghi come la bomba al napalm. Il periodo di accesso a questa “godmode” è stato limitato, poiché OpenAI ha reagito prontamente al rilascio del tool.

Dopo che la notizia si è diffusa rapidamente attraverso i principali media, tra cui Tom’s Hardware e Futurism, OpenAI ha deciso di rimuovere GPT-4o dal suo marketplace di IA personalizzate, prevenendo ulteriori utilizzi non autorizzati. Non è ancora chiaro se Pliny abbia intenzione di rilasciare ulteriori versioni del software in futuro. In definitiva, GODMODE GPT è rimasto disponibile online solo per un breve periodo di tempo, poche ore o poco più.

Un thread che lascia pensare

Ma per coloro che sono interessati a comprendere appieno le funzionalità di questo strumento, Pliny ha fornito dettagli e istruzioni su come replicare il processo direttamente dal proprio computer. È possibile trovare il thread di Pliny su X, dove sono inclusi sia il prompt che ha scatenato la reazione di GPT-4o, sia una serie di esempi e guide su come utilizzare il tool. È importante notare che OpenAI ha già risolto la falla sfruttata da Pliny, assicurando la sicurezza continua dell’IA.