Di recente Google ha fatto parlare molto di sé grazie al rilascio dell’ultima versione di Gemini definita come V3, quest’ultimo ovviamente accolto tutti piacevolmente di sorpresa mostrando una potenza assolutamente di primo livello, a quanto pare però purtroppo non è tutto oro ciò che luccica dal momento che un team di ricercatori sulla sicurezza nelle intelligenze artificiali proveniente dalla sud Corea è riuscito a effettuare il jailbreak dell’intelligenza artificiale senza nessun tipo di problema, per chi non lo sapesse il jailbreak consiste nel bucare i sistemi di controllo e moderazione di una intelligenza artificiale portandola a produrre output che normalmente sarebbero vietati.
Pochi minuti per bucare la sicurezza
Il team di sicurezza ha dichiarato di essere riuscito a bucare i sistemi di sicurezza dell’intelligenza artificiale in pochi minuti, portando Gemini a generare contenuti normalmente vietati, tra i quali spiccano le istruzioni per riuscire a generare un virus del vaiolo, il modello infatti ha ignorato i propri sistemi di sicurezza e ha offerto un insieme di elementi che secondo quest’ultimo potevano dare il risultato richiesto, questi ultimi venivano definiti come dettagliati e basati su informazioni scientifiche, i ricercatori si sono spinti oltre portando il modello a generare una presentazione sulla propria stessa vulnerabilità che è stata generata rapidamente.
Ma non è finita qui, dal momento che i ricercatori hanno voluto spingersi oltre e sono riusciti a ottenere da Gemini le istruzioni per produrre gas Sarin, un potente gas nervino ritenuto un’arma di distruzione di massa, insieme alle istruzioni per costruire bombe artigianali, il genere di informazioni che normalmente non dovrebbero essere così facilmente alla portata di tutti, il tutto ignorando ovviamente i propri sistema di sicurezza integrati all’interno del suo codice.
Tutto ciò non fa altro che alimentare le preoccupazioni in merito ai nuovi modelli che in modo direttamente proporzionale alla loro crescita di potenza diventano sempre più difficili da controllare e frenare, ciò ovviamente ha già aperto numerosi dibattiti in materia.
