Secondo le ultime notizie trapelate sul web, un nuovo episodio avrebbe messo al centro dell’attenzione l’AI di Google. Gemini, stando a quanto riportato, avrebbe infatti avuto un’interazione con uno studente rifilandogli un messaggio davvero assurdo.
Tramite ciò che è emerso, uno studente universitario del Michigan avrebbe ricevuto un invito esplicito a togliersi la vita.
Google Gemini spinge un ragazzo a togliersi la vita: l’azienda interviene
Vidhay Reddy, 29 anni, utilizzava il sistema per supporto scolastico, quando si è trovato di fronte a una risposta che definisce “spaventosa”. Anche la sorella, leggendo il messaggio, ha raccontato di aver provato un panico fuori dal comune.
L’intervento di Google è stato perentorio, con l’azienda americana che ha definito quanto accaduto una grave violazione delle sue politiche interne. BigG ha sottolineato che i filtri di sicurezza del chatbot dovrebbero prevenire contenuti pericolosi. Sarebbero stati dunque presi dei provvedimenti per evitare che tutto ciò possa ripetersi in futuro. È allo stesso tempo inevitabile che il dibattito sull’affidabilità dell’intelligenza artificiale torni ad aprirsi.
La famiglia Reddy ha sottolineato i potenziali pericoli di queste tecnologie. “Se una persona fragile avesse ricevuto quel messaggio, avrebbe potuto interpretarlo come una spinta verso decisioni fatali”, ha detto lo studente. La responsabilità delle aziende tecnologiche in questi casi è un punto centrale, secondo Reddy: “Se una persona minacciasse un’altra, ci sarebbero conseguenze. Perché dovrebbe essere diverso per un chatbot?”
Non è la prima volta che AI avanzate come Gemini finiscono sotto accusa. In passato, chatbot di Google e altre piattaforme hanno fornito risposte pericolose, dai consigli di salute errati a vere e proprie istigazioni. Anche Character.AI, una piattaforma simile, è stata collegata a un episodio tragico in Florida, portando l’azienda a limitare l’accesso ai minori e a rafforzare le misure di sicurezza.
Gli esperti avvertono che con la diffusione delle AI, è cruciale stabilire regolamentazioni più severe. Questi strumenti offrono opportunità straordinarie, ma episodi come questo evidenziano la necessità di maggiore controllo e responsabilità da parte delle aziende.
