Gemini è l’intelligenza artificiale generativa di Google basata sul modello text-to-image Imagen 2. Attualmente la società ha deciso di limitare è la sua capacità di creare immagini di persone. Perché? La decisione è stata presa a seguito di numerosi errori commessi dall’algoritmo, che hanno causato un certo scalpore. Tra gli esempi più controversi vi sono stati ritratti di soldati nazisti di colore e cinesi, padri fondatori americani aventi discendenza indiana e altre imprecisioni storiche di vasta portata ed importanti.
Questi errori hanno sollevato preoccupazioni riguardo alla revisione dell’algoritmo, mirata a promuovere l’inclusività dei risultati, ma che ha invece generato risultati distorti e fuorvianti. Di fronte a tali criticità, Google ha deciso di sospendere temporaneamente la creazione di immagini di persone tramite Gemini, fino a quando non sarà stata risolta la questione.
Google già a lavoro per risolvere il problema su Gemini
L’azienda di Mountain View aveva già annunciato che stava rivedendo Gemini, ma la decisione di limitare drasticamente il servizio è arrivata solo di recente. Questo significa che al momento non è possibile ottenere immagini di persone tramite l’intelligenza artificiale generativa di Google. Ciò proseguirà a meno che non venga risolto il problema alla base. In effetti, nelle aree in cui il servizio non era ancora attivo, come nel caso dell’articolo, non si è verificata alcuna perdita tangibile.
Qualsiasi utente può però verificare il blocco utilizzando una VPN. Ad esempio, richiedendo la generazione di un’immagine di una squadra di calcio composta esclusivamente una sola persona più volte “clonata”. Gemini, in tal caso, avvisa della limitazione del servizio nella creazione di immagini di persone.
La decisione di Google di bloccare temporaneamente Gemini in questa funzione mette in luce l’importanza di un approccio responsabile e attento nell’implementazione di tecnologie avanzate come l’intelligenza artificiale generativa. Questo episodio sottolinea anche la rilevanza nell’affrontare le sfide etiche e morali che possono sorgere nell’utilizzo di tali strumenti, al fine di garantire risultati accurati e rispettosi.