Oggi vi raccontiamo un fatto assolutamente singolare, come svelato da Google qualcuno di recente ha cercato di replicare l’intelligenza artificiale di Gemini tramite un bombardamento importante di richieste, secondo infatti un report stilato da un gruppo apposito dell’azienda, alcuni utenti avrebbero sottoposto a Gemini oltre 100.000 domande nel tentativo di carpirne i segreti operativi e riprodurne le capacità, scopriamo com’è andata a finire.
Una pratica grigia
Gli esperti del settore definiscono questa tipologia di attività come distillazione, si tratta di un metodo che sfrutta le domande ripetute e sistematiche a un modello di intelligenza artificiale per studiarne le risposte in modo da produrre dei dati utili ad addestrare un sistema concorrente, nello specifico a differenza delle violazioni informatiche tradizionali, in questo caso gli aggressori non hanno forzato o violato nessun sistema, semplicemente hanno sfruttato in modo speculare le API posizionandosi in una zona grigia che pone ovviamente un interrogativo diretto sul confine tra uso normale e appropriazione indebita.
Ovviamente Google non ha usato mezzi termini e ha definito queste attività come una violazione dei termini di servizio e come un furto di proprietà intellettuale, dopodiché ha posto l’attenzione sul fatto che seppur senza intrusioni tecniche l’obiettivo finale di tali tentativi rimane quello di impossessarsi del valore commerciale e tecnologico implicito in Gemini.
A destare particolari attenzione è stata poi la campagna che ha preso di mira direttamente le abilità di ragionamento dell’intelligenza di Google, normalmente infatti il software non mostra completamente il proprio processo di pensiero interno, mantiene infatti riservati alcuni passaggi logici che lo conducono alle risposte fornite, alcuni utenti però hanno cercato di aggirare e bypassare tale limitazione in modo da portare il sistema a rivelare dettagli più approfonditi.
Tutto ciò non fa altro che mettere luce sul tentativo evidente di replicare non soltanto le risposte superficiali di Gemini, bensì anche la sua capacità di elaborare ragionamenti complessi attraverso vari compiti e persino sfruttando lingue diverse dall’inglese, l’elevato numero di tentativi sta ad indicare uno sforzo coordinato e prolungato basato su una strategia precisa.
L’azienda non ha voluto fare nomi in merito ai responsabili dell’accaduto, ma pare che la stragrande maggioranza dei tentativi provenga da società private in cerca di un vantaggio competitivo, dichiarazione e contesto che ovviamente aprono ad uno scenario decisamente preoccupante per quanto riguarda l’industria dell’intelligenza artificiale.