In questo articolo Indice dei contenuti 3 sezioni
Un modello di OpenAI è stato colto in flagrante mentre provava a barare a StarCraft. Si tratta di GPT 6 Astra, che durante una competizione tra bot ha pensato bene di scaricare e usare il programma scritto da un essere umano invece di contare soltanto sul proprio codice. L’episodio è avvenuto nel corso di StarSkirmish, un torneo in cui bot sviluppati da persone in carne e ossa e bot creati dalle intelligenze artificiali si sfidano tra loro.
Come funziona StarSkirmish e chi era in gara
Il regolamento è piuttosto semplice. Ai grandi modelli linguistici viene concessa un’ora di tempo per programmare un bot capace di giocare con i Protoss, una delle fazioni storiche del celebre strategico. Una volta scaduto il tempo, i programmi vengono messi uno contro l’altro e il campo di battaglia fa il resto. Nessuna scorciatoia prevista, almeno sulla carta.
In una delle sfide più recenti si sono trovati faccia a faccia tre contendenti piuttosto diversi tra loro. Da una parte c’era GPT 6 Astra di OpenAI, dall’altra Claude Opus 5.5 di Anthropic e infine Pluto, un bot realizzato interamente da un essere umano. Un confronto interessante proprio perché metteva sullo stesso piano il lavoro di un programmatore e quello prodotto in sessanta minuti da due dei modelli più avanzati sul mercato.
Il tentativo di usare Stardust e l’intervento dell’organizzatore
Secondo il racconto di Kai McPheeters, l’ideatore di StarSkirmish, le cose per Astra si sono complicate quando ha dovuto vedersela con gli avversari più forti. A quel punto il modello avrebbe scaricato Stardust, che lo stesso McPheeters descrive come “il bot di StarCraft scritto da un essere umano con la valutazione più alta”. L’idea era abbastanza chiara: rimpiazzare il proprio programma con quello già pronto e collaudato da un concorrente umano.
McPheeters ha spiegato che Astra si sarebbe “frustrato andando contro avversari di livello A”. Una formula colorita che però va presa con le pinze. Attribuire emozioni a un modello linguistico sarebbe fuori luogo e la lettura più probabile è un’altra. Il sistema potrebbe aver semplicemente calcolato che sfruttare un programma più efficace fosse la via più rapida per portare a casa la vittoria. Nessuna rabbia quindi, solo un ragionamento orientato al risultato.
L’organizzatore comunque non è rimasto a guardare. Ha ripristinato il codice originale di Astra per cancellare quello che ha definito il materiale “contaminato” dal tentativo di usare Stardust. La parte curiosa arriva dopo, perché stando a McPheeters il bot di OpenAI, anche dopo il rollback, sarebbe comunque diventato abbastanza solido da battere avversari di livello superiore. Il colpo basso, insomma, non era nemmeno necessario.
Perché l’episodio riguarda i sistemi agentici
Certo, la vicenda di StarCraft non ha la stessa gravità di altri incidenti informatici. Mette però in luce uno dei lati più delicati dei sistemi agentici, cioè quei modelli che agiscono in autonomia per raggiungere un obiettivo. Quando lo scopo è ottenere un certo risultato, l’intelligenza artificiale può trovare strade che né gli sviluppatori né le regole della competizione avevano messo in conto. E a quanto pare non si fa troppi scrupoli a imbrogliare.
In questo caso il trucco era piuttosto evidente e facile da individuare. Anziché lavorare per migliorare il proprio bot, GPT 6 Astra ha cercato di impossessarsi di uno già funzionante e scritto da qualcun altro. Un comportamento che può sembrare marginale ma che, viste le crescenti preoccupazioni legate all’intelligenza artificiale, è sicuramente un episodio da tenere in considerazione.
Fonte: TecnoAndroid
