News

OpenAI blocca Chatbot: IA finge di essere un candidato elettorale

 

Nel sempre complesso panorama dell’intelligenza artificiale, OpenAI ha recentemente annunciato il blocco di un chatbot sviluppato dalla startup Delphi, noto come Dean.AI Questo avrebbe cercato di impersonare un candidato presidenziale durante la campagna elettorale negli Stati Uniti. Questa mossa arriva come risposta immediata alle preoccupazioni crescenti riguardo all’abuso dell’IA in contesti politici.

Dean.AI, il chatbot in questione, prendeva il nome dal candidato democratico Dean Phillips, impegnato in una sfida contro l’attuale Presidente Joe Biden. La web app che ospitava l’IA specificava chiaramente che si trattava di un sistema automatizzato basato sull’intelligenza artificiale. Ciò non ha impedito a OpenAI di bloccare l’accesso alla tecnologia per la startup Delphi.

L’impiego non responsabile delle IA nell’universo politico

La mossa di OpenAI, guidata da Sam Altman, arriva prima che i timori degli scettici sull’impiego irresponsabile dell’IA nella politica trovino conferma. L’utilizzo del chatbot Dean.AI sembrava violare i termini di servizio di OpenAI. Ciò ha portato alla decisione di escludere Delphi dalla possibilità di utilizzare il codice sorgente e l’IA di ChatGPT per futuri sviluppi. Tale problematica, legata all’utilizzo improprio dell’intelligenza artificiale, va ad unirsi alle altre discussioni già in corso.

Dean.AI è stato commissionato dal PAC “We Deserve Better”, sostenitore di Dean Phillips. L’intento era quello di creare un assistente virtuale in grado di replicare il linguaggio e l’approccio del candidato. Con questa tecnologia avrebbe dovuto presentare il suo programma agli elettori. Tuttavia, l’IA sembra essere stata addestrata oltre i limiti stabiliti dalle nuove linee guida di ChatGPT contro la disinformazione, in particolare quelle che vietano l’impersonificazione di candidati politici. La policy di OpenAI proibisce esplicitamente “IA che impersonano i candidati” e la creazione di applicazioni apposite per le campagne elettorali ed altre attività di lobby.  Il blocco di Dean.AI e l’esclusione di Delphi rappresentano un chiaro segnale della volontà della società creatrice di ChatGPT di preservare l’integrità e l’etica nell’uso dell’intelligenza artificiale, specialmente in contesti delicati come le elezioni presidenziali.

Ancora una volta l’uso dell’intelligenza artificiale genera dibattiti. Questa vicenda mette in luce la necessità crescente di regolamentare l’uso dell’IA in contesti politici. Sottolinea l’importanza di adottare approcci etici e responsabili per prevenire possibili abusi e manipolazioni nel futuro utilizzo di tale tecnologia avanzata.

Condividi
Pubblicato da
Rossella Vitale