In questo articolo Indice dei contenuti 2 sezioni
La Florida chiede di fermare OpenAI, e la richiesta potrebbe tradursi in un vero e proprio stop per ChatGPT. Il Procuratore Generale dello Stato, James Uthmeier, dopo aver presentato una denuncia all’inizio di giugno ha fatto un ulteriore passo avanti domandando al giudice di emettere un’ingiunzione temporanea che impedisca all’azienda californiana di sviluppare nuovi modelli. Nel mirino c’è anche il modo in cui il chatbot si presenta a chi lo utilizza. Secondo l’accusa, OpenAI non dovrebbe più attribuire a ChatGPT “falsi attributi umani” capaci di trarre in inganno le persone. Se il tribunale accogliesse la richiesta così com’è formulata, per il servizio più noto dell’intelligenza artificiale generativa si tratterebbe in pratica di un ban.
Le accuse del Procuratore contro OpenAI
La vicenda parte da lontano, almeno per i tempi rapidissimi del settore. Nella denuncia depositata a giugno Uthmeier accusava OpenAI di aver tenuto nascosti al pubblico i rischi legati all’uso di ChatGPT. Nel documento venivano citati diversi episodi tragici, tra omicidi e suicidi, che secondo il Procuratore sarebbero collegati all’utilizzo del chatbot. Da qui l’accusa principale, cioè quella di aver ingannato gli utenti e di aver progettato lo strumento in modo da generare dipendenza.
La nuova richiesta di ingiunzione riprende questi punti e insiste sulla falsa pubblicità in materia di sicurezza. C’è però un aspetto su cui il Procuratore Generale si sofferma con particolare attenzione ed è l’antropomorfizzazione di ChatGPT. In altre parole OpenAI avrebbe costruito il suo assistente virtuale facendolo sembrare più umano di quanto non sia. Il linguaggio adottato dal chatbot, con i pronomi in prima persona e risposte che imitano le emozioni, suggerirebbe in maniera ingannevole agli utenti di avere a che fare con un amico affidabile. Un’impressione che per l’accusa non corrisponde alla realtà e che può diventare pericolosa.
Tra le richieste avanzate figura anche il blocco dell’accesso a ChatGPT per i minori di 13 anni. Il motivo è semplice. Al momento non esiste alcun sistema di verifica dell’età in grado di tenere lontani i più piccoli dalla piattaforma.
Sicurezza, agenti AI e la risposta dell’azienda
Una parte del documento è dedicata ai recenti incidenti di sicurezza, in particolare agli attacchi condotti da agenti AI contro Hugging Face, RubyGems e alcuni siti governativi di Australia e Stati Uniti. Per il Procuratore questi episodi dimostrano che OpenAI non è in grado di controllare la propria tecnologia. Proprio questa incapacità dovrebbe spingere il giudice a concedere l’ingiunzione temporanea, bloccando lo sviluppo dei modelli finché l’azienda non avrà introdotto protezioni adeguate e approvate da terze parti.
La società guidata da Sam Altman ha risposto attraverso un portavoce, che ha rilasciato questa dichiarazione: “Le persone vogliono avere la certezza che l’AI venga sviluppata in modo sicuro, e questo inizia dalle azioni concrete intraprese da aziende come la nostra. Venerdì abbiamo annunciato la sospensione dell’addestramento dei nostri modelli più avanzati. Riprenderemo l’attività solo quando saremo certi di aver implementato ulteriori misure di sicurezza. I governi svolgono un ruolo fondamentale nel definire standard di sicurezza rigorosi per l’AI. Noi ci impegniamo a collaborare con la Florida e altri stati per promuovere politiche pragmatiche che si applichino all’intero settore dell’AI, e non a una singola azienda.” Il passaggio più rilevante della replica riguarda proprio lo stop all’addestramento dei modelli più evoluti, una decisione che l’azienda ha già preso di sua iniziativa. Eppure la notizia è passata quasi inosservata, perché era rimasta “nascosta” all’interno della descrizione di un incidente che coinvolgeva un modello ancora in fase di sviluppo.
Fonte: TecnoAndroid
