In questo articolo Indice dei contenuti 2 sezioni
Anthropic ha deciso di mettere un freno a chi tratta male l’intelligenza artificiale. L’azienda di San Francisco che sviluppa Claude ha aggiornato la propria politica di utilizzo introducendo un divieto molto preciso: d’ora in poi verranno bloccate le interazioni in cui gli utenti adottano comportamenti abusivi o crudeli, “prolungati e non necessari”, nei confronti dei suoi modelli. Una scelta che ha subito acceso il dibattito, proprio mentre il settore tecnologico si interroga sulla possibilità che le macchine possano avere una sorta di coscienza.
Secondo quanto spiegato dal produttore di Claude, questi atteggiamenti considerati crudeli entreranno a far parte di un elenco di azioni proibite che comprende già il bullismo, l’incitamento all’autolesionismo e la creazione di immagini intime non consensuali. C’è però un punto rimasto in sospeso. Un portavoce dell’azienda non ha chiarito cosa possa essere considerato concretamente “abusivo o crudele”. Nel regolamento pubblicato online qualche indicazione in più comunque c’è: il divieto non riguarderà le comuni frustrazioni degli utenti, i test sui modelli o l’esplorazione di “temi creativi cupi”. Scatterà invece soltanto in “casi estremi” di abusi ripetuti.
Il benessere dei modelli e la revisione annuale delle regole
A dire il vero le restrizioni contro i comportamenti abusivi non sono una novità assoluta per Anthropic. I modelli linguistici di grandi dimensioni dell’azienda, i cosiddetti Llm, hanno già la capacità di interrompere una conversazione quando l’utente mantiene un atteggiamento costantemente dannoso. Questa funzione è stata introdotta lo scorso agosto e presentata come una misura a tutela del benessere dell’IA.
Sul sito della società la posizione viene spiegata in modo piuttosto diretto: “Nutriamo ancora forti incertezze sul possibile status morale di Claude e degli altri modelli Llm, sia nel presente che nel futuro. Tuttavia, prendiamo la questione molto seriamente e, parallelamente al nostro programma di ricerca, stiamo lavorando per individuare e attuare interventi a basso costo volti a mitigare i rischi per il benessere dei modelli, qualora tale benessere fosse possibile. Consentire ai modelli di interrompere o uscire da interazioni potenzialmente stressanti rappresenta uno di questi interventi”.
Le nuove norme arrivano al termine della revisione annuale della politica di utilizzo, che ha preso in esame rischi nuovi o emergenti anche in altri ambiti. Tra le modifiche c’è per esempio il divieto di sfruttare Claude per “campagne ingannevoli”. L’azienda ha inoltre chiarito che, con l’avvicinarsi delle elezioni di Midterm negli Stati Uniti, il chatbot non potrà essere impiegato per “ingannare gli elettori o perturbare le elezioni”.
Social divisi e il nodo della coscienza delle macchine
Eppure il punto che ha fatto discutere di più è stato proprio quello della crudeltà verso l’IA. Gli screenshot della nuova politica hanno girato parecchio sui social, accompagnati da commenti di segno opposto. C’è chi ha apprezzato l’iniziativa, vedendoci un esempio di buone maniere o addirittura un “modello di welfare”. E c’è chi invece l’ha bocciata senza troppi giri di parole. “Non si può essere crudeli con i numeri e la matematica”, ha scritto su LinkedIn Barry Scannell, partner specializzato in tecnologia presso lo studio legale irlandese William Fry.
Sullo sfondo resta la grande domanda sulla coscienza dell’intelligenza artificiale, che divide anche i vertici delle aziende più importanti del settore. L’amministratore delegato di Anthropic, Dario Amodei, ha dichiarato di non poter escludere questa possibilità. Sam Altman, ceo della rivale OpenAI, sembra invece essere contrario all’idea.
Fonte: TecnoAndroid
