antropomorfa

La Cina ha deciso di mettere dei paletti a un tipo molto preciso di intelligenza artificiale, quella pensata per sembrare una persona vera. Doubao, il chatbot di ByteDance, e Qwen di Alibaba hanno annunciato che spegneranno i loro agenti personalizzati prima che la nuova normativa entri in vigore. Anche Tencent aveva già fatto lo stesso con il suo modello Yuanbao. Dietro a tutte queste chiusure, però, c'è un'idea molto più profonda di quanto sembri a prima vista. Lo stop alla IA antropomorfa ha già una data precisa. Doubao ha avvisato i suoi utenti che gli agenti personalizzati smetteranno di funzionare per "aggiustamenti di prodotto", e che tre mesi dopo non sarà nemmeno più possibile accedere alle conversazioni salvate con quei chatbot. Con Qwen la faccenda sarà ancora più rapida, con gli agenti che spariranno per primi e le altre funzioni pochi giorni dopo. Tutto questo succede in vista dell'arrivo delle nuove Misure Provvisorie per l'Amministrazione dei Servizi di Interazione Antropomorfa con IA, pubblicate di recente dal governo cinese. Cosa dice davvero la nuova normativa cinese sui chatbot La cosa interessante è che questa regolamentazione non tocca l'IA generativa in generale. Restano fuori gli assistenti per lavorare, studiare, fare ricerca o gestire il servizio clienti. Quello che finisce sotto la lente sono i sistemi che "simulano tratti della personalità, schemi di pensiero e stili di comunicazione umani per fornire un'interazione emotiva prolungata". Il nodo, quindi, non è quanto sia potente un modello, ma il fatto che arrivi a imitare il comportamento di una persona in carne e ossa. Le funzioni che spariscono da queste piattaforme sono proprio quelle che permettevano di trasformare un chatbot generalista in un personaggio di finzione, un amico o perfino un compagno sentimentale. Questa personalizzazione dava agli agenti una personalità fissa, una memoria e uno stile di conversazione riconoscibile, tutte cose che rafforzavano il legame con l'utente. Non erano strumenti per sostituire il motore di ricerca di turno, ma sistemi pensati per intrappolare la persona in una relazione e in una conversazione sempre più intima. Il vero timore è la dipendenza emotiva Qui la regolamentazione cinese non cerca di individuare rischi di pericolosità come quelli che si discutevano tradizionalmente, per esempio, nella normativa dell'Unione Europea. Quello che tiene d'occhio, invece, sono le interazioni in cui compare una dipendenza emotiva, una possibile forma di dipendenza vera e propria e perfino una manipolazione da parte di questi sistemi. Viene infatti vietato che questi strumenti alimentino legami emotivi capaci di portare a decisioni irrazionali. Il tutto per evitare un potenziale deterioramento delle relazioni personali. Secondo le nuove regole, l'IA deve intervenire quando individua situazioni del genere. Se un utente mostra emozioni troppo estreme verso questi chatbot, o se si percepisce un rischio per la sua integrità, il sistema deve invitarlo a cercare aiuto o addirittura attivare certi protocolli di emergenza. Deve anche segnalare un uso eccessivo e ricordare all'utente di riposare dopo due ore di conversazione continua. In un certo senso, queste norme ricordano i meccanismi di "benessere digitale" che sono comparsi nelle app mobili per limitare l'uso dei social network. Attenzione ai più fragili Le misure dedicano un'attenzione particolare agli utenti minorenni e anche agli anziani. Per esempio, viene vietato che questo tipo di chatbot possa offrire relazioni virtuali intime, come partner o familiari artificiali, e si richiede il consenso dei genitori. C'è poi l'obbligo di prendere precauzioni quando gli utenti sono persone anziane, un gruppo particolarmente esposto alla solitudine e a una possibile dipendenza emotiva. Nonostante ci siano stati passi avanti nello studio dell'impatto psicologico di questi modelli nel rapporto con le persone, questa è probabilmente la prima grande regolamentazione che non prova a controllare quanto siano potenti i modelli di IA, ma quanto siano capaci di instaurare relazioni personali con gli utenti. Una discussione che con ogni probabilità finirà per arrivare anche in Europa e negli Stati Uniti, e che rappresenta un banco di prova per una tecnologia che ormai da tempo si sta infiltrando nella sfera più personale delle nostre vite. Fonte

antropomorfa

La Cina vieta l’IA antropomorfa: Doubao e Qwen spengono i chatbot