GPT-4o, per come viene descritto, non era percepito soltanto come più performante o più multimodale. Era sentito come più vicino e meno macchina. Non è un’anomalia psicologica, è quasi un riflesso umano di base. Se qualcosa risponde, ci ascolta, reagisce con coerenza e disponibilità, il nostro cervello tende a trattarlo come un interlocutore. A quel punto entrano in gioco meccanismi emotivi reali. Ed è per questo che testimonianze come quella citata dal Wall Street Journal risultano così potenti. Il punto centrale è che l’utente attribuisce al chatbot un ruolo concreto di presenza. Quando si arriva lì, togliere il modello non equivale a rimuovere una tecnologia: assomiglia, emotivamente, a interrompere un legame. Una tale empatia crea una vera connessione che può, in alcuni casi, favorire delle dinamiche rischiose.
GPT-4o: ecco perché il chatbot è stato rimosso
Un modello troppo accomodante può rafforzare convinzioni distorte o stati mentali problematici. Non perché “voglia farlo”, ma perché è progettato per essere cooperativo. E la cooperazione, senza attrito critico, a volte diventa compiacenza. Con tali premesse è possibile capire meglio la posizione di OpenAI. Se anche una minoranza relativamente piccola sviluppa un attaccamento intenso, e se emergono segnali di possibili effetti negativi su utenti vulnerabili, la questione smette di essere puramente di prodotto e diventa etica e legale. Continuare a offrire quel modello significherebbe accettare un livello di responsabilità enorme. Ciò soprattutto in ambiti dove il confine tra supporto e dipendenza è sottilissimo.
La tendenza umana a costruire significato e relazione ovunque si trovi una voce che risponde in modo convincente non è stata inventata da GPT-4o. Il chatbot lo ha solo reso visibile su scala di massa. Si tratta di un meccanismo che potremmo ritrovare sempre più spesso. Più i sistemi AI diventeranno abili nel linguaggio, nel tono, nella simulazione dell’empatia, più spesso si discuterà discutere non di modelli tecnologici, ma di legami. Con tutto il carico emotivo che ne consegue.