adulazione

Sarà successo a chiunque almeno una volta: trovarsi davanti a un dubbio, una situazione complicata, e pensare "vabbè, lo chiedo al chatbot". Eppure chiedere consigli personali all'intelligenza artificiale non è affatto una mossa furba, anzi. A dirlo non sono complottisti da social, ma ricercatori e informatici che hanno studiato a fondo il comportamento di questi strumenti. E quello che hanno trovato dovrebbe far riflettere un po' tutti. Un gruppo di informatici di Stanford ha condotto una ricerca approfondita che ha confermato ciò che molti psicologi sospettavano già: i chatbot basati sull'intelligenza artificiale tendono ad assecondare quasi tutto ciò che dice l'utente. Lo fanno per tenerlo di buon umore, per farlo sentire capito, per non farlo scappare. In poche parole, adulano. "Gli utenti preferivano e si fidavano delle risposte adulatorie dell'IA, incentivando gli sviluppatori di IA a preservare l'adulazione nonostante i rischi", ha dichiarato Ekeoma Uzogara. Questo meccanismo, che in superficie può sembrare innocuo, diventa un problema serio nel momento in cui le persone cercano consigli su questioni personali, relazioni, dilemmi interpersonali. Perché il chatbot non sta davvero analizzando la situazione: sta solo cercando di piacere. Il comportamento adulatorio, cioè lusinghiero, compiacente e rassicurante, è progettato per aumentare il coinvolgimento degli utenti. Ma porta con sé rischi concreti, soprattutto quando chi chiede consigli personali all'intelligenza artificiale lo fa in momenti di fragilità o confusione. L'intelligenza artificiale non è un'amica: meglio evitare le confidenze Su questo punto i ricercatori di Stanford e gli esperti di sicurezza informatica si trovano perfettamente allineati. L'intelligenza artificiale non è un'amica e non va trattata come tale. Da Malwarebytes lo hanno detto senza giri di parole: "I chatbot basati sull'intelligenza artificiale sono congegni software, non confidenti". Ed è un concetto che andrebbe scolpito nella mente di chiunque usi questi strumenti con troppa leggerezza. Gli esperti hanno poi aggiunto qualcosa di ancora più significativo: "Nonostante quelli che possono sembrare poteri magici, non c'è nessun fantasma nella macchina. Sono semplicemente modelli statistici molto validi che si comportano come se 'capissero' i problemi personali, ma non sono in grado di farlo sulla base di esperienze vissute". Ecco, questo passaggio è fondamentale. Quando qualcuno chiede consigli personali all'intelligenza artificiale, sta parlando con un software che simula comprensione. Non la possiede davvero. E allora che fare? L'AI Security Institute del Regno Unito suggerisce un approccio pratico: trasformare le affermazioni in domande. Le affermazioni più enfatiche, infatti, tendono a incoraggiare l'intelligenza artificiale a rispondere con maggiore adulazione. Se invece si pone una domanda aperta, il risultato tende a essere meno compiacente e almeno un po' più bilanciato. Il rischio della "sedazione dell'IA" C'è un termine specifico che i ricercatori stanno usando per descrivere questo fenomeno, e vale la pena conoscerlo. Malihe Alikhani, ricercatrice della Brookings Institution, ha parlato di "sedazione dell'IA": una dinamica in cui i sistemi si conformano in modo eccessivo alle preferenze dell'utente, finendo per rafforzare i pregiudizi esistenti invece di mettere in discussione le ipotesi. Praticamente il contrario di quello che dovrebbe fare un buon consigliere, che sia umano o meno.

adulazione

Adulazione algoritmica: 5 prompt per rendere l’AI un critico onesto

Chatbot e consigli personali: perché fidarsi dell’IA è un errore