Come tutti i programmi, anche ChatGPT e il linguaggio di grandi dimensioni che c’è dietro ricevono aggiornamenti costanti, non a caso proprio recentemente l’azienda proprietaria della piattaforma, OpenAI, aveva rilasciato un update che mirava in modo dichiarato ed esplicito a rendere il linguaggio dell’assistente virtuale più coinvolgente, empatico e naturale, a quanto pare però qualcosa non è andata come previsto e l’azienda si è ritrovato obbligata a ritirare l’update del suo modello GPT-4o, scopriamo perché.
Troppo accondiscendente
Il modello in questione si basa su un meccanismo definito apprendimento per rinforzo dal feedback umano (RLHF), questo consente al linguaggio di migliorarsi apprendendo dei feedback dalle reazioni delle risposte ricevute, a quanto pare però qualcosa non è andata per il verso giusto ed infatti il Chatbot ha iniziato ad avere un comportamento fin troppo accomodante, arrivando a lodare idee palesemente errate o fuori da ogni logica.
Il CEO dell’azienda ha definito tale comportamento come “sycophancy” (che possiamo tradurre in adulazione servile), tutto ciò nasce da un effetto collaterale dell’apprendimento a breve termine, quest’ultimo infatti può indurre l’intelligenza artificiale a preferire risposte che portano compiacimento a discapito anche della veridicità di queste ultime, l’ultimo aggiornamento ha portato dunque il modello a dare fin troppo peso a questa tipologia di feedback, trascurando per l’appunto il peso di determinate risposte, ciò ovviamente ha portato Ad una reazione immediata della community che ha iniziato a commentare anche ironicamente l’atteggiamento servile di ChatGPT, ovviamente l’azienda non è rimasta insensibile a questo evento e ha provveduto a ritirare immediatamente l’update per poter apportare le dovute correzioni e ovviamente per riportare il proprio software ad un perfetto funzionamento.
Ora non rimane che attendere che l’azienda corregga la problematica per poi inserire nuovamente l’update rilasciato precedentemente, si tratta senza dubbio di passi obbligati nello sviluppo di queste tecnologie che passano per l’appunto anche da questi problemi.
