Amazon si è impegnata negli ultimi anni per rendere Alexa sempre più funzionale. L’azienda di Jeff Bezos ha puntato ad integrare l’Intelligenza Artificiale generativa all’interno dell’assistente vocale per consentire il più grande rinnovamento software dal lancio.
Tuttavia, a distanza di un paio d’anni dall’inizio dei lavori, Amazon non sembra essere riuscita ad integrare perfettamente l’IA in Alexa. Il motivo di tale ritardo è da ricercare nella possibilità che si verifichino le cosiddette “allucinazioni”.
Il problema delle allucinazioni dell’IA è estremamente serio in quanto porta i dei modelli linguistici di grandi dimensioni (LLM) a fare affermazioni completamente false. Considerando questa eventualità, l’assistente vocale di Amazon potrebbe dire cose non vere e causare grandi problemi di fiducia nelle risposte ottenute dagli utenti.
Amazon vuole integrare l’Intelligenza Artificiale su Alexa ma non vuole affrettare i tempi dello sviluppo rischiando di peggiorare l’usabilità
Infatti, i dispositivi domotici sono interrogati dagli utenti tantissime volte ogni singolo giorno. Fornire risposte false, sbagliate o incoerenti potrebbe danneggiare il marchio e la reputazione dell’azienda. Per questo motivo, Amazon vorrebbe integrare le funzionalità di Intelligenza Artificiale su Alexa senza intaccare le funzioni consolidate di cui gli utenti si fidano.
Come affermato in un report del Financial Times, un ex dipendente di Amazon ha confermato che il problema delle allucinazioni su Alexa potrebbe avere ricadute disastrose. Considerando la scala con cui opera l’assistente vocale, le allucinazioni potrebbero verificarsi decine di volte al giorno.
Il rilascio dell’update per Alexa deve sottostare al superamento di rigorosi test di affidabilità. Secondo Rohit Prasad, responsabile AGI di Amazon, gli ostacoli tecnici da affrontare sono ancora numerosi ma bisogna anche considerare che ci si trova nella fase finale dello sviluppo. Questa situazione comporta una ricerca continua della perfezione al fine di ridurre le possibilità di errore ad un valore vicino allo zero.
L’integrazione dell’IA su Alexa avverrà solo quanto il team di sviluppo riterrà che il prodotto sia pronto per il lancio, senza rischiare di affrettare i tempi.
