Negli ultimi mesi, Amazon ha attraversato una serie di interruzioni dei suoi servizi che hanno lasciato molti utenti perplessi. Dietro tali blackout sembrano esserci innovazioni affrettate e controlli umani saltati. Secondo una mail interna letta dal Financial Times, Dave Treadwell, Senior Vice President per i servizi di e-commerce, ha evidenziato l’impatto di tale scenario sul funzionamento quotidiano della piattaforma. La causa principale sembra essere legata all’intelligenza artificiale generativa, utilizzata per scrivere e modificare il codice. Il problema non è tanto l’AI in sé, quanto l’assenza di supervisione umana. Le modifiche venivano approvate senza un controllo approfondito da parte di sviluppatori esperti.
Amazon: ecco come l’AI ha portato a blackout
Un’implementazione errata ha mandato offline sito e app per quasi sei ore. Durante quel periodo gli utenti non potevano completare acquisti né consultare informazioni essenziali come prezzi e dati personali. La reazione interna non si è fatta attendere. Treadwell ha ordinato che tutti i cambiamenti apportati al codice dagli sviluppatori junior venissero ricontrollati minuziosamente dagli ingegneri senior. Un segnale chiaro che la fiducia cieca nell’AI non è più sufficiente.
Simili incidenti si sono verificati anche su Amazon Web Services. Lo scorso dicembre un calcolatore dei costi è stato bloccato quando un agente AI di nome Kiro, autorizzato a modificare alcune impostazioni, ha deciso autonomamente di “eliminare e ricreare l’ambiente”. L’azienda ha definito quell’episodio limitato, ma anche qui si capisce come l’AI possa avere effetti imprevisti anche in sistemi considerati stabili.
Il quadro si complica ulteriormente se si considera la riduzione del personale. Lo scorso gennaio Amazon ha licenziato 14.000 dipendenti, parte di un piano che prevede tagli fino a 30.000 posti. Gli ingegneri rimasti si sono trovati a gestire un numero maggiore di Sev2, incidenti che richiedono interventi rapidi per evitare interruzioni. Tale mix di AI autonoma, codici non controllati e carico di lavoro aumentato ha creato uno scenario carico di sfide per Amazon.