Alcuni report interni di Amazon raccontano una storia poco comoda per il colosso di Seattle, e riguarda l’intelligenza artificiale che sta facendo lievitare le spese su diversi progetti. Il conto più salato parla di 1,8 milioni di dollari, circa 1,7 milioni di euro, e si riferisce a un solo progetto. Errori che un tempo costavano pochissimo, praticamente niente, ora possono diventare, testuali parole, “catastroficamente costosi”. Il motivo sta tutto nel consumo di token, schizzato verso l’alto con l’arrivo degli agenti AI.
Il pasticcio più grosso finora arriva da un impiego fallito di Claude Sonnet. Il compito era banale sulla carta: abbinare i dettagli degli autori alle inserzioni presenti su Amazon. Peccato che la spesa sia andata fuori controllo, con un aumento dell’860% rispetto al budget stanziato. E la cosa più assurda è che nessuno se ne è accorto per circa cinque mesi. Cinque mesi in cui il contatore ha continuato a girare senza che nessuno tirasse il freno.
Non è stato l’unico scivolone. C’è stato un costo aggiuntivo di EUR 471.419, poco più di 500.000 euro, legato a un progetto che, ironia della sorte, doveva costruire uno strumento di revisione contabile. E poi altri EUR 116.765, intorno ai 125.000 euro, spesi in più per un sistema pensato per ridurre i tempi di consegna nella rete logistica dell’azienda.
La risposta di Amazon e il peso reale di questi numeri
Interpellata sulla vicenda, Amazon ha minimizzato con toni piuttosto prevedibili. “Come con ogni nuova tecnologia, stiamo sperimentando, imparando e migliorando il modo in cui la usiamo, comprese le efficienze di costo”, si legge in una presentazione interna. Poi la stoccata a chi ha diffuso questi dati: selezionare piccoli esempi isolati e spacciarli per la normalità, secondo l’azienda, non riflette come i team stiano davvero usando l’AI.
E in effetti, mettendo le cifre in prospettiva, il quadro cambia parecchio. Bruciare più di un milione di dollari su progetti falliti può sembrare enorme per una persona comune, ma i ricavi trimestrali del gigante superano i 181 miliardi di dollari. Vuol dire che questi sprechi non arrivano nemmeno allo 0,1% di quello che l’azienda incassa in un mese. Una goccia nel mare, insomma.
Non è la prima volta che i problemi legati all’AI spuntano nei flussi di lavoro di Amazon. All’inizio dell’anno AWS ha registrato diversi disservizi provocati da errori dei bot di coding. La soluzione? Limitare l’accesso degli agenti invece di concedere loro gli stessi permessi degli ingegneri senior a cui erano collegati. C’era anche una classifica interna che mostrava quali dipendenti usavano di più l’AI, ma è stata abbandonata quando i costi fuori controllo hanno fatto riflettere sulla bontà di quella politica.
Il tema è più ampio e tocca l’intero settore. Molte aziende tech spingono i propri dipendenti a usare l’AI per aumentare la produttività, il cosiddetto tokenmaxxing. Eppure il responsabile tecnologico di Uber ha ammesso che non esiste alcun legame tra questa pratica e il rilascio di prodotti di successo. Con gli agenti che prendono il sopravvento e i fornitori che passano dagli abbonamenti al modello a consumo per token, le spese sono diventate talmente alte che alcune società esauriscono il budget annuale nel giro di poche settimane. Per i giganti come Amazon e Microsoft il problema è gestibile, per tutti gli altri è una strada difficilmente sostenibile.