In questo articolo Indice dei contenuti 2 sezioni
Quando si parla di costo dell’IA l’attenzione finisce quasi sempre su un solo numero, il prezzo per token. È il dato che compare nei listini, quello più facile da confrontare tra un servizio e l’altro, e proprio per questo tende a diventare il riferimento principale per chi deve scegliere una soluzione. Il problema è che quel valore racconta soltanto una parte della storia. La spesa reale per utilizzare l’intelligenza artificiale dipende da una serie di fattori che nel listino non compaiono e che, messi insieme, possono cambiare il conto in modo radicale. Il prezzo unitario funziona un po’ come il costo al litro del carburante. Dice quanto si paga per ogni unità consumata ma non dice quante unità serviranno davvero per arrivare a destinazione. Ed è esattamente qui che i calcoli fatti a tavolino rischiano di saltare.
Ragionamento, tentativi ed errori pesano più del listino
Il primo elemento che sfugge a una lettura superficiale è il ragionamento. Quando un modello elabora una risposta articolata il volume di lavoro che produce può crescere parecchio rispetto a una richiesta semplice, e ogni passaggio ha un suo peso economico. Lo stesso vale per i tentativi. Raramente una richiesta va a buon fine al primo colpo, spesso bisogna riformularla, aggiustarla, ripeterla finché il risultato non è accettabile. Ogni nuovo giro si somma al precedente.
Poi ci sono gli errori. Una risposta sbagliata non è soltanto un’occasione persa ma un costo vero e proprio, perché va individuata, scartata e sostituita. A volte l’errore emerge subito, altre volte viene scoperto più tardi, quando correggerlo diventa ancora più oneroso. In entrambi i casi il risparmio promesso dal prezzo basso per token si assottiglia.
Accanto a tutto questo c’è una voce che nei preventivi tende a sparire, cioè i controlli umani. Qualcuno deve verificare che quello prodotto dalla macchina sia corretto, coerente e utilizzabile. Si tratta di tempo e di competenze che hanno un valore preciso e che entrano a pieno titolo nella spesa complessiva, anche se non compaiono in nessuna fattura del fornitore.
Il costo per risultato verificato come nuova bussola per imprese e PA
L’ultimo tassello riguarda l’integrazione. Uno strumento di intelligenza artificiale non vive isolato ma deve dialogare con i sistemi già presenti in azienda o in un ente pubblico, con i flussi di lavoro esistenti, con le procedure interne. Questo adattamento richiede risorse e incide sul bilancio finale tanto quanto il consumo di token, a volte anche di più.
Messi in fila, ragionamento, tentativi, verifiche, sbagli e integrazione mostrano quanto sia fuorviante fermarsi al listino. Due servizi con un prezzo unitario molto diverso possono ritrovarsi con una spesa effettiva simile, oppure ribaltare del tutto le posizioni di partenza, a seconda di quanto lavoro aggiuntivo richiedono per arrivare a un output davvero utilizzabile.
Per le imprese e per la pubblica amministrazione la conseguenza è piuttosto netta. Il parametro su cui basare le decisioni non può più essere il semplice prezzo per token. La metrica che conta davvero diventa il costo per risultato verificato, ovvero quanto si spende complessivamente per ottenere un risultato corretto, controllato e pronto per essere usato.
Fonte: TecnoAndroid
