L’intelligenza artificiale costa sempre meno, ma le aziende spendono sempre di più

Il prezzo delle singole elaborazioni continua a diminuire, mentre la moltiplicazione di applicazioni, utenti e processi automatizzati fa crescere la fattura complessiva. Per le imprese diventa indispensabile misurare il valore realmente prodotto.

L’intelligenza artificiale generativa sta mettendo in discussione uno dei principi sui quali si è sviluppata l’economia digitale: l’idea che il software, una volta realizzato, possa essere distribuito e utilizzato con un costo marginale prossimo allo zero.

Con l’IA non è necessariamente così. Ogni domanda, risposta, analisi o contenuto generato richiede capacità di calcolo. Ogni interazione consuma token e ogni token, per quanto sempre meno costoso, contribuisce alla spesa sostenuta dall’organizzazione.

Il risultato è un apparente paradosso: utilizzare un modello di intelligenza artificiale costa progressivamente meno, ma le aziende finiscono per spendere complessivamente di più.

A richiamare l’attenzione sul fenomeno è Paolo Benanti, che sul Sole 24 Ore evidenzia come la diffusione dell’IA generativa renda più difficile prevedere i costi reali dei progetti e valutarne il ritorno economico.

Il prezzo unitario scende, i consumi esplodono

I progressi tecnologici, la concorrenza tra i fornitori e la disponibilità di modelli più piccoli ed efficienti stanno riducendo il costo delle singole elaborazioni. Ma contemporaneamente cresce il numero dei processi nei quali l’intelligenza artificiale viene inserita.

Un’impresa può iniziare sperimentando un assistente per scrivere testi e ritrovarsi, nel giro di pochi mesi, a utilizzare l’IA nel servizio clienti, nell’analisi dei documenti, nel marketing, nella programmazione, nella ricerca interna e nella produzione di report.

La spesa non cresce quindi necessariamente perché la tecnologia diventa più cara. Cresce perché viene utilizzata più spesso, da più persone e per attività sempre più complesse.

Gli agenti di IA amplificano ulteriormente il fenomeno. Un comando apparentemente semplice può attivare numerosi passaggi: consultazione di documenti, interrogazione di banche dati, confronto tra risultati, verifica delle informazioni e generazione della risposta finale. L’utente vede una sola operazione, mentre dietro le quinte il sistema può averne eseguite decine.

Non esiste soltanto il costo dei token

Limitare il calcolo al prezzo dei token rischia inoltre di offrire un’immagine incompleta dell’investimento.

Ai costi di utilizzo dei modelli si aggiungono quelli per l’infrastruttura, l’archiviazione, la sicurezza, l’integrazione con i sistemi aziendali, la gestione dei dati, il controllo umano e la formazione del personale.

Anche la scelta del modello incide sensibilmente. Impiegare un sistema molto potente per svolgere operazioni semplici significa acquistare capacità che non producono necessariamente un valore proporzionato. Le indicazioni tecniche di Amazon Web Services raccomandano infatti di scegliere dimensioni del modello e modalità di inferenza in funzione delle reali esigenze, evitando risorse superiori a quelle necessarie. (AWS)

Lo stesso problema si presenta con risposte inutilmente lunghe, richieste ripetute, documenti caricati integralmente quando basterebbero pochi passaggi e applicazioni lasciate senza limiti di utilizzo.

Dal costo per token al costo per risultato

La vera sfida per le imprese consiste nel cambiare unità di misura.

Sapere quanto costa un milione di token è utile per il reparto tecnico, ma non basta per prendere una decisione industriale. Un’azienda dovrebbe conoscere quanto costa risolvere una richiesta del cliente, produrre un documento, analizzare un contratto o completare una campagna attraverso l’intelligenza artificiale.

Occorre quindi passare dal costo per token al costo per risultato, mettendolo in relazione con il tempo risparmiato, la qualità ottenuta e il valore generato.

Un processo automatizzato molto economico può rappresentare uno spreco se produce contenuti inutili o richiede continue correzioni. Al contrario, un’elaborazione più costosa può risultare conveniente se consente di ridurre sensibilmente tempi, errori o attività manuali.

Il rischio per le organizzazioni più fragili

La prevedibilità della spesa diventa particolarmente importante per ospedali, amministrazioni pubbliche e medie imprese, che dispongono di risorse più limitate e di una minore capacità di assorbire improvvisi aumenti dei costi.

Un servizio utilizzato da pochi dipendenti durante una sperimentazione può comportarsi in modo molto diverso quando viene esteso a migliaia di utenti o collegato automaticamente a numerosi processi.

Per questo l’adozione dell’IA dovrebbe essere accompagnata fin dall’inizio da strumenti di monitoraggio, soglie di consumo e responsabilità precise. Le piattaforme cloud hanno già sviluppato sistemi per dimensionare le infrastrutture, controllare l’utilizzo e ridurre la spesa ricorrente legata all’inferenza. (AWS)

L’intelligenza artificiale non diventa meno conveniente perché viene utilizzata di più. Diventa però necessario amministrarla come una risorsa industriale, non come un servizio digitale dal costo irrilevante.

La domanda decisiva per le aziende non sarà più soltanto “quanto costa questo modello?”, ma “quanto valore produce ogni volta che lo utilizziamo?”. È su questa risposta che si misurerà la sostenibilità economica della nuova stagione dell’IA.