I costi delle prestazioni dell'IA stanno diminuendo più rapidamente di qualsiasi tecnologia precedente
decoder ·
Ricerche recenti indicano che il costo per ottenere livelli di prestazione fissi nei benchmark dell'IA è diminuito drasticamente, con Epoch AI che segnala un calo trimestrale del 47% dal 2023. Questo tasso di riduzione dei costi è significativamente più rapido rispetto a qualsiasi tecnologia trasformativa precedente, sebbene rifletta i prezzi di mercato piuttosto che l'efficienza algoritmica pura. I ricercatori del MIT offrono una visione più sfumata, attribuendo solo un miglioramento annuale di circa tre volte ai guadagni algoritmici dopo aver tenuto conto dell'hardware più economico e delle pressioni competitive sui prezzi. La disparità tra gli studi nasce dal fatto che i nuovi modelli di ragionamento spesso consumano più risorse di calcolo per attività, il che può aumentare i costi nonostante i prezzi inferiori per token. Sebbene raggiungere le capacità di fascia alta del passato sia diventato molto più economico, l'esecuzione dei modelli all'avanguardia attuali costa frequentemente di più a causa dell'aumento del calcolo durante il test. Inoltre, i punteggi dei benchmark potrebbero non correlarsi sempre con l'efficienza nel mondo reale, poiché le aziende potrebbero ottimizzarsi per test specifici senza fornire benefici pratici proporzionali. Di conseguenza, la selezione di un modello di IA richiede la valutazione di fattori oltre alle semplici metriche prezzo-per-token, come latenza, accuratezza e idoneità per flussi di lavoro specifici.
decoder