Os custos de desempenho da IA estão caindo mais rápido do que os de qualquer tecnologia anterior
decoder ·
Pesquisas recentes indicam que o custo para alcançar níveis fixos de desempenho em benchmarks de IA caiu drasticamente, com a Epoch AI relatando uma redução trimestral de 47% desde 2023. Essa taxa de redução de custos é significativamente mais rápida do que a de qualquer tecnologia transformadora anterior, embora reflita os preços de mercado em vez da eficiência algorítmica pura. Pesquisadores do MIT oferecem uma visão mais matizada, atribuindo apenas cerca de um melhoramento trienal de três vezes aos ganhos algorítmicos após considerar o hardware mais barato e as pressões competitivas de precificação. A disparidade entre os estudos surge porque os novos modelos de raciocínio frequentemente consomem mais poder computacional por tarefa, o que pode aumentar os custos apesar dos menores preços por token. Embora tornar-se tão capaz quanto os melhores modelos do passado tenha se tornado muito mais barato, executar os modelos de última geração atuais frequentemente custa mais devido ao aumento do uso de computação durante o teste. Além disso, as pontuações nos benchmarks nem sempre correlacionam-se com a eficiência no mundo real, já que as empresas podem otimizar seus sistemas para testes específicos sem entregar benefícios práticos proporcionais. Consequentemente, selecionar um modelo de IA exige avaliar fatores além das métricas simples de preço por token, como latência, precisão e adequação a fluxos de trabalho específicos.
decoder