Los costos de rendimiento de la IA caen más rápido que los de cualquier tecnología anterior
decoder ·
Investigaciones recientes indican que el costo de alcanzar niveles fijos de rendimiento en pruebas de inteligencia artificial ha disminuido drásticamente, con una caída trimestral del 47% reportada por Epoch AI desde 2023. Esta tasa de reducción de costos es significativamente más rápida que la de cualquier tecnología transformadora anterior, aunque refleja los precios de mercado en lugar de la eficiencia algorítmica pura. Investigadores del MIT ofrecen una perspectiva más matizada, atribuyendo solo una mejora anual de aproximadamente tres veces a las ganancias algorítmicas después de tener en cuenta el hardware más barato y las presiones competitivas de precios. La disparidad entre los estudios surge porque los nuevos modelos de razonamiento suelen consumir más potencia computacional por tarea, lo que puede aumentar los costos a pesar de los menores precios por token. Si bien lograr capacidades de primer nivel comparables al pasado se ha vuelto mucho más económico, ejecutar modelos de última generación actuales suele ser más costoso debido al mayor uso de cómputo durante la prueba. Además, las puntuaciones en las pruebas no siempre se correlacionan con la eficiencia en el mundo real, ya que las empresas pueden optimizar sus modelos para pruebas específicas sin ofrecer beneficios prácticos proporcionales. En consecuencia, seleccionar un modelo de IA requiere evaluar factores más allá de las métricas simples de precio por token, como la latencia, la precisión y la adecuación para flujos de trabajo específicos.
decoder