Les coûts de performance de l'IA baissent plus vite que ceux de toute technologie précédente
decoder ·
Des recherches récentes indiquent que le coût d'atteinte de niveaux de performance fixes dans les benchmarks d'IA a chuté de manière spectaculaire, Epoch AI signalant une baisse trimestrielle de 47 % depuis 2023. Ce rythme de réduction des coûts est nettement plus rapide que celui observé pour toute technologie transformatrice précédente, bien qu'il reflète les prix du marché plutôt que l'efficacité algorithmique pure. Des chercheurs du MIT offrent une perspective plus nuancée, attribuant seulement environ un gain annuel triplé aux progrès algorithmiques après prise en compte du matériel moins cher et des pressions concurrentielles sur les prix. La disparité entre les études provient du fait que les nouveaux modèles de raisonnement consomment souvent davantage de puissance de calcul par tâche, ce qui peut augmenter les coûts malgré la baisse du prix des tokens. Si la mise à niveau vers les capacités de pointe passées est devenue beaucoup moins coûteuse, l'exécution des modèles actuels les plus avancés est fréquemment plus onéreuse en raison d'une augmentation du calcul au moment du test. De plus, les scores aux benchmarks ne correspondent pas toujours à l'efficacité réelle, car les entreprises peuvent optimiser leurs performances pour des tests spécifiques sans offrir de bénéfices pratiques proportionnels. Par conséquent, le choix d'un modèle d'IA nécessite d'évaluer des facteurs allant au-delà des simples métriques de prix par token, tels que la latence, la précision et l'adéquation avec des flux de travail spécifiques.
decoder