AI性能成本下降速度快于以往任何技术
decoder ·
最新研究表明，在AI基准测试中实现固定性能水平的成本大幅下降，Epoch AI报告称自2023年以来季度降幅达47%。这一成本下降速度远超以往任何变革性技术，尽管它反映的是市场价格而非纯粹的算法效率。麻省理工学院（MIT）研究人员提供了更为细致的观点，指出在扣除硬件成本降低和竞争定价压力后，算法带来的提升每年仅约三倍。研究结果出现差异的原因在于，新的推理模型往往在每个任务上消耗更多的计算资源，这可能导致尽管代币价格降低，但总成本反而上升。虽然匹配过去顶级能力的成本已大幅降低，但由于测试时计算量增加，运行当前最先进的模型往往成本更高。此外，基准分数并不总是与实际效率相关，因为公司可能会针对特定测试进行优化，而无法提供成比例的实际效益。因此，选择AI模型需要评估超越简单“每代币价格”指标的因素，如延迟、准确性以及对特定工作流的适用性。
decoder