谷歌称自我改进的AI尚远未成熟
decoder ·
谷歌工程师海登·贝尔菲尔德表示,尽管其他领域实现了高度自动化,但具备自我改进能力的人工智能仍远未实现。目前,AI已生成超过75%的生产代码,但仍需人工监督约88%的变更以确保质量和安全。DeepMind的Argon代理内部数据显示,随着任务复杂度的增加,成功率急剧下降,人类在创造性研究和复杂问题解决方面依然不可或缺。在RE-Bench基准测试中,Argon仅解决了半数任务,虽有显著进步,但尚不足以实现完全自主。谷歌的通用能力指数表明,模型能力的增长保持平稳的线性节奏,并未出现由AI自身驱动的明显加速。尽管目前AI驱动的研究自动化风险被评定为较低,谷歌仍在构建基础设施以监控未来可能出现的转变。这些发现与杰弗里·辛顿等知名研究人员的警告形成对比,后者曾预测会出现快速的“智能爆炸”,使AI在数年内实现所有研发工作的自动化。
decoder