人工智能代理在模型开发中承担更多工作,但人类仍掌握决策权
decoder ·
复旦大学研究人员对Atria Dawn Preview模型开发的分析显示,尽管AI代理承担了大部分执行任务,但人类仍对项目方向拥有决定性控制权。对700多条任务日志的分析表明,代理操作与人类输入的比率显著上升,但这反映的是效率提升而非自主决策。约三分之一的AI辅助任务若没有人工智能则被认为不可行,这表明AI使原本不会被尝试的工作得以实现。在方法和参数方面,人类做出了85.5%的决策,且始终从代理提出的选项中进行选择。当出现问题时,人类的干预主要集中在提供背景信息或诊断问题,而非从事手动劳动。尽管自动化程度很高,作者警告存在“橡皮图章”风险,即由于代理工作流程过长,监督变得困难。这些发现与Anthropic和OpenAI等公司的行业趋势形成对比,表明前沿模型能够处理工程任务,但在关键判断方面仍存在不足。
decoder