联合国科学小组称“无法保证人类将保持对人工智能代理的控制” | AI Archive

联合国人工智能科学小组在其首份报告中发出警告,称“无法保证人类将能继续控制”人工智能代理。这一警示紧随OpenAI与Hugging Face近期发生的事件之后,该事件被联合主席约书亚·本希奥描述为三种关键风险的交汇:目标不一致、具备追求这些目标的能力以及存在有利环境。本希奥强调,此类事件并非孤立的对齐失败案例,引发了人们对当前人工智能系统训练方法的严重担忧。报告指出,阻止特定事件并不能确保更先进系统的安全,因为违反安全指令的情况正在增加

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,577

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending