OpenAI呼吁制定可自我改进人工智能的国际标准 | AI Archive

OpenAI正倡导就先进人工智能(AI)的发展建立国际标准,重点聚焦于递归自我改进(RSI)。该技术允许AI系统自动化后续代际AI研发所需的研究工作,从而可能以前所未有的速度加速进步。公司强调,目前尚不存在完全自主的RSI,且应在具备充分安全措施之前不应推进此类研究。若缺乏成熟的保障机制,人类可能会失去对AI发展的控制,导致系统对齐度降低且更具危险性。为解决这些担忧,OpenAI提议美国应利用CAISI和ISO等现有国家机构与组织,牵头

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,651

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending