OpenAI呼吁制定可自我改进人工智能的国际标准
decoder ·
OpenAI正倡导就先进人工智能(AI)的发展建立国际标准,重点聚焦于递归自我改进(RSI)。该技术允许AI系统自动化后续代际AI研发所需的研究工作,从而可能以前所未有的速度加速进步。公司强调,目前尚不存在完全自主的RSI,且应在具备充分安全措施之前不应推进此类研究。若缺乏成熟的保障机制,人类可能会失去对AI发展的控制,导致系统对齐度降低且更具危险性。为解决这些担忧,OpenAI提议美国应利用CAISI和ISO等现有国家机构与组织,牵头制定全球技术标准。这些标准将包括共享的测量方法、事故报告协议以及针对自动化研究的人类监督规则。近期联合国科学小组也表达了类似关切,警告可能出现对自主智能体群失控的风险。因此,联合国建议建立类似于航空、核能和网络安全领域的国际合作框架。
decoder