OpenAI安全研究人员再次离职,公开警告成为常态
decoder ·
前OpenAI可信AI团队安全研究员大卫·罗宾逊(David Robinson)已离职,并在《大西洋月刊》发表了一篇批评该公司安全文化的文章。他指出,人工智能行业对试错法的依赖导致随着系统能力增强,错误日益危险,并援引了OpenAI和Anthropic发生的事件作为例证。罗宾逊认为,AI公司必须采用类似核电站的严格安全标准,包括多层冗余机制。他还主张,组织必须在负责任地训练超级智能系统之前,证明其对员工的人道对待。此次离职延续了OpenAI安全专家在离职时发出公开警告的 recurring pattern,这一趋势最早可追溯至2024年5月扬·莱克(Jan Leike)的离职。此外,罗宾逊指出,OpenAI最近解雇了三名据称向外部安全公司分享信息的安全专家。这些事件凸显了离职研究人员对当前AI安全协议充分性的日益担忧。
decoder