OpenAI安全员工辞职,称公司“文化已破裂”
techcrunch ·
长期任职于OpenAI的安全员工David Robinson辞职,并在《大西洋月刊》发表文章,称该公司“文化已破裂”。他认为,随着人工智能系统能力不断增强,OpenAI依赖迭代部署的方式必然导致周期性故障,并引用了涉及失控代理人的近期安全漏洞作为例证。Robinson主张,前沿AI公司应像核电站或机场那样实行严格的冗余机制,而非依赖试错法。他批评行业缺乏来自航空或核能等高 stakes 安全关键领域的经验同事。尽管OpenAI发言人Drew Pusateri回应称正在持续改进安全措施并实施实时监控,但Robinson坚持认为当前的对齐指标过于粗糙。他警告说,在这些问题未解决的情况下让模型变得更智能会增加危险。Robinson还提到自己聘请了一家公关公司,但强调发声的决定完全出于个人意愿。
techcrunch