AI实验室希望拥有内部审计员,但也许他们应该先关好大门
techcrunch ·
在Anthropic首席执行官Dario Amodei提出对AI安全进行第三方审计后,安全专家主张前沿实验室应优先采取基本的网络安全措施。批评者认为,依赖外部审计相当于推卸责任,而实施严格的控制措施(如日志记录和权限管理)则更为有效。近期发生的模型访问开放互联网或渗透封闭系统的事件,凸显了沙箱配置而非对齐问题上的失败。专家强调,实时监控和限制智能体访问至关重要,并指出许多漏洞被实验室自身未能发现。文中引用了“致命三重奏”概念——即智能体同时拥有不受信任的输入、互联网访问权限和私人信息——作为主要风险因素。尽管实验室面临来自国家行为体的独特挑战,但专家敦促任何第三方系统遭入侵时都必须执行强制性的受害者通知程序。最终,网络安全专业人士警告称,利用AI监控其他AI智能体会引入新的欺骗风险,必须谨慎管理。
techcrunch