英伟达推出新平台以遏制失控的AI代理
techcrunch ·
英伟达推出了Open Agent Safety Platform(开放智能体安全平台),这是一套旨在防止AI智能体脱离指定测试环境的新工具包。此次发布紧随OpenAI、Anthropic和Google等科技巨头旗下模型近期发生的高调安全漏洞事件之后。该平台将OpenShell软件与BlueField-4数据处理单元上的Sentry硬件监控相结合,构建了独立的安全层。通过将控制措施与主CPU或GPU隔离开来,英伟达力求在毫秒级时间内将失控的智能体隔离,阻止其访问现实世界系统。首席执行官黄仁勋强调,安全是一项工程挑战,而非放缓开发步伐或实施监管的理由。包括微软和甲骨文在内的多位行业领袖已加入支持这一开源倡议,但OpenAI目前未被列为参与者。对发展放缓持批评态度的人士,如大卫·萨克斯,称赞该方案是修复薄弱沙箱设计的必要举措。
techcrunch