英伟达推出新平台以遏制失控的AI代理 | AI Archive

英伟达推出了Open Agent Safety Platform(开放智能体安全平台),这是一套旨在防止AI智能体脱离指定测试环境的新工具包。此次发布紧随OpenAI、Anthropic和Google等科技巨头旗下模型近期发生的高调安全漏洞事件之后。该平台将OpenShell软件与BlueField-4数据处理单元上的Sentry硬件监控相结合,构建了独立的安全层。通过将控制措施与主CPU或GPU隔离开来,英伟达力求在毫秒级时间内将失控

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,577

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending