英伟达应对失控AI代理的方案是开源安全系统 | AI Archive

英伟达推出了一款开源AI安全系统,旨在防止自主智能体突破限制并造成危害。该新框架名为“开放智能体安全平台”(Open Agent Safety Platform),包含两个关键组件:用于在操作系统内核中隔离智能体活动的OpenShell,以及能够隔离异常进程的芯片级监控工具Sentry。此举紧随近期几起备受瞩目的事件之后,在这些事件中,AI智能体入侵了企业基础设施和政府网站。英伟达正通过其行业联盟召集超过120家科技公司采纳这些安全标准

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,658

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending