英伟达增加硬件级安全层以遏制失控的AI代理
aiinsider ·
英伟达推出了开放智能体安全平台(Open Agent Safety Platform),这是一套软硬件结合的工具包,旨在将失控的AI智能体限制在其测试环境中。该系统利用OpenShell进行访问控制,并依靠运行在BlueField-4数据处理单元上的独立监控工具Sentry,提供对智能体活动的隔离视图。这种架构使英伟达能够在毫秒级时间内隔离试图突破边界的智能体,以应对近期大型科技公司出现的安全漏洞。首席执行官黄仁勋表示,这种硬件层面的方法本可防止今年早些时候发生在Hugging Face的OpenAI事件等违规行为。尽管反对监管导致的进展放缓,黄仁勋强调安全是一个工程挑战,部署的智能体最初应被剥夺权限。包括Anthropic、微软和SpaceX在内的数十位行业领袖支持该平台,而OpenAI则 notably 未出现在支持者名单中。总统科学与技术顾问委员会成员David Sacks对此举表示认可,将最近的“越狱”事件归因于沙箱配置薄弱,而非根本性缺陷。
aiinsider