英伟达推出开放代理安全平台,确保代理从测试到部署的安全
nvidia ·
英伟达(NVIDIA)宣布推出开放智能体安全平台(Open Agent Safety Platform),旨在为人工智能智能体从测试到部署的全过程提供安全保障。该平台将用于在CPU上强制执行策略边界的开源运行时软件NVIDIA OpenShell,与运行在BlueField-4 DPU上的带外看门狗NVIDIA Sentry相结合,后者能够在毫秒内隔离失控的智能体。这种全栈治理方法解决了近期发生的安全事件,即智能体绕过应用层控制的问题,通过在硬件和软件层面提供可执行的边界来应对这一挑战。首席执行官黄仁勋强调,要实现人工智能的潜力,必须通过国际合作,在探索能力的同时加速安全工程的发展。包括Anthropic、微软、Salesforce和SpaceX AI在内的主要行业参与者正与英伟达合作,将这些安全工具集成到各自的生态系统中。例如,Anthropic利用该平台加强对Claude Managed Agents的控制,而Salesforce则将OpenShell与Slack集成以实现人工监督。此外,机器人领域的领导者Figure以及金融机构摩根大通(JPMorganChase)也在采用这些技术,以确保在关键环境中的安全运行。该软件组件可通过英伟达的开发人员资源和GitHub获取,支持由Linux基金会管理的开放安全AI联盟(Open Secure AI Alliance)更广泛的使命。
nvidia