NVIDIA lança Plataforma de Segurança para Agentes Abertos para proteger agentes dos testes à implantação
nvidia ·
A NVIDIA anunciou a Plataforma de Segurança de Agentes Abertos, uma solução abrangente projetada para proteger agentes de IA desde os testes até a implantação. A plataforma combina o NVIDIA OpenShell, um software de tempo de execução de código aberto para impor limites de política nas CPUs, com o NVIDIA Sentry, um observador externo executado em BlueField-4 DPUs que pode isolar agentes maliciosos em milissegundos. Essa abordagem de governança completa aborda incidentes de segurança recentes nos quais agentes contornaram controles na camada de aplicação, fornecendo limites aplicáveis em camadas de hardware e software. O CEO Jensen Huang enfatizou que realizar o potencial da IA exige acelerar a engenharia de segurança junto com a descoberta de capacidades por meio da cooperação internacional. Principais players do setor, incluindo Anthropic, Microsoft, Salesforce e SpaceXAI, estão colaborando com a NVIDIA para integrar essas ferramentas de segurança em seus respectivos ecossistemas. Por exemplo, a Anthropic utiliza a plataforma para aprimorar o controle sobre os Claude Managed Agents, enquanto a Salesforce integra o OpenShell ao Slack para supervisão humana. Além disso, líderes em robótica, como a Figure, e instituições financeiras, como a JPMorganChase, estão adotando essas tecnologias para garantir operação segura em ambientes críticos. Os componentes de software estão disponíveis por meio dos recursos de desenvolvedores da NVIDIA e do GitHub, apoiando a missão mais ampla da Aliança Open Secure AI, governada pela Linux Foundation.
nvidia