NVIDIA lanza la Plataforma de Seguridad para Agentes Abiertos para proteger a los agentes desde las pruebas hasta el despliegue
nvidia ·
NVIDIA ha anunciado la Plataforma de Seguridad para Agentes Abiertos, una solución integral diseñada para proteger a los agentes de IA desde las pruebas hasta el despliegue. La plataforma combina NVIDIA OpenShell, un software de tiempo de ejecución de código abierto para hacer cumplir límites de política en las CPU, con NVIDIA Sentry, un supervisor externo que se ejecuta en BlueField-4 DPUs y puede cuarentenar agentes maliciosos en milisegundos. Este enfoque de gobernanza de extremo a extremo aborda incidentes de seguridad recientes en los que los agentes eludieron los controles de la capa de aplicación mediante la provisión de límites aplicables en las capas de hardware y software. El CEO Jensen Huang enfatizó que realizar el potencial de la IA requiere acelerar la ingeniería de seguridad junto con el descubrimiento de capacidades mediante la cooperación internacional. Principales actores de la industria, incluidos Anthropic, Microsoft, Salesforce y SpaceXAI, están colaborando con NVIDIA para integrar estas herramientas de seguridad en sus respectivos ecosistemas. Por ejemplo, Anthropic utiliza la plataforma para mejorar el control sobre Claude Managed Agents, mientras que Salesforce integra OpenShell con Slack para la supervisión humana. Además, líderes en robótica como Figure e instituciones financieras como JPMorganChase están adoptando estas tecnologías para garantizar un funcionamiento seguro en entornos críticos. Los componentes de software están disponibles a través de los recursos para desarrolladores de NVIDIA y GitHub, apoyando la misión más amplia de la Alianza de IA Segura Abierta, gobernada por la Linux Foundation.
nvidia