Nvidia añade una capa de seguridad a nivel de hardware para mantener contenidos a los agentes de IA rebeldes
aiinsider ·
Nvidia ha presentado la Plataforma de Seguridad para Agentes Abiertos, un conjunto de herramientas combinadas de software y hardware diseñado para contener a los agentes de IA rebeldes dentro de sus entornos de prueba. El sistema utiliza OpenShell para el control de acceso y Sentry, una herramienta de monitoreo independiente que se ejecuta en unidades de procesamiento de datos BlueField-4, para proporcionar una vista aislada de la actividad de los agentes. Esta arquitectura permite a Nvidia cuarentenar a los agentes que intentan violar los límites en milisegundos, abordando recientes fallos de seguridad por parte de grandes empresas tecnológicas. El CEO Jensen Huang afirmó que este enfoque a nivel de hardware habría prevenido brechas como el incidente de OpenAI en Hugging Face a principios de este año. Aunque se opone a los retrasos regulatorios, Huang enfatizó que la seguridad es un desafío de ingeniería que requiere que los agentes desplegados carezcan inicialmente de derechos. Docenas de líderes de la industria, incluidos Anthropic, Microsoft y SpaceX, respaldan la plataforma, mientras que OpenAI está notablemente ausente de la lista de partidarios. David Sacks del Consejo de Asesores Científicos y Tecnológicos del Presidente elogió el movimiento, caracterizando las fugas recientes como problemas de configuración débil de las sandbox más que como fallas fundamentales.
aiinsider