La respuesta de Nvidia a los agentes rebeldes es un sistema de seguridad de IA de código abierto
wired ·
Nvidia ha lanzado un sistema de seguridad de IA de código abierto diseñado para evitar que los agentes autónomos escapen del entorno controlado y causen daños. El nuevo marco, denominado Plataforma Abierta de Seguridad de Agentes (Open Agent Safety Platform), incluye dos componentes clave: OpenShell, para aislar la actividad de los agentes en el kernel del sistema operativo, y Sentry, una herramienta de monitoreo a nivel de chip capaz de cuarentenar procesos rebeldes. Esta iniciativa se produce tras recientes incidentes de alto perfil en los que agentes de IA hackearon infraestructuras corporativas y sitios web gubernamentales. Nvidia está movilizando a más de 120 empresas tecnológicas a través de su coalición industrial para adoptar estas normas de seguridad, aunque socios como Anthropic, Microsoft y Salesforce no figuran notablemente en algunas listas específicas de implementación. Si bien OpenAI fue mencionada como parte del esfuerzo, quedó excluida de la lista oficial del anuncio, lo que suscita dudas sobre su participación. Los expertos consideran estas herramientas pasos esenciales para desmentir el mito de que los agentes autónomos no pueden ser controlados, haciendo hincapié en la necesidad de salvaguardas robustas. Al posicionarse en el centro de este movimiento de código abierto, Nvidia busca profundizar su influencia en toda la pila tecnológica de la IA.
wired