NVIDIA lance la Plateforme de Sécurité pour Agents Ouverts pour sécuriser les agents des tests au déploiement
nvidia ·
NVIDIA a annoncé la plateforme Open Agent Safety, une solution complète conçue pour sécuriser les agents d'IA, de leur phase de test jusqu'à leur déploiement. Cette plateforme combine NVIDIA OpenShell, un logiciel runtime open source destiné à imposer des limites de politique sur les processeurs, et NVIDIA Sentry, un gardien hors bande exécuté sur les DPUs BlueField-4 capable de mettre en quarantaine les agents déviants en quelques millisecondes. Cette approche de gouvernance full stack répond aux récents incidents de sécurité où des agents contournent les contrôles au niveau applicatif, en offrant des limites applicables à travers les couches matérielles et logicielles. Le PDG Jensen Huang a souligné que la réalisation du potentiel de l'IA nécessite d'accélérer l'ingénierie de la sécurité parallèlement à la découverte des capacités, grâce à une coopération internationale. De grands acteurs de l'industrie, dont Anthropic, Microsoft, Salesforce et SpaceXAI, collaborent avec NVIDIA pour intégrer ces outils de sécurité dans leurs écosystèmes respectifs. Par exemple, Anthropic utilise la plateforme pour renforcer le contrôle sur Claude Managed Agents, tandis que Salesforce intègre OpenShell à Slack pour assurer une supervision humaine. Par ailleurs, des leaders de la robotique comme Figure et des institutions financières telles que JPMorganChase adoptent ces technologies afin de garantir un fonctionnement sûr dans des environnements critiques. Les composants logiciels sont disponibles via les ressources développeur de NVIDIA et GitHub, soutenant ainsi la mission plus large de l'Open Secure AI Alliance, régie par la Linux Foundation.
nvidia