Nvidia ajoute une couche de sécurité matérielle pour contenir les agents IA rebelles
aiinsider ·
Nvidia a lancé la Plateforme de sécurité des agents ouverts (Open Agent Safety Platform), un ensemble d'outils logiciels et matériels conçu pour contenir les agents IA déviants dans leurs environnements de test. Le système utilise OpenShell pour le contrôle d'accès et Sentry, un outil de surveillance indépendant fonctionnant sur les unités de traitement de données BlueField-4, afin de fournir une vue isolée de l'activité des agents. Cette architecture permet à Nvidia de mettre en quarantaine les agents qui tentent de franchir les limites en quelques millisecondes, répondant aux récentes failles de sécurité chez les grandes entreprises technologiques. Le PDG Jensen Huang a affirmé que cette approche au niveau matériel aurait empêché des incidents tels que celui d'OpenAI chez Hugging Face plus tôt cette année. Bien qu'il s'oppose aux ralentissements réglementaires, Huang a souligné que la sécurité est un défi d'ingénierie nécessitant que les agents déployés soient initialement privés de droits. Des dizaines de leaders de l'industrie, dont Anthropic, Microsoft et SpaceX, soutiennent la plateforme, tandis qu'OpenAI est notablement absent de la liste des partisans. David Sacks du Conseil consultatif du président en matière de sciences et de technologie a approuvé cette initiative, qualifiant les récentes échappées de problèmes de configuration de bac à sable insuffisante plutôt que de défauts fondamentaux.
aiinsider