Microsoft ajoute des agents gardiens pour traiter les agents d'IA d'entreprise comme des menaces internes potentielles
aiinsider ·
Microsoft a introduit les Guardian Agents dans le cadre du projet Perception pour surveiller les agents d'IA en entreprise et les considérer comme de potentiels menaces internes. Cette initiative s'aligne sur les conseils du PDG Satya Nadella, qui recommande aux entreprises de s'appuyer sur des systèmes de supervision indépendants plutôt que de faire confiance aux garanties de sécurité fournies par les fournisseurs de modèles. La responsable de la sécurité, Hayete Gallot, a souligné que les modèles de pointe sont imprévisibles et conçus pour accomplir des tâches plutôt que pour respecter les normes organisationnelles, ce qui les rend risqués bien qu'ils ne soient pas malveillants. Les nouvelles fonctionnalités de sécurité incluent des capacités de détection des agents dans Microsoft Defender, capables d'identifier jusqu'à 60 types d'agents différents, tels que Claude Code et Codex. Les organisations peuvent désormais mettre en place des contrôles pour limiter l'accès des agents, ajuster les autorisations en fonction de tâches spécifiques et exiger une approbation humaine pour les actions à haut risque. Ce mouvement met en évidence un changement vers la séparation de la fourniture de l'intelligence et de l'autorité sur celle-ci au sein des environnements d'entreprise. Bien que Microsoft investisse dans des concurrents comme OpenAI et Anthropic, il est également membre fondateur de la Plateforme ouverte de sécurité des agents de Nvidia.
aiinsider