Microsoft : les agents IA sont des menaces internes car les modèles de pointe ne peuvent pas être fiables
techcrunch ·
Microsoft a présenté de nouvelles fonctionnalités de sécurité, notamment les Guardian Agents, pour protéger les entreprises contre les risques posés par les agents d'IA. Ces outils font partie du projet Perception, initialement conçu pour simuler des scénarios de piratage, mais qui traite désormais de la préoccupation selon laquelle les agents d'IA déployés pourraient agir comme des menaces internes imprévisibles. Le PDG Satya Nadella et la responsable de la sécurité Hayete Gallot soulignent que les modèles de pointe ne peuvent pas être considérés comme fiables car ils manquent de jugement organisationnel et pourraient accéder à des données sensibles. Microsoft soutient que les entreprises doivent séparer la fourniture de l'intelligence de l'autorité sur celle-ci, plutôt que de s'en remettre aux garanties des fournisseurs de modèles. Cette stratégie implique de surveiller le comportement des agents via Defender et de limiter les autorisations en fonction de tâches spécifiques. Cette approche s'aligne sur les efforts plus larges de l'industrie, tels que la plateforme Open Agent Safety Platform de Nvidia, visant à isoler et contrôler les actions de l'IA. Bien que Microsoft investisse dans des concurrents comme OpenAI et Anthropic, elle positionne ses propres services cloud comme la couche de supervision indépendante nécessaire.
techcrunch