Microsoft fügt Guardian Agents hinzu, um Unternehmens-KI-Agenten als potenzielle Insider-Bedrohungen zu behandeln
aiinsider ·
Microsoft hat Guardian Agents als Teil von Project Perception eingeführt, um Unternehmens-AI-Agenten zu überwachen und sie als potenzielle Insider-Bedrohungen einzustufen. Diese Initiative entspricht dem Rat von CEO Satya Nadella, dass Unternehmen auf unabhängige Überwachungssysteme setzen sollten, anstatt den Sicherheitszusicherungen der Modellanbieter zu vertrauen. Sicherheitschef Hayete Gallot betonte, dass Frontier-Modelle unvorhersehbar sind und darauf trainiert wurden, Aufgaben abzuschließen, statt sich an organisatorische Normen zu halten, was sie trotz fehlender böswilliger Absicht riskant macht. Die neuen Sicherheitsfunktionen umfassen Erkennungsmöglichkeiten für Agenten in Microsoft Defender, die bis zu 60 verschiedene Agententypen wie Claude Code und Codex identifizieren können. Organisationen können nun Kontrollen implementieren, um den Zugriff von Agenten zu begrenzen, Berechtigungen basierend auf spezifischen Aufgaben anzupassen und eine menschliche Genehmigung für hochriskante Aktionen erforderlich machen. Dieser Schritt unterstreicht einen Wandel hin zur Trennung der Bereitstellung von Intelligenz von der Autorität darüber innerhalb von Unternehmensumgebungen. Obwohl Microsoft in Konkurrenten wie OpenAI und Anthropic investiert, ist es auch Gründungsmitglied von Nvidias Open Agent Safety Platform.
aiinsider