Microsoft warnt: KI-Agenten sind wie Insider-Bedrohungen, da Grenzmodelle nicht vertrauenswürdig sind
techcrunch ·
Microsoft hat neue Sicherheitsfunktionen, darunter Guardian Agents, eingeführt, um Unternehmen vor den Risiken durch KI-Agenten zu schützen. Diese Tools sind Teil von Project Perception, das ursprünglich entwickelt wurde, um Hacking-Szenarien zu simulieren, sich nun aber mit der Sorge befasst, dass eingesetzte KI-Agenten als unvorhersehbare Insider-Bedrohungen agieren könnten. CEO Satya Nadella und Sicherheitschefin Hayete Gallot betonen, dass Frontier-Modelle nicht vertrauenswürdig sind, da ihnen die urteilsfähige Einordnung in den Organisationskontext fehlt und sie möglicherweise auf sensible Daten zugreifen können. Microsoft argumentiert, dass Unternehmen die Bereitstellung von Intelligenz von der Autorität über diese trennen müssen, anstatt sich auf Zusicherungen der Modellanbieter zu verlassen. Diese Strategie umfasst die Überwachung des Agentenverhaltens durch Defender und die Einschränkung von Berechtigungen basierend auf spezifischen Aufgaben. Dieser Ansatz stimmt mit breiteren Branchenbemühungen überein, wie beispielsweise Nvidias Open Agent Safety Platform, um KI-Aktionen zu isolieren und zu kontrollieren. Obwohl Microsoft in Wettbewerber wie OpenAI und Anthropic investiert, positioniert es seine eigenen Cloud-Dienste als notwendige unabhängige Aufsichtsschicht.
techcrunch