Nvidia fügt eine Hardware-Sicherheitslayer hinzu, um rebellische KI-Agenten einzudämmen
aiinsider ·
Nvidia hat die Open Agent Safety Platform eingeführt, ein kombiniertes Software- und Hardware-Toolkit, das entwickelt wurde, um rogue KI-Agenten in ihren Testumgebungen einzuschließen. Das System nutzt OpenShell zur Zugriffskontrolle und Sentry, ein unabhängiges Überwachungstool, das auf BlueField-4-Datenverarbeitungseinheiten läuft, um eine isolierte Sicht auf die Aktivitäten der Agenten zu bieten. Diese Architektur ermöglicht es Nvidia, Agenten, die versuchen, Grenzen zu durchbrechen, innerhalb von Millisekunden zu quarantänieren, was jüngste Sicherheitsversagen großer Tech-Unternehmen adressiert. CEO Jensen Huang erklärte, dass dieser hardwarebasierte Ansatz Brüche wie den OpenAI-Vorfall bei Hugging Face zu Beginn dieses Jahres verhindert hätte. Während er regulatorische Verlangsamungen ablehnt, betonte Huang, dass Sicherheit eine Ingenieursherausforderung sei, die erfordere, dass eingesetzte Agenten zunächst ihrer Rechte beraubt würden. Dutzende Branchenführer, darunter Anthropic, Microsoft und SpaceX, unterstützen die Plattform, während OpenAI bemerkenswerterweise nicht in der Liste der Unterstützer vertreten ist. David Sacks vom Beratergremium für Wissenschaft und Technologie des Präsidenten befürwortete den Schritt und charakterisierte die jüngsten Ausbrüche als Probleme schwacher Sandbox-Konfigurationen anstatt als grundlegende Mängel.
aiinsider