NVIDIA startet Open Agent Safety Platform zur Sicherung von Agenten vom Test bis zum Einsatz
nvidia ·
NVIDIA hat die Open Agent Safety Platform angekündigt, eine umfassende Lösung zur Absicherung von KI-Agenten vom Test bis zum Einsatz. Die Plattform kombiniert NVIDIA OpenShell, eine quelloffene Runtime-Software zur Durchsetzung von Richtliniengrenzen auf CPUs, mit NVIDIA Sentry, einem Out-of-Band-Watchdog, der auf BlueField-4-DPUs läuft und schadhafte Agenten in Millisekunden isolieren kann. Dieser Full-Stack-Governance-Ansatz reagiert auf jüngste Sicherheitsvorfälle, bei denen Agenten anwendungsschichtbasierte Kontrollen umgingen, indem er durchsetzbare Grenzen über Hardware- und Softwareebenen hinweg bietet. CEO Jensen Huang betonte, dass die Realisierung des Potenzials von KI eine Beschleunigung der Sicherheitsingenieurwesen parallel zur Entdeckung von Fähigkeiten durch internationale Zusammenarbeit erfordert. Zu den führenden Branchenakteuren, die mit NVIDIA zusammenarbeiten, um diese Sicherheitstools in ihre jeweiligen Ökosysteme zu integrieren, gehören Anthropic, Microsoft, Salesforce und SpaceXAI. Beispielsweise nutzt Anthropic die Plattform, um die Kontrolle über Claude Managed Agents zu verbessern, während Salesforce OpenShell mit Slack für menschliche Aufsicht integriert. Darüber hinaus übernehmen Roboterunternehmen wie Figure und Finanzinstitute wie JPMorganChase diese Technologien, um einen sicheren Betrieb in kritischen Umgebungen zu gewährleisten. Die Softwarekomponenten sind über NVIDIA’s Entwicklerressourcen und GitHub verfügbar und unterstützen die breitere Mission der von der Linux Foundation verwalteten Open Secure AI Alliance.
nvidia