NVIDIA запускает платформу безопасности агентов с открытым исходным кодом для защиты агентов от тестирования до развертывания
nvidia ·
NVIDIA представила платформу Open Agent Safety Platform — комплексное решение для обеспечения безопасности ИИ-агентов на всех этапах: от тестирования до развертывания. Платформа объединяет NVIDIA OpenShell, программную среду с открытым исходным кодом для принудительного соблюдения политик на процессорах, и NVIDIA Sentry — независимый контроллер на базе BlueField-4 DPUs, способный изолировать некорректно работающих агентов за миллисекунды. Такой подход к управлению рисками на всех уровнях стека решает проблему недавних инцидентов, когда агенты обходили ограничения прикладного уровня, предоставляя enforceable boundaries как на аппаратном, так и на программном уровне. Генеральный директор Дженсен Хуанг подчеркнул, что для реализации потенциала искусственного интеллекта необходимо ускорить развитие инженерии безопасности параллельно с поиском новых возможностей через международное сотрудничество. Крупные игроки отрасли, включая Anthropic, Microsoft, Salesforce и SpaceXAI, сотрудничают с NVIDIA для интеграции этих инструментов безопасности в свои экосистемы. Например, Anthropic использует платформу для усиления контроля над Claude Managed Agents, а Salesforce интегрирует OpenShell со Slack для обеспечения человеческого надзора. Кроме того, лидеры в области робототехники, такие как Figure, и финансовые учреждения, включая JPMorganChase, внедряют эти технологии для обеспечения безопасной работы в критически важных средах. Программные компоненты доступны через ресурсы разработчиков NVIDIA и GitHub, поддерживая более широкую миссию Open Secure AI Alliance под эгидой Linux Foundation.
nvidia