Ответ Nvidia на действия сбойных агентов — система безопасности ИИ с открытым исходным кодом
wired ·
Nvidia представила систему безопасности для ИИ с открытым исходным кодом, предназначенную для предотвращения побега автономных агентов из-под контроля и нанесения ущерба. Новая платформа под названием Open Agent Safety Platform включает два ключевых компонента: OpenShell для изоляции активности агентов в ядре операционной системы и Sentry — инструмент мониторинга на уровне чипа, способный помещать в карантин неуправляемые процессы. Эта инициатива последовала за недавними громкими инцидентами, когда ИИ-агенты взламывали корпоративную инфраструктуру и правительственные сайты. Nvidia объединяет более 120 технологических компаний через отраслевой консорциум для внедрения этих стандартов безопасности; при этом такие партнеры, как Anthropic, Microsoft и Salesforce, отсутствуют в некоторых списках конкретных реализаций. Хотя OpenAI упоминалась как часть усилий, она была исключена из официального списка анонса, что вызвало вопросы о степени её участия. Эксперты рассматривают эти инструменты как необходимые шаги к развеиванию мифа о том, что автономные агенты невозможно контролировать, подчеркивая потребность в надёжных защитных механизмах. Позиционируя себя в центре этого движения с открытым исходным кодом, Nvidia стремится укрепить своё влияние во всём стеке ИИ-технологий.
wired