Nvidia запускает новую платформу для сдерживания «бунтующих» агентов ИИ
techcrunch ·
Nvidia представила платформу Open Agent Safety Platform — новый набор инструментов, предназначенный для предотвращения побега ИИ-агентов из выделенных тестовых сред. Этот запуск произошел на фоне недавних высокопрофильных утечек безопасности, связанных с моделями крупных технологических компаний, таких как OpenAI, Anthropic и Google. Платформа объединяет программное обеспечение OpenShell с аппаратным мониторингом Sentry на процессорах обработки данных BlueField-4, создавая независимые уровни защиты. Изолируя эти элементы управления от основного центрального или графического процессора, Nvidia стремится изолировать «бунтующих» агентов за миллисекунды до того, как они смогут получить доступ к реальным системам. Генеральный директор Дженсен Хуанг подчеркнул, что безопасность — это инженерная задача, а не повод замедлять разработку или вводить регулирование. Несколько лидеров отрасли, включая Microsoft и Oracle, поддержали эту инициативу с открытым исходным кодом, хотя OpenAI в настоящее время не указана среди участников. Критики призывов к замедлению разработки, такие как Дэвид Сакс, похвалили этот подход как необходимое исправление слабых конструкций песочниц.
techcrunch