Nvidia добавляет уровень аппаратной безопасности для сдерживания непокорных ИИ-агентов
aiinsider ·
Nvidia представила платформу Open Agent Safety Platform — комплексное программно-аппаратное решение, предназначенное для изоляции неконтролируемых агентов ИИ в их тестовых средах. Система использует OpenShell для контроля доступа и Sentry, независимый инструмент мониторинга, работающий на процессорах обработки данных BlueField-4, чтобы обеспечивать изолированный просмотр активности агентов. Такая архитектура позволяет Nvidia карантинировать агентов, пытающихся нарушить установленные границы, за миллисекунды, что решает проблемы с безопасностью, возникшие у крупных технологических компаний в последнее время. Генеральный директор Дженсен Хуанг заявил, что этот подход на уровне оборудования предотвратил бы такие инциденты, как нарушение безопасности в Hugging Face со стороны OpenAI в начале этого года. Выступая против регуляторных замедлений, Хуанд подчеркнул, что безопасность является инженерной задачей, требующей первоначального лишения прав развёрнутых агентов. Платформу поддерживают десятки лидеров отрасли, включая Anthropic, Microsoft и SpaceX, тогда как OpenAI отсутствует в списке сторонников. Дэвид Сакс из Президентского совета советников по науке и технологиям одобрил это решение, охарактеризовав недавние прорывы как проблемы слабой конфигурации песочницы, а не фундаментальные недостатки.
aiinsider