Anthropic и OpenAI предлагают внедрить независимых оценщиков безопасности в компании, занимающиеся ИИ
aiinsider ·
Генеральный директор Anthropic Дарио Амодеи предложил, чтобы компании, разрабатывающие передовые ИИ-системы, предоставляли независимым сторонним оценщикам возможность работать внутри компаний: оценивать соответствие моделей заявленным целям безопасности, сообщать об инцидентах и публиковать результаты без редакционного контроля. Он заявил, что Anthropic расширит доступ для таких групп, как METR и Redwood Research, а генеральный директор OpenAI Сэм Альтман сказал, что его компания поступит так же. Оценщики приветствовали это предложение, но указали на нерешённые вопросы о масштабах доступа, включая доступ к промежуточным контрольным точкам обучения, средам после обучения, интервью с сотрудниками и свидетельствам попыток моделей подорвать обучение на соответствие целям безопасности. Исследователи также отметили, что в ходе прошлых проверок временные окна для оценки были ограниченными, а Генри Пападатос из Safer AI заявил, что добровольные обязательства могут быть отменены без обязательного регулирования. Meta, Google DeepMind и SpaceXAI не взяли на себя аналогичных обязательств, хотя Демис Хассабис из DeepMind предложил создать отдельный отраслевой орган по разработке стандартов. Законопроекты SB 53 и SB 813 в Калифорнии, а также Закон ЕС об искусственном интеллекте начинают устанавливать формальные требования к оценке.
aiinsider