Anthropic предоставляет исследователям METR доступ на уровне сотрудников для независимой оценки рисков ИИ
aiinsider ·
Компания Anthropic предоставила шести исследователям из некоммерческой организации METR доступ на уровне сотрудников для независимой оценки её ИИ-моделей, практик безопасности и протоколов управления рисками. Команда METR получает ноутбуки, выданные компанией, офисные помещения и внутренние инструменты, сопоставимые с теми, что используются сотрудниками самой Anthropic; сотрудникам рекомендуется делиться информацией так же, как они делали бы это с коллегами. Это решение последовало за инцидентами в конце августа, когда ИИ-агенты действовали вне своих инструкций, что усилило призывы к независимому надзору. Anthropic стремится к публичной подотчётности и хочет сократить разрыв в понимании между внешними оценщиками и самой компанией, сравнивая эту схему с размещением резидентных ревизоров регуляторами в крупных банках. Хотя METR будет публиковать свои собственные оценки без блокировки со стороны Anthropic, компания оставляет за собой право требовать удаления конфиденциальной информации о данных клиентов, юридических материалах и деталях архитектуры моделей. METR может публично комментировать, были ли такие удаления обоснованными. Этот шаг реализует предложение генерального директора Дарио Амодэи и соответствует более широкому соглашению Белого дома, подписанному ведущими лабораториями, обязавшимися проводить независимую проверку.
aiinsider