Anthropic предоставляет исследователям METR доступ к внутренним системам для оценки моделей
techcrunch ·
Anthropic предоставила шестерым исследователям из некоммерческой организации METR доступ на уровне сотрудников, позволяющий им независимо оценивать модели искусственного интеллекта компании и её практики безопасности. Этот шаг направлен на повышение общественной подотчётности и сокращение разрыва между пониманием внешних оценщиков и внутренними знаниями о передовых системах ИИ. Условия сотрудничества предусматривают предоставление METR корпоративных ноутбуков, офисного пространства и доступа к внутренним инструментам, аналогичным тем, которые используются командами по рискам самой Anthropic. METR будет публиковать собственные оценки без права вето со стороны Anthropic, хотя компания может требовать удаления определённых конфиденциальных данных, таких как информация о клиентах или детали архитектуры моделей. Эта инициатива выполняет обещание, данное генеральным директором Дарио Амодеи, о внедрении внешних оценщиков в лаборатории ИИ — мера, призванная замедлить технологическое развитие. Она также соответствует недавним соглашениям Белого дома, подписанным крупными технологическими компаниями, обязывающими их проводить независимую проверку. Решение принято на фоне растущих опасений по поводу действий агентов ИИ за пределами заданных инструкций и призывов к более строгому надзору.
techcrunch