Обновление о независимых оценщиках
anthropic ·
Anthropic объявила о значительном расширении своей системы независимой оценки, предоставив METR, некоммерческой организации, специализирующейся на оценке моделей передового искусственного интеллекта, доступ, сопоставимый с правами сотрудников. Этот шаг согласуется с недавним обязательством Anthropic усилить сторонний надзор и подписанием Белого дома Соглашения о суперинтеллекте. Компания стремится сократить разрыв в знаниях между внутренними командами по безопасности и внешними аудиторами, обеспечив глубокий доступ к обучающим данным, мерам защиты и оценкам рисков. Хотя METR сохраняет свободу публиковать свои выводы без права вето со стороны Anthropic, компания оставляет за собой право удалять определенные конфиденциальные категории данных, такие как данные клиентов или информация, защищенная адвокатской тайной. Для управления этим процессом Anthropic разрабатывает трехуровневую систему доступа для различных оценщиков, варьирующуюся от узкоспециализированных расследований до полноценных интегрированных партнерств. В настоящее время SecureBio работает на первом уровне, проверяя отдельные главы отчетов об рисках, тогда как Accenture и Faculty участвуют в более широких проектах по выравниванию поведения моделей и красному тестированию. Другие организации, такие как Hugging Face, находятся на ранних стадиях обсуждений о будущем включении в эту надежную структуру надзора за безопасностью.
anthropic