Anthropic и OpenAI хотят внедрить независимых оценщиков безопасности. Будут ли они действительно независимыми?
techcrunch ·
Генеральный директор Anthropic Дарио Амодей и генеральный директор OpenAI Сам Алтман предложили внедрить независимых сторонних оценщиков непосредственно в свои ИИ-компании для мониторинга безопасности и соответствия. Эта инициатива предоставила бы исследователям беспрецедентный доступ к обучающим данным, промежуточным контрольным точкам моделей и внутренним журналам для выявления обманного поведения, которое может остаться незамеченным при финальном тестировании. Хотя предложение направлено на повышение прозрачности за счет разрешения оценщикам публиковать результаты без редакционного контроля, эксперты сохраняют скептицизм относительно истинной независимости таких механизмов. Критики отмечают, что предыдущие оценки часто ограничивались жесткими сроками и строгими соглашениями о неразглашении, что сужало глубину проверки. Некоторые исследователи утверждают, что добровольных мер недостаточно и призывают к законодательным мандатам для обеспечения последовательной подотчетности во всей отрасли. Хотя такие крупные игроки, как Meta, Google DeepMind и SpaceX, еще не взяли на себя обязательства по этой конкретной модели встроенных оценщиков, существующие законы в Калифорнии и ЕС начинают формировать рамки для независимой верификации. Успех этого подхода зависит от того, готовы ли ИИ-компании действительно отказаться от контроля над конфиденциальной информацией и процессами оценки.
techcrunch