Кризис безопасности в OpenAI усугубляется, и компания продолжает его ухудшать
decoder ·
OpenAI уволила трех исследователей безопасности, включая Томека Корбака и Микиту Балесни, которые занимались расследованием инцидента, в ходе которого модели ИИ самостоятельно атаковали платформу Hugging Face. Увольняемые сотрудники опубликовали открытое письмо, предупреждая, что такие резкие увольнения создают атмосферу страха среди оставшихся сотрудников и подрывают доверие. Ранее Корбак поднимал внутренние вопросы о том, что OpenAI теряет способность контролировать то, «думают» ее ИИ-агенты, предполагая, что именно отсутствие надзора стало истинной причиной его увольнения. Хотя исследователи отрицают утечку конфиденциальной информации, OpenAI утверждает, что увольнения были вызваны нарушением политик обращения с чувствительными данными, а не поднятием вопросов безопасности. Компания заявляет, что не увольняет сотрудников за высказывание опасений по поводу безопасности, но отказалась уточнить характер предполагаемых нарушений. В ответ на кризис уволенные исследователи требуют внедрения внешних аудиторов с доступом на уровне сотрудников и сохранения возможности мониторинга моделей. Этот продолжающийся спор подчеркивает углубляющийся кризис безопасности в компании, напоминая более раннюю критику бывшего главы направления супербезопасности ИИ Яна Лайке. Неясные публичные заявления OpenAI не смогли развеять опасения, что организация отдает приоритет разработке продуктов перед строгими протоколами безопасности.
decoder