Три уволенных исследователя безопасности OpenAI утверждают, что им никогда не сообщали, что именно они утекли
decoder ·
Трое бывших исследователей безопасности OpenAI — Томек Корбак, Микита Балесни и Джасмин Ванг — опровергают обвинения в утечке конфиденциальной информации, утверждая, что им никогда не сообщали конкретно о тех данных, которые они якобы неправильно обработали. Их увольнение последовало за внутренним расследованием, инициированным из-за подозрений в том, что они передали детали архитектуры модели внешнему эксперту по безопасности Райану Гринблатту через чаты в Signal. Хотя OpenAI сослалась на нарушение политик обращения с чувствительной информацией, исследователи утверждают, что их увольнение связано с их призывами к большей прозрачности процессов мониторинга и проверки ИИ. Спор сосредоточен на техническом вопросе о том, должны ли компании позволять посторонним проверять шаги «цепочки рассуждений» (chain of thought), используемые продвинутыми моделями. Исследователи опасаются, что эти увольнения discourажат независимых аудиторов от сотрудничества с компаниями в сфере ИИ и создадут охлаждающий эффект для сотрудников, поднимающих вопросы безопасности внутри организации. Кроме того, недавние аудиты выявили пробелы в безопасности инфраструктуры OpenAI, хотя компания утверждает, что устранила эти проблемы и возобновила операции по обучению моделей.
decoder