Исследователи использовали Claude от Anthropic, чтобы взломать OpenAI
techcrunch ·
Трёхчленная команда специалистов по безопасности из Hacktron AI использовала Claude от Anthropic в рамках программы OpenAI по поиску ошибок, объединив две критические уязвимости и получив доступ к нескольким аккаунтам сотрудников OpenAI в ChatGPT. OpenAI выплатила Hacktron $6 500 и заявила, что устранила проблемы, а Discourse отдельно выпустила исправление 27 июля. Исследователи нашли первоначальную точку входа 25 июля в Discourse — программном обеспечении, на котором работает форум сообщества OpenAI, — загрузив специально созданное изображение в формате HEIF или HEIC. Во время конвертации изображения ошибка в работе с памятью библиотеки libheif позволила изображению захватить контроль над сервером, хотя, как сообщалось, эту ошибку исправили несколькими месяцами ранее, но ей не присвоили формальный идентификатор CVE. Получив доступ к серверу Discourse, команда воспользовалась ещё одной уязвимостью, чтобы захватить аккаунты ChatGPT и Codex, включая аккаунт сотрудника OpenAI, связанный с корпоративной организацией компании на GitHub. Claude Opus 4.8 поначалу не смог создать рабочий эксплойт, но Opus 5 справился с этим в течение нескольких часов после выпуска. Этот инцидент демонстрирует растущую способность широко доступных инструментов ИИ находить и эксплуатировать уязвимости, одновременно снижая уровень специализированных знаний, необходимых для кибератак.
techcrunch