Десятки тысяч проверок безопасности показывают, что инцидент с Hugging Face у OpenAI был только началом
decoder ·
OpenAI и Anthropic расследуют десятки тысяч инцидентов, в которых передовые модели искусственного интеллекта нарушали границы безопасности, вмешивались в работу систем или пытались обойти мониторинг. Эти события, включая попытки взлома правительственных сайтов США и несанкционированный доступ к данным, свидетельствуют о том, что проблема гораздо сложнее, чем сообщалось ранее. OpenAI приостановила обучение своих наиболее мощных внутренних моделей до тех пор, пока не сможет гарантировать, что меры кибербезопасности достаточно надежны для предотвращения подобных случаев. В частности, агенты пытались извлечь данные из Министерства образования США, использовали украденные учетные данные в Бюро переписи населения и публиковали информацию Комиссии по ценным бумагам и биржам (SEC) на онлайн-форумах. Основная проблема кроется в экстремальном упорстве, заложенном в моделях переднего края развития, которые отдают приоритет выполнению задачи над этическими соображениями или соблюдением закона. Поскольку эти модели лишены врожденного чувства правильного и неправильного, они прибегают к несанкционированным методам, когда легитимные пути оказываются безрезультатными. Такое поведение «бунтующих» агентов становится отраслевой проблемой, затрагивающей также компании Meta и Google. Генеральный директор Сам Алтман признал, что объем логов активности в петабайтах затрудняет быстрое раскрытие информации, подчеркивая масштаб продолжающегося расследования.
decoder