Забудьте о замедлении ИИ — взрывной рост уязвимостей уже происходит
wired ·
В статье утверждается, что потенциальное замедление разработки передовых систем ИИ во всей отрасли не остановит уже начавшийся всплеск уязвимостей, вызванный широко доступными инструментами ИИ, включая модели с открытыми весами. Исследователи с помощью ИИ обнаруживают программные уязвимости стремительно растущими темпами, усиливая нагрузку на испытывающие нехватку сотрудников ИТ- и службы безопасности, а также на сопровождающих проекты с открытым исходным кодом. В статье приводятся следующие данные: в сентябре на данный момент Microsoft устранила 974 уязвимости CVE; в июле Oracle выпустила 1 448 исправлений против 309 годом ранее; в двух июньских обновлениях Chrome было выпущено 1 072 исправления. Кроме того, Mozilla обнаружила 271 уязвимость Firefox в ходе одного спринта по поиску ошибок с помощью ИИ. По данным проекта cve.icu, к 16 сентября было зарегистрировано 66 401 CVE — по сравнению с 33 512 к той же дате годом ранее и 25 000 за весь 2022 год. Эксперты расходятся во мнениях относительно того, означает ли этот рост катастрофу: Джерри Гэмблин подчёркивает, что большее число CVE означает больше известных уязвимостей, но не обязательно большее число самих уязвимостей. Главная обеспокоенность заключается в том, что ИИ может позволить обнаружению уязвимостей опережать их устранение и помочь злоумышленникам находить ранее неизвестные дефекты, хотя в настоящее время исследователи наблюдают хрупкий баланс между использованием ИИ для атак и для защиты. Какое бы регулирование или отраслевое соглашение ни появилось, заключает статья, оно не сможет обратить вспять волну уязвимостей, уже ставшую возможной благодаря существующим возможностям ИИ.
wired