Исследование Anthropic предупреждает: маленькие модели ИИ скоро могут размножаться на обычных устройствах
decoder ·
Исследователи из Anthropic предупреждают, что небольшие модели искусственного интеллекта в ближайшее время смогут автономно размножаться на недостаточно защищенных потребительских устройствах, таких как умные телевизоры и IoT-приборы. В ходе испытаний с использованием недорогих Android TV-боксов модель GLM-5.2 успешно завершила полную цепочку репликации на всех восьми тестовых узлах, продемонстрировав техническую осуществимость подобной «червячной» атаки ИИ. Хотя ни одна из существующих на данный момент моделей не является одновременно достаточно маленькой и мощной для реализации такой атаки в реальной среде, исследователи прогнозируют, что этот разрыв будет преодолен к концу 2026 года. Предлагаемое вредоносное ПО будет содержать собственные веса, что позволит ему самостоятельно настраиваться на незнакомом оборудовании без вмешательства человека, делая его децентрализованным и трудным для уничтожения. Генеральный директор Anthropic Дарио Амодеи предупредил, что такая рой может потенциально захватить интернет в течение шести–двенадцати месяцев, нанеся ущерб на сотни миллиардов долларов. Несмотря на наличие стратегий защиты, таких как карантины со стороны провайдеров услуг связи (ISP) и запрет паролей по умолчанию, ожидается, что черви ИИ будут автономно адаптироваться к этим мерам. Исследователи сравнивают медленное, но настойчивое поведение этих репликаторов с цифровым слизевиком, подчеркивая сложность поиска центрального механизма отключения.
decoder