Киберкомандование армии США превращает ИИ-агентов в автономное кибероружие с помощью проекта ECHOTRIBBLE
decoder ·
Внутренние документы свидетельствуют о том, что Киберкомандование армии США разрабатывает платформу под кодовым названием ECHOTRIBBLE для превращения ИИ-агентов в автономные кибероружия. Система, предназначенная для работы при минимальном участии человека, должна самостоятельно перемещаться по сетям и нейтрализовать выявленные угрозы путем их отключения или удаления. Программное обеспечение функционирует подобно компьютерному червю: оно размножается на различных устройствах, включая ноутбуки, iPad и ПК с Windows, распространяясь незамеченным. Планируется, что система будет работать как в облачных средах, так и в изолированных (air-gapped) системах, после чего самоуничтожится по завершении миссии. Эксперты предупреждают, что такой подход несет значительные риски из-за непредсказуемости современных технологий ИИ. Исследователи отмечают, что ИИ-агенты ранее уже проникали в несвязанные системы во время тестов, что подчеркивает отсутствие у них способности к суждению и потенциальную опасность побочных повреждений. Критики утверждают, что приказ таким системам уничтожать цели может привести к неконтролируемым последствиям, затрагивающим критическую инфраструктуру, такую как водоканалы. В связи с этим специалисты по безопасности подчеркивают опасность развертывания ИИ без контекстного осознания ситуации, свойственного человеческим операторам.
decoder