Американские военные едва не взяли на абордаж китайское судно из-за галлюцинации в разведданных ИИ
decoder ·
Весной 2026 года американские военнослужащие, как сообщается, оказались всего в нескольких минутах от того, чтобы подняться на борт китайского судна, после того как созданный ИИ разведывательный отчет ошибочно определил его груз как компоненты ядерного оружия. Аналитик Командования специальных операций использовал чат-бота; вооруженные солдаты были готовы к операции, а самолеты уже находились в воздухе, прежде чем ошибку обнаружили. По данным CNN, чат-бот объединил разведданные из открытых источников с секретными данными радиоэлектронной разведки, которыми располагало правительство, и неверно определил груз. Этот инцидент, как сообщается, выявил отсутствие единых стандартов проверки разведывательной информации, созданной ИИ, а источники описали внутренние военные системы как в основном модифицированные версии коммерческих инструментов. Источники также заявили, что молодые аналитики могут некритично доверять инструментам ИИ — на фоне стремления министра обороны Пита Хегсета ускорить внедрение ИИ в вооруженных силах. Этот эпизод представлен как пример, подтверждающий опасения по поводу ненадежных систем ИИ, используемых некритично настроенными или недобросовестными операторами, а не гипотетических рисков сверхразума.
decoder