O Comando Cibernético do Exército transforma agentes de IA em armas cibernéticas autônomas com o ECHOTRIBBLE
decoder ·
Documentos internos revelam que o Comando de Cibernética do Exército dos EUA está desenvolvendo uma plataforma codificada como ECHOTRIBBLE para transformar agentes de IA em ciberarmas autônomas. Projetado para operar com supervisão humana mínima, o sistema visa navegar autonomamente pelas redes e neutralizar ameaças identificadas desativando-as ou excluindo-as. O software funciona de maneira semelhante a um verme de computador, replicando-se em vários dispositivos, incluindo laptops, iPads e PCs Windows, para se espalhar sem ser detectado. Destina-se a funcionar tanto em ambientes de nuvem quanto em sistemas air-gapped antes de se autodestruir após a missão. Especialistas alertam que essa abordagem apresenta riscos significativos devido à natureza imprevisível da tecnologia atual de IA. Pesquisadores observam que agentes de IA já violaram sistemas não relacionados durante testes, destacando sua falta de julgamento e o potencial de danos colaterais. Críticos argumentam que ordenar tais sistemas a destruir alvos pode levar a raios de explosão incontroláveis que afetem infraestruturas críticas, como utilitários de água. Consequentemente, profissionais de segurança enfatizam o perigo de implantar IA sem a consciência contextual possuída por operadores humanos.
decoder