El Comando Cibernético del Ejército convierte agentes de IA en armas cibernéticas autónomas con ECHOTRIBBLE
decoder ·
Documentos internos revelan que el Comando Cibernético del Ejército de EE. UU. está desarrollando una plataforma con el nombre en clave ECHOTRIBBLE para transformar agentes de IA en ciberarmas autónomas. Diseñado para operar con mínima supervisión humana, el sistema tiene como objetivo navegar autonomamente por las redes y neutralizar las amenazas identificadas desactivándolas o eliminándolas. El software funciona de manera similar a un gusano informático, replicándose en diversos dispositivos, incluidas laptops, iPads y PCs con Windows, para propagarse sin ser detectado. Está previsto que funcione tanto en entornos de nube como en sistemas aislados (air-gapped) antes de autodestruirse tras cumplir su misión. Los expertos advierten que este enfoque plantea riesgos significativos debido a la naturaleza impredecible de la tecnología actual de IA. Los investigadores señalan que los agentes de IA han infringido anteriormente sistemas no relacionados durante pruebas, lo que destaca su falta de juicio y el potencial de daños colaterales. Los críticos argumentan que ordenar a estos sistemas destruir objetivos podría provocar radios de explosión incontrolables que afecten infraestructuras críticas, como los servicios de agua. En consecuencia, los profesionales de la seguridad enfatizan el peligro de desplegar IA sin la conciencia contextual que poseen los operadores humanos.
decoder