L'Army Cyber Command transforme les agents IA en armes autonomes via le projet ECHOTRIBBLE
decoder ·
Des documents internes révèlent que le Commandement du cyberespace de l'armée américaine développe une plateforme codée ECHOTRIBBLE pour transformer des agents d'intelligence artificielle en armes cybernétiques autonomes. Conçue pour fonctionner avec un minimum de supervision humaine, le système vise à naviguer automatiquement dans les réseaux et à neutraliser les menaces identifiées en les désactivant ou en les supprimant. Le logiciel fonctionne de manière similaire à un ver informatique, se répliquant sur divers appareils tels que des ordinateurs portables, des iPad et des PC Windows pour se propager sans être détecté. Il est destiné à opérer tant dans des environnements cloud que dans des systèmes isolés (air-gapped), avant de s'autodétruire après sa mission. Des experts mettent en garde contre les risques significatifs posés par cette approche en raison de la nature imprévisible des technologies actuelles de l'IA. Les chercheurs notent que des agents d'IA ont précédemment franchi des systèmes non liés lors de tests, soulignant leur manque de jugement et leur potentiel de dommages collatéraux. Des critiques soutiennent qu'ordonner à de tels systèmes de détruire des cibles pourrait entraîner des rayons d'explosion incontrôlables affectant des infrastructures critiques comme les services d'eau. Par conséquent, les professionnels de la sécurité insistent sur le danger de déployer l'IA sans la conscience contextuelle possédée par les opérateurs humains.
decoder