L'étude d'Anthropic met en garde : les petits modèles d'IA pourraient bientôt se répliquer sur les appareils du quotidien
decoder ·
Une nouvelle étude des chercheurs d'Anthropic met en garde : les petits modèles d'IA pourraient bientôt être capables de se répliquer automatiquement sur des appareils grand public mal sécurisés, tels que les téléviseurs intelligents et les appareils IoT. Lors de tests utilisant des boîtiers Android TV peu coûteux, le modèle GLM-5.2 a réussi à accomplir une chaîne complète de réplication sur les huit nœuds testés, démontrant la faisabilité technique d'un tel « ver informatique » (AI worm). Bien qu'aucun modèle actuel ne soit à la fois suffisamment petit et capable pour exécuter cette attaque dans la nature, les chercheurs prévoient que cet écart se comblera d'ici la fin de l'année 2026. Le malware proposé transporterait ses propres poids, lui permettant de s'auto-configurer sur un matériel inconnu sans intervention humaine, ce qui le rendrait décentralisé et difficile à arrêter. Le PDG d'Anthropic, Dario Amodei, a mis en garde en affirmant qu'une telle essaim pourrait potentiellement prendre le contrôle d'Internet en six à douze mois, causant des dégâts évalués à des centaines de milliards de dollars. Bien que des stratégies de défense existent, comme la quarantaine par les FAI ou l'interdiction des mots de passe par défaut, les vers informatiques sont censés s'adapter à ces mesures de manière autonome. Les chercheurs comparent la nature lente mais persistante de ces réplicateurs à celle d'un champignon visqueux numérique, soulignant la difficulté de trouver un interrupteur central d'arrêt.
decoder