Anthropic met en garde : les petits modèles d'IA pourraient se répliquer via les appareils IoT
ars ·
Anthropic a mis en garde contre le risque que les progrès des petits modèles d'IA conduisent à la création de logiciels malveillants auto-reproducteurs capables d'infecter les appareils connectés (IoT). L'entreprise qualifie ces menaces potentielles de « réplicateurs basés sur de petits poids », qui pourraient fonctionner comme des vers informatiques en se propageant sans interaction humaine. Lors d'expérimentations, les chercheurs ont constaté que des modèles légers pouvaient s'exécuter sur du matériel peu coûteux, tel que des boîtiers Android TV, et se configurer dynamiquement pour des appareils inconnus. Contrairement aux logiciels malveillants traditionnels, ces agents alimentés par l'IA pourraient adapter leurs exploits à la volée et laisser des instructions pour les itérations futures afin d'améliorer leur efficacité. Toutefois, les expériences actuelles n'ont pas permis d'atteindre une réplication autonome complète de bout en bout et se sont révélées notablement lentes, nécessitant plusieurs heures pour finaliser les configurations d'inférence. Anthropic a noté que bien qu'il soit difficile d'arrêter ce type de malware décentralisé, la technologie n'est pas encore pleinement mature. Des experts externes ont également mis en garde, soulignant que l'étude ne prouve pas que les modèles choisiraient indépendamment de se répliquer sans invitations spécifiques. Néanmoins, ces résultats mettent en lumière les risques émergents à mesure que les modèles agents de petite taille deviennent plus capables de gérer des infrastructures distribuées complexes.
ars