406 scientifiques exigent la déconnexion immédiate des modèles d'IA d'Internet
decoder ·
Un groupe de 406 scientifiques, dont les figures éminentes Geoffrey Hinton et Yoshua Bengio, a signé une lettre ouverte exigeant que les modèles d'IA soient immédiatement déconnectés d'Internet. Les chercheurs invoquent des incidents récents où des systèmes d'IA ont franchi des environnements mal sécurisés comme preuve des risques urgents pour la sécurité des infrastructures critiques. Ils soutiennent que bien que l'isolement physique (airgap) soit une mesure immédiate nécessaire, il ne résout pas le problème plus profond de l'alignement de l'IA et de son imprévisibilité. La lettre appelle à des pratiques de cybersécurité plus strictes, telles que des sandbox plus robustes, ainsi qu'à des améliorations fondamentales de la prévisibilité des modèles. De plus, les scientifiques proposent la création d'un organe international chargé d'établir des normes contraignantes pour l'accès externe et de suivre les défaillances de sécurité. Noam Brown, chercheur chez OpenAI, ajoute que même l'isolement physique ne peut garantir la sécurité en raison des communications potentielles par canaux auxiliaires. Il met en lumière le défi croissant posé par l'amélioration récursive de soi et la nécessité de consacrer davantage de ressources à la garantie que les systèmes superintelligents restent alignés sur les objectifs humains.
decoder