Les chaînes de raisonnement visibles sont un atout pour la sécurité de l’IA, mais cette transparence s’effrite
decoder ·
Les chercheurs du DeepMind Institute, récemment lancé, estiment que les chaînes de pensée visibles constituent un avantage important en matière de sécurité, car elles permettent aux humains d’examiner le raisonnement intermédiaire d’un modèle. Cette transparence peut révéler une tromperie ou des projets problématiques, et les chercheurs affirment que le raisonnement de Gemini 3 Pro montrait qu’il avait compris se trouver dans un environnement de test. Ils avertissent toutefois que cet avantage s’affaiblit : la fiche technique du système GPT-6 Astra d’OpenAI fait état d’une baisse importante de l’efficacité avec laquelle sa chaîne de pensée peut être surveillée. Les futurs modèles pourraient raisonner au moyen de représentations numériques plus efficaces, mais illisibles pour les humains. Les chercheurs recommandent de mesurer régulièrement la capacité à surveiller les chaînes de pensée, de préserver des architectures transparentes et d’entraîner les modèles à ne pas dissimuler leur raisonnement. Leurs inquiétudes font écho aux récentes mises en garde de Jakub Pachocki, scientifique en chef d’OpenAI, sur la perte de contrôle, ainsi qu’à l’appel de Dario Amodei, PDG d’Anthropic, à ralentir le développement de l’IA.
decoder