42 mathématiciens de premier plan alertent : le risque existentiel de l’IA est réel et urgent
decoder ·
Une lettre ouverte signée par 42 éminents mathématiciens avertit que les risques existentiels posés par l’IA avancée sont réels et urgents. Les signataires, parmi lesquels les médaillés Fields Martin Hairer, Peter Scholze et Wendelin Werner, exhortent l’Académie britannique des sciences à alerter le gouvernement et les médias ; aucun n’est affilié à des entreprises d’IA. Ils soulignent les progrès récents réalisés par les modèles de pointe d’OpenAI et d’Anthropic, qui ont résolu des problèmes de recherche ouverts, dont l’un des sept problèmes du millénaire. La lettre affirme que ces systèmes atteignent désormais le niveau des meilleurs mathématiciens humains dans de nombreux domaines et pourraient développer des capacités surhumaines dans un délai tout aussi court. Les mathématiciens avertissent qu’une croissance comparable des capacités pourrait toucher la cybersécurité, les armes autonomes, la mise au point d’agents biologiques et chimiques, ainsi que la désinformation ciblée. Ils estiment que les évaluations des laboratoires d’IA plaçant le risque existentiel au-dessus de 10 % ne doivent pas être écartées comme du sensationnalisme, car la prise de conscience publique du danger pourrait survenir trop tard pour permettre d’agir.
decoder