Plus de 20 chercheurs en IA de premier plan mettent en garde contre les risques extrêmes de la recherche automatisée
decoder ·
Plus de 20 chercheurs en intelligence artificielle de premier plan, dont Geoffrey Hinton et Yoshua Bengio, ont émis un avertissement concernant les risques extrêmes associés à la recherche automatisée en IA. Dans un nouveau document, ils soulignent le potentiel d'une « explosion d'intelligence » déclenchée par des systèmes d'IA capables de s'améliorer eux-mêmes. Les auteurs notent que l'IA rédige déjà la majeure partie du code dans les entreprises leaders et pourrait automatiser l'intégralité du processus de R&D dans quelques années. Cette accélération signifie que les progrès qui prennent actuellement des années pourraient se réaliser en quelques mois, laissant la société incapable de suivre le rythme. Par conséquent, il existe un risque de perdre le contrôle sur une IA superhumaine, ce qui déstabiliserait les équilibres de pouvoir entre les nations et les corporations. Les chercheurs exhortent les décideurs politiques à accroître la visibilité quant à la manière dont l'automatisation de la recherche en IA est mise en œuvre. Cet avertissement s'ajoute à une liste croissante de préoccupations exprimées par des mathématiciens et des insiders de l'industrie concernant les menaces existentielles posées par la montée en puissance d'une IA non alignée.
decoder