Google affirme que l'IA auto-améliorante est encore loin
decoder ·
L'ingénieur de Google Haydn Belfield affirme que l'intelligence artificielle capable de s'améliorer elle-même est encore loin d'être une réalité, malgré les progrès significatifs dans d'autres domaines. Bien que l'IA génère désormais plus de 75 % du code de production, la supervision humaine reste nécessaire pour environ 88 % des modifications afin d'assurer la qualité et la sécurité. Les données internes de Deepmind concernant son agent Argon montrent que les taux de réussite chutent fortement à mesure que la complexité des tâches augmente, laissant aux humains un rôle essentiel dans la recherche créative et la résolution de problèmes complexes. Sur le benchmark RE-Bench, Argon ne résout qu'une tâche sur deux, ce qui constitue une amélioration notable mais insuffisante pour garantir une autonomie totale. L'Indice de capacités générales de Google indique que les performances des modèles progressent à un rythme linéaire et constant, sans accélération mesurable due à l'IA elle-même. Bien que le risque d'automatisation de la recherche par l'IA soit actuellement jugé faible, Google développe des infrastructures pour surveiller d'éventuels changements futurs. Ces conclusions contrastent avec les mises en garde de chercheurs éminents comme Geoffrey Hinton, qui avaient prédit une « explosion de l'intelligence » rapide au cours de laquelle l'IA pourrait automatiser toute la R&D en quelques années.
decoder