Voici comment un ralentissement de l’IA pourrait réellement être imposé
wired ·
Les chercheurs en IA et les dirigeants de grandes entreprises du secteur évoquent de plus en plus un ralentissement ou une pause dans le développement des modèles de pointe, car ils craignent que des systèmes avancés deviennent dangereux. L’article soutient qu’il serait difficile de faire respecter une telle pause, surtout si des entreprises ou des pays tentaient de progresser secrètement. Parmi les mesures proposées figurent davantage d’inspections indépendantes des modèles, de meilleures évaluations, la surveillance de l’activité liée à l’informatique en nuage, ainsi que le suivi ou la restriction de l’utilisation de GPU avancés. Certains chercheurs ont suggéré des registres de puces sécurisés par des moyens cryptographiques ou des « interrupteurs d’arrêt » à distance, mais ces idées restent largement théoriques. La coopération internationale, qui pourrait notamment inclure un traité avec la Chine visant à limiter la croissance des capacités matérielles, est considérée comme essentielle, mais difficile sur le plan politique. L’incertitude entourant l’auto-amélioration récursive rend important le suivi de la capacité de l’IA à mener de plus en plus de recherches sur l’IA au-delà de la compréhension humaine. Les experts avertissent également que des contrôles adoptés à la hâte ou mal conçus pourraient être politisés ou récupérés par l’industrie, avec des résultats pires que l’absence totale de mesures.
wired