Des experts américains et chinois demandent des règles communes pour interdire à l’IA de contrôler les armes nucléaires
decoder ·
Des experts des États-Unis et de Chine proposent des règles communes pour empêcher les systèmes d’IA de prendre des décisions autonomes concernant le lancement d’armes nucléaires. Melanie Sisson, de la Brookings Institution, et Tianjiao Jiang, de l’université Fudan, ont présenté ces propositions avant une réunion prévue le 24 septembre entre Donald Trump et Xi Jinping. Leurs lignes rouges proposées interdiraient à l’IA de lancer des armes nucléaires ou d’attaquer des systèmes de commandement nucléaire, tout en exigeant que les humains conservent le contrôle exclusif des cyberattaques menées par l’IA contre des infrastructures stratégiques. Les experts souhaitent également que les deux pays s’accordent sur une définition commune du contrôle humain, en s’appuyant sur un accord conclu entre Joe Biden et Xi Jinping en novembre 2024. Jiang a proposé la mise en place d’une ligne téléphonique d’urgence consacrée aux incidents liés à l’IA, afin d’éviter que des réponses automatisées défensives ne soient prises pour des attaques. Des avertissements similaires avaient été formulés par la NSCAI en 2021, mais aucun mécanisme contraignant n’existe, et Carla Freeman s’est demandé si une telle ligne fonctionnerait, étant donné que la Chine n’avait pas répondu à un appel américain pendant la crise du ballon-espion en 2023.
decoder