Pourquoi l’IA ne devrait probablement pas anéantir l’humanité avec des armes biologiques
wired ·
Malgré les craintes croissantes d’une apocalypse provoquée par l’IA, les scientifiques interrogés par WIRED estiment que l’extinction de l’humanité causée par l’IA au moyen d’armes biologiques constitue actuellement une menace relativement peu probable. L’IA peut faciliter la recherche et l’utilisation d’informations et de protocoles biologiques, mais les experts affirment que les principaux obstacles restent l’obtention des matériaux et des équipements, l’assemblage et la mise à l’essai d’un agent pathogène, ainsi que la démonstration de sa capacité à infecter les humains et à se transmettre. Des experts en biotechnologie et en immunologie estiment que la supervision humaine, l’autonomie limitée des laboratoires et la possibilité de mettre au point rapidement des vaccins grâce à l’IA rendraient difficile une attaque autonome. D’autres chercheurs avertissent toutefois que des individus malveillants pourraient utiliser l’IA pour organiser un acte de bioterrorisme avant même l’existence de laboratoires entièrement autonomes, et que les capacités futures pourraient accroître le danger. Certains experts estiment également que les agents pathogènes sont de mauvaises armes, car ils sont difficiles à cibler et à produire en grande quantité par rapport aux attaques conventionnelles. Parmi les mesures de protection proposées figurent le contrôle des commandes d’ADN et d’ARN de synthèse, le renforcement des protections des modèles d’IA, l’amélioration de la surveillance des épidémies et du partage des données, ainsi que l’ajout de mesures plus générales de biosécurité. Les experts insistent sur la nécessité de défenses à plusieurs niveaux, tout en avertissant que les débats sur la sécurité de l’IA ne doivent pas occulter les bénéfices potentiels de cette technologie pour les vaccins et la médecine.
wired