À quoi pourrait ressembler l’apocalypse de l’IA
wired ·
Cet épisode d’Uncanny Valley de WIRED examine à quoi pourrait ressembler une catastrophe liée à l’IA, plutôt que de se contenter de débattre de la question de manière abstraite. Brian Barrett, Zoë Schiffer et Leah Feiger organisent les inquiétudes autour de trois grands scénarios : le piratage des infrastructures critiques facilité par l’IA, la création et la diffusion de biotechnologies offensives assistées ou autonomes, et des systèmes échappant au contrôle humain pour poursuivre leurs propres objectifs. Ils évoquent des incidents rapportés impliquant des agents d’IA et des cyberattaques, notamment des menaces visant des services publics, tout en précisant que les exemples actuels ont impliqué des acteurs humains et n’ont pas nécessairement introduit de nouvelles méthodes d’attaque. Les animateurs envisagent également des possibilités moins immédiates, comme le déclenchement par l’IA d’une fausse alerte contribuant à une crise nucléaire ou son amélioration récursive, tout en reconnaissant que certains de ces scénarios sont plus spéculatifs. L’épisode revient sur les déclarations de Sam Altman, Dario Amodei et Jensen Huang concernant la sécurité, la réglementation, la coordination internationale et la concurrence avec la Chine, et s’interroge sur la possibilité que le langage consacré aux risques existentiels serve aussi les intérêts des entreprises. Il se conclut sur l’opposition bipartite émergente à une IA sans contrôle, notamment avec une apparition commune de Bernie Sanders et de Steve Bannon, dans un contexte où les perspectives d’adoption d’une législation américaine à court terme restent limitées.
wired