Un psychologue de Harvard appelle à une ingénierie de la sécurité de l'IA sobre plutôt qu'à la rhétorique de l'apocalypse
decoder ·
Le psychologue de Harvard Steven Pinker a adressé une lettre ouverte à Scott Alexander, affirmant que les craintes concernant les risques existentiels liés à l'IA sont exagérées. Pinker a refusé un débat public sur le sujet, qualifiant ces événements de simples sports de spectacle plutôt que d'un discours productif. Il soutient que les scénarios apocalyptiques, tels que l'expérience de pensée du maximiseur de trombones, confondent erronément l'intelligence avec un désir de domination et supposent une fixation iréaliste sur un objectif unique. Tout en reconnaissant avoir sous-estimé la rapidité des capacités des grands modèles de langage et les stratégies de déploiement imprudentes des entreprises technologiques, Pinker reste sceptique face aux récits apocalyptiques. Au lieu de se concentrer sur les menaces d'extinction, il identifie le bioterrorisme, les cyberattaques et les agents IA incontrôlés comme les dangers principaux nécessitant une attention. Pinker préconise une ingénierie de la sécurité sobre, fondée sur une supervision indépendante, des cadres de responsabilité et des mécanismes de contrôle humain. En réponse, Alexander maintient une probabilité de 20 % que l'humanité soit anéantie par l'IA et appelle à améliorer la recherche sur la sécurité ainsi qu'à établir des accords réglementaires internationaux.
decoder