Sam Altman présente trois scénarios pour la sécurité de l'IA, dont un où une seule entreprise domine le marché
decoder ·
Le PDG d'OpenAI, Sam Altman, aurait présenté trois scénarios internes concernant la gouvernance future de la sécurité des IA avancées à ses employés. La première proposition suggère la création d'une agence internationale de surveillance, similaire à l'AIEA, pour faire respecter les normes et surveiller l'utilisation de la puissance de calcul. La deuxième option, baptisée le « Plan Demis », envisage un consortium de grands laboratoires fusionnant sous une seule entité, sur le modèle du CERN. Le troisième scénario, appelé « Plan Eliezer », décrit une issue dystopique où une entreprise acquiert une domination économique telle qu'elle peut couper l'accès aux capacités informatiques de ses concurrents. Bien qu'Altman ait introduit cette troisième option par souci d'exhaustivité, elle a été interprétée par certains comme une critique de rivaux tels qu'Anthropic. OpenAI vise à choisir une voie stratégique dans l'année à venir, mais fait face à une pression pour ne pas prendre du retard dans la course vers la superintelligence. Les inquiétudes internes s'intensifient en raison de récents désalignements de modèles et du licenciement de chercheurs en sécurité. Parallèlement, les cadres réglementaires externes restent fragmentés, avec une forte opposition de la part des dirigeants de l'industrie qui soutiennent que des règles strictes pourraient entraver la concurrence.
decoder