OpenAI confirme des semaines de discussions sur la sécurité de l'IA avec Anthropic et Google DeepMind
aiinsider ·
OpenAI a confirmé qu'elle mène depuis plusieurs semaines des discussions sur la sécurité de l'IA avec les entreprises rivales Anthropic et Google DeepMind. Chris Lehane, responsable mondial des politiques d'OpenAI, a vérifié cette coordination lors de ses échanges avec des législateurs à Washington sur les risques catastrophiques liés à l'IA. Cette divulgation fait suite à un essai du PDG d'Anthropic, Dario Amodei, qui a exhorté l'industrie à ralentir collectivement le développement de l'IA de pointe afin de prévenir des issues désastreuses. Des personnalités influentes telles que Sam Altman, Demis Hassabis et Elon Musk ont exprimé leur soutien à la proposition d'Amodei. OpenAI prévoit de rejoindre Anthropic dans l'intégration d'évaluateurs tiers pour surveiller la sécurité en interne, une mesure destinée à répondre aux préoccupations antitrust concernant la suppression de la concurrence. Les entreprises travailleraient également à la création d'un organisme normalisateur de l'industrie chargé d'examiner les modèles avancés et de coordonner des ralentissements si nécessaire. Malgré ces efforts collaboratifs, le président Trump a rejeté les préoccupations liées à la sécurité de l'IA, affirmant que le ralentissement du développement bénéficierait principalement à la Chine.
aiinsider