OpenAI et Anthropic disent aux législateurs britanniques : régulez-nous
wired ·
Les représentants d'OpenAI et d'Anthropic ont témoigné devant une commission parlementaire britannique, affirmant que les engagements volontaires en matière de sécurité sont insuffisants et préconisant à la place des cadres législatifs contraignants et des conventions internationales. Cette position a créé une nette divergence avec leurs concurrents Google DeepMind et Meta, qui s'opposent à une nouvelle législation au profit des normes ou régulateurs existants. L'audition a mis en lumière les limites du régime réglementaire actuel au Royaume-Uni, des fonctionnaires admettant que l'Institut de sécurité de l'IA dépend entièrement de la coopération des entreprises et dépourvu de pouvoirs coercitifs pour empêcher la diffusion de modèles dangereux. Parallèlement, le directeur du MI5, Ken McCallum, a mis en garde contre des menaces graves, notamment le risque que l'IA facilite la création de nouvelles armes biologiques. Des lanceurs d'alerte de l'industrie ont renforcé ces préoccupations, soutenant que les entreprises ne peuvent pas être considérées comme dignes de confiance pour s'autoréglementer en raison des pressions concurrentielles. Le président de la commission, Liam Byrne, a souligné la nécessité de rendre publiques ces divergences entre les entreprises riches afin de justifier une intervention gouvernementale plus forte. À l'avenir, la commission prévoit de tirer parti de la présidence britannique du G20 pour négocier une convention internationale sur la sécurité de l'IA, indépendante des changements politiques aux États-Unis.
wired