Le gouverneur de Californie Newsom signe un décret exigeant un « interrupteur d'urgence » pour les modèles d'IA
decoder ·
Le gouverneur de Californie, Gavin Newsom, a signé un décret visant à accélérer la surveillance indépendante des entreprises d'IA et à faire avancer l'exigence d'un « interrupteur d'urgence » (kill switch) pour les modèles d'IA. Ce décret fait suite à des incidents récents tels que l'attaque contre Hugging Face. Un panel d'experts dispose de deux mois pour formuler des recommandations, notamment l'obligation pour les entreprises d'IA d'intégrer des auditeurs indépendants directement au sein de leurs laboratoires. L'article indique que la proposition provenait à l'origine des laboratoires d'IA eux-mêmes, dans le cadre d'un appel plus large à ralentir la recherche et le développement. Newsom a vivement critiqué son rival Donald Trump, qui a accusé les laboratoires de semer la peur, et a souligné qu'aucune loi fédérale n'oblige les entreprises d'IA à signaler les incidents dangereux. Il a cité les lois californiennes déjà adoptées sur la sécurité de l'IA, la protection de l'enfance, les hypertrucages (deepfakes), la confidentialité des données et la cybersécurité, et a appelé le Congrès à adopter ce cadre comme base nationale. Par ailleurs, un groupe de 42 mathématiciens a mis en garde contre les risques liés aux systèmes d'IA avancés qui pourraient évoluer rapidement dans un avenir proche.
decoder