Anthropic propose un projet de loi sur la sécurité de l'IA qui pourrait bloquer un modèle en cas de risque de plus de 50 morts
techcrunch ·
Anthropic a proposé un nouveau projet de loi au Congrès visant à réglementer la sécurité de l'intelligence artificielle en bloquant la mise sur le marché des modèles présentant des risques catastrophiques. La législation définit ces risques comme des scénarios dans lesquels plus de 50 personnes pourraient mourir ou plus d'un milliard de dollars de dégâts matériels pourraient survenir en raison d'armes biologiques, de cyberattaques ou de contournement du contrôle par les modèles. Pour évaluer ces dangers, le projet de loi suggère d'utiliser des évaluateurs indépendants inscrits auprès du département américain du Commerce, rémunérés par les laboratoires d'IA mais sans lien avec les résultats des évaluations. Si un risque imminent est identifié, les évaluateurs doivent notifier le département du Commerce dans un délai de 72 heures, ce dernier devant alors obtenir une ordonnance judiciaire pour suspendre la distribution. Cette approche empêche explicitement les agences fédérales d'arrêter unilatéralement la diffusion des modèles sans supervision judiciaire. Les critères correspondent à ceux du récent projet de loi Senate Bill 53 en Californie, bien que des critiques s'interrogent sur l'influence potentielle des structures de paiement sur la neutralité des évaluateurs. Alors que des dirigeants de l'industrie comme Nvidia résistent à de nouvelles lois, la proposition d'Anthropic représente un cadre réglementaire plus structuré comparé aux modèles d'autorégulation volontaire.
techcrunch