Anthropic apresenta projeto de lei de segurança de IA que pode bloquear modelo se houver risco de mais de 50 mortes
techcrunch ·
A Anthropic apresentou um novo projeto de lei ao Congresso dos EUA, visando regulamentar a segurança da inteligência artificial por meio do bloqueio da divulgação de modelos que representem riscos catastróficos. A legislação define esses riscos como cenários em que mais de 50 pessoas podem morrer ou ocorrer danos à propriedade superiores a um bilhão de dólares, devido a armas biológicas, ciberataques ou evasão de controle do modelo. Para avaliar esses perigos, o projeto sugere o uso de avaliadores independentes registrados no Departamento de Comércio dos EUA, que seriam pagos pelos laboratórios de IA, mas sem vinculação aos resultados das avaliações. Se for identificado um risco iminente, os avaliadores devem notificar o Departamento de Comércio dentro de 72 horas, e este buscará uma ordem judicial para interromper a distribuição. Essa abordagem impede explicitamente que agências federais detenham unilateralmente a divulgação de modelos sem supervisão judicial. As métricas alinhadas com a recente Lei do Senado da Califórnia (SB 53), embora críticos questionem como as estruturas de pagamento podem influenciar a neutralidade dos avaliadores. Embora líderes da indústria, como a Nvidia, tenham resistido a novas leis, a proposta da Anthropic representa uma estrutura regulatória mais estruturada em comparação com os modelos voluntários de autorregulação.
techcrunch