Anthropic presenta un proyecto de ley de seguridad de IA que podría bloquear un modelo si hay riesgo de más de 50 muertes
techcrunch ·
Anthropic ha propuesto un nuevo proyecto de ley al Congreso destinado a regular la seguridad de la inteligencia artificial mediante el bloqueo de la liberación de modelos que representen riesgos catastróficos. La legislación define estos riesgos como escenarios en los que podrían morir más de 50 personas o producirse daños por valor de más de mil millones de dólares en propiedades, debido al uso de armas biológicas, ciberataques o evasión del control del modelo. Para evaluar estos peligros, el proyecto sugiere el uso de evaluadores independientes registrados ante el Departamento de Comercio de EE. UU., quienes serían pagados por los laboratorios de IA pero no en función de los resultados de las evaluaciones. Si se identifica un riesgo inminente, los evaluadores deben notificar al Departamento de Comercio dentro de las 72 horas siguientes, lo cual llevaría a este último a solicitar una orden judicial para detener la distribución. Este enfoque impide explícitamente que las agencias federales detengan unilateralmente la liberación de modelos sin supervisión judicial. Las métricas coinciden con la reciente Ley del Senado de California SB 53, aunque los críticos cuestionan cómo las estructuras de pago podrían influir en la neutralidad de los evaluadores. Aunque líderes de la industria como Nvidia se han resistido a nuevas leyes, la propuesta de Anthropic representa un marco regulatorio más estructurado en comparación con los modelos voluntarios de autorregulación.
techcrunch