El gobernador de California, Newsom, firma una orden ejecutiva que exige un "interruptor de emergencia" para los modelos de IA
decoder ·
El gobernador de California, Gavin Newsom, firmó una orden ejecutiva destinada a acelerar la supervisión independiente de las empresas de IA y a impulsar un requisito de "kill switch" para los modelos de IA. La orden se produce tras incidentes recientes como el ataque a Hugging Face. Un panel de expertos tiene dos meses para entregar recomendaciones, incluido el requisito de que las empresas de IA incorporen auditores independientes directamente dentro de sus laboratorios. El artículo dice que la propuesta provino originalmente de los propios laboratorios de IA como parte de un llamado más amplio a frenar la investigación y el desarrollo. Newsom criticó duramente a su rival Donald Trump, quien acusó a los laboratorios de alarmismo, y señaló que ninguna ley federal exige a las empresas de IA reportar incidentes peligrosos. Citó leyes de California ya aprobadas sobre seguridad de la IA, protección infantil, deepfakes, privacidad de datos y ciberseguridad, y pidió al Congreso adoptar ese marco como base nacional. Por separado, un grupo de 42 matemáticos advirtió sobre los riesgos de sistemas avanzados de IA que podrían evolucionar rápidamente en un futuro cercano.
decoder