Governador da Califórnia Newsom assina ordem executiva exigindo um "botão de emergência" para modelos de IA
decoder ·
O governador da Califórnia, Gavin Newsom, assinou uma ordem executiva destinada a acelerar a supervisão independente de empresas de IA e a promover a exigência de um "kill switch" para modelos de IA. A ordem segue incidentes recentes, como o ataque à Hugging Face. Um painel de especialistas tem dois meses para apresentar recomendações, incluindo a exigência de que empresas de IA incorporem auditores independentes diretamente em seus laboratórios. O artigo diz que a proposta veio originalmente dos próprios laboratórios de IA, como parte de um apelo mais amplo para desacelerar a pesquisa e o desenvolvimento. Newsom criticou duramente seu rival Donald Trump, que acusou os laboratórios de alarmismo, e destacou que nenhuma lei federal exige que empresas de IA relatem incidentes perigosos. Ele citou leis da Califórnia já aprovadas sobre segurança de IA, proteção infantil, deepfakes, privacidade de dados e segurança cibernética, e pediu ao Congresso que adotasse esse arcabouço como uma base nacional. Separadamente, um grupo de 42 matemáticos alertou sobre os riscos de sistemas avançados de IA que poderiam evoluir rapidamente em um futuro próximo.
decoder