Satya Nadella da Microsoft diz que modelos de IA precisam de um 'freio de emergência'
techcrunch ·
O CEO da Microsoft, Satya Nadella, pediu a melhoria das medidas de segurança de IA, enfatizando a necessidade de um 'freio de emergência' para controlar modelos avançados. Em uma publicação recente no X, ele argumentou que as organizações devem reavaliar sua arquitetura de confiança em vez de tratar a Super Inteligência como caixas-pretas opacas. Nadella propôs separar o modelo subjacente do sistema que orquestra suas tarefas e externalizar os controles e salvaguardas necessários. Ele insistiu que cada ação significativa realizada por um modelo deve ser documentada com evidências à prova de adulteração e legíveis por humanos. Além disso, defendeu sistemas nos quais pessoal autorizado possa sempre pausar ou desligar um modelo durante uma tarefa se surgirem problemas. Esses comentários seguem as crescentes preocupações do setor sobre incidentes em que empresas perderam o controle de seus sistemas de IA. A declaração também ocorre pouco depois de Dario Amodei, CEO da Anthropic, publicar seu próprio plano para um desenvolvimento de IA mais cauteloso.
techcrunch