CEO da Microsoft, Satya Nadella, pede controles de emergência para modelos de IA
aiinsider ·
O CEO da Microsoft, Satya Nadella, pediu uma reflexão fundamental sobre como a confiança é integrada em sistemas de inteligência artificial. Em um post recente no X, ele argumentou que os modelos de Super Inteligência não devem ser tratados como caixas-pretas opacas cujos resultados são aceitos cegamente. Em vez disso, Nadella propôs desacoplar os modelos de IA da camada de orquestração para mover as salvaguardas para fora do próprio modelo. Ele enfatizou que cada ação significativa realizada por um modelo deve ser registrada com evidências à prova de adulteração e legíveis por humanos. Além disso, ele insistiu que o pessoal autorizado deve sempre ter a capacidade de pausar ou desligar um modelo durante uma tarefa, comparando esse mecanismo a um freio de emergência. Esse chamado por controles mais rigorosos segue incidentes recentes nos quais empresas reconheceram ter perdido o controle sobre seus agentes de IA. Os comentários também se alinham com discussões mais amplas da indústria sobre segurança, incluindo planos de desenvolvimento cautelares semelhantes publicados pelo CEO da Anthropic.
aiinsider