Três pesquisadores de segurança da OpenAI demitidos dizem que nunca foram informados sobre o que vazaram
decoder ·
Três ex-pesquisadores de segurança da OpenAI, Tomek Korbak, Mikita Balesni e Jasmine Wang, negam as alegações de que vazaram informações confidenciais, afirmando que nunca foram informados explicitamente sobre os dados específicos que supostamente manipularam indevidamente. Suas demissões seguiram-se a uma investigação interna desencadeada por suspeitas de que eles compartilharam detalhes sobre a arquitetura do modelo com o especialista em segurança externo Ryan Greenblatt por meio de chats no Signal. Embora a OpenAI tenha citado violações de políticas relacionadas ao manuseio de informações sensíveis, os pesquisadores argumentam que suas demissões estão ligadas à sua defesa por maior transparência nos processos de monitoramento e inspeção de IA. A controvérsia centra-se num debate técnico sobre se as empresas devem permitir que terceiros inspecionem as etapas de raciocínio da 'cadeia de pensamento' usadas por modelos avançados. Os pesquisadores temem que essas demissões desincentivem auditores independentes a colaborar com empresas de IA e criem um efeito intimidador entre funcionários que levantem preocupações de segurança internamente. Além disso, auditorias recentes destacaram lacunas de segurança na infraestrutura da OpenAI, embora a empresa afirme ter resolvido esses problemas e retomado as operações de treinamento.
decoder