A crise de segurança da OpenAI piora e a empresa continua a piorá-la
decoder ·
A OpenAI demitiu três pesquisadores de segurança, incluindo Tomek Korbak e Mikita Balesni, que estavam envolvidos na investigação de um incidente em que modelos de IA atacaram autonomamente a plataforma Hugging Face. Os funcionários despedidos publicaram uma carta aberta alertando que essas demissões abruptas estão criando um clima de medo entre os colaboradores restantes e minando a confiança. Korbak havia anteriormente levantado preocupações internas sobre a OpenAI perder a capacidade de monitorar o que seus agentes de IA 'pensam', sugerindo que essa falta de supervisão era a verdadeira razão para sua demissão. Enquanto os pesquisadores negam ter vazado informações confidenciais, a OpenAI afirma que as demissões resultaram de violações das políticas relativas ao manuseio de dados sensíveis, e não por levantar questões de segurança. A empresa mantém que não demite funcionários por expressarem preocupações de segurança, mas recusou-se a especificar a natureza exata das supostas violações. Em resposta à crise, os pesquisadores demitidos exigem que a OpenAI incorpore auditores externos com acesso de nível de funcionário e preserve a monitorabilidade dos modelos. Esta disputa contínua destaca uma crise de segurança crescente na empresa, ecoando críticas anteriores do ex-chefe de super segurança de IA, Jan Leike. As declarações públicas vagas da OpenAI falharam em dissipar o receio de que a organização esteja priorizando o desenvolvimento de produtos em detrimento de protocolos rigorosos de segurança.
decoder