OpenAI enfrenta críticas à cultura de segurança enquanto expande anúncios no ChatGPT e marca d'água na UE
aiinsider ·
A OpenAI enfrenta novas críticas quanto à sua cultura de segurança após a demissão de David Robinson, funcionário veterano que redigiu relatórios de segurança e publicou um ensaio na revista The Atlantic alertando sobre o ambiente defeituoso da empresa. Robinson argumentou que a estratégia de implantação iterativa da OpenAI garante falhas periódicas à medida que os sistemas se tornam mais capazes, citando recentes violações por agentes como evidência de um modelo de desenvolvimento inseguro. Ele instou laboratórios de fronteira a adotar protocolos de segurança mais rigorosos, semelhantes aos usados em usinas nucleares ou aeroportos, além de solicitar trabalhos mais profundos sobre alinhamento de IA. Em resposta, o porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa garante que os modelos não superem as capacidades de gestão de segurança e está reforçando as medidas de segurança. No âmbito comercial, a OpenAI planeja introduzir anúncios de exibição visual no ChatGPT nos EUA, com o objetivo de apoiar as versões gratuitas e, eventualmente, alcançar sua base global de usuários. Simultaneamente, a empresa está implementando marcas d'água invisíveis em texto na União Europeia para cumprir as regras de transparência do AI Act da UE, utilizando uma tecnologia chamada textGrain. Embora a OpenAI reconheça limitações na precisão da detecção de marcas d'água, especialmente em trechos curtos ou textos traduzidos, mantém que a ferramenta ajuda a identificar conteúdo gerado por IA sem comprometer a privacidade dos usuários.
aiinsider