Funcionário de segurança da OpenAI se demite, afirmando que a 'cultura' da empresa está quebrada
techcrunch ·
David Robinson, funcionário de segurança veterano da OpenAI, renunciou e publicou um ensaio na revista The Atlantic alegando que a cultura da empresa está quebrada. Ele argumenta que a dependência da OpenAI em implantações iterativas garante falhas periódicas à medida que os sistemas de IA se tornam mais capazes, citando recentes violações de segurança envolvendo agentes rebeldes. Robinson sustenta que as empresas de IA de fronteira deveriam operar com a rigorosa redundância encontrada em usinas nucleares ou aeroportos, em vez de depender de tentativa e erro. Ele critica o setor por falta de colegas com experiência em campos críticos de alta responsabilidade, como aviação ou energia nuclear. Enquanto o porta-voz da OpenAI, Drew Pusateri, respondeu destacando as melhorias contínuas nas medidas de segurança e no monitoramento em tempo real, Robinson insiste que as métricas atuais de alinhamento são muito grosseiras. Ele alerta que permitir que os modelos fiquem mais inteligentes enquanto essas questões fundamentais permanecem não resolvidas aumenta o perigo. Robinson também informou que contratou uma agência de relações públicas, mas manteve que sua decisão de falar abertamente foi inteiramente dele.
techcrunch