Outra saída de pesquisador de segurança da OpenAI reforça padrão de alertas públicos
decoder ·
David Robinson, ex-pesquisador de segurança da equipe de IA Confiável da OpenAI, deixou a empresa e publicou um ensaio crítico sobre a cultura de segurança da organização na revista The Atlantic. Ele argumenta que a dependência do setor de inteligência artificial em tentativas e erros leva a erros cada vez mais perigosos à medida que os sistemas se tornam mais poderosos, citando incidentes tanto na OpenAI quanto na Anthropic. Robinson sustenta que as empresas de IA devem adotar padrões rigorosos de segurança semelhantes aos utilizados em usinas nucleares, com múltiplas camadas de redundância. Além disso, afirma que as organizações devem demonstrar tratamento humano para com seus funcionários antes de poderem treinar de forma responsável sistemas superinteligentes. Esta saída continua um padrão recorrente na OpenAI, no qual especialistas em segurança deixam a empresa enquanto emitem alertas públicos, tendência observada pela primeira vez com Jan Leike em maio de 2024. Robinson também observa que a OpenAI demitiu recentemente três especialistas em segurança que supostamente compartilharam informações com uma empresa de segurança externa. Esses eventos destacam as crescentes preocupações entre pesquisadores que deixam a empresa sobre a adequação dos atuais protocolos de segurança de IA.
decoder