OpenAI confirma semanas de conversas sobre segurança de IA com Anthropic e Google DeepMind
aiinsider ·
A OpenAI confirmou que esteve envolvida em discussões de várias semanas sobre segurança de IA com as empresas concorrentes Anthropic e Google DeepMind. Chris Lehane, chefe de política global da OpenAI, verificou essa coordenação enquanto trabalhava com legisladores em Washington em questões relacionadas a riscos catastróficos da IA. Essa divulgação segue um ensaio do CEO da Anthropic, Dario Amodei, que instou a indústria a desacelerar coletivamente o desenvolvimento de IA de fronteira para prevenir resultados desastrosos. Figuras proeminentes, incluindo Sam Altman, Demis Hassabis e Elon Musk, expressaram apoio à proposta de Amodei. A OpenAI planeja juntar-se à Anthropic na integração de avaliadores terceirizados para monitorar a segurança internamente, uma medida destinada a abordar preocupações antitruste sobre a supressão da concorrência. As empresas também estão trabalhando, segundo relatos, para estabelecer um órgão de padrões da indústria para avaliar modelos avançados e coordenar desacelerações, se necessário. Apesar desses esforços colaborativos, o presidente Trump descartou as preocupações com a segurança da IA, argumentando que desacelerar o desenvolvimento beneficiaria principalmente a China.
aiinsider