OpenAI enviará pelo menos um modelo este ano, mas seu modelo principal ainda precisa de trabalho de alinhamento
decoder ·
A OpenAI está, segundo relatos, no caminho certo para lançar um ou dois novos modelos de IA até o final de 2026, embora seu próximo modelo principal enfrente atrasos significativos devido a requisitos contínuos de alinhamento e segurança. O futuro modelo principal utiliza uma técnica de transformador em loop, semelhante à atual modelo Astra, que melhora o desempenho em matemática e programação ao reduzir os custos operacionais. No entanto, essa escolha arquitetônica complica a monitoração de segurança ao obscurecer os processos de raciocínio interno do modelo dentro de representações numéricas ilegíveis. Consequentemente, a OpenAI redirecionou aproximadamente dez por cento de sua capacidade total de computação para esforços de alinhamento e segurança para enfrentar esses desafios. Além disso, a empresa deve cumprir uma ordem executiva do governo dos EUA que exige fornecer acesso aos novos modelos até 30 dias antes de parcerias externas. Detalhes técnicos sobre esse método de inferência em loop foram brevemente expostos quando a Microsoft publicou acidentalmente informações sobre uma variante mais barata chamada GPT-6.1 Sol. Apesar de reconhecer que a monitoração da cadeia de pensamento está se tornando frágil, a OpenAI continua a refinar esses sistemas sob rigorosa supervisão da liderança.
decoder