Bem-vindo Beam: um modelo aberto de 501B que você pode possuir, personalizar e dimensionar
huggingface ·
A Reflection lançou o Beam, um novo modelo de linguagem aberto com 501 bilhões de parâmetros, disponível sob a licença Apache 2.0 no Hugging Face. Projetado principalmente para codificação e tarefas agênticas, o Beam utiliza uma arquitetura Mixture-of-Experts (MoE) com 23 bilhões de parâmetros ativos por token, além de suportar uma janela de contexto massiva de um milhão de tokens. O modelo apresenta mecanismos de atenção especializados e tratamento do fluxo residual para manter o desempenho em contextos longos, juntamente com suporte nativo para chamada de ferramentas e raciocínio estruturado. Os usuários podem implantar o Beam usando bibliotecas compatíveis desde o dia zero, como Transformers, vLLM e SGLang, com checkpoints otimizados para vários hardwares, incluindo GPUs NVIDIA Blackwell, Hopper e Ampere. O artigo detalha os resultados de benchmarks em testes de codificação, raciocínio e capacidades gerais, demonstrando forte desempenho em fluxos de trabalho agênticos. Além disso, fornece guias abrangentes para técnicas de pós-treinamento, como ajuste fino supervisionado com TRL e aprendizado por reforço via Miles. Para incentivar a adoção pela comunidade, a Reflection está oferecendo US$ 10.000 em créditos no Hub para projetos inovadores construídos com o Beam. Vários demos ilustram aplicações práticas, incluindo a criação de aplicativos nativos para macOS e a escalabilidade de tarefas de programação multiagêntica.
huggingface