Benvenuto Beam: un modello aperto da 501B che puoi possedere, personalizzare e scalare
huggingface ·
Reflection ha rilasciato Beam, un nuovo modello linguistico open-source da 501 miliardi di parametri, disponibile con licenza Apache 2.0 su Hugging Face. Progettato principalmente per la programmazione e le attività agentiche, Beam utilizza un'architettura Mixture-of-Experts con 23 miliardi di parametri attivi per token, supportando una finestra di contesto massiccia di un milione di token. Il modello presenta meccanismi di attenzione specializzati e gestione del residual stream per mantenere le prestazioni su contesti lunghi, oltre al supporto nativo per il tool calling e il ragionamento strutturato. Gli utenti possono distribuire Beam utilizzando librerie compatibili fin dal primo giorno, come Transformers, vLLM e SGLang, con checkpoint ottimizzati per vari hardware, incluse le GPU NVIDIA Blackwell, Hopper e Ampere. L'articolo illustra i risultati dei benchmark nei test di programmazione, ragionamento e capacità generali, dimostrando un'eccellente performance nei flussi di lavoro agentic. Inoltre, fornisce guide complete per tecniche di post-allenamento come il fine-tuning supervisionato con TRL e l'apprendimento per rinforzo tramite Miles. Per incoraggiare l'adozione da parte della comunità, Reflection offre 10.000 dollari in crediti Hub per progetti innovativi realizzati con Beam. Diversi demo illustrano applicazioni pratiche, tra cui la creazione di applicazioni native per macOS e il scaling di attività di programmazione multi-agente.
huggingface