Presentazione di Reflection Beam: un modello open-weight per la codifica agenziale su AWS
aws ·
Reflection AI ha presentato Reflection Beam, un modello open-weight progettato per la programmazione agenziale e attività a lungo termine come la manutenzione del codice e i flussi di lavoro multi-step. Il modello utilizza un'architettura sparse mixture-of-experts con 501 miliardi di parametri totali e 23 miliardi di parametri attivi, supportando una lunghezza contestuale effettiva di un milione di token. Rilasciato sotto licenza Apache 2.0, Beam è disponibile nelle varianti di checkpoint BF16, FP8 e NVFP4 per adattarsi a diverse esigenze di memoria e hardware. AWS offre più percorsi di distribuzione, che iniziano con Amazon SageMaker JumpStart per endpoint real-time completamente gestiti. Per gli utenti che richiedono controllo nativo Kubernetes, Amazon SageMaker HyperPod Inference offre l'integrazione con runtime SGLang o vLLM. Queste opzioni consentono agli sviluppatori di gestire infrastrutture GPU distribuite, caching e scalabilità in base ai propri obiettivi specifici di concorrenza e latenza. Al lancio, il modello è accessibile tramite SageMaker JumpStart nelle regioni US East, consentendo sia ai ricercatori che agli sviluppatori di personalizzare gli ambienti runtime.
aws