Muse Spark Open da Meta agora disponível no Amazon SageMaker JumpStart
aws ·
O Muse Spark Open da Meta, um modelo de pesos abertos otimizado para codificação, está agora disponível no Amazon SageMaker JumpStart. Treinado com base em fluxos de trabalho reais de desenvolvedores, o modelo possui uma arquitetura de misturas de especialistas com 816 bilhões de parâmetros totais e suporta uma janela de contexto de um milhão de tokens. Ele oferece duas variantes no SageMaker: BF16 e NVFP4 quantizada, que diferem significativamente nos requisitos de memória e na seleção de instâncias. A variante NVFP4 executa-se em instâncias ml.p5e.48xlarge, enquanto a variante BF16 requer instâncias ml.p6-b300.48xlarge devido às maiores necessidades de memória. Os usuários podem implantar o modelo por meio do SageMaker Studio ou do SageMaker Python SDK, criando endpoints em suas próprias contas AWS para controle total sobre segurança e infraestrutura. Como modelo de raciocínio, ele fornece tanto as respostas finais quanto o conteúdo detalhado do raciocínio, tornando-o adequado para tarefas complexas de codificação agêntica. A implantação envolve aceitar o acordo de licença da Meta e configurar recursos de computação específicos com base na variante escolhida.
aws