Criar aplicativos de voz em tempo real com vLLM-Omni no SageMaker AI – Parte 1
aws ·
Este artigo oferece um tutorial técnico sobre a implantação de aplicativos de voz em tempo real utilizando o Contêiner de Aprendizado Profundo vLLM-Omni da AWS no Amazon SageMaker AI. O foco está nas capacidades de texto-para-fala (TTS) em streaming, aproveitando o modelo Qwen3-TTS, que permite iniciar a geração de áudio antes que a resposta completa esteja pronta. A solução utiliza o streaming bidirecional do SageMaker sobre WebSockets HTTP/2 para enviar entradas de texto e receber blocos de áudio PCM de 24 kHz por meio de uma conexão persistente. Os leitores são guiados na clonagem de um repositório de exemplo, na configuração de pools de instâncias para recursos de GPU e na implantação de um endpoint em tempo real. Um aplicativo Gradio é usado para demonstrar o fluxo de trabalho, permitindo que os usuários gerem fala em streaming a partir de entradas de texto. O tutorial enfatiza que essa abordagem complementa exemplos anteriores de fala-para-texto, criando um pipeline de voz full duplex. Por fim, os autores fornecem instruções para limpar os recursos implantados e evitar cobranças desnecessárias.
aws