Construir aplicaciones de voz en tiempo real con vLLM-Omni en SageMaker AI – Parte 1
aws ·
Este artículo ofrece un tutorial técnico sobre la implementación de aplicaciones de voz en tiempo real mediante el contenedor de aprendizaje profundo vLLM-Omni de AWS en Amazon SageMaker AI. Se centra en las capacidades de texto a voz (TTS) en streaming, utilizando el modelo Qwen3-TTS, lo que permite iniciar la generación de audio antes de completar toda la respuesta. La solución aprovecha el streaming bidireccional de SageMaker sobre WebSockets HTTP/2 para enviar entradas de texto y recibir fragmentos de audio PCM a 24 kHz a través de una conexión persistente. Los lectores son guiados por la clonación de un repositorio de ejemplo, la configuración de grupos de instancias para recursos de GPU y el despliegue de un punto de conexión en tiempo real. Una aplicación Gradio se utiliza para demostrar el flujo de trabajo, permitiendo a los usuarios generar voz en streaming a partir de entradas de texto. El tutorial enfatiza que este enfoque complementa ejemplos previos de voz a texto, creando un pipeline de voz dúplex completo. Finalmente, los autores proporcionan instrucciones para limpiar los recursos implementados y evitar cargos innecesarios.
aws