Déploiement de la parole personnalisée en temps réel avec Qwen3-TTS sur Amazon SageMaker AI
aws ·
Cet article détaille le déploiement du modèle de synthèse vocale Qwen3-TTS-12Hz-1.7B-Base sur Amazon SageMaker AI pour la clonage vocal en temps réel. La solution permet aux utilisateurs de générer de la parole dans la voix d'un locuteur cible à partir de courts enregistrements de référence, sans nécessiter de réentraînement du modèle, et prend en charge dix langues ainsi que le clonage interlingue. En utilisant Amazon SageMaker JumpStart, les développeurs peuvent déployer un point de terminaison d'inférence entièrement géré qui assure le provisionnement de l'infrastructure et la mise à l'échelle automatique. Un aspect technique majeur consiste à configurer l'utilisation de la mémoire GPU pour éviter les erreurs de débordement de mémoire, une carte NVIDIA L4 de 24 Go étant recommandée pour des performances optimales. Le billet fournit des instructions étape par étape sur l'utilisation du SDK Python de SageMaker pour construire le modèle, dimensionner correctement l'instance et invoquer le point de terminaison via des appels API. Des outils de surveillance tels qu'Amazon CloudWatch sont mis en avant pour suivre l'utilisation du matériel et les métriques des requêtes afin d'ajuster la taille du déploiement. Enfin, les auteurs soulignent les avantages tels que l'efficacité économique, le contrôle des données au sein d'AWS et la scalabilité pour diverses applications, notamment la localisation de contenu et l'expérience client.
aws