Implementar modelos de Hugging Face en Amazon SageMaker AI con agentes de programación
aws ·
Esta publicación de AWS explica cómo los agentes de programación pueden implementar modelos de Hugging Face en Amazon SageMaker AI utilizando seis habilidades de código abierto del repositorio Hugging Face Skills. Sin esas habilidades, agentes como Kiro y Claude Code seleccionaron un contenedor de Text Generation Inference incompatible u obsoleto para Qwen3, lo que provocó implementaciones fallidas y cargos innecesarios por GPU. Las habilidades guían a los agentes en el descubrimiento del contexto de AWS, la configuración de un entorno de Python compatible, la verificación del rol de IAM, la selección de la imagen de servicio del catálogo de AWS Deep Learning Containers y la implementación con valores predeterminados de producción. Estos valores incluyen escalado automático, tres alarmas de Amazon CloudWatch, pruebas de humo, registro y un proceso de desmontaje verificado. El ejemplo implementa Qwen/Qwen3-0.6B en un punto de conexión en tiempo real, mientras que las habilidades también admiten implementaciones con escalado a cero, sin servidor, asíncronas, por lotes y de importación de modelos personalizados de Amazon Bedrock. Las habilidades utilizan Python y la CLI de AWS, funcionan en macOS, Linux y Windows, y requieren una versión compatible de Python y permisos en una cuenta de AWS. La publicación también señala que los puntos de conexión en tiempo real siguen generando cargos por instancia hasta que se eliminan.
aws