使用编程代理在 Amazon SageMaker AI 上部署 Hugging Face 模型
aws ·
这篇 AWS 博文介绍了编码代理如何使用 Hugging Face Skills 仓库中的六项开源技能，在 Amazon SageMaker AI 上部署 Hugging Face 模型。如果没有这些技能，Kiro 和 Claude Code 等代理可能会为 Qwen3 选择不兼容或过时的 Text Generation Inference 容器，导致部署失败并产生不必要的 GPU 费用。这些技能会引导代理完成 AWS 上下文发现、设置受支持的 Python 环境、验证 IAM 角色、从 AWS Deep Learning Containers 目录中选择服务镜像，以及使用生产环境默认配置进行部署。这些默认配置包括自动扩缩容、三个 Amazon CloudWatch 告警、冒烟测试、日志记录和经过验证的清理流程。示例会将 Qwen/Qwen3-0.6B 部署到实时端点；这些技能还支持缩容至零、无服务器、异步、批处理以及 Amazon Bedrock Custom Model Import 部署。这些技能使用 Python 和 AWS CLI，可在 macOS、Linux 和 Windows 上运行，并且需要受支持的 Python 版本和 AWS 账户权限。博文还指出，在删除实时端点之前，它们会持续产生实例费用。
aws