新代理技能:适用于编码代理的 Amazon SageMaker 优化生成式 AI 推理
aws ·
Amazon SageMaker AI 推出了一项名为 aws-ai-ml 的新代理技能,该技能与 Kiro 和 Claude Code 等编码代理集成,以优化生成式 AI 推理。此工具允许开发人员对现有端点进行基准测试,确定最具成本效益的部署实例类型,并比较不同配置下的性能指标。通过利用模型上下文协议(Model Context Protocol),该技能使代理能够根据自然语言请求生成可执行的 SageMaker Python SDK v3 代码。用户无需具备深厚的基础设施专业知识,即可评估来自 Amazon S3、SageMaker JumpStart 或 Hugging Face Hub 的模型。系统提供关于吞吐量、延迟和并发性的详细定量报告,确保结果透明且可衡量。安装过程通过 AWS Agent Toolkit 或在 Amazon SageMaker Studio 中预配置的 JupyterLab 空间得以简化。此次集成旨在通过自动化复杂的优化任务,弥合开发意图与生产基础设施之间的差距。
aws