Новая функция агента: оптимизированный вывод генеративного ИИ Amazon SageMaker для вашего кодового агента
aws ·
Amazon SageMaker AI представила новый навык агента aws-ai-ml, который интегрируется с кодовыми агентами, такими как Kiro и Claude Code, для оптимизации вывода генеративного ИИ. Этот инструмент позволяет разработчикам проводить бенчмаркинг существующих конечных точек, определять наиболее экономичные типы инстансов для развертывания и сравнивать метрики производительности при различных конфигурациях. Благодаря использованию протокола контекста моделей (Model Context Protocol) навык позволяет агентам генерировать исполняемый код на Python SDK v3 для SageMaker на основе запросов, сформулированных естественным языком. Пользователи могут оценивать модели из Amazon S3, SageMaker JumpStart или Hugging Face Hub без необходимости глубоких знаний в области инфраструктуры. Система предоставляет подробные количественные отчеты о пропускной способности, задержке и конкурентности, обеспечивая прозрачные и измеримые результаты. Установка упрощена благодаря Agent Toolkit for AWS или предварительно настроенным пространствам JupyterLab в Amazon SageMaker Studio. Эта интеграция направлена на устранение разрыва между намерениями разработки и производственной инфраструктурой путем автоматизации сложных задач оптимизации.
aws