Nouvelle compétence d'agent : inférence IA générative optimisée sur Amazon SageMaker pour votre agent de codage
aws ·
Amazon SageMaker AI a introduit une nouvelle compétence d'agent appelée aws-ai-ml, qui s'intègre aux agents de codage tels que Kiro et Claude Code pour optimiser l'inférence d'IA générative. Cet outil permet aux développeurs de mettre à l'échelle les points de terminaison existants, d'identifier les types d'instances les plus rentables pour le déploiement et de comparer les métriques de performance entre différentes configurations. En s'appuyant sur le Model Context Protocol, la compétence permet aux agents de générer du code exécutable avec le SDK Python v3 de SageMaker à partir de requêtes en langage naturel. Les utilisateurs peuvent évaluer des modèles provenant d'Amazon S3, de SageMaker JumpStart ou du Hugging Face Hub sans nécessiter une expertise approfondie en infrastructure. Le système fournit des rapports quantitatifs détaillés sur le débit, la latence et la concurrence, garantissant des résultats transparents et mesurables. L'installation est simplifiée via l'Agent Toolkit for AWS ou par le biais d'espaces JupyterLab préconfigurés dans Amazon SageMaker Studio. Cette intégration vise à combler l'écart entre l'intention de développement et l'infrastructure de production en automatisant des tâches d'optimisation complexes.
aws