Nuova competenza per agent: inferenza generativa AI ottimizzata su Amazon SageMaker per il tuo agente di codifica
aws ·
Amazon SageMaker AI ha introdotto una nuova abilità per agent, denominata aws-ai-ml, che si integra con agent di codifica come Kiro e Claude Code per ottimizzare l'inferenza dell'IA generativa. Questo strumento consente agli sviluppatori di effettuare benchmarking degli endpoint esistenti, identificare i tipi di istanza più convenienti per il deployment e confrontare le metriche di prestazioni tra diverse configurazioni. Sfruttando il Model Context Protocol, l'abilità permette agli agent di generare codice eseguibile utilizzando la versione 3 del SDK Python di SageMaker sulla base di richieste in linguaggio naturale. Gli utenti possono valutare modelli provenienti da Amazon S3, SageMaker JumpStart o Hugging Face Hub senza necessità di competenze approfondite in materia di infrastrutture. Il sistema fornisce report quantitativi dettagliati su throughput, latenza e concorrenza, garantendo risultati trasparenti e misurabili. L'installazione è semplificata tramite l'Agent Toolkit per AWS o attraverso spazi JupyterLab preconfigurati in Amazon SageMaker Studio. Questa integrazione mira a colmare il divario tra l'intento di sviluppo e l'infrastruttura di produzione automatizzando compiti complessi di ottimizzazione.
aws