Le nouveau runtime AgentCore : élastique, optimisé et à démarrage rapide et constant
aws ·
AWS annonce un nouveau runtime Amazon Bedrock AgentCore conçu pour prendre en charge des agents en production avec davantage d’élasticité, d’efficacité et des temps de démarrage prévisibles. Il charge la mémoire à mesure des besoins et récupère la mémoire libérée ou devenue inactive, de sorte que l’utilisation et la facturation suivent plus étroitement la charge de travail réelle de la session plutôt que son allocation maximale. Le runtime initialise également un environnement une seule fois, capture son état de fonctionnement sous forme d’instantané, puis restaure cet instantané pour les nouvelles instances au lieu de répéter l’intégralité du processus de démarrage. Lors de tests menés par AWS, le nouveau runtime a affiché une latence P75 de démarrage à froid d’environ deux secondes pour des tailles d’image comprises entre 200 Mo et 2 Go, tandis que le runtime d’origine passait d’environ 5,4 secondes à près de 30 secondes à mesure que la taille de l’image augmentait. Il conserve la mise à l’échelle jusqu’à zéro et la facturation à l’usage, ce qui permet aux agents de rester inactifs sans capacité en fonctionnement tout en évitant de facturer la mémoire inutilisée. Les développeurs peuvent activer le nouveau runtime en définissant platformVersion sur V2. Parmi les ajouts prévus figurent une tarification de base, des options de calcul et de stockage plus importantes, la prise en charge de x86, des contrôles du cycle de vie et des identités à portée limitée pour les agents sans supervision.
aws