Sorties structurées pour les modèles Anthropic Claude sur Amazon Bedrock
aws ·
Amazon Bedrock a introduit les sorties structurées pour tous les modèles Anthropic Claude, permettant des réponses JSON déterministes qui se conforment strictement aux schémas définis. Cette fonctionnalité utilise le décodage contraint lors de la génération de tokens, éliminant ainsi le besoin d'analyse personnalisée, de logique de nouvelle tentative ou de validation post-traitement. Les développeurs peuvent exploiter cette capacité via les points de terminaison bedrock-runtime et bedrock-mantle pour des tâches telles que l'extraction de données, l'analyse de contrats et le routage intelligent des tickets. L'implémentation prend en charge deux mécanismes principaux : le format de sortie JSON Schema pour la structuration générale des réponses et l'utilisation stricte des outils pour les flux de travail agents nécessitant une validation précise des paramètres. Les performances sont optimisées grâce à un cache de grammaire de 24 heures, qui réduit la latence pour les demandes de schéma répétées tout en garantissant la sécurité des types et la présence des champs requis. Les exigences clés incluent la définition de additionalProperties à false et l'utilisation de noms de champs descriptifs pour maximiser la précision du modèle. Les fonctionnalités prises en charge comprennent les types de base, les énumérations et certains formats de chaînes, bien que les schémas récursifs et les références externes ne soient pas encore supportés. Cette mise à jour rend l'intégration de Claude dans les pipelines de production plus fiable en garantissant des sorties conformes au schéma sans gestion d'erreurs supplémentaire.
aws