Strukturierte Ausgaben für Anthropic Claude-Modelle auf Amazon Bedrock
aws ·
Amazon Bedrock hat strukturierte Ausgaben für alle Anthropic-Claude-Modelle eingeführt, die deterministische JSON-Antworten ermöglichen, die streng definierten Schemata entsprechen. Diese Funktion nutzt während der Token-Generierung ein eingeschränktes Decoding, wodurch benutzerdefiniertes Parsing, Retry-Logik oder Validierung nach der Verarbeitung entfallen. Entwickler können diese Fähigkeit sowohl über die Endpunkte bedrock-runtime als auch bedrock-mantle nutzen, beispielsweise für Datenerfassung, Vertragsanalyse und intelligente Ticketweiterleitung. Die Implementierung unterstützt zwei Hauptmechanismen: das JSON-Schema-Ausgabeformat zur allgemeinen Strukturierung von Antworten und den strikten Tool-Einsatz für agentic Workflows, die eine präzise Parametervalidierung erfordern. Die Leistung wird durch einen 24-Stunden-Grammatikcache optimiert, der die Latenz bei wiederholten Schemaanfragen reduziert und gleichzeitig Typsicherheit sowie das Vorhandensein erforderlicher Felder gewährleistet. Zu den wichtigsten Anforderungen gehören das Festlegen von additionalProperties auf false sowie die Verwendung beschreibender Feldnamen, um die Modellgenauigkeit zu maximieren. Unterstützte Funktionen umfassen grundlegende Typen, Enums und bestimmte Stringformate, wobei rekursive Schemata und externe Referenzen nicht unterstützt werden. Dieses Update macht die Integration von Claude in Produktions-Pipelines zuverlässiger, indem es schemakonforme Ausgaben ohne zusätzlichen Fehlerbehandlungsbedarf garantiert.
aws