Структурированные выводы для моделей Anthropic Claude в Amazon Bedrock
aws ·
Amazon Bedrock представил функцию структурированных выводов для всех моделей Anthropic Claude, что позволяет получать детерминированные ответы в формате JSON, строго соответствующие заданным схемам. Эта функция использует ограниченный декодинг во время генерации токенов, устраняя необходимость в пользовательском парсинге, логике повторных попыток или проверке после обработки. Разработчики могут использовать эту возможность как через конечные точки bedrock-runtime, так и bedrock-mantle для таких задач, как извлечение данных, анализ контрактов и интеллектуальная маршрутизация заявок. Реализация поддерживает два основных механизма: формат вывода JSON Schema для общей структуризации ответов и строгое использование инструментов (strict tool use) для агентных рабочих процессов, требующих точной проверки параметров. Производительность оптимизирована за счет кэша грамматики на 24 часа, который снижает задержку при повторяющихся запросах схем, обеспечивая при этом безопасность типов и наличие обязательных полей. Ключевые требования включают установку значения false для additionalProperties и использование описательных имен полей для максимизации точности модели. Поддерживаемые функции включают базовые типы, перечисления (enums) и определенные форматы строк, однако рекурсивные схемы и внешние ссылки не поддерживаются. Это обновление делает интеграцию Claude в производственные конвейеры более надежной, гарантируя вывод, соответствующий схеме, без необходимости дополнительной обработки ошибок.
aws