Использование моделей с открытыми весами в качестве агентов ИИ для программирования с Amazon Bedrock
aws ·
В статье показано, как использовать открытый терминальный инструмент OpenCode с Amazon Bedrock для создания безопасных и экономически эффективных ИИ-агентов для программирования. Используя модели с открытыми весами, разработчики могут сохранять проприетарные данные в своем аккаунте AWS, избегая зависимости от сторонних API и платы за каждую лицензию (per-seat). Решение поддерживает многомодельные рабочие процессы, позволяя назначать конкретные модели для различных задач, таких как планирование, отладка или генерация кода. Среди рекомендуемых моделей: Moonshot AI Kimi K3 для глубокого логического анализа, OpenAI GPT-OSS 120B для сложной реализации и NVIDIA Nemotron 3 Super 120B для высокопроизводительной генерации. Amazon Bedrock обеспечивает безопасность корпоративного уровня, соответствие требованиям регуляторов и гибкие тарифы ценообразования, такие как Flex для пакетной обработки. Архитектура позволяет автоматически маршрутизировать подзадачи к оптимальной модели в зависимости от сложности и требований к задержке. В качестве примера из реальной эксплуатации приводится компания Ethara.AI, использующая эту конфигурацию для масштабируемой оркестрации мультиагентных систем. Этот подход сочетает возможности настройки открытых моделей с управляемой инфраструктурой AWS.
aws