Представляем Kimi K3 в Amazon Bedrock
aws ·
AWS объявляет, что Kimi K3 от Moonshot AI теперь доступна в Amazon Bedrock для задач программирования и работы со знаниями. Moonshot AI описывает её как свою наиболее функциональную модель и первую открытую модель, достигшую 2,8 трлн параметров; она сочетает нативную поддержку работы с изображениями, контекстное окно на 1 млн токенов и примерно в 2,5 раза более высокую эффективность масштабирования по сравнению с Kimi K2. Kimi K3 также стала первой открытой моделью с доступными весами в Bedrock, поддерживающей явное кэширование промптов, которое может снизить задержку и стоимость входных токенов при повторном использовании стабильного контекста. AWS заявляет, что запросы остаются в пределах границы данных AWS, не передаются поставщику модели и не используются для обучения, а также защищены отсутствием хранения данных и доступа операторов. Пользователи могут обращаться к модели через консоль Bedrock или API, включая совместимые с OpenAI интерфейсы Responses и Chat Completions, с использованием глобальных и географических профилей межрегионального вывода для США. В статье также демонстрируется интеграция с OpenCode и Hermes Agent, а читателям предлагаются примеры AWS, документация и информация о ценах.
aws