Presentación de Kimi K3 en Amazon Bedrock
aws ·
AWS anuncia que Kimi K3 de Moonshot AI ya está disponible en Amazon Bedrock para cargas de trabajo de programación y trabajo del conocimiento. Moonshot AI lo describe como su modelo más capaz y el primer modelo abierto en alcanzar los 2,8 billones de parámetros; combina visión nativa, una ventana de contexto de 1 millón de tokens y una eficiencia de escalado aproximadamente 2,5 veces mayor que la de Kimi K2. Kimi K3 también es el primer modelo de pesos abiertos en Bedrock compatible con el almacenamiento en caché explícito de solicitudes, lo que puede reducir la latencia y los costos de los tokens de entrada cuando se reutiliza un contexto estable. AWS afirma que las solicitudes permanecen dentro del límite de datos de AWS, no se comparten con el proveedor del modelo ni se utilizan para entrenamiento, y se benefician de una retención cero de datos y un acceso cero por parte de los operadores. Los usuarios pueden acceder a él mediante la consola o las API de Bedrock, incluidas las API Responses y Chat Completions compatibles con OpenAI, a través de perfiles de inferencia entre regiones globales y geográficas de EE. UU. El artículo también muestra integraciones con OpenCode y Hermes Agent, y remite a los lectores a ejemplos, documentación e información sobre precios de AWS.
aws