Présentation de Kimi K3 sur Amazon Bedrock
aws ·
AWS annonce que Kimi K3 de Moonshot AI est désormais disponible sur Amazon Bedrock pour les charges de travail de programmation et de traitement des connaissances. Moonshot AI le décrit comme son modèle le plus performant et comme le premier modèle ouvert à atteindre 2,8 billions de paramètres ; il combine une vision native, une fenêtre de contexte d’un million de tokens et une efficacité de mise à l’échelle environ 2,5 fois supérieure à celle de Kimi K2. Kimi K3 est également le premier modèle à poids ouverts sur Bedrock à prendre en charge la mise en cache explicite des prompts, ce qui peut réduire la latence et les coûts liés aux tokens d’entrée lorsque le contexte stable est réutilisé. AWS indique que les requêtes restent dans le périmètre de données AWS, qu’elles ne sont pas communiquées au fournisseur du modèle ni utilisées pour l’entraînement, et qu’elles bénéficient d’une absence totale de conservation des données et d’un accès opérateur nul. Les utilisateurs peuvent y accéder via la console Bedrock ou les API, notamment les API Responses et Chat Completions compatibles avec OpenAI, au moyen de profils d’inférence interrégionaux géographiques mondiaux et américains. L’article présente également des intégrations avec OpenCode et Hermes Agent et renvoie les lecteurs vers des exemples AWS, la documentation et les informations tarifaires.
aws