Presentazione di Kimi K3 su Amazon Bedrock
aws ·
AWS annuncia che Kimi K3 di Moonshot AI è ora disponibile su Amazon Bedrock per i carichi di lavoro di programmazione e di lavoro basato sulla conoscenza. Moonshot AI lo descrive come il suo modello più potente e il primo modello open a raggiungere 2,8 trilioni di parametri; combina la visione nativa, una finestra di contesto da 1 milione di token e un’efficienza di scalabilità circa 2,5 volte superiore a quella di Kimi K2. Kimi K3 è inoltre il primo modello con pesi aperti su Bedrock a supportare il caching esplicito dei prompt, che può ridurre la latenza e i costi dei token di input quando viene riutilizzato un contesto stabile. AWS afferma che le richieste rimangono all’interno del perimetro dei dati AWS, non vengono condivise con il fornitore del modello né utilizzate per l’addestramento e beneficiano della conservazione nulla dei dati e dell’assenza di accesso da parte degli operatori. Gli utenti possono accedervi tramite la console o le API di Bedrock, incluse le API Responses e Chat Completions compatibili con OpenAI, attraverso profili di inferenza cross-Region globali e geografici statunitensi. L’articolo illustra inoltre le integrazioni con OpenCode e Hermes Agent e rimanda i lettori agli esempi, alla documentazione e alle informazioni sui prezzi di AWS.
aws