Apresentando o Kimi K3 no Amazon Bedrock
aws ·
A AWS anuncia que o Kimi K3, da Moonshot AI, já está disponível no Amazon Bedrock para cargas de trabalho de programação e trabalho com conhecimento. A Moonshot AI o descreve como seu modelo mais capaz e o primeiro modelo aberto a alcançar 2,8 trilhões de parâmetros; ele combina visão nativa, uma janela de contexto de 1 milhão de tokens e uma eficiência de escalabilidade cerca de 2,5 vezes maior que a do Kimi K2. O Kimi K3 também é o primeiro modelo de pesos abertos no Bedrock a oferecer suporte ao armazenamento explícito em cache de prompts, o que pode reduzir a latência e os custos de tokens de entrada quando um contexto estável é reutilizado. A AWS afirma que as solicitações permanecem dentro do limite de dados da AWS, não são compartilhadas com o provedor do modelo nem usadas para treinamento, e se beneficiam de retenção zero de dados e acesso zero por parte dos operadores. Os usuários podem acessá-lo pelo console ou pelas APIs do Bedrock, incluindo as APIs Responses e Chat Completions compatíveis com a OpenAI, por meio de perfis globais e geográficos de inferência entre regiões nos EUA. O artigo também demonstra integrações com o OpenCode e o Hermes Agent e direciona os leitores para exemplos, documentação e informações sobre preços da AWS.
aws