Acesso aos modelos OpenAI GPT no Amazon Bedrock do Canadá com inferência entre regiões
aws ·
A AWS habilitou organizações canadenses a acessar os modelos OpenAI GPT-5.6, GPT-6 e GPT-6.1 por meio do Amazon Bedrock, utilizando inferência entre regiões (CRIS). Esse recurso permite que solicitações originadas nas regiões Canada (Central) e Canada West (Calgary) sejam roteadas para os EUA ou outras regiões globais para processamento, ampliando a capacidade durante picos de demanda. Os usuários podem escolher entre perfis 'Geográficos dos EUA', que mantêm a inferência dentro da América do Norte, e perfis 'Globais', que utilizam um pool de capacidade mais amplo. O artigo fornece orientações detalhadas sobre a configuração de permissões IAM, o ajuste de Políticas de Controle de Serviço para residência de dados e a invocação de modelos por meio da API OpenAI Responses, da API Chat Completions e da API Converse do Amazon Bedrock. Também aborda aspectos práticos, como armazenamento em cache de prompts para redução de custos, gerenciamento de cotas de tokens por minuto e ferramentas de observabilidade, como CloudTrail e CloudWatch. As medidas de segurança garantem que os dados permaneçam criptografados em trânsito e em repouso na região de origem, com notas específicas sobre a retenção da moderação de conteúdo nas regiões de destino. Por fim, o post descreve etapas para monitorar o uso, solicitar aumentos de cota e limpar recursos de teste para evitar cobranças desnecessárias.
aws