通过跨区域推理从加拿大访问Amazon Bedrock上的OpenAI GPT模型
aws ·
AWS已启用加拿大组织通过Amazon Bedrock使用跨区域推理（CRIS）访问OpenAI GPT-5.6、GPT-6和GPT-6.1模型。该功能允许源自加拿大（中部）和加拿大西部（卡尔加里）区域的处理请求被路由至美国或其他全球区域进行处理，从而在需求激增时扩展容量。用户可以选择“美国地理”配置文件，将推理保留在北美境内，或选择“全球”配置文件，以利用更广泛的容量池。文章提供了关于设置IAM权限、为数据驻留配置服务控制策略（SCP），以及通过OpenAI Responses API、Chat Completions API和Amazon Bedrock Converse API调用模型的详细指导。此外，还涵盖了用于降低成本的提示缓存、每分钟令牌配额管理，以及CloudTrail和CloudWatch等可观测性工具等实用方面。安全措施确保数据在传输中和在源区域静态存储时均保持加密状态，并特别说明了目标区域中内容审核数据的保留情况。最后，该帖子概述了监控使用情况、申请配额增加以及清理测试资源以避免产生不必要费用的步骤。
aws