Accès aux modèles OpenAI GPT sur Amazon Bedrock depuis le Canada avec l'inférence inter-régions
aws ·
AWS a permis aux organisations canadiennes d'accéder aux modèles OpenAI GPT-5.6, GPT-6 et GPT-6.1 via Amazon Bedrock en utilisant l'inférence inter-régions (CRIS). Cette fonctionnalité permet de router les requêtes provenant des régions Canada (Central) et Canada Ouest (Calgary) vers des régions américaines ou d'autres régions mondiales pour le traitement, élargissant ainsi la capacité lors des pics de demande. Les utilisateurs peuvent choisir entre des profils « géographiques américains », qui maintiennent l'inférence en Amérique du Nord, et des profils « globaux » qui puisent dans un pool de capacité plus large. L'article fournit des directives détaillées sur la configuration des autorisations IAM, la définition de politiques de contrôle de service pour la résidence des données, et l'appel des modèles via l'API OpenAI Responses, l'API Chat Completions et l'API Converse d'Amazon Bedrock. Il couvre également des aspects pratiques tels que la mise en cache des invites pour réduire les coûts, la gestion des quotas de jetons par minute, et les outils d'observabilité comme CloudTrail et CloudWatch. Les mesures de sécurité garantissent que les données restent chiffrées en transit et au repos dans la région source, avec des notes spécifiques concernant la rétention de la modération de contenu dans les régions de destination. Enfin, le billet décrit les étapes pour surveiller l'utilisation, demander des augmentations de quota et nettoyer les ressources de test afin d'éviter des frais inutiles.
aws