Accesso ai modelli OpenAI GPT su Amazon Bedrock dal Canada con inferenza cross-Region
aws ·
AWS ha consentito alle organizzazioni canadesi di accedere ai modelli OpenAI GPT-5.6, GPT-6 e GPT-6.1 tramite Amazon Bedrock utilizzando l'inferenza cross-Region (CRIS). Questa funzionalità permette di instradare le richieste provenienti dalle regioni Canada (Central) e Canada West (Calgary) verso gli Stati Uniti o altre regioni globali per l'elaborazione, ampliando così la capacità durante i picchi di domanda. Gli utenti possono scegliere tra profili 'Geografici US', che mantengono l'inferenza all'interno del Nord America, e profili 'Globali', che attingono a un pool di capacità più ampio. L'articolo fornisce indicazioni dettagliate sulla configurazione delle autorizzazioni IAM, sull'impostazione delle Policy di controllo dei servizi (Service Control Policies) per la residenza dei dati e sull'invocazione dei modelli tramite le API OpenAI Responses, Chat Completions e Amazon Bedrock Converse. Vengono inoltre trattati aspetti pratici come la cache dei prompt per ridurre i costi, la gestione delle quote per i token al minuto e gli strumenti di osservabilità quali CloudTrail e CloudWatch. Le misure di sicurezza garantiscono che i dati rimangano crittografati sia in transito che a riposo nella regione di origine, con note specifiche sulla conservazione della moderazione dei contenuti nelle regioni di destinazione. Infine, il post illustra i passaggi per monitorare l'utilizzo, richiedere aumenti delle quote e pulire le risorse di test per evitare addebiti non necessari.
aws