Amazon Bedrock amplia la disponibilità dei modelli Claude per l'inferenza locale in India
aws ·
Amazon Bedrock ha ampliato la disponibilità dei modelli Claude Opus 5, Claude Sonnet 5 e Claude Haiku 4.5 di Anthropic per abilitare l'inferenza all'interno del territorio indiano. Questa nuova funzionalità utilizza l'inferenza geografica cross-Region, consentendo ai clienti di elaborare i dati localmente tramite endpoint nelle regioni di Mumbai e Hyderabad. Instradando le richieste esclusivamente tra queste due regioni indiane, AWS aiuta le organizzazioni a soddisfare i requisiti locali di residenza dei dati mantenendo al contempo un'elevata capacità di elaborazione e prestazioni coerenti durante i picchi di traffico. Il servizio garantisce che gli input (prompt) e i risultati restino all'interno dell'India, sfruttando la crittografia end-to-end per i dati in transito senza memorizzare i dati dei clienti nelle regioni di destinazione. Gli utenti possono accedere a questi modelli tramite la console playground di Amazon Bedrock o programmaticamente utilizzando l'Anthropic Messages API, l'InvokeModel API e la Converse API. L'implementazione richiede prerequisiti specifici, tra cui un account AWS attivo, una CLI configurata e SDK necessari come Boto3 e il pacchetto Python di Anthropic. Strumenti di monitoraggio come CloudWatch e AWS Cost Explorer sono disponibili per tracciare l'utilizzo, le prestazioni e i costi associati a queste applicazioni di intelligenza artificiale generativa.
aws