Costruire agenti a lungo raggio con Grok 4.7 su Amazon Bedrock
aws ·
Grok 4.7 di SpaceXAI è ora disponibile su Amazon Bedrock, offrendo funzionalità migliorate per la creazione di agenti a lungo termine che richiedono ragionamento sostenuto e auto-verifica. Il modello dispone di un'impostazione configurabile dello sforzo di ragionamento con quattro livelli, consentendo agli sviluppatori di bilanciare l'approfondimento rispetto ai costi dei token. AWS ha valutato il modello utilizzando tre compiti complessi che coinvolgono diagnosi dei guasti, pianificazione della manutenzione e ottimizzazione delle migrazioni, tutti richiedendo ricerca anziché semplice consultazione. In 72 esecuzioni, l'agente ha raggiunto un tasso di successo del 93%, con accuratezza perfetta al livello più alto di sforzo di ragionamento (xhigh). Sebbene xhigh abbia garantito la correttezza, il livello di sforzo ridotto ha fornito una significativa efficienza dei costi, utilizzando solo un ottavo dei token di output mantenendo un'elevata affidabilità. L'articolo fornisce indicazioni dettagliate sull'accesso al modello tramite profili di inferenza cross-Region e sull'implementazione di loop di agenti robusti con chiamata di strumenti. Definisce inoltre le migliori pratiche per il monitoraggio delle prestazioni in produzione tracciando i token di output e le chiamate agli strumenti come indicatori del volume di ragionamento. Infine, consiglia di abbinare lo sforzo di ragionamento alla complessità del compito ed enfatizza la misurazione delle prestazioni su carichi di lavoro personalizzati per ottimizzare sia la qualità che il costo.
aws