在 Amazon Bedrock 上使用 Grok 4.7 构建长周期智能体
aws ·
SpaceXAI的Grok 4.7现已在Amazon Bedrock上提供，具备增强能力，可用于构建需要持续推理和自我验证的长周期智能体。该模型配备可配置的推理力度设置，分为四个级别，使开发者能够在彻底性与令牌成本之间取得平衡。AWS通过三项涉及故障诊断、维护调度和迁移优化的复杂任务对该模型进行了评估，这些任务均需搜索而非简单查找。在72次运行中，智能体实现了93%的成功率，在最高推理力度（xhigh）下准确率完美。虽然xhigh确保了正确性，但低推理力度仅使用八分之一的输出令牌，同时保持了高可靠性，从而显著提升了成本效益。文章提供了通过跨区域推理配置文件访问该模型的详细指南，并介绍了如何使用工具调用实现稳健的智能体循环。此外，还概述了通过监控输出令牌和工具调用来追踪生产性能的最佳实践，以此作为推理量的指标。最后，文章建议将推理力度与任务复杂度相匹配，并强调在自定义工作负载上测量性能，以优化质量和成本。
aws