Langfristige Agenten mit Grok 4.7 auf Amazon Bedrock erstellen
aws ·
SpaceXAI’s Grok 4.7 ist nun auf Amazon Bedrock verfügbar und bietet verbesserte Funktionen zum Aufbau von Long-Horizon-Agenten, die anhaltendes reasoning und Selbstverifikation erfordern. Das Modell verfügt über eine konfigurierbare Einstellung für den Reasoning-Effort mit vier Stufen, die es Entwicklern ermöglicht, einen Ausgleich zwischen Gründlichkeit und Token-Kosten zu finden. AWS hat das Modell anhand von drei komplexen Aufgaben bewertet, die Fehlersuche, Wartungsplanung und Migrationsoptimierung umfassten und allesamt Suche statt einfacher Abfragen erforderten. In 72 Durchläufen erreichte der Agent eine Erfolgsquote von 93 %, wobei bei der höchsten Reasoning-Effort-Stufe (xhigh) perfekte Genauigkeit erzielt wurde. Während xhigh die Korrektheit sicherstellte, bot die niedrige Effort-Stufe eine erhebliche Kosteneffizienz, da sie nur ein Achtel der Ausgabetokens verwendete und dabei hohe Zuverlässigkeit bewahrte. Der Artikel bietet detaillierte Anleitungen zum Zugriff auf das Modell über cross-Region-Inferenzprofile sowie zur Implementierung robuster Agent-Schleifen mit Tool-Calling. Zudem werden Best Practices für die Überwachung der Produktionsleistung dargelegt, indem Ausgabetokens und Tool-Aufrufe als Indikatoren für das Reasoning-Volumen verfolgt werden. Abschließend wird empfohlen, den Reasoning-Effort an die Komplexität der Aufgabe anzupassen und die Leistung auf benutzerdefinierten Workloads zu messen, um sowohl Qualität als auch Kosten zu optimieren.
aws