Wie Postman den Agentenmodus für 40 Millionen Entwickler auf Amazon Bedrock betreibt
aws ·
Postman hat den Agent Mode für seine 40 Millionen Entwickler erfolgreich auf Amazon Bedrock bereitgestellt und dabei die komplexen ingenieurtechnischen Herausforderungen der Integration von KI in ein ausgereiftes Produkt bewältigt. Das Team stellte fest, dass das Management von Tool-Sprawl entscheidend ist; es wurde eine dynamische Tool-Auswahl implementiert, um die Sicht des Modells auf nur relevante Tools zu beschränken und fehleranfällige große Tool-Sets zu reduzieren. Zur Steigerung der Effizienz wechselte Postman von der Erstellung zahlreicher einzelner Tools zur Bereitstellung eines schemabasierten Lesezugriffs, der es dem Agent ermöglicht, strukturierte Daten direkt über SQL-ähnliche Befehle abzufragen. Das Kontextmanagement erwies sich als primärer Engpass, woraufhin eigens entwickelte Kontexthandler geschaffen wurden, die Entitätsinformationen verdichten, anstatt interfacespezifische Datenmodelle zu serialisieren. Auf Infrastrukturebene bietet Amazon Bedrock wesentliche Funktionen wie Modellflexibilität innerhalb der Claude-Familie, regionenübergreifende Inferenz zur Bewältigung von Verkehrsspitzen sowie gestaffeltes Prompt-Caching zur Optimierung von Latenz und Kosten. Die Unternehmenssicherheit wird durch geografische Inferenzprofile und Einstellungen zur Null-Datenaufbewahrung gewährleistet, was die Einhaltung strenger Datenschutzauflagen sicherstellt. Diese architektonischen Muster zeigen, wie Teams Produktions-Agenten über Prototypen hinausbringen können, indem sie Kontext und Tool-Exposition als knappe Ressourcen behandeln. Letztlich unterstreicht die Lösung die Bedeutung der Entkopplung von Agent-Aktionen und UI-Zustand sowie die Aufrechterhaltung einer robusten Wissensdatenbank auf Basis von Retrieval-Augmented Generation.
aws