Modelle mit Amazon SageMaker JumpStart bereitstellen und auswerten
aws ·
Dieser Artikel beschreibt einen Workflow zum Bereitstellen und Bewerten von Machine-Learning-Modellen mit Amazon SageMaker JumpStart. Dabei werden die neuesten Verbesserungen aus dem Jahr 2026 hervorgehoben, darunter eine verbesserte Modellsuche im Model Hub und die Ein-Klick-Bereitstellung von Hugging Face. Die vorgeschlagene Lösung nutzt ein wiederverwendbares Python-Skript, um Modelle über die SageMaker Python SDK zu entdecken, bereitzustellen, zu testen und aufzuräumen. Nutzer können den Katalog durchsuchen oder Modelle programmatisch filtern, bevor sie diese mit vorkonfigurierten Endpunktoptionen bereitstellen, die für spezifische Prioritäten wie Latenz oder Kosten optimiert sind. In der Evaluierungsphase werden Beispiel-Prompts ausgeführt, um wichtige Leistungskennzahlen wie Latenz, Ausgabelänge und Generierungsrate zu messen. Der Prozess endet schließlich mit dem Löschen des Endpunkts, um die Ressourcenbereinigung sicherzustellen. Dieses wiederholbare Muster ermöglicht es Entwicklern, verschiedene Modelle hinsichtlich Qualität, Geschwindigkeit und Kosteneffizienz zu vergleichen.
aws