Neue Möglichkeiten zur Anpassung von Modellen mit SageMaker AI ohne GPU-Verwaltung
aws ·
AWS hat die allgemeine Verfügbarkeit von serverlosen SageMaker AI-Sitzungen zur Modellanpassung bekannt gegeben, die es Entwicklern ermöglichen, Modelle zu optimieren, ohne GPU-Infrastruktur verwalten zu müssen. Diese neue Funktion ermöglicht es Nutzern, eigene Post-Training-Schleifen zu schreiben und zu koordinieren, einschließlich benutzerdefinierter Verlustfunktionen und Belohnungssignale, während AWS die verteilte Ausführung und Fehlerwiederherstellung übernimmt. Kunden können verschiedene Techniken wie SFT, DPO, RLVR und mehrstufiges Reinforcement Learning mit voller Kontrolle über den Trainingsprozess nutzen. Der Dienst unterstützt bestimmte Open-Weight-Modelle, darunter gpt-oss-20b, gemma-4-31B-it und Qwen-Varianten. Die Nutzer behalten das Eigentum an ihren Daten und Modellen, die in ihren eigenen S3-Buckets verbleiben und nicht zum Trainieren anderer Modelle verwendet werden. Die Implementierung wird durch das SageMaker Python SDK oder direkt in SageMaker Studio mithilfe integrierter Coding-Agents erleichtert. Erste Anwender aus dem Gesundheitswesen und der KI-Branche haben die Plattform für ihre feinkörnige Kontrolle und operationale Einfachheit gelobt.
aws