AnyLanguageModel 1.0: Ein Jahr lokale Modelle auf Apple-Plattformen
huggingface ·
Hugging Face hat AnyLanguageModel 1.0 veröffentlicht, ein Swift-Paket, das eine nahtlos kompatible API für Apple-Plattformen bereitstellt und es Entwicklern ermöglicht, einfach zwischen lokalen und gehosteten Inferenz-Anbietern zu wechseln. Dieses Update folgt einem Jahr der Entwicklung, das auf Feedback von App-Entwicklern basiert, die die Integration lokaler Modelle vereinfachen möchten, ohne sich mit den Komplexitäten mehrerer Inferenzsysteme auseinandersetzen zu müssen. Die neue Version unterstützt Tool-Aufrufe, geführte Generierung und Bildanhänge über alle Anbieter hinweg, einschließlich Open-Weight-Modelle über llama.cpp, MLX und Core ML. Die Unterstützung für gehostete Modelle wurde erheblich erweitert und umfasst nun OpenAI, Anthropic, Google Gemini, Ollama und Hugging Face Inference Providers, was die Nutzung großer Modelle wie GPT-OSS-120B über Cloud-Endpunkte ermöglicht. Die Fähigkeiten lokaler Modelle wurden ebenfalls verbessert, mit beliebten Downloads wie Gemma 4 E2B und Qwen3.8 27B, die für verschiedene Hardwarebeschränkungen optimiert sind, von iPhones bis hin zu Mac Studios. Die Veröffentlichung fällt zusammen mit swift-huggingface 1.0 und swift-xet 1.0, die Modell-Downloads vom Hub direkt in Swift-Anwendungen beschleunigen. Entwickler können bestehende Apps jetzt mithilfe der Migrationsanleitungen in den Release Notes aktualisieren, während zukünftige Updates versprechen, diesen einheitlichen Ansatz auf Entscheidungsfindungs- und Audio-Hörmodelle auszuweiten.
huggingface