Führen Sie schnelle, private Agenten geräteintern mit LFM2.5-24B-A2B aus
huggingface ·
LiquidAI hat LFM2.5-24B-A2B veröffentlicht, ein reasoning-Modell mit 24 Milliarden Parametern, das für schnelle und private On-Device-Agent-Ausführung konzipiert ist. Trotz seiner großen Größe nutzt das Modell eine Mixture-of-Experts-Architektur, die pro Token nur 2 Milliarden Parameter aktiviert, was die Inferenzkosten erheblich senkt. Das Update verfügt über einen erweiterten Kontextfenster von 131K Tokens und einen verdoppelten Wortschatz zur Verbesserung der Verarbeitung nicht-lateinischer Sprachen. Das Training umfasste die Skalierung der Pretraining-Daten auf etwa 33 Billionen Tokens sowie mehrstufiges Post-Training, das sich auf agentische Aufgaben konzentrierte. Benchmarks zeigen, dass das Modell größere Konkurrenten wie Qwen3.6-35B-A3B bei der Werkzeugnutzung und der Befehlsausführung übertrifft, wobei es auf LiveClaw eine Punktzahl von 48,09 erreichte. Die Inferenzgeschwindigkeiten sind sehr effizient: Auf Apple M5 Max Hardware werden 184 Tokens pro Sekundegereicht, auf NVIDIA B300 GPUs sogar über 21.000 Tokens pro Sekunde. Das Modell ist open-weight und kompatibel mit wichtigen Inferenz-Ökosystemen wie llama.cpp, MLX und vLLM. Nutzer können es in lokale Agent-Harnesses wie Hermes Agent oder OpenClaw integrieren, um eine zuverlässige Edge-Bereitstellung zu gewährleisten.
huggingface