Ejecuta agentes privados y rápidos en el dispositivo con LFM2.5-24B-A2B
huggingface ·
LiquidAI ha lanzado LFM2.5-24B-A2B, un modelo de razonamiento de 24 mil millones de parámetros diseñado para la ejecución rápida y privada de agentes en el dispositivo. A pesar de su gran tamaño, el modelo utiliza una arquitectura de Mezcla de Expertos que activa solo 2 mil millones de parámetros por token, lo que reduce significativamente los costos de inferencia. La actualización incluye una ventana de contexto ampliada de 131K tokens y un vocabulario duplicado para mejorar el manejo de idiomas no latinos. El entrenamiento implicó escalar los datos de preentrenamiento a aproximadamente 33 billones de tokens e incorporar un postentrenamiento en múltiples etapas centrado en tareas agénticas. Las evaluaciones muestran que el modelo supera a competidores más grandes como Qwen3.6-35B-A3B en el uso de herramientas y el seguimiento de instrucciones, obteniendo especialmente una puntuación de 48.09 en LiveClaw. Las velocidades de inferencia son altamente eficientes, alcanzando 184 tokens por segundo en hardware Apple M5 Max y más de 21.000 tokens por segundo en GPUs NVIDIA B300. El modelo es de peso abierto y compatible con los principales ecosistemas de inferencia, incluidos llama.cpp, MLX y vLLM. Los usuarios pueden integrarlo en arneses de agentes locales como Hermes Agent o OpenClaw para una implementación confiable en el borde.
huggingface