Modell-Releases Open Source 12. Okt. 2026· Quelle: Hugging Face Trending

LFM2.5-24B-A2B: Liquid AIs MoE-Reasoning-Modell für Edge-Agenten

Liquid AI veröffentlicht mit LFM2.5-24B-A2B ein MoE-Modell mit 24B Gesamt- und nur 2B aktiven Parametern, das für schnelle lokale Agenten gedacht ist.

Worum es geht

Liquid AI hat LFM2.5-24B-A2B veröffentlicht, das größte und letzte Modell der LFM2.5-Familie. Es ist ein Reasoning-Modell mit Mixture-of-Experts-Architektur, das für schnelle, private Agenten auf dem eigenen Gerät gebaut ist.

Die wichtigsten Fakten

  • 24B Parameter gesamt, ca. 2,45B aktiv; 64 Experten pro MoE-Block, Top-4-Routing.
  • 40 Layer: 30 gated Short-Convolution-Blöcke und 10 GQA-Blöcke.
  • Training mit 36 Billionen Tokens, Kontext 131.072 Tokens, 16 Sprachen.
  • Denkt immer vor der Antwort (Reasoning).
  • Laut Hersteller 48,09 auf LiveClaw gegenüber 38,19 für Qwen3.6-35B-A3B.
  • Geschwindigkeit: 184 tok/s auf Apple M5 Max, bis 21K Output-tok/s auf einer NVIDIA B300.
  • Varianten: Base, FP8, GGUF, ONNX, MLX-4bit. Lizenz: "other".

Einordnung

Dank nur 2B aktiver Parameter ist das Modell für lokale Nutzung attraktiv, auch wenn der Speicher für alle 24B Gewichte reichen muss (4-bit grob 14 GB). GGUF-Varianten erleichtern den Einsatz mit llama.cpp. Die Benchmarkvergleiche stammen vom Hersteller und sollten unabhängig geprüft werden.

#liquid-ai#moe#reasoning#edge#agenten

Originalquelle lesen ↗

🧪 Selbst ausprobieren: LFM2.5-24B-A2B

Hugging FaceLiquidAI/LFM2.5-24B-A2B
Größe24.0 Mrd. Parameter
VRAM (4-bit, geschätzt)~15.9 GB
Lizenzother
Typtext · text-generation

⚡ Schnellster Weg (Ollama, alle Systeme)

ollama run hf.co/LiquidAI/LFM2.5-24B-A2B-GGUF

☁️ Google Colab

Notebook herunterladen
  1. colab.research.google.com öffnen
  2. Datei → Notebook hochladen → colab.ipynb
  3. Laufzeit → Laufzeittyp ändern → GPU (T4)
  4. Laufzeit → Alle ausführen

🐧 Linux

try_linux.sh demo.py
bash try_linux.sh
MODE=hf bash try_linux.sh

🍎 macOS

try_mac.sh demo.py
bash try_mac.sh

🪟 Windows

try_windows.ps1 demo.py
powershell -ExecutionPolicy Bypass -File try_windows.ps1

Die Skripte sind automatisch erzeugt. Vor dem Ausführen kurz reinschauen – und die Model Card lesen, manche Modelle brauchen spezielle Versionen.