LFM2.5-24B-A2B: Liquid AIs MoE-Reasoning-Modell für Edge-Agenten
Liquid AI veröffentlicht mit LFM2.5-24B-A2B ein MoE-Modell mit 24B Gesamt- und nur 2B aktiven Parametern, das für schnelle lokale Agenten gedacht ist.
Worum es geht
Liquid AI hat LFM2.5-24B-A2B veröffentlicht, das größte und letzte Modell der LFM2.5-Familie. Es ist ein Reasoning-Modell mit Mixture-of-Experts-Architektur, das für schnelle, private Agenten auf dem eigenen Gerät gebaut ist.
Die wichtigsten Fakten
- 24B Parameter gesamt, ca. 2,45B aktiv; 64 Experten pro MoE-Block, Top-4-Routing.
- 40 Layer: 30 gated Short-Convolution-Blöcke und 10 GQA-Blöcke.
- Training mit 36 Billionen Tokens, Kontext 131.072 Tokens, 16 Sprachen.
- Denkt immer vor der Antwort (Reasoning).
- Laut Hersteller 48,09 auf LiveClaw gegenüber 38,19 für Qwen3.6-35B-A3B.
- Geschwindigkeit: 184 tok/s auf Apple M5 Max, bis 21K Output-tok/s auf einer NVIDIA B300.
- Varianten: Base, FP8, GGUF, ONNX, MLX-4bit. Lizenz: "other".
Einordnung
Dank nur 2B aktiver Parameter ist das Modell für lokale Nutzung attraktiv, auch wenn der Speicher für alle 24B Gewichte reichen muss (4-bit grob 14 GB). GGUF-Varianten erleichtern den Einsatz mit llama.cpp. Die Benchmarkvergleiche stammen vom Hersteller und sollten unabhängig geprüft werden.
🧪 Selbst ausprobieren: LFM2.5-24B-A2B
| Hugging Face | LiquidAI/LFM2.5-24B-A2B |
|---|---|
| Größe | 24.0 Mrd. Parameter |
| VRAM (4-bit, geschätzt) | ~15.9 GB |
| Lizenz | other |
| Typ | text · text-generation |
⚡ Schnellster Weg (Ollama, alle Systeme)
ollama run hf.co/LiquidAI/LFM2.5-24B-A2B-GGUF
☁️ Google Colab
Notebook herunterladen- colab.research.google.com öffnen
- Datei → Notebook hochladen →
colab.ipynb - Laufzeit → Laufzeittyp ändern → GPU (T4)
- Laufzeit → Alle ausführen
Die Skripte sind automatisch erzeugt. Vor dem Ausführen kurz reinschauen – und die Model Card lesen, manche Modelle brauchen spezielle Versionen.