LFM3 von Liquid AI: Kleine 2B-Modelle laufen per WebGPU im Browser

Worum es geht

Das Unternehmen Liquid AI hat auf Hugging Face, der größten Plattform für frei verfügbare KI-Modelle, eine Sammlung namens LFM3 veröffentlicht. Sie enthält Basismodelle und nachtrainierte Varianten (post-trained, also für Aufgaben wie Dialoge oder Bildbeschreibung feinjustiert). Auf Reddit, im Forum r/LocalLLaMA, wurde die Sammlung zusammen mit einer Demo vorgestellt: Das Modell LFM3-VL-2B beschreibt Videos in Echtzeit und läuft dabei komplett lokal im Webbrowser. Die Demo stammt vom Nutzer xenovatech, hinter dem Hugging-Face-Entwickler Xenova steht, der für Browser-KI bekannt ist. Dieser Zuordnung liegt nur der Nutzername zugrunde; die Quelle erklärt sie nicht weiter.

Die Quelle ist eine Modellübersicht und ein Forenbeitrag. Ausführliche technische Details, Benchmarks oder Lizenzangaben stehen darin nicht. Der Artikel beschränkt sich deshalb auf das, was belegt ist.

Die Modelle der Sammlung

Alle aufgeführten Modelle sind etwa 2 Milliarden Parameter groß. Parameter sind grob gesagt die Stellschrauben, die ein Modell beim Training gelernt hat. 2 Milliarden gelten heute als sehr klein, solche Modelle passen auf Laptops, Smartphones und eben in einen Browser.

In der Liste steht außerdem ein weiterer Textgenerierungs-Eintrag mit 2B, dessen Name im Auszug fehlt. Am beliebtesten sind laut Anzeige LFM3-1.7B (rund 6.310 Downloads, 127 Likes) und LFM3-VL-2B (255 Downloads, 52 Likes). Diese Zahlen sind nur eine Momentaufnahme. „Any-to-Any“ bedeutet, dass ein Modell mehrere Arten von Eingaben (etwa Text, Bild, Ton) verarbeiten und mehrere Arten von Ausgaben erzeugen kann. Was genau LFM3-Audio und LFM3-Omni jeweils können und wie sich „d1“ von „LFM3“ unterscheidet, geht aus der Quelle nicht hervor.

Viele Formate für viele Geräte

Auffällig ist die Zahl der Formate, in denen die Modelle bereitgestellt werden:

• GGUF: Format für llama.cpp und darauf aufbauende Programme, auch auf CPU nutzbar.
• ONNX: Offenes Austauschformat, das etwa Browser-Laufzeiten wie Transformers.js nutzen können.
• MLX: Für Apple-Silicon-Macs (M-Chips).
• FP8 und NVFP4: Stark komprimierte Zahlenformate für moderne Nvidia-Grafikkarten. Sie sparen Speicher und beschleunigen die Berechnung. Diese beiden Formate nennt die Quelle für LFM3-1.7B und LFM3-VL-2B.

Liquid AI bedient damit Handy-, Mac-, PC- und Browser-Nutzer gleichzeitig.

Die Browser-Demo

Die Demo läuft über WebGPU. Das ist eine Browser-Schnittstelle, die Webseiten Zugriff auf die Grafikkarte gibt. So kann ein Modell auf dem eigenen Gerät rechnen, ohne dass Bilder an einen Server geschickt werden. Gezeigt wird Video-Captioning in Echtzeit: Die Kamera- oder Videobilder werden laufend vom Modell beschrieben. Die Demo liegt als Hugging-Face-Space der Gruppe „webml-community“ vor und lässt sich direkt im Browser öffnen. Die Quelle nennt keine Bildrate, keine Anforderungen an die Grafikkarte und keine Messwerte. Wie flüssig es läuft, hängt also vom eigenen Gerät ab.

Was du zum Ausprobieren brauchst

• Browser-Demo: Ein aktueller Browser mit WebGPU-Unterstützung und eine halbwegs moderne Grafikeinheit. Der Download des Modells erfolgt beim ersten Start; die Größe nennt die Quelle nicht.
• Lokal als Programm: Bei 2 Milliarden Parametern und 4-bit-Quantisierung genügen grob 2 bis 3 GB Grafikspeicher. Das ist eine Schätzung, keine Herstellerangabe.
• Mac: Die MLX-Varianten sind für Apple Silicon gedacht.
• Ohne Grafikkarte: Die GGUF-Varianten sind grundsätzlich für den CPU-Betrieb geeignet.
• Speicherplatz: Für ein 2B-Modell sind wenige Gigabyte realistisch.

Einordnung

LFM3 passt in den Trend zu kleinen, effizienten Modellen, die lokal laufen. Die Demo ist ein anschaulicher Beleg, dass Bildverständnis mit 2 Milliarden Parametern im Browser praktikabel ist. Besonders interessant ist, dass Datenschutz hier nebenbei entsteht: Das Video verlässt das Gerät nicht.

Offen bleibt vieles. Die Quelle nennt keine Lizenz, keine Benchmarks und keinen Vergleich mit anderen kleinen Vision-Language-Modellen. Wie gut die Beschreibungen tatsächlich sind, lässt sich nur durch Ausprobieren prüfen. Wer die Modelle kommerziell einsetzen will, sollte vorher die Lizenz auf der jeweiligen Modellseite lesen. Auch der Blogpost von Liquid AI, auf den die Sammlung verweist, ist in der Quelle nicht wiedergegeben.