LLM Hub: Gratis-App bringt Chat, Video, Musik und Stimmklon offline aufs Handy

Worum es geht

Das mexikanische Tech-Portal OneDigital stellt LLM Hub vor, eine kostenlose App für Android und iOS, die zahlreiche KI-Funktionen vollständig auf dem Smartphone ausführt. Entwickelt wird sie von Timmy Qian, der Quellcode liegt auf GitHub im Repository timmyy123/LLM-Hub. Die App ist laut Bericht über Google Play und den App Store erhältlich. Neu hinzugekommen ist LLM Hub Desktop 0.1.3 für Windows, macOS und Linux.

Das Versprechen der App lässt sich in drei Regeln zusammenfassen: keine Datensammlung, keine Benutzerkonten, kein Tracking. Alle Berechnungen laufen auf dem Gerät selbst, nichts geht in die Cloud.

Mehr als nur ein Chatbot

Die meisten Apps für lokale KI beschränken sich darauf, ein heruntergeladenes Sprachmodell zum Chatten anzubieten. LLM Hub bündelt dagegen über 15 Werkzeuge in einer Anwendung:

• Chat mit RAG-Gedächtnis – das Modell kann in eigenen Dokumenten nachschlagen, bevor es antwortet – und Websuche
• Autonomer Agent mit Funktionsaufrufen
• Bildgenerator auf Basis von Stable Diffusion 1.5
• Video- und Musikgenerator
• Transkription mit Whisper (Android) bzw. whisper.cpp (iOS)
• Offline-Übersetzer für mehr als 50 Sprachen
• Betrugserkennung und Foto-/Videosuche per Beschreibung

Die Bedienoberfläche gibt es in 17 Sprachen. Modelle lassen sich in den Formaten .task, .litertlm, qnn, .mnn und .gguf importieren, Downloads kommen direkt von Hugging Face.

Video auf dem Handy: von 25 Sekunden bis 20 Minuten

Das auffälligste Feature ist die Videogenerierung. Auf Android verwendet LLM Hub das Modell LTX-Video 2B 0.9.8 distilled von Lightricks – eine abgespeckte Version, die mit nur 8 Entrauschungsschritten auskommt. (Videomodelle dieser Art starten mit zufälligem Bildrauschen und verfeinern es Schritt für Schritt zum fertigen Bild; weniger Schritte heißt schneller.) Als Vorlage dient ein Text oder ein Startbild.

Auf Snapdragon-Chips mit Hexagon-NPU – einem Spezialprozessor für KI-Berechnungen – laufen die Kernbausteine des Modells als eigens kompilierte Programme, getrennt für die Chipgenerationen v69, v73, v75, v79 und v81. Für NPUs ohne Unterstützung für 16-Bit-Gleitkommazahlen gibt es eine Ganzzahl-Variante. Auf Geräten ohne passende NPU laufen GGUF-Modelle in den Quantisierungsstufen Q4_0 oder Q8_0 – also verkleinerte Versionen, deren Zahlen gröber gespeichert sind – über stable-diffusion.cpp auf der Grafikeinheit (via Vulkan) oder direkt auf dem Hauptprozessor.

Die Unterschiede sind gewaltig:

OneDigital rechnet vor, dass die Leistung zwischen bestem und schlechtestem dokumentierten Fall fast um den Faktor 50 schwankt. Auf iOS kommt für Videos stattdessen Stable Video Diffusion zum Einsatz.

Ein Agent, der das Handy bedient

Der autonome Agent auf Android kann echte Aktionen auf dem Gerät ausführen: interaktive OpenStreetMap-Karten anzeigen, Kalender verwalten, Wecker stellen, die Taschenlampe schalten, SMS und Mails verfassen, kryptografische Prüfsummen berechnen und rechnen. Zusätzlich verbindet er sich mit MCP-Servern – einem offenen Standard, über den KI-Assistenten an externe Werkzeuge wie Dateizugriff, Suche oder Gedächtnis andocken. Jeder einzelne Aufruf muss laut Bericht vom Nutzer genehmigt werden.

Besonders ungewöhnlich ist die Anbindung an Termux, eine Linux-Kommandozeile für Android. Der Agent formuliert Shell-Befehle, zeigt sie in einem Editor zur Prüfung an und streamt die Ausgabe live in ein Terminal. Schlägt ein Befehl fehl, gibt eine Selbstkorrektur-Schleife die Fehlermeldung an das Modell zurück, das dann einen Reparaturbefehl vorschlägt. Im Modus „Vibe Coder“ verbindet sich das lokale Modell mit einem in Termux laufenden Codex-Server – ohne OpenAI-Anmeldung. Voraussetzung sind ein ARM64-Gerät und Android 10 oder neuer.

Stimme, Musik und Mediensuche

Für die Sprachausgabe bietet Android drei Engines: Kokoro für lokale Sprachausgabe, das mehrsprachige Supertonic 3 mit Import von Stimmprofilen sowie Pocket TTS, das eine Stimme vollständig lokal aus 3 bis 30 Sekunden Referenzaudio klont. Auf iOS erzeugt Magenta Realtime 2 Musik, die man schon während der Generierung hört; ein Endlosmodus nimmt auf, bis man auf Stopp drückt.

Auch die Mediensuche läuft lokal: EmbeddingGemma 2 indexiert Fotos und Videos auf dem Gerät, sodass man sie per Beschreibung oder Beispielbild findet. Eine Szenensuche für Videos kombiniert Einzelbilder und Ton aus Zwei-Sekunden-Abschnitten, um direkt zur gesuchten Stelle zu springen.

Die Desktop-Version

LLM Hub Desktop 0.1.3 gibt es als native App für Windows (x64 und Arm), für macOS mit Apple Silicon (signiert und notarisiert) sowie für Linux als .deb-Paket und AppImage. Neben dem Chat mit lokalen Modellen lassen sich darüber Claude Code und OpenClaw mit lokalen Modellen betreiben, Anweisungen in Folien und Webseiten verwandeln und OpenAI- sowie Anthropic-kompatible Schnittstellen bereitstellen. Andere Programme auf dem Rechner können so die lokale KI nutzen, als wäre sie ein Cloud-Dienst. Der Windows-Installer ist laut OneDigital noch nicht signiert, weshalb Windows eine Schutzwarnung anzeigt; das Projekt signiert seine Builds aber bereits über SignPath.

Was du zum Ausprobieren brauchst

Für die Handy-App reicht ein aktuelles Android- oder iOS-Gerät; für Termux- und Codex-Funktionen braucht es ARM64 und mindestens Android 10. Wer Videos in brauchbarer Zeit erzeugen will, sollte ein Gerät mit neuerem Snapdragon-Chip und Hexagon-NPU haben – auf anderen Chips sind Minuten bis zu einer Viertelstunde und mehr pro Clip normal. Konkrete Angaben zu Arbeitsspeicher oder Speicherplatz macht der Bericht nicht; da Modelle heruntergeladen werden, sollte man aber einige Gigabyte freien Speicher einplanen. Manche Modelle von Google und Meta erfordern, dass man vorher deren Lizenz auf Hugging Face akzeptiert. Die Desktop-Version läuft auf Windows, Macs mit Apple Silicon und Linux.

Einordnung

OneDigital bezeichnet LLM Hub als die wohl umfassendste kostenlose App für lokale KI in den offiziellen App-Stores – ein Urteil, das angesichts des Funktionsumfangs nachvollziehbar ist, aber nicht durch Vergleichstests belegt wird. Bemerkenswert ist vor allem, dass Videogenerierung und Stimmklonen inzwischen auf einem normalen Smartphone ohne Internetverbindung funktionieren.

Zwei Punkte dämpfen die Begeisterung. Erstens die Lizenz: PolyForm Noncommercial 1.0.0 erlaubt Nutzen, Studieren und Weiterentwickeln, aber Verbreiten, Verkaufen oder Monetarisieren per Werbung oder In-App-Käufen nur mit schriftlicher Erlaubnis des Autors. Streng genommen ist LLM Hub damit nicht „Open Source“ im klassischen Sinn, sondern quelloffen mit Einschränkungen. Zweitens die stark schwankende Leistung, die auf vielen Geräten viel Geduld verlangt. Für ernsthafte Videoarbeit ersetzt die App keinen Rechner mit leistungsfähiger Grafikkarte. Die Roadmap verspricht einen erweiterten Vibe Coder mit IDE-Anbindung und einen Agenten für mehrstufige Aufgaben – ohne Termin. Als privates KI-Labor für die Hosentasche ist LLM Hub dennoch ein spannendes Projekt.