KI-Bilder und -Videos offline auf dem Android-Handy: Was welcher Snapdragon schafft

Darum geht es

Noch vor einem Jahr war Stable Diffusion 1.5 das Höchste, was ein Handy offline an Bildern erzeugen konnte. Inzwischen bringen drei Hobby-Projekte deutlich größere Modelle auf Android-Smartphones: Local Dream von xororz, der daraus abgeleitete Ableger Nightmare Mobile von AbrahamPaulJ und das neue HexAnima von ayanoby. Gerechnet wird dabei auf der NPU, dem KI-Beschleuniger im Chip, der Matrizen schneller und sparsamer multipliziert als Prozessor oder Grafikeinheit. Bei Qualcomm heißt dieser Block Hexagon.

Der Anlass: HexAnima hat am 8. November mit Version 1.4.0 Qwen-Image 2.1 Turbo für Handys mit Snapdragon 8 Gen 1 aus dem Jahr 2022 nachgeliefert. Nightmare Mobile bietet inzwischen sogar Videomodelle wie Wan 2.2 14B und MiniMax H3 (Video mit Ton) an. Wir haben die Angaben aus READMEs, Release-Notes, Issues und Nutzerberichten zusammengetragen. Eigene Messungen haben wir nicht gemacht. Alle Zeiten stammen von den Entwicklern oder einzelnen Nutzern.

Welche App läuft auf welchem Chip

Entscheidend ist die Generation der Hexagon-NPU. Jede braucht eigens übersetzten Code. Die Zuordnung laut llama.cpp-Entwicklerdoku: V68 steckt im Snapdragon 888, V69 im 8 Gen 1/8+ Gen 1, V73 im 8 Gen 2, V75 im 8 Gen 3 und V79 im 8 Elite.

DiT steht für Diffusion Transformer, die Bauweise fast aller neuen Bildmodelle seit SD 1.5 und SDXL. Wichtig sind die Ausnahmen: Auf dem 8s Gen 3 und 8s Gen 4 schaltet Nightmare die Matrix-Einheit der NPU für DiT-Modelle ab, weil das Bild sonst „grau oder als Rauschen zurückkommt“. Die Bilder stimmen dann, dauern aber Minuten. Iris 3B Turbo liefert dort bei jeder getesteten Methode nur Rauschen.

So lange dauert ein Bild oder Clip

Bei den Videos gilt also: Wenige Sekunden in niedriger Auflösung brauchen fünf bis dreizehn Minuten. Das ist ein Experiment, kein Arbeitswerkzeug. Für 8-Gen-3-Handys hat Nightmare die MiniMax-H3-Zeiten laut Release 1.6.262 „noch nicht auf echter Hardware getestet“. Wan 2.2 14B liefert dort beim Bild-zu-Video laut Release 1.6.281 Rauschen, „noch nicht behoben“.

Wo sich die Angaben widersprechen

Der 8 Gen 1: HexAnima meldet auf dem 8+ Gen 1 Anima-Bilder in 7 Sekunden auf der NPU. Nightmare Mobile schreibt über denselben Chip:

Auf den Handys der Tester wurde die NPU dort nie mit einem DiT-Schritt fertig.

Deshalb rechnet Nightmare Anima dort auf der CPU, 15 bis 20 Minuten pro Bild. Das ist ein Unterschied um mehr als den Faktor 100. Unsere Einschätzung: Beides kann stimmen, weil es um zwei verschiedene Engines geht. HexAnima ist ausschließlich auf V69 zugeschnitten. Die Release-Notes erwähnen zum Beispiel eine eigene Korrektur bei der 8-Bit-Entpackung der Gewichte „auf V69“. Unabhängig bestätigt sind die HexAnima-Zahlen aber nicht. Der Entwickler hat nur auf einem 12-GB-Handy getestet und bittet auf Reddit selbst um Berichte von anderen Geräten.

„20B“ oder 7B? HexAnima schreibt von einem „20B transformer“. Laut offizieller Model Card hat der Bildteil von Qwen-Image 2.1 aber 7 Milliarden Parameter in 32 Schichten, dazu kommt der Text-Encoder Qwen3-VL-8B. Die 20B gehörten zum ersten Qwen-Image. Dass Local Dream die Qwen-2.1-Gewichte in FP8 als rund 7 GB große Datei ausliefert, passt zu 7B. Beeindruckend bleibt es trotzdem: Zusammen sind das rund 15 Milliarden Parameter auf einem Handy von 2022.

8 Elite: HexAnima hat die Unterstützung binnen zwei Tagen eingeführt und wieder zurückgezogen. Version 1.2.1 versprach 6 Sekunden pro Bild. In 1.2.2 kam der Rückzug: Auf einem Galaxy S25 war die Matrix-Einheit nach einem abgebrochenen Lauf zeitweise nicht verfügbar, und große Formate ergaben Rauschen. Bei Local Dream laufen die DiT-Modelle laut Release-Notes erst ab dem 8 Elite (SM8750), Nightmare verspricht einige davon schon ab dem 8 Gen 2. Eine Rolle spielt auch, dass die Qualcomm-Doku allen Generationen ab V68 die Matrix-Einheit HMX zuschreibt. Woran es auf einzelnen Chips trotzdem hakt, ist öffentlich nicht geklärt.

Der Speicher-Trick: 14 GB Modell, 1,2 GB RAM

Wie passt ein Modell mit vielen Gigabyte in ein Handy, das sich den Arbeitsspeicher mit Android teilt? Die Apps zerlegen es in Blöcke und laden diese der Reihe nach vom Flash-Speicher. Das nennt man Weight-Streaming. HexAnima liest bei Qwen-Image die rund 14 GB „für jedes Bild“ neu ein, der RAM-Verbrauch bleibt dabei bei etwa 1,2 GB. Nightmare streamt MiniMax H3 grundsätzlich Block für Block und lädt bei Wan 2.2 14B gleich zwei 14B-Modelle nacheinander aus dem Speicher, damit es auf 12-GB-Handys läuft.

Ein Grund dafür steht in den Release-Notes von Nightmare 1.6.138: Das Speicherfenster der NPU musste von 2 auf 2,75 GB angehoben werden, damit ein 2,6 GB großer Decoder hineinpasst. Die NPU kann also nur wenige Gigabyte auf einmal ansprechen. Ein Nutzer vermutet in Issue #97 einen 32-Bit-Adressraum des DSP als Ursache. Belegt ist das nicht.

Nachgerechnet: 14 GB in rund 40 Sekunden entsprechen im Schnitt mindestens 350 MB/s Lesetempo. Moderne Handyspeicher schaffen das. Lesen nutzt den Flash-Speicher anders als Schreiben kaum ab. Den Preis zahlt man beim Download und beim Platz: 14 bis 15 GB für Qwen-Image, 17,5 GB für MiniMax H3, rund 21 GB für Wan 2.2 14B.

Die Fallen, die kaum jemand erwähnt

• Nur Snapdragon: Auf Handys mit MediaTek, Exynos oder Google Tensor (also etwa Pixel) bietet Nightmare keine Downloads an. Möglich sind dort nur importierte SDXL- oder SD-1.5-Modelle auf CPU oder GPU. Ein japanischer Tester kam auf einem Dimensity 7300 nur mit SD 1.5 bei 256×256 Pixeln voran. Einen Ausweg bietet Local Dream mit „Device link“: Das steuernde Gerät braucht keinen Qualcomm-Chip, gerechnet wird aber auf einem Snapdragon-Gerät im WLAN.
• Lizenzen: Local Dream und Nightmare stehen unter CC BY-NC 4.0, also nur für nichtkommerzielle Nutzung. HexAnima steht unter MIT. Bei den Modellen gilt: Qwen-Image 2.1 nutzt die Qwen Research License (nur Forschung und Evaluation). FLUX.2 Klein 9B, FLUX.1 dev, Ideogram 4, Fibo 2.0 und Anima sind nichtkommerziell. Frei nutzbar unter Apache 2.0 sind dagegen FLUX.2 Klein 4B und MOSS-Image.
• MiniMax H3 und die EU: Die Lizenz definiert die EU, Großbritannien, Südkorea und die USA als „Excluded Territories“. Das gilt ausdrücklich auch für die Nutzung der erzeugten Clips. Nightmare lässt Nutzer diese Bedingungen vor dem Download bestätigen. Wer in Deutschland sitzt, ist also nicht lizenziert. Außerdem läuft auf dem Handy nicht das Original: Statt des 32B-Text-Encoders nutzt Nightmare ein Qwen3-VL-4B mit Adapter. Laut Model Card ist das Modell eine auf 4 Schritte destillierte FastH3-Fassung.
• Hitze und Abstürze: Nightmare warnt bei 40 und 45 °C Akkutemperatur und kann Videos pausieren lassen. Nutzer melden Rauschbilder auf einem 8 Elite mit 16 GB RAM (Issue #84). Bei Local Dream führt ein offenes Issue Speicherabstürze mit Qwen Image 2.1 in unter 30 Sekunden auf. Für HexAnima gibt es einen Absturzbericht auf einem 8-GB-Handy.

Zum Vergleich: iPhone

Auf iOS unterstützt Draw Things laut App Store inzwischen ebenfalls Qwen Image 2.1, Wan 2.2, MiniMax H3 und FLUX.3 Klein. Belastbare iPhone-Zeiten für diese Modelle haben wir nicht gefunden. Ein Nutzer berichtet von rund fünf Minuten und 7 Prozent Akku für ein 512er-SD-Bild, nennt sein Gerät aber nicht. Unsere Einschätzung: Apple hat das Problem mit den vielen Chipgenerationen nicht im selben Maß. Dafür bleiben auch dort Speicher, Hitze und Lizenzen die Grenzen.

Unser Fazit

Für Besitzer eines Snapdragon 8 Gen 1 oder 8+ Gen 1 ist HexAnima die überraschendste Option. Wenn die Herstellerzahlen halten, laufen dort moderne DiT-Modelle in Sekunden bis unter einer Minute. Bestätigt hat das bisher niemand unabhängig. Auf dem 8 Gen 3 sind SDXL-Bilder in rund 30 Sekunden der verlässlichste Stand. Den größten Funktionsumfang hat der 8 Elite, mit Videos in Minuten statt Sekunden. Alles darunter oder ohne Snapdragon bleibt bei SD 1.5.

Unsere Einschätzung insgesamt: Technisch ist das beachtlich, praktisch ist es eine Bastelwiese. Viele Funktionen sind als Alpha markiert oder „nicht auf echtem Gerät getestet“. Jede neue Chipgeneration braucht eigenen Code, und Lizenzen schließen gerade das spektakulärste Videomodell in Europa aus.