Vorlese-KI offline: Welche Mini-Sprachmodelle können wirklich Deutsch?

Darum geht es

Ein Vorleser, der ohne Cloud auskommt, auf dem Handy, im Browser oder auf einem Raspberry Pi für die Hausautomation: Genau darauf zielen die kleinen Text-to-Speech-Modelle (TTS, sie wandeln geschriebenen Text in gesprochene Sprache um), von denen gerade fast wöchentlich neue erscheinen. Allein Anfang November kamen Scylla's Band v4, LinnetTTS und Woof heraus. Die bekannten Vergleiche von Picovoice, GetStream, Yaps oder dem LinnetTTS-Hersteller VoxRT messen aber fast nur Tempo und Speicherbedarf, und das mit englischen Texten. Werte zur deutschen Aussprache enthält keiner davon.

Wir stellen deshalb drei Fragen, die für deutschsprachige Nutzer zählen. Spricht das Modell überhaupt Deutsch? Was braucht es an Rechenleistung? Und was erlaubt die Lizenz wirklich? Grundlage sind die Modellkarten, Lizenztexte, Release-Notizen und Benchmark-Skripte der Projekte, die wir selbst gelesen haben.

Das Testfeld auf einen Blick

Die Dateigrößen für Piper, Pocket TTS und Kokoro stammen aus dem Vergleich von VoxRT, alle anderen aus den jeweiligen Modellkarten.

Deutsch: Was die Modellkarten wirklich sagen

Scylla's Band v4 ist der einzige Neuling mit Deutsch. Laut Modellkarte beherrscht jede der 14 Stimmen Deutsch, insgesamt gibt es 84 trainierte Kombinationen aus Stimme und Sprache. Die C++-Laufzeit bringt eine Textnormalisierung mit, also eine Umwandlung von Zahlen, Datumsangaben und Währungen in aussprechbare Wörter, „für jede Sprache“. Ein deutsches Beispiel nennt die Dokumentation allerdings nicht. Den einzigen deutschen Qualitätswert haben wir in einem Pull-Request zum Release gefunden: Whisper large-v3 hat die Sätze der Stimmengalerie zurückgeschrieben, die Wortfehlerrate (Anteil falsch verstandener Wörter) lag für Deutsch bei 0,005. Das ist eine Selbstmessung an vorbereiteten Sätzen, kein unabhängiger Test. Die größere Auswertung über 168 Clips in der Modellkarte umfasst nur Englisch, Französisch und Spanisch.

Piper ist der Veteran. Für de_DE gibt es acht Stimmen: eva_k, karlsson, kerstin, mls, pavoque, ramona, thorsten und thorsten_emotional. Thorsten gibt es in den Stufen low, medium und high. Die Stimme basiert auf dem gemeinfreien Datensatz (CC0) von Thorsten Müller und wurde laut Modellkarte von einer englischen Stimme aus weitertrainiert. Für die Aussprache sorgt das eingebaute espeak-ng.

Pocket TTS von Kyutai hat seit Version 2.0 ein eigenes deutsches Modell: german mit 6 Schichten und das langsamere, unverkleinerte german_24l mit 24 Schichten. Inzwischen gibt es auch eine deutsche Stimme namens „juergen“. Laut Release-Notizen waren die mitgelieferten Stimmen zunächst nur englisch. Für andere Sprachen empfiehlt Kyutai, eine Stimme aus einer Sprachprobe in der Zielsprache zu klonen.

Supertonic 3 listet Deutsch unter 31 Sprachen. Praxiswerte gibt es aus unerwarteter Ecke. Ein Home-Assistant-Paket für Unraid nutzt Supertonic 3 mit Deutsch als Standardsprache und eigener deutscher Normalisierung: Aus „49,99 €“ wird „neunundvierzig Euro und neunundneunzig Cent“. Laut dem Paket wurden alle zehn Stimmen mit deutschem Text geprüft.

Kokoro wird oft als mehrsprachig beschrieben, Deutsch fehlt aber in der offiziellen Stimmenliste. Sie umfasst Englisch, Japanisch, Mandarin, Spanisch, Französisch, Hindi, Italienisch und Portugiesisch. Es gibt Nachtrainings aus der Community, etwa Thorsten-Voice/Kokoro unter Apache 2.0. Dessen Modellkarte nennt offen die Schwächen: Das kurze „ü“ (ʏ) kennt Kokoro nicht, ohne Workaround scheitern deshalb Wörter wie „Brücke“. Zusammengesetzte Adjektive mit Bindestrich lassen die Stimme stolpern, und sehr lange Sätze werden abgeschnitten.

LinnetTTS stellt in der Modellkarte klar: Nur Englisch, „andere Sprachen ergeben Müll“. Eine Textnormalisierung gibt es nicht. Woof beschreibt sich auf Hugging Face als kleines englisches Modell. Die kleinen KittenTTS-Modelle sind laut GetStream ebenfalls rein englisch. KittenTTS 2 kann zwar 20 Sprachen samt Deutsch, hat aber 1,7 Milliarden Parameter und braucht rund 6 GB RAM. Ein Mini-Modell ist das nicht mehr.

Speicher und Tempo auf PC, Handy und Pi

Der Echtzeitfaktor (RTF) gibt an, wie lange die Berechnung im Verhältnis zur Audiolänge dauert. Ein RTF von 50 % bedeutet: Zehn Sekunden Sprache brauchen fünf Sekunden Rechenzeit.

Unsere Einordnung der Zahlen: Den VoxRT-Vergleich hat der Hersteller von LinnetTTS selbst erstellt, im dev.to-Beitrag ist das nur an der Autorenzeile zu erkennen. Gemessen wurde das Tempo mit drei englischen Texten, die Qualität gar nicht. Das Skript ist auf GitHub öffentlich und lässt sich nachprüfen. Der Wert für Pocket TTS ist uneinheitlich: Im Fließtext stehen 23,8 % auf zwei Kernen, in der Tabelle 24,1 % auf vier Kernen. Die Speicherwerte umfassen den ganzen Python-Prozess. Andere Messungen kommen deshalb zu ganz anderen Ergebnissen: Micdrop maß Kokoro in Node.js mit nur etwa 80 MB, Picovoice dagegen mit 2 GB.

Für den Raspberry Pi gibt es kaum belastbare Zahlen. Für Piper auf dem Pi 5 schreibt das Blog raspberry.tips nur, eine Sekunde Sprache entstehe in unter einer Sekunde. Supertonic zeigt auf GitHub Demos auf Raspberry Pi und einem E-Reader. Scylla's Band unterstützt laut Laufzeit-Repo Linux auf aarch64, also auch 64-Bit-ARM wie beim Pi, nennt aber keine Pi-Werte. Für Handy-Apps ist Scylla's Band am besten dokumentiert, die Modellpakete sind mit 406 MB (Core ML) bis 1,1 GB (ONNX) aber deutlich größer, als die Parameterzahl vermuten lässt. Jedes Paket enthält zusätzlich einen BigVGAN-Decoder mit 112 Millionen Parametern.

Die Lizenzfallen

LinnetTTS: Der Code steht unter Apache 2.0, die Gewichte unter der Linnet Weights License 1.0. In deren Text heißt es:

„Sie ist keine Open-Source-Lizenz.“

Kostenlos erlaubt ist nur, die unveränderten Gewichte mit den eingebauten Stimmen zu nutzen, auch in kommerziellen Produkten. Das Klonen einer Stimme braucht eine eigene schriftliche Lizenz, selbst wenn es die eigene Stimme ist und man eingewilligt hat. Gleiches gilt für Feintuning, Distillation, Quantisierung (das Verkleinern des Modells durch gröbere Zahlen) und das Abspeichern einer umgewandelten Kopie. Auch einen allgemeinen TTS-Dienst für andere darf man so nicht anbieten. Die beworbene Stimmübernahme per Sprachprobe ist damit ohne Zusatzvertrag nicht nutzbar. Das betrifft auch unsere eigene Meldung zum Start, die das nicht deutlich genug gesagt hat.

Woof: Die Underdog Non-Commercial License 1.0 erlaubt private, wissenschaftliche, Lehr- und gemeinnützige Nutzung mit Namensnennung. Für kommerzielle Nutzung braucht man eine Lizenz, das Trainieren anderer Sprachmodelle mit Woof ist verboten. Vorsicht beim Namen: Underdog nennt auch sein 4-Milliarden-Parameter-Sprachmodell „Woof“ (Woof 1.1, rund 2,4 GB). Mit dem 32-MB-Sprachmodell hat es nichts zu tun.

Supertonic 3: OpenRAIL-M ist eine Lizenz mit Nutzungsbeschränkungen, die man bei Weitergabe mitübernehmen muss. Schwerer wiegt etwas anderes: Laut Music Business Worldwide und Digital Music News wickelt der Mutterkonzern HYBE das Unternehmen Supertone ab. Das GitHub-Repo ist archiviert, es gibt keine Updates und keine Sicherheitskorrekturen mehr, und der Voice Builder für eigene Stimmen ist seit Ende August abgeschaltet.

Pocket TTS: Die Gewichte stehen unter CC-BY-4.0 und dürfen damit grundsätzlich auch kommerziell genutzt werden, die Stimmen haben aber eigene Lizenzen. Die Dateien bekommt man erst nach Anmeldung und Zustimmung zu den Bedingungen. Stimmen klonen ist nur mit ausdrücklicher Einwilligung erlaubt.

Piper: Die aktiv gepflegte Fassung piper1-gpl steht unter GPL-3.0, weil sie espeak-ng einbettet. Für Apps mit geschlossenem Quellcode ist das relevant. Die Open Home Foundation sucht zudem Freiwillige, die das Projekt weiter pflegen.

Scylla's Band v4 ist mit Apache 2.0 der klarste Fall. Allerdings unterstützt es keine eigenen Stimmen, und das Projekt hängt an einem einzelnen Entwickler.

Am Rand erwähnt: Gradium Phonon 40M spricht ebenfalls Deutsch, steht aber unter CC BY-NC, ist also nicht für kommerzielle Nutzung freigegeben. Nur die rein englische 31M-Variante ist Apache 2.0.

Der Hörtest: Testsätze und bekannte Schwachstellen

Wir wollten alle Modelle mit denselben deutschen Sätzen über die Hugging-Face-Demos und lokal auf der CPU antreten lassen. Eine Hörtabelle mit eigenen Noten veröffentlichen wir hier aber nicht, weil wir keine Aufnahmen vorlegen können, die unsere Urteile belegen. Stattdessen findest du hier die Testsätze und dazu, was die Dokumentation über mögliche Stolperstellen verrät. Zum Selbsttesten eignen sich die Colab- und Kaggle-Notebooks von Scylla's Band (einen eigenen Hugging Face Space gibt es nicht), die zahlreichen Spaces mit Supertonic und eine lokale Piper-Installation.

Unser Fazit

Unsere Einschätzung: Für Deutsch bleibt die Auswahl schmal, und der Wirbel um die Neuerscheinungen täuscht. LinnetTTS und Woof sind interessante Effizienzprojekte, für deutschsprachige Nutzer aber derzeit wertlos und lizenzrechtlich eingeschränkt.

• Raspberry Pi und Home Assistant: Piper mit Thorsten bleibt die erprobte Wahl. Die Stimme ist bewährt, die Anbindung über Wyoming funktioniert, die Daten sind gemeinfrei. Für eigene Produkte ist die GPL zu beachten.
• App mit deutscher Sprachausgabe, auch kommerziell: Scylla's Band v4 ist das einzige neue Modell mit Deutsch, freizügiger Lizenz und fertigen Portierungen für iOS und Android. Die deutsche Qualität ist aber nur vom Entwickler selbst gemessen, und die Pakete sind mehrere hundert Megabyte groß.
• Laptop oder PC mit eigener Stimme: Pocket TTS hat ein eigenes deutsches Modell und erlaubt Klonen mit Einwilligung. Für schwache Hardware braucht es aber vergleichsweise viel Arbeitsspeicher.
• Supertonic 3 funktioniert laut Praxispaket auch auf Deutsch, ist nach der Auflösung des Herstellers aber ein Auslaufmodell.

Was fehlt, ist ein unabhängiger Vergleich mit deutschen Texten: Wortfehlerrate, Natürlichkeit und Zahlenverarbeitung auf echter Pi- und Handy-Hardware. Solange es den nicht gibt, sind alle Aussagen über „gutes Deutsch“ Herstellerangaben.