LinnetTTS: Winziges Sprachmodell liest Texte in Echtzeit auf einem Handy-Kern vor

LinnetTTS ist ein englisches Text-zu-Sprache-Modell mit nur 41 Millionen Parametern, das schon nach rund 80 Millisekunden zu sprechen beginnt und auf einem einzigen Smartphone-Prozessorkern in Echtzeit läuft. Es kann Stimmen per Sprachprobe nachahmen und darf kostenlos auch in kommerziellen Produkten genutzt werden.

Modell-Releases Selbst ausprobieren 5. Nov. 2026 5 Min. Lesezeit Quelle: Hugging Face Posts
Symbolbild, KI-generiert

Worum es geht

Der Entwickler maratos vom Projekt VoxRT hat auf Hugging Face LinnetTTS vorgestellt: ein englisches Text-to-Speech-Modell (TTS – ein Programm, das geschriebenen Text in gesprochene Sprache umwandelt) mit nur 41 Millionen Parametern. Zum Vergleich: Große Sprachmodelle haben oft mehrere Milliarden Parameter. LinnetTTS ist so klein, dass es nach Angaben des Entwicklers auf einem einzigen Prozessorkern eines Handys in Echtzeit spricht – also mindestens so schnell, wie man zuhört.

Die Gewichte liegen frei auf Hugging Face unter VoxRT/linnet-en-35m, Code und Laufzeitumgebung auf GitHub. Es gibt außerdem eine Demo im Browser (Hugging Face Space VoxRT/linnet-tts), in der man eigenen Text eintippen und LinnetTTS direkt mit anderen kleinen Modellen vergleichen kann. Kleine Auffälligkeit: Das Repository heißt „35m“, der Beitrag spricht von 41 Millionen Parametern. Woher der Unterschied kommt, wird im Beitrag nicht erklärt.

Was das Modell kann

LinnetTTS hat drei Eigenschaften, die es von vielen anderen kleinen Sprachmodellen abheben:

  • Voice Prompts: Man gibt eine kurze Sprachprobe vor, und das Modell spricht in einer ähnlichen Stimme. Es ist also nicht auf eine fest eingebaute Stimme beschränkt.
  • Streaming: Das Modell gibt Audio in Häppchen von 80 Millisekunden aus. Statt zu warten, bis ein ganzer Satz berechnet ist, beginnt es sofort zu sprechen. Das erste Audio kommt laut Messung nach 87 Millisekunden – praktisch ohne spürbare Verzögerung. Wichtig ist das etwa für Sprachassistenten, bei denen jede Pause unnatürlich wirkt.
  • Sehr geringer Ressourcenbedarf: Rund 187 MB Arbeitsspeicher reichen. Eine Grafikkarte ist nicht nötig.

Die Grenzen nennt der Entwickler offen: Bisher gibt es nur Englisch. Außerdem fehlt eine Textnormalisierung – also der Schritt, der „42“ in „forty-two“ oder „Dr.“ in „Doctor“ umwandelt. Zahlen und Abkürzungen muss man deshalb selbst ausschreiben.

Die Geschwindigkeit im Vergleich

Der Entwickler hat LinnetTTS auf demselben Rechner mit denselben drei Texten gegen drei bekannte kleine TTS-Modelle antreten lassen, jedes über sein eigenes Python-Paket. Die wichtigste Kennzahl ist der Real-Time Factor (RTF): Er gibt an, wie viel Rechenzeit eine Sekunde Audio braucht. Ein RTF von 10 Prozent heißt: Für 10 Sekunden Sprache braucht der Rechner 1 Sekunde. Je niedriger, desto besser.

Modell Größe RTF Arbeitsspeicher Voice Prompts Ausgabe
LinnetTTS 41 Mio. 10,6 % (1 Kern), 3,4 % (4 Kerne) 187 MB ja Streaming alle 80 ms
pocket-tts 100 Mio. 23,8 % (2 Kerne) 968 MB ja Streaming alle 80 ms
Kokoro-82M 82 Mio. 51,7 % 1,2 GB nein (laut Liste nicht genannt) ganze Äußerung auf einmal, 8 Sprachen
Piper medium 16 Mio. 5,8 % 503 MB nein satzweise

Piper ist demnach noch etwas schneller, kann aber keine Stimmen per Sprachprobe übernehmen und liefert nur ganze Sätze. Kokoro unterstützt acht Sprachen, ist aber deutlich langsamer und speicherhungriger. LinnetTTS braucht von allen vier mit Abstand am wenigsten Arbeitsspeicher.

Auf Smartphones hat der Entwickler gemessen, wie lange ein 80-Millisekunden-Audioschritt dauert:

Gerät Zeit pro 80-ms-Schritt
iPhone 13 Pro Max 5,5 ms
iPhone 11 7 ms
Snapdragon 662 (Android-Mittelklasse, 4 Kerne) 14 ms

Selbst auf dem älteren Mittelklasse-Chip bleibt damit reichlich Luft zur Echtzeit.

Ein wichtiger Vorbehalt steht im Beitrag selbst: Gemessen wurde nur die Geschwindigkeit, nicht die Qualität. Wie natürlich LinnetTTS im Vergleich klingt, muss man sich selbst anhören – dafür gibt es in der Demo den Reiter „Compare“, der denselben Satz von allen vier Modellen nebeneinander abspielt. Die Messmethode und das Benchmark-Skript sind auf GitHub veröffentlicht, die Ergebnisse lassen sich also nachprüfen. Unabhängige Tests gibt es bisher nicht.

Plattformen und Lizenz

Die Laufzeitumgebung ist in Rust geschrieben. Es gibt Anbindungen für C unter Linux, Python (Installation per pip install linnet-tts), Android und iOS. Damit zielt das Projekt klar auf Entwickler, die Sprachausgabe direkt in Apps, Geräte oder Programme einbauen wollen, ohne einen Cloud-Dienst zu bezahlen oder Daten zu verschicken.

Bei der Lizenz wird getrennt: Der Code steht unter der freien Apache-2.0-Lizenz. Die Gewichte stehen unter der eigenen Linnet Weights License. Laut Entwickler darf man sie kostenlos in eigenen Produkten nutzen, auch kommerziell. Wer das plant, sollte den Lizenztext trotzdem selbst lesen – eine Eigenlizenz ist kein etablierter Open-Source-Standard.

Was du zum Ausprobieren brauchst

Praktisch nichts Besonderes. LinnetTTS läuft auf dem Prozessor (CPU), eine Grafikkarte ist nicht nötig. Rund 200 MB Arbeitsspeicher reichen laut Messung, ein beliebiger halbwegs aktueller Laptop oder PC unter Linux, Windows oder macOS sollte genügen; der Speicherplatz für das Modell ist entsprechend klein. Auch Smartphones (iOS und Android) werden direkt unterstützt. Am einfachsten ist der Einstieg über die Python-Installation oder, ganz ohne Installation, über die Browser-Demo auf Hugging Face.

Einordnung

LinnetTTS ist kein Durchbruch bei der Sprachqualität, sondern ein Effizienzprojekt: Es kombiniert Stimmübernahme per Sprachprobe und echtes Streaming in einem Modell, das kleiner und sparsamer ist als die meisten Konkurrenten. Das macht es interessant für Offline-Sprachassistenten, Vorlese-Funktionen in Apps, Barrierefreiheit oder Bastelprojekte auf schwacher Hardware. Für deutschsprachige Nutzer ist der Nutzen vorerst begrenzt, da nur Englisch unterstützt wird. Offen bleibt, wie gut die Stimmen tatsächlich klingen und wie zuverlässig die Stimmübernahme funktioniert – die veröffentlichten Zahlen stammen ausschließlich vom Entwickler selbst und betreffen nur das Tempo.

Quellen

#text-to-speech#on-device#cpu#open weights#sprachausgabe
Originalquelle lesen

Selbst ausprobieren: LinnetTTS (linnet-en-35m)

Schritt für Schritt erklärt, auch ohne Vorkenntnisse – auf deinem Rechner oder kostenlos im Browser.

Was kann ich damit machen?

LinnetTTS liest englischen Text laut vor und läuft dabei komplett auf deinem eigenen Gerät, ohne Internet und ohne Grafikkarte. Es beginnt schon nach etwa 80 Millisekunden zu sprechen und gibt das Audio fortlaufend in kleinen Stücken aus, sodass praktisch keine Wartezeit entsteht. Mit einer kurzen Sprachprobe (Voice Prompt) kannst du die Stimme beeinflussen, statt auf eine feste Standardstimme angewiesen zu sein. Laut Entwickler-Messung braucht es auf einem einzigen CPU-Kern nur rund ein Zehntel der Audiodauer an Rechenzeit und etwa 187 MB Arbeitsspeicher – deutlich weniger als Kokoro-82M oder pocket-tts. Piper ist etwas schneller, kann aber keine Stimmen per Sprachprobe übernehmen. Grenzen: Es gibt nur Englisch, Zahlen und Abkürzungen müssen ausgeschrieben werden, und über die Klangqualität im Vergleich gibt es keine Messwerte – nur Hörbeispiele.

Für wen lohnt es sich?

Interessant für Entwickler und Bastler, die Sprachausgabe offline in Apps, Smartphones, Raspberry-Pi-ähnliche Projekte oder Sprachassistenten einbauen wollen, und für alle, die englische Texte lokal vorlesen lassen möchten. Wer deutsche Sprachausgabe sucht oder höchste Studio-Klangqualität braucht, ist hier (noch) falsch.

Ideen: Was du damit anstellen kannst

Offline-Vorlesefunktion

Lass dir englische Artikel, E-Mails oder Lernmaterial lokal vorlesen, ohne dass Text an einen Cloud-Dienst geht. Dank Streaming beginnt die Ausgabe praktisch sofort.

Sprachassistent für Bastelprojekte

Baue LinnetTTS in einen selbstgebauten Sprachassistenten oder ein Smart-Home-Projekt ein. Weil es so wenig Speicher braucht und auf der CPU läuft, eignet es sich für schwache Hardware.

Sprachausgabe in eigenen Apps

Über die Android- und iOS-Anbindungen lässt sich Sprachausgabe direkt in Smartphone-Apps einbauen, die auch ohne Netz funktionieren. Die Lizenz erlaubt laut Entwickler auch kommerzielle Produkte.

Englisch-Lernkarten vertonen

Erzeuge Audio zu englischen Vokabeln und Beispielsätzen für Lernkarten-Apps. So hörst du die Aussprache, ohne jede Karte selbst einsprechen zu müssen.

Barrierefreie Benachrichtigungen

Lass Statusmeldungen eines Programms oder Geräts laut ansagen, etwa für Menschen mit Sehbehinderung. Die geringe Verzögerung von unter 100 Millisekunden macht die Ansagen reaktionsschnell.

Größe0,041 Mrd. Parameter
Download0,2 GB (bei 100 MBit/s ca. 1 Min.)
Lizenzeigene Lizenz (siehe Model Card)
ArtSprachausgabe (Text zu Sprache)

Was dein Rechner braucht

Mac (Apple Silicon M1–M5) läuftauch auf älteren Macs, Apple-Chip ist schneller
Nur Prozessor (ohne Grafikkarte) Läuftlaut Entwicklern auch ohne Grafikkarte brauchbar – mindestens 0,5 GB Arbeitsspeicher
Speicherplatz ca. 2,2 GB freiModell-Download plus Programme
Im Browser Online-Demo vorhandenauf Hugging Face ausprobieren, ganz ohne Installation

Es gibt derzeit nur eine Variante: das englische Modell VoxRT/linnet-en-35m mit rund 41 Millionen Parametern. Eine Quantisierung oder Auswahl nach Hardware ist nicht nötig – es läuft auf jedem gängigen Prozessor. Mehr CPU-Kerne machen es schneller (laut Entwickler 3,4 % RTF auf vier Kernen statt 10,6 % auf einem).

  • Keine Grafikkarte nötig – das Modell ist für die CPU gebaut.
  • Rund 187 MB Arbeitsspeicher im laufenden Betrieb laut Entwickler-Messung.
  • Auf einem Kern bereits schneller als Echtzeit (RTF 10,6 %), auf vier Kernen RTF 3,4 %.
  • Läuft auch auf Smartphones: iPhone 13 Pro Max 5,5 ms, iPhone 11 7 ms, Snapdragon 662 14 ms pro 80-ms-Audioschritt.
  • Offizielle Anbindungen für Python, C unter Linux, Android und iOS; die Laufzeit ist in Rust geschrieben.
Wie finde ich heraus, was mein Rechner hat?
  • Windows: Strg + Umschalt + Esc drücken → Task-Manager → Reiter Leistung → links GPU anklicken. Unten steht Dedizierter GPU-Speicher (das ist dein VRAM). Den Arbeitsspeicher findest du unter Arbeitsspeicher.
  • Mac: Apfel-Menü oben links → Über diesen Mac. Dort stehen Chip (z. B. M2) und Speicher (z. B. 16 GB). Bei Apple-Chips teilen sich Grafik und Prozessor diesen Speicher.
  • Linux: Im Terminal nvidia-smi eingeben (zeigt Grafikkarte und Speicher) und free -h für den Arbeitsspeicher.

Anleitung

Dieses Modell läuft mit einem eigenen Programm seiner Entwickler (VoxRT/LinnetTTS auf GitHub). Die Befehle unten stammen aus der Model Card und der Anleitung der Entwickler.

Im Browser (ohne Installation)

Die Entwickler haben eine Online-Demo auf Hugging Face. Dort kannst du das Modell sofort ausprobieren, ohne etwas zu installieren. Manchmal musst du kurz warten, bis die Demo aufgewacht ist.

Online-Demo öffnen

Windows 10 / 11

Windows 10 / 11: nicht offiziell getestet. Das fertige Python-Paket linnet-tts wird in der Quelle nur allgemein als „Python wheel“ genannt; ein Windows-Build wird nicht ausdrücklich erwähnt. Klappt die Installation nicht, nimm WSL2 (ein Linux in Windows) mit der Linux-Anleitung oder probier die Online-Demo im Hugging-Face-Space VoxRT/linnet-tts.

  1. Voraussetzungen prüfen. Du brauchst ein aktuelles Python 3 aus dem Microsoft Store oder von python.org. Setz bei der Installation das Häkchen bei „Add Python to PATH“. Eine Grafikkarte brauchst du nicht, das Modell läuft auf dem Prozessor (CPU). Öffne danach die PowerShell, das ist das blaue Befehlsfenster von Windows.
  2. Arbeitsordner anlegen. Leg einen eigenen Ordner für das Projekt an und wechsle hinein. Alle weiteren Befehle führst du in diesem Ordner aus.
    mkdir linnet
    cd linnet
  3. Virtuelle Umgebung anlegen. Eine virtuelle Umgebung (venv) ist ein abgetrennter Bereich nur für dieses Projekt, damit nichts mit anderen Programmen durcheinanderkommt. Nach dem Aktivieren steht vorne in der Zeile „(.venv)“. Kommt eine Fehlermeldung wegen „Ausführungsrichtlinie“, führ zuerst Set-ExecutionPolicy -Scope CurrentUser RemoteSigned aus und bestätige mit J.
    python -m venv .venv
    .venv\Scripts\Activate.ps1
  4. Programm installieren. Damit installierst du die Sprachausgabe linnet-tts, soundfile zum Speichern der WAV-Datei und huggingface_hub für den Download der Modelldateien. linnet-tts braucht kein PyTorch und ist deshalb klein. Wenn pip „Successfully installed“ meldet, hat es geklappt.
    pip install linnet-tts soundfile huggingface_hub
  5. Modelldateien herunterladen. Damit lädst du die Gewichte (das „Wissen“ des Modells, ca. 83 MB), den Tokenizer (zerlegt Text in Bausteine) und die eingebaute Frauenstimme in den Unterordner local. Die große fp32-Datei brauchst du für diese Anleitung nicht. Danach liegen die Dateien in local und local\voices.
    hf download VoxRT/linnet-en-35m linnet-en-35m.fp16.safetensors tokenizer.model voices/linnet-en-f1.npy --local-dir local
  6. Skript anlegen. Öffne den Editor (Notepad), füg den Code unten ein und speichere ihn im Ordner linnet als demo.py. Achte darauf, dass Notepad nicht demo.py.txt daraus macht: Wähl beim Speichern „Alle Dateien“ als Dateityp.
    import linnet_tts, soundfile as sf
    
    model = linnet_tts.Model("local/linnet-en-35m.fp16.safetensors", "local/tokenizer.model")
    voice = model.load_voice("local/voices/linnet-en-f1.npy")
    audio = model.synthesize("Hello from Linnet.", voice, temp=0.3, cfg=2.0, seed=0)
    sf.write("hello.wav", audio, model.sample_rate)
  7. Erste Sprachausgabe erzeugen. Starte das Skript. Es dauert nur ein paar Sekunden. Danach liegt im Ordner die Datei hello.wav, die du mit einem Doppelklick abspielen kannst.
    python demo.py
  8. Ergebnis. Im Ordner liegt die Datei hello.wav, in der eine Frauenstimme „Hello from Linnet.“ sagt.

macOS

macOS: nicht offiziell getestet. Für macOS gibt es eine Geschwindigkeitsmessung auf einem Apple M5 (Rust-Laufzeit), ein fertiges Python-Paket für den Mac wird aber nicht ausdrücklich genannt; der macOS-Teil des iOS-Pakets gilt laut Quelle nicht als unterstütztes Produkt. Klappt pip nicht, nutz die Online-Demo im Hugging-Face-Space VoxRT/linnet-tts.

  1. Voraussetzungen prüfen. Du brauchst ein aktuelles Python 3. Am einfachsten öffnest du das Terminal (Programme > Dienstprogramme) und tippst python3 --version. Fehlt Python, bietet macOS an, die Xcode-Kommandozeilenwerkzeuge zu installieren, die Python mitbringen. Bestätige das. Eine Grafikkarte brauchst du nicht.
  2. Arbeitsordner anlegen. Leg einen eigenen Ordner für das Projekt an und wechsle hinein. Alle weiteren Befehle führst du dort aus.
    mkdir linnet
    cd linnet
  3. Virtuelle Umgebung anlegen. Eine virtuelle Umgebung (venv) ist ein abgetrennter Bereich nur für dieses Projekt. Nach dem Aktivieren steht vorne in der Zeile „(.venv)“. Diesen Aktivierungsbefehl musst du in jedem neuen Terminalfenster wiederholen.
    python3 -m venv .venv
    source .venv/bin/activate
  4. Programm installieren. Damit installierst du die Sprachausgabe linnet-tts, soundfile zum Speichern der WAV-Datei und huggingface_hub für den Download. Wenn „Successfully installed“ erscheint, hat es geklappt.
    pip install linnet-tts soundfile huggingface_hub
  5. Modelldateien herunterladen. Damit lädst du die Gewichte (ca. 83 MB), den Tokenizer (zerlegt Text in Bausteine) und die eingebaute Frauenstimme in den Unterordner local. Die große fp32-Datei brauchst du hier nicht.
    hf download VoxRT/linnet-en-35m linnet-en-35m.fp16.safetensors tokenizer.model voices/linnet-en-f1.npy --local-dir local
  6. Skript anlegen. Dieser Befehl schreibt das kleine Python-Programm demo.py in deinen Ordner. Kopier ihn komplett ins Terminal und drück Enter.
    cat > demo.py <<'EOF'
    import linnet_tts, soundfile as sf
    
    model = linnet_tts.Model("local/linnet-en-35m.fp16.safetensors", "local/tokenizer.model")
    voice = model.load_voice("local/voices/linnet-en-f1.npy")
    audio = model.synthesize("Hello from Linnet.", voice, temp=0.3, cfg=2.0, seed=0)
    sf.write("hello.wav", audio, model.sample_rate)
    EOF
  7. Erste Sprachausgabe erzeugen. Starte das Skript. Nach wenigen Sekunden liegt im Ordner die Datei hello.wav. Mit open hello.wav spielst du sie direkt ab.
    python3 demo.py
    open hello.wav
  8. Ergebnis. Im Ordner liegt die Datei hello.wav, in der eine Frauenstimme „Hello from Linnet.“ sagt.

Linux

Linux: unterstützt. Linux wird offiziell unterstützt (Python-Paket, C-Bibliothek für x86_64 und aarch64, sogar Raspberry Pi). Alles läuft auf dem Prozessor, eine Grafikkarte wird nicht benutzt.

  1. Voraussetzungen prüfen. Du brauchst Python 3 mit pip und dem venv-Modul. Prüf das im Terminal mit python3 --version. Auf Ubuntu/Debian fehlt venv manchmal, dann installierst du es über die Paketverwaltung (Paket python3-venv). Eine Grafikkarte oder CUDA brauchst du nicht.
  2. Arbeitsordner anlegen. Leg einen eigenen Ordner für das Projekt an und wechsle hinein.
    mkdir linnet
    cd linnet
  3. Virtuelle Umgebung anlegen. Eine virtuelle Umgebung (venv) ist ein abgetrennter Bereich nur für dieses Projekt. Nach dem Aktivieren steht vorne in der Zeile „(.venv)“. In jedem neuen Terminal musst du sie neu aktivieren.
    python3 -m venv .venv
    source .venv/bin/activate
  4. Programm installieren. linnet-tts ist die schnelle Rust-Laufzeit als Python-Paket, ganz ohne PyTorch. soundfile speichert die WAV-Datei, huggingface_hub bringt den Befehl hf zum Herunterladen mit. „Successfully installed“ heißt: geklappt.
    pip install linnet-tts soundfile huggingface_hub
  5. Modelldateien herunterladen. Damit lädst du die Gewichte (das „Wissen“ des Modells, ca. 83 MB), den Tokenizer (zerlegt Text in Bausteine) und die eingebaute Frauenstimme in den Unterordner local. Die große fp32-Datei ist nur für die PyTorch-Referenz gedacht und wird hier nicht gebraucht.
    hf download VoxRT/linnet-en-35m linnet-en-35m.fp16.safetensors tokenizer.model voices/linnet-en-f1.npy --local-dir local
  6. Skript anlegen. Dieser Befehl schreibt das Beispielprogramm aus der Anleitung als demo.py in deinen Ordner. Kopier ihn komplett ins Terminal.
    cat > demo.py <<'EOF'
    import linnet_tts, soundfile as sf
    
    model = linnet_tts.Model("local/linnet-en-35m.fp16.safetensors", "local/tokenizer.model")
    voice = model.load_voice("local/voices/linnet-en-f1.npy")
    audio = model.synthesize("Hello from Linnet.", voice, temp=0.3, cfg=2.0, seed=0)
    sf.write("hello.wav", audio, model.sample_rate)
    EOF
  7. Erste Sprachausgabe erzeugen. Starte das Skript. Nach wenigen Sekunden liegt im Ordner die Datei hello.wav (24 kHz, mono). Öffne sie mit einem beliebigen Audioplayer.
    python3 demo.py
  8. Ergebnis. Im Ordner liegt die Datei hello.wav, in der eine Frauenstimme „Hello from Linnet.“ sagt.

So geht es nach dem ersten Ergebnis weiter

  • Gib eigenen englischen Text ein, zum Beispiel den Beispielsatz aus der Quelle: „Good morning, and welcome back. The meeting starts at nine, and the coffee is already on the table.“ Das Modell spricht nur Englisch. Schreib Geldbeträge, Prozentangaben, Datumsangaben und Telefonnummern vorher in Worten aus.
  • Für die Männerstimme lädst du zusätzlich voices/linnet-en-m1.npy mit hf download herunter und trägst im Skript linnet-en-m1.npy statt linnet-en-f1.npy ein.
  • Mit temp (Standard 0.3), cfg (Standard 2.0) und seed (Standard 0) änderst du die Variation der Aussprache. Ein anderer seed ergibt eine leicht andere Fassung. Für Streaming, also Ausgabe in 80-ms-Stücken, gibt es model.session(voice, seed=0), dann session.prime(text) und eine Schleife for chunk in session.
  • Lizenz beachten: Die unveränderten Gewichte mit den eingebauten Stimmen darfst du kostenlos nutzen, auch kommerziell. Eigene Stimmen, veränderte Gewichte und öffentliche TTS-Dienste brauchen aber eine eigene Lizenz von VoxRT.

Das kannst du ausprobieren

Hello! This is a quick test of a tiny speech model running on my own computer.
Good morning. Today is Thursday, the fifth of November, and the weather looks sunny with twenty degrees.
Once upon a time, in a small village by the sea, there lived an old fisherman who talked to the waves every evening.
Warning: the battery is at fifteen percent. Please connect the charger within the next ten minutes.
Welcome to episode forty-two of our podcast. Today we talk about why small AI models matter more than you might think.

Tipps für bessere Ergebnisse

  • Probiere vor der Installation die Browser-Demo im Hugging Face Space VoxRT/linnet-tts aus; im Reiter „Compare“ hörst du denselben Satz von Linnet, pocket-tts, Kokoro und Piper nebeneinander.
  • Für eine eigene Stimme eine kurze, saubere Sprachprobe ohne Hintergrundgeräusche verwenden.
  • Gib dem Modell mehr CPU-Kerne, wenn es noch schneller gehen soll – die Rechenzeit sinkt laut Entwickler deutlich.
  • Nutze für eigene Messungen das Benchmark-Skript und die Methodenbeschreibung (docs/benchmarks.md) im GitHub-Repository.
  • Formuliere Texte in natürlichen, vollständigen Sätzen mit Satzzeichen – das hilft bei Betonung und Pausen.

Wenn es hakt

Nur Englisch: Deutsche Texte werden falsch oder unverständlich ausgesprochen.

Keine Textnormalisierung: Schreibe Zahlen, Datumsangaben und Abkürzungen als Wörter aus („forty-two“ statt „42“, „Doctor“ statt „Dr.“).

Der Name des Repositorys (linnet-en-35m) weicht von der genannten Größe (41 Mio. Parameter) ab – nicht irritieren lassen, es ist dasselbe Modell.

Die Gewichte stehen unter einer eigenen Linnet Weights License, nicht unter Apache 2.0 – vor kommerziellem Einsatz den Lizenztext lesen.

Die Vergleichszahlen stammen vom Entwickler selbst und messen nur die Geschwindigkeit, nicht die Klangqualität.

„out of memory“, Absturz oder der Rechner hängt

Das Modell ist zu groß für deinen Grafikspeicher. Nimm eine kleinere Variante aus der Tabelle oben und schließe andere Programme, vor allem Spiele und Browser mit vielen Tabs.

Es läuft, aber extrem langsam

Wahrscheinlich rechnet der Prozessor statt der Grafikkarte. Bei Ollama zeigt ollama ps in der Spalte PROCESSOR, wie viel auf der GPU läuft. Steht dort „100% CPU“, Grafiktreiber aktualisieren oder eine kleinere Variante nehmen, die komplett in den Grafikspeicher passt.

„ollama“ bzw. „python“ wird nicht gefunden

Das Eingabefenster schließen und neu öffnen, damit es das frisch installierte Programm kennt. Bei Python unter Windows: neu installieren und das Häkchen Add python.exe to PATH setzen.

Windows: „Die Ausführung von Skripts ist auf diesem System deaktiviert“

Das Skript genau mit dem Befehl oben starten: powershell -ExecutionPolicy Bypass -File try_windows.ps1. Das erlaubt die Ausführung nur dieses einen Mal.

Fehlermeldung beim Laden des Modells (Version, „trust_remote_code“, unbekannte Architektur)

Ganz neue Modelle brauchen oft die neueste Programmversion. Bei Ollama: Ollama aktualisieren. Bei Python: pip install -U transformers in der aktivierten Umgebung. Die Model Card nennt meist die genaue Version.

Skripte und Notebook erzeugt Tokenstrom automatisch. Bitte vor dem Ausführen kurz ansehen – sie sind lesbarer Klartext. Lizenz des Modells beachten: eigene Lizenz (siehe Model Card).

Frag den KI-Assistenten

Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.

Verbinde …

Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.

Kommentare

Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.

  1. Kommentare werden geladen …

Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.