Sokutsu: Kostenlose Dolmetscher-App übersetzt Gespräche komplett offline auf dem Mac

Ein japanischer Entwickler hat Sokutsu veröffentlicht, eine Open-Source-App, die Gespräche am Mac in Echtzeit übersetzt, als Untertitel und als Sprachausgabe. Spracherkennung, Übersetzung und Vorlesen laufen komplett lokal mit rund 3,4 GB an Modellen. Nebenbei erstellt die App Besprechungsprotokolle, die man hinterher befragen kann.

Tools 16. Nov. 2026 7 Min. Lesezeit Quelle: Zenn LLM (JP)
Symbolbild, KI-generiert

Worum es geht

Der japanische Entwickler Reo Hamada hat mit Sokutsu (japanisch etwa „sofort verständigt“) eine Dolmetscher-App für den Mac veröffentlicht. Zwei Menschen sitzen sich gegenüber und sprechen abwechselnd in ihrer eigenen Sprache. Der Mac hört zu, zeigt die Übersetzung als großen Untertitel an und liest sie mit synthetischer Stimme vor. Alles passiert auf dem Rechner selbst, ohne Server und ohne Cloud.

Die Idee kam Hamada nach eigenen Worten beim Anschauen der japanischen Fernsehserie „VIVANT“, in der ein Ohrhörer mit Echtzeit-Übersetzung vorkommt. Er wollte so etwas selbst bauen. Die App ist kostenlos und steht unter der MIT-Lizenz, einer sehr freizügigen Open-Source-Lizenz. Sie läuft auf Macs mit Apple-Chip. Herunterladen kannst du sie als DMG-Datei über die Releases-Seite, der Quellcode liegt auf GitHub. Aktuell ist Version 1.1.3.

Übersetzen, bevor der Satz zu Ende ist

Bei Dolmetscher-Apps stört vor allem die Wartezeit zwischen Satzende und Übersetzung. Sokutsu geht das auf zwei Wegen an.

Vorhersage-Übersetzung: Schon während jemand spricht, übersetzt die App das bisher Gesagte vorläufig. Diese Untertitel erscheinen gepunktet unterstrichen. Ist der Satz zu Ende und entspricht der endgültig erkannte Text dem, auf dem die Vorhersage beruhte, erscheint die Übersetzung sofort. Sonst übersetzt die App neu.

Erkennen, wann ein Satz fertig ist: Wer „ähm“ oder „und dann“ sagt und kurz stockt, ist noch nicht fertig. Übersetzt eine App an dieser Stelle, entsteht Unsinn. Sokutsu schätzt anhand der Satzendung ein, ob ein Gedanke abgeschlossen ist oder noch etwas folgt. Danach richtet sich, wie lange die App wartet: Am Satzende wartet sie kurz, bei absehbarer Fortsetzung länger. Endet ein japanischer Satz auf eine Partikel wie „…desu ga,“ (etwa „…, aber“), behandelt sie ihn als unvollständig.

Auch die Sprachausgabe passt sich an. Ist eine Übersetzung lang, spricht die Stimme automatisch schneller. Sätze, bei denen sie nicht mehr hinterherkommt, erscheinen nur als Untertitel.

Kleine Modelle, viel Feinarbeit

Mit großen Sprachmodellen würde die Übersetzung am besten, aber die laufen nicht auf einem Notebook. Hamada hat die Modelle deshalb so gewählt, dass alles auf einem Laptop-Mac ohne Server läuft:

Aufgabe Modell Größe
Übersetzung Gemma 3 4B (QAT, 4 Bit) 2,53 GB
Spracherkennung (Standard) SenseVoice-Small 0,16 GB
Spracherkennung (genauer, optional) Whisper large-v3-turbo (quantisiert) 0,57 GB
Sprachausgabe Kokoro, VOICEVOX (Japanisch), macOS „say“ –
Gesamtpaket inkl. Sprechererkennung – ca. 3,4 GB

Gemma 3 4B ist ein kleines offenes Modell von Google. Sokutsu nutzt die QAT-Fassung (Quantization-Aware Training). Dabei wurde das Modell schon beim Training darauf vorbereitet, später verkleinert zu werden. Quantisierung heißt, dass die Zahlen des Modells gröber gespeichert werden, hier mit 4 Bit. Bei der QAT-Variante leidet die Qualität darunter weniger. Die Spracherkennung SenseVoice-Small braucht pro Sprachabschnitt etwa 0,15 Sekunden. Sie läuft über sherpa-onnx, Whisper über whisper.cpp und das Übersetzungsmodell über den llama-server von llama.cpp.

Die Schwächen des kleinen Modells gleicht die App mit Technik drumherum aus. Sie gibt die vorherige Äußerung als Kontext mit, fügt Übersetzungsbeispiele hinzu und startet neu, wenn das Modell Inhalte erfindet, die nicht im Original stehen, oder lange Sätze unterschlägt. Dazu kommen ein eingebautes Glossar mit etwa 3.800 Einträgen auf Japanisch, Englisch, Chinesisch und Koreanisch und ein eigenes Begriffswörterbuch. Damit lassen sich typische Fehler korrigieren, etwa wenn englische Abkürzungen als Katakana erkannt werden, und Fachbegriffe einheitlich übersetzen.

Gemessene Werte

Hamada hat auf seinem eigenen MacBook (M3, 16 GB) gemessen. Die Schritte zum Nachprüfen liegen im Repository.

Messung Bedingung Ergebnis
Bis die Übersetzung feststeht Japanisch→Englisch, 18 Satzpaare in Echtzeit Median 0,85 s
Bis die Sprachausgabe beginnt wie oben Median 1,56 s
Übersetzungsqualität (chrF) FLEURS, 12 Richtungen JA/EN/ZH/KO, mitgeliefertes 4B-Modell ca. 39
Übersetzungsqualität (chrF) gleich, großes Modell auf GPU-Server ca. 45

chrF ist eine automatische Kennzahl. Sie vergleicht, wie viele Zeichenfolgen die maschinelle Übersetzung mit einer Referenzübersetzung teilt. Höher ist besser. Zusätzlich gibt der Entwickler einen COMET-Wert (wmt22-comet-da) von 87,83 an, gemittelt über 1.106 Übersetzungen. COMET ist eine Bewertung durch ein neuronales Netz, die der menschlichen Einschätzung oft näher kommt. Bei Fachbegriffen und langen Sätzen liegt das kleine Modell laut Hamada hinter großen Modellen zurück.

Mehr als ein Dolmetscher: das Besprechungsprotokoll

Sokutsu kann auch Protokoll führen. Während des Gesprächs zeichnet die App alles auf. Nach dem Klick auf „Beenden“ erstellt ein lokales Sprachmodell Zusammenfassung, Beschlüsse, Aufgaben, offene Fragen und Stichworte. Jeder Punkt verweist auf die Äußerung, aus der er stammt. So lässt sich später prüfen, ob das wirklich gesagt wurde. Die Art der Zusammenfassung richtet sich nach dem Gesprächstyp: Regeltermin, 1:1-Gespräch, Verkaufsgespräch, Bewerbungsgespräch, Vorlesung, Brainstorming oder Fragerunde.

Weitere Funktionen:

  • Eine Tagesordnung lässt sich vorab eingeben und während des Meetings abhaken.
  • Man kann das Protokoll befragen, etwa „Bis wann sollte das Dokument fertig sein?“. Die Antwort nennt Zeilennummern als Belege, auf Wunsch über alle Meetings hinweg. Auch Follow-up-Mails und Protokollentwürfe erstellt die App.
  • Die Taste B markiert die aktuelle Äußerung (wichtig, Beschluss, Aufgabe, Frage), mit M fügst du eigene Notizen hinzu.
  • Aufnahmen und Videos (m4a, mp3, wav, mp4, mov …) lassen sich nachträglich transkribieren, auch mit Sprechererkennung.
  • Exportieren kannst du als PDF, Word, Markdown oder Untertitel (SRT/WebVTT). Termine aus dem Kalender und Aufgaben in die Erinnerungen übernimmt die App nur auf Knopfdruck.
  • Sprecher werden unterschieden. Benannte Stimmen erkennt die App beim nächsten Meeting wieder. Die Stimmmerkmale bleiben auf dem Mac.

Mit der Einstellung „Mikrofon + Ton dieses Macs“ übersetzt die App auch Gesprächspartner in Zoom und anderen Videokonferenzen (ab macOS 14.2). Für Online-Meetings empfiehlt Hamada den Modus nur mit Untertiteln, weil das Mikrofon während der Sprachausgabe pausiert.

Was du zum Ausprobieren brauchst

  • Einen Mac mit Apple-Chip (M1 oder neuer) und macOS 13.3 oder neuer. Intel-Macs, Windows und Linux werden nicht unterstützt.
  • 16 GB Arbeitsspeicher werden empfohlen. Mit 8 GB läuft die App auch, aber langsamer.
  • Etwa 5 GB freien Speicherplatz.
  • Internet nur einmalig für den Download der Modelle (ca. 3,4 GB, der Download lässt sich unterbrechen und fortsetzen).

Python oder LM Studio sind für die fertige App nicht nötig. Du ziehst Sokutsu.app in den Programme-Ordner. Weil die App nur ad-hoc signiert und nicht von Apple notarisiert ist, öffnest du sie beim ersten Mal per Rechtsklick und „Öffnen“. Danach erlaubst du den Mikrofonzugriff, wählst das Sprachpaar und startest das Gespräch. Wenn die japanische Stimme wie die Standardstimme von macOS klingt, fehlt die optionale Engine VOICEVOX. Das ist laut Entwickler kein Fehler. Wer aus dem Quellcode startet, braucht Python 3.10 oder neuer und LM Studio mit einem Gemma-3-4B-Modell auf Port 1234.

Einordnung

Sokutsu zeigt, wie weit lokale KI inzwischen ist. Ein Modell mit 4 Milliarden Parametern, Spracherkennung und Sprachausgabe passen zusammen in 3,4 GB und liefern auf einem normalen MacBook Übersetzungen in weniger als einer Sekunde. Bemerkenswert ist vor allem die Arbeit an den Details: Vorhersage-Übersetzung, die Erkennung von Satzenden und die Kontrolle auf erfundene Inhalte tragen hier mehr bei als ein größeres Modell. Für vertrauliche Gespräche ist der vollständige Offline-Betrieb ein echter Vorteil gegenüber Cloud-Diensten wie Google Übersetzer oder den Live-Übersetzungsfunktionen großer Plattformen.

Der Entwickler benennt die Grenzen selbst. Die App ist für Zwiegespräche gedacht. Sprechen mehrere Personen durcheinander, lag die Wortfehlerrate im englischen Meeting-Korpus AMI bei 38,5 Prozent. Eigennamen und Fachbegriffe übersetzt das 4B-Modell fehlerhaft, solange man sie nicht ins Begriffswörterbuch einträgt. Alle Messwerte stammen vom Entwickler selbst und beziehen sich auf Japanisch, Englisch, Chinesisch und Koreanisch. Ob und wie gut Deutsch funktioniert, sagt die Quelle nicht. Das eingebaute Glossar deckt Deutsch jedenfalls nicht ab. Wer einen Apple-Silicon-Mac hat und regelmäßig mit Menschen dieser Sprachen spricht, bekommt mit Sokutsu ein kostenloses Werkzeug zum Ausprobieren.

Quellen

#übersetzung#dolmetscher#mac#lokal#gemma#open source
Originalquelle lesen

Frag den KI-Assistenten

Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.

Verbinde …

Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.

Kommentare

Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.

  1. Kommentare werden geladen …

Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.