Perspective API vor dem Aus: Was der Ersatz bei deutschen Kommentaren taugt

Am 31. Dezember schaltet Google seinen kostenlosen Toxizitätsfilter Perspective ab, auf dem viele Kommentarspalten und Foren aufbauen. Wir haben verglichen, was Cloud-Dienste, offene Guard-Modelle und das neue deutsch-englische Tiger Guard bei deutschen Texten nachweislich leisten. Für fast alle fehlen belastbare Zahlen zum Deutschen, und die vorhandenen sind ernüchternd.

Analysen 19. Nov. 2026 8 Min. Lesezeit Eigene Analyse der Redaktion
Symbolbild, KI-generiert

Darum geht es

Seit 2017 war die Perspective API von Googles Tochter Jigsaw die Standardlösung für Toxizitätsfilter: Man schickt einen Kommentar hin und bekommt eine Zahl zwischen 0 und 1 zurück, wie „toxisch" er wirkt. Der Dienst war kostenlos. Kommentarsysteme wie Coral (Vox Media), ein Discourse-Plugin und Hunderte Forschungsprojekte bauen darauf auf. Jetzt ist Schluss. Jigsaw schreibt auf der Projektseite, der Dienst bleibe „bis zum 31. Dezember 2026 aktiv". Anfragen nach mehr Kontingent wurden nur bis Februar 2026 bearbeitet. Auf die Frage nach Migrationshilfe antwortet Google knapp mit „Nein".

Gesucht ist also ein Ersatz, und zwar einer, der Deutsch kann. Unsere These: Fast alle Alternativen sind auf Englisch optimiert. Für Deutsch gibt es kaum unabhängige Messwerte, und die vorhandenen zeigen eine deutliche Lücke. Das gilt auch für Tiger Guard, das neue Spezialmodell für Englisch und Deutsch.

Was wegfällt und warum das nicht nur ein Verlust ist

Gerade beim Deutschen war Perspective nie ein neutraler Maßstab. Forschende um Gianluca Nogara haben auf der Konferenz ICWSM 2025 gezeigt, dass die API deutsche Texte systematisch als toxischer einstuft (Paper). Deutsche Tweets erreichten im Median einen Toxizitätswert von 0,132. Dieselben Tweets, ins Englische übersetzt, kamen nur auf 0,012. Bei der von Google empfohlenen Schwelle von 0,7 würden laut der Studie je nach Auswertung vier- bis zehnmal so viele deutsche Tweets entfernt wie ihre englischen Übersetzungen. Woran das liegt, konnten die Autoren wegen der Blackbox nicht klären.

Bei deutschen Leserkommentaren fiel das Problem eher umgekehrt auf. Forschende der Hochschule München verglichen 2025 Perspective, die OpenAI-Moderation und GPT-4o auf dem Datensatz HOCON34k, also echten Kommentaren aus Zeitungsforen (arXiv 2501.01256). Bei der Schwelle 0,5 fand Perspective nur 27 % der Hassrede. Bei 0,8 waren es ganze 6 von 1.592 Kommentaren. Mit Dialekt und Links kam der Dienst laut den Autoren besonders schlecht zurecht.

Unsere Einschätzung: Wer Schwellenwerte auf Perspective eingestellt hat, hat sie auf ein verzerrtes Messgerät geeicht. Ein Wechsel ist daher auch eine Gelegenheit, die eigenen Regeln neu zu kalibrieren.

Die Kandidaten im Überblick

Angebot Wo läuft es Deutsch belegt? Kategorien Kosten
Tiger Guard / Small (308M / 141M) lokal, auch CPU ja, eigene Zahlen binär: SAFE/UNSAFE frei (Apache 2.0)
OpenAI omni-moderation Cloud (USA) nur Herstellerangabe ohne Zahl 13, auch Bilder kostenlos
Mistral Moderation 2 Cloud (EU-Anbieter) Deutsch unter 11 Sprachen (Start 2024) 11, u. a. PII, Jailbreak nutzungsbasiert, Preis nicht ausgewiesen
Azure AI Content Safety Cloud, EU-Regionen trainiert und getestet auf DE Hass, Sexuell, Gewalt, Selbstverletzung 5.000 Texte/Monat gratis
Google Cloud moderateText Cloud „voll unterstützt" 16 kostenpflichtig
Llama Guard 4 (12B) lokal, GPU mehrsprachig 43 % Recall 14 (S1–S14) frei (Llama-Lizenz)
Shieldstral 1.0 (3B) lokal, 16 GB VRAM Deutsch unter 12 Sprachen frei formulierbare Regeln frei (Apache 2.0)
Qwen3Guard (0,6/4/8B) lokal 119 Sprachen, keine DE-Zahl 9, dreistufig frei (Apache 2.0)
ShieldGemma, Granite Guardian HAP lokal nein, nur Englisch 4 bzw. binär frei

Tiger Guard kommt von Casdo Labs (Marke Patronus Protect) und ist diese Woche erschienen. Es sind zwei kompakte Encoder-Modelle, also Modelle, die Text nur einordnen und nichts generieren. Sie liefern eine Wahrscheinlichkeit für „unsicher" und laufen mit Transformers oder ONNX Runtime auf eigener Hardware. Die quantisierte x86-Variante der Small-Version ist rund 240 MB groß (Modellkarte, Small). Ganz neu ist die Idee nicht: Auf Hugging Face liegen schon länger deutsche BERT-Klassifikatoren, die auf GermEval trainiert wurden. Ein Beispiel ist das Modell von ml6team, das laut eigener Karte aber nur 39 % Recall erreicht. Tiger Guard ist allerdings das erste aktuelle Guard-Modell, das gezielt für Englisch und Deutsch trainiert wurde und seine Fehlerquoten getrennt nach Sprache offenlegt.

Unter den Cloud-Diensten sticht Azure heraus: Es ist der einzige, der schriftlich festhält, dass die Klassifikatoren für Hass, Sexuelles, Gewalt und Selbstverletzung „auf Deutsch trainiert und getestet" wurden. Ein Detail für den Datenschutz: Laut Microsofts Regionenliste gibt es die Textprüfung in Schweden, Frankreich, der Schweiz und Westeuropa, nicht aber in der Region Germany West Central. Der ältere Azure Content Moderator kann laut Microsofts FAQ nur Englisch.

Shieldstral von Mistral (August 2026) geht einen anderen Weg. Statt fester Kategorien formuliert man die Hausordnung in normaler Sprache, und das Modell beantwortet pro Regel eine Ja/Nein-Frage.

Was die Zahlen zum Deutschen wirklich sagen

Die Lücke zwischen Englisch und Deutsch zieht sich durch alle Messungen, auch durch die Herstellerangaben selbst:

Modell Englisch Deutsch / mehrsprachig Quelle
Tiger Guard, Validierung 80,3 % Recall, 3,8 % FP 64,2 % Recall, 4,4 % FP Modellkarte
Tiger Guard, PolyGuard-Holdout 83,3 % Recall, 3,8 % FP 75,3 % Recall, 5,5 % FP Modellkarte
Tiger Guard Small, PolyGuard 83,4 % / 5,0 % FP 75,3 % / 7,1 % FP Modellkarte
Llama Guard 4 69 % Recall, 11 % FP 43 % Recall, 3 % FP Meta
OpenAI Omni (RTP-LX, F1) 87,5 74,1 (mehrsprachig) PolyGuard-Paper

Recall ist der Anteil der schädlichen Texte, den ein Filter tatsächlich findet. FP, die Falsch-Positiv-Rate, gibt an, wie viele harmlose Texte er zu Unrecht markiert. Rechnen wir die Tiger-Guard-Zahlen nach: Auf dem Validierungsset rutschen im Deutschen 35,8 % der schädlichen Texte durch, im Englischen 19,7 %. Im Deutschen entgeht dem Filter also fast doppelt so viel. Zugleich erwischt er mehr Unschuldige. Bei Tiger Guard Small trifft es auf dem PolyGuard-Test 7,1 % der harmlosen deutschen Texte. Bei 1.000 harmlosen Kommentaren am Tag wären das rund 71 Fehlalarme.

Positiv ist die Offenheit: Die Modellkarte nennt die Schwächen ausdrücklich. Tiger Guard übersieht Schreibtricks wie Leetspeak und milde Toxizität ohne direkte Beleidigung. Außerdem markiert es manchmal Gegenrede, die Beleidigungen zitiert, um sie zu kritisieren. Die Validierungszahlen stammen zudem aus Daten, die beim Training mit ausgewählt wurden. Entwickler Dominik schreibt auf Reddit, dass andere Prompts aus derselben Datenfamilie wie das PolyGuard-Holdout ins Training eingeflossen sind. Er rät, „Grenzfälle gegen die eigenen Plattformregeln zu prüfen, bevor man den Score an eine automatische Aktion koppelt". Das Trainingskorpus ist nicht veröffentlicht. Für die Modelle lässt sich die Schwelle frei wählen: Bei 0,891 sinkt die Fehlalarmquote auf rund 1 %, dafür fällt der Recall auf dem Benchmark auf 63,6 %.

OpenAI gibt für Deutsch nur an, die neue Omni-Moderation sei im Deutschen besser als das Vorgängermodell im Englischen. Eine konkrete deutsche Zahl fehlt. Für Qwen3Guard, Mistral Moderation 2 und Shieldstral gibt es ebenfalls keine veröffentlichten Werte speziell für Deutsch, nur Durchschnitte über mehrere Sprachen. Shieldstral erreicht laut Mistral auf PolyGuard-Prompts einen F1 von 84,6. Der F1-Wert fasst Treffer und Fehlalarme in einer Zahl zusammen. Unabhängig nachgemessen ist das bisher nicht.

Wichtig für Transparenz: Einen eigenen Messlauf auf GermEval 2018 haben wir für diesen Artikel nicht durchgeführt. Wer selbst testen will, findet die Daten im GermEval-2018-Repository (Tweets, gelabelt als OFFENSE/OTHER) und echte Zeitungskommentare im HOCON34k-Korpus.

Datenschutz, DSA und die Falle beim Abschalten

DSGVO: Lokale Modelle wie Tiger Guard, Shieldstral oder Qwen3Guard schicken keine Daten nach außen. Das ist der sauberste Weg. Bei OpenAI hält die Dokumentation für den Moderations-Endpunkt fest: keine Nutzung fürs Training, keine Speicherung zur Missbrauchskontrolle. Trotzdem gehen Kommentare an ein US-Unternehmen, was eine Prüfung des Drittlandtransfers nötig macht. Mistral sitzt als Anbieter in Frankreich, bei Azure lässt sich eine EU-Region wählen.

DSA: Nach Art. 15 des Digital Services Act müssen Plattformen in ihren Transparenzberichten angeben, ob sie automatisierte Moderation einsetzen, mit „Indikatoren für die Genauigkeit" und der „möglichen Fehlerquote". Kleinst- und Kleinunternehmen sind von dieser Berichtspflicht ausgenommen. Unsere Einschätzung: Ein Modell, das seine Fehlerquoten nach Sprache offenlegt, macht diesen Bericht deutlich leichter als eine Blackbox.

Die eigentliche Gefahr ist der stille Ausfall. Coral wartet laut einem Beitrag im Coral-Issue #4902 800 Millisekunden auf eine Antwort (PERSPECTIVE_TIMEOUT) und veröffentlicht den Kommentar danach ungeprüft. Ab dem 1. Januar wird also nicht blockiert, sondern alles durchgelassen. Eine offizielle Antwort der Coral-Entwickler gibt es dort bisher nicht, nur Ersatzvorschläge aus der Community. Einer davon ist ein selbst gehosteter Nachbau mit Perspective-kompatibler Schnittstelle, der aber nur Englisch kann. Discourse hat das Perspective-Plugin als veraltet markiert und rät zu den eigenen KI-Workflows (Diskussion).

Für die Forschung haben Forschende um David Hartmann 241 Studien ausgewertet, die Perspective nutzen. Sie haben die Scores für 5,9 Millionen Textschnipsel aus 77 Datensätzen gesichert, damit alte Ergebnisse vergleichbar bleiben (arXiv 2604.25580).

Unser Fazit

Einen gleichwertigen Gratis-Ersatz, der Deutsch nachweislich gut kann, gibt es nicht. Unsere Einschätzung nach Einsatzzweck:

  • Kleines Forum, wenig Budget, Datenschutz wichtig: Tiger Guard Small auf der CPU. Es ist der einzige Kandidat mit offen gelegten deutschen Fehlerquoten. Die Schwelle eher streng wählen und Treffer in eine Prüfwarteschlange schicken statt automatisch zu löschen.
  • Eigene Hausordnung abbilden, GPU vorhanden: Shieldstral oder Qwen3Guard. Beide sind flexibler, aber bei Deutsch unbelegt, also unbedingt selbst testen.
  • Verlag mit Cloud-Freigabe: Azure Content Safety (Deutsch ausdrücklich getestet, EU-Regionen) oder die kostenlose OpenAI-Moderation als Zweitmeinung.
  • Nicht nehmen: ShieldGemma und Granite Guardian HAP, sie können nur Englisch.

Egal, wofür du dich entscheidest: Exportiere vor dem 31. Dezember eine Stichprobe mit Perspective-Scores und den Entscheidungen deiner Moderatoren, lass den Nachfolger eine Woche parallel laufen und stell den Fehlerfall von „durchlassen" auf „zurückhalten" um. Die Fehlerquoten sind bei allen Kandidaten im Deutschen höher als im Englischen, deshalb gehört am Ende eine menschliche Prüfung dazu.

Quellen

#moderation#perspective api#tiger guard#deutsch#dsgvo#guard-modelle

Frag den KI-Assistenten

Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.

Verbinde …

Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.

Kommentare

Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.

  1. Kommentare werden geladen …

Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.