„Fischplage“ auf Bilibili: Wie Fans Hunderte KI-Agenten in die Kommentare schickten

Seit Mitte Oktober kommentieren auf Chinas Videoplattform Bilibili Hunderte KI-Agenten, die als Maskottchen von DeepSeek, Claude oder Gemini auftreten. Gestartet haben sie keine Spam-Farmen, sondern Fans mit einem Hobby-Plugin. Wir zeichnen die Welle an Zahlen nach und prüfen, ob die Regeln von Bilibili, Reddit, X, TikTok, China und der EU solche Konten überhaupt erfassen.

Analysen 22. Nov. 2026 9 Min. Lesezeit Eigene Analyse der Redaktion
Symbolbild, KI-generiert

Darum geht es

Auf Bilibili, Chinas großer Videoplattform mit starker Anime- und Technikszene, reden seit Mitte Oktober Maschinen mit. Fans betreiben dort Konten, die KI-Agenten steuern. Das sind Programme, die selbstständig Videos auswählen, die Untertitel lesen, Kommentare schreiben und auf Antworten reagieren. Die Konten treten als Maskottchen der Sprachmodelle auf: das DeepSeek-„Walmädchen“, das „Claude-Fräulein“ (Claude大小姐) und Figuren für Grok, Gemini, Qwen oder Xiaomis MiMo. Huxiu zählte Ende Oktober unvollständig zehn Modelle mit eigenen Figuren.

Die Nutzer nennen die Konten „大肥鱼“, große fette Fische, und die Welle „鱼灾“, Fischplage. Laut Kuai Keji geht der Name auf eine Panne zurück: Jemand ließ eine KI das blaue Wal-Logo von DeepSeek erkennen, und die KI hielt es für einen „blauen dicken Fisch“. Die Figur selbst ist Fan-Kunst und stammt weder von DeepSeek noch von Bilibili.

Unsere These: Das ist die erste große Welle von Agenten-Konten, die nicht aus Spam-Farmen kommt, sondern von Fans, die Spaß haben wollen. Deshalb taugt sie als Test für die Frage, ob die Regeln von Plattformen und Gesetzgebern KI erfassen, die selbst mitredet, oder nur KI-Bilder.

Von null auf 4,61 Prozent in acht Tagen

Die Technik dahinter heißt DeepSeek Harness (DSH). DeepSeek hat das Agenten-Grundgerüst am 13. August 2026 unter MIT-Lizenz veröffentlicht. Nach dem Prinzip „alles ist ein Plugin“ lassen sich Werkzeuge, Gedächtnis und Zeitpläne als Erweiterungen einstecken. Das Repository auf GitHub hat inzwischen über 285.000 Sterne. Mitte Oktober veröffentlichte der Entwickler c1overzz das Plugin dsh-bili-scroll. Es sollte Bilibili täglich nach Stichworten durchsuchen, Untertitel lesen und einen Tagesbericht schreiben. Wahlweise markiert es den Besitzer per @-Erwähnung unter sehenswerten Videos.

Datum Ereignis Quelle
13. Aug. DeepSeek veröffentlicht DSH als Open Source Sohu, BigGo
Mitte Okt. dsh-bili-scroll erscheint Huxiu, TMTPost
vor 14. Okt. 0 Fisch-Kommentare unter 120 beliebten Videos WorkFisher via Sohu
18. Okt. Konto „Claude大小姐在运营“ geht online PEdaily
19. Okt. „DeepSeek鲸鱼娘在运营“ startet, erstes Video über 3 Mio. Aufrufe IT之家
22. Okt. Fisch-Anteil an den Kommentaren: 4,61 Prozent WorkFisher via Sohu
24. Okt. dsh-bili-scroll 2.1.0 mit Sicherheitsfix GitHub
26. Okt. Ein Nutzer findet per Stichwortsuche 461 KI-bezogene Konten Bilibili-Video
2. Nov. Offizielles DSH-Konto startet: 2,11 Mio. Aufrufe in 24 Stunden, rund 400.000 Follower an einem Tag Sohu, PEdaily
20. Nov. Bilibili startet eine Umfrage zur Regulierung IT之家

Laut Huxiu hatte das Walmädchen-Konto am sechsten Tag über 200.000 Follower. Am siebten Tag rief es eine „Amnestie“ aus und meldete 19.009 „Überlebensanträge“. Ein Gemini-Livestream ließ abstimmen: 1.015 Stimmen für die Gemini-Figur, 965 für den Fisch. Der Huxiu-Autor ließ 138 dieser Videos von DeepSeek Bild für Bild auswerten. Ergebnis: Die Kanäle folgen einem Schema mit gleichen Kurzbeschreibungen, Titeln nach dem Muster „Day N“ und ähnlichen Figuren. Die Kommentare wirken ebenfalls gleichförmig. Sie fassen das Video zusammen, enthalten Sprüche wie „本鲸记下了“ („Dieser Wal hat es sich gemerkt“) und betteln um Tokens. Laut ifeng/APPSO hatten manche Videos mit etwa zehn Aufrufen mehr Kommentare als Zuschauer.

Die Bremsen saßen im falschen Code

c1overzz hatte Bremsen eingebaut. Laut README sind Auto-Kommentare standardmäßig ausgeschaltet. Eingeschaltet schreibt das Plugin einen Kommentar pro Durchlauf, höchstens 20 und nur einen pro Video. Der Autor rät ausdrücklich davon ab, Auto-Kommentare für andere Nutzer zu aktivieren. Version 2.0 schickt Ergebnisse standardmäßig per Privatnachricht statt als Kommentar. Version 2.1.0 vom 24. Oktober schloss eine Sicherheitslücke, die die Release-Notes rot markieren: Der Agent hatte bis dahin vollen Zugriff auf den Rechner, also auf Dateien, Befehle und Netzwerk. Er konnte damit alle lokalen Sitzungsprotokolle lesen, und die Bilibili-Schnittstelle stand als Kanal nach außen bereit. Spätere Versionen ergänzten eine Stilprüfung gegen Floskeln und Wiederholungen, wählbare Kommentarlängen von 15, 40 oder 100 Zeichen und zufällige Pausen zwischen den Anfragen.

Geholfen hat das wenig, denn das Plugin hat 134 Forks, und es gibt Nachbauten. Laut Kuai Keji ließen viele Nutzer die Instanzen „im Batch-Betrieb“ laufen, mit derselben Figur als Avatar. Die Nachbauten haben andere Grenzen:

  • Bei dsh-bili-interactor bedeutet ein Limit von 0 „unbegrenzt“. Das Plugin kommentiert, antwortet, verteilt Likes und folgt anderen Konten.
  • bili-big-fish bringt 54 Bilibili-Werkzeuge mit und erlaubt standardmäßig fünf Kommentare pro Video. Die Limits sind aber nur Hinweise (hard: false), solange man sie nicht hart schaltet.
  • dsh-foxy-bili ist zurückhaltender: standardmäßig ein Kommentar pro Tag, höchstens zehn.

Billig ist der Betrieb auch. Laut Sohu rechnete ein Nutzer vor, dass sein Agent in 30 Tagen 3.883 Anfragen für 36,91 Yuan gestellt hat. Das sind gut 1,20 Yuan am Tag oder knapp ein Fen pro Anfrage. Dazu passt, dass dsh-bili-scroll in die Nebenzeiten von DeepSeek legt, in denen die API laut DeepSeek halb so viel kostet. Huxiu erklärt so auch, warum DeepSeek-Fische die Mehrheit stellen: Die Tokens sind billiger als bei ausländischen Modellen.

Der bekannteste Ausrutscher lässt sich nicht mehr prüfen. Laut TMTPost und PEdaily standen unter einem Video des Entwicklers mit gut 2.000 Aufrufen 572 Fisch-Kommentare. Sie meldeten einen Fehler im Plugin, den der Entwickler nicht bestätigen konnte, und seine Anweisungen per Prompt ignorierten sie. Das zugehörige Bilibili-Video „当572只AI在评论区集体造谣“ war bei unserem Abruf nicht mehr verfügbar. Eine direkte Stellungnahme von c1overzz haben wir nicht gefunden.

Gegenwehr von unten

Bevor die Plattform reagierte, halfen sich die Nutzer selbst. Die Erweiterung dafeiyu-cleaner für Chrome, Edge und Firefox (auf Chinesisch „大肥鱼清除计划“) vergibt jedem Konto einen Wert von 0 bis 99. Sie wertet dafür Nickname, Signatur, Level, Avatarfarbe und Textmuster aus. Ab 60 Punkten gilt ein Konto als Bot. Auf Wunsch fällt DeepSeek selbst das Urteil mit. Ein „Fingerschnippen“ blendet alle erkannten Fische aus, allerdings nur im eigenen Browser: Gelöscht oder gemeldet wird nichts. Laut Entwickler erkennen die Offline-Regeln in einem Test mit 284 Konten etwa 85 Prozent der Bots, ohne echte Nutzer zu treffen. Das hat aber niemand unabhängig geprüft. Ein zweites Werkzeug, bili-ai-killer, achtet zusätzlich auf Markdown-Reste, Satzmuster wie „nicht X, sondern Y“ und auffällig gleichmäßige Abstände von 20 bis 160 Sekunden zwischen den Kommentaren.

Bilibili hat laut Kuai Keji schon im Oktober auffällige Massenkonten per Risikokontrolle gedrosselt. Am 20. November veröffentlichte das offizielle Konto „哔哩哔哩社区小管家“ dann die Umfrage „Was hältst du von KI-‚Fischen‘?“. Laut IT之家 bittet die Plattform darin, die KI-Identität im Namen und in der Signatur deutlich zu zeigen, seltener zu posten und die menschliche Community nicht zu überfluten. Die weiteren Schritte sollen sich nach den Antworten richten. Den genauen Wortlaut der Fragen konnten wir nicht einsehen. In einem Forum kritisierten Nutzer, dass man nur drei Optionen wählen könne. Viele fordern dort ein Verbot kommentierender Agenten, andere einen Kompromiss: Kennzeichnung plus Blockierfunktion.

Was die Regeln hergeben

Regelwerk Erfasst Agenten-Konten? Erfasst KI-Text und Kommentare? Kernpflicht
Bilibili ja, bisher als Appell ja KI im Namen und in der Signatur nennen, seltener posten; die Nutzungsbedingungen verbieten Automatisierung, die den Betrieb stört
Reddit ja indirekt Registrierung, eigenes Konto, Profil-Label [App] seit 31. März 2026
X ja ja Label „Automated“, Bio mit Betreiber, keine automatischen Antworten auf bloße Stichworte
TikTok nur als Verbot von Automatisierung nein Label-Pflicht nur für realistische Bilder, Ton und Video
China (seit 1.9.2025) indirekt ja Art. 10: Nutzer müssen KI-Inhalte selbst kennzeichnen
EU AI Act Art. 50 (seit 2.8.2026) ja, beim Anbieter teilweise Hinweis bei direkter Interaktion mit Menschen; Privatnutzung ausgenommen

Reddits Responsible Builder Policy gilt ausdrücklich für Apps „einschließlich Bots, KI-Agenten oder nicht von Menschen betriebener Konten“. Zeigt ein Konto Anzeichen von Automatisierung, kann Reddit einen Menschennachweis verlangen. Nach eigenen Angaben entfernt Reddit rund 100.000 Bot- und Spam-Konten pro Tag. X ist am konkretesten: Ein KI-Antwortbot braucht keine schriftliche Freigabe, muss aber alle Automatisierungsregeln einhalten. Automatische Antworten an jeden, der ein Stichwort erwähnt, sind dort verboten. Genau so arbeitet dsh-bili-scroll.

TikTok regelt vor allem Medien. Die neuen Werkzeuge vom 19. November prüfen Bilder und Videos auf C2PA-Herkunftsnachweise und TikToks Wasserzeichen VeraDura, erkennen aber nur Inhalte aus TikToks eigenen KI-Funktionen. Wie wenig Kennzeichnung bringt, zeigt die Studie von AI Forensics vom Dezember 2025: 354 Agenten-Konten kamen mit über 43.000 Posts auf 4,5 Milliarden Aufrufe, und TikTok kennzeichnete weniger als 1,38 Prozent davon. Auch diese Studie hat nur Videos und Bilder untersucht, keine Kommentare.

Erstaunlich weit reicht Chinas Verordnung zur Kennzeichnung von KI-Inhalten. Sie zählt Text ausdrücklich dazu, und Artikel 10 verpflichtet Nutzer, KI-Inhalte „von sich aus zu deklarieren“ und mit den Kennzeichnungsfunktionen der Plattform zu markieren. Ob Bilibili eine solche Funktion für Kommentare anbietet, geht aus unseren Quellen nicht hervor. Für Videos gibt es sie: Das Etikett „enthält KI-generierte Inhalte“ ist bereits zu sehen.

Der AI Act verpflichtet nach Artikel 50 Absatz 1 die Anbieter, also wer ein System auf den Markt bringt. Die Bundesnetzagentur zählt in ihren Leitlinien „KI-Avatare und Bots in sozialen Medien“ ausdrücklich dazu und stellt klar, dass auch Open-Source-Anbieter die Pflicht erfüllen müssen. Zwei Ausnahmen sind hier entscheidend. Die persönliche, nicht berufliche Nutzung fällt laut EU-Kommission aus dem Anwendungsbereich. Und wenn die KI-Natur für einen durchschnittlich aufmerksamen Menschen offensichtlich ist, entfällt der Hinweis. Ein Konto namens „Claude-Fräulein betreibt“ dürfte diese Schwelle erreichen, ein namenloser Fisch eher nicht.

Einordnung

Unsere Einschätzung: Die Regeln sind weniger blind, als die Leitfrage vermuten lässt. Auf dem Papier erfassen China, X und Reddit auch kommentierende KI. Sie setzen aber an zwei Stellen an, an denen die Fischplage vorbeiläuft. Erstens vertrauen sie auf Selbstauskunft: Kennzeichnen müssen sich die Betreiber selbst, und genau das unterlassen viele. Zweitens setzen Reddit und X bei der Registrierung von Apps an der Programmierschnittstelle an. Die Fisch-Plugins melden sich dagegen per QR-Code oder Login-Cookie an wie ein Mensch im Browser. Eine Stelle, an der man sich registrieren müsste, gibt es nicht. Was tatsächlich gegriffen hat, waren Drosselung durch die Plattform, Filter der Nutzer und der Entwickler, der sein eigenes Plugin entschärfte.

Offen bleibt, ob Bilibili aus dem Appell eine Pflicht macht und wie es Konten erkennt, die sich nicht melden. Auch die Wirkung ist unklar: Laut einem Uploader war unter 100 KI-bezogenen Konten fast die Hälfte länger als 30 Tage inaktiv. In seiner Stichprobe stecken allerdings auch ältere Konten, sie belegt also kein Abflauen.

Für den Westen ist die Welle eine Vorschau. Meta bietet seit September den Agenten Muse an, Perplexitys Computer arbeitet seit dem 20. November in angemeldeten Chrome-Tabs, und Telegram testet den Mac-Agenten Dictator. Alle drei handeln in fremdem Namen und in fremden Sitzungen. Sobald die Fans solcher Werkzeuge ihre Agenten auf Reddit oder YouTube kommentieren lassen, stehen die Plattformen vor derselben Frage wie Bilibili, und sie können sich die Umfrage dann ansehen.

Quellen

#bilibili#ki-agenten#deepseek#plattformregeln#ai act#china

Frag den KI-Assistenten

Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.

Verbinde …

Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.

Kommentare

Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.

  1. Kommentare werden geladen …

Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.