2.312 Gerichtsfälle mit erfundenen KI-Urteilen: Wer darauf reinfällt und was es kostet

Eine öffentliche Datenbank zählt inzwischen 2.312 Gerichtsentscheidungen, in denen KI-erfundene Urteile oder Zitate aufgefallen sind. Wir haben die Zahlen ausgewertet: Mehr als die Hälfte der Fälle geht auf Laien zurück, aber auch Richter und Behörden tappen in die Falle. Die Strafen werden härter, bis hin zur ersten Sperre am Europäischen Gerichtshof für Menschenrechte. Deutschland taucht in der Datenbank erstaunlich selten auf.

Analysen 19. Nov. 2026 10 Min. Lesezeit Eigene Analyse der Redaktion
Symbolbild, KI-generiert

Darum geht es

Sprachmodelle wie ChatGPT „halluzinieren“: Sie erfinden Dinge, die plausibel klingen, aber nicht stimmen. Vor Gericht ist das besonders peinlich, wenn Schriftsätze Urteile zitieren, die es nie gegeben hat. Der Jurist Damien Charlotin von der Pariser Hochschule HEC sammelt solche Fälle seit dem Frühjahr 2025 in seiner öffentlichen Datenbank AI Hallucination Cases. Mit Stand 18. November 2026 sind dort 2.312 Entscheidungen erfasst. Aufgenommen wird ein Fall nur, wenn ein Gericht ausdrücklich oder erkennbar feststellt, dass sich jemand auf erfundene Inhalte gestützt hat. Ein bloßer Vorwurf genügt nicht.

Wir haben die Filterzahlen der Datenbank und die deutschen Einträge ausgewertet und mit den Gerichtsentscheidungen und Fachberichten abgeglichen. Dabei ging es um drei Fragen: Wer fällt auf die KI herein? Wie hart wird bestraft? Und warum taucht Deutschland so selten auf?

Wer der KI glaubt: vor allem Laien, aber nicht nur

Wer hat eingereicht Einträge Anteil
Laien ohne Anwalt („pro se“) 1.326 57,4 %
Anwältinnen und Anwälte 920 39,8 %
Richterinnen und Richter 34 1,5 %
Sachverständige 18 0,8 %
Staatsanwälte 5 –
Regierungsjuristen 3 –
Sonstige (Paralegals, Pflichtverteidiger, Schiedsrichter) 5 –

Quelle: Filterzahlen der Datenbank, Stand 18.11.2026, Anteile selbst berechnet.

Gut 57 Prozent der Fälle gehen also auf Menschen zurück, die sich ohne Anwalt selbst vertreten. Nach Charlotins Angaben nutzen sie meist kostenlose Modelle. Trotzdem sind fast 40 Prozent der Einträge Profis zuzuordnen. Bemerkenswert ist außerdem, dass in mindestens 43 Fällen die Fehler von der Seite des Staates oder der Justiz kamen.

Ein aktuelles Beispiel kommt aus Indien. Am 17. November 2026 hat der High Court von Madhya Pradesh (Richter Vivek Kumar Singh) die Landesregierung gerügt, wie Bar & Bench berichtet. In der Klageerwiderung im Fall Piyush Mani Tiwari vs. State of Madhya Pradesh hatte der Staat ein Supreme-Court-Urteil „State of Andhra Pradesh vs. S.S. Mohammad Nisar, (2008) 5 SCC 230“ angeführt. Dieses Urteil gibt es nicht. Unter der Fundstelle steht eine Entscheidung zu einem ganz anderen Thema, nämlich der Aussetzung einer Strafe im Fall Manu Sharma. Das Gericht sprach von einem Vorgehen, das „an aktive Irreführung des Gerichts grenzt“. Es schickte das Urteil an das Justizministerium des Bundesstaats und an den Advocate General und gab der Klage des entlassenen Polizisten statt. Eine Geldstrafe gab es nicht.

Auch Richter sind betroffen. In den USA zogen 2025 die Bundesrichter Julien Neals (New Jersey) und Henry Wingate (Mississippi) Urteile mit erfundenen Zitaten zurück. Beide gaben später an, ein Praktikant beziehungsweise ein Mitarbeiter habe generative KI eingesetzt. Senator Chuck Grassley verlangte daraufhin Aufklärung.

Das Wachstum: explosionsartig, zuletzt etwas langsamer

Laut eDiscovery Today enthielt die Datenbank Anfang Juli 2026 für 2023 nur 16 Fälle und für 2024 nur 59. Für 2025 waren es 827, und das erste Halbjahr 2026 lag mit 828 bereits darüber. Aus den Zwischenständen, die der Anbieter HAQQ regelmäßig festhält, ergibt sich folgendes Bild:

Zeitraum neue Einträge pro Tag
22.5. bis 9.6.2026 140 ca. 7,8
9.6. bis 21.9.2026 448 ca. 4,3
21.9. bis 19.10.2026 156 ca. 5,6
19.10. bis 18.11.2026 110 ca. 3,7

Letzte Zeile selbst berechnet aus dem aktuellen Stand von 2.312.

Seit dem 21. September kamen damit 266 Fälle hinzu. Charlotin sagte im September dem Daily Caller, die Zahlen seien erst exponentiell gestiegen und hätten nun ein Plateau erreicht. Er führt das auf bessere Werkzeuge und mehr Bewusstsein zurück. Unsere Einschätzung: Die Zahl der neuen Einträge misst auch, wie viel ein einzelner Forscher finden und einpflegen kann. Ob es tatsächlich weniger Fälle gibt, lässt sich daraus nicht sicher ablesen.

Von 5.000 Dollar bis zur Zulassungssperre: Die Strafen ziehen an

Fall Gericht, Zeit Folge
Mata v. Avianca US-Bezirksgericht, 2023 5.000 Dollar
Coomer v. Lindell US-Bezirksgericht, 2025 je 3.000 Dollar für zwei Anwälte
Ayinde v Haringey High Court London, 2025 Verweisung an die Berufsaufsicht
Whiting v. City of Athens 6. Bundesberufungsgericht, März 2026 30.000 Dollar plus Anwaltskosten und doppelte Kosten
Couvrette v. Wisnovsky Bezirksgericht Oregon, 2026 rund 110.000 Dollar einschließlich Kosten
Withers v. City of Aberdeen Bezirksgericht Mississippi, Juni 2026 Prozess abgesagt, zwei Anwälte für zwei Jahre vom Bezirk ausgeschlossen, 1.000 bis 3.500 Dollar Strafe pro Kopf
Rumänische Anwältin EGMR, 13.11.2026 zwei Jahre Vertretungsverbot

Laut EDRM verhängten US-Gerichte allein im ersten Quartal 2026 mindestens 145.000 Dollar an Sanktionen. Erstinstanzliche Geldstrafen blieben demnach meist unter 10.000 Dollar, Berufungsgerichte greifen härter durch. Zur Oregon-Summe gibt es unterschiedliche Angaben. EDRM nennt eine Sanktion von 15.500 Dollar gegen den Hauptanwalt, die rund 110.000 Dollar kommen erst mit den Kosten zusammen.

Neu ist die Entscheidung aus Straßburg. Nach Berichten von Anadolu und Scottish Legal News hatte eine Kammer des EGMR in den Schriftsätzen einer rumänischen Anwältin mehrere Fehler gefunden: nicht existierende Urteile, erfundene Absätze in echten Entscheidungen und Rechtsprechung, die ihren eigenen Argumenten widersprach. Die Anwältin räumte ein, KI genutzt zu haben, und sprach von „Ungenauigkeiten“ und „Zitierfehlern“. Die Kammer sah dagegen

„ein wiederkehrendes Muster substanzieller Fehler statt vereinzelter Versehen“.

Manche Verweise seien gar nicht geprüft worden, obwohl ein Abgleich mit der Gerichtsdatenbank HUDOC leicht möglich gewesen wäre. Der Präsident des Gerichtshofs bestätigte die Sperre am 13. November nach Regel 44D der Verfahrensordnung, die den Ausschluss von Vertretern regelt. Laut ua.news war das die erste Anwendung dieser Regel. Eine Pressemitteilung des Gerichts dazu haben wir nicht gefunden, die Angabe stammt also aus einer einzigen Quelle. Die Sperre betrifft nur diese Anwältin und kann nach den Regeln wieder aufgehoben werden. Die Namen der Anwältin und des Verfahrens nennen die Berichte nicht.

Unsere Einschätzung: Ein zweijähriger Ausschluss ist international kein Novum mehr, denn das Gericht in Mississippi hat im Fall Withers schon im Juni dasselbe verhängt. Neu ist, dass erstmals ein internationales Gericht so durchgreift und dass die Sperre einen ganzen Gerichtshof betrifft, vor dem Anwälte aus 46 Staaten auftreten.

Deutschland: 11 Einträge, und die wichtigsten fehlen

Deutschland kommt in der Datenbank auf genau 11 Einträge. Beim Durchsehen fällt auf, dass drei davon doppelt erfasst sind. Tatsächlich stecken dahinter acht Verfahren, alle aus dem Jahr 2025:

Gericht, Aktenzeichen Wer Folge
OLG Celle, 5 U 1/25 (29.4.2025) Anwalt Fundstellen nicht berücksichtigt
AG Köln, 312 F 130/25 (2.7.2025) Anwalt Hinweis auf § 43a Abs. 3 BRAO
VGH Baden-Württemberg, 3 S 1012/25 (8.7.2025) Anwalt keine
KG Berlin, 3 ORbs 164/25 (25.8.2025) Anwalt Rechtsbeschwerde verworfen, Verhalten „bedenklich“
LG Frankfurt, 2-13 S 56/24 (25.9.2025) Anwalt öffentliche Rüge („komplette Fälschung“)
LG Darmstadt, 19 O 527/16 (10.11.2025) Sachverständiger Vergütung auf null gekürzt
VG Köln, 4 L 3030/25 (14.11.2025) Laie keine
KG Berlin, 17 WF 144/25 (20.11.2025) Anwältin Ermahnung

Zwei neuere Entscheidungen fehlen ganz. Am 30. September 2026 verwarf das Bundesarbeitsgericht eine Nichtzulassungsbeschwerde (Az. 2 AZN 339/26, nicht 339/25) als unzulässig. Mit einer solchen Beschwerde will man erreichen, dass eine höhere Instanz den Fall überhaupt annimmt. Die Begründung enthielt laut Haufe eine „ganze Reihe“ halluzinierter Fundstellen, hatte keinen Kanzleibriefkopf und war durchgehend fett und unterstrichen formatiert. Das BAG schloss daraus, dass der Anwalt den Text weder selbst verfasst noch geprüft hatte. Damit fehlte die Vertretung durch einen Anwalt, die vor dem BAG vorgeschrieben ist (§ 11 Abs. 4 ArbGG), und die Mandantin verlor. Am 23. September 2026 wies der Bayerische Verfassungsgerichtshof (Vf. 9-VI-25) die Verfassungsbeschwerde eines offenbar nicht anwaltlich vertretenen Vaters zurück. Er hatte angebliche Grundsätze des Gerichts selbst zitiert, die es nicht gibt, „wohl aufgrund Zuhilfenahme sog. halluzinierender KI“. Der Vater muss die Höchstgebühr von 3.000 Euro zahlen. Laut beck-aktuell ist aber unklar, ob die Gebühr gerade wegen der KI-Zitate verhängt wurde.

Pro Kopf gerechnet ist der Abstand groß. Mit gerundeten Einwohnerzahlen kommen die USA auf rund 4,6 Einträge je Million Einwohner, Kanada auf 6,0, Israel auf 5,9 und Australien auf 4,1. Deutschland liegt bei 0,13, Frankreich bei 0,2 und Italien bei 0,25. Die Grenze verläuft also nicht zwischen Ländern mit und ohne Anwaltszwang. Sie verläuft zwischen dem angloamerikanischen Fallrecht (Common Law), wo Präzedenzurteile das Hauptargument sind, und dem kontinentaleuropäischen Gesetzesrecht.

Anwaltszwang oder Wegschauen?

Für den Anwaltszwang spricht ein Detail: In Deutschland betreffen sechs von acht Verfahren Anwälte, weltweit dominieren dagegen Laien. Vor Landgerichten, Oberlandesgerichten und Bundesgerichten können Laien gar nicht selbst schreiben. Das BAG zeigt, wie ein Laientext dennoch durchrutschen kann: Die Beklagte vermutete, der Ehemann der Klägerin habe die Beschwerde mit KI geschrieben.

Gewichtiger dürfte aber die Sichtbarkeit sein. Nach einer Studie von Hanjo Hamann (JuristenZeitung 2021) wurde in Deutschland in keinem Jahr mehr als etwa 1 Prozent der Gerichtsentscheidungen veröffentlicht. Ermahnt ein Amtsgericht einen Laien wegen eines erfundenen Zitats, erfährt davon in aller Regel niemand. Charlotin selbst sagt, er erfasse nur Entscheidungen, die er findet. Dass das BAG und der BayVerfGH fehlen, obwohl beck-aktuell, Haufe und die BRAK darüber berichtet haben, deutet darauf hin, dass deutsche Quellen schlicht schlechter abgedeckt sind. Dazu kommt ein inhaltlicher Grund: Deutsche Gerichte müssen das Recht selbst kennen und anwenden. Ein erfundenes Zitat wird dann oft stillschweigend übergangen, so wie es das OLG Celle tat, statt in einem eigenen Beschluss aufgearbeitet zu werden.

Warum deutsche Gerichte nur ermahnen

Unsere Einschätzung: Hier fehlt schlicht das Werkzeug. US-Gerichte können Anwälte nach ihren Prozessregeln direkt mit Geldstrafen belegen, britische Gerichte können ihnen Kosten persönlich auferlegen. Deutsche Zivilgerichte haben kein vergleichbares Instrument. Die Berufsaufsicht liegt bei den Rechtsanwaltskammern, und die Gerichte können nur darauf hinweisen, wie es das AG Köln mit seinem Verweis auf das Sachlichkeitsgebot in § 43a Abs. 3 BRAO tat. Ein öffentlich dokumentiertes berufsrechtliches Verfahren einer Kammer wegen KI-Halluzinationen haben wir nicht gefunden. Die BRAK hat am 11. November 2026 ihre KI-Hinweise aktualisiert. Danach verlangt § 43 BRAO eine eigenverantwortliche Prüfung jedes KI-Ergebnisses, und auch spezialisierte Rechts-KI halluziniere, wenn auch seltener.

Die eigentliche Strafe trifft hierzulande oft den Mandanten: Seine Beschwerde wird unzulässig wie beim BAG, oder sein Rechtsmittel scheitert wie beim KG. Juristen wie Jens Ferner verweisen deshalb auf Haftungsansprüche gegen die Anwälte.

Die Allianz-Meldung passt nur bedingt zu diesem Bild. Allianz Commercial schreibt zwar, Kanzleien seien wegen fehlerhafter KI-Schriftsätze „in rechtliche Schwierigkeiten“ geraten. Zahlen speziell zu Kanzleien nennt der Bericht aber nicht. Die harten Zahlen sind allgemein: 453 KI-Schadensfälle im Jahr 2025 laut dem MIT AI Risk Initiative (2023: 179) und Schadenreserven der Allianz in Höhe von mehreren Millionen Euro.

Einordnung

Die Datenbank zeigt eine Untergrenze, keine vollständige Zählung. Das sagt Charlotin selbst, und unser Abgleich für Deutschland bestätigt es: Die zwei bedeutendsten deutschen Entscheidungen des Jahres fehlen. Belegt ist dreierlei. Laien stellen die Mehrheit der Fälle. Profis und staatliche Stellen sind aber keineswegs immun, bis hin zu Richtern und Landesregierungen. Und die Sanktionen sind von symbolischen Geldstrafen zu Berufsverboten aufgestiegen, jetzt auch auf europäischer Ebene.

Für Deutschland lautet unsere Einschätzung: Die niedrige Zahl hat drei Gründe. Hier wird Recht seltener über zitierte Präzedenzfälle begründet, kaum ein Urteil wird veröffentlicht, und der Anwaltszwang hält Laien von den höheren Gerichten fern. Dass es nicht bei Ermahnungen bleiben muss, zeigt das BAG. Ein Schriftsatz, den erkennbar niemand geprüft hat, gilt dort als nicht vom Anwalt stammend. Für Mandanten ist das teurer als jede Geldbuße. Offen bleibt, ob die Rechtsanwaltskammern irgendwann selbst tätig werden.

Quellen

#ki-halluzinationen#justiz#egmr#anwälte#datenanalyse#deutschland

Frag den KI-Assistenten

Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.

Verbinde …

Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.

Kommentare

Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.

  1. Kommentare werden geladen …

Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.