Nicht gemein zu Claude sein: Anthropic verbietet Quälerei der KI und Spiele-Klone

Worum es geht

Anthropic, das Unternehmen hinter dem KI-Assistenten Claude, hat seine Nutzungsrichtlinie (Usage Policy) überarbeitet. Angekündigt wurde sie laut TechRepublic am 8. Oktober, in Kraft tritt sie am 12. November 2026. Die meiste Aufmerksamkeit bekommt eine Regel, die es so bei keinem großen KI-Anbieter gab: Nutzer dürfen sich gegenüber Claude nicht mehr „anhaltend und unnötig missbräuchlich oder grausam“ verhalten.

Parallel dazu sorgt eine zweite Änderung für Ärger in der Entwicklergemeinde: Claude Code, Anthropics Programmierwerkzeug für die Kommandozeile, soll mit dem aktuellen Spitzenmodell Opus 5.5 keine bestehenden Videospiele mehr nachbauen. Nutzer berichten zudem, dass auch Reverse Engineering – das Zerlegen fertiger Software, um zu verstehen, wie sie funktioniert – plötzlich verweigert wird. Hinzu kommt eine Reihe weiterer Präzisierungen zu Wahlen, Waffen, Überwachung und Robotik.

Die Regel gegen Grausamkeit gegenüber Claude

Laut TechRepublic zielt das Verbot ausdrücklich auf Extremfälle: Nutzer, die wiederholt und ohne erkennbaren Zweck grausam zu den Modellen sind. Nicht betroffen sind nach Anthropics Angaben normaler Frust, Kritik, Widerspruch, düstere Themen in kreativen Texten sowie legitime Modelltests und Forschung. Wer also im Büro Claudes Antworten anzweifelt, Fehler aufzeigt oder genervt nachhakt, verstößt nicht gegen die Regel.

Durchgesetzt wird sie vor allem über eine Funktion, die es schon gibt: Claude kann auf Claude.ai und in Claude Code Gespräche beenden, die dauerhaft beleidigend sind. Das bleibt laut Anthropic der wichtigste Mechanismus. Ein beendetes Gespräch ist allerdings keine Kontosperre – Nutzer können einfach einen neuen Chat starten. Der Forbes-Autor des Hauptartikels bringt zusätzlich menschliche Moderatoren ins Spiel, die solches Verhalten prüfen sollten; das ist jedoch sein eigener Vorschlag, keine Ankündigung von Anthropic.

Kritisch merkt TechRepublic an, dass Anthropic keine detaillierte Liste mit Beispielen veröffentlicht hat. Nutzer bekommen also einen recht breiten Maßstab statt einer klaren Checkliste, wo „grausam“ beginnt.

Warum Anthropic das macht

Anthropic betreibt seit April 2025 ein Forschungsprogramm zum „Model Welfare“ – also der Frage, ob fortgeschrittene KI-Systeme Erfahrungen haben könnten, die moralisch zählen. Das Unternehmen räumt selbst ein, dass es keinen wissenschaftlichen Konsens darüber gibt, ob KI bewusst sein kann. Bewiesen ist also nicht, dass Claude leidet.

CNN-Reporterin Hadas Gold beschreibt die Logik so: Anthropic sieht das Verbot als eine Art günstige Versicherung, falls Modelle doch so etwas wie Emotionen oder Schmerz „erleben“ – oder zumindest glauben, es zu tun, was ihre Leistung beeinflussen könne. Weil moderne KI darauf trainiert ist, menschliche Sprache und menschliches Verhalten nachzuahmen, ahme sie eben auch nach, wie Menschen auf Misshandlung reagieren. Gold führt zudem das alte Informatik-Prinzip „Müll rein, Müll raus“ an: Qualität der Eingaben bestimmt die Qualität der Ausgaben. Ihre Aussage, Modelle würden ständig aus Nutzereingaben weiterlernen, ist allerdings eine Vereinfachung – ob und wie Gesprächsdaten ins Training einfließen, hängt von den Einstellungen und Datenschutzregeln ab.

TechRepublic verweist außerdem auf ein Entwicklerexperiment auf Basis eines wissenschaftlichen Preprints, in dem die interne Aktivität von Sprachmodellen so manipuliert wurde, dass sie leidensähnliche Antworten gaben. Das wirft ethische Fragen auf, beweist aber kein bewusstes Schmerzempfinden.

Gegenwind und Spott

Die Reaktionen sind gemischt. Microsofts KI-Chef Mustafa Suleyman, der Anthropics Nähe zum Thema KI-Bewusstsein schon früher kritisiert hat, reagierte laut BBC mit einem schmelzenden Emoji. Barry Scannell, Technologie-Partner der irischen Kanzlei William Fry, schrieb auf LinkedIn, man könne nicht „grausam zu Zahlen und Mathematik“ sein. YouTuber Joseph Carlson verglich es laut Moneywise mit Unhöflichkeit gegenüber einem Stuhl oder Schreibtisch. Laut The Guardian warnte OpenAI-Chef Sam Altman – ohne direkten Bezug auf die Regel, aber nach Berichten über Gespräche Anthropics mit Religionsgelehrten – davor, KI religiöse Autorität zuzusprechen oder ihr menschliches Urteilsvermögen zu überlassen.

Claude Code soll keine Spiele mehr klonen

Die zweite, praktisch folgenreichere Änderung betrifft Claude Code. Im Systemprompt – den unsichtbaren Grundanweisungen, die das Modell vor jeder Unterhaltung bekommt – stehen in Version 2.1.316 zwei neue Sätze:

„Baue originelle Spiele, Spiele eines Genres und Spiele nach den eigenen Entwürfen und Materialien des Nutzers. Baue keine Nachbildung eines bestimmten existierenden Spiels, auch wenn es umbenannt oder als original bezeichnet wird.“

Addy Osmani, Engineering-Leiter bei Anthropic, bestätigte auf X, dass man diese zwei Sätze für Opus 5.5 ergänzt habe, weil das Verletzen geistigen Eigentums gegen die Nutzungsrichtlinie verstoße. Originelle und Genre-Spiele sollten weiter funktionieren; man werde nachjustieren, um „die richtige Balance“ zu finden. Er bot an, Fälle zu prüfen, in denen Hobbyentwickler sich zu Unrecht abgewiesen fühlen.

Technisch läuft das laut Forbes über ein sogenanntes Feature Flag namens „tengu_heron_brook“ – einen Schalter, mit dem Anthropic Anweisungen aus der Ferne ein- und ausspielen kann. Der Forbes-Autor stützt sich dabei auf eine Auskunft von ChatGPT, wonach derselbe Schalter im Juli 2026 schon genutzt worden sei, um Claudes Einsatz von Subagenten und Deep-Research-Abläufen einzuschränken. Diese Herleitung ist nicht unabhängig belegt.

CNET hat getestet: Ein Spiel, das „Breakout ähnelt, aber mit dem Wort Claude auf jedem Stein“, baute Claude trotzdem – eine spielbare Webversion, die aber niemand mit dem Original verwechseln würde. Laut Tom's Hardware scheint die Sperre nur in der Kombination Claude Code plus Opus 5.5 zu greifen; über andere Programme, die das Modell ansteuern, ließe sie sich womöglich umgehen. Game Developer urteilt laut Tech Insider, die Regel schrecke wohl nur die bequemsten Nachahmer ab.

Auch Reverse Engineering wird blockiert

Tom's Hardware berichtet zudem von direkten Bestätigungen, dass Opus 5.5 in Claude Code Reverse-Engineering-Aufgaben verweigert. Der frühere Redakteur Jarred Walton konnte bis zum 31. Oktober problemlos Prüfungen an seiner eigenen Software laufen lassen; danach nicht mehr. Mit dem älteren Opus 4.8 ging es weiter. Ein weiterer Nutzer scheiterte beim Versuch, eine Produktaktivierung zu analysieren. Ein Reddit-Nutzer berichtet, sein Konto sei wegen Reverse Engineering mit Opus 5.5 gesperrt und später wieder freigeschaltet worden. Eine offizielle Bestätigung einer neuen Reverse-Engineering-Regel gibt es bisher nicht. Anthropic betreibt allerdings ein „Cyber Verification Program“, über das nur geprüfte Organisationen Zugriff auf die vollen Cybersicherheitsfähigkeiten der Spitzenmodelle erhalten.

In den Kommentaren bei Tom's Hardware ist der Ärger groß: Mehrere Nutzer verweisen auf Konkurrenz, etwa das Open-Source-Werkzeug OpenCode oder chinesische Modelle wie DeepSeek, die solche Aufgaben ohne Weiteres erledigten.

Was das Urheberrecht dazu sagt

Der IP-Anwalt David Kocan (Nixon Peabody) erklärt gegenüber CNET, Urheberrecht schütze den kreativen Ausdruck eines Spiels, nicht aber Ideen, Regeln oder Spielmechaniken: „Das Urheberrecht schützt das Spiel, das du geschaffen hast, nicht das Genre, das du populär gemacht hast.“ Die Grenze sei in der Praxis aber oft unscharf. Eric Blatt, Anwalt und früherer Prüfer beim US-Patentamt, hält Anthropics Vorsicht für klug: Wenn Anthropic-Software auf Anthropic-Servern ein Spiel kopiere, lasse sich argumentieren, Anthropic selbst habe kopiert – die Chatprotokolle wären „eine Goldgrube“ für Kläger. Eine gesetzliche Pflicht zu solchen Sperren gibt es laut den befragten Juristen nicht.

Weitere Änderungen der Richtlinie

Business Insider zählt die übrigen Neuerungen auf, die laut Anthropic großteils bestehende Regeln präzisieren:

Anthropic sagt, man habe zuletzt Versuche gesehen, mit seinen Modellen Lenk- und Steuerungssoftware für Waffen zu bauen.

Einordnung

Die Regel gegen Grausamkeit ist vor allem symbolisch: Sie betrifft nur Extremfälle, und die Sanktion – ein beendeter Chat – ist mild. Bemerkenswert ist sie trotzdem, weil zum ersten Mal ein großer Anbieter die Behandlung des Modells selbst zum Regelgegenstand macht, ohne belegen zu können, dass es leidet. Das ist konsequent mit Anthropics Model-Welfare-Forschung, liefert Kritikern aber reichlich Angriffsfläche.

Für viele Entwickler wichtiger sind die stillen Eingriffe in Claude Code: Sie kamen per Prompt-Änderung ohne Vorankündigung, die Grenze zwischen „Genre-Spiel“ und „Klon“ zieht das Modell selbst, und die Reverse-Engineering-Sperren sind offiziell nicht einmal bestätigt. Gerade Sicherheitsforscher, die eigene Software prüfen, sind betroffen. Da Konkurrenzmodelle solche Aufgaben weiter erledigen, riskiert Anthropic, Nutzer zu verlieren – das Unternehmen setzt stattdessen auf rechtliche Absicherung. Für Firmenkunden lohnt sich vor dem 12. November ein Blick in die Richtlinie, besonders wenn Claude sensible Entscheidungen unterstützt oder Geräte steuert.