Anthropic: KI beschleunigt eigene Forschung so stark, dass Sicherheitsschwelle überschritten ist

Worum es geht

Anthropic, das Unternehmen hinter dem KI-Assistenten Claude, hat am 10. November 2026 offiziell erklärt, dass es eine der wichtigsten Schwellen seiner eigenen Sicherheitsrichtlinie überschritten hat. Diese Schwelle betrifft KI, die die Forschung an KI selbst stark beschleunigt. Die Aussage steht nicht in einem Blogbeitrag, sondern in einem Dokument für die US-Börsenaufsicht SEC. Es ist die neueste Fassung des Börsenprospekts, den Anthropic für seinen geplanten Börsengang (IPO) eingereicht hat. Ein Börsenprospekt ist das Pflichtdokument, das künftige Aktionäre über das Geschäft und die Risiken eines Unternehmens informiert.

Der entscheidende Satz lautet übersetzt:

„Wir haben festgestellt, dass wir diese Schwelle erreicht haben.“

Das ist mehr als Symbolik. Wer die Schwelle überschreitet, muss nach Anthropics eigenen Regeln deutlich strengere Schutzmaßnahmen einführen. Laut Prospekt könnten künftige Maßnahmen verändern, „ob, wie und wann“ Anthropic neue Modelle entwickelt oder veröffentlicht.

Ein Satz, umgeschrieben in acht Tagen

Wie schnell sich die Lage geändert hat, zeigen die drei Fassungen des Prospekts. Formal heißt er Form S-1, das ist das Standardformular für einen Börsengang in den USA. Die nachträglichen Änderungen heißen S-1/A.

• 26. Oktober 2026: In der ersten öffentlichen Fassung taucht „KI, die KI beschleunigt“ nur allgemein als eines der Risiken auf, die die Sicherheitsrichtlinie abdeckt. Die Schwelle selbst wird nicht erwähnt.
• 2. November 2026: In der ersten Änderung schreibt Anthropic, man könnte die Schwelle für „dramatisch beschleunigten Fortschritt durch KI“ „unmittelbar“ erreichen. Das Unternehmen beruft sich dabei auf interne Schätzungen und Erwartungen an künftige Modelle. Gleichzeitig heißt es dort, kein aktuelles Modell sei als schwellenüberschreitend eingestuft worden.
• 10. November 2026: Die zweite Änderung ersetzt diese Passage. Anthropic hält nun fest, dass die Schwelle schon dann greift, wenn man die Beschleunigung „beobachtet oder erwartet“, und erklärt sie für erreicht. Der Satz, kein aktuelles Modell überschreite die Schwelle, fehlt. Man prüfe die zugrunde liegenden Daten weiter und werde weitere Berichte vorlegen. Einen Zeitplan nennt Anthropic nicht.

Wichtig ist die Begründung: Laut Yahoo Finance stützt Anthropic die Entscheidung auf „das, was wir von künftigen Modellen erwarten, und auf unser allgemeines Fortschrittstempo, nicht auf das, was wir bei aktuellen Modellen beobachtet haben“.

Die Finanzseite Crypto Briefing hatte die Fassung vom 2. November noch so gelesen: Anthropic sage nicht, dass die Schwelle überschritten sei, sondern nur, dass das bald passieren könne. Diese Einschätzung ist mit der Fassung vom 10. November überholt.

Was die Schwelle genau bedeutet

Die Schwelle stammt aus der Responsible Scaling Policy (RSP). Das ist ein Regelwerk, das Anthropic sich selbst gegeben hat und veröffentlicht. Es legt fest, welche Schutzmaßnahmen hinzukommen, sobald die Modelle bestimmte Fähigkeiten erreichen. Man kann es mit Sicherheitsstufen in einem Labor vergleichen: Je gefährlicher das Material, desto strenger die Regeln. Die aktuelle Version 3.4 gilt seit dem 8. Juli 2026 und hat die Definition dieser Schwelle überarbeitet.

Die Schwelle heißt „Automated R&D in key domains“, also automatisierte Forschung und Entwicklung in Schlüsselbereichen. Gemeint sind Systeme, die die Arbeit großer Teams von Spitzenforschern vollständig automatisieren oder dramatisch beschleunigen können. Bisher prüft Anthropic das nur für die KI-Forschung. Die Schwelle gilt als erreicht, wenn einer von zwei Fällen eintritt:

1. Ersatz: Anthropics Modelle könnten alle Forschungswissenschaftler und Forschungsingenieure des Unternehmens ersetzen, und zwar für höchstens das Fünffache dessen, was diese Teams kosten.
2. Verdopplung: Anthropic beobachtet oder erwartet, dass sich das Tempo des KI-Fortschritts verdoppelt. In einem Jahr soll also so viel Fortschritt entstehen wie sonst in zwei Jahren. Als Vergleichsmaßstab dient laut Yahoo Finance das Tempo von 2018 bis 2024. Außerdem muss es plausibel sein, dass die Verdopplung größtenteils aus der Automatisierung der Forschung kommt.

Die Formulierungen im November beziehen sich auf den zweiten Fall. Dahinter steht eine alte Sorge der KI-Sicherheitsforschung: KI könnte sich schneller selbst verbessern, als Menschen das noch überprüfen können. Yahoo Finance erinnert daran, dass Anthropic-Chef Dario Amodei 2023 zu den KI-Führungskräften gehörte, die das „Risiko der Auslöschung durch KI“ als globale Priorität neben Pandemien und Atomkrieg bezeichneten. Die Überschreitung der Schwelle bedeutet allerdings keinen Stopp, sondern zusätzliche Schutzmaßnahmen.

Welche Schutzmaßnahmen jetzt fällig werden

Für diese Stufe verpflichtet die RSP Anthropic unter anderem zu Folgendem:

• Abwehr der stärksten Angreifer: Anthropic muss ehrgeizige, auch unkonventionelle Sicherheitsprojekte finanzieren, um selbst die bestausgestatteten Angreifer der Welt abzuwehren. Gemeint sind etwa staatliche Hacker, die Modelle stehlen wollen.
• Zentrale Protokolle: Alle kritischen Entwicklungsarbeiten werden zentral aufgezeichnet. KI-Modelle durchsuchen diese Protokolle nach Bedrohungen, zum Beispiel nach auffälligem Verhalten eines Mitarbeiters oder eines KI-Systems.
• Systematische Verhaltensprüfungen: Claudes Verhalten wird regelmäßig untersucht. Die internen Teams, die Anthropics eigene Schutzmaßnahmen angreifen (sogenanntes Red-Teaming), sollen dabei mehr Schwachstellen finden als externe Forscher, die über Bug-Bounty-Programme bezahlt werden, also über Prämien für gemeldete Sicherheitslücken.
• Risikoberichte: Anthropic veröffentlicht Berichte zum Stand dieser Maßnahmen. Mindestens ein unabhängiger externer Experte prüft sie.

Eine weitere Pflicht kann besonders folgenreich werden. Sie gilt, wenn Anthropic ein Modell jenseits dieser Schwelle hat oder bald haben wird und klare Belege zeigen, dass kein Konkurrent bald nachzieht. Dann braucht Anthropic ein überzeugendes Argument dafür, dass das Risiko einer Katastrophe beherrscht ist. Notfalls muss das Unternehmen Entwicklung und Veröffentlichung seiner Modelle so lange hinauszögern, wie es einen deutlichen Vorsprung zu haben glaubt.

Im Prospekt schreibt Anthropic außerdem, man erwäge Regeländerungen, um „Menschen die Kontrolle über die Entwicklung von Frontier-Modellen zu erhalten“. Frontier-Modelle sind die jeweils leistungsfähigsten KI-Modelle. Im Gespräch ist auch, dass Menschen bestimmte Forschungsentscheidungen prüfen und freigeben müssen, weil die Modelle einen immer größeren Teil dieser Arbeit übernehmen.

Claude arbeitet an seinem eigenen Nachfolger mit

Der Prospekt zeigt, wie weit die Automatisierung bei Anthropic schon reicht. Die Modelle schreiben demnach „einen großen und wachsenden Anteil“ des Codes. Zunehmend erledigen sie auch Forschung, einschließlich der Sicherheitsforschung. Anthropic beziffert den Wert der internen Claude-Nutzung zu Listenpreisen: Er ist zwischen Januar und September 2026 um mehr als das 250-Fache gestiegen. Im April 2026 lag der monatliche Wert erstmals über den monatlichen Lohnkosten des Unternehmens, Aktienvergütungen nicht eingerechnet.

Das Unternehmen warnt selbst, es könne „die Übersicht über bestimmte Prozesse verlieren“. Diese Prozesse könnten dann für Menschen schwer zu verstehen und zu kontrollieren sein. Gleichzeitig betont Anthropic, man erwarte nicht, Claude sicher einsetzen zu können, um künftige Modellgenerationen „ohne bedeutsame menschliche Aufsicht oder menschliches Verständnis“ vollständig autonom zu entwerfen und zu bauen.

Was die unabhängigen Prüfer von METR sagen

Unterstützung für die Einschätzung kommt von außen. METR ist eine gemeinnützige Organisation, die die Fähigkeiten von KI-Modellen unabhängig bewertet. Am 5. November veröffentlichte sie eine eigene Analyse. Demnach hat Anthropic seine Modelle im Oktober 2026 wahrscheinlich etwa doppelt so schnell verbessert wie zwischen März 2024 und Oktober 2025. Das gilt für klar abgegrenzte Aufgaben. METR betont, die Schätzung sei sehr unsicher: Die tatsächliche Beschleunigung könnte eher beim 1,3-Fachen liegen, aber auch beim 3-Fachen.

In einer zweiten Analyse hat METR den Abschnitt zur automatisierten Forschung in Anthropics Risikobericht vom August 2026 geprüft. Dieser Bericht deckt den Zeitraum bis zum 15. Juli ab und kam zu dem Ergebnis, die Schwelle sei nicht überschritten. METR hält das Gegenargument für „überzogen“ und findet es „plausibel“, dass die Schwelle schon bis Mitte Juli erreicht war. Allerdings neigten die meisten beteiligten Forscher bei METR und Anthropic damals zu der Ansicht, dass sie es noch nicht war.

Anthropic räumt im Prospekt selbst eine Schwäche ein: Viele Belege für das eigene Tempo seien nachlaufende Indikatoren, also Daten, die den Ereignissen hinterherhinken. Eine deutliche Beschleunigung habe man deshalb in der Vergangenheit erst im Nachhinein erkannt, und das könne wieder passieren.

Der Börsengang: Zahlen und Zeitplan

Am 10. November begann Anthropic die Roadshow. Das sind die Investorentreffen, nach denen der endgültige Ausgabepreis festgelegt wird. Angeboten werden 825 Millionen Aktien, davon 801 Millionen von Anthropic selbst, an der Nasdaq unter dem Kürzel „ANT“. Bei 78 Dollar, dem oberen Ende der Spanne, wäre das Unternehmen laut Yahoo Finance rund 1,4 Billionen Dollar wert, wenn man alle potenziell existierenden Aktien mitzählt. Der Handel könnte laut Yahoo Finance, das sich dabei auf ungenannte Quellen beruft, schon am 19. November beginnen. Nvidia und Google kaufen demnach zum Ausgabepreis jeweils Anteile für 10 Milliarden Dollar. Das ist Teil einer Privatplatzierung über 26 Milliarden Dollar, an der auch AMD, Broadcom, Micron, Microsoft und TSMC beteiligt sind.

Crypto Briefing nennt weitere Zahlen aus der Fassung vom 2. November:

In der Prospektfassung vom 26. Oktober hatte Anthropic bereits Verluste für das erste Halbjahr ausgewiesen.

Einordnung

Zum ersten Mal erklärt ein führender KI-Entwickler in einem rechtlich verbindlichen Börsendokument, dass seine eigene Warnschwelle für sich selbst beschleunigende KI erreicht ist. Bemerkenswert ist auch der Zeitpunkt: Die Aussage steht ausgerechnet in der Fassung, die die Preisspanne für den Börsengang festlegt.

Skeptiker haben trotzdem Argumente. Risikoangaben in Börsenprospekten schützen Unternehmen vor dem späteren Vorwurf, wichtige Informationen verschwiegen zu haben. Ray Wang, Gründer der Analysefirma Constellation Research, sagte schon im Oktober, also vor der Bekanntgabe: „Wie in allen S-1-Dokumenten sind die Risiken bewusst übertrieben.“ Dazu kommt, dass die Feststellung auf Erwartungen beruht und nicht auf Messungen an heutigen Modellen.

Vieles bleibt offen. Anthropic nennt kein Modell, keine Messung und keine Kennzahl, die den Ausschlag gegeben hat. In der Pressemitteilung zur Roadshow kommt die Schwelle gar nicht vor. Unklar ist auch, welche Schutzmaßnahmen schon gelten und welche erst kommen. Ebenso offen ist, ob ein Modell als „highly capable“ eingestuft wird. Diese Einstufung würde bei stark geschwärzten Risikoberichten eine vollständige externe Prüfung erzwingen.

Für Firmen, die Claude nutzen, zählt vor allem, wann die nächsten Modelle kommen. Dass Anthropic Veröffentlichungen tatsächlich bremst, ist belegt. Das Frontier-Modell Mythos, dessen Version 5.2 am 9. November angekündigt wurde, gab es zunächst nur für ausgewählte Organisationen für Cybersicherheitsaufgaben, über das Programm Project Glasswing. Das Vortraining eines neuen Basismodells hat Anthropic um mehr als einen Monat verschoben, um zuerst den Schutz vor Modelldiebstahl zu verstärken. Als Nächstes stehen die angekündigten Berichte, die externe Prüfung, die nächste Version der RSP und der endgültige Ausgabepreis an.