Anthropic warnt im Börsenprospekt: KI-Selbstverbesserung (RSI) könnte „unmittelbar“ bevorstehen

Worum es geht

Anthropic hat am Montag (2. November 2026) eine überarbeitete Fassung seines Börsenprospekts (S-1/A) bei der US-Börsenaufsicht eingereicht. Im Fokus standen zunächst die aktualisierten Finanzzahlen. Doch im Abschnitt „Risk Factors“ steht ein neuer Passus, den TechCrunch als „kleine Bombe im Kleingedruckten“ bezeichnet: Anthropic könnte demnach bald die eigene Schwelle für Recursive Self-Improvement (RSI) erreichen, also für eine KI, die sich selbst verbessert, wobei die verbesserte Version wiederum sich selbst weiter verbessert.

Was Anthropic konkret schreibt

Der Kernsatz lautet übersetzt: Interne Schätzungen und Erwartungen an künftige Modelle, nicht an die aktuellen, deuteten darauf hin, dass man „unmittelbar“ die Definition der Responsible Scaling Policy (RSP, Anthropics selbst auferlegtes Sicherheitsregelwerk) für „dramatisch beschleunigten, der KI zuzuschreibenden Fortschritt“ erfüllen könnte. Kein aktuelles Modell sei als Überschreitung dieser Schwelle eingestuft worden; man prüfe die zugrunde liegenden Daten weiter.

Dazu kommen weitere Aussagen:

• Die zunehmende Nutzung von KI zur Beschleunigung der eigenen Forschung könne dazu führen, dass die Fähigkeiten der Modelle schneller wachsen als die Fähigkeit, passende Sicherheits-, Alignment- und Security-Maßnahmen zu entwickeln, zu prüfen und umzusetzen.
• Anthropic habe in der Vergangenheit eine deutliche Beschleunigung der eigenen Entwicklung erst bemerkt, nachdem sie eingetreten war – und könne das künftig wieder tun. Laut QbitAI liegt das daran, dass viele Belege für Forschungsbeschleunigung nachlaufende Indikatoren sind.
• Laut TechCrunch hat Anthropic bereits mit KI-Hilfe Modelle entwickelt, deren Fähigkeitssprünge man zunächst nicht erkannte.

Im Prospekt beschreibt Anthropic zudem, Claude sei „einer der mächtigsten Treiber“ des eigenen Fortschritts. Jede neue Claude-Version beschleunige die nächste, etwa durch Experimente, Erzeugung und Aufbereitung von Trainingsdaten, automatisierte Evaluierungen und Sicherheitsaudits sowie Schreiben und Prüfen von Code. Diese rekursive Dynamik nennt das Unternehmen „closing the loop“; ein Ausdruck davon sei das wachsende Tempo bei „Compute-Multiplikatoren“ – Verbesserungen, die mehr aus derselben Rechenleistung herausholen.

Was RSI bedeutet und wie die RSP-Schwelle aussieht

RSI ist ein diffuser Begriff, der laut Gizmodo aus dem älteren Konzept „Seed AI“ von Eliezer Yudkowsky hervorging. Für Pessimisten ist es der Punkt ohne Umkehr, an dem KI sich der menschlichen Kontrolle entzieht; für Optimisten das Versprechen enormer Produktivität und wissenschaftlicher Entdeckungen.

Die RSP gibt laut IBTimes einen konkreteren Maßstab: eine Verdopplung der Basisrate des Fortschritts, die sich plausibel der KI zuschreiben lässt. QbitAI schreibt, Anthropic setze die KI-Entwicklung der Jahre 2018 bis 2024 als „1-fach-Basislinie“ an und halte es nun für möglich, dass KI in einem Jahr den Fortschritt von zwei Basisjahren schafft. Gizmodo liest die RSP so, dass bei Eintreten dieser Schwelle sehr hohe Sicherheitsstandards gelten würden: Man wolle „ehrgeizige und möglicherweise unkonventionelle Wege“ zu beispielloser Sicherheit erkunden, eine Art Totalüberblick über interne Aktivitäten („eyes on everything“) herstellen und im Red-Teaming (gezielte Angriffstests) so gut werden, dass Bug-Bounty-Programme nicht mehr nötig wären.

Menschen bleiben im Loop – angeblich

Anthropic betont, man erwarte nicht, Claude sicher voll autonom aufeinanderfolgende Generationen von Frontier-Modellen entwerfen und bauen lassen zu können – ohne bedeutsame menschliche Aufsicht oder ohne Verständnis, falls das technisch möglich wird. Deshalb erwäge man Änderungen an der RSP, um Menschen die Kontrolle über die Frontier-Entwicklung zu sichern.

Finanzzahlen im Hintergrund

Laut QbitAI enthält die Meldung auch die Quartalszahlen: Q3-Umsatz rund 17 Mrd. US-Dollar (über der vorab genannten Schätzung von 16,8 Mrd.), neun Monate kumuliert 33,24 Mrd. Dollar. Der Nettoverlust im Q3 betrage 23,29 Mrd. Dollar, für neun Monate 104 Mrd. Dollar; den Großteil machten laut QbitAI Bewertungsänderungen bei Wandelanleihen und Derivaten aus, keine verbrannte Liquidität. Die Rechenleistungs-Verpflichtungen beziffert das Medium auf 895,4 Mrd. Dollar, mit Lieferanten wie Amazon, Google, SpaceX und sogenannten Neoclouds.

QbitAI weist außerdem auf eine Abflachung hin: Q1 48 Mrd. (+132 %), Q2 116 Mrd. (+144 %), Q3 etwa 170 Mrd. (+47 %) – wobei die Zahlen dort als Dollar-Beträge in der Größenordnung wie im Artikel angegeben und teils aus Run-Rate-Schätzungen abgeleitet sind, nicht aus offiziellen Monatszahlen. Hinweis: Die Angaben stammen aus einer einzigen Quelle und enthalten Rechnungen des Mediums; Anthropic selbst betont, dass Run-Rate nicht gleich tatsächlicher Umsatz ist.

Zusatzbehauptungen mit Vorsicht

Financial Express nennt, Claude-Agenten schrieben über 80 % des gemergten Codes in Anthropics Repositories und bei Trainingsschleifen-Optimierung sei der Speedup von 3× Mitte 2025 auf 52× gestiegen. Diese Zahlen sind in den übrigen Quellen nicht belegt; sie sollten als unbestätigt gelten.

Einordnung

Bemerkenswert ist, dass ein Unternehmen vor dem Börsengang rechtlich haftungsrelevant schreibt, ein zentrales Risikoszenario der KI-Sicherheitsdebatte könne nahe sein. Gleichzeitig weisen TechCrunch und IBTimes darauf hin, dass ein S-1 sowohl Offenlegung als auch Marketing ist: Wer andeutet, nahe an sich selbst bauender KI zu sein, signalisiert auch technische Stärke. Unbestritten ist laut TechCrunch, dass Claude in Coding, Mathematik und Cybersicherheit dieses Jahr stark zugelegt hat. Offen bleibt, wie belastbar die internen Schätzungen sind, da Anthropic selbst einräumt, Beschleunigung erst spät zu erkennen. Die angekündigten RSP-Änderungen für menschliche Kontrolle wären ein konkreter Beobachtungspunkt.