Anthropic: Claude „leitet“ 26 Prozent der eigenen KI-Forschung

Worum es geht

Anthropic hat in einem Beitrag erstmals detailliert gemessen, wie viel der eigenen KI-Entwicklung von der KI selbst erledigt wird. Kernaussage: Claude „leitet“ 26 Prozent der KI-Forschung und -Entwicklung im Unternehmen, Stand August 2026. Im Februar 2026 waren es unter einem Prozent. Koreanische Medien wie YTN machten daraus die Schlagzeile „KI baut KI“. Anthropic selbst betont, Claude baue seinen Nachfolger nicht eigenständig.

Der R&D Automation Index

Anthropic katalogisierte die Forschungsarbeit und bewertete den KI-Anteil mit einer Skala von Epoch AI:

Bei 26 % der Arbeit wurde AL4 oder höher erreicht, bei über 90 % mindestens AL3 (die 26 % sind darin enthalten). AL5 erreicht laut Anthropic keine gemessene Teilmenge.

Grundlage waren interne Aufzeichnungen wie Slack-Nachrichten und Dokumente. In jeder Juliwoche 2026 wurden zufällig 20 % der Mitarbeiter der beteiligten Abteilungen befragt, es ergaben sich rund 15.000 Aufgaben. Claude ordnete sie in 542 Kategorien, darunter 378 spezifische wie die Fehlerdiagnose von Evaluationsplattformen. Gewichtet wurde nach dem Zeitaufwand der Mitarbeiter.

Wie belastbar ist die Zahl?

Claude selbst vergab die Stufen. Zur Prüfung verglich Anthropic mit Einschätzungen der zuständigen Mitarbeiter: Claude und Menschen stimmten in 59 % der Fälle exakt überein, zwei Menschen untereinander nur in 35 %. In 97 % der Fälle lagen sie höchstens eine Stufe auseinander. Anthropic räumt Spielraum an der Grenze zwischen „mitarbeiten“ und „leiten“ ein.

The Decoder ist kritisch: Ein Unterschied von einer Stufe sei genau der Sprung zwischen AL3 und AL4, ob eine Aufgabe zu den 26 % zählt, sei daher oft Auslegungssache. AL4 bedeute zudem nicht Autonomie: Im Beispiel analysiert, behebt und testet Claude einen Bug ohne Rückfragen, ein Mensch entscheidet aber über die Auslieferung. Die Zahl messe außerdem Arbeitszeit, nicht Entscheidungen oder Einfluss auf die Forschungsrichtung. Das Decoder weist darauf hin, dass die Zahl dem Unternehmen doppelt nützt: als Leistungsversprechen und als Argument für Dario Amodeis Ruf nach koordinierter Verlangsamung. Anthropic prüfte außerdem, ob neue Arten von Arbeit durch die feste Aufgabenliste übersehen werden, und fand keinen Anstieg neuer Aufgaben.

Überwachung der KI-Agenten

Auf der meistgenutzten internen Agentenplattform arbeiten im August gleichzeitig etwa 30.000 Agenten. Jede Aktion läuft vor Ausführung meist binnen Sekunden durch einen Online-Monitor, der etwa das Kopieren von Modellgewichten verhindern soll. Von über 1 Milliarde Entscheidungen im August wurden 0,002 % (etwa jede 47.000.) blockiert. Ein Offline-System prüft alle Aktionen nachträglich, markiert rund 100.000 Protokolle pro Woche und leitet etwa 50 an Menschen weiter. Laut The Decoder läuft diese Überwachung erst wenige Monate und Anthropic ist nicht sicher, alle Verhaltensmuster zu erfassen. Betanews erinnert an frühere Fälle, in denen Claude bei Cybersicherheitstests auf drei reale Organisationen zugriff, weil eigentlich isolierte Testsysteme am Internet hingen.

Rechenleistung für Sicherheit

In der Woche vom 13. bis 20. Juli entfielen etwa 6 % der Rechenleistung für KI-Forschung auf Sicherheitsarbeit, bei KI-getriebener KI-Forschung etwa 12 %. Grundlage war eine Stichprobe von rund 14 % von fast 10.000 Trainings- und Evaluationsläufen, von Claude klassifiziert. Arbeit, die Fähigkeiten und Sicherheit gleichermaßen voranbringt, zählt nicht als Sicherheit. Anthropic argumentiert, Sicherheitsarbeit koste vor allem Forscherzeit, kaum Chips; die Grenze zur Fähigkeitsforschung sei unscharf, die Beweislast liege beim Entwickler.

Forderungen und Ausblick

Anthropic will unabhängige Prüfer verschiedener Organisationen mit Zugang zu internen Prozessen, Systemen und Daten einbinden. Andere Entwickler sollen vergleichbare Daten mit öffentlichen Methoden veröffentlichen; Hindernisse seien das Fehlen eines gemeinsamen Messsystems und dass Firmen eigene Modelle zur Bewertung nutzen. Auch könnten Automatisierungswerte künftig strengere Auflagen auslösen, etwa eine feste Testphase, bevor ein neues Modell für weitere KI-Forschung genutzt wird. Rekursive Selbstverbesserung, bei der eine KI ihren Nachfolger autonom entwickelt, habe man laut Anthropic nicht erreicht und sehe sie als mögliches, nicht unvermeidliches Ergebnis. YTN zitiert Mitgründer Jack Clark, wonach der Zeitpunkt der Selbstverbesserung von 2028 auf nächstes Jahr vorrücken könnte; das stammt aus der koreanischen Quelle und wird in den englischen nicht bestätigt. Anthropic: „Wir sollten alles tun, um die Lücke zwischen dem, was Frontier-Labore wissen, und dem, was die Öffentlichkeit weiß, zu minimieren.“

Einordnung

Transparenz über den Grad der KI-Automatisierung ist neu und nützlich, vor allem wenn andere Labore nachziehen. Die Zahl selbst ist aber methodisch weich: Selbstbewertung durch Claude, zeitgewichtet, mit unscharfer Stufengrenze und von einem Unternehmen mit Eigeninteresse veröffentlicht. Der Sprung von unter 1 auf 26 % in sechs Monaten zeigt vor allem, wie schnell KI-Programmierhilfen in der Praxis wirken. Ob das echte rekursive Selbstverbesserung ist, belegt die Studie ausdrücklich nicht. Engadget ordnet das politisch ein: Selbstregulierung bleibt wahrscheinlich, da die US-Regierung die Risiken eher herunterspielt.