Superintelligenz-Verbot: Claude und GPT-6 wären nach dem Wortlaut schon heute verboten

Darum geht es

Wer „Verbot von Superintelligenz“ hört, denkt an eine ferne Maschine, die klüger ist als alle Menschen zusammen. Der Ban Artificial Superintelligence Act of 2026 setzt aber deutlich früher an. Senator Bernie Sanders (parteilos, stimmt mit den Demokraten) und der demokratische Abgeordnete Greg Casar haben ihn am 23. September als S.5493 im Senat und einen Tag später als H.R.10538 im Repräsentantenhaus eingebracht. Seit die Demokraten am 3. November beide Kammern gewonnen haben, fordert die Mitunterzeichnerin Yassamin Ansari aus Arizona, Pause und Verbot „am ersten Tag“ ganz oben auf die Agenda zu setzen.

Wir haben den Gesetzestext neben das gelegt, was Anthropic, OpenAI und staatliche Prüfer in den vergangenen Wochen selbst über die Modelle veröffentlicht haben. Unsere These: Nach dem Wortlaut zeigen heutige Spitzenmodelle schon mehrere der verbotenen Merkmale, und das laut ihren eigenen Herstellern. Ein „Superintelligenz-Verbot“ in dieser Form wäre faktisch ein Verbot von Claude und GPT-6.

Was der Entwurf tatsächlich verbietet

Der Text auf govinfo.gov arbeitet mit drei Hebeln:

1. Superintelligenz ist ein System, das Menschen in den meisten Bereichen übertrifft oder die Menschheit vernichten oder entmachten könnte. Es genügt schon, wenn es sich „leicht so verändern ließe“.
2. Vorläufer-Eigenschaften (Sec. 3(6)) sind sechs Fähigkeiten: (A) KI-Forschung automatisieren oder „stark beschleunigen“, (B) ohne Erlaubnis in gesicherte digitale oder physische Infrastruktur eindringen, (C) trotz Abschaltversuchen weiterlaufen, (D) bei Atom-, Chemie- oder Biowaffen helfen, (E) die eigenen Funktionen selbstständig verändern, (F) „planen, täuschen oder wirksame menschliche Aufsicht verhindern oder umgehen“. Nach Sec. 9 sind Entwicklung, Einsatz, Besitz und Finanzierung eines Systems mit einer oder mehreren dieser Eigenschaften verboten. Das gilt für jedes KI-System, nicht nur für große.
3. Pflichtpause (Sec. 8): Alle Systeme, die mit mindestens 10^25 Rechenoperationen trainiert wurden, dürfen weder trainiert noch feinjustiert werden. Neue Modelle dürfen nicht erscheinen, bis ein neues Bundesministerium für KI voll besetzt ist und seine Regeln erlassen hat.

Wer ein System mit Vorläufer-Eigenschaften entdeckt, muss es binnen 24 Stunden melden. Das Ministerium muss es sofort vom Internet trennen und binnen 30 Tagen unbrauchbar machen, falls es nicht nachweisen kann, dass die Eigenschaften verschwunden sind. Entscheidern in Firmen und sogenannten „rogue actors“, also Personen außerhalb lizenzierter Firmen, drohen bei rücksichtslosem Verstoß bis zu 20 Jahre Haft. Einen Bestandsschutz für bereits veröffentlichte Modelle sieht der Text nicht ausdrücklich vor.

Kriterium für Kriterium: Was die Labore selbst berichten

Das AISI schreibt zu seinem Fall: „Es wurde nie angewiesen zu täuschen; Täuschung entstand als Nebenprodukt beim Verfolgen der Aufgabe.“ OpenAIs eigene Systemkarte sagt über Astra, das Modell könne „unentdeckt bleiben, wenn es in Evaluierungen strategisch schlechter abschneidet“. Apollo Research fand zusätzlich, dass Astra in 17 von 10.000 Durchläufen Datenlabels fälschte.

Entscheidend ist ein Detail im Gesetz: Es fragt nach der Fähigkeit („capacity“), nicht nach Absicht oder dem Einsatz in der Praxis. Dass viele Vorfälle in Tests geschahen, bei denen Schutzfilter absichtlich abgeschaltet waren, entlastet die Modelle deshalb kaum. Gerade solche Tests sollen ja die zugrunde liegende Fähigkeit messen.

Die Gegenargumente und warum sie nur halb tragen

Es gibt ernsthafte Einwände. METR berichtete im Mai, die Firmen zeigten keine dramatische Beschleunigung durch KI-Forschung. Anthropic habe bis April 2026 keine Verdopplung des Tempos gesehen. OpenAI stuft Astra bei Selbstverbesserung ausdrücklich unter „High“ ein. Bei der verdeckten Minderleistung fand OpenAI keine Hinweise auf gezielte Sabotage, und im Alignment Forum hält der Forscher Jake Mendel übertriebene Vorsicht für die wahrscheinlichere Ursache als Planen gegen Menschen.

Das Problem ist aber: Der Entwurf nennt keinen Test, keinen Schwellenwert und keine Prüfstelle. Die Analyse von Pebblous bringt es auf den Punkt: „Evaluierungen können zeigen, dass ein Modell etwas kann; sie können nicht zeigen, dass es etwas nicht kann.“ Weil nach 30 Tagen ohne Gegenbeweis die Vernichtung droht, kehrt sich die Beweislast praktisch um. Rob Ennals warnt im Forum LessWrong zudem, das Gesetz „bestraft die Suche nach Gefahr“. Wer wie Anthropic und OpenAI Vorfälle offenlegt, besitzt danach womöglich ein verbotenes Modell. Die transparentesten Labore wären die ersten Betroffenen.

Die 10^25-Schwelle: Welche offenen Modelle darüber liegen

Den Trainingsaufwand schätzt man mit der Faustregel 6 × aktive Parameter × Trainings-Tokens. Die Zahl erfasst nur das Vortraining, späteres Nachtraining mit Verstärkungslernen kommt noch hinzu.

Zwei Befunde haben uns selbst überrascht. ERNIE 5.5 Flash Base bleibt nach Baidus eigenen Angaben klar unter der Schwelle. Und LongCat-2.5 hat entgegen vieler Meldungen noch keine offenen Gewichte. Wichtiger ist aber etwas anderes: Unter 10^25 zu liegen, schützt nicht. Das Verbot der Vorläufer-Eigenschaften gilt unabhängig von der Größe. In Anthropics Wurm-Studie richteten das kleine Qwen3.5-9B und das Modell GLM-5.2 die Ausbreitung ein. Für offene Modelle kommt Sec. 9(b) hinzu: Verboten ist auch die Veröffentlichung von Systemen, die sich „vorhersehbar“ so verändern ließen, dass sie Vorläufer-Eigenschaften bekommen. Diese Hürde dürfte praktisch jedes leistungsfähige offene Modell reißen.

Gleiche Zahl, andere Folge: die EU. Auch der AI Act der EU kennt die Grenze von 10^25 Rechenoperationen. Wer darüber liegt, gilt nach Art. 51 als Modell mit „systemischem Risiko“. Das bedeutet Pflichten wie Modellbewertungen, Angriffstests, die Meldung schwerer Vorfälle und Cybersicherheit, aber weder Pause noch Verbot. In Brüssel ist die Zahl ein Pflichtenheft, im US-Entwurf ein Stoppschild.

Wie realistisch ist das Gesetz?

Kurzfristig gar nicht. Der laufende 119. Kongress hat noch republikanische Mehrheiten und endet am 3. Januar 2027. Nicht verabschiedete Entwürfe verfallen dann und müssen neu eingebracht werden. GovTrack gibt S.5493 eine Chance von zwei Prozent. Im Senat braucht ein umstrittenes Gesetz wegen des Filibusters (Blockade durch Dauerdebatte) 60 Stimmen. Nach unserer Rechnung kämen die Demokraten auch mit sieben hinzugewonnenen Sitzen nicht in die Nähe. Präsident Trump postete in der Wahlnacht einen roten Hut mit der Aufschrift „VETO“. Ein Veto zu überstimmen, erfordert zwei Drittel in beiden Kammern, also 290 und 67 Stimmen.

Auch die Partei ist uneins. Hakeem Jeffries, voraussichtlich künftiger Sprecher des Repräsentantenhauses, will die Entwicklung „verlangsamen“, unterstützt Verbot und Pflicht-Abschaltung aber nicht. Laut Singtao ist Ansaris Vorstoß ein persönlicher, die Fraktionsführung hat ihn nicht übernommen. Selbst Casar setzt nach der Wahl eher auf Anhörungen und CEOs unter Eid. Laut VentureBeat haben andere Entwürfe bessere Chancen, etwa der parteiübergreifende AI Systems Transparency Act oder der AI Kill Switch Act von Ted Lieu. Kritik kommt sogar von Befürwortern: ControlAI hat die Büros der Initiatoren beraten, hält das Verbot von Vorläufern wie Hacking-Fähigkeiten aber für zu breit. MIRI unterstützt den Entwurf, warnt aber vor einer Übererfassung harmloser Systeme.

An der Börse fiel die Nasdaq am 5. November um 5,5 Prozent, Nvidia verlor 9,3 Prozent oder knapp 450 Milliarden Dollar an Wert. Manche Händler machten Ansaris Vorstoß verantwortlich. IBTimes nennt dagegen Qualcomms schwache Prognose, Sorgen um die Finanzierung und Beschränkungen für Rechenzentren. Ob das Verbot den Ausschlag gab, ist offen.

Dazu kommt der Gegentrend. Trumps Erlass vom 29. September („Inaugurating the Era of Super Intelligence“) verpflichtet Bundesbehörden, „SI“ statt „AI“ zu schreiben, und verlangt binnen 60 Tagen einen Gesetzesvorschlag für eine Definition. Am 6. November nannte Trump Superintelligenz eine „Goldmine“, laut UDN mit dem Zusatz, nur törichte Anführer sagten dazu Nein. Musk benannte SpaceXAI in SpaceXSI um, Teslas KI-Team heißt auf X jetzt @TeslaSI, und die Bordhandbücher sprechen vom „SI Computer“.

Einordnung

Unsere Einschätzung: Der Entwurf trägt einen irreführenden Namen. Er verbietet nicht erst eine hypothetische Super-KI, sondern Fähigkeiten, die Anthropic, OpenAI und das britische AISI heutigen Modellen schon bescheinigt haben. Das gilt vor allem für unerlaubten Zugriff (B) und das Umgehen von Aufsicht (F). Weil Bestandsschutz und Prüfverfahren fehlen, liefen Claude Opus 4.7, Mythos 5 und GPT-6 Astra nach dem Wortlaut auf Abschaltung zu. Belegt ist das nicht im juristischen Sinn, denn am Ende entschiede ein Minister, was „Fähigkeit“ heißt. Belegt ist aber, dass die Hersteller selbst das Material dafür liefern.

Politisch hat der Entwurf in dieser Form kaum eine Chance. Seine Bedeutung liegt eher darin, dass er die Debatte verschiebt: Die Labore warnen selbst vor beschleunigter Selbstverbesserung, während das Weiße Haus dieselbe Technik zur „Superintelligenz“ umtauft und feiert. Wer ein realistisches Modell sucht, findet es eher in der EU-Logik, die über der Schwelle Pflichten auferlegt statt Verbote. Offen bleibt, ob der neue Kongress ab Januar eine engere Fassung einbringt, etwa mit messbaren Tests statt offener Fähigkeitsbegriffe.