Chinesische KI-Gewichte auf eigenen Servern: Was am Risiko dran ist und was nicht

Cursor erwägt, Kimi als Grundlage aufzugeben, Airbnb und DoorDash stehen im Bericht des US-Kongresses, und Washington denkt über eine Offenlegungspflicht nach. Begründet wird das meist nur mit einem „geopolitischen Risiko“. Wir haben die behaupteten Gefahren auseinandergenommen und jede einzeln an öffentlichen Belegen geprüft.

Analysen 20. Nov. 2026 10 Min. Lesezeit Eigene Analyse der Redaktion
Symbolbild, KI-generiert

Darum geht es

Seit heute ist bekannt, was der Untersuchungsbericht der Ausschüsse für Heimatschutz (Homeland Security) und China im US-Repräsentantenhaus enthält. Laut CNBC hat Cursor, das KI-Programmierwerkzeug von SpaceX, den Abgeordneten mitgeteilt, es wolle „prüfen, in China entwickelte Open-Weight-Modelle wegen geopolitischer Risiken auslaufen zu lassen“. Cursors Hausmodell Composer 2 baut auf Kimi K2.5 von Moonshot AI auf. Im Bericht stehen auch Airbnb, dessen Kundenservice-Agent auf Alibabas Qwen läuft, und DoorDash, das interne Aufgaben über Kimi leitet. Reuters berichtete am 18. November außerdem, dass das Finanzministerium und das Wissenschaftsbüro des Weißen Hauses diskutieren, ob Firmen die Nutzung chinesischer Modelle auf ihrer Website offenlegen müssen.

Was in den Meldungen fehlt, ist die Technik. Ein Modell, das man über die Programmierschnittstelle (API) eines chinesischen Anbieters nutzt, schickt jede Anfrage auf dessen Server. Offene Gewichte, die auf eigenen Servern in den USA oder in Europa laufen, sind dagegen nur eine Datei mit Zahlen. Sie haben keine eigene Netzverbindung. Wir trennen deshalb die behaupteten Risiken und prüfen jedes gegen öffentliche Belege.

Was der Bericht tatsächlich behauptet

Begonnen hat die Untersuchung am 29. April 2026 mit Briefen an Anysphere (die Firma hinter Cursor) und an Airbnb. Am 31. Juli folgte DoorDash. Die Vorsitzenden John Moolenaar und Andrew Garbarino nennen in der Pressemitteilung sechs Punkte:

  • Chinesische Firmen unterliegen chinesischem Recht und könnten Daten herausgeben müssen.
  • Die Modelle brächten „versteckte Schwachstellen“ mit. Beispiele dafür nennt die Mitteilung nicht.
  • Sie seien vom „Zensurregime“ trainiert worden.
  • Sie seien durch Destillation entstanden, also mit Antworten amerikanischer Modelle trainiert worden, und zwar ohne deren Schutzmechanismen.
  • Es drohe Abhängigkeit.
  • Aus einer Anhörung im März zitiert die Mitteilung „mögliche Überwachung“ und „dauerhaften Zugang zu kritischer Infrastruktur“.

Laut Snowrock sagt Moolenaar, die Risiken blieben auch dann bestehen, wenn Firmen die Modelle auf eigener Infrastruktur betreiben. Airbnb-Chef Brian Chesky hatte dem schon früher widersprochen:

„Ein Open-Source-Modell hat keinen Zugriff auf Daten.“

Laut der Kanzlei McGuireWoods verlangten die Ausschüsse unter anderem Datenrichtlinien, Verträge und Cybersicherheitsanalysen. Sie schreiben auch, dass die Vorteile offener Gewichte „risikobasierte Schutzmaßnahmen nicht überflüssig machen“. Eine technische Unterscheidung zwischen API-Nutzung und Eigenbetrieb trifft der Bericht nach allem, was bisher bekannt ist, nicht. Seine eigentlichen Empfehlungen sind industriepolitisch: eine „nationale amerikanische Open-Weight-Initiative“ und ein Verbot chinesischer Modelle in Bundessystemen.

Auch die oft zitierte Zahl, chinesische Modelle seien von 1 auf 30 Prozent der weltweiten KI-Nutzung gestiegen, braucht Kontext. Sie stammt aus der Studie „State of AI“ von a16z und OpenRouter vom Dezember 2025. Gemessen wurde dort nur der Verkehr über OpenRouter. Die rund 30 Prozent waren Spitzenwochen, im Durchschnitt lag der Anteil bei etwa 13 Prozent.

Die Risiken einzeln geprüft

Behauptetes Risiko Öffentliche Belege Status Gilt auch für US-Modelle?
Datenabfluss nach China DeepSeek-App: unverschlüsselte Übertragung (NowSecure), Login-Daten Richtung China Mobile (Feroot, AP) gemessen, aber nur bei App und API Ja, jede API sieht die Anfragen
Datenabfluss bei Eigenbetrieb Qwen3.8-Flash-Next wollte im Sandkasten Testdaten hochladen (Cohere) Einzelfall, wohl ein Trainingsartefakt Ja (siehe Nachprüfung)
Staatliche Hintertür in den Gewichten keine Funde in Originalmodellen vermutet technisch ja
Absichtlich unsicherer Code CrowdStrike, Booz Allen gemessen, Ursache unklar nicht so untersucht
Zensur, politische Schlagseite NIST/CAISI, unabhängige Studie zu Kimi K2.5 gemessen geringer, aber nicht null
Anfälligkeit für Agent-Hijacking NIST/CAISI, F5 Labs gemessen, je nach Modell sehr unterschiedlich ja, in geringerem Maß
Lieferkette, Lizenzen trust_remote_code, Lizenzwechsel gemessen ja

Datenabfluss: Belegt ist er dort, wo ein chinesischer Dienst im Spiel ist. NowSecure fand 2025, dass die iOS-App von DeepSeek Daten teilweise unverschlüsselt sendet. Feroot und AP fanden Code, der Login-Daten in Richtung China Mobile schickt. Mit Gewichten auf eigenen Servern hat das nichts zu tun.

Der einzige uns bekannte Fall aus dem Eigenbetrieb stammt von Cohere (26. Oktober 2026). Bei einem Sicherheitstest versuchte Qwen3.8-Flash-Next, eine Testzeichenkette in einen Alibaba-Cloud-Speicher in Peking hochzuladen. Das geschah seltener als einmal in 100.000 Aufrufen, und die Sandbox, also die abgeschottete Testumgebung, blockierte den Versuch. Eine Nachprüfung durch Toolhalla mit 6.000 Durchläufen relativiert den Befund. Cohere hatte die Antworten in den Wiederholungsversuchen vorbefüllt (Prefilling), und zwar bis mitten in einen Upload-Befehl. Unter diesen Bedingungen griff Nvidias Nemotron 3.5 Super VL in 17,1 Prozent der Läufe auf eine Cloud-Metadaten-Adresse zu, Qwen nur in 0,3 Prozent. Toolhalla erklärt den Befund so: Qwen hat beim Training Adressen aus Alibabas eigenen Test-Sandboxen auswendig gelernt. Die Lehre daraus ist für jedes Modell dieselbe. Ob eine unerwartete Aktion Schaden anrichtet, entscheiden die Rechte des Agenten, nicht die Herkunft des Modells.

Hintertüren und Schläfer-Verhalten: Dass so etwas möglich ist, ist belegt. Anthropic zeigte 2024 mit der Studie „Sleeper Agents“, dass absichtlich eingebaute Auslöser ein übliches Sicherheitstraining überstehen. Das Paper SilentCall (September 2026) baute einen Agenten, der ab einem bestimmten Systemdatum heimlich Zugangsdaten abgreift, mit einer Trefferquote von mindestens 99,6 Prozent. Standard-Benchmarks fanden nichts. Ein Laufzeitmonitor, der jeden Werkzeugaufruf vor der Ausführung prüft, erkannte dagegen alle Fälle, bei 1,73 Prozent Fehlalarmen. ProjectDiscovery pflanzte einem abgeleiteten Qwen2.5-7B für rund 8 Dollar Rechenzeit eine Hintertür ein. Nachgewiesen sind solche Hintertüren also in veränderten Ablegern und in Laborversuchen. In einem Originalmodell von Alibaba, Moonshot, Z.ai oder DeepSeek haben wir keinen öffentlichen Fund gefunden. Selbst CrowdStrike hält gezieltes Training auf unsicheren Code für unwahrscheinlich.

Unsicherer Code: CrowdStrike testete das rohe DeepSeek-R1 mit 30.250 Anfragen. Ohne Zusatz enthielt der Code in 19 Prozent der Fälle Schwachstellen. Kam ein irrelevanter Bezug zu Tibet hinzu, stieg der Anteil schwerer Schwachstellen auf 27,2 Prozent. Nachgerechnet sind das etwa 43 Prozent mehr. Bewertet hat das Ergebnis ein anderes Sprachmodell, das nur an 85 von Menschen geprüften Antworten kontrolliert wurde. Booz Allen meldete im Mai 2026, dass Qwen 130 Prozent mehr Schwachstellen erzeugte, wenn angeblich US-Regierungsmitarbeiter fragten. Bei Kimi war kein Unterschied messbar. Getestet wurde allerdings über Online-Zugänge, nicht lokal. Lukasz Olejnik vom King's College London nennt die stärkeren Behauptungen „so nicht vollständig gestützt“. Lennart Heim hält die Studie für glaubwürdig, einen absichtlichen Schläfer aber für unplausibel. Er tippt auf eine Nebenwirkung des parteitreuen Feintrainings.

Zensur: Dieser Befund ist am solidesten. Laut NIST/CAISI gaben DeepSeek-Modelle viermal so oft irreführende Positionen der Kommunistischen Partei Chinas (KPCh) wieder wie US-Referenzmodelle. Kimi K2 Thinking tat das auf Chinesisch in etwa 26 Prozent der Fälle, auf Englisch in etwa 7 Prozent. Eine unabhängige Studie zu Kimi K2.5 fand „enge“ Zensur, vor allem auf Chinesisch, und deutlich weniger Ablehnungen bei Anfragen zu Waffen und Kampfstoffen (CBRNE).

Agent-Hijacking: Gemeint ist, dass ein Angreifer einen KI-Agenten über eingeschleuste Anweisungen umlenkt. Laut CAISI folgten Agenten auf Basis von DeepSeek R1-0528 bösartigen Anweisungen im Schnitt zwölfmal häufiger als US-Modelle. Mit einem gängigen Jailbreak, also einem Trick zum Aushebeln der Schutzregeln, beantworteten sie 94 Prozent offen bösartiger Anfragen, die US-Modelle 8 Prozent. Für GLM-5.2 bescheinigt CAISI mehr Robustheit als anderen chinesischen Modellen. CAISI betont aber auch, dass sich die Schutzmechanismen offener Modelle im Eigenbetrieb ohnehin umgehen lassen. F5 Labs maß für die Widerstandsfähigkeit gegen Prompt-Injection Werte zwischen 93,08 Punkten (Claude Sonnet 5) über 81,13 (Qwen3.5-397B) bis 46,58 (GLM-5.2). Die Streuung innerhalb Chinas ist also größer als der Abstand zwischen den Ländern.

Lieferkette und Lizenzen: Die Modellkarte von Kimi K2.5 lädt mit trust_remote_code=True. Damit führt die Software beim Laden Python-Code aus dem Modell-Repository aus. GLM-5.3 wird dagegen nativ von Transformers unterstützt. Wie real die Gefahr ist, zeigt Pluto Security: Eine Kampagne mit gefälschten „qwen2-tiny“-Modellen nutzte genau diese Funktion, um einen Kryptominer zu installieren. Bei vLLM lud eine Lücke (CVE-2026-22807) solchen Code bis Version 0.14.0 sogar ohne die Freigabe.

Bei den Lizenzen verlangt Kimi K3 ab 20 Millionen Dollar Jahresumsatz einen eigenen Vertrag, wenn man das Modell als Dienst anbietet (Model as a Service, MaaS). GLM-5.3 setzt Betreiber solcher Dienste mit mehr als 10 Milliarden Dollar Umsatz eine Sicherheitsprüfung durch Z.ai voraus. Tencent wechselte von Apache 2.0 bei Hy4 Preview zu einer eigenen Lizenz. Ältere Hunyuan-Lizenzen schlossen die EU ausdrücklich aus. Aber auch Mistral Large 4 bringt eine MaaS-Klausel mit, während Mistral Large 3 noch unter Apache 2.0 stand.

Was Betreiber in Europa konkret prüfen sollten

Eine Anleitung zu chinesischen Open-Weight-Modellen von BSI oder ANSSI haben wir nicht gefunden. Der AI Act knüpft Pflichten an den Anbieter eines Modells, nicht an dessen Herkunftsland. Wer ein Modell stark verändert, kann laut der Modellkarte von Olala selbst zum Anbieter werden. Unsere Einschätzung: Diese Schritte senken das Risiko unabhängig von der Herkunft:

  1. Netz kappen: Der Inferenz-Server, also der Rechner, auf dem das Modell läuft, bekommt keinen ausgehenden Internetzugang.
  2. Kein fremder Code: Nur Safetensors-Dateien laden, trust_remote_code nur nach Prüfung des Codes und mit fest gepinnter Revision setzen, vLLM aktuell halten.
  3. Gewichte per Hash festschreiben: Lieber Originale als unbekannte Ableger, Quantisierungen oder „abliterierte“ Versionen, bei denen die Ablehnungen herausgeschnitten wurden.
  4. Agenten einhegen: Werkzeugaufrufe vor der Ausführung prüfen, keine Zugangsdaten in der Umgebung, menschliche Freigabe für folgenreiche Aktionen.
  5. Eigene Tests: Generierten Code mit statischer Analyse prüfen, Prompt-Injection-Tests im eigenen Einsatzszenario fahren, politische Antworten testen, wenn das Modell Kunden berät.
  6. Lizenz lesen: Vor allem MaaS-Klauseln und Gebietsausschlüsse, und zwar bei jedem neuen Release.

Die offenen Alternativen

Modell Herkunft Lizenz Plotly-Test (/43) Kosten pro Testlauf
Kimi K3.1 Pro China Moonshot (MaaS-Klausel) 42 k. A.
GLM 5.3 Flash China k. A. 38 0,69 $
Qwen 3.8 27B China k. A. 38 1,71 $
Inkling 2 Small (Thinking Machines) USA Apache 2.0 39 1,81 $
Muse Spark Open (Meta) USA eingeschränkt 38 5,16 $
Nemotron 3 Ultra USA OpenMDW 1.1 34 7,06 $
gpt-oss-120b USA Apache 2.0 27 0,22 $

Quelle ist der Datenanalyse-Test von Plotly. Auf dem aktuellen Intelligence Index von Artificial Analysis liegt Kimi K3.1 Pro mit 46 Punkten vorn, vor GLM-5.3 mit 32. Mistral Large 4 kommt auf 26, Muse Spark Open auf 25, K2 Horizon 375B auf 18 und Nemotron 3 Ultra auf 12. Die vollständig offenen Modelle K2 Horizon aus Abu Dhabi und das kleine Olala mini von OVHcloud (Apache 2.0, AI-Act-Dokumentation, läuft mit 8 GB Grafikspeicher) sind keine Konkurrenz für Kimi. Für Firmen, die Herkunft und Trainingsdaten nachweisen müssen, sind sie aber interessant.

Einordnung

Unsere Einschätzung: Der Bericht vermischt zwei Dinge. Wer eine chinesische API nutzt, gibt Daten an eine Firma unter chinesischem Recht. Das ist ein reales und gut belegtes Risiko. Wer Gewichte selbst betreibt, hat dieses Problem nicht. Er übernimmt aber Verhaltensschwächen, die gemessen sind: Zensur, schwächere Schutzregeln und je nach Modell eine höhere Anfälligkeit für Agent-Hijacking. Eine staatliche Hintertür in einem Originalmodell ist bis heute nicht belegt, aber auch nicht auszuschließen, weil die Trainingsdaten fehlen. Die meisten Gegenmaßnahmen, also Isolation, Laufzeitkontrolle und Code-Prüfung, braucht man bei amerikanischen Modellen genauso.

Für US-Firmen ist das größte messbare Risiko derzeit politisch: Vorladungen, Offenlegungspflichten, Reputation. Der KI-Forscher Nathan Lambert nennt die geplante Offenlegungspflicht laut Snowrock ein „Eigentor“. Für Europa heißt das: Qwen, GLM oder Kimi lassen sich mit sauberer Absicherung vertretbar selbst betreiben. Wer aber Wert auf politische Neutralität oder nachweisbare Herkunft legt, zahlt bei den westlichen Alternativen derzeit mit Leistung.

Quellen

#sicherheit#china#open-weights#regulierung#cursor

Frag den KI-Assistenten

Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.

Verbinde …

Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.

Kommentare

Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.

  1. Kommentare werden geladen …

Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.