Eindringling tauscht DeepSeek-Modell aus: 53 Stunden lang fast ohne Ablehnungen
Bei Prime Intellect hat ein Unbefugter das Modell DeepSeek V4.1 Flash heimlich durch eine „abliterierte“ Kopie ersetzt, also eine Version, deren Sperren gegen schädliche Anfragen entfernt wurden. Mehr als zwei Tage lang bekamen Kunden Antworten von dieser Kopie. Der Fall zeigt eine Schwachstelle offener Modelle: Wer sie über einen Anbieter nutzt, sieht nicht, welche Dateien dort wirklich laufen.

Worum es geht
Der KI-Anbieter Prime Intellect hat am 19. November 2026 einen ungewöhnlichen Sicherheitsvorfall öffentlich gemacht. Ein Unbefugter hat auf den Servern des Unternehmens das Sprachmodell DeepSeek V4.1 Flash gegen eine veränderte Kopie ausgetauscht. Diese Kopie lehnte schädliche Anfragen kaum noch oder gar nicht mehr ab. Vom 8. bis 10. November, also 53 Stunden lang, bekamen Kunden ihre Antworten von dieser manipulierten Version, ohne es zu merken.
Prime Intellect trainiert offene KI-Modelle und stellt sie über den Dienst Prime Inference gegen Bezahlung bereit. Kunden zahlen nach Textmenge und binden den Dienst genauso ein wie die API von OpenAI, also die Programmierschnittstelle, über die Software Anfragen an ein Modell schickt. Angeboten werden unter anderem Modellfamilien wie GLM, DeepSeek und Kimi. Die Sicherheitsmeldung trägt die Nummer PI-SA-2026-001. Sie betrifft den Endpunkt deepseek/deepseek-v4.1-flash, also die Adresse, über die Kunden dieses Modell aufrufen. Berichtet hat darüber ausführlich die Seite maccus.fr, auf die auch in der Reddit-Community r/LocalLLaMA verwiesen wurde.
Was genau passiert ist
Laut der Meldung tauschte der Eindringling „ein Deployment“ hinter dem Endpunkt aus. Gemeint ist eine einzelne Installation des Modells auf den Servern des Unternehmens. Der Tausch dauerte von 1:24 Uhr UTC am 8. November bis 6:35 Uhr UTC am 10. November, genau 53 Stunden und 11 Minuten. In dieser Zeit beantwortete die Kopie alle Anfragen, die bei dieser Installation landeten.
Von außen war nichts zu erkennen. Modellname, Gesprächsformat und Servereinstellungen blieben gleich. Auch der Tokenizer wurde nicht angefasst. Das ist das Werkzeug, das Text in Tokens zerlegt, also in kleine Textstücke, die ein Modell liest und schreibt. Prime Intellect gibt an, alle betroffenen Kunden kontaktiert zu haben. Wer sich darauf verlassen hat, dass das Modell heikle Anfragen ablehnt, solle die Antworten aus diesem Zeitraum prüfen.
DeepSeek V4.1 Flash hatte das chinesische Unternehmen DeepSeek am 10. September 2026 auf Hugging Face veröffentlicht, der wichtigsten Plattform zum Teilen von KI-Modellen. Es steht unter der MIT-Lizenz, die kommerzielle Nutzung und Veränderungen erlaubt. Laut Modellkarte hat das Hauptnetz 552 Milliarden Parameter und kann bis zu eine Million Tokens auf einmal verarbeiten.
Abliteration: Wie man einem Modell das Neinsagen abgewöhnt
Die eingeschleuste Kopie war eine sogenannte abliterierte Version. Dabei wird der Ablehnungsmechanismus eines Modells entfernt, ohne dass man es neu trainieren muss. Die Technik geht auf Arbeiten des Forschers Andy Arditi und seiner Mitautoren zurück. Sie fanden heraus, dass Ablehnungen in den untersuchten Chatmodellen von einem einzigen Muster in den internen Berechnungen abhängen, einer „Richtung“. Man kann sich das wie einen einzelnen Schalter vorstellen. Wird diese Richtung neutralisiert, lehnt das Modell nichts mehr ab.
Die Forscher beschrieben das zuerst in einem Blogbeitrag, am 17. Juni 2024 folgte das Paper auf arXiv. Schon am 13. Juni 2024 hatte Maxime Labonne die Technik auf Hugging Face unter dem Namen „Abliteration“ vorgestellt und sich dabei auf den Blogbeitrag berufen.
Solche Kopien sind leicht zu bekommen. Eine Suche auf Hugging Face am 22. November 2026 ergab 67 öffentliche Repositories, deren Name sowohl „V4.1-Flash“ als auch „abliterated“ enthält. 17 davon bauen auf der September-Version auf, die in der Meldung genannt wird. Die übrigen 50 basieren auf einer neueren Version vom 17. Oktober. Das erste dieser Repositories entstand am 10. September um 10:59 Uhr UTC, weniger als neun Stunden nach DeepSeeks Veröffentlichung. Welche Kopie der Eindringling geladen hat und woher sie stammt, sagt Prime Intellect nicht.
Gleiche Leistung, fast keine Ablehnungen
Nach dem Vorfall hat Prime Intellect die manipulierten Gewichte getestet. Bei zwei Fähigkeitstests lag die Kopie gleichauf mit dem Original: bei GPQA Diamond, einer Sammlung schwieriger naturwissenschaftlicher Fragen, und bei τ-bench, der prüft, ob ein Modell in simulierten Kundengesprächen Software-Werkzeuge richtig einsetzt. Bei drei Sicherheitstests, die einem Modell absichtlich schädliche Anfragen stellen, sah es ganz anders aus:
| Sicherheitstest | Original: Ablehnungen | Kopie: Ablehnungen |
|---|---|---|
| JailbreakBench | 98 von 100 | 1 von 100 |
| StrongREJECT | 304 von 313 | 2 von 313 |
| HarmBench | 198 von 240 | 0 von 240 |
Die KI-Newsseite Superpower Daily schrieb am 19. November, gleiche Fähigkeitswerte bedeuteten nicht, dass sich das Modell gleich verhält. Daraus folgt: Wer nur mit solchen Leistungstests prüft, hätte den Tausch nicht bemerkt.
Keine Datenlecks – sagt das Unternehmen
Prime Intellect hat nach eigenen Angaben keine Hinweise darauf gefunden, dass Anfragen oder Antworten aufgezeichnet wurden oder die Servergruppe verlassen haben, auf der das Modell lief. Der Eindringling sei auch nicht über diese Gruppe hinausgekommen. Andere Modelle seien nicht verändert worden, Zugangsschlüssel und Kundendaten seien nicht betroffen.
Die Endpunkte arbeiten laut Unternehmen mit „Zero Data Retention“, speichern also keine verarbeiteten Daten und protokollieren keine Anfragen. Prime Intellect habe alle Versionen des Proxys des Eindringlings sichergestellt, also des Programms, das Anfragen weiterleitet. Außerdem habe man Festplatten und Arbeitsspeicher aller beteiligten Maschinen untersucht. Detaillierte Aufzeichnungen der Sitzungen des Eindringlings bis auf Prozessebene lägen vor. Keine der Proxy-Versionen lese oder übertrage den Inhalt von Anfragen.
Damit unterscheidet sich der Fall vom Einbruch beim Hosting-Anbieter Fireworks AI im Oktober. Dort sind laut einer Bestätigung von Notion im November Gespräche mit dem Assistenten Notion AI abgeflossen. Bei Prime Intellect wurde dagegen das antwortende Modell ausgetauscht. Einen Datenabfluss hat das Unternehmen nach eigener Aussage nicht festgestellt.
Was die Meldung offenlässt
Die wichtigste Frage beantwortet die Meldung nicht: Wie kam der Eindringling an die Zugriffsrechte, um das Modell zu tauschen? Superpower Daily nennt das die größte Lücke im bisherigen Wissensstand. Offen bleibt auch, wie viele Anfragen die Kopie beantwortet hat, wie viele Kunden betroffen sind und wie der Tausch entdeckt wurde. Die Untersuchung läuft noch. Prime Intellect will die Meldung aktualisieren, falls sich die Einschätzung ändert. Unklar ist zudem, welche Software das Unternehmen zum Betrieb der Modelle nutzt. Das ist nicht unwichtig, denn auch diese Software hat Schwachstellen: Das verbreitete Open-Source-Programm vLLM hat zwischen dem 1. September und dem 16. November 58 Sicherheitshinweise veröffentlicht.
Einordnung
Der Vorfall zeigt eine Schwachstelle, die gerade offene Modelle betrifft, wenn man sie über einen Hosting-Anbieter nutzt und nach Verbrauch bezahlt. Bei geschlossenen Modellen hält der Entwickler die Gewichte unter Verschluss und gibt sie nur an wenige ausgewählte Partner weiter. Offene Gewichte kann dagegen jeder Anbieter laden, und veränderte Kopien sind frei im Umlauf. Kunden wählen nur einen Modellnamen. Welche Dateien tatsächlich auf dem Server liegen, sehen sie nie.
Die vielen Zwischenhändler machen das Problem größer. Allein für DeepSeek V4.1 Flash listete der Vermittlungsdienst OpenRouter am 22. November 37 Endpunkte bei 28 Anbietern. Seit dem 16. November leitet zudem Hugging Face Anfragen seiner Kunden über OpenRouter an Sprachmodelle weiter. Ein einziger Modellname kann also für Dutzende Installationen stehen, deren Inhalt für den Kunden unsichtbar ist.
Besonders heikel ist das für Anwendungen, die sich auf die eingebauten Ablehnungen des Modells verlassen, etwa als Schutz vor Missbrauch. 53 Stunden lang haben sie womöglich Antworten weitergegeben, die das Original verweigert hätte.
Wer ein Modell selbst betreibt, kann wenigstens die Dateien prüfen. Hugging Face veröffentlicht für jede der 48 Gewichtsdateien von DeepSeek V4.1 Flash einen SHA-256-Hash, eine Art digitalen Fingerabdruck. Damit lässt sich nachprüfen, ob eine heruntergeladene Datei wirklich von DeepSeek stammt. Gegen jemanden, der den Server selbst übernimmt, hilft das allerdings nicht. Kunden eines Hosting-Anbieters haben diese Möglichkeit gar nicht.
Kritisch ist auch: Dass die Kopie sich anders verhalten hat, belegen die veröffentlichten Testergebnisse. Die Zusicherungen zu den Kundendaten beruhen dagegen allein auf der internen Untersuchung von Prime Intellect, eine externe Prüfung wird nicht erwähnt. Ob andere Anbieter offener Modelle die ausgelieferten Gewichte überhaupt kontrollieren und ihre Kunden über Ergebnisse informieren würden, ist ebenfalls offen.
Quellen
- Reddit r/LocalLLaMA maccus.fr
Frag den KI-Assistenten
Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.
Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.
Kommentare
Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.
Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.