Moonshot stellt Kimi K3.1 Pro vor und schwächt bewusst Hacking-Fähigkeiten ab

Worum es geht

Das Pekinger KI-Start-up Moonshot AI hat am 24. Oktober sein neues Modell Kimi K3.1 Pro vorgestellt. Moonshot bezeichnet es als sein leistungsfähigstes Open-Weight-Modell der Drei-Billionen-Parameter-Klasse. „Open Weight“ heißt: Die Gewichte, also die beim Training gelernten Werte des Modells, werden als Dateien veröffentlicht, sodass andere Entwickler das Modell auf eigenen Systemen betreiben und verändern können. Diese Gewichte will Moonshot bis spätestens 4. November bereitstellen. Bisher sind sie also noch nicht herunterladbar.

Besonders ist die Ankündigung, weil Moonshot ausdrücklich erklärt, die Fähigkeiten des Modells für Cyberangriffe bewusst eingeschränkt zu haben. Hintergrund ist die wachsende Sorge, dass zunehmend autonome KI Hacking erheblich erleichtern könnte.

Wie die Hacking-Fähigkeiten gebremst wurden

Nach Angaben des Unternehmens wurden cyberbezogene Daten sowohl aus dem Trainingskorpus (der Textsammlung, mit der das Modell lernt) als auch aus den Reinforcement-Learning-Umgebungen entfernt. Beim Reinforcement Learning übt das Modell in simulierten Aufgaben und wird für gute Ergebnisse belohnt. Allgemeine Programmierfähigkeiten sollen dabei erhalten bleiben.

Moonshot formuliert das Ziel so:

Wir wollen keine offenen Gewichte veröffentlichen, die die absolute Spitze der Cyber-Fähigkeiten erweitern.

Zahlen zum Cyber-Benchmark

Im eigenen, internen Cyber-Benchmark misst Moonshot, wie gut das Modell in einer kontrollierten Umgebung Software-Schwachstellen findet und ausnutzt.

Laut Moonshot zeigt der Vergleich, dass das Herausfiltern von Cyber-Daten die offensive Leistung senkt. Das Modell übertreffe aber weiterhin seinen Vorgänger. Wichtig: Die Resultate sind nicht unabhängig überprüft. Zudem bleibt eine Differenz von gut 9 Prozentpunkten überschaubar, das Modell ist also weiterhin deutlich zu solchen Aufgaben fähig.

Technische Eckdaten

K3.1 Pro besitzt ein Kontextfenster von einer Million Token. Das ist die Textmenge, die das Modell gleichzeitig verarbeiten kann. Zusätzlich gibt es K3.1 Pro Highspeed, das laut Moonshot zwei- bis dreimal so schnell läuft wie das Standardmodell. Weitere Angaben, etwa zu Lizenz oder zu Benchmarks außerhalb des Cyberbereichs, nennt die Quelle nicht.

Regulatorischer Hintergrund

Regierungen, Tech-Konzerne und Sicherheitsforscher sorgen sich zunehmend, dass KI Hacking einfacher und billiger macht. Modelle, die Code schreiben, Software-Werkzeuge bedienen und lange mehrstufige Aufgaben erledigen, können helfen, Schwachstellen zu finden und Teile von Angriffen zu automatisieren.

China schlug in der Vorwoche Exportkontrollen vor, die den Export von KI-gestützter Technik zur Erzeugung und Mutation von Schadsoftware verbieten und KI-gestützte Werkzeuge zur Schwachstellensuche beschränken sollen. Der Entwurf ist noch zur öffentlichen Kommentierung offen. Er nennt als Risiko den Einsatz gegen kritische Infrastruktur, Rüstungsindustrie und Kernsysteme der Regierung sowie das Umgehen von Sicherheitsvorkehrungen.

Argumente für offene Modelle

Moonshot argumentiert, offene Modelle könnten die Sicherheit verbessern, weil mehr Organisationen ihre eigene Software prüfen und absichern können, auch ältere Systeme, die wenig Aufmerksamkeit erhalten. Dem steht gegenüber: Sind die Dateien erst verbreitet, kann der Entwickler Zugriff kaum noch beschränken, Nutzung überwachen oder Schutzmaßnahmen aktualisieren, anders als bei einem gehosteten Dienst.

Einordnung

Dass ein Hersteller offener Modelle die Cyber-Fähigkeiten öffentlich als Designentscheidung drosselt und Zahlen dazu nennt, ist bemerkenswert und passt zur sich verschärfenden Debatte in China. Offen bleibt, wie robust die Maßnahme ist: Wer die Gewichte hat, kann das Modell weitertrainieren und so Fähigkeiten womöglich zurückholen; dazu macht die Quelle keine Angaben. Auch die Benchmark-Zahlen stammen vom Hersteller selbst. Die tatsächliche Leistung wird sich erst nach der Gewichtsveröffentlichung unabhängig prüfen lassen.