Moonshot veröffentlicht Kimi K3.1 Pro mit bewusst gedrosselten Cyber-Fähigkeiten

Worum es geht

Moonshot AI, ein Start-up aus Peking, hat am Samstag Kimi K3.1 Pro vorgestellt. Das Unternehmen bezeichnet es als sein leistungsfähigstes Open-Weights-Modell in der Klasse mit 3 Billionen Parametern. Parameter sind grob gesagt die Stellschrauben, die ein Modell beim Training gelernt hat. „Open Weights“ heißt: Die Gewichte, also die Dateien, mit denen Entwickler das Modell auf eigenen Systemen betreiben und verändern können, werden veröffentlicht. Moonshot plant das bis zum 4. November. Berichtet hat Reuters, hier nach einer Wiedergabe durch mezha.net.

Cyber-Fähigkeiten bewusst begrenzt

Das Besondere: Moonshot hat Daten mit Cybersicherheitsbezug aus dem Trainingskorpus und aus den Umgebungen des Reinforcement Learnings entfernt. Reinforcement Learning ist ein Trainingsverfahren, bei dem das Modell durch Belohnung für gelöste Aufgaben lernt. Die allgemeinen Programmierfähigkeiten sollen dabei erhalten bleiben. Moonshot erklärt:

Wir wollen vermeiden, offene Gewichte zu veröffentlichen, die die absolute Grenze der Cyber-Fähigkeiten verschieben.

Das Unternehmen betont aber auch, offene Modelle könnten die Sicherheit stärken, weil mehr Organisationen ihre eigene Software prüfen und absichern können, besonders Altsysteme, die wenig Aufmerksamkeit bekommen.

Zahlen aus dem eigenen Test

Der Test bestand darin, Softwareschwachstellen in einer kontrollierten Umgebung zu finden und auszunutzen. Laut Moonshot zeigt der Abstand, dass das Filtern der Daten die Angriffsfähigkeit senkt, wobei das Modell dennoch stärker sei als sein Vorgänger. Die Ergebnisse wurden nicht unabhängig überprüft.

Weitere technische Eckdaten

K3.1 Pro hat ein Kontextfenster von 1 Million Token, kann also sehr viel Text auf einmal verarbeiten. Außerdem gibt es K3.1 Pro Highspeed, das nach Herstellerangaben 2- bis 3-mal schneller läuft als das Standardmodell. Zu Lizenz, Hugging-Face-Repository, Hardwarebedarf oder weiteren Benchmarks nennt die Quelle nichts.

Hintergrund: Sorge vor KI-gestützten Angriffen

Regierungen, Tech-Firmen und Sicherheitsforscher fürchten, KI könne anspruchsvolles Hacking einfacher und billiger machen. Modelle, die Code schreiben, Software-Werkzeuge bedienen und lange mehrstufige Aufgaben erledigen, könnten beim Aufspüren von Lücken helfen und Teile von Angriffen automatisieren. China hat laut dem Bericht in der vergangenen Woche Exportkontrollen vorgeschlagen, die die Ausfuhr von KI-Technik zur Erzeugung und Mutation von Schadsoftware verbieten und KI-gestützte Werkzeuge zur Schwachstellensuche begrenzen würden. Der Entwurf liegt zur öffentlichen Konsultation vor und nennt Risiken für kritische Infrastruktur, Rüstungssysteme und Zentralverwaltungen.

Einordnung

Bei Open-Weights-Modellen gibt es nach der Veröffentlichung kaum Kontrolle: Entwickler können Zugriff schlechter einschränken, Nutzung überwachen oder Schutzmaßnahmen nachziehen als bei gehosteten Diensten. Moonshots Ansatz, das Risiko schon im Training zu verringern, ist deshalb interessant. Offen bleibt, wie wirksam das ist: Die Zahlen sind Herstellerangaben, und 81 % bleiben ein hoher Wert. Zudem lassen sich offene Gewichte später nachtrainieren, wodurch Fähigkeiten womöglich wieder aufgebaut werden könnten; dazu macht die Quelle keine Aussage. Ob das Modell tatsächlich erscheint und wie es sich unabhängig schlägt, zeigt sich nach dem 4. November.