Microsoft verbindet Windows-PCs per USB4-Kabel zum KI-Cluster für große Modelle
Microsoft hat „RDMA over USB4“ vorgestellt: Mehrere Windows-PCs lassen sich mit normalen USB4-Kabeln zusammenschalten und teilen sich dann Speicher und Grafikleistung, um KI-Modelle auszuführen, die für einen einzelnen Rechner zu groß sind. Netzwerkkarten oder Switches braucht man dafür nicht. Bisher richtet sich das an Entwickler, und die Einrichtung ist noch ziemlich aufwendig.

Worum es geht
Microsoft hat am 19. November 2026 eine Funktion namens RDMA over USB4 angekündigt. Damit lassen sich mehrere Windows-PCs über gewöhnliche USB4-Kabel zusammenschalten. Für eine passende KI-Software verhalten sie sich dann wie ein gemeinsamer Rechenverbund, also ein Cluster. Der Speicher und die Grafikleistung aller Geräte werden zusammengelegt. So laufen Sprachmodelle lokal, die in einen einzelnen PC nicht hineinpassen würden.
Vorgestellt wurde das Ganze im USB-Blog von Microsofts Tech Community. Das japanische Magazin Gigazine und das Portal Superpower Daily haben darüber berichtet. Fertig ist die Funktion noch nicht, es handelt sich um eine Entwicklervorschau. Die Open-Source-Komponenten sind schon auf GitHub zu finden. Der Windows-Build, den man dafür braucht, soll laut Microsoft „in Kürze“ im Windows-Insider-Programm erscheinen, und zwar im Experimental-Kanal (Track „Future Platforms“).
Was RDMA ist und warum die Latenz zählt
RDMA steht für Remote Direct Memory Access. Ein Rechner kann damit Daten direkt in den Arbeitsspeicher eines anderen schreiben und umgeht dabei fast den gesamten üblichen Netzwerk-Software-Stapel. Man kann es sich wie eine Rohrpost vorstellen, die direkt im Zielschreibtisch ankommt, statt erst durch Poststelle, Sortierung und Hausverteilung zu laufen. Rechenzentren nutzen das seit Langem. Windows unterstützt RDMA schon über die Programmierschnittstelle NetworkDirect, bisher aber nur zusammen mit teuren, spezialisierten Netzwerkkarten. Neu ist, dass dieselbe Schnittstelle jetzt über USB4 läuft. Laut Microsoft überträgt die Implementierung Daten zwischen registrierten Speicherbereichen, ohne zusätzliche Kopien in der Software anzulegen.
Wichtig ist das wegen einer Technik namens Tensor-Parallelismus. Dabei werden die Berechnungen eines Modells auf mehrere Maschinen aufgeteilt. Die beteiligten PCs müssen dann für jedes erzeugte Token, also jedes Textstück, mehrfach Zwischenergebnisse austauschen. Microsoft betont, dass in so einem Fall die Verzögerung pro Nachricht (Latenz) das Tempo oft stärker bestimmt als die reine Bandbreite.
Genau da soll RDMA over USB4 punkten. Es gibt schon eine andere Möglichkeit, PCs per USB4-Kabel zu vernetzen: „Ethernet over USB4“. Laut Gigazine braucht diese Variante für ein 16-KiB-Datenpaket 194 Mikrosekunden, RDMA over USB4 dagegen nur 50 Mikrosekunden. Das ist ein Faktor von 3,9. Superpower Daily nennt für kleine Nachrichten 28 bis 50 Mikrosekunden Hin- und Rücklaufzeit, also etwa ein Viertel der Latenz von Ethernet-UDP über dieselbe USB4-Leitung. Grundsätzlich reichen USB4-Ports mit 40 Gbit/s. Bei Anwendungen mit sehr langem Kontext, also viel Text, den das Modell auf einmal verarbeiten muss, sollen 80-Gbit/s-Ports aber Vorteile bringen.
Die Benchmarks: mehr Kapazität, begrenzter Zugewinn
Microsoft, AMD und Intel haben erste Messwerte geliefert. Alle stammen von den Herstellern selbst.
AMD-Aufbau: Drei Mini-PCs mit AMD Ryzen AI Max, integrierter Radeon-8060S-Grafik und je 128 GB gemeinsamem Speicher für CPU und GPU, verbunden über 40-Gbit/s-USB4. Darauf lief Qwen3-235B-A22B, ein Modell mit 235 Milliarden Parametern, in einer 4-Bit-Quantisierung (Q4_K_M). Quantisieren heißt, die Zahlen des Modells gröber zu speichern, damit es weniger Speicher braucht. AMD meldet 21,98 Token pro Sekunde bei der Textausgabe (Decode) und 117,98 Token pro Sekunde beim Einlesen der Eingabe (Prefill). Microsoft kam im eigenen Labor auf etwa 18,5 Token pro Sekunde.
Intel-Aufbau: PCs mit Intel Core Ultra Series 3 und je 64 GB Speicher. Laut Microsoft passt gpt-oss-120b damit nicht in einen einzelnen Rechner. Im Verbund ergaben sich diese Werte:
| PCs | Messreihe | Zeit bis zum ersten Token | Ausgabe |
|---|---|---|---|
| 3 | ca. 1.000 Token Kontext | 1,1 s | 49,4 Token/s |
| 4 | ca. 1.000 Token Kontext | 1,2 s | 54,2 Token/s |
| 3 | längerer Kontext | 2,9 s | 49,4 Token/s |
| 4 | längerer Kontext | 3,2 s | 51,7 Token/s |
Die Tabelle bei Gigazine ist an dieser Stelle etwas verrutscht. Die genaue Kontextlänge der zweiten Messreihe lässt sich daraus nicht sicher ablesen. Klar ist aber, was Superpower Daily hervorhebt: Ein vierter PC beschleunigt die Ausgabe nur leicht, und die Wartezeit bis zum ersten Token wird sogar etwas länger. Mehr Rechner bedeuten also vor allem mehr Platz für größere Modelle, aber nicht automatisch mehr Tempo. Superpower Daily weist außerdem darauf hin, dass die AMD- und Intel-Zahlen kein einheitlicher Vergleich sind. Laut Microsoft hängt die Leistung vom Modell, vom Software-Build, vom Speicher und von der GPU ab.
So aufwendig ist die Einrichtung
Die Hardware ist überschaubar: Windows-PCs mit USB4-Ports und USB4-Kabel. Jeder PC muss aber direkt mit jedem anderen verbunden sein. Bei zwei PCs braucht jeder einen Port, bei drei PCs jeder zwei, und so weiter. Hintereinanderschalten (Daisy-Chaining) senkt die Leistung laut Microsoft deutlich. Getestet wurden bis zu drei AMD- und bis zu vier Intel-Rechner. Microsoft bezeichnet diese Plattformen als getestet, aber nicht als einzig kompatibel. Andere Prozessoren könnten also ebenfalls funktionieren.
Laut Superpower Daily kommen weitere Hürden dazu:
- Auf allen PCs müssen derselbe Insider-Build, dieselben Vorschau-Treiber und dieselbe Version des NetworkDirect-Providers laufen.
- Jede USB4-Netzwerkverbindung braucht eine feste IPv4-Adresse in einem eigenen Subnetz.
- Man muss Test-Signing aktivieren, also erlauben, dass nicht offiziell signierte Treiber laden. Dafür ist Secure Boot abzuschalten. Microsoft empfiehlt deshalb eigene Testrechner statt des Alltags-PCs und rät, Secure Boot danach wieder einzuschalten.
- Bricht eine Verbindung ab, baut die Transportschicht sie nicht selbst wieder auf. Darum muss sich die Anwendung kümmern.
Code zum Ausprobieren
Zwei Repositories sind bereits öffentlich. Unter github.com/microsoft/windows-usb4-rdma liegt der NetworkDirect-Provider samt Werkzeugen, mit dem RDMA-Befehle über USB4 laufen. Unter github.com/microsoft/llama.cpp-nd-usb4 findet sich eine angepasste Version von llama.cpp, dem verbreiteten Programm für lokale Sprachmodelle, das damit Modelle über einen Windows-Cluster verteilt. Entwickler können ihre Anwendungen schon vorbereiten. Die Anleitung und den passenden Build will Microsoft nachreichen, sobald die Vorschau im Insider-Kanal ankommt.
Einordnung
Die Idee ist naheliegend und für Fans lokaler KI sehr reizvoll. Auf dem Mac verbinden Bastler schon länger mehrere Rechner per Thunderbolt, um riesige Modelle laufen zu lassen. Microsoft bringt jetzt eine vergleichbare, offiziell unterstützte Lösung auf Windows, und die nutzt RDMA statt eines normalen Netzwerkprotokolls. Wer zwei oder drei gut ausgestattete Mini-PCs besitzt, könnte damit Modelle in der Größenordnung von 120 bis 235 Milliarden Parametern ohne Cloud betreiben, und zwar in brauchbarer Geschwindigkeit.
Für Normalnutzer ist das aber noch weit weg. Der Windows-Build fehlt, Secure Boot muss aus, und die Netzwerkkonfiguration ist von Hand zu erledigen. Alle Leistungszahlen stammen von Microsoft, AMD und Intel und sind nicht unabhängig geprüft. Die Intel-Werte zeigen außerdem, dass zusätzliche Rechner nur wenig mehr Tempo bringen. Offen bleibt auch, wie viele Anwendungen außer der Microsoft-Version von llama.cpp die Schnittstelle unterstützen werden. Vorerst ist RDMA over USB4 ein interessantes Angebot an Entwickler, das „Einstecken und loslegen“ kommt noch nicht.
Quellen
- Gigazine (JP) gigazine.net
- superpowerdaily.com superpowerdaily.com
Frag den KI-Assistenten
Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.
Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.
Kommentare
Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.
Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.