RAM fünfmal so teuer: Was sich für lokale KI jetzt noch lohnt – vier Setups im Check

Darum geht es

Über die Speicherkrise wird meist aus Sicht von Leuten berichtet, die einen Laptop oder ein Handy kaufen wollen. Wer KI-Modelle auf dem eigenen Rechner laufen lässt, trifft sie härter. Am stärksten verteuert hat sich ausgerechnet der normale Arbeitsspeicher (RAM). In ihn lagert man große Mixture-of-Experts-Modelle (MoE) aus. Solche Modelle befragen pro Wort nur einen kleinen Teil ihrer „Experten“ und vertragen es deshalb gut, wenn diese Experten im langsameren RAM statt auf der Grafikkarte liegen. Gleichzeitig hat die Open-Source-Szene in den vergangenen Wochen Software nachgelegt, die aus vorhandener Hardware spürbar mehr herausholt.

Unsere These kurz vor Black Friday: Heute bringt Software-Geschick mehr als ein Hardware-Kauf. Um sie zu prüfen, haben wir deutsche Preisverläufe, Messwerte von GitHub und aus Community-Tests sowie API-Preise zusammengetragen und vier typische Setups durchgerechnet. Selbst gemessen haben wir nichts. Alle Geschwindigkeiten stammen aus den genannten Quellen.

Die Preislage: Faktor fünf beim RAM

Die Marktdaten der letzten Tage sind eindeutig. Laut Counterpoint Research stieg der weltweite DRAM-Umsatz im dritten Quartal 2026 um 369 Prozent auf fast 200 Milliarden Dollar. Ausgeliefert wurden dabei nur rund 4 Prozent mehr Bits, das Plus kommt also fast vollständig aus dem Preis. Analyst Jeongku Choi sagt dazu:

„Käufer konkurrieren inzwischen um Liefermengen, statt über den Preis zu verhandeln.“

Laut Counterpoint bleiben die Preise auch 2027 hoch. Große neue Fabriken liefern erst ab 2028. SK Hynix erwartet laut PCWorld, dass die Nachfrage die Produktion bis 2030 übersteigt, und hat mehr als die Hälfte seiner Produktion für 2027 und 2028 schon per Langfristvertrag vergeben. TrendForce rechnet für das vierte Quartal mit weiteren 10 bis 15 Prozent bei den Vertragspreisen. Laut einer dpa-Meldung vom 8. November waren Grafikkarten im September nach NIQ-Zahlen fast doppelt so teuer wie ein Jahr zuvor, Desktop-PCs kosteten 41 Prozent mehr. Sony-Chef Hiroki Totoki deutete an, dass die PlayStation 6 wegen der Speicherknappheit erst 2028 kommen könnte.

In den USA kostete das günstigste 32-GB-Kit DDR5-6000 laut Capital and Compute im April 2025 noch 59 Dollar, am 3. November 2026 waren es 429 Dollar, also mehr als das Siebenfache. Für Deutschland nutzen wir den Speicherkrise-Index von 3DCenter. Er erfasst monatlich das günstigste lieferbare Angebot bei Geizhals. Die Werte für Oktober 2025 haben wir aus dem dort ausgewiesenen Jahresplus zurückgerechnet.

Konkrete 32-GB-Kits von Corsair und Kingston stehen bei Geizhals Anfang November bei 565 bis 620 Euro, also noch über dem 3DCenter-Wert. Eine Beobachtung, die uns überrascht hat: Apples fest verlöteter Speicher ist weit weniger teurer geworden als einzelne RAM-Riegel. Billig sind die Macs trotzdem nicht. Laut ComputerBase kostet der Sprung von 96 auf 256 GB beim Mac Studio inzwischen 4.400 statt 2.000 Euro.

Was die Software in den letzten Wochen geändert hat

Am 7. November wurde in llama.cpp, der wichtigsten Grundlage für lokale Sprachmodelle, der MoE-Cache gemergt (Pull Request #30966 von Entwickler am17an). Bisher galt beim Auslagern: Die Experten liegen im RAM und werden bei Bedarf über PCIe, die Steckverbindung zwischen Grafikkarte und Mainboard, zur Grafikkarte geschickt. Der Cache hält nun die am häufigsten gebrauchten Experten dauerhaft im Grafikspeicher (--moe-cache-mib). Fehlt ein Experte im Cache, kann ein Teil dieser Fälle direkt vom Prozessor berechnet werden, statt ihn erst hochzuladen (--moe-cache-cpu-share). Ein Tuning-Skript startet den Server sechsmal, misst ein paar Minuten lang und schlägt dann passende Werte vor.

Die Nutzer-Messungen im Pull Request:

*Bei der 3090 ist der Ausgangswert ein kleiner Cache ohne Prozessoranteil. t/s steht für Token pro Sekunde.

Die Zahlen muss man richtig lesen. Das System hinter den Werten für 2080 Ti und 5060 Ti hat laut dem Tester RAM mit 136 GB/s Bandbreite, deutlich mehr als ein normales DDR5-System mit zwei Speicherkanälen. Die Prognose des Skripts lag bei der 5060 Ti klar über dem Messwert. Ein Lemmy-Nutzer mit Ryzen 2600, 32 GB DDR4 und einer RTX 2080 mit 8 GB schreibt, seine Alltagswerte lägen etwa 20 Prozent unter der Prognose, er sehe aber trotzdem „die schnellsten Werte, die ich je in llama.cpp auf meinem Rechner gesehen habe“. Es gibt auch Rückschläge. Ein Tester fand die Prozessor-Auslagerung auf seinem System meist langsamer und kam per Handeinstellung auf 45 t/s. Mit dem Vulkan-Backend wurde die Ausgabe bei einem Nutzer zu Zeichenmüll, und mit geladenem Bildmodul überschätzte das Skript den freien Grafikspeicher. Laut Dokumentation hilft der Prozessoranteil außerdem nur, wenn die Experten fest im RAM verankert sind (etwa mit -lm mlock). Das Modell muss also wirklich in den Arbeitsspeicher passen.

Die zweite Stellschraube ist die Quantisierung: Das Modell wird kleiner, indem man seine Zahlen gröber speichert. PrismMLs Bonsai 27B speichert pro Gewicht nur ein Bit und kommt so auf 3,9 GB. Laut Hersteller behält es etwa 89,5 Prozent der Leistung von Qwen3.6-27B, beim Aufrufen von Werkzeugen sind es aber nur 66 statt 80 Punkte. Die ternäre Variante Ternary Bonsai 2 27B, bei der jedes Gewicht nur −1, 0 oder +1 sein kann, ist 5,95 bis 7,21 GB groß. Sie braucht allerdings PrismMLs eigene llama.cpp-Version. Mit dem normalen llama.cpp liefert ein älteres Format laut OrcaRouter flüssig klingenden Unsinn. Unsloth verspricht für seine neuen „Dynamic V3.1“-Dateien von Qwen3.8-Flash-Next 50 Prozent weniger Denk-Token und 15 Prozent mehr Genauigkeit als gleich große Quantisierungen. Das sind Herstellerangaben. Die kleinste Datei ist dabei immer noch 72,5 GB groß.

Vier Setups durchgerechnet

Bei den Preisen haben wir nur die KI-relevanten Teile eingerechnet, also Grafikkarte und RAM bzw. den ganzen Mac. Gehäuse, Mainboard und Prozessor fehlen.

Einige Anmerkungen dazu. Bei der 3090 stammt die 157-t/s-Messung von InsiderLLM (llama-bench, kurzer Kontext). Bei 64K Kontext nennt dieselbe Quelle 80 bis 101 t/s. Die Werte für dichte 27B-Modelle stammen von Hardware-Corner und aus Community-Berichten zur Vorgängergeneration. Unsere Einschätzung: Für die 35B-A3B-Klasse braucht die 3090 die teuren 64 GB gar nicht. Und für Qwen3.8-Flash-Next reichen 64 GB nicht: Die IQ4-Datei hat 93,7 GB, der 3090-Tester im Pull Request nutzte 96 GB RAM.

Beim Mac mini mit M5 Pro und 64 GB (3.099 Euro) nennt PrismML 44,2 t/s für Bonsai 27B. Das ist eine Herstellerangabe. Zum reinen CPU-Betrieb haben wir überschlagen: DDR5-6000 mit zwei Kanälen schafft theoretisch 96 GB/s. Ein Modell mit 3 Milliarden aktiven Parametern bei etwa 4,5 Bit liest pro Token rund 1,7 GB. Das ergibt eine theoretische Obergrenze von knapp 60 t/s, in der Praxis erreicht man erfahrungsgemäß etwa die Hälfte. Das passt zu den genannten 22 bis 26 t/s.

Die Rechnung gegen die Cloud

Qwen3.6-35B-A3B kostet bei OpenRouter laut mehreren Preisvergleichen etwa 0,15 Dollar pro Million Eingabe-Token und 1,00 Dollar pro Million Ausgabe-Token. Qwen3.8 Flash, die gehostete Version von Flash-Next, kostet 0,15 bzw. 0,47 Dollar. DeepSeek V4.1 Flash kostet direkt beim Anbieter zur Hauptzeit 0,30 bzw. 1,20 Dollar, nachts die Hälfte.

Unsere Beispielrechnung für das 5060-Ti-Setup: Bei 60 t/s dauert eine Million Ausgabe-Token gut 4,5 Stunden. Bei angenommenen 250 Watt und 35 Cent pro Kilowattstunde kostet der Strom dafür etwa 40 Cent. Gegenüber der API spart man also grob 60 Cent pro Million Token (den Wechselkurs lassen wir für die Größenordnung außen vor). Damit sich 1.246 Euro amortisieren, müsste die Karte rund zwei Milliarden Token erzeugen. Das wären über ein Jahr Dauerbetrieb rund um die Uhr. Wer am Tag 100.000 Token erzeugt lassen, zahlt bei der API rund drei Dollar im Monat. Beim Mac Studio gegen Flash-Next zu 0,47 Dollar sieht die Rechnung noch schlechter aus.

Lohnt sich das Warten?

Keine der Prognosen sieht vor 2028 eine echte Entspannung. Der Blog OpenClawDC rät Bastlern deshalb, das Budget von RAM auf Grafikspeicher umzuschichten, weil das Auslagern bei rund 17 Dollar pro GB nicht mehr günstig sei:

„Die Billig-RAM-Strategie war billig. Das ist sie nicht mehr.“

Das Problem: Auch Grafikkarten haben sich fast verdoppelt oder verdreifacht. Verlöteter Speicher wie bei Apple ist relativ am wenigsten teurer geworden, lässt sich aber später nicht aufrüsten.

Unser Fazit

Die These stimmt, aber nur für eine Gruppe. Wer schon eine Karte mit 8 bis 16 GB und 32 GB RAM besitzt, sollte llama.cpp aktualisieren, das Tuning-Skript laufen lassen und ein 35B-A3B-Modell in Q4 nutzen. Laut den Messungen sind dann 50 bis 60 t/s möglich, statt bisher 35 bis 44. Für so ein Upgrade gab es bisher noch nie so viel Leistung umsonst. RAM nachzukaufen, um größere Modelle auszulagern, ist dagegen gerade die teuerste Entscheidung überhaupt. Wer neu kauft, bekommt pro Token/s trotz besserer Software weniger als vor einem Jahr (rund 20 statt 12 Euro beim Einstiegs-Setup). Rein finanziell schlägt die Cloud jedes neu gekaufte Setup deutlich. Kaufen lohnt sich nur, wenn Datenschutz, Offline-Betrieb oder unbegrenztes Experimentieren den Aufpreis wert sind. Dann haben eine gebrauchte 3090 oder eine 5060 Ti das bessere Verhältnis von Preis zu Tempo als ein Mac, der sich erst für Modelle mit über 100 Milliarden Parametern auszahlt.

Offen bleibt einiges. Der MoE-Cache ist zwei Tage alt, die Messwerte stammen von einer Handvoll Nutzern, oft mit überdurchschnittlich schnellem RAM, und unter Vulkan gibt es Fehler. Die Qualitätsangaben zu Bonsai und Unsloth Dynamic V3.1 sind Herstellerangaben und noch nicht unabhängig geprüft.