Edge0-145B: Offenes 145-Milliarden-Modell soll auf dem Laptop laufen

Worum es geht

Das Team hinter der Modellfamilie Edge0 hat am 12. November 2026 zwei große Sprachmodelle als Open Source veröffentlicht: Edge0-145B und Edge0-120B. Dazu kommen ein eigenes Inferenz-Framework, also die Software, die das Modell auf dem Rechner ausführt, sowie Werkzeuge zur Installation. Als Kontaktadresse nennt der Blogpost eine Mail-Adresse bei autoark.ai. Das deutet auf das Unternehmen AutoArk als Herausgeber hin.

Der Hersteller beschreibt Edge0-145B als erstes Open-Source-Modell mit 145 Milliarden Parametern, das auf einem eigenen Gerät läuft und nicht in einem Rechenzentrum. Es soll beim Programmieren, beim logischen Denken und bei Agenten-Aufgaben mit führenden Cloud-Modellen mithalten. Agenten-Aufgaben heißt: Das Modell arbeitet selbstständig mehrere Schritte ab und nutzt dabei Werkzeuge. Laut Hersteller läuft es auf einem passenden Laptop wie einem MacBook Pro. Der Speicherbedarf soll in der Spitze bei 29 GB liegen, die Ausgabe bei mehr als 80 Tokens pro Sekunde.

Die Gewichte gibt es auf Hugging Face, Framework und Anleitungen auf GitHub. Wer nichts einrichten möchte, kann die Edge0-App nutzen. Sie funktioniert laut Hersteller offline, ohne Konto und ohne Nutzungsgrenze.

Wie ein 145B-Modell in 29 GB passen soll

Normalerweise ist das unrealistisch. Ein Modell dieser Größe würde selbst mit 4-Bit-Quantisierung grob 80 bis 90 GB belegen. Bei der Quantisierung wird das Modell verkleinert, indem man seine Zahlen gröber speichert. Edge0 kombiniert vier Ansätze, um trotzdem auf einen Laptop zu passen:

• Architektur: Edge0-145B ist ein Mixture-of-Experts-Modell (MoE). Es besteht also aus vielen spezialisierten Teilnetzen, den „Experten“, von denen für jedes Token nur einige arbeiten. Pro Schritt rechnen nur etwa 10 Milliarden Parameter mit. Neu ist, dass sich jeweils 64 Experten zwei große Matrizen teilen. Jeder Experte behält nur einen kleinen eigenen Satz an Parametern, in dem seine Besonderheiten stecken. Bisher hatte jeder Experte einen kompletten eigenen Satz. Dadurch muss weniger gespeichert und hin- und hergeschoben werden.
• Training: Das Modell wurde von Anfang an in dieser Bauform für lokale Geräte trainiert. Es ist also kein Cloud-Modell, das nachträglich komprimiert oder beschnitten wurde.
• Laden: Die Daten verteilen sich auf drei Speicherebenen, und Lesen und Rechnen laufen gleichzeitig. Oft genutzte „heiße Experten“ bleiben im Grafikspeicher. Eine etwa 40 GB große Expertenbibliothek liegt im Arbeitsspeicher und wird bei Bedarf nachgeladen. Rund 48 GB Vokabulardaten bleiben auf der SSD und werden nur gelesen, wenn sie gebraucht werden.
• Planung der Rechenarbeit: GPU und CPU arbeiten parallel. Dazu kommt Speculative Decoding: Das System schlägt mehrere Tokens auf einmal vor und prüft sie gemeinsam. So muss es die Gewichte für mehrere Tokens nur einmal lesen.

Nach eigenen Angaben verarbeitet das Modell Eingaben mit mehr als 1.100 Tokens pro Sekunde. Dieser erste Schritt heißt Prefill. Dutzende Seiten Code sollen so schnell eingelesen sein. Der typische Stromverbrauch liegt laut Hersteller bei etwa 120 Watt, und das Modell soll dabei nicht drosseln. Wie die 29 GB Spitzenspeicher mit der 40 GB großen Expertenbibliothek im Arbeitsspeicher zusammenpassen, erklärt der Blogpost nicht genau. Vermutlich zählt nur ein Teil davon zur gemessenen Spitze. Klar ist das nicht.

Benchmarks: stark, aber selbst gemessen

Der Hersteller vergleicht Edge0 mit offenen Modellen und mit Claude Opus 4.6 (Max). Alle Werte sind Prozent, höher ist besser:

DeepSWE und Terminal-Bench messen, wie gut ein Modell als Programmier-Agent arbeitet, etwa im Terminal oder an echten Software-Projekten. HLE („Humanity's Last Exam“) und GPQA-Diamond prüfen schweres Fachwissen und logisches Denken. IFBench misst, wie genau ein Modell Anweisungen befolgt. AA-LCR testet das Verständnis sehr langer Texte.

Am meisten Vorsprung hat Edge0-145B beim Programmieren. Gegenüber Qwen3.8-27B, das der Hersteller als gängigen Vergleich für lokale Modelle nimmt, liegt es bei DeepSWE 53,1 Prozent und bei Terminal-Bench 18,5 Prozent höher. Bei Wissen und Logik ist der Abstand klein. Bei HLE und GPQA liegen Qwen3.8-Flash-Next und Claude sogar vorn.

Wichtig ist, wo die Zahlen herkommen. Die Werte für Edge0, Qwen, DeepSeek und Claude stammen aus internen Tests von Edge0. Die Werte für Gemma 4 und andere Modelle hat der Hersteller von Artificial Analysis und der „Recursive Flint“-Auswertung übernommen. Testaufbau, Hardware und Anleitung zum Nachprüfen sollen mit einem technischen Bericht erscheinen. Unabhängige Messungen gibt es bisher nicht.

Im Durchschnitt über sechs Benchmarks kommt Edge0-145B auf 72,8 Punkte bei 29 GB gemessenem Speicher. Qwen3.8-Flash-Next erreicht 71,7 Punkte und braucht nach Schätzung des Herstellers etwa 70 GB, DeepSeek-V4-Flash 70,1 Punkte bei etwa 87 GB. Diese Speicherwerte der Konkurrenz sind nur Schätzungen für eine übliche 4-Bit-Variante und wurden nicht gemessen.

Was das Modell in den Demos leistet

Der Hersteller zeigt mehrere Projekte, die das Modell lokal und in vielen Schleifen abgearbeitet haben soll: planen, Code schreiben, ausführen, Fehler beheben und das Ergebnis per Screenshot prüfen.

• Erklärvideo: Ein Video darüber, wie Teslas Roadster fliegen könnte. Recherche, Drehbuch, Grafiken und Schnitt soll das Modell in unter einer Stunde erledigt haben.
• 3D-Szene von Manhattan: Das Modell hat die Szene in Blender aus Text und Referenzbildern gebaut und Materialien und Licht angepasst. Laut Hersteller hätte ein Cloud-Modell dafür mehr als 150 Dollar Tokenkosten verursacht.
• Mittelalterliche Stadt: Ebenfalls in Blender entstanden, mit Stadtmauern, mehr als tausend Häusern und einer gotischen Kathedrale, dazu ein 20 Sekunden langer Kameraflug. Das Modell soll Fehler wie Objekte, die ineinander ragen, selbst entdeckt und korrigiert haben.
• Drohne: Aus einem einzigen Satz entstand das Programm für eine echte Drohne. Sie flog durch Hindernisse und fand einen roten Rucksack.
• Platinendesign: Das Modell hat eine zweilagige Platine in KiCad entworfen, ein Programm für Leiterplatten. Anschließend hat es die Fertigung in der Unreal Engine 5 als Animation dargestellt.

Die Kostenvergleiche mit Cloud-Modellen und menschlichen Teams sind Angaben des Herstellers. Wie oft solche Läufe gelingen und wie viel nachgeholfen wurde, verrät der Blogpost nicht.

Was du zum Ausprobieren brauchst

Laut Hersteller wird Edge0-145B von Anfang an auf macOS, Windows und Linux unterstützt. Dazu gehören Apple-M-Chips und Nvidia-Plattformen wie RTX 4090, RTX 5090 und RTX Spark. Der Spitzenspeicher soll bei 29 GB liegen. Als Zielgeräte nennt der Hersteller Laptops mit 48 GB Speicher, etwa ein MacBook Pro mit entsprechend viel gemeinsamem Speicher, sowie Workstations mit 64 GB. Eine RTX 4090 hat nur 24 GB Grafikspeicher. Dort ist das Modell also auf das beschriebene Auslagern in den Arbeitsspeicher angewiesen. Wie viel Arbeitsspeicher dann nötig ist, steht nicht da. Bei rund 40 GB Expertenbibliothek sind 64 GB RAM eine vernünftige Annahme. Auf der SSD solltest du Platz für die Gewichte einplanen, darunter allein rund 48 GB Vokabulardaten. Insgesamt sind wohl deutlich über 100 GB realistisch. Die genaue Download-Größe nennt der Hersteller nicht.

Wichtig: Die Speicherwerte gelten nur mit dem eigenen Inferenz-Framework von Edge0. Mit Standardwerkzeugen wie llama.cpp oder Ollama ist ein ähnlicher Speicherbedarf nicht belegt. Ob es GGUF-Dateien gibt, ist offen. Am einfachsten startest du mit der Edge0-App. Für Smartphones gibt es kleinere Geschwister: Edge0-35B lief laut Hersteller auf einem iPhone 18 Pro Max mit etwa 2,5 GB Speicher und mehr als 37 Tokens pro Sekunde.

Hintergrund: die Edge0-Modellfamilien

Edge0 ist nach eigener Darstellung kein Neuling. Im September erschien Edge0-35B für Smartphones und stand auf Platz 1 der Trending-Liste von Hugging Face. Insgesamt hat das Team nach eigenen Angaben 200 Modelle in vier Familien veröffentlicht:

• Edge0 für Agenten und Programmieren
• Audio8 für Spracherkennung und Sprachausgabe
• Decision0 für schnelle Entscheidungen in etwa 40 Millisekunden
• Embedding0 für ein lokales Gedächtnis und RAG, also das Nachschlagen in eigenen Dokumenten

Die Modelle sollen in drei Monaten mehr als 15 Millionen Mal heruntergeladen worden sein, auf über 5 Millionen Geräten laufen und mehr als 110.000 Kundenorganisationen haben. Bei einem großen Kopfhörer-Hersteller laufen laut Edge0 92 Prozent der KI-Nutzung direkt auf dem Gerät.

Einordnung

Wenn die Angaben stimmen, ist Edge0-145B ein wichtiger Schritt für lokale KI. Bisher waren Modelle für eigene Geräte meist kleiner als 10 Milliarden Parameter. Apples lokales Modell hat etwa 3 Milliarden, Googles Gemini Nano 1,8 oder 3,25 Milliarden. Ein offenes Modell auf Augenhöhe mit Cloud-Modellen, das auf einem Laptop läuft, wäre vor allem für Entwickler interessant. Ihr Code bliebe auf dem eigenen Rechner, und es fielen keine laufenden API-Kosten an. Der Ansatz mit geteilten Expertenmatrizen und Daten verteilt auf GPU, Arbeitsspeicher und SSD ist technisch spannend.

Vorsicht ist trotzdem angebracht. Alle wichtigen Zahlen kommen vom Hersteller. Das gilt für die Benchmarks, die Speicherwerte und die Kostenvergleiche der Demos. Die Speicherwerte der Konkurrenz sind nur geschätzt. Bei breitem Wissen (HLE) bleibt Claude Opus 4.6 vorn. Und die Speicherersparnis hängt am eigenen Framework des Herstellers. Wie gut es in der Praxis auf normaler Hardware läuft, müssen unabhängige Tests erst zeigen. Auch die Lizenz nennt der Blogpost nicht.