Tencent gibt Hy4 frei: 770-Milliarden-Modell mit 1 Million Token – mit Lizenz-Haken
Tencent hat die Gewichte seines Spitzenmodells Hy4 veröffentlicht: 770 Milliarden Parameter, Bildverständnis, Computersteuerung und ein Kontextfenster von einer Million Token. Anders als die Vorschauversion steht das Modell aber nicht unter Apache 2.0. Für Großkunden gilt eine eigene Lizenz mit Genehmigungspflicht.

Worum es geht
Der chinesische Konzern Tencent hat sein Spitzenmodell Hy4 als Open-Weights-Modell veröffentlicht. Jeder kann die Gewichte also herunterladen. Das Hy-Team von Tencent kündigte das am 20. November 2026 auf X an. Es gibt drei Varianten auf Hugging Face, ModelScope und GitCode, dazu eine System Card, also ein technisches Begleitdokument mit Angaben zu Training, Fähigkeiten und Sicherheitsprüfungen. Die Modellseite liegt unter huggingface.co/tencent/Hy4.
Vorgestellt hatte Tencent Hy4 schon am 4. November 2026. Damals war das Modell nur über eine Programmierschnittstelle (API) bei Tencent Cloud und beim Vermittler OpenRouter nutzbar. Die Gewichte hatte Tencent für „die kommenden Tage“ angekündigt. 16 Tage später sind sie da. Nicht verwechseln sollte man Hy4 mit Hy4 Flash, einem kleineren Modell mit 220 Milliarden Parametern, das Tencent am 18. November freigegeben hat.
Die Technik: groß, multimodal, langes Gedächtnis
Hy4 ist ein Mixture-of-Experts-Modell (MoE). Man kann es sich wie ein Team aus vielen Spezialisten vorstellen, von denen für jedes Wort nur wenige gefragt werden. Insgesamt hat das Modell 770 Milliarden Parameter, pro Token sind aber nur 49 Milliarden aktiv. Das spart Rechenzeit, allerdings muss trotzdem das ganze Modell in den Speicher passen.
Der Aufbau laut Modellkarte:
| Merkmal | Wert |
|---|---|
| Parameter gesamt / aktiv | 770 Mrd. / 49 Mrd. |
| Kontextfenster | 1.048.576 Token |
| Schichten | 78 (1 dichte + 77 MoE-Schichten) |
| Experten je MoE-Schicht | 256 wählbare + 1 geteilter |
| Bild-Encoder | 1,23 Mrd. Parameter, für Bilder und Videos |
Das Kontextfenster ist die Textmenge, die das Modell auf einmal überblicken kann. Mit rund einer Million Token liegt Hy4 auf dem Niveau der größten kommerziellen Modelle. Das entspricht grob mehreren dicken Büchern. Neu gegenüber der Vorschau ist laut Tencent das Bildverständnis. Hy4 soll Diagramme analysieren, Bilder im Detail auswerten und mathematische Aufgaben in Bildform lösen. Ebenfalls neu ist „Computer Use“. Das Modell kann damit sowohl Kommandozeilen als auch grafische Oberflächen bedienen. Tencent hat es dafür eigens an Profi-Software wie Blender und CAD-Programmen trainiert.
Was Tencent verspricht und wie belastbar das ist
Tencent nennt viele Zahlen, fast alle aus eigenen Tests:
- Basismodell: Hy4 Base soll in den meisten Wissens- und Logik-Kategorien vor DeepSeek-V4-Pro-Base und DeepSeek-V4-flash-Base liegen.
- Finanzanalyse: In einem Blindtest mit 213 Finanzfachleuten und 579 realen Aufgaben erreichte Hy4 laut Tencent 3,04 Punkte, vor DeepSeek-V4.1-Flash-1017 (2,97), Kimi K3.1 Pro und GLM-5.3 (je 2,68).
- Weniger Erfundenes: Die Halluzinationsrate, also der Anteil frei erfundener Fakten, sei gegenüber Hy4 Preview von 12,95 auf 7,2 Prozent gesunken. Fehler durch unbelegte Annahmen gingen von 23,1 auf 5,6 Prozent zurück.
- Spieleentwicklung: Hy4 soll mit Unreal Engine, Unity und Godot zusammenarbeiten und 19,1 Prozent (GameDev) bzw. 9,8 Prozent (GameLogic) besser abschneiden als die Vorschau.
- Büroarbeit: In Tencents Arbeitsplattform WorkBuddy erreicht Hy4 im Schnitt 83,18 Punkte und eine Erfolgsquote von 96,15 Prozent. Das Modell liegt dort in neun von zwölf Szenarien vorn, gemessen allerdings nur am chinesischen Festlandmarkt.
Der Autor der Hauptquelle auf dev.to nennt Herstellerbenchmarks „Marketing mit Zahlen“, solange niemand sie unabhängig nachprüft. Am Starttag hatte das noch niemand getan. Einen Hinweis geben unabhängige Werte zur Vorschauversion, die das Routing-Portal OrcaRouter zusammengetragen hat. Beim Bewertungsdienst Vals AI erreichte Hy4 Preview 53,21 Prozent und damit Platz 23 von 33. Im Agenten-Test Terminal-Bench 4.0 von Vals kam die Vorschau auf nur 8,08 Prozent. Tencent selbst nannte Werte um 80 Prozent, allerdings mit einer anderen Version des Tests und anderen Rahmenbedingungen. OrcaRouter folgert, dass Agenten-Benchmarks stark vom Testaufbau abhängen. Tencent räumte bei der Vorschau selbst Schwächen ein: Das Modell denke länger als nötig nach und prüfe sich übermäßig oft. Dadurch verbraucht es mehr Token, was den günstigen Preis pro Token teilweise auffrisst. Ob das finale Hy4 hier besser ist, ist offen.
Tencent schreibt außerdem, Hy4 helfe bereits bei der Verbesserung künftiger Modelle. Mit dem Werkzeug Hyra 2.0 habe es die Trainings-Infrastruktur kleinerer Modelle gleicher Bauart optimiert. Tencent spricht dabei von „rekursiver Selbstverbesserung“. Ebenfalls freigegeben wurden zwei Forschungsmodelle für Einzelzell-Biologie (HyCell) und physikalische Felder (HyPDE).
Der Haken: die Lizenz
Die Vorschauversion Hy4 Preview, seit dem 28. August 2026 herunterladbar, stand laut OrcaRouter unter der freien Lizenz Apache 2.0. Das finale Hy4 kommt dagegen unter der eigenen Tencent Hy License v1.0. Der zentrale Punkt: Eine schriftliche Genehmigung von Tencent brauchen Anbieter, die das Modell als Dienst verkaufen und mehr als 50 Millionen US-Dollar Umsatz machen, sowie Produkte mit mehr als 100 Millionen Nutzern im Monat. Unterhalb dieser Grenzen ist die Lizenz laut dev.to deutlich großzügiger.
Der Autor auf dev.to unterscheidet deshalb klar zwischen „Open Weights“ und Open Source im Sinne der Open Source Initiative. Forscher, Start-ups und Hobbyisten dürfen Hy4 nutzen. Einen großen gehosteten Konkurrenzdienst aufzubauen, erlaubt Tencent aber nicht ohne Weiteres. Sein Rat:
„Lies die Lizenz, bevor du die Modellkarte liest. Das klingt verkehrt herum. Ist es nicht.“
Was du zum Ausprobieren brauchst
Auf normaler Hardware läuft Hy4 nicht. Die Version in BF16, einem 16-Bit-Zahlenformat, ist rund 1,55 TB groß. Die FP8-Version mit 8-Bit-Zahlen braucht etwa 0,79 TB. Für FP8 empfiehlt Tencent einen Server mit 8 GPUs und Tensor-Parallelität 8. Dabei wird jede Rechenschicht auf alle acht Karten verteilt. Rein rechnerisch braucht dafür jede Karte deutlich mehr als 100 GB Speicher, wie es nur Rechenzentrums-GPUs bieten. Offiziell unterstützt werden die Server-Programme vLLM und SGLang, für die es fertige Docker-Images mit dem Tag „hy4“ gibt.
Aus der Community gibt es bereits GGUF-Dateien für llama.cpp und ähnliche Programme. GGUF ist ein Dateiformat für verkleinerte (quantisierte) Modelle. Auch bei 4 Bit bleiben aber grob 460 GB Speicher nötig. Das ist eine Schätzung, keine Herstellerangabe. Ein Gaming-PC, ein normaler Mac oder Google Colab reichen nicht. Hinzu kommen über 1,5 TB Speicherplatz pro BF16-Checkpoint. Für die meisten ist die API der vernünftige Weg: 0,834 Dollar pro Million Eingabe-Token und 2,501 Dollar pro Million Ausgabe-Token. Laut OrcaRouter ist das rund 45 Prozent günstiger als Alibabas geschlossenes Qwen4-Max.
Einordnung
Ein Modell mit 770 Milliarden Parametern, einer Million Token Kontext, Bildverständnis und Computersteuerung zum Herunterladen ist selten. Am ehesten vergleichbar ist DeepSeeks V4-Familie, gegen die Tencent auch gezielt antritt. Tencent hat sein Versprechen eingehalten und pünktlich geliefert, mit System Card, fertigen Server-Images und drei Checkpoints auf einmal. Am meisten haben davon Forschungsgruppen, Firmen, die Daten nicht aus dem Haus geben dürfen, und Hosting-Anbieter. Sie können das Modell selbst betreiben, anpassen (Fine-Tuning) und günstig anbieten.
Zwei Punkte sind kritisch. Die Lizenz ist ein Rückschritt gegenüber der Apache-2.0-Vorschau. Und die Leistungszahlen stammen fast alle von Tencent selbst. Die unabhängigen Ergebnisse der Vorschau waren eher mittelmäßig. Ob das finale Hy4 deutlich besser ist, müssen erst externe Tests zeigen. Beim Thema Sicherheit sagt Tencent, offensive Hacking-Daten seien aus dem Training ausgeschlossen worden, und eigene Sicherheitslabore hätten keine nennenswerten Bedenken gefunden. Auch das ist eine Prüfung im eigenen Haus. Fragen an das Team gibt es in einem AMA (Fragerunde) auf r/LocalLLaMA am 20. November von 8 bis 10 Uhr pazifischer Zeit.
Videos zum Thema
Quellen
- dev.to #llm dev.to
- finance.yahoo.com finance.yahoo.com
- orcarouter.ai orcarouter.ai
- tencent.com tencent.com
Selbst ausprobieren: Tencent Hy4
Schritt für Schritt erklärt, auch ohne Vorkenntnisse – auf deinem Rechner oder kostenlos im Browser.
Was kann ich damit machen?
Hy4 ist ein sehr großes Allround-Modell, das Text, Bilder und Videos versteht und Antworten als Text gibt. Es kann bis zu rund einer Million Token auf einmal verarbeiten, zum Beispiel komplette Codebasen, lange Verträge oder Sammlungen von Berichten. Tencent hat es besonders für Programmierung (auch Frontend und Spiele-Logik für Unreal, Unity und Godot), Finanzanalyse, wissenschaftliche Aufgaben und Büroarbeit trainiert. Neu ist Computer Use: Mit passender Software kann es Kommandozeile und grafische Programme bedienen. Laut Tencent schlägt das Basismodell DeepSeek-V4-Pro-Base in den meisten Wissens- und Logiktests, das ist aber noch nicht unabhängig geprüft. Die Vorschauversion schnitt in unabhängigen Tests eher mittelmäßig ab und neigte dazu, zu lange nachzudenken und sich übermäßig zu prüfen. Die größte Grenze ist die Hardware: Ohne Rechenzentrums-Ausstattung läuft das Modell nicht lokal.
Für wen lohnt es sich?
Lohnend ist Hy4 für Forschungsgruppen, Firmen mit eigenem GPU-Cluster, die Daten im Haus behalten müssen oder das Modell feinjustieren wollen, und für Hosting-Anbieter unterhalb der Lizenzgrenzen. Privatleute und kleine Teams ohne Server mit mehreren hundert GB Grafikspeicher sollten das Modell über die API testen statt die Gewichte herunterzuladen. Wer das Modell lokal auf einem normalen PC nutzen will, ist mit kleineren Modellen besser bedient.
Ideen: Was du damit anstellen kannst
Gib Hy4 komplette Verträge, Studien oder Geschäftsberichte auf einmal und lass dir Zusammenfassungen, Risiken oder Widersprüche heraussuchen. Dank des Kontexts von rund einer Million Token musst du die Texte nicht zerstückeln. Am Ende hast du eine geordnete Übersicht mit Verweisen auf die Originalstellen.
Lade Screenshots von Diagrammen, Rechnungen oder Tabellen hoch und lass Hy4 die Zahlen auslesen und interpretieren. Das hilft beim schnellen Auswerten von Präsentationen oder Finanzunterlagen. Prüfe die ausgelesenen Werte stichprobenartig.
Beschreibe eine Spielidee und lass dir Code für Godot, Unity oder Unreal Engine schreiben, etwa eine Spielmechanik mit Punktestand. Tencent hat das Modell gezielt für Spiele-Logik trainiert. Du bekommst ein lauffähiges Grundgerüst, das du weiter ausbauen kannst.
Füge ein ganzes Projekt ein und lass Hy4 erklären, wie die Teile zusammenhängen, wo Fehler oder Sicherheitslücken lauern und wie man umbauen könnte. Das ist nützlich, wenn du fremden Code übernimmst. Lass die Vorschläge immer mit Tests absichern.
Lass Hy4 Fondsberichte, Wertpapierdaten oder Marktanalysen strukturieren und vergleichen. Laut Tencent wurde es mit Tausenden Finanz-Arbeitsumgebungen trainiert. Das Ergebnis ist eine Arbeitsgrundlage, keine Anlageberatung.
Firmen mit eigenem GPU-Cluster können Hy4-FP8 per vLLM oder SGLang intern bereitstellen, damit vertrauliche Daten das Haus nicht verlassen. Danach lässt sich das Modell über eine OpenAI-kompatible Schnittstelle in bestehende Tools einbinden. Vorher die Lizenzgrenzen prüfen.
Was dein Rechner braucht
Es gibt drei Checkpoints: Hy4 Instruct in BF16 (ca. 1,55 TB) für normale Chat- und Agenten-Nutzung, Hy4-FP8 (ca. 0,79 TB) als praktische Server-Variante für einen Knoten mit 8 GPUs und Tensor-Parallelität 8, und Hy4 Base (ca. 1,54 TB) für Forschung und Fine-Tuning. Für den Eigenbetrieb empfiehlt die Quelle klar die FP8-Version mit den offiziellen vLLM- oder SGLang-Images. Community-GGUFs für llama.cpp gibt es, auch in 4 Bit sind aber grob 460 GB Speicher nötig (Schätzung). Wer diese Hardware nicht hat, nutzt die API für 0,834 bzw. 2,501 Dollar pro Million Ein- bzw. Ausgabe-Token. Wer ein kleineres Modell sucht, findet in Hy4 Flash (220 Mrd. Parameter) die kleinere Schwester.
- Die BF16-Checkpoints sind je ca. 1,55 TB groß und laufen weder auf einer einzelnen GPU noch auf einer Workstation mit wenigen Karten.
- Die FP8-Version (ca. 0,79 TB) ist laut Tencent für einen Server mit 8 GPUs und Tensor-Parallelität 8 gedacht. Jede Karte braucht dafür deutlich mehr als 100 GB Speicher.
- Auch als 4-Bit-GGUF braucht das Modell grob 460 GB Speicher (Schätzung), dazu kommt zusätzlicher Speicher für lange Kontexte.
- Das Kontextfenster von bis zu 1.048.576 Token kostet viel zusätzlichen Speicher. Wer die volle Länge nutzen will, braucht noch mehr Reserven.
- Planen musst du mehrere Terabyte schnellen Festplattenspeicher für Download und Betrieb.
- Normale Gaming-PCs, Laptops und Google Colab reichen nicht aus. Für die meisten ist die API die realistische Option.
Groß (774,4 Mrd. Parameter, MoE): komplett auf der Grafikkarte braucht es viel VRAM, mit MoE-Offloading reicht eine normale Grafikkarte plus viel Arbeitsspeicher (siehe Tabelle). Colab Free reicht nicht.
Wie finde ich heraus, was mein Rechner hat?
- Windows: Strg + Umschalt + Esc drücken → Task-Manager → Reiter Leistung → links GPU anklicken. Unten steht Dedizierter GPU-Speicher (das ist dein VRAM). Den Arbeitsspeicher findest du unter Arbeitsspeicher.
- Mac: Apfel-Menü oben links → Über diesen Mac. Dort stehen Chip (z. B. M2) und Speicher (z. B. 16 GB). Bei Apple-Chips teilen sich Grafik und Prozessor diesen Speicher.
- Linux: Im Terminal
nvidia-smieingeben (zeigt Grafikkarte und Speicher) undfree -hfür den Arbeitsspeicher.
Anleitung
Google Colab (im Browser, ohne Installation)
Google Colab ist ein kostenloser Dienst von Google: Du bekommst für ein paar Stunden einen Rechner mit Grafikkarte im Browser. Du brauchst nur ein Google-Konto. Für dieses Modell: zu groß für Colab – selbst die größten Colab-GPUs reichen nicht.
- Notebook herunterladen. Klick auf den Knopf und speichere die Datei.
- Colab öffnen. Geh auf colab.research.google.com und melde dich mit deinem Google-Konto an.
- Notebook hochladen. Im Fenster, das erscheint, links auf Hochladen klicken (oder oben Datei → Notebook hochladen) und die Datei
colab.ipynbauswählen. - Grafikkarte einschalten. Oben im Menü Laufzeit → Laufzeittyp ändern → bei Hardwarebeschleuniger T4-GPU auswählen (mit Colab Pro: L4 oder A100) → Speichern.
- Alles starten. Laufzeit → Alle ausführen (Tastenkürzel Strg + F9). Kommt die Warnung „Dieses Notebook wurde nicht von Google erstellt“, auf Trotzdem ausführen klicken.
- Warten. Die Zellen laufen nacheinander durch. Links neben jeder Zelle erscheint ein grüner Haken, wenn sie fertig ist. Installation und Download dauern hier etwa 160 Minuten.
- Ausprobieren. Das Ergebnis steht unter der letzten Zelle. Um etwas anderes zu testen, den Text in der Zelle ändern und mit Shift + Enter erneut ausführen. Die letzte Zelle startet einen richtigen Chat mit Eingabefeld.
- Aufräumen. Wenn du fertig bist: Laufzeit → Sitzung beenden. Das schont dein kostenloses Kontingent.
Gut zu wissen: Die Gratis-GPU ist begrenzt (meist einige Stunden am Tag). Nach rund 90 Minuten ohne Aktivität trennt Colab die Verbindung, dann alles neu starten.
Windows 10 / 11
Am einfachsten geht es mit Ollama, einem kostenlosen Programm, das KI-Modelle mit einem Befehl startet.
- Grafikkartentreiber aktualisieren (nur bei NVIDIA-Karten): Die NVIDIA-App bzw. den aktuellen Treiber installieren. AMD-Karten: aktuellen Adrenalin-Treiber nutzen.
- Ollama installieren. Auf ollama.com/download/windows die Datei OllamaSetup.exe herunterladen, doppelklicken und Install wählen. Danach sitzt rechts unten in der Taskleiste ein kleines Lama-Symbol.
- Eingabefenster öffnen. Windows-Taste drücken, PowerShell eintippen und Enter drücken. Es öffnet sich ein blaues oder schwarzes Fenster.
- Modell starten. Diesen Befehl kopieren (Knopf „Kopieren“), mit Rechtsklick ins Fenster einfügen und Enter drücken:
Beim ersten Mal lädt Ollama das Modell herunter (467 GB (bei 100 MBit/s ca. 10,4 Std.)). Danach geht es sofort.ollama run hf.co/AngelSlim/Hy4-preview-GGUF:Q4_K_M - Losschreiben. Sobald
>>> Send a messageerscheint, deine Frage eintippen und Enter drücken. Mit/byebeendest du den Chat.
Lieber automatisch? Skript, das die passende Variante selbst auswählt
- Beide Dateien in denselben Ordner herunterladen: try_windows.ps1 demo.py
- Den Ordner im Explorer öffnen, mit Rechtsklick auf eine freie Stelle In Terminal öffnen wählen.
- Diesen Befehl einfügen und Enter drücken:
powershell -ExecutionPolicy Bypass -File try_windows.ps1
Das Skript installiert Ollama bei Bedarf über winget, misst deinen Grafikspeicher und lädt die passende Variante.
macOS
Ideal sind Macs mit Apple-Chip (M1 bis M5). Ältere Intel-Macs sind sehr langsam.
- Ollama installieren. Auf ollama.com/download/mac herunterladen, die Datei öffnen und Ollama in den Ordner Programme ziehen. Ollama einmal starten – oben in der Menüleiste erscheint ein Lama.
- Terminal öffnen. Cmd + Leertaste drücken, Terminal eintippen, Enter.
- Modell starten. Befehl einfügen (Cmd + V) und Enter:
Beim ersten Mal wird das Modell heruntergeladen (467 GB (bei 100 MBit/s ca. 10,4 Std.)).ollama run hf.co/AngelSlim/Hy4-preview-GGUF:Q4_K_M - Losschreiben. Frage eintippen, Enter. Mit
/byebeenden.
Linux
- Grafikkarte prüfen.
nvidia-smisollte deine Karte anzeigen. Wenn nicht, unter Ubuntu den Treiber installieren und neu starten:sudo ubuntu-drivers install - Ollama installieren:
curl -fsSL https://ollama.com/install.sh | sh - Modell starten:
Mitollama run hf.co/AngelSlim/Hy4-preview-GGUF:Q4_K_M/byebeenden. Mitollama pssiehst du, ob das Modell auf der GPU läuft. - Oder automatisch die passende Variante wählen lassen:
bash try_linux.sh # mit Python/transformers statt Ollama: MODE=hf bash try_linux.sh
Das kannst du ausprobieren
Erkläre mir in fünf Sätzen, was ein Mixture-of-Experts-Modell ist, und nenne ein Alltagsbeispiel.Hier ist ein Foto eines Balkendiagramms zu Quartalsumsätzen. Lies die Werte aus, berechne das Wachstum gegenüber dem Vorquartal und fasse den Trend zusammen.Schreibe in Godot (GDScript) ein einfaches Spiel, in dem ein Spieler Münzen einsammelt. Mit Punktestand und Neustart-Knopf, und erkläre den Aufbau.Ich gebe dir den Geschäftsbericht eines Unternehmens als langen Text. Finde alle Risiken, die genannt werden, ordne sie nach Wichtigkeit und zitiere jeweils die passende Stelle.Analysiere diese komplette Codebasis (eingefügt unten), finde mögliche Sicherheitslücken, schlage konkrete Korrekturen vor und begründe jede Änderung.
Tipps für bessere Ergebnisse
- Fang mit der API an (0,834 / 2,501 Dollar pro Million Token), um zu prüfen, ob Hy4 für deine Aufgaben taugt, bevor du Terabytes herunterlädst und Hardware planst.
- Die Vorschauversion neigte dazu, zu lange nachzudenken und sich mehrfach zu prüfen. Miss, wie viele Ausgabe-Token pro Aufgabe anfallen, und nutze bei einfachen Aufgaben eine niedrigere Denkstufe, falls verfügbar.
- Für den Eigenbetrieb die FP8-Version mit den offiziellen Docker-Images (Tag „hy4“) für vLLM oder SGLang nutzen. Das ist laut Quelle der verlässlichste Weg.
- Nutze das lange Kontextfenster gezielt: Klare Anweisungen am Anfang und Ende des Prompts helfen, wenn du sehr viel Material einfügst.
- Offene Fragen, die die Modellkarte nicht beantwortet, kannst du im AMA des Hy-Teams auf r/LocalLLaMA stellen.
Wenn es hakt
Lies vor dem Download die Tencent Hy License v1.0 vollständig: Modell-Dienste mit über 50 Mio. US-Dollar Umsatz oder Produkte mit über 100 Mio. monatlichen Nutzern brauchen eine schriftliche Genehmigung von Tencent.
Verwechsle Hy4 nicht mit Hy4 Preview (Apache 2.0, nur Text) oder Hy4 Flash (220 Mrd. Parameter). Das sind andere Modelle mit anderen Lizenzen und Fähigkeiten.
Selbst einrichten ist aufwendig: Nutze am besten die offiziellen Docker-Images mit dem Tag „hy4“ für vLLM oder SGLang, statt alles von Grund auf zu bauen.
Bei den Downloads von 0,8 bis 1,55 TB pro Checkpoint lohnt sich ein Download-Tool, das abgebrochene Downloads fortsetzt. Prüfe vorher den freien Speicherplatz.
Community-GGUFs sind keine offiziellen Tencent-Dateien. Prüfe, ob dein llama.cpp-Build die Architektur unterstützt, und erwarte bei starker Quantisierung Qualitätsverluste.
Benchmark-Werte stammen überwiegend von Tencent selbst. Teste das Modell mit deinen eigenen Aufgaben, bevor du dich darauf verlässt.
„out of memory“, Absturz oder der Rechner hängt
Das Modell ist zu groß für deinen Grafikspeicher. Nimm eine kleinere Variante aus der Tabelle oben und schließe andere Programme, vor allem Spiele und Browser mit vielen Tabs.
Es läuft, aber extrem langsam
Wahrscheinlich rechnet der Prozessor statt der Grafikkarte. Bei Ollama zeigt ollama ps in der Spalte PROCESSOR, wie viel auf der GPU läuft. Steht dort „100% CPU“, Grafiktreiber aktualisieren oder eine kleinere Variante nehmen, die komplett in den Grafikspeicher passt.
„ollama“ bzw. „python“ wird nicht gefunden
Das Eingabefenster schließen und neu öffnen, damit es das frisch installierte Programm kennt. Bei Python unter Windows: neu installieren und das Häkchen Add python.exe to PATH setzen.
Windows: „Die Ausführung von Skripts ist auf diesem System deaktiviert“
Das Skript genau mit dem Befehl oben starten: powershell -ExecutionPolicy Bypass -File try_windows.ps1. Das erlaubt die Ausführung nur dieses einen Mal.
Fehlermeldung beim Laden des Modells (Version, „trust_remote_code“, unbekannte Architektur)
Ganz neue Modelle brauchen oft die neueste Programmversion. Bei Ollama: Ollama aktualisieren. Bei Python: pip install -U transformers in der aktivierten Umgebung. Die Model Card nennt meist die genaue Version.
Skripte und Notebook erzeugt Tokenstrom automatisch. Bitte vor dem Ausführen kurz ansehen – sie sind lesbarer Klartext. Lizenz des Modells beachten: eigene Lizenz (siehe Model Card).
Frag den KI-Assistenten
Fragen zu diesem Artikel, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.
Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.
Kommentare
Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.
Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.