Project Maya

Lässt riesige offene Sprachmodelle wie GLM-5.3-Flash auf einer einzelnen Gaming-Grafikkarte laufen – mit Chat im Browser.

Symbolbild, KI-generiert
SchwierigkeitFortgeschritten
HardwareNVIDIA ab RTX 20 (oder einige AMD-Karten mit ROCm 7) · mind. 32 GB RAM, besser 88 GB+ RAM und VRAM zusammen · schnelle NVMe-SSD mit 75–470 GB frei
LizenzMIT (Modelle mit eigenen Lizenzen)
LinksGitHub

Project Maya verteilt sehr große KI-Modelle geschickt auf Grafikkarte, Arbeitsspeicher und SSD. So laufen Modelle mit Hunderten Milliarden Parametern wie GLM-5.3-Flash, DeepSeek-V4.1-Flash oder MiniMax-M3.1-Flash schon auf einer einzelnen RTX-Karte. Das Setup fragt, welches Modell du willst, lädt es herunter und startet es. Danach chattest du im Browser-Dashboard, siehst dort eine Live-Anzeige der Hardware und kannst andere Programme über eine OpenAI- oder Anthropic-kompatible Schnittstelle anbinden.

So probierst du es aus

Befehle aus den offiziellen Anleitungen – einfach kopieren.

Linux

# Voraussetzungen: NVIDIA-Treiber, CUDA 12.x, g++ und Python 3.10+.
# Fehlt etwas, zeigt das Setup den passenden Befehl an.
# Projekt herunterladen und Setup starten (Modell auswählen, Download, Build, Start)
git clone https://github.com/mw00/project-maya.git && cd project-maya
./setup.sh
# Danach im Browser öffnen: http://127.0.0.1:8080

# Optional: liest PDFs besser
sudo apt install poppler-utils

Windows (PowerShell)

# Voraussetzungen: NVIDIA-Treiber + CUDA Toolkit 12.8, Visual Studio 2022 Build Tools (C++-Desktop),
# Git für Windows und 64-Bit-Python 3.10+, z. B.:
winget install -e --id Python.Python.3.12 --scope user

# Neues PowerShell-Fenster öffnen und Projekt herunterladen
git clone https://github.com/mw00/project-maya.git
cd project-maya
# PC prüfen
.\START-MAYA.bat --check
# Setup: Laufwerk/Ordner für die Modelle angeben (Pfad anpassen)
.\START-MAYA.bat --setup --models-dir "D:\Maya-models"
# Maya starten, dann im Browser http://127.0.0.1:8080 öffnen
.\START-MAYA.bat

Befehle aus der offiziellen Anleitung. Neu im Werkzeugkasten seit 18. Nov. 2026.

Frag den KI-Assistenten

Fragen zu Project Maya, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.

Verbinde …

Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.

Kommentare

Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.

  1. Kommentare werden geladen …

Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.