KoboldCpp

Eine einzelne Datei starten und lokal chatten – inklusive Bild-, Sprach- und Musikfunktionen.

SchwierigkeitEtwas Erfahrung

HardwareCPU reicht · GPU beschleunigt deutlich · Apple Silicon unterstützt

LizenzAGPL-3.0

LinksWebsite · GitHub

KoboldCpp ist eine Ein-Datei-Anwendung auf Basis von llama.cpp, die GGUF-Sprachmodelle mit Web-Oberfläche lokal ausführt. Du brauchst nur die Programmdatei und ein heruntergeladenes GGUF-Modell. Neben Chat bringt es Spracherkennung (Whisper), Sprachausgabe (z. B. Kokoro) und Musikgenerierung (ACE Step) mit.

So probierst du es aus

Befehle aus den offiziellen Anleitungen – einfach kopieren.

Linux

# Herunterladen, ausführbar machen und starten (Launcher öffnet sich)
curl -fLo koboldcpp-linux-x64 https://github.com/LostRuins/koboldcpp/releases/latest/download/koboldcpp-linux-x64 && chmod +x koboldcpp-linux-x64 && ./koboldcpp-linux-x64
# Oder direkt mit einem zuvor geladenen GGUF-Modell (Web-UI: http://localhost:5001)
./koboldcpp-linux-x64 --model /pfad/zu/modell.gguf

macOS

# koboldcpp-mac-arm64 von https://github.com/LostRuins/koboldcpp/releases/latest laden, dann im Download-Ordner:
chmod +x koboldcpp-mac-arm64
./koboldcpp-mac-arm64
# Oder mit Modell (Web-UI: http://localhost:5001)
./koboldcpp-mac-arm64 --model /pfad/zu/modell.gguf

Windows (PowerShell)

# Herunterladen und starten (Launcher öffnet sich)
cmd /c "curl -fLo koboldcpp.exe https://github.com/LostRuins/koboldcpp/releases/latest/download/koboldcpp.exe && koboldcpp.exe"
# Oder direkt mit einem zuvor geladenen GGUF-Modell (Web-UI: http://localhost:5001)
koboldcpp.exe --model "C:\Models\modell.gguf"

Befehle aus der offiziellen Anleitung. Neu im Werkzeugkasten seit 4. Nov. 2026.

Frag den KI-Assistenten

Fragen zu KoboldCpp, zur Installation oder zu Hintergründen? Unser Assistent kennt diese Seite und läuft auf unserem eigenen Rechner, nicht in einer fremden Cloud.

Verbinde …

Der Assistent ist eine KI (Gemma 4) und kann sich irren – wichtige Angaben bitte in der Quelle prüfen. Fragen werden nur zum Beantworten genutzt und nach einer Stunde gelöscht. Bitte keine persönlichen Daten eingeben.

Kommentare

Was meinst du dazu? Schon ausprobiert? Schreib es hier, ohne Anmeldung.

Kommentare werden geladen …

Kommentare sind öffentlich. Links sind nicht erlaubt, beleidigende Beiträge löschen wir. Deinen eigenen Kommentar kannst du in diesem Browser jederzeit wieder löschen. Mehr dazu in der Datenschutzerklärung.