Ollama
Der einfachste Weg, KI-Modelle wie Gemma, Qwen oder Llama lokal zu nutzen.
SchwierigkeitEinsteiger
HardwareCPU geht, besser GPU. 8 GB VRAM: gemma4:e4b · 16–24 GB: qwen3.5:27b
LizenzMIT
Ollama lädt und startet Sprachmodelle mit einem einzigen Befehl. Alles läuft auf deinem Rechner, nichts geht ins Internet. Fast jedes neue Open-Source-Modell gibt es hier innerhalb weniger Tage.
So probierst du es aus
Befehle aus den offiziellen Anleitungen – einfach kopieren.
Google Colab
- Notebook herunterladen: colab.ipynb
- colab.research.google.com öffnen → Datei → Notebook hochladen
- Laufzeit → Laufzeittyp ändern → GPU (T4)
- Laufzeit → Alle ausführen
Linux
curl -fsSL https://ollama.com/install.sh | sh
ollama run gemma4:e4bmacOS
# App von https://ollama.com/download installieren und starten, dann im Terminal:
ollama run gemma4:e4bWindows (PowerShell)
winget install Ollama.Ollama
# neues Terminal öffnen, dann:
ollama run gemma4:e4b
