Bonsai 2: ternäre Vision-Modelle von Prism ML in Ollama
Prism ML bringt Bonsai 2 mit ternären Gewichten (−1, 0, +1) in vier Größen von 2B bis 27B. Die Modelle sind etwa halb so groß wie 4-bit-Modelle bei fast voller Qualität.
Worum es geht
Bonsai 2 von Prism ML ist eine Familie von Vision-Modellen, die für ternäre Gewichte gebaut wurde. Jedes Gewicht ist −1, 0 oder +1. Das Ziel sind sehr kleine Modelle mit Qualität nahe der vollen Präzision.
Die wichtigsten Fakten
- Größen: 2B, 4B, 9B und 27B.
- Etwa halb so groß wie Standard-4-bit-Modelle, laut Anbieter bei nahezu voller Qualität. Belege dafür enthält die Quelle nicht.
- Alle Größen unterstützen Thinking, Tool Calling, Bildeingabe und 262K Token Kontext.
- Start mit
ollama run bonsai-2. Außerdemollama launchfür claude, opencode, hermes und openclaw. - Über 43.000 Downloads. Die Lizenz wird nicht genannt.
Einordnung
Ternäre Gewichte versprechen deutlich weniger Speicherbedarf, was besonders für lokale Setups mit wenig VRAM interessant ist. Das lange Kontextfenster und die Tool-Unterstützung machen die Modelle für Agenten-Setups brauchbar. Unabhängige Benchmarks und der tatsächliche Qualitätsverlust bleiben zu prüfen.
🧪 Selbst ausprobieren: Bonsai 2
| Ollama | bonsai-2 · Größen: 2b, 4b, 9b, 27b |
|---|---|
| Größe | 27.0 Mrd. Parameter |
| VRAM (4-bit, geschätzt) | ~17.7 GB |
| Typ | vision-language · image-text-to-text |
⚡ Schnellster Weg (Ollama, alle Systeme)
ollama run bonsai-2☁️ Google Colab
Notebook herunterladen- colab.research.google.com öffnen
- Datei → Notebook hochladen →
colab.ipynb - Laufzeit → Laufzeittyp ändern → GPU (T4)
- Laufzeit → Alle ausführen
Die Skripte sind automatisch erzeugt. Vor dem Ausführen kurz reinschauen – und die Model Card lesen, manche Modelle brauchen spezielle Versionen.