Carbon-X: 14B-Modell für DNA und Sprache, lokal mit llama.cpp

HuggingFaceBio veröffentlicht Carbon-X, ein auf Qwen3 14B basierendes Modell, das DNA-Sequenzen und natürliche Sprache verbindet. Eine GGUF-Version läuft lokal.

Modell-Releases Open Source 22. Okt. 2026 1 Min. Lesezeit Quelle: r/LocalLLaMA
Symbolbild, KI-generiert

Worum es geht

Das Team HuggingFaceBio hat Carbon-X veröffentlicht, ein Modell mit 14 Mrd. Parametern, das DNA und natürliche Sprache kombiniert. Es entstand durch Midtraining von Qwen3 14B auf einer Mischung aus DNA- und Textdaten. Nutzer können Fragen zu DNA-Sequenzen in normalem Englisch stellen, Mutationseffekte vorhersagen oder neue DNA generieren.

Die wichtigsten Fakten

  • Basis: Qwen3 14B, Midtraining plus RL-Rezept mit neuem hybriden Tokenizer.
  • Laut Autoren schlägt es auf fünf DNA-Benchmarks alle getesteten offenen Sprachmodelle und erreicht das Niveau von GPT-6.1 Sol.
  • Die Kosten sollen etwa 1.000-mal niedriger liegen (Herstellerangabe).
  • Eine GGUF-Version für llama.cpp ist veröffentlicht.
  • Blogpost beschreibt Midtraining- und RL-Rezept.
  • Lizenz in der Quelle nicht genannt.
  • Motivation: Biologiedaten sind sensibel, und Frontier-Modelle lehnen laut Autoren routinemäßige Genomik-Anfragen oft ab.

Einordnung

Für Bioinformatik-Forschende ist ein lokal lauffähiges Modell interessant, weil sensible Daten das eigene System nicht verlassen. Mit 14B und GGUF ist es auf Consumer-GPUs gut testbar. Die Benchmark-Angaben stammen von den Autoren selbst und sollten unabhängig überprüft werden.

#dna#biologie#qwen3#gguf#llama.cpp
Originalquelle lesen

Selbst ausprobieren

Carbon-X auf deinem Rechner oder kostenlos in Google Colab.

Größe14.8 Mrd. Parameter
Speicher (4-bit)~10.4 GB
Lizenzapache-2.0
Typtext-generation
Schnellster Weg – mit Ollama auf allen Systemen
ollama run hf.co/HuggingFaceBio/Carbon-X-GGUF

Google Colab

  1. Notebook herunterladen: colab.ipynb
  2. colab.research.google.com öffnen → Datei → Notebook hochladen
  3. Laufzeit → Laufzeittyp ändern → GPU (T4)
  4. Laufzeit → Alle ausführen – fertig.

Linux

try_linux.sh demo.py

bash try_linux.sh
# oder mit Python/transformers statt Ollama:
MODE=hf bash try_linux.sh

macOS

try_mac.sh demo.py

bash try_mac.sh

Windows

try_windows.ps1 demo.py

powershell -ExecutionPolicy Bypass -File try_windows.ps1

Die Skripte werden automatisch erzeugt. Bitte vor dem Ausführen kurz ansehen und die Model Card lesen – manche Modelle brauchen spezielle Versionen.