Ling-3.0-flash-Sante: Offenes Gesundheitsmodell mit Hybrid-Linear-MoE

InclusionAI veröffentlicht Ling-3.0-flash-Sante mit 124B Parametern (5,1B aktiv) und 256K Kontext. Das Modell ist für medizinisches Reasoning und Deep Research ausgelegt.

Modell-Releases Open Source 22. Okt. 2026 1 Min. Lesezeit Quelle: r/LocalLLaMA
Symbolbild, KI-generiert

Worum es geht

InclusionAI hat Ling-3.0-flash-Sante auf Hugging Face und ModelScope veröffentlicht. Es ist eine auf Gesundheit spezialisierte Variante von Ling-3.0-flash. „Santé“ ist französisch für Gesundheit. Es ist ausdrücklich ein Forschungsmodell und kein Medizinprodukt.

Die wichtigsten Fakten

  • 124B Parameter, 5,1B aktiv pro Token.
  • Hybrid-linear-MoE-Architektur aus Kimi Delta Attention (KDA), gated MLA und sparse MoE-Schichten.
  • Training auf bis zu 256K Kontext, geeignet für lange Dokumente und Evidenzsynthese.
  • Einsatzfelder: medizinisches Reasoning, Healthcare-Research, Deep Research, Tool-Workflows und Multi-Agent-Szenarien.
  • Thinking-Modus ist standardmäßig aktiv, Tool Calling läuft über kompatible Serving-Frameworks.
  • Gewichte auf Hugging Face und ModelScope. Eine Lizenz nennt der Auszug nicht.

Einordnung

Die geringe Zahl aktiver Parameter macht das Modell im Betrieb effizient. Die 124B Gesamtparameter brauchen aber viel Speicher, daher ist es eher für Multi-GPU- oder Workstation-Setups gedacht. Ausgaben können falsch sein und ersetzen keine ärztliche Beratung. Konkrete Benchmark-Zahlen fehlen im Auszug.

#ling#healthcare#moe#hugging-face#256k-kontext
Originalquelle lesen

Selbst ausprobieren

Ling-3.0-flash-Sante auf deinem Rechner oder kostenlos in Google Colab.

Größe127.5 Mrd. Parameter
Speicher (4-bit)~78.0 GB
Lizenzmit
Typtext-generation

Groß (127.5 Mrd. Parameter): braucht auch quantisiert ~78.0 GB VRAM/RAM. Colab Free (T4, 15 GB) reicht nicht.

Schnellster Weg – mit Ollama auf allen Systemen
ollama run hf.co/AtomicChat/Ling-3.0-flash-Sante-GGUF

Google Colab

  1. Notebook herunterladen: colab.ipynb
  2. colab.research.google.com öffnen → Datei → Notebook hochladen
  3. Laufzeit → Laufzeittyp ändern → GPU (T4)
  4. Laufzeit → Alle ausführen – fertig.

Linux

try_linux.sh demo.py

bash try_linux.sh
# oder mit Python/transformers statt Ollama:
MODE=hf bash try_linux.sh

macOS

try_mac.sh demo.py

bash try_mac.sh

Windows

try_windows.ps1 demo.py

powershell -ExecutionPolicy Bypass -File try_windows.ps1

Die Skripte werden automatisch erzeugt. Bitte vor dem Ausführen kurz ansehen und die Model Card lesen – manche Modelle brauchen spezielle Versionen.