Tools

Unsloth: Flint als GGUF für lokale Coding-Agenten

Unsloth stellt quantisierte GGUF-Versionen von Recursives Coding-MoE Flint (39,8B, ca. 2,5B aktiv) bereit. Damit lässt sich das Modell mit llama.cpp-Tools lokal testen.

Unsloth hat GGUF-Quantisierungen von Flint veröffentlicht, einem Mixture-of-Experts-Modell der Firma Recursive für Coding-Agenten. Flint soll Codebasen untersuchen, Bugs beheben, Features implementieren und Tests schreiben. Die GGUF-Varianten machen es für lokale Runtimes zugänglich.

• 39,8 Mrd. Parameter gesamt, ca. 2,5 Mrd. aktiv pro Token (256 Experten, 6 aktiv plus ein Shared Expert).
• Lizenz: Apache 2.0.
• Kontext: 262.144 Tokens; 49 Layer, davon 35 mit Sliding-Window-Attention und 14 mit Full Attention.