#!/usr/bin/env bash # Nanbeige4.3-33B lokal ausprobieren – macOS # Automatisch erzeugt von Tokenstrom (tokenstrom.de). # Aufruf: bash try_mac.sh # Ollama (Standard) # MODE=hf bash try_mac.sh # Python/transformers set -e cd "$(dirname "$0")" echo "== Nanbeige4.3-33B ==" if [ "${MODE:-ollama}" = "ollama" ]; then echo "== Ollama ==" if ! command -v ollama >/dev/null 2>&1; then if command -v brew >/dev/null 2>&1; then brew install ollama; else echo "Bitte zuerst die Ollama-App installieren: https://ollama.com/download/mac"; exit 1; fi fi curl -s http://localhost:11434/api/tags >/dev/null 2>&1 || (ollama serve >/dev/null 2>&1 &) sleep 3 MODEL="${MODEL:-}" MODEL="${MODEL:-hf.co/eepos/Nanbeige4.3-33B-Q4_K_S-GGUF}" echo "Lade $MODEL herunter (beim ersten Mal dauert das je nach Größe einige Minuten) ..." ollama pull "$MODEL" echo "" echo "Fertig! Tippe jetzt deine Frage ein und drücke Enter. Beenden mit /bye" exec ollama run "$MODEL" fi echo "== Python / Hugging Face ==" python3 -m venv .venv-nanbeige4-3-33b source .venv-nanbeige4-3-33b/bin/activate pip install -q -U pip pip install -q -U torch transformers accelerate python3 demo.py