#!/usr/bin/env bash
# Nemotron 3.5 Bolt lokal ausprobieren – macOS
# Automatisch erzeugt von Tokenstrom (tokenstrom.de).
# Aufruf: bash try_mac.sh
set -e
cd "$(dirname "$0")"
echo "== Nemotron 3.5 Bolt =="
echo "WARNUNG: Groß (74 Mrd. Parameter): braucht auch quantisiert ~45.9 GB VRAM/RAM. Colab Free (T4, 15 GB) reicht nicht."

if true; then
  echo "== Ollama =="
  if ! command -v ollama >/dev/null 2>&1; then
    if command -v brew >/dev/null 2>&1; then brew install ollama; else
      echo "Bitte zuerst die Ollama-App installieren: https://ollama.com/download/mac"; exit 1; fi
  fi
  curl -s http://localhost:11434/api/tags >/dev/null 2>&1 || (ollama serve >/dev/null 2>&1 &)
  sleep 3
  MODEL="${MODEL:-}"
  # Passende Variante für deine Hardware auswählen (eigene Wahl:  MODEL=<name> bash try_mac.sh)
  if [ -z "${MODEL:-}" ]; then
  MEM_GB=$(( $(sysctl -n hw.memsize) / 1073741824 * 7 / 10 ))   # ca. 70 % des Speichers nutzt die GPU
  MODEL=$(printf '%s\n' "9.0 nemotron-3.5-bolt:e4b 0
10.0 nemotron-3.5-bolt:e4b-q4_K_M 0
12.0 nemotron-3.5-bolt:e4b-q8_0 0
20.0 nemotron-3.5-bolt:e4b-bf16 0
29.0 nemotron-3.5-bolt:74b-a9b 1" | awk -v mem="$MEM_GB" '
    { need[NR]=$1+0; ref[NR]=$2; def[NR]=$3+0 }
    END { mem=mem+0; for (i=1;i<=NR;i++) if (def[i]==1 && need[i]<=mem) { print ref[i]; exit }
          best=ref[1]; for (i=1;i<=NR;i++) if (need[i]<=mem) best=ref[i]; print best }')
  echo "Verfügbarer Speicher: ca. ${MEM_GB} GB  ->  gewählte Variante: $MODEL"
  fi

  MODEL="${MODEL:-nemotron-3.5-bolt}"
  echo "Lade $MODEL herunter (beim ersten Mal dauert das je nach Größe einige Minuten) ..."
  ollama pull "$MODEL"
  echo ""
  echo "Fertig! Tippe jetzt deine Frage ein und drücke Enter. Beenden mit /bye"
  exec ollama run "$MODEL"
fi