#!/usr/bin/env bash
# DeepSeek-V4.1-Flash-1017 lokal ausprobieren – Linux
# Automatisch erzeugt von Tokenstrom (tokenstrom.de).
# Aufruf: bash try_linux.sh            # Ollama (Standard)
#        MODE=hf bash try_linux.sh    # Python/transformers
set -e
cd "$(dirname "$0")"
echo "== DeepSeek-V4.1-Flash-1017 =="
if command -v nvidia-smi >/dev/null 2>&1; then nvidia-smi --query-gpu=name,memory.total --format=csv,noheader;
else echo "Keine NVIDIA-GPU gefunden – läuft auf CPU (langsam)"; fi
echo "WARNUNG: Riesig (763.2 Mrd. Parameter): lokal praktisch nur auf Servern mit mehreren GPUs. Colab Free reicht nicht."

if [ "${MODE:-ollama}" = "ollama" ]; then
  echo "== Ollama =="
  if ! command -v ollama >/dev/null 2>&1; then
    command -v zstd >/dev/null 2>&1 || sudo apt-get install -y zstd 2>/dev/null || sudo dnf install -y zstd 2>/dev/null || true
    curl -fsSL https://ollama.com/install.sh | sh
  fi
  curl -s http://localhost:11434/api/tags >/dev/null 2>&1 || (ollama serve >/dev/null 2>&1 &)
  sleep 3
  MODEL="${MODEL:-}"
  MODEL="${MODEL:-hf.co/nazeshinjite/DeepSeek-V4.1-Flash-1017-ds4-GGUF}"
  echo "Lade $MODEL herunter (beim ersten Mal dauert das je nach Größe einige Minuten) ..."
  ollama pull "$MODEL"
  echo ""
  echo "Fertig! Tippe jetzt deine Frage ein und drücke Enter. Beenden mit /bye"
  exec ollama run "$MODEL"
fi

echo "== Python / Hugging Face =="
python3 -m venv .venv-deepseek-v4-1-flash-1017
source .venv-deepseek-v4-1-flash-1017/bin/activate
pip install -q -U pip
if command -v nvidia-smi >/dev/null 2>&1; then
  pip install -q -U torch --index-url https://download.pytorch.org/whl/cu124
  pip install -q -U transformers accelerate pillow scipy
else
  pip install -q -U torch --index-url https://download.pytorch.org/whl/cpu
  pip install -q -U transformers accelerate pillow scipy
fi

python3 demo.py