# ERNIE-5.5-Flash-Base lokal ausprobieren – Windows (PowerShell)
# Automatisch erzeugt von Tokenstrom (tokenstrom.de).
# Aufruf:  powershell -ExecutionPolicy Bypass -File try_windows.ps1

$ErrorActionPreference = "Stop"
Set-Location $PSScriptRoot
Write-Host "== ERNIE-5.5-Flash-Base =="
if (Get-Command nvidia-smi -ErrorAction SilentlyContinue) { nvidia-smi --query-gpu=name,memory.total --format=csv,noheader }
Write-Host "WARNUNG: Groß (286,2 Mrd. Parameter, MoE): komplett auf der Grafikkarte braucht es viel VRAM, mit MoE-Offloading reicht eine normale Grafikkarte plus viel Arbeitsspeicher (siehe Tabelle). Colab Free reicht nicht." -ForegroundColor Yellow

Write-Host "== Python / Hugging Face =="
python -m venv .venv-ernie-5-5-flash-base
& .\.venv-ernie-5-5-flash-base\Scripts\Activate.ps1
python -m pip install -q -U pip
if (Get-Command nvidia-smi -ErrorAction SilentlyContinue) {
  pip install -q -U torch --index-url https://download.pytorch.org/whl/cu124
  pip install -q -U transformers accelerate bitsandbytes
} else { pip install -q -U torch transformers accelerate }

python demo.py