# Qwen3.8-Flash-Next GSQ-RCO Coder (Pruned GGUF) lokal ausprobieren – Windows (PowerShell) # Automatisch erzeugt von Tokenstrom (tokenstrom.de). # Aufruf: powershell -ExecutionPolicy Bypass -File try_windows.ps1 $ErrorActionPreference = "Stop" Set-Location $PSScriptRoot Write-Host "== Qwen3.8-Flash-Next GSQ-RCO Coder (Pruned GGUF) ==" if (Get-Command nvidia-smi -ErrorAction SilentlyContinue) { nvidia-smi --query-gpu=name,memory.total --format=csv,noheader } Write-Host "WARNUNG: Groß (115.9 Mrd. Parameter): braucht auch quantisiert ~71.0 GB VRAM/RAM. Colab Free (T4, 15 GB) reicht nicht." -ForegroundColor Yellow if ($true) { Write-Host "== Ollama ==" if (-not (Get-Command ollama -ErrorAction SilentlyContinue)) { Write-Host "Ollama wird installiert ..." winget install -e --id Ollama.Ollama --accept-source-agreements --accept-package-agreements $env:Path = [Environment]::GetEnvironmentVariable("Path","Machine") + ";" + [Environment]::GetEnvironmentVariable("Path","User") } try { Invoke-WebRequest -UseBasicParsing http://localhost:11434/api/tags | Out-Null } catch { Start-Process -WindowStyle Hidden ollama -ArgumentList "serve"; Start-Sleep 3 } if (-not $env:MODEL) { $env:MODEL = "hf.co/Skyrion/Qwen3.8-Flash-Next-GSQ-RCO-Coder-GGUF-Pruned" } Write-Host "Lade $($env:MODEL) herunter (beim ersten Mal dauert das je nach Größe einige Minuten) ..." ollama pull $env:MODEL Write-Host "" Write-Host "Fertig! Tippe jetzt deine Frage ein und drücke Enter. Beenden mit /bye" -ForegroundColor Green ollama run $env:MODEL exit }