feat(local-llm): B0 — GGUF Auto-Download via llama.cpp -hf (kein manuelles Ablegen)
Statt einer manuell abgelegten Datei zieht llama.cpp das Modell beim ersten Start selbst von Hugging Face (-hf Qwen/Qwen3-8B-GGUF:Q4_K_M, offizielles Repo verifiziert) und cached es unter xtts/models (persistent). Modell/Quant via LLM_HF_REPO/LLM_HF_QUANT in der .env wechselbar, kein Code. Diagnostic-Modellauswahl (on-demand laden/aktivieren mehrerer Modelle) als Folge-Baustein B0.5 via llama-swap ins Plan-Doc aufgenommen. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
+3
-2
@@ -80,5 +80,6 @@ __pycache__/
|
||||
*.swp
|
||||
*.swo
|
||||
|
||||
# Lokale LLM-Modelle (Plan B) — GGUF sind mehrere GB, nicht ins Repo
|
||||
xtts/models/*.gguf
|
||||
# Lokale LLM-Modelle (Plan B) — GGUF/HF-Cache sind mehrere GB, nicht ins Repo
|
||||
xtts/models/*
|
||||
!xtts/models/.gitkeep
|
||||
|
||||
Reference in New Issue
Block a user