feat(llm): Modell-Download + HuggingFace-Katalog (Stage D)

Neue lokale GGUF-Modelle per Knopf auf eine Box laden — ohne Image-Rebuild.

- llm-adapter besitzt jetzt llama-swaps Config: generiert
  /models/llama-swap.config.yaml aus Basis-Template (xtts/llama-swap/config.yaml)
  + persistenter Registry /models/aria_models.json. Neue RVS-Handler
  llm_provision_model / llm_remove_model (targetInstance-gefiltert): Registry+
  Config schreiben, llama-swap-Reload anstossen, neu announcen, Warmup (zieht das
  GGUF via -hf, Fortschritt via service_status loading→ready). pyyaml ergaenzt.
- compose: llama-swap liest --config /models/llama-swap.config.yaml; llm-adapter
  mountet ./models (rw) + ./llama-swap (ro Template).
- diagnostic/server.js: /shared/config/llm_catalog.json (kuratierte GGUF-Liste)
  + GET /api/llm-catalog + POST /api/llm-catalog/refresh (HuggingFace-API-Merge);
  Actions llm_provision_model / llm_remove_model / llm_test; llm_provision_result
  an Browser durchgereicht.
- diagnostic/index.html: "Modell-Katalog"-Card (HF-Refresh, Ziel-Box waehlen,
  Laden, Verfuegbarkeit) + Test-Chat-Zeile ans lokale LLM (Antwort + Latenz).

Download nutzt llama-swaps vorhandenen -hf-Pfad (kein neuer Download-Code).
Reload ist der einzige Deploy-Verify-Punkt (llama-swap-Image); Fallback Box-up.
Deploy: diagnostic neu bauen (VM) + llm-Boxen neu bauen.

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>

xtts/docker-compose.yml

@@ -123,31 +123,37 @@ services:
   # bestimmt das `model`-Feld im Request (Brain schickt es aus local_llm.json).
   # Erster Load zieht das GGUF via -hf von HF (Cache unter /models, persistent).
   # OpenAI-kompatibel auf :8080, nur im Compose-Netz; die Bruecke macht der
-  # llm-adapter. Modell-Liste: ./llama-swap/config.yaml.
+  # llm-adapter. Die Modell-Liste erzeugt der llm-adapter dynamisch aus
+  # ./llama-swap/config.yaml (Basis) + Registry → /models/llama-swap.config.yaml.
   llama-swap:
     image: ghcr.io/mostlygeek/llama-swap:unified-cuda
     container_name: aria-llama-swap
     profiles: ["llm"]            # startet nur mit COMPOSE_PROFILES=…llm…
     runtime: nvidia
     volumes:
-      - ./models:/models                                   # HF-Download-Cache (persistent)
-      - ./llama-swap/config.yaml:/app/config.yaml:ro       # Modell-Liste
+      - ./models:/models                                   # HF-Cache + generierte Config
     environment:
       - NVIDIA_VISIBLE_DEVICES=${LLM_GPU:-0}
       - NVIDIA_DRIVER_CAPABILITIES=compute,utility
       - LLAMA_CACHE=/models                                # llama-server legt -hf-Downloads hier ab
-    command: ["--config", "/app/config.yaml", "--listen", "0.0.0.0:8080"]
+    # Liest die vom llm-adapter generierte Config. Beim allerersten Boot faengt
+    # restart: unless-stopped die Reihenfolge ab, bis der Adapter sie geschrieben hat.
+    command: ["--config", "/models/llama-swap.config.yaml", "--listen", "0.0.0.0:8080"]
     restart: unless-stopped
 
   # ─── Local-LLM-Adapter — RVS <-> llama.cpp ────
   # Verbindet sich per Token an den RVS (wie f5tts/whisper), nimmt llm_request
-  # entgegen, ruft llama.cpp lokal, antwortet llm_response.
+  # entgegen, ruft llama.cpp lokal, antwortet llm_response. Verwaltet ausserdem
+  # llama-swaps Config (Modelle hinzufuegen/entfernen via llm_provision_model).
   llm-adapter:
     build: ./llm-adapter
     container_name: aria-llm-adapter
     profiles: ["llm"]
     depends_on:
       - llama-swap
+    volumes:
+      - ./models:/models                                   # generierte Config + Registry + Cache
+      - ./llama-swap:/llamaswap:ro                          # Basis-Template (config.yaml)
     environment:
       - NODE_NAME=${NODE_NAME:-node}
       - RVS_HOST=${RVS_HOST}
@@ -157,6 +163,9 @@ services:
       - RVS_TOKEN=${RVS_TOKEN}
       - LLAMA_URL=http://llama-swap:8080
       - LLM_MODEL=${LLM_MODEL:-qwen3-8b}
+      - LLAMA_BASE_CONFIG=/llamaswap/config.yaml
+      - LLAMA_GEN_CONFIG=/models/llama-swap.config.yaml
+      - LLM_REGISTRY=/models/aria_models.json
       # Erster Load eines Modells kann ein GGUF ziehen (mehrere GB) — grosszuegig.
       - LLM_TIMEOUT_SEC=${LLM_TIMEOUT_SEC:-600}
     restart: unless-stopped