feat(llm): llama.cpp/llama-swap aus der Diagnostic aktualisieren

Modell-Katalog → ⚙ llama.cpp zeigt je LLM-Box die installierte Version,
sucht nach Updates (Pruefsumme des Image-Tags in der Registry + letztes
llama-swap-Release) und aktualisiert auf Knopfdruck: altes Image sichern,
neues ziehen, Container per Compose neu anlegen, Selbsttest (llama.cpp
sieht die Karten, vorgeladene Modelle wieder bereit) — sonst automatisch
zurueck. Zuruecksetzen auf die Vorversion per Knopf.

Docker-Zugriff hat nur der neue llm-updater (feste Aktionen fuer
aria-llama-swap, kein Port nach aussen, Token in /models). Der llm-adapter
reicht llm_runtime weiter und meldet den Fortschritt. RVS-Allow-List um
llm_runtime/_result/_progress ergaenzt.

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
2026-11-01 12:39:52 +01:00
co-authored by Claude Opus 5.5
parent 3773178726
commit 68686de9dc
7 changed files with 671 additions and 1 deletions
+17
View File
@@ -207,6 +207,23 @@ services:
- HF_TOKEN=${HF_TOKEN:-}
restart: unless-stopped
# ─── LLM-Updater — llama-swap/llama.cpp aktualisieren ─
# Der EINZIGE Dienst mit Docker-Socket (= root auf der Box). Darum kann er nur
# drei feste Dinge fuer aria-llama-swap: Version pruefen, aktualisieren (altes
# Image sichern, ziehen, neu anlegen, Selbsttest, sonst zurueck) und auf die
# gesicherte Version zuruecksetzen. Kein Port nach aussen; der llm-adapter
# spricht ihn im Compose-Netz mit einem Token an (/models/.updater_token).
# Ausgeloest wird das aus der Diagnostic (Modell-Katalog → ⚙ llama.cpp).
llm-updater:
build: ./llm-updater
container_name: aria-llm-updater
profiles: ["llm"]
volumes:
- /var/run/docker.sock:/var/run/docker.sock
- .:/stack:ro # Compose-Datei + .env zum Neu-Anlegen
- ./models:/models:ro # Token + welche Modelle vorgeladen sind
restart: unless-stopped
# ─── OpenHands (optional, Standalone) ────────────────
# Eigenstaendige Entwickler-Agenten-Oberflaeche, die das LOKALE LLM ueber den
# OpenAI-Endpunkt von llama-swap nutzt. Bewusst ein eigenes Profil: wer nur