feat(llm): llama.cpp/llama-swap aus der Diagnostic aktualisieren
Modell-Katalog → ⚙ llama.cpp zeigt je LLM-Box die installierte Version, sucht nach Updates (Pruefsumme des Image-Tags in der Registry + letztes llama-swap-Release) und aktualisiert auf Knopfdruck: altes Image sichern, neues ziehen, Container per Compose neu anlegen, Selbsttest (llama.cpp sieht die Karten, vorgeladene Modelle wieder bereit) — sonst automatisch zurueck. Zuruecksetzen auf die Vorversion per Knopf. Docker-Zugriff hat nur der neue llm-updater (feste Aktionen fuer aria-llama-swap, kein Port nach aussen, Token in /models). Der llm-adapter reicht llm_runtime weiter und meldet den Fortschritt. RVS-Allow-List um llm_runtime/_result/_progress ergaenzt. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
@@ -207,6 +207,23 @@ services:
|
||||
- HF_TOKEN=${HF_TOKEN:-}
|
||||
restart: unless-stopped
|
||||
|
||||
# ─── LLM-Updater — llama-swap/llama.cpp aktualisieren ─
|
||||
# Der EINZIGE Dienst mit Docker-Socket (= root auf der Box). Darum kann er nur
|
||||
# drei feste Dinge fuer aria-llama-swap: Version pruefen, aktualisieren (altes
|
||||
# Image sichern, ziehen, neu anlegen, Selbsttest, sonst zurueck) und auf die
|
||||
# gesicherte Version zuruecksetzen. Kein Port nach aussen; der llm-adapter
|
||||
# spricht ihn im Compose-Netz mit einem Token an (/models/.updater_token).
|
||||
# Ausgeloest wird das aus der Diagnostic (Modell-Katalog → ⚙ llama.cpp).
|
||||
llm-updater:
|
||||
build: ./llm-updater
|
||||
container_name: aria-llm-updater
|
||||
profiles: ["llm"]
|
||||
volumes:
|
||||
- /var/run/docker.sock:/var/run/docker.sock
|
||||
- .:/stack:ro # Compose-Datei + .env zum Neu-Anlegen
|
||||
- ./models:/models:ro # Token + welche Modelle vorgeladen sind
|
||||
restart: unless-stopped
|
||||
|
||||
# ─── OpenHands (optional, Standalone) ────────────────
|
||||
# Eigenstaendige Entwickler-Agenten-Oberflaeche, die das LOKALE LLM ueber den
|
||||
# OpenAI-Endpunkt von llama-swap nutzt. Bewusst ein eigenes Profil: wer nur
|
||||
|
||||
Reference in New Issue
Block a user