feat(llm): Diagnostic zeigt, welches Modell gerade in der Karte liegt

Die Flotte listete "qwen3-4b, qwen3-8b" — das sind die Modelle, die die Box
fahren KANN (llama-swap /v1/models), nicht die geladenen. Ohne groups-Config
liegt immer nur eins in der Karte; ein anderes anzufragen entlaedt es
(gegen llama-swap ausprobiert: A laden, B anfragen → A unloaded).

Der Adapter fragt jetzt llama-swap /running und schickt das Ergebnis in jedem
worker_ping (10 s) und im worker_hello mit; nach einem Modellwechsel sofort.
None = llama-swap nicht erreichbar, [] = nichts geladen — die Anzeige
unterscheidet das ("geladen: ?" vs. "keins geladen").

Diagnostic: das geladene Modell gruen mit "● geladen", die anderen grau mit
Hinweis, dass sie beim ersten Aufruf laden und das geladene verdraengen.

"GPU void": die LLM-Zeile zeigt jetzt LLM_GPU (die Karte von llama-swap) statt
der NVIDIA_VISIBLE_DEVICES des Adapters, die mit der Modell-Karte nichts zu
tun hat.

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
2026-10-18 15:40:17 +02:00
co-authored by Claude Opus 5.5
parent 864237ff2c
commit 89cb3a765b
3 changed files with 56 additions and 7 deletions
+19 -4
View File
@@ -5156,13 +5156,28 @@
const meta = WORKER_SVC_META[w.service] || { icon: '⚙️', label: w.service };
const dot = !w.online ? '#666' : (w.busy ? '#FFB020' : '#3FFF3F');
const stat = !w.online ? 'offline' : (w.busy ? 'beschaeftigt' : 'frei – idle – keine Auslastung');
// llm-Boxen koennen mehrere Modelle fahren (llama-swap) → Liste zeigen.
const modelText = (w.service === 'llm' && Array.isArray(w.models) && w.models.length)
? w.models.join(', ') : (w.model || '');
// llm-Boxen koennen mehrere Modelle FAHREN (llama-swap), aber nur
// eins liegt gerade in der Karte — das ist gruen markiert. Die
// anderen werden beim ersten Aufruf geladen (und verdraengen es).
let modelHtml;
if (w.service === 'llm' && Array.isArray(w.models) && w.models.length) {
const loaded = Array.isArray(w.loaded) ? w.loaded : null;
const isLoaded = id => loaded && loaded.some(l => l.model === id);
const state = id => (loaded.find(l => l.model === id) || {}).state;
modelHtml = w.models.map(id => isLoaded(id)
? '<span style="color:#3FFF3F;font-weight:600;" title="liegt gerade in der Karte">' + escapeHtml(id)
+ (state(id) && state(id) !== 'ready' ? ' (' + escapeHtml(state(id)) + ' …)' : ' ● geladen') + '</span>'
: '<span style="color:#8888AA;" title="lädt beim ersten Aufruf und verdrängt das geladene">' + escapeHtml(id) + '</span>'
).join('<span style="color:#555570;">, </span>');
if (loaded && !loaded.length) modelHtml += ' <span style="color:#6a6a88;">— keins geladen (lädt beim ersten Aufruf)</span>';
else if (!loaded && w.online) modelHtml += ' <span style="color:#6a6a88;" title="Box meldet es nicht — Adapter noch alt oder llama-swap nicht erreichbar">— geladen: ?</span>';
} else {
modelHtml = '<span style="color:#8888AA;">' + escapeHtml(w.model || '') + '</span>';
}
return '<div style="display:flex;align-items:center;gap:8px;padding:4px 0;">' +
'<span style="width:8px;height:8px;border-radius:50%;background:' + dot + ';display:inline-block;"></span>' +
'<span>' + meta.icon + ' <b>' + escapeHtml(meta.label) + '</b></span>' +
'<span style="color:#8888AA;">' + escapeHtml(modelText) + '</span>' +
'<span>' + modelHtml + '</span>' +
(w.gpus ? '<span style="color:#8888AA;">GPU ' + escapeHtml(w.gpus) + '</span>' : '') +
'<span style="margin-left:auto;color:' + dot + ';">' + stat + '</span>' +
'</div>' +