+
Modell-Katalog
Von HuggingFace aktualisieren
-
+
Gaengige lokale GGUF-Modelle. „Laden" schickt das Modell an die gewaehlte
LLM-Box — llama-swap zieht das GGUF beim ersten Mal (mehrere GB) und meldet
den Fortschritt. Danach ist es im Modell-Dropdown oben waehlbar.
- Achte auf den VRAM der Box (Groesse je Modell).
+ Achte auf den VRAM der Box (Spalte VRAM).
-
(lade Katalog…)
+
(lade Katalog…)
@@ -7085,6 +7085,7 @@
// ── Modell-Katalog (Stage D) ────────────────────────────
let _llmCatalog = [];
async function loadLlmCatalog() {
+ if (typeof requestWorkers === 'function') requestWorkers(); // Flotte aktiv nachziehen
try {
const r = await fetch('/api/llm-catalog');
const j = await r.json();
@@ -7111,21 +7112,30 @@
if (!box) return;
if (!_llmCatalog.length) { box.innerHTML = '
Katalog leer. '; return; }
const boxes = onlineLlmBoxes();
- box.innerHTML = _llmCatalog.map((m, i) => {
+ const th = 'style="padding:6px 8px;text-align:left;position:sticky;top:0;background:#12122A;"';
+ const td = 'style="padding:6px 8px;vertical-align:top;"';
+ const rows = _llmCatalog.map((m, i) => {
const have = boxesServing(m.id);
- const haveTxt = have.length ? `
✓ auf ${have.map(b => escapeHtml(b.node)).join(', ')} ` : '
nicht geladen ';
- const sizeTxt = m.sizeGB ? ` · ~${m.sizeGB} GB` : '';
+ const haveTxt = have.length ? `
✓ ${have.map(b => escapeHtml(b.node)).join(', ')} ` : '
nicht geladen ';
+ const vram = m.sizeGB ? '~' + m.sizeGB + ' GB' : '—';
+ const vramStyle = m.sizeGB >= 12 ? 'color:#FFB020;' : 'color:#AAB;';
const opts = boxes.length
? boxes.map(b => `
${escapeHtml(b.node)} `).join('')
: '
(keine Box online) ';
- return '
' +
- '' + escapeHtml(m.id) + ' ' + sizeTxt + ' ' +
- '' + escapeHtml(m.description || m.hfRepo || '') + ' ' +
- haveTxt +
- '' + opts + ' ' +
- 'Laden ' +
- '
';
+ return '
' +
+ '' + escapeHtml(m.id) + ' ' +
+ '' + escapeHtml(m.description || m.hfRepo || '') + ' ' +
+ '' + vram + ' ' +
+ '' + haveTxt + ' ' +
+ '' + opts + ' ' +
+ 'Laden ' +
+ ' ';
}).join('');
+ box.innerHTML = '
' +
+ '' +
+ 'Modell Kann gut / Beschreibung VRAM ' +
+ 'Status Ziel-Box ' +
+ ' ' + rows + '
';
}
function provisionModel(i) {
const m = _llmCatalog[i];