feat(diagnostic): Sicherheit im Modell-Katalog — Anbieter, HF-Scan, Skripte im Repo
Die Box laedt nur die GGUF-Datei (llama.cpp -hf / paralleler Download per sha256); Skripte, Pickle u.ae. im selben Repo kommen nie auf die Box. Liegen sie dort, ist das trotzdem ein Warnsignal fuer den Anbieter. - hfRepoSafety: HF-Dateiliste mit securityFileStatus (ProtectAI, AV, Pickle-Import, VirusTotal) → Befunde (unsafe/suspicious/caution …), Anzahl geprueft-sicher, riskante Dateien (.py/.sh/.exe/.pkl/.pt …), bekannter Anbieter (Hersteller + bekannte GGUF-Umwandler). - Katalog: "⚠ Befund" / "⚠ Skripte" / "✓" je Eintrag; beim Hinzufuegen sofort, Bestand beim naechsten Aktualisieren. - ℹ: Abschnitt "Sicherheit". - Laden/Nur downloaden: bei Befunden erst Rueckfrage. Getestet gegen HuggingFace: unsloth/mradermacher bekannt und ohne Befund; Virtue-AI-HUB/VulnLLM-R-7B (Original) mit Befund "caution" an training_args.bin (Pickle mit Imports) — das GGUF von mradermacher ist sauber. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
+22
-1
@@ -9830,6 +9830,9 @@
|
||||
const searchText = [m.id, m.description, m.hfRepo, m.quant].filter(Boolean).join(' ');
|
||||
return '<tr data-search="' + escapeHtml(searchText) + '" data-tools="' + (m.tools === false ? 'nein' : 'ja') + '" style="border-bottom:1px solid #1E1E2E;">' +
|
||||
'<td ' + td + 'white-space:nowrap;"><b>' + escapeHtml(m.id) + '</b>'
|
||||
+ (m.safety && m.safety.flagged && m.safety.flagged.length ? ' <span title="HuggingFace meldet Befunde bei Dateien in diesem Repo — siehe ℹ" style="font-size:10px;color:#FF453A;border:1px solid #FF453A;border-radius:8px;padding:0 5px;">⚠ Befund</span>'
|
||||
: m.safety && m.safety.risky && m.safety.risky.length ? ' <span title="Im Repo liegen Skripte/ausführbare Dateien neben dem Modell — wir laden sie nicht, aber Vorsicht beim Anbieter (siehe ℹ)" style="font-size:10px;color:#FF9F0A;border:1px solid #FF9F0A;border-radius:8px;padding:0 5px;">⚠ Skripte</span>' : '')
|
||||
+ (m.safety && m.safety.known ? ' <span title="Bekannter Anbieter (Hersteller oder bekannter GGUF-Umwandler)" style="font-size:10px;color:#8888AA;">✓</span>' : '')
|
||||
+ (m.tools ? ' <span title="Kann Werkzeuge aufrufen (laut Chat-Vorlage) — z.B. Websuche, wenn ARIA es lokal nutzt" style="font-size:10px;color:#34C759;border:1px solid #34C759;border-radius:8px;padding:0 5px;">🔧</span>' : '')
|
||||
+ (m.uncensored ? ' <span title="Unzensierte Fassung — lehnt kaum etwas ab" style="font-size:10px;color:#FFB020;border:1px solid #FFB020;border-radius:8px;padding:0 5px;">unzensiert</span>' : '')
|
||||
+ (m.added_at && (Date.now() - new Date(m.added_at).getTime()) < 7 * 864e5 ? ' <span title="In den letzten 7 Tagen in den Katalog gekommen" style="font-size:10px;color:#4DB8FF;border:1px solid #4DB8FF;border-radius:8px;padding:0 5px;">neu</span>' : '')
|
||||
@@ -10279,6 +10282,7 @@
|
||||
<div id="model-info-summary" style="margin-bottom:10px;color:#8888AA;">Kurzbeschreibung wird vom lokalen Modell aus der Modellkarte erstellt …</div>
|
||||
${fam}
|
||||
<table style="font-size:12px;margin-top:8px;">
|
||||
${row('Sicherheit', _modelSafetyHtml(j.safety))}
|
||||
${row('Werkzeuge', j.tools === true ? '🔧 ja — die Chat-Vorlage kennt Werkzeug-Aufrufe' : j.tools === false ? 'nein — eher für Übersetzen, Zusammenfassen, Erklären' : 'unbekannt (keine Chat-Vorlage)')}
|
||||
${row('Größe', m.sizeGB ? '~' + m.sizeGB + ' GB · ' + escapeHtml(m.quant || '') : '')}
|
||||
${row('Grundmodell', j.base ? escapeHtml(j.base) : '')}
|
||||
@@ -10290,6 +10294,15 @@
|
||||
</table>
|
||||
${j.intro ? `<details style="margin-top:10px;"><summary style="cursor:pointer;color:#8888AA;">Aus der Modellkarte (${escapeHtml(j.introFrom)}, englisch)</summary><div style="white-space:pre-wrap;color:#C8C8DA;font-size:12px;margin-top:6px;">${escapeHtml(j.intro)}</div></details>` : ''}`);
|
||||
}
|
||||
function _modelSafetyHtml(sf) {
|
||||
if (!sf) return 'unbekannt';
|
||||
const parts = [sf.known ? '✓ bekannter Anbieter' : '<span style="color:#FF9F0A;">unbekannter Anbieter — eher vorsichtig</span>'];
|
||||
parts.push(sf.flagged.length
|
||||
? `<span style="color:#FF453A;">⚠ HuggingFace meldet Befunde: ${sf.flagged.map(f => escapeHtml(f.path) + ' (' + escapeHtml(f.status) + ')').join(', ')}</span>`
|
||||
: `HuggingFace-Scan: ${sf.scanned} Datei(en) geprüft, keine Befunde`);
|
||||
if (sf.risky.length) parts.push(`<span style="color:#FF9F0A;">Im Repo liegen Skripte/ausführbare Dateien: ${sf.risky.map(escapeHtml).join(', ')}.</span> <span style="color:#8888AA;">Die Box lädt nur die GGUF-Datei — diese Dateien kommen nie auf die Box. Aber: Warnsignal für den Anbieter.</span>`);
|
||||
return parts.join('<br>');
|
||||
}
|
||||
// Deutsche Kurzbeschreibung: einmal vom lokalen Modell erzeugt, danach aus dem Katalog
|
||||
async function _loadModelSummary(repo) {
|
||||
let j;
|
||||
@@ -10551,9 +10564,10 @@
|
||||
}
|
||||
|
||||
// Nur auf die Platte der Box (der aus der Ziel-Karten-Auswahl) — in keine Karte
|
||||
function downloadModelOnly(i) {
|
||||
async function downloadModelOnly(i) {
|
||||
const m = _llmCatalog[i];
|
||||
if (!m) return;
|
||||
if (!await _safetyGate(m)) return;
|
||||
const sel = document.getElementById('llm-cat-box-' + i);
|
||||
const target = String((sel && sel.value) || '').split('|')[0];
|
||||
if (!target) return;
|
||||
@@ -10568,9 +10582,16 @@
|
||||
openLlmDownloads();
|
||||
}
|
||||
|
||||
async function _safetyGate(m) {
|
||||
const sf = m && m.safety;
|
||||
if (!sf || !sf.flagged || !sf.flagged.length) return true;
|
||||
return await uiConfirm(`Vorsicht bei ${m.id}\n\nHuggingFace meldet bei Dateien in diesem Repo Befunde (${sf.flagged.map(f => f.path).join(', ')}). `
|
||||
+ 'Die Box lädt zwar nur die GGUF-Datei, aber wer Verdächtiges hochlädt, dem ist auch das Modell nicht zu trauen. Trotzdem laden?');
|
||||
}
|
||||
async function provisionModel(i) {
|
||||
const m = _llmCatalog[i];
|
||||
if (!m) return;
|
||||
if (!await _safetyGate(m)) return;
|
||||
const sel = document.getElementById('llm-cat-box-' + i);
|
||||
const [target, gpu] = String((sel && sel.value) || '').split('|');
|
||||
if (!target) return;
|
||||
|
||||
Reference in New Issue
Block a user