docs(diagnostic): Kontext-Info genauer — Zeichen statt Seiten, grosser Kontext != besser

32k als Zeichen-Spanne (Text vs. Code, ~2,3 Zeichen je Token bei HTML/JS)
statt pauschal 20–25 Seiten. Neu: in sehr langen Verlaeufen uebersehen
Modelle eher etwas (Mitte) und jede Anfrage wird langsamer.

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
2026-10-25 15:17:57 +01:00
co-authored by Claude Opus 5.5
parent b93b62eea9
commit 4d590df866
+2 -1
View File
@@ -233,7 +233,7 @@
<p style="margin:6px 0;"><b>Wird der Verlauf länger,</b> muss das Programm kürzen — meist die ältesten Teile. Die sind für das Modell dann weg. Ist der Verlauf trotzdem zu lang, lehnt die Box die Anfrage ab (Fehler <code>context_exceeded</code>).</p> <p style="margin:6px 0;"><b>Wird der Verlauf länger,</b> muss das Programm kürzen — meist die ältesten Teile. Die sind für das Modell dann weg. Ist der Verlauf trotzdem zu lang, lehnt die Box die Anfrage ab (Fehler <code>context_exceeded</code>).</p>
<div style="background:#12122A;border:1px solid #1E1E2E;border-radius:8px;padding:10px 12px;margin:10px 0;"> <div style="background:#12122A;border:1px solid #1E1E2E;border-radius:8px;padding:10px 12px;margin:10px 0;">
<div style="color:#E0E0F0;font-weight:700;margin-bottom:4px;">Bildlich</div> <div style="color:#E0E0F0;font-weight:700;margin-bottom:4px;">Bildlich</div>
<div>📄 <b>Kontext</b> = der Schreibtisch: nur was gerade draufliegt, sieht das Modell. 32k Tokens ≈ 20–25 Seiten Text (Code: weniger).</div> <div>📄 <b>Kontext</b> = der Schreibtisch: nur was gerade draufliegt, sieht das Modell. 32k Tokens ≈ 70.000–100.000 Zeichen: deutscher Text eher 30–40 Seiten, Code (z.B. HTML/JS, ~2,3 Zeichen je Token) eher am unteren Ende.</div>
<div>🗂️ <b>Sitzung</b> = der Aktenordner beim Programm: beliebig dick, aber pro Anfrage passt nur ein Teil auf den Schreibtisch.</div> <div>🗂️ <b>Sitzung</b> = der Aktenordner beim Programm: beliebig dick, aber pro Anfrage passt nur ein Teil auf den Schreibtisch.</div>
<div>🗄️ <b>ARIAs Langzeitgedächtnis</b> = das Archiv: daraus wird bei Bedarf gezielt etwas auf den Schreibtisch gelegt.</div> <div>🗄️ <b>ARIAs Langzeitgedächtnis</b> = das Archiv: daraus wird bei Bedarf gezielt etwas auf den Schreibtisch gelegt.</div>
</div> </div>
@@ -244,6 +244,7 @@
<div>🗄️ <b>Gedächtnis</b>: dauerhaft Wichtiges wird als Fakt ins Archiv gelegt und bei Bedarf wieder hervorgeholt.</div> <div>🗄️ <b>Gedächtnis</b>: dauerhaft Wichtiges wird als Fakt ins Archiv gelegt und bei Bedarf wieder hervorgeholt.</div>
<div style="margin-top:6px;color:#8888AA;">ARIA nutzt Gedächtnis immer (die ältesten Nachrichten werden zu Fakten destilliert) und im lokalen Modus zusätzlich Compacting: was aus ihrem Fenster fällt, fasst das lokale Modell im Hintergrund zum Notizzettel zusammen. Angebundene Programme (Software-Schmiede, OpenHands …) entscheiden selbst, welchen Weg sie gehen.</div> <div style="margin-top:6px;color:#8888AA;">ARIA nutzt Gedächtnis immer (die ältesten Nachrichten werden zu Fakten destilliert) und im lokalen Modus zusätzlich Compacting: was aus ihrem Fenster fällt, fasst das lokale Modell im Hintergrund zum Notizzettel zusammen. Angebundene Programme (Software-Schmiede, OpenHands …) entscheiden selbst, welchen Weg sie gehen.</div>
</div> </div>
<p style="margin:6px 0;"><b>Großer Schreibtisch ≠ besseres Gedächtnis.</b> In sehr langen Verläufen übersehen Modelle eher etwas — besonders in der Mitte —, und jede Anfrage wird langsamer, weil der ganze Verlauf erst verarbeitet werden muss. Lieber so groß wie nötig als so groß wie möglich.</p>
<p style="margin:6px 0;"><b>Mehr Kontext</b> = das Modell überblickt in einer Anfrage mehr vom Verlauf, es muss seltener gekürzt werden. Es kostet aber <b>Grafikspeicher</b> (die GB-Angabe in der Auswahl ist eine Schätzung für Modell + Kontext). Passt es nicht auf die Karte, setzt die Box sie von selbst auf den alten Wert zurück.</p> <p style="margin:6px 0;"><b>Mehr Kontext</b> = das Modell überblickt in einer Anfrage mehr vom Verlauf, es muss seltener gekürzt werden. Es kostet aber <b>Grafikspeicher</b> (die GB-Angabe in der Auswahl ist eine Schätzung für Modell + Kontext). Passt es nicht auf die Karte, setzt die Box sie von selbst auf den alten Wert zurück.</p>
<p style="margin:6px 0;color:#8888AA;">Höchstens so viel, wie das Modell gelernt hat (steht in der Modelldatei, z.B. Gemma 4 12B: 256k). Angebundene Programme bekommen den eingestellten Wert automatisch mitgeteilt.</p> <p style="margin:6px 0;color:#8888AA;">Höchstens so viel, wie das Modell gelernt hat (steht in der Modelldatei, z.B. Gemma 4 12B: 256k). Angebundene Programme bekommen den eingestellten Wert automatisch mitgeteilt.</p>
</div> </div>