From 4d590df866c2425e0d420c6ceebd151e3ba7723d Mon Sep 17 00:00:00 2001 From: duffyduck Date: Sun, 25 Oct 2026 15:17:57 +0100 Subject: [PATCH] =?UTF-8?q?docs(diagnostic):=20Kontext-Info=20genauer=20?= =?UTF-8?q?=E2=80=94=20Zeichen=20statt=20Seiten,=20grosser=20Kontext=20!?= =?UTF-8?q?=3D=20besser?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit 32k als Zeichen-Spanne (Text vs. Code, ~2,3 Zeichen je Token bei HTML/JS) statt pauschal 20–25 Seiten. Neu: in sehr langen Verlaeufen uebersehen Modelle eher etwas (Mitte) und jede Anfrage wird langsamer. Co-Authored-By: Claude Opus 5.5 --- diagnostic/index.html | 3 ++- 1 file changed, 2 insertions(+), 1 deletion(-) diff --git a/diagnostic/index.html b/diagnostic/index.html index 289ac05..6039bf7 100644 --- a/diagnostic/index.html +++ b/diagnostic/index.html @@ -233,7 +233,7 @@

Wird der Verlauf länger, muss das Programm kürzen — meist die ältesten Teile. Die sind für das Modell dann weg. Ist der Verlauf trotzdem zu lang, lehnt die Box die Anfrage ab (Fehler context_exceeded).

Bildlich
-
📄 Kontext = der Schreibtisch: nur was gerade draufliegt, sieht das Modell. 32k Tokens ≈ 20–25 Seiten Text (Code: weniger).
+
📄 Kontext = der Schreibtisch: nur was gerade draufliegt, sieht das Modell. 32k Tokens ≈ 70.000–100.000 Zeichen: deutscher Text eher 30–40 Seiten, Code (z.B. HTML/JS, ~2,3 Zeichen je Token) eher am unteren Ende.
🗂️ Sitzung = der Aktenordner beim Programm: beliebig dick, aber pro Anfrage passt nur ein Teil auf den Schreibtisch.
🗄️ ARIAs Langzeitgedächtnis = das Archiv: daraus wird bei Bedarf gezielt etwas auf den Schreibtisch gelegt.
@@ -244,6 +244,7 @@
🗄️ Gedächtnis: dauerhaft Wichtiges wird als Fakt ins Archiv gelegt und bei Bedarf wieder hervorgeholt.
ARIA nutzt Gedächtnis immer (die ältesten Nachrichten werden zu Fakten destilliert) und im lokalen Modus zusätzlich Compacting: was aus ihrem Fenster fällt, fasst das lokale Modell im Hintergrund zum Notizzettel zusammen. Angebundene Programme (Software-Schmiede, OpenHands …) entscheiden selbst, welchen Weg sie gehen.
+

Großer Schreibtisch ≠ besseres Gedächtnis. In sehr langen Verläufen übersehen Modelle eher etwas — besonders in der Mitte —, und jede Anfrage wird langsamer, weil der ganze Verlauf erst verarbeitet werden muss. Lieber so groß wie nötig als so groß wie möglich.

Mehr Kontext = das Modell überblickt in einer Anfrage mehr vom Verlauf, es muss seltener gekürzt werden. Es kostet aber Grafikspeicher (die GB-Angabe in der Auswahl ist eine Schätzung für Modell + Kontext). Passt es nicht auf die Karte, setzt die Box sie von selbst auf den alten Wert zurück.

Höchstens so viel, wie das Modell gelernt hat (steht in der Modelldatei, z.B. Gemma 4 12B: 256k). Angebundene Programme bekommen den eingestellten Wert automatisch mitgeteilt.