diff --git a/diagnostic/index.html b/diagnostic/index.html index d283cd8..055a2df 100644 --- a/diagnostic/index.html +++ b/diagnostic/index.html @@ -197,6 +197,31 @@ + +
Das Arbeitsgedächtnis für eine einzelne Anfrage — nicht das Gedächtnis einer ganzen Sitzung.
+Wird der Verlauf länger, muss das Programm kürzen — meist die ältesten Teile. Die sind für das Modell dann weg. Ist der Verlauf trotzdem zu lang, lehnt die Box die Anfrage ab (Fehler context_exceeded).
Mehr Kontext = das Modell überblickt in einer Anfrage mehr vom Verlauf, es muss seltener gekürzt werden. Es kostet aber Grafikspeicher (die GB-Angabe in der Auswahl ist eine Schätzung für Modell + Kontext). Passt es nicht auf die Karte, setzt die Box sie von selbst auf den alten Wert zurück.
+Höchstens so viel, wie das Modell gelernt hat (steht in der Modelldatei, z.B. Gemma 4 12B: 256k). Angebundene Programme bekommen den eingestellten Wert automatisch mitgeteilt.
+