Kontextfenster, Kontextmanagement und Kontextprobleme
Context Rot
Kontextverfall
Heißt auch Context Degradation.
Qualitätsverlust eines Modells, wenn sein Kontextfenster über einen langen Verlauf mit immer mehr halb relevantem Material volläuft.
Was dahintersteckt
Nicht die harte Grenze des Kontextfensters ist das Problem, sondern das Verhältnis von Signal zu Rauschen darin. Je länger ein Verlauf wird, desto mehr verworfene Ansätze, überholte Dateiversionen und beiläufige Zwischenfragen stehen neben der eigentlichen Aufgabe.
Das Modell gewichtet frühe Anweisungen schwächer, greift auf veraltete Zwischenstände zurück und widerspricht sich.
Beispiel
Eine Coding-Session läuft seit zwei Stunden. Drei Fehlversuche und zwei verworfene Entwürfe stehen weiterhin im Verlauf. Das Modell schlägt plötzlich wieder die Lösung vor, die vor einer Stunde bereits als untauglich verworfen wurde.
Typische Verwechslung
Wird häufig mit einem vollen Kontextfenster gleichgesetzt. Ein Fenster kann zu dreißig Prozent gefüllt sein und trotzdem unter Context Rot leiden, wenn sein Inhalt widersprüchlich ist. Umgekehrt bleibt ein randvolles, aber sauber kuratiertes Fenster brauchbar.