Context Overflow

Context Overflow bezeichnet hier das Überschreiten der technisch zulässigen Kontextkapazität eines Modells oder seiner Schnittstelle. OpenAI: Conversation State OpenAI: Responses-Referenz Es ist von Qualitätsproblemen zu unterscheiden, die bereits innerhalb eines formal zulässigen Kontexts auftreten können. Chroma: Context Rot

Zu groß für den konkreten Aufruf

Der vollständige Aufruf kann mehr Tokens enthalten als die sichtbare Nutzernachricht, etwa durch Verlauf, Werkzeugbeschreibungen und zusätzliche Daten. OpenAI: Tokens verstehen und zählen Welche Eingabe- und Generierungsgrenzen gelten, hängt vom verwendeten Modell und der Schnittstelle ab. OpenAI: Conversation State OpenAI: Reasoning Models

Schnittstellenreferenzen dokumentieren beispielsweise sowohl das Abweisen einer zu großen Eingabe als auch eine automatische Kürzungsstrategie. OpenAI: Responses-Referenz In der dokumentierten automatischen Variante werden Elemente vom Anfang der Unterhaltung entfernt; bei deaktivierter Kürzung wird eine zu große Eingabe mit einem Fehler abgewiesen. OpenAI: Responses-Referenz

Diese Beschreibung ist ein Schnittstellenbeispiel, keine universelle Regel aller Anbieter. Konkrete Parameter und ihre aktuelle Unterstützung müssen vor einer Implementierung geprüft werden.

So kannst du dir das vorstellen

Eine hypothetische Anwendung fügt einem langen Dialog unerwartet einen umfangreichen Datenexport hinzu. Dadurch passt die nächste Anfrage nicht mehr in die zulässige Kapazität.

Je nach festgelegtem Verhalten könnte der Aufruf scheitern oder nur mit gekürztem Verlauf weitergehen. Für deinen Prozess wäre entscheidend, ob dabei ursprüngliche Einschränkungen oder wichtige Entscheidungen verloren gehen.

Ich würde einen solchen Fall gezielt testen und nicht erst im laufenden Betrieb entdecken. Auch die Fehlermeldung beziehungsweise Kürzung müsste für die Anwendung erkennbar verarbeitet werden.

Frühzeitig statt blind kürzen

Verdichtung und gezielte Kontextauswahl können den aktiven Umfang verringern. Anthropic: Context Engineering Auch eine separate Compaction-Anfrage muss mit ihrem Eingangskontext noch innerhalb des unterstützten Fensters liegen. OpenAI: Compaction

Die Bezeichnung wird gelegentlich weiter gefasst, etwa für Informationsüberlastung ohne harte Grenzüberschreitung. Elastic: Context Poisoning und Retrieval In diesem Glossar bleibt Context Overflow dagegen ausdrücklich der technische Kapazitätsfall.

Verwandte Begriffe

Context Window, Token Budget, Output Limit, Context Compaction, Context Loss.