Context

Context, auf Deutsch Kontext, bezeichnet die Informationen, die einem Sprachmodell bei einem Verarbeitungsschritt zur Verfügung stehen. Anthropic: Context Engineering Dazu können Anweisungen, bisherige Nachrichten, Dokumentauszüge und Rückmeldungen auf Werkzeugaufrufe gehören. Anthropic: Context Engineering

Mehr als die letzte Nachricht

Eine Chatoberfläche zeigt vor allem deine Unterhaltung, während die Anwendung zusätzlich eigene Anweisungen oder abgerufene Inhalte in den Modellaufruf aufnehmen kann. Anthropic: Context Engineering Der tatsächlich bereitgestellte Kontext ist deshalb nicht automatisch mit dem sichtbaren Chattext identisch. Anthropic: Context Engineering

Werkzeuge sind hier Funktionen, über die die Anwendung beispielsweise Dateien liest oder Daten abfragt. Anthropic: Context Engineering Erst die für den Modellaufruf bereitgestellten Informationen können dort berücksichtigt werden; außerhalb gespeicherte Notizen sind nicht allein durch ihre Existenz Teil dieses aktiven Kontexts. Anthropic: Context Engineering

Die gespeicherte Unterhaltung und der aktuelle Aufruf sind ebenfalls zu unterscheiden. Eine Anwendung kann den Verlauf erneut mitsenden, über eine Schnittstelle referenzieren oder ältere Inhalte vor der Weiterarbeit verdichten. OpenAI: Conversation State

So kannst du dir das vorstellen

Stell dir einen hypothetischen Auftrag vor: Eine KI soll eine Antwort auf eine Lieferanfrage entwerfen. Auf ihrem gedachten Arbeitstisch liegen deine Aufgabe, die Anfrage, eine ausgewählte Bestellzeile und die geltenden Formulierungsvorgaben.

Das gesamte Unternehmensarchiv steht daneben im Schrank. Solange die Anwendung daraus keine Unterlagen auf den Arbeitstisch holt, gehören diese nicht zum bereitgestellten Arbeitsmaterial.

Die Analogie erklärt Verfügbarkeit, nicht menschliches Verstehen. Sie soll insbesondere nicht nahelegen, das Modell könne selbstständig jedes Dokument im Unternehmen einsehen.

Verfügbar heißt nicht zuverlässig genutzt

Auch tatsächlich enthaltene Informationen werden nicht unter allen Bedingungen korrekt aufgegriffen. Untersuchungen zu langen Kontexten zeigen aufgaben- und modellabhängige Schwierigkeiten bei der Nutzung relevanter Angaben. Hsieh et al.: RULER Chroma: Context Rot

Für die Fehlersuche würde ich daher zwei Fragen trennen: Welche Informationen wurden wirklich bereitgestellt, und was hat die Antwort daraus gemacht? Ein fehlender Dokumentauszug verlangt eine andere Korrektur als eine falsch verwendete, aber vorhandene Angabe.

Verwandte Begriffe

Context Window, Context State, Context Engineering, Memory, Tool Result.