Context Drift

Context Drift bezeichnet hier das schleichende Abweichen einer KI-Unterhaltung von ihrem Thema, ihrer beabsichtigten Bedeutung oder zuvor festgehaltenen Sachverhalten. YSquare: Context Drift Es ist eine beschreibende Fehlerbezeichnung, keine in dieser Quelle einheitlich messbar festgelegte technische Kennzahl.

Der Zusammenhang verschiebt sich

Eine Antwort kann für sich genommen plausibel sein und trotzdem nicht mehr zur ursprünglichen Absicht passen. YSquare: Context Drift Context Drift lenkt den Blick deshalb auf die Entwicklung über mehrere Nachrichten und nicht nur auf die Richtigkeit eines einzelnen Satzes. YSquare: Context Drift

Die zugrunde liegenden Probleme können mit unzureichend erhaltenen Vorgaben oder einer falsch fortgeschriebenen Gesprächsinterpretation zusammenhängen. YSquare: Context Drift Eine bloße Feststellung „Der Chat ist lang“ erklärt den konkreten Fehler aber noch nicht.

Von Goal Drift wird hier gesprochen, wenn insbesondere das verfolgte Auftragsziel abweicht. Technical Report: Evaluating Goal Drift Context Drift wird weiter gefasst und kann auch die Bedeutung einzelner Begriffe oder den thematischen Rahmen betreffen. YSquare: Context Drift

So kannst du dir das vorstellen

Du planst hypothetisch eine interne Schulung für bereits eingestellte Mitarbeitende. Im Verlauf werden mehrere Beispiele zur Ansprache neuer Teammitglieder diskutiert.

Später liefert die KI plötzlich einen Recruitingtext für Bewerberinnen und Bewerber. Dieser Text könnte gut geschrieben sein und dennoch am vereinbarten Schulungszweck vorbeigehen.

Für die Prüfung würde ich festhalten, an welcher Stelle aus „neue Mitarbeitende“ unbemerkt „mögliche Bewerbende“ geworden ist. So wird die Bedeutungsverschiebung konkreter als mit der pauschalen Diagnose „Die KI hat etwas vergessen“.

Geänderte Aufträge sind kein Fehler

Wenn du das Ziel ausdrücklich änderst, ist die entsprechende Neuausrichtung erwünscht. Maßgeblich wäre deshalb der zuletzt gültige, autorisierte Auftrag, nicht zwingend die allererste Formulierung.

Strukturierte Zusammenfassungen von Entscheidungen, Rahmenbedingungen und offenen Aufgaben können Kontinuität unterstützen. YSquare: Context Drift Anthropic: Context Engineering Sie müssen allerdings geprüft werden: Eine falsche Deutung kann sonst selbst Teil der weitergegebenen Zusammenfassung werden. Drew Breunig: How Contexts Fail

Verwandte Begriffe

Goal Drift, Context Loss, Context Summarization, Context Management, Semantic Drift.