Procedural Drift

Procedural Drift bezeichnet hier die schleichende Verfestigung ungeeigneter Vorgehensweisen im Agentengedächtnis. Redis: Context Poisoning und Memory Der Redis-Beitrag verwendet den Ausdruck für ein Fehlerbild, bei dem suboptimale Abläufe durch Wiederverwendung verstärkt werden. Redis: Context Poisoning und Memory

Aus einem Versuch wird eine Gewohnheitsregel

Procedural Memory umfasst Regeln und Verfahren zur Aufgabenbearbeitung. Sumers et al.: CoALA LangChain: Memory overview Wenn ein System solche Anweisungen anhand früherer Interaktionen verändert, kann eine ungeeignete Ableitung zur Grundlage späterer Schritte werden. LangChain: Memory overview Redis: Context Poisoning und Memory

Dabei muss kein einzelner gespeicherter Sachfakt falsch sein. Das Problem kann in der Reihenfolge, Auswahl oder Fortführung von Handlungsschritten liegen.

Die Bezeichnung ist in diesem Artikel eine beschreibende Kategorie aus dem Fachbeitrag. Sie benennt keine standardisierte Messmethode und behauptet nicht, dass jede wiederholte Vorgehensweise problematisch ist.

So kannst du dir das vorstellen

Ein hypothetischer Assistent überspringt bei einem einfachen Dokument einmal den Abgleich mit der freigegebenen Vorlage. Die Ausgabe fällt zufällig nicht negativ auf.

In einer späteren Notiz wird daraus die Empfehlung, den Vorlagenabgleich generell wegzulassen. Wenn diese Regel künftig auch bei anspruchsvollen Dokumenten angewendet wird, hätte sich eine unzureichend geprüfte Abkürzung verfestigt.

Das Beispiel ist selbst entworfen. Für die Beurteilung müsste geprüft werden, ob der Schritt tatsächlich unnötig war oder ob lediglich keine passende Kontrolle stattgefunden hat.

Verbesserungen brauchen einen Maßstab

Eine geänderte Vorgehensweise ist nicht automatisch Drift im problematischen Sinn. Für einen eigenen Ablauf würde ich sie am gültigen Auftrag, den fachlichen Anforderungen und überprüfbaren Ergebnissen messen.

CoALA weist darauf hin, dass Änderungen an prozeduralem Wissen Fehler einführen oder beabsichtigte Regeln unterlaufen können. Sumers et al.: CoALA Entsprechende Schreibrechte sollten daher bewusst vergeben werden. Sumers et al.: CoALA

Ich würde verbindliche Verfahren getrennt von vorgeschlagenen Verbesserungen speichern und Änderungen vor ihrer allgemeinen Verwendung testen. Wiederholung oder eine positive Selbsteinschätzung des Agenten wären allein keine ausreichenden Qualitätsbelege.

Verwandte Begriffe

Procedural Memory, Episodic Memory, Governed Memory, Goal Drift, Reflection.