Procedural Memory

Procedural Memory bezeichnet Wissen darüber, wie Aufgaben ausgeführt werden, beispielsweise Handlungsregeln, Abläufe und ausführbare Verfahren. Sumers et al.: CoALA LangChain: Memory overview Bei KI-Agenten kann dieses Wissen je nach Architektur in Modellparametern, Programmcode oder Anweisungen repräsentiert sein. Sumers et al.: CoALA LangChain: Memory overview

Vorgehenswissen statt bloßer Fakten

CoALA unterscheidet implizites Wissen in den Gewichten des Sprachmodells von expliziten Verfahren im Agentencode. Sumers et al.: CoALA Dazu zählen zusätzlich die verwendeten Prompts, etwa gespeicherte Regeln zur Aufgabenbearbeitung. LangChain: Memory overview

Ein externer Speicher mit Arbeitsanweisungen ist somit eine mögliche Umsetzung, aber nicht die vollständige Definition des Begriffs. Ebenso wenig bedeutet ein neuer gespeicherter Ablauf automatisch, dass das Sprachmodell neu trainiert wurde. Sumers et al.: CoALA LangChain: Memory overview

Die Unterscheidung zu Episodic Memory betrifft den Schwerpunkt: Ein vergangener Ablauf dokumentiert einen Fall; eine prozedurale Regel beschreibt ein vorgesehenes Vorgehen. LangChain: Memory overview

So kannst du dir das vorstellen

Ein hypothetischer Angebotsassistent erhält die Regel: Zuerst Leistungsumfang prüfen, danach Ausschlüsse kennzeichnen und erst anschließend die Preise vergleichen. Diese Reihenfolge wäre ein Beispiel für explizit hinterlegtes Vorgehenswissen.

Der Eintrag „Beim letzten Angebot wurde ein Ausschluss übersehen“ wäre dagegen zunächst eine Episode. Daraus könnte eine verbesserte Prüfanweisung entstehen, müsste aber vor ihrer allgemeinen Verwendung geprüft werden.

Für einen Betrieb würde ich gültige Abläufe von bloß vorgeschlagenen Verbesserungen unterscheiden. Eine hilfreiche Idee sollte nicht unbemerkt verbindliche Freigabe- oder Sicherheitsregeln ersetzen.

Änderungen können weitreichend wirken

CoALA bewertet die Veränderung prozeduralen Gedächtnisses als besonders riskant, weil Änderungen an Verfahren Fehler einführen oder die Absicht der Systemgestaltung unterlaufen können. Sumers et al.: CoALA Die Architektur sieht deshalb die Festlegung von Lese- und Schreibrechten für Gedächtnisbereiche vor. Sumers et al.: CoALA

Für eine konkrete Anwendung würde ich Änderungen an wichtigen Verfahren versionieren, prüfen und anhand geeigneter Fälle testen. Die bloße Tatsache, dass eine KI einen neuen Ablauf gespeichert hat, wäre kein Nachweis seiner Eignung.

Verwandte Begriffe

Episodic Memory, Semantic Memory, System Prompt, Procedural Drift, Governed Memory.