Self-Correction

Self-Correction bezeichnet Verfahren, bei denen ein Modell eine frühere Antwort auf Fehler prüft und anschließend überarbeitet. Huang et al.: Self-Correction Ob daraus tatsächlich eine richtige oder bessere Antwort entsteht, ist eine separate Bewertungsfrage. Huang et al.: Self-Correction

Woher kommt der Hinweis auf den Fehler?

Bei intrinsischer Selbstkorrektur soll das Modell seine Antwort ohne zusätzliche externe Rückmeldung beurteilen und korrigieren. Huang et al.: Self-Correction Eine Aufforderung wie „Prüfe deine Antwort noch einmal“ liefert dabei noch keinen neuen Beleg für die sachliche Richtigkeit.

Andere Verfahren beziehen äußere Rückmeldungen ein, beispielsweise Fehlermeldungen, Codeausführung, Rechenergebnisse oder Hinweise aus einer Wissensquelle. Huang et al.: Self-Correction Solche Informationen können konkreter zeigen, an welcher Stelle ein bisheriger Versuch die Anforderungen verfehlt.

Reflection bezeichnet in diesem Zusammenhang vor allem den prüfenden beziehungsweise kommentierenden Schritt. Shinn et al.: Reflexion Self-Correction umfasst die anschließende Veränderung des Ergebnisses; eine Kritik allein behebt noch keinen Fehler.

So kannst du dir das vorstellen

Ein hypothetischer Assistent soll Daten in einem festen Format ausgeben. Eine technische Prüfung meldet, dass ein Pflichtfeld fehlt.

Der Assistent ergänzt das Feld anhand der vorhandenen Originalangaben und lässt das Ergebnis erneut prüfen. Die Rückmeldung nennt hier einen konkreten Mangel, statt lediglich Unsicherheit über die erste Antwort auszudrücken.

Wenn der erforderliche Wert in den Originaldaten fehlt, wäre eine erfundene Ergänzung allerdings keine gelungene Korrektur. In diesem Beispiel müsste dann ein zulässiger Leerwert verwendet oder die fehlende Angabe ausdrücklich gemeldet werden.

Keine pauschale Fähigkeit aller Modelle

Die Arbeit von Huang und Kollegen aus dem Jahr 2023 fand bei den untersuchten Reasoning-Aufgaben keine zuverlässige Verbesserung allein durch intrinsische Selbstkorrektur; manche Antworten wurden schlechter. Huang et al.: Self-Correction Das ist ein Befund zu den getesteten Modellen und Verfahren, kein zeitloser Beweis, dass jede Form späterer Selbstkorrektur unmöglich ist.

Auch das Ende einer Überarbeitungsschleife muss sinnvoll bestimmt werden. Huang et al.: Self-Correction Für einen praktischen Ablauf wären ein nachvollziehbares Prüfkriterium und eine begrenzte Zahl von Versuchen wichtiger als möglichst viele Korrekturrunden.

Verwandte Begriffe

Reflection, Verifier, Instruction Following, Test-Time Compute, ReAct.