Reasoning Loop

Ein Reasoning Loop ist das Kreisen eines Agenten ohne Fortschritt: Er versucht dieselbe Sache mehrfach, formuliert denselben Plan neu oder wechselt zwischen zwei Ansätzen hin und her. In der Fehlersystematik für Mehragentensysteme erscheint das als eigenes Fehlermuster, die Wiederholung von Schritten. Cemri et al.

Die Schleife merkt nicht, dass sie sich dreht

Der Grund liegt in der Funktionsweise. Eine Agentenschleife endet, wenn das Modell eine fertige Antwort meldet oder eine Grenze greift. Anthropic: How tool use works Sie endet nicht, weil nichts vorangeht, denn dafür bräuchte es einen Vergleich zwischen den Runden, den niemand anstellt.

Verstärkt wird das dadurch, dass die Fehlversuche im Verlauf stehen bleiben. Der Kontext füllt sich mit gescheiterten Ansätzen, und das Modell schreibt fort, was es sieht, nämlich ein Muster aus Versuch und Fehlschlag.

So kannst du dir das vorstellen

Ein Auto, das sich im Schnee festgefahren hat. Jeder weitere Versuch mit demselben Gasfuß gräbt das Rad tiefer ein. Von innen sieht jeder Versuch vernünftig aus, weil er dem vorigen ähnelt. Das Bild erklärt die Eigendynamik, nicht die technische Ursache.

Was es in der Praxis bedeutet

Wenn du beim Zusehen dieselbe Aktion zum dritten Mal siehst, greif ein. Weiterlaufen lassen hilft fast nie, weil der Kontext mit jedem Durchlauf schlechter wird. Besser ist: abbrechen, den bisherigen Stand sichern und mit einem präziseren Auftrag neu starten.

Beim Bauen helfen drei Dinge: eine Obergrenze für Runden, eine einfache Prüfung auf wiederholte Werkzeugaufrufe mit gleichen Argumenten und eine Anweisung, bei zweimaligem Fehlschlag den Weg zu wechseln oder nachzufragen.

Wo es verwechselt wird

Kreisen ist nicht dasselbe wie langes Arbeiten: Bei einer schwierigen Aufgabe sind viele Runden normal, solange sich der Zustand ändert. Und es ist kein Endlosproblem des Modells, sondern eines der Schleife, die es antreibt.

Verwandte Begriffe

Agent Loop, Termination Condition, Compounding Errors, Agent State, Context Window.