Sicherheit, Missbrauch und Governance
Step Ceiling
Heißt auch Agent Budget.
Obergrenze für Schritte, Tokens, Zeit oder Kosten eines Agentenlaufs.
Ein Step Ceiling ist die Obergrenze für einen Agentenlauf: höchstens so viele Runden, so viele Tokens, so viel Zeit oder so viel Geld. Sie greift unabhängig davon, ob die Aufgabe erledigt ist, und ist damit das Gegenstück zur inhaltlichen Abbruchbedingung. Als übliche Vorkehrung sind solche Grenzen ausdrücklich genannt. Anthropic: Building effective agents
Mehrere Grenzen nebeneinander
In der Praxis werden mehrere Arten kombiniert: eine Rundengrenze je Agent, eine Begrenzung gleichzeitig laufender Teilagenten, eine Verschachtelungstiefe und ein Ausgabenlimit für den gesamten Lauf. Werkzeuge bieten diese Einstellungen als eigene Optionen an, samt definiertem Verhalten beim Erreichen. Anthropic: Subagents in the SDK
Der Grund für die Vielzahl ist einfach: Ein Agent kann Teilagenten starten, und ohne Tiefen- und Mengenbegrenzung wächst aus einem Auftrag ein Baum von Aufträgen.
So kannst du dir das vorstellen
Ein Budget mit Deckel. Es sagt nicht, wie gearbeitet wird, aber es sorgt dafür, dass die Rechnung am Monatsende nicht überrascht. Das Bild erklärt die Rolle als Notbremse.
Was es in der Praxis bedeutet
Setze Grenzen bewusst und beobachte, wie oft sie greifen. Ein Lauf, der regelmäßig an der Obergrenze endet, ist ein Hinweis auf eine zu große Aufgabe oder einen zu unklaren Auftrag, nicht auf eine zu niedrige Grenze.
Wichtig ist außerdem das Verhalten beim Abbruch: Der Zwischenstand sollte lesbar bleiben, und begonnene Vorgänge in angebundenen Systemen sollten erkennbar sein, damit niemand einen halb bearbeiteten Fall übersieht.
Wo es verwechselt wird
Eine Obergrenze ist kein Qualitätsmaß: Ein abgebrochener Lauf ist nicht erledigt. Und sie ersetzt die inhaltliche Abbruchbedingung nicht, sondern sichert sie ab.
Verwandte Begriffe
Termination Condition, Rate Limits, Agent Loop, Blast Radius, Long-Horizon Task.