Agenten, Tools und Orchestrierung
Human-on-the-Loop
Heißt auch HOTL.
Menschliche Überwachung mit Eingriff bei Bedarf statt jeder Einzelfreigabe.
Human-on-the-Loop, abgekürzt HOTL, bedeutet, dass ein System eigenständig arbeitet und ein Mensch es dabei beobachtet und eingreifen kann. Eine Übersichtsarbeit beschreibt die Beobachtung in dieser Aufstellung als optional, bei bestehender Möglichkeit zum Eingriff. Lazaros et al. Der Unterschied zur Freigabe im Ablauf ist also, ob die Zustimmung auf dem kritischen Pfad liegt.
Beobachten setzt voraus, dass es etwas zu sehen gibt
Diese Form verlangt mehr von der Technik als die Einzelfreigabe. Wer eingreifen soll, braucht laufende Einsicht in das, was passiert, und einen Weg, den Lauf zu stoppen, bevor der nächste Schritt ausgeführt wird. Ohne lesbares Protokoll, Anzeige des aktuellen Schritts und Notaus ist die Aufsicht eine Behauptung.
Bei Agenten, die längere Zeit allein arbeiten, gilt es als üblich, Haltepunkte für Rückfragen einzubauen und Grenzen zu setzen, an denen der Lauf ohnehin endet. Anthropic: Building effective agents
So kannst du dir das vorstellen
Die Aufstellung entspricht der Leitwarte. Niemand bedient jedes Ventil von Hand, aber jemand sieht die Anzeigen und kann abschalten. Das funktioniert, solange die Anzeigen stimmen und der Schalter erreichbar ist. Das Bild erklärt die Rolle der Aufsicht, es sagt nichts über die Aufmerksamkeit der Person davor.
Was es in der Praxis bedeutet
Der wunde Punkt ist die Aufmerksamkeit. Ein System, das über Stunden unauffällig arbeitet, erzieht seine Aufsicht zum Wegsehen, und genau dann passiert der seltene Fehler. Wirksamer als dauerndes Zuschauen sind deshalb feste Prüfpunkte: Zwischenstände ansehen, Stichproben aus dem Protokoll, Meldungen bei ungewöhnlichen Schritten.
Für die Auswahl der Betriebsart hilft eine einfache Frage: Wie teuer ist ein Fehler, der erst später auffällt? Wo Schäden unumkehrbar sind, gehört die Freigabe in den Ablauf. Wo sich Fehler korrigieren lassen und die Menge groß ist, ist Aufsicht die praktikablere Form.
Wo es verwechselt wird
Human-on-the-Loop ist nicht die schwächere Version von Human-in-the-Loop, sondern eine andere Aufstellung mit anderen Anforderungen an Protokoll und Eingriff. Und Aufsicht ohne Abschaltmöglichkeit ist keine Aufsicht.
Verwandte Begriffe
Human-in-the-Loop, Autonomous Agent, Termination Condition, LLM Observability, Guardrails, Long-Horizon Task.