Fehlverhalten, Zuverlässigkeit und menschliche Wahrnehmung
Refusal
Ablehnung einer Anfrage durch das Modell.
Eine Refusal ist die Ablehnung einer Anfrage: Das Modell beantwortet sie nicht, sondern erklärt, dass es das nicht tut. Das Verhalten ist gewollt und stammt aus dem Training, in dem Modelle darauf ausgerichtet werden, bei schädlichen Anfragen nicht zu helfen.
Hilfsbereit und harmlos zugleich geht nicht immer
Zwischen den beiden Zielen besteht eine Spannung: Harmlosigkeit verlangt, unsichere Anfragen abzulehnen, und damit in diesen Fällen nicht zu helfen. Röttger et al.: XSTest Wo die Grenze liegt, ist eine Entscheidung des Anbieters, keine Eigenschaft der Technik, und sie verschiebt sich mit jeder Modellversion.
Technisch ist eine Ablehnung ein eigener Ausgang. In Schnittstellen wird sie als eigener Grund für das Ende einer Antwort geführt, was für Anwendungen wichtig ist: Eine abgelehnte Antwort ist kein Fehler und kein Ergebnis. Anthropic: How tool use works
So kannst du dir das vorstellen
Eine Apothekerin gibt ein Mittel nicht heraus. Das kann berechtigt sein, es kann auf einer Verwechslung beruhen, und es kann die Behandlung unnötig verzögern. Die Ablehnung selbst sagt nichts darüber, welcher Fall vorliegt. Das Bild erklärt die Rolle der Grenzziehung, nicht deren Richtigkeit.
Was es in der Praxis bedeutet
In Anwendungen gehören Ablehnungen abgefangen und gezählt. Sie sollten nicht wie ein technischer Fehler aussehen, und ihre Häufigkeit ist eine nützliche Kennzahl: Steigt sie nach einem Modellwechsel, hat sich die Grenze verschoben.
Für Nutzer lohnt sich der Hinweis, dass eine Ablehnung oft an der Formulierung hängt. Eine sachliche Einbettung, etwa der berufliche Zusammenhang, ändert das Ergebnis häufig, ohne dass an der Sache etwas anders wird. Das ist kein Trick, sondern ein Hinweis darauf, wie grob die Grenze gezogen ist.
Wo es verwechselt wird
Eine Ablehnung ist kein Ausfall: Das Modell hat geantwortet, nur anders als gewünscht. Und sie ist nicht dasselbe wie Overrefusal, bei dem es um unnötige Ablehnungen harmloser Anfragen geht.
Verwandte Begriffe
Overrefusal, Guardrails, Sycophancy, Alignment, Safety Training.