Jailbreak

Ein Jailbreak ist der Versuch, ein Modell dazu zu bringen, seine vorgesehenen Beschränkungen zu übergehen. Untersucht wurde dabei nicht nur, dass es gelingt, sondern warum: Eine Arbeit nennt zwei Ursachen im Sicherheitstraining, nämlich konkurrierende Ziele und eine Sicherheitsausrichtung, die nicht so weit verallgemeinert wie die Fähigkeiten des Modells. Wei et al.

Eine Eigenschaft des Ansatzes, kein einzelner Fehler

Weil die Ursachen im Training liegen, lässt sich das Problem nicht durch Nachschärfen einer Regel beseitigen. Jede Ausrichtung deckt einen Bereich ab, und außerhalb dieses Bereichs, etwa in ungewöhnlichen Sprachen, Formaten oder Rollenspielen, greift sie schwächer.

Anbieter begegnen dem mit fortlaufendem Angriffstesten und Nachtraining, was Fortschritte bringt, aber keine Garantie. Ganguli et al.

So kannst du dir das vorstellen

Ein Türsteher mit Anweisungen, wen er nicht hereinlässt. Er erkennt die bekannten Fälle zuverlässig und kann bei ungewöhnlichen Aufzügen danebenliegen. Das Bild erklärt die Lücke zwischen Regel und Wirklichkeit, es gibt keine Anleitung zum Umgehen.

Was es in der Praxis bedeutet

Für Betreiber folgt daraus eine klare Regel: Die Ausrichtung des Modells ist keine Sicherheitsgrenze für die eigene Anwendung. Was nicht passieren darf, muss außerhalb des Modells verhindert werden, über Rechte, Werkzeugauswahl und Freigaben.

Sinnvoll ist außerdem, die eigenen Anwendungen gezielt testen zu lassen, bevor es andere tun, und Vorfälle so zu protokollieren, dass sie auswertbar sind.

Wo es verwechselt wird

Ein Jailbreak zielt auf die Regeln des Modells, Prompt Injection auf die Anwendung drumherum. Und eine abgelehnte Anfrage ist kein Beleg für Sicherheit, ebenso wenig wie eine beantwortete ein Beleg für ein Versagen.

Verwandte Begriffe

Prompt Injection, Red Teaming, Safety Training, Refusal, Guardrails, AI Safety.