Generierung, Sampling und Ausgabeformate
Repetition Penalty
Anpassung der Auswahlwahrscheinlichkeiten zur Beeinflussung von Wiederholungen.
Die Repetition Penalty senkt die Bewertung von Tokens, die im bisherigen Text schon vorkamen, damit sich Formulierungen seltener wiederholen. Eingeführt wurde ein solcher Strafterm bei der Arbeit an steuerbarer Texterzeugung. Keskar et al.: CTRL
Ein Pflaster für ein tiefer liegendes Problem
Der Anlass ist die bekannte Neigung zu Wiederholungsschleifen, die besonders bei strikter Höchstwahl auftritt. Holtzman et al. Der Strafterm bekämpft dabei die Folge, nicht die Ursache: Er macht Wiederholung unwahrscheinlicher, statt die Auswahl insgesamt sinnvoller zu machen.
Verwandt sind zwei Einstellungen in Anbieterschnittstellen, die entweder das wiederholte Auftreten oder das bloße Vorkommen eines Tokens bestrafen. Alle drei greifen an derselben Stelle ein, nämlich an den Bewertungen vor der Auswahl.
So kannst du dir das vorstellen
Ein Redner, der sich vornimmt, kein Wort zweimal zu benutzen. Der Text wird abwechslungsreicher und an manchen Stellen unfreiwillig verquer, weil auch nötige Wiederholungen vermieden werden. Das Bild erklärt die Nebenwirkung, nicht die Berechnung.
Was es in der Praxis bedeutet
Vorsicht ist bei Fachtexten geboten. Begriffe, Namen und Zahlen müssen wiederholt werden dürfen, und ein zu strenger Strafterm führt dazu, dass das Modell auf Synonyme ausweicht, die fachlich falsch sind.
Wenn dir Wiederholungsschleifen begegnen, lohnt es sich zuerst, Temperatur und Abschneideregel zu prüfen und den Prompt zu schärfen. Der Strafterm ist das letzte Mittel, nicht das erste.
Wo es verwechselt wird
Der Strafterm verhindert keine inhaltlichen Wiederholungen, sondern wirkt auf Tokenebene: Derselbe Gedanke in anderen Worten bleibt möglich. Und er verbessert keine Qualität, sondern verschiebt nur die Auswahl.
Verwandte Begriffe
Sampling, Temperature, Logits Processor, Mode Collapse, Decoding.