---
term: "Repetition Penalty"
slug: "repetition-penalty"
glossar_id: "G404"
variants: []
category: "generierung-sampling-und-ausgabeformate"
marker: ""
short: "Anpassung der Auswahlwahrscheinlichkeiten zur Beeinflussung von Wiederholungen."
sources:
  - label: "Keskar et al.: CTRL"
    url: "https://arxiv.org/abs/1909.05858"
  - label: "Holtzman et al.: The Curious Case of Neural Text Degeneration"
    url: "https://arxiv.org/abs/1904.09751"
status: "entwurf"
updated: "2026-09-21"
---

Die Repetition Penalty senkt die Bewertung von Tokens, die im bisherigen Text schon vorkamen, damit sich Formulierungen seltener wiederholen. Eingeführt wurde ein solcher Strafterm bei der Arbeit an steuerbarer Texterzeugung. [Keskar et al.: CTRL](https://arxiv.org/abs/1909.05858)

## Ein Pflaster für ein tiefer liegendes Problem

Der Anlass ist die bekannte Neigung zu Wiederholungsschleifen, die besonders bei strikter Höchstwahl auftritt. [Holtzman et al.](https://arxiv.org/abs/1904.09751) Der Strafterm bekämpft dabei die Folge, nicht die Ursache: Er macht Wiederholung unwahrscheinlicher, statt die Auswahl insgesamt sinnvoller zu machen.

Verwandt sind zwei Einstellungen in Anbieterschnittstellen, die entweder das wiederholte Auftreten oder das bloße Vorkommen eines Tokens bestrafen. Alle drei greifen an derselben Stelle ein, nämlich an den Bewertungen vor der Auswahl.

## So kannst du dir das vorstellen

Ein Redner, der sich vornimmt, kein Wort zweimal zu benutzen. Der Text wird abwechslungsreicher und an manchen Stellen unfreiwillig verquer, weil auch nötige Wiederholungen vermieden werden. Das Bild erklärt die Nebenwirkung, nicht die Berechnung.

## Was es in der Praxis bedeutet

Vorsicht ist bei Fachtexten geboten. Begriffe, Namen und Zahlen müssen wiederholt werden dürfen, und ein zu strenger Strafterm führt dazu, dass das Modell auf Synonyme ausweicht, die fachlich falsch sind.

Wenn dir Wiederholungsschleifen begegnen, lohnt es sich zuerst, Temperatur und Abschneideregel zu prüfen und den Prompt zu schärfen. Der Strafterm ist das letzte Mittel, nicht das erste.

## Wo es verwechselt wird

Der Strafterm verhindert keine inhaltlichen Wiederholungen, sondern wirkt auf Tokenebene: Derselbe Gedanke in anderen Worten bleibt möglich. Und er verbessert keine Qualität, sondern verschiebt nur die Auswahl.

## Verwandte Begriffe

**Sampling**, **Temperature**, **Logits Processor**, **Mode Collapse**, **Decoding**.