---
term: "Logits Processor"
slug: "logits-processor"
glossar_id: "G414"
variants: []
category: "generierung-sampling-und-ausgabeformate"
marker: "Technik"
short: "Komponente zur Veränderung der Token-Scores während der Generierung."
sources:
  - label: "Willard, Louf: Efficient Guided Generation for Large Language Models"
    url: "https://arxiv.org/abs/2307.09702"
  - label: "Keskar et al.: CTRL"
    url: "https://arxiv.org/abs/1909.05858"
status: "entwurf"
updated: "2026-09-21"
---

Ein Logits Processor ist ein Baustein, der die Bewertungen des Modells verändert, bevor daraus das nächste Token ausgewählt wird. Er sitzt zwischen der Ausgabe des Modells und der Auswahl und kann Werte anheben, absenken oder ganz ausschließen.

## Eine Stelle, viele Zwecke

Fast alle Steuerungen der Erzeugung sind an dieser Stelle umgesetzt: Temperatur, Abschneideregeln, Strafterme gegen Wiederholung und das Ausschließen unzulässiger Tokens bei erzwungenen Formaten. Solche Strafterme wurden früh in dieser Weise beschrieben. [Keskar et al.: CTRL](https://arxiv.org/abs/1909.05858)

Auch die Einhaltung von Grammatiken wird so umgesetzt: Zu jedem Zustand gehört eine Menge erlaubter Tokens, und alles andere wird auf einen Wert gesetzt, der die Auswahl ausschließt. [Willard, Louf](https://arxiv.org/abs/2307.09702)

## So kannst du dir das vorstellen

Ein Filter zwischen Jurybewertung und Auszählung. Er kann Kandidaten streichen, Punkte gewichten oder Gleichstand auflösen, bevor das Ergebnis feststeht. Das Bild erklärt die Position im Ablauf, nicht die einzelnen Regeln.

## Was es in der Praxis bedeutet

In lokal betriebenen Modellen ist das die Stelle, an der sich eigenes Verhalten einbauen lässt: bestimmte Wörter ausschließen, ein Vokabular erzwingen, Ausgaben auf eine Auswahlliste beschränken. In Anbieterschnittstellen ist davon nur ein Teil zugänglich, etwa eine Beeinflussung einzelner Tokens.

Nützlich ist das Wissen darum vor allem, um Werbeaussagen einzuordnen: Vieles, was nach Modellfähigkeit klingt, ist eine Regel an dieser Stelle.

## Wo es verwechselt wird

Ein solcher Baustein ändert das Modell nicht, sondern nur die Auswahl aus seinen Bewertungen. Und er ist keine Nachbearbeitung des fertigen Textes.

## Verwandte Begriffe

**Logits**, **Constrained Decoding**, **Repetition Penalty**, **Temperature**, **Sampling**.