---
term: "Constitutional AI"
slug: "constitutional-ai"
glossar_id: "G152"
variants: []
category: "alignment-praeferenzlernen-und-reinforcement-learning"
marker: ""
short: "Ausrichtung mithilfe expliziter Prinzipien für Kritik, Überarbeitung und Bewertung."
sources:
  - label: "Anthropic: Constitutional AI"
    url: "https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback"
status: "entwurf"
updated: "2026-09-20"
---

Constitutional AI ist ein Verfahren, das KI-Verhalten anhand ausdrücklich formulierter Prinzipien ausrichtet. [Anthropic: Constitutional AI](https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback) Diese Prinzipien dienen unter anderem dazu, Antworten durch ein Modell kritisieren, überarbeiten und vergleichen zu lassen. [Anthropic: Constitutional AI](https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback)

## Prinzipien als Trainingsgrundlage

Die „Constitution“, also die namensgebende Verfassung, ist hier eine Liste von Verhaltensgrundsätzen und kein rechtlicher Verfassungstext. [Anthropic: Constitutional AI](https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback) Im ursprünglichen Verfahren wird sie in zwei verschiedenen Trainingsphasen genutzt. [Anthropic: Constitutional AI](https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback)

Zunächst erzeugt das Modell Antworten, kritisiert sie anhand der Prinzipien und formuliert überarbeitete Fassungen. [Anthropic: Constitutional AI](https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback) Mit diesen überarbeiteten Antworten erfolgt anschließend eine überwachte Modellanpassung. [Anthropic: Constitutional AI](https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback)

In der zweiten Phase beurteilt eine KI Antwortpaare und erzeugt daraus Präferenzdaten. [Anthropic: Constitutional AI](https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback) Ein daraus trainiertes Bewertungsmodell liefert dann das Signal für bestärkendes Lernen, weshalb diese Phase auch als Reinforcement Learning from AI Feedback bezeichnet wird. [Anthropic: Constitutional AI](https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback)

## So kannst du dir das vorstellen

Angenommen, für einen hypothetischen Assistenten gilt der Grundsatz: „Hilf bei berechtigten Anliegen, ohne vertrauliche Informationen unbefugt weiterzugeben.“ Eine erste Antwort auf eine Personalfrage enthält unnötig persönliche Angaben.

Im vereinfachten Beispiel würde die Kritik diesen Konflikt benennen. Eine überarbeitete Antwort könnte stattdessen das allgemeine Verfahren erklären und auf die zuständige Stelle verweisen.

Der Grundsatz liefert hier den Maßstab für Kritik und Überarbeitung. Er ersetzt nicht die vorgelagerte Entscheidung, welche Informationen tatsächlich vertraulich sind und wer sie erhalten darf.

## Mehr als ein Systemprompt

Im beschriebenen Verfahren werden die erzeugten Überarbeitungen und Bewertungen für die Veränderung des Modells genutzt. [Anthropic: Constitutional AI](https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback) Damit geht es über das bloße Mitsenden einer Verhaltensanweisung bei einer einzelnen Anfrage hinaus. [Anthropic: Constitutional AI](https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback)

Die Automatisierung der Einzelbewertungen beseitigt auch nicht die menschliche Verantwortung für die Auswahl der Prinzipien. [Anthropic: Constitutional AI](https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback) Das Ziel dabei sind möglichst unschädliche und trotzdem hilfreiche Antworten, statt schwierige Anfragen grundsätzlich nur abzuweisen. [Anthropic: Constitutional AI](https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback)

## Verwandte Begriffe

**Alignment**, **RLAIF**, **Safety Training**, **Supervised Fine-Tuning**, **System Prompt**.