---
term: "Synthetic Data"
slug: "synthetic-data"
glossar_id: "G113"
variants: ["Synthetische Daten"]
category: "training-daten-und-modellanpassung"
marker: ""
short: "Künstlich erzeugte Daten für Training oder Evaluation."
sources:
  - label: "Hugging Face: Self-Instruct"
    url: "https://huggingface.co/blog/davanstrien/self-instruct"
  - label: "Shumailov et al."
    url: "https://pubmed.ncbi.nlm.nih.gov/39048682/"
  - label: "Gerstgrasser et al."
    url: "https://arxiv.org/abs/2404.01413"
status: "entwurf"
updated: "2026-09-20"
---

Synthetic Data sind künstlich erzeugte Daten statt unmittelbar erhobener Originalbeobachtungen. ([Hugging Face: Self-Instruct](https://huggingface.co/blog/davanstrien/self-instruct)) Im LLM-Training können das beispielsweise von einem Modell generierte Anweisungen samt Eingaben und Musterantworten sein. ([Hugging Face: Self-Instruct](https://huggingface.co/blog/davanstrien/self-instruct))

## So kannst du dir das vorstellen

Du möchtest einen Assistenten auf unterschiedliche Serviceanfragen vorbereiten. Dafür könntest du erfundene Fälle erzeugen lassen: eine unvollständige Lieferadresse, eine doppelte Bestellung oder eine unklare Reklamation.

Solche Fälle wären synthetisch, auch wenn sie plausibel klingen. Für deinen Datensatz solltest du kennzeichnen, dass sie konstruiert wurden, und sie nicht als tatsächlich beobachtete Kundenanliegen ausgeben.

## Erzeugen ist erst der Anfang

Das Self-Instruct-Verfahren startet mit einer Sammlung von Aufgaben und lässt daraus weitere Anweisungen sowie passende Eingabe-Ausgabe-Beispiele generieren. ([Hugging Face: Self-Instruct](https://huggingface.co/blog/davanstrien/self-instruct)) Filter sollen unter anderem sehr ähnliche Aufgaben aussortieren und die Vielfalt des entstehenden Bestands verbessern. ([Hugging Face: Self-Instruct](https://huggingface.co/blog/davanstrien/self-instruct))

Für ein eigenes Projekt würde ich zusätzlich fachliche Richtigkeit, realistische Sprache und relevante Ausnahmefälle prüfen. Behandle Datenschutz, Herkunft und Nutzungsrechte als separate Prüffragen; das Etikett „synthetisch“ sollte keine dieser Prüfungen ersetzen.

## Nicht jede Rückkopplung ist gleich

Beim wiederholten Training auf selbst erzeugten Daten kann die ursprüngliche Datenverteilung schlechter abgebildet werden, ein Problem, das als Model Collapse untersucht wird. ([Shumailov et al.](https://pubmed.ncbi.nlm.nih.gov/39048682/)) Andere Experimente zeigen, dass das Beibehalten ursprünglicher Daten bei gleichzeitiger Anreicherung mit synthetischen Daten einen solchen Kollaps unter den untersuchten Bedingungen vermeiden kann. ([Gerstgrasser et al.](https://arxiv.org/abs/2404.01413))

Synthetische Daten sind damit weder grundsätzlich unbrauchbar noch automatisch ein gleichwertiger Ersatz für reale Beispiele. Halte für die Evaluation einen unabhängigen Bestand vor, der nicht lediglich aus denselben Generierungsregeln stammt wie dein Trainingsmaterial.

## Verwandte Begriffe

Zur Einordnung helfen **Instruction Dataset**, **Teacher Model**, **Distillation**, **Model Collapse** und **Training Set**.