Training, Daten und Modellanpassung
Model Collapse
Heißt auch Modellkollaps.
Qualitäts- oder Diversitätsverlust bei problematischem rekursivem Training auf Modelloutputs.
Model Collapse bezeichnet eine Verschlechterung der abgebildeten Datenverteilung, die beim wiederholten Training auf Ausgaben vorheriger Modellgenerationen entstehen kann. (Shumailov et al.) Die Originaluntersuchung beschreibt insbesondere den Verlust von Randbereichen der ursprünglichen Verteilung bei unkritischer Nutzung modellgenerierter Trainingsdaten. (Shumailov et al.)
So kannst du dir das vorstellen
Stell dir eine Sammlung vielfältiger Fallbeschreibungen vor. Du lässt daraus eine vereinfachte Auswahl erzeugen und nutzt später nur noch diese Auswahl, um die nächste Fassung zu erstellen.
Wird dieser Vorgang oft wiederholt, könnten ungewöhnliche Fälle in unserem Bild immer seltener werden. Die Analogie erklärt den möglichen Verlust von Vielfalt; sie ist kein Experiment und keine Behauptung, dass jede automatisch erzeugte Zusammenfassung diesen Effekt auslöst.
Die Rückkopplung ist entscheidend
Die Forschung untersucht, was passiert, wenn erzeugte Inhalte wiederum das Training nachfolgender generativer Modelle prägen. (Shumailov et al.) Der Begriff meint daher nicht einfach einen einzelnen Absturz, eine falsche Chatantwort oder jedes beliebige Nachlassen der Modellqualität.
Auch „synthetische Daten verwendet“ reicht allein nicht als Diagnose. Eine weitere Untersuchung unterscheidet das Ersetzen ursprünglicher Daten von einem Vorgehen, bei dem ursprüngliche Daten erhalten und erzeugte Beispiele zusätzlich angesammelt werden. (Gerstgrasser et al.)
Nicht jeder synthetische Datensatz führt zum Kollaps
Unter den untersuchten Bedingungen konnte das Beibehalten und Anreichern des ursprünglichen Bestands den Kollaps vermeiden. (Gerstgrasser et al.) Dieser Befund ist ebenso wenig eine Garantie für beliebige Mischungen wie die Kollapsforschung ein pauschales Verbot synthetischer Daten begründet.
Für deine Datenplanung würde ich Herkunft und Generierungsschritte dokumentieren, reale Referenzdaten bewahren und seltene Fallgruppen gesondert prüfen. Bewerte außerdem nicht nur die sprachliche Plausibilität neuer Beispiele, sondern ihre fachliche Richtigkeit und den Beitrag zur gewünschten Vielfalt.
Verwandte Begriffe
Eng verbunden sind Synthetic Data, Training Set, Distillation, Generalization und Catastrophic Forgetting.