Training, Daten und Modellanpassung
Overfitting
Heißt auch Überanpassung.
Zu starke Anpassung an Trainingsdaten mit schlechter Übertragung auf neue Daten.
Overfitting oder Überanpassung liegt vor, wenn ein Modell die Besonderheiten seiner Trainingsdaten so stark übernimmt, dass es auf neuen Daten schlechter funktioniert. (Google ML Glossary) Gute Ergebnisse auf den bekannten Beispielen reichen dann nicht für eine gute Verallgemeinerung aus. (Google ML Glossary)
So kannst du dir das vorstellen
Angenommen, deine Trainingsbeispiele für Beschwerden beginnen fast immer mit „Leider“. Das Modell könnte sich zu stark an solchen wiederkehrenden Formulierungen orientieren.
Eine neue Nachricht wie „Das Gerät startet seit gestern nicht mehr“ wäre dann womöglich schwieriger, obwohl sie fachlich eindeutig ist. Das ist ein konstruiertes Beispiel für eine ungeeignete Abhängigkeit, keine Aussage über einen bestimmten getesteten Assistenten.
Woran du den Verdacht erkennst
Ein typisches Warnsignal ist ein weiter sinkender Trainingsverlust bei deutlich schlechterer Entwicklung des Validierungsverlusts. (Google ML Glossary) Bei SFT können außerdem sehr gute Wiedergaben der Trainingsbeispiele mit schwachen Antworten auf neue Formulierungen einhergehen. (Hugging Face LLM Course)
Behandle eine einzelne schwache Testantwort trotzdem nicht als vollständige Diagnose. Prüfe Datenqualität, Aufteilung und konkrete Fehlerarten, bevor du eine Ursache festlegst.
Was gegen Überanpassung helfen kann
Ein größerer und vielfältigerer Trainingsbestand sowie Regularisierung können Overfitting verringern. (Google ML Glossary) Early Stopping begrenzt die Trainingsdauer anhand der Validierungsentwicklung, statt nur weitere Verbesserungen auf den Trainingsdaten zu verfolgen. (Google ML Glossary)
Für einen Serviceassistenten würde ich daher nicht nur mehr sehr ähnliche Beispiele sammeln. Ergänze gezielt andere Formulierungen, seltene Fallgruppen und Grenzfälle und halte davon unabhängige Prüffälle zurück.
Verwechsle Überanpassung außerdem nicht mit dem hier separat behandelten Overtraining-Begriff aus der Skalierungsplanung. Dort geht es um die Verteilung von Trainings- und späterem Inferenzaufwand, nicht automatisch um schlechtere Generalisierung.
Verwandte Begriffe
Die Abgrenzung zeigen Underfitting, Generalization, Regularization, Early Stopping und Overtraining.