Underfitting, auf Deutsch Unteranpassung, bezeichnet den Fall, dass ein Modell zu einfach bleibt und die Zusammenhänge in den Daten nicht erfasst. Es trifft schon bei den Trainingsdaten schlecht und wird bei neuen Fällen nicht besser.
- Underfitting (Unteranpassung)
Ein Modell bleibt zu einfach und erfasst die Zusammenhänge in den Daten nicht.
Beispiel: „Das Underfitting zeigte sich sofort: 58 Prozent Treffer auf den eigenen Trainingsdaten.“Das Google-Glossar beschreibt es als das Erzeugen eines Modells mit schwacher Vorhersagekraft, weil es die Vielschichtigkeit der Trainingsdaten nicht vollständig erfasst hat.
Abgrenzung zum Overfitting: Dort trifft das Modell die eigenen Daten zu genau und fremde schlecht. Hier trifft es beides schlecht, und das ist der einfachere Befund.
Woran es meist liegt
An drei Dingen. Das Modell ist für die Aufgabe zu klein. Das Training wurde zu früh abgebrochen. Oder die Daten enthalten die Antwort gar nicht, weil die entscheidenden Angaben fehlen. Der dritte Fall ist der häufigste und der unangenehmste, weil kein größeres Modell ihn behebt.
Was dagegen hilft
In dieser Reihenfolge: zuerst prüfen, ob die Daten die Frage überhaupt beantworten können; dann mehr aussagekräftige Merkmale ergänzen; dann länger trainieren; und erst zuletzt ein größeres Modell nehmen. Die umgekehrte Reihenfolge ist der übliche Fehler und kostet am meisten Zeit.
Warum beide Begriffe zusammengehören
Weil sie die beiden Enden derselben Strecke sind. Dazwischen liegt der brauchbare Bereich, und ihn zu finden ist der eigentliche Inhalt des Trainierens. Die Entscheidung fällt dabei an der Messung: zurückgehaltene Daten, mehrere Durchläufe und ein Blick auf beide Kurven, die auf den Trainingsdaten und die auf den zurückgehaltenen. Laufen sie auseinander, liegt Überanpassung vor; bleiben beide schlecht, Unteranpassung. Mehr braucht es für die Diagnose nicht. Im Alltag mit fertigen Sprachmodellen begegnet einem keiner der beiden Fälle, weil beide beim Training entschieden werden. Wichtig werden sie, sobald jemand ein eigenes Modell trainiert oder ein fremdes nachtrainiert.