Synthetische Trainingsdaten sind Trainingsdaten, die ein Modell oder ein Programm erzeugt hat, statt sie aus der Wirklichkeit zu sammeln. Sie sind in der KI-Entwicklung inzwischen Normalfall und nicht Notlösung, besonders dort, wo echte Daten knapp, teuer oder schutzbedürftig sind.
- Synthetische Trainingsdaten
Trainingsdaten, die ein Modell oder ein Programm erzeugt hat, statt sie aus der Wirklichkeit zu sammeln.
Beispiel: „Die synthetischen Trainingsdaten lieferten 50.000 Beispielanfragen, für die es keine echten Protokolle gab.“Wie sie entstehen: ein starkes Modell erzeugt Aufgaben und Antworten, ein Programm erzeugt Fälle nach Regeln, oder eine Simulation erzeugt Messwerte.
Abgrenzung zu den synthetischen Medien: Dort ist das erzeugte Material das Ergebnis. Hier ist es Ausgangsstoff für ein weiteres Training.
Wofür sie taugen
Für seltene Fälle und für heikle Daten. Wer ein Modell auf Fehlermeldungen trainieren will, die zwanzigmal im Jahr auftreten, bekommt aus echten Protokollen keine ausreichende Menge. Und wer mit Gesundheits- oder Vertragsdaten arbeitet, darf diese oft nicht herausgeben, kann aber einen Datensatz mit derselben Struktur erzeugen.
Wo die Qualität kippt
Wenn Modelle nur noch von Modellen lernen. Ein Datensatz aus einem Modell enthält die Eigenheiten und Lücken dieses Modells, und wer darauf wieder trainiert, verstärkt sie. Nach mehreren Runden ohne echte Daten verengt sich die Vielfalt sichtbar: Das Modell wird in der Mitte sicherer und an den Rändern schlechter. In der Fachdiskussion läuft das unter Modellkollaps.
Wie wir damit umgehen
Als Ergänzung mit Herkunftsvermerk. Erzeugte Beispiele kommen zu echten hinzu, nicht an deren Stelle, und im Datensatz steht, welche Zeile woher kommt. Ohne diese Angabe lässt sich später nicht prüfen, ob ein Fehler des Modells aus der Wirklichkeit oder aus der eigenen Erfindung stammt.
Was die Nutzungsbedingungen dazu sagen
Oft mehr als gedacht. Mehrere Anbieter verbieten in ihren Bedingungen ausdrücklich, die Ausgaben ihrer Modelle für das Training konkurrierender Modelle zu verwenden. Wer einen Datensatz mit einem zugekauften Modell erzeugt und damit ein eigenes trainiert, sollte diese Klausel gelesen haben, bevor das Ergebnis in ein Produkt wandert.