Dimensionsreduktion ist das Verringern der Zahl der Merkmale in einem Datensatz, ohne das Wesentliche zu verlieren, meist bevor ein KI-Modell damit trainiert. Aus hundert Spalten werden zehn, und die zehn sollen dieselbe Aussage tragen wie die hundert.
- Dimensionsreduktion (Dimensionality Reduction)
Das Verringern der Zahl der Merkmale in einem Datensatz, ohne das Wesentliche zu verlieren.
Beispiel: „Nach der Dimensionsreduktion auf zwei Achsen ließen sich die Kundengruppen in einer Grafik zeigen.“Zwei Zwecke: Rechnen und Sehen. Weniger Merkmale heißt schnelleres Training und weniger Gefahr des Auswendiglernens; zwei oder drei Merkmale heißt, dass man den Datensatz zeichnen kann.
Das klassische Verfahren sucht die Richtungen mit der größten Streuung und legt die Daten darauf ab. Für Darstellungen sind daneben Verfahren verbreitet, die vor allem Nachbarschaften erhalten.
Wofür man sie braucht
Für den Blick in Daten mit vielen Spalten. Ein Datensatz mit sechzig Merkmalen lässt sich nicht ansehen, und ohne Ansehen fehlt die Ahnung, ob es überhaupt Gruppen darin gibt. Eine Darstellung in zwei Achsen beantwortet in einer Minute, was sonst nach mehreren Trainingsläufen noch unklar ist.
Wo sie in die Irre führt
Bei der Deutung der Bilder. Die Verfahren für Darstellungen erhalten Nachbarschaften und nicht Abstände; was in einer solchen Grafik weit auseinanderliegt, muss in den Daten nicht weit auseinanderliegen, und die Größe der Gruppen sagt nichts. Wer aus diesen Bildern Zahlen abliest, liest Zufall, und das passiert regelmäßig in Berichten.
Wie sie mit Embeddings zusammenhängt
Sie macht sie ansehbar. Ein Embedding hat hunderte oder tausende Dimensionen, und jede Darstellung davon ist eine Reduktion. Die verbreiteten Karten von Themen und Dokumenten entstehen genau so, und sie sind nützlich zur Orientierung und nicht zur Messung.
Was in Projekten damit tatsächlich geschieht
Zwei Dinge. Eine Übersichtsgrafik für den ersten Blick in einen Datenbestand, und eine Verkleinerung von Embeddings, um Speicher und Antwortzeit in einer Vektorsuche zu senken. Das Zweite kostet Treffsicherheit und spart bei großen Beständen deutlich; ob der Tausch lohnt, zeigt eine Messung und keine Faustregel.