Ein Merkmal ist eine einzelne Eingabegröße, aus der ein Modell des maschinellen Lernens seine Vorhersage ableitet. Bei einer Kündigungsvorhersage sind das etwa die Vertragsdauer, die Zahl der Supportanfragen und der Tarif.
- Merkmal (Machine Learning)
Eine einzelne Eingabegröße, aus der ein Modell seine Vorhersage ableitet.
Beispiel: „Das aussagekräftigste Merkmal war die Zeit seit dem letzten Kontakt und nicht der Umsatz.“Das Google-Glossar fasst es knapp: „An input variable to a machine learning model.“ Die Gegenseite ist das Label, also die Antwort, die gelernt werden soll.
Bei Sprachmodellen tritt der Begriff zurück, weil dort keine Merkmale von Hand gewählt werden. Das Modell bildet seine eigenen aus dem Rohtext, und genau das unterscheidet tiefe Netze von klassischen Verfahren.
Warum die Auswahl über den Erfolg entscheidet
Weil kein Modell etwas vorhersagen kann, wovon die Daten nichts wissen. Die meiste Arbeit in klassischen Projekten steckt deshalb im Bilden von Merkmalen und nicht im Modell: aus einem Datum die Wochentagszugehörigkeit, aus einer Adresse die Entfernung, aus einer Folge von Käufen der Abstand zum letzten. Dieser Schritt heißt Feature Engineering und ist die eigentliche Fachkunst.
Zwei Fallen, die regelmäßig zuschlagen
Erstens: Merkmale, die es zum Zeitpunkt der Vorhersage noch nicht gibt. Ein Modell, das die Kündigung aus dem Kündigungsgrund vorhersagt, trifft im Test glänzend und im Betrieb nie. Zweitens: Merkmale, die verbotene Unterscheidungen hereinholen. Eine Postleitzahl trägt Angaben über Einkommen und Herkunft mit, auch wenn niemand danach gefragt hat, siehe Bias in KI-Systemen.
Wie viele Merkmale sinnvoll sind
Weniger, als man denkt. Mehr Merkmale erhöhen die Gefahr der Überanpassung und erschweren die Erklärung. Üblich ist, mit den fünf naheliegenden anzufangen, zu messen, und erst dann zu erweitern. Oft tragen drei Merkmale den größten Teil der Vorhersagekraft, und die restlichen zwanzig bringen zusammen weniger als eines davon. Welche das sind, lässt sich messen: Die meisten Verfahren können angeben, wie stark jedes Merkmal zum Ergebnis beiträgt, und diese Liste ist zugleich die beste Erklärung des Modells gegenüber Fachleuten.