Eine Support Vector Machine ist ein Verfahren des maschinellen Lernens, siehe Machine Learning, das zwei Klassen durch die breitestmögliche Trennlinie teilt. Gesucht wird nicht irgendeine Trennung, sondern die mit dem größten Abstand zu den nächstgelegenen Beispielen beider Seiten.
- Support Vector Machine (SVM)
Ein Verfahren des Machine Learning, das zwei Klassen durch die breitestmögliche Trennlinie teilt.
Beispiel: „Die Support Vector Machine trennte brauchbare von unbrauchbaren Anfragen bei nur 600 Beispielen.“Die namengebenden Stützvektoren sind die Beispiele am Rand, die den Abstand bestimmen. Alle übrigen Beispiele haben auf das Ergebnis keinen Einfluss.
Wenn sich zwei Klassen nicht gerade trennen lassen, rechnet das Verfahren über einen Kniff in einem höherdimensionalen Raum, in dem es wieder geht.
Wofür sie heute noch taugt
Für kleine Datenmengen mit vielen Merkmalen. Textklassifikation mit einigen hundert Beispielen, Messwerte aus der Produktion, medizinische Daten: Dort liefert das Verfahren verlässliche Ergebnisse, wo ein neuronales Netz mangels Daten scheitert. Es war vor dem Aufkommen der tiefen Netze das Standardverfahren für Einordnungsaufgaben.
Wo sie an Grenzen stößt
Bei großen Datenmengen. Der Aufwand wächst stärker als die Zahl der Beispiele, und ab einigen hunderttausend Zeilen wird das Training unpraktisch. Dazu kommt, dass das Verfahren von Haus aus zwei Klassen trennt; mehr Klassen werden über mehrere Trennungen nachgebildet.
Was man einstellen muss
Zwei Werte, und sie entscheiden viel. Der erste regelt, wie stark Ausreißer bestraft werden, der zweite die Form der Trennung. Beide werden über eine Suche mit Cross-Validation bestimmt; mit den Standardwerten liefert das Verfahren oft deutlich schlechtere Ergebnisse, als es könnte.
Warum der Begriff weiterhin auftaucht
Weil er in Lehrbüchern, Bibliotheken und Altprojekten steht. Wer ein bestehendes System übernimmt, trifft darauf, und wer ein kleines Einordnungsproblem hat, sollte das Verfahren im Vergleich mitlaufen lassen. In unseren Projekten hat es zweimal gegen das aufwendigere Modell gewonnen, schlicht weil die Datenmenge klein war.
Was der Name verspricht und was nicht
Maschine meint hier kein Gerät, sondern ein Verfahren; der Begriff stammt aus der Zeit, als Lernverfahren so benannt wurden. Mit den heutigen Sprachmodellen hat das Verfahren nichts zu tun außer dem gemeinsamen Fachgebiet, und diese Verwechslung kommt in Gesprächen regelmäßig vor.