Die logistische Regression ist ein Verfahren des maschinellen Lernens, das die Wahrscheinlichkeit für eine Ja-Nein-Entscheidung schätzt. Sie rechnet wie die lineare Regression eine gewichtete Summe und presst das Ergebnis anschließend in den Bereich zwischen null und eins.
- Logistische Regression
Ein Lernverfahren, das die Wahrscheinlichkeit für eine Ja-Nein-Entscheidung schätzt.
Beispiel: „Die logistische Regression gab je Kunde eine Kündigungswahrscheinlichkeit zwischen null und eins aus.“Der Unterschied zur linearen Regression liegt im letzten Schritt: Dort steht ein Zahlenwert, hier eine Wahrscheinlichkeit. Die Funktion, die das besorgt, heißt Sigmoid und begegnet einem auch in neuronalen Netzen, siehe Aktivierungsfunktion.
Trotz des Namens ist sie ein Einordnungsverfahren und keine Regression im üblichen Sinn.
Wofür sie benutzt wird
Für alles mit zwei Ausgängen: Kündigt der Kunde? Wird die Rechnung bezahlt? Ist die Mail Spam? Liegt ein Befund vor? Weil das Ergebnis eine Wahrscheinlichkeit ist, lässt sich die Entscheidungsschwelle nachträglich verschieben, und damit der Tausch zwischen Fehlalarmen und übersehenen Fällen steuern. Diese Beweglichkeit ist einer der Gründe für ihre Beliebtheit im Betrieb.
Warum sie weiterhin zählt
Weil sie erklärbar, schnell und erstaunlich treffsicher ist. In der Medizin und im Kreditwesen ist sie bis heute Standard, und zwar nicht aus Trägheit: Ein Verfahren, dessen Gewichte sich einzeln begründen lassen, ist in regulierten Bereichen einem besseren und undurchsichtigen vorzuziehen. Dazu kommt, dass sie mit wenigen hundert Fällen auskommt, während neuronale Netze Tausende brauchen. Für den Anfang eines Vorhabens ist sie deshalb oft die einzige Möglichkeit überhaupt.
Was sie mit neuronalen Netzen verbindet
Mehr, als es scheint. Ein neuronales Netz ohne verborgene Schicht und mit Sigmoid am Ausgang ist genau eine logistische Regression. Die tiefen Netze der letzten Jahre sind damit die Erweiterung eines Verfahrens, das es seit Jahrzehnten gibt, um die Fähigkeit, eigene Merkmale zu bilden. Wer das weiß, versteht auch, warum ein Netz ohne verborgene Schichten nichts kann, was die logistische Regression nicht auch könnte. Für kleine Datenmengen bleibt sie deshalb die vernünftigere Wahl.