Deep Learning ist maschinelles Lernen mit neuronalen Netzen, die aus vielen Schichten bestehen. Aus ihm stammen die Durchbrüche der letzten Jahre bei Sprache, Bild und Ton.
- Deep Learning
Maschinelles Lernen mit neuronalen Netzen aus vielen Schichten.
Beispiel: „Deep Learning erkennt auf einem Foto erst Kanten, dann Formen, dann Gesichter.“Auch: tiefes Lernen. Die deutsche Form kommt in Normen vor, im Gespräch sagt sie niemand.
Abgrenzung zum übrigen maschinellen Lernen: Ein Entscheidungsbaum oder eine Regression arbeitet mit Merkmalen, die jemand vorher festgelegt hat. Ein tiefes Netz bildet diese Merkmale selbst, Schicht für Schicht.
Was „tief“ bedeutet
Die Zahl der Schichten. Das britische Parlamentsbüro für Wissenschaft und Technik nennt in seinem KI-Glossar die übliche Grenze: Ein künstliches neuronales Netz mit mehr als drei Schichten gilt als Deep-Learning-Verfahren. Heutige Modelle haben Dutzende bis Hunderte.
Jede Schicht arbeitet auf dem Ergebnis der vorigen. Beim Bild heißt das: Die erste erkennt Kanten und Farbverläufe, die nächste setzt daraus Formen zusammen, eine spätere ganze Objekte. Diese Staffelung ist der Grund für das Wort „tief“.
Warum es die Merkmalsarbeit ersetzt
Vor Deep Learning bestand die eigentliche Arbeit darin, einem Modell zu sagen, worauf es achten soll: Kantenlängen, Farbanteile, Wortzählungen. Diese Merkmalsarbeit war Handarbeit von Fachleuten und entschied über das Ergebnis.
Ein tiefes neuronales Netz übernimmt das selbst, wenn es genug Beispiele bekommt. Das verschiebt den Aufwand von der Fachkenntnis zur Datenmenge und zur Rechenleistung, und genau darin liegt sein Vorteil und sein Preis.
Was dafür nötig ist
Viele Daten und viel Rechenleistung, mehr als beim übrigen maschinellen Lernen. Ein Netz mit Millionen von Gewichten braucht Beispiele in entsprechender Zahl, sonst lernt es die Trainingsdaten auswendig. Trainiert wird auf Grafikprozessoren, weil sich die immer gleichen Rechenschritte dort parallel ausführen lassen.
Aus unserer Arbeit an über 2.500 Website-Projekten folgt daraus eine nüchterne Arbeitsteilung: Modelle trainieren wir nicht, wir benutzen fertige. Der Aufwand lohnt sich für die Anbieter, nicht für einzelne Websites.