Eine verborgene Schicht ist eine Schicht zwischen Eingabe und Ausgabe eines neuronalen Netzes. Verborgen heißt sie, weil ihre Werte von außen nicht sichtbar sind: Man kennt, was hineingeht, und was herauskommt, aber nicht, was dazwischen steht.
- Verborgene Schicht (Hidden Layer)
Eine Schicht zwischen Eingabe und Ausgabe, deren Werte niemand von außen sieht.
Beispiel: „Die verborgenen Schichten bilden die Merkmale selbst, nach denen niemand gefragt hat.“Was dort geschieht: Das Netz bildet eigene Merkmale aus den Eingaben. Bei Bildern sind das Kanten und Formen, bei Sprache grammatische und inhaltliche Muster, und niemand hat sie vorgegeben.
Ein Netz ohne verborgene Schicht kann nur lineare Zusammenhänge abbilden und entspricht damit einer logistischen Regression. Erst die verborgenen Schichten machen den Unterschied aus.
Warum das Wort verborgen genau passt
Weil dort die Undurchsichtigkeit entsteht, die Modelle zur Black Box macht. Die Werte lassen sich auslesen, sie ergeben für Menschen keinen Sinn, und sie lassen sich keinem Begriff zuordnen. Die Forschung an der Interpretierbarkeit arbeitet genau hier und hat in den letzten Jahren erste Zuordnungen gefunden, siehe Interpretierbarkeit.
Wie viele davon sinnvoll sind
Das hängt an der Aufgabe. Für Tabellendaten genügen oft ein bis drei, und mehr bringt wenig. Für Bilder und Sprache sind es Dutzende bis Hunderte, und dort trägt jede weitere Schicht noch etwas bei. Die Entscheidung fällt über Messung an Validierungsdaten und nicht über eine Regel.
Warum der Begriff im Alltag selten gebraucht wird
Weil er nur beim Bau eigener Netze eine Rolle spielt. Wer fertige Modelle benutzt, trifft diese Entscheidung nie. Nützlich ist er trotzdem zum Lesen: Wenn in einer Beschreibung von verborgenen Zuständen oder verborgenen Darstellungen die Rede ist, sind die Werte aus genau diesen Schichten gemeint. Dieselben Werte sind es auch, die ein Einbettungsmodell ausgibt: ein Embedding ist nichts anderes als der Zustand einer verborgenen Schicht. Welche Schicht man dafür abgreift, ist eine Entscheidung mit spürbarer Wirkung auf die Ergebnisse.