Ein Autoencoder ist ein neuronales Netz, das seine eigene Eingabe wieder herstellen soll und sie dabei durch einen Engpass pressen muss. Weil in der Mitte weniger Platz ist als am Anfang, muss das Netz lernen, das Wesentliche zu behalten und den Rest wegzulassen.
- Autoencoder
Ein Netz, das seine Eingabe durch einen Engpass presst und daraus wieder herstellt.
Beispiel: „Der Autoencoder presst ein Bild auf 64 Zahlen zusammen und baut daraus eine erkennbare Fassung zurück.“Der Aufbau besteht aus zwei Teilen: einem Encoder, der verkleinert, und einem Decoder, der wieder aufbaut. Die Zahlen in der Mitte bilden den Latent Space.
Es ist ein Fall von unüberwachtem Lernen: Es braucht keine Beschriftung, weil die richtige Antwort die Eingabe selbst ist.
Wofür das nützlich ist
Für drei Dinge. Zur Verdichtung, weil die wenigen Zahlen in der Mitte das Wesentliche tragen. Zur Erkennung von Ausreißern, weil ungewöhnliche Eingaben schlecht wiederhergestellt werden und genau daran erkennbar sind. Und zum Entrauschen, wenn das Netz mit gestörten Eingaben trainiert wurde und saubere Ausgaben lernen soll.
Wo es heute steckt
In den Bildwerkzeugen, und zwar unsichtbar. Ein Diffusion Model arbeitet auf der verkleinerten Darstellung eines Autoencoders statt auf den Bildpunkten; erst am Ende baut dessen Decoder daraus ein Bild. Das ist der Grund, warum Bilderzeugung auf gewöhnlicher Hardware überhaupt möglich ist.
Wo die Grenze liegt
Bei der Frage, was das Netz für wesentlich hält. Es behält, was für die Wiederherstellung zählt, und das muss nicht das sein, was fachlich wichtig ist. Für die Ausreißererkennung heißt das: Ein ungewöhnlicher, aber harmloser Fall fällt genauso auf wie ein gefährlicher. Die Einordnung bleibt Aufgabe des Menschen. Für den praktischen Einsatz heißt das, dass ein Autoencoder einen Stapel zur Prüfung erzeugt und keine Entscheidung trifft. Als Vorsortierung in der Qualitätskontrolle ist das genau das Richtige. Gemessen wird dabei der Wiederherstellungsfehler, und die Schwelle dafür wird an bekannten Fällen eingestellt.