Die Latenz ist die Zeit zwischen einem Auslöser und der ersten erkennbaren Reaktion. Sie beschreibt die Wartezeit; wie viel in dieser Zeit übertragen oder berechnet wird, ist eine andere Größe. Englisch latency heißt Verzögerung.
- Latenz
Die Zeit zwischen einem Auslöser und der ersten erkennbaren Reaktion.
Beispiel: „Die Latenz der Suche liegt bei 80 Millisekunden, danach erscheinen die ersten Treffer.“Auch: Verzögerung, Reaktionszeit, Latency.
Abgrenzung zum Durchsatz: Der Durchsatz sagt, wie viel in einer Zeitspanne durchgeht, die Latenz, wie lange das Erste davon braucht. Eine Leitung kann viel durchlassen und sich trotzdem zäh anfühlen.
Die Netzlatenz ist der Anteil, der auf dem Weg anfällt. Daneben stehen die Latenz der Eingabe, die des Speichers und die eines Sprachmodells bis zum ersten Token.
Ab wann Latenz auffällt
Unterhalb von rund hundert Millisekunden wirkt eine Reaktion unmittelbar. Bis etwa einer Sekunde bleibt der Gedankengang zusammen, auch wenn die Verzögerung bemerkt wird. Darüber wendet sich die Aufmerksamkeit ab, und ab etwa zehn Sekunden ist sie weg. Diese Schwellen stehen hinter dem Doherty Threshold.
Deshalb wiegt eine Verbesserung von 900 auf 400 Millisekunden schwerer als eine von 4 auf 3 Sekunden, obwohl die zweite rechnerisch mehr einspart.
Woraus sich die Latenz einer Seite zusammensetzt
Aus mehreren Teilen, die sich addieren: die Namensauflösung, der Aufbau der gesicherten Verbindung, der Weg hin und zurück, die Zeit, die der Server zum Antworten braucht, und die Arbeit, die der Browser danach leistet.
Jeder Teil hat seinen eigenen Hebel, und sie sind verschieden groß. Wer die Serverzeit halbiert, während der Weg zwei Drittel ausmacht, gewinnt wenig; die Messung sagt, wo es sich lohnt.
Warum der Mittelwert die Latenz beschönigt
Weil die Verteilung schief ist. Die meisten Anfragen laufen schnell, und ein kleiner Teil braucht ein Vielfaches. Der Mittelwert verschwindet zwischen beiden und zeigt einen Wert, den kaum jemand erlebt.
Brauchbar sind deshalb Perzentile: Das 95. Perzentil sagt, wie lange die langsamsten fünf Prozent der Anfragen brauchen, das 99. nennt die Ausreißer. Genau die treffen die Nutzer, die am meisten mit der Seite arbeiten, weil sie die meisten Anfragen stellen.