Logits sind die unbearbeiteten Ausgabewerte eines KI-Modells, bevor sie in eine Verteilung umgerechnet werden. Es sind Zahlen ohne festen Bereich: Sie können negativ sein, beliebig groß, und sie addieren sich zu nichts Bestimmtem.
- Logits
Die unbearbeiteten Ausgabewerte eines Modells, bevor sie in eine Verteilung umgerechnet werden.
Beispiel: „Die Logits lagen bei 8,2, 4,1 und minus 1,3, und erst nach der Umrechnung wurden daraus Anteile.“Was damit geschieht: Sie laufen durch Softmax und werden dabei zu Anteilen, die sich zu eins addieren.
Der Name stammt aus der Statistik, wo er den Logarithmus eines Chancenverhältnisses bezeichnet. In der KI wird er lockerer benutzt, für die Werte vor der letzten Umrechnung.
Wofür man sie braucht
Für alles, was unterhalb der fertigen Antwort ansetzt. Die Steuerung der Auswahl über Temperatur oder Beschränkungen greift auf diese Werte zu; Verfahren, die bestimmte Fortsetzungen ausschließen, setzen sie auf einen sehr niedrigen Wert; und die Berechnung, wie überrascht ein Modell von einem Text ist, beruht ebenfalls darauf.
Wo sie zugänglich sind
Bei selbst betriebenen Modellen immer, bei zugekauften selten. Mehrere Anbieter geben auf Nachfrage die Werte der wahrscheinlichsten Kandidaten heraus, die vollständige Reihe nicht. Wer eine eigene Auswahl oder eine Messung der Sicherheit braucht, stößt genau an dieser Stelle an die Grenze der Schnittstelle.
Was sich damit praktisch anfangen lässt
Eine Abschätzung, wie sicher sich ein Modell war. Wenn der beste Kandidat weit vor dem zweiten liegt, war die Wahl eindeutig; liegen die ersten drei nah beieinander, war sie es nicht. Für eine Einordnungsaufgabe lässt sich daraus eine Schwelle bauen, ab der ein Mensch nachsieht.
Was dabei zu beachten ist
Dass ein eindeutiges Modell nicht ein richtiges Modell ist. Die Werte sagen etwas über die Verteilung innerhalb der angebotenen Möglichkeiten und nichts darüber, ob die richtige Antwort überhaupt dabei war. Bei einer Frage außerhalb des Gelernten ist das Modell oft besonders eindeutig und besonders falsch.