HHH ist die Kurzformel für das Ziel, ein Sprachmodell hilfreich, ehrlich und unschädlich zu machen: helpful, honest, harmless. Sie fasst zusammen, woran die Ausrichtung eines Modells gemessen wird.
- HHH (helpful, honest, harmless)
Die Kurzformel für das Ziel, ein Sprachmodell hilfreich, ehrlich und unschädlich zu machen.
Beispiel: „Die Bewertung lief entlang der HHH-Formel, und die drei Kriterien gingen dabei auseinander.“Hilfreich heißt: die gestellte Aufgabe tatsächlich lösen. Ehrlich heißt: nichts behaupten, was das Modell nicht stützen kann, und Unwissen zugeben. Unschädlich heißt: keine Anleitung zu Schaden geben und niemanden herabsetzen.
Die Formel stammt aus der Forschung zur Ausrichtung und ist dort seit 2021 in Gebrauch; sie beschreibt ein Ziel und kein Verfahren.
Eingeführt wurde sie 2021 von Amanda Askell und Mitautoren in der Arbeit A General Language Assistant as a Laboratory for Alignment. Das Abstract nennt als Ziel einen Assistenten, der an menschlichen Werten ausgerichtet ist, und zwar hilfreich, ehrlich und unschädlich.
Wo die drei einander widersprechen
An den interessanten Stellen. Die vollständig hilfreiche Antwort auf eine Frage nach einer gefährlichen Anleitung wäre nicht unschädlich; die vollständig ehrliche Antwort auf eine schlecht gestellte Frage wäre wenig hilfreich. Die Ausrichtung eines Modells besteht zu einem großen Teil darin, diese Abwägungen festzulegen, und sie sind eine Entscheidung und kein Ergebnis.
Was daraus für die Praxis folgt
Dass Verweigerungen und Ausführlichkeit einstellbar sind. Ein Modell, das in einem Zusammenhang zu vorsichtig antwortet, ist nicht kaputt, sondern an dieser Stelle anders gewichtet; über Anweisungen lässt sich das in Grenzen verschieben. Wer das versteht, arbeitet anders mit Modellen als jemand, der jede Zurückhaltung für einen Fehler hält.
Warum die Ehrlichkeit die schwierigste ist
Weil sie dem Training zuwiderläuft. Ein Modell lernt, plausible Fortsetzungen zu erzeugen, und ein Eingeständnis von Unwissen ist selten die wahrscheinlichste. Genau daraus entstehen falsche Angaben mit sicherem Ton, siehe Halluzination. Die Gegenmittel liegen im Nachtraining und in der Anwendung, nicht im Vorsatz.