Vertrauenswürdige KI bezeichnet einen Rahmen aus Anforderungen, die ein KI-System erfüllen soll, damit Menschen ihm trauen können. Im englischen Sprachraum steht dafür meist Responsible AI, in Unternehmen oft als Name für das eigene Regelwerk.
- Vertrauenswürdige KI (Responsible AI)
Ein Rahmen aus Anforderungen, die ein KI-System erfüllen soll, damit man ihm trauen kann.
Beispiel: „Die vertrauenswürdige KI ist bei uns kein Papier, sondern eine Prüfliste vor jedem Start.“Drei Bestandteile nennt die europäische Expertengruppe: rechtmäßig, ethisch und technisch widerstandsfähig. Alle drei sollen über den gesamten Lebenszyklus erfüllt sein, und keiner ersetzt die anderen.
Abgrenzung zur KI-Ethik: Die stellt die Fragen. Vertrauenswürdige KI ist der Versuch, Antworten in Anforderungen zu überführen, die sich prüfen lassen.
Die maßgebliche europäische Fassung stammt aus den Ethikleitlinien von 2019. Dort heißt es, vertrauenswürdige KI sei „lawful — respecting all applicable laws and regulations“, „ethical — respecting ethical principles and values“ und „robust — both from a technical perspective while taking into account its social environment“.
Warum der Begriff oft leer wirkt
Weil er in Werbematerial häufiger vorkommt als in Prüfberichten. Ein Anbieter, der vertrauenswürdige KI verspricht und keine Angaben zu Daten, Messungen und Grenzen macht, hat ein Wort benutzt und nichts gesagt. Belastbar wird der Begriff erst mit Belegen: Modellkarte, Messwerte nach Gruppen, benannte Grenzen des Einsatzes, Ansprechpartner.
Warum der Rahmen trotzdem nützlich ist
Weil er die Gespräche strukturiert. Wer vor einem Projekt die sieben Anforderungen durchgeht, stößt zuverlässig auf die zwei oder drei, die im konkreten Fall tatsächlich heikel sind, und kann sich auf die beschränken. Als Prüfraster taugt die Liste, als Versprechen nicht.
Wie man ihn im eigenen Haus füllt
Mit einer kurzen Prüfliste je Anwendung, die vor dem Start durchgegangen wird. Zweck und ausgeschlossene Zwecke, verwendete Daten und ihre Herkunft, Messung an eigenen Testfällen, Festlegung der Stelle, an der ein Mensch prüft, und ein Weg für Beschwerden. Fünf Punkte, eine Seite, und damit mehr Substanz als die meisten Selbstverpflichtungen. Der Nutzen zeigt sich beim zweiten Projekt: Die Liste ist dann schon da, und die Fragen sind in zwanzig Minuten beantwortet statt in einem halben Tag.