KI-Ethik ist die Auseinandersetzung mit der Frage, wie KI-Systeme eingesetzt werden sollen: wofür, mit welchen Grenzen, zu wessen Nutzen und auf wessen Kosten. Sie geht der Regulierung voraus, und aus ihr sind die Grundsätze hervorgegangen, die heute in Gesetzen stehen.
- KI-Ethik
Die Auseinandersetzung mit der Frage, wie KI-Systeme eingesetzt werden sollen.
Beispiel: „Die KI-Ethik beantwortet die Frage, ob etwas getan werden sollte, und nicht die, ob es erlaubt ist.“Die Grundsätze, die sich über viele Papiere hinweg wiederholen: menschliche Entscheidungshoheit, Schadensvermeidung, Gerechtigkeit und Nachvollziehbarkeit. Darauf lassen sich die meisten Leitlinien zurückführen.
Abgrenzung zum Recht: Ethik fragt nach dem Sollen, Recht nach dem Dürfen. Vieles ist erlaubt und zugleich fragwürdig, und für diesen Bereich gibt es keine Behörde, sondern nur eine Entscheidung im Haus.
Der einflussreichste europäische Text sind die Ethikleitlinien für eine vertrauenswürdige KI (April 2019). Sie nennen sieben Anforderungen: „Human agency and oversight“, „Technical Robustness and safety“, „Privacy and data governance“, „Transparency“, „Diversity, non-discrimination and fairness“, „Societal and environmental well-being“ und „Accountability“. Die KI-Verordnung baut erkennbar darauf auf.
Was davon im Mittelstand zählt
Vier Fragen, die sich in jedem Projekt stellen lassen und meist schnell beantwortet sind. Weiß der Nutzer, dass er es mit einem KI-System zu tun hat? Welche Daten geben wir hinein, und dürften die Betroffenen davon wissen? Wer prüft die Ausgaben, bevor sie Folgen haben? Und was passiert, wenn das System etwas Falsches ausgibt? Wer diese vier beantwortet, hat den praktischen Teil erledigt.
Wo die Debatte unergiebig wird
Bei den großen Zukunftsfragen, wenn sie von konkreten Entscheidungen ablenken. Die Diskussion über Risiken einer künftigen allgemeinen KI ist ernst gemeint und wird ernsthaft geführt; sie hilft einem Handwerksbetrieb nicht bei der Frage, ob der Textassistent Kundendaten sehen darf. Beides gehört getrennt, und im Betrieb zählt zuerst das Zweite. Unsere Haltung dazu: Die praktischen Fragen sind beantwortbar, und sie zu beantworten bringt mehr als die Teilnahme an der großen Debatte. Wer seine vier Fragen geklärt hat, arbeitet verantwortlicher als jemand mit einem Leitbild an der Wand.