Ein Hochrisiko-KI-System ist ein KI-System, dessen Einsatzbereich die KI-Verordnung als besonders gefährlich für Gesundheit, Sicherheit oder Grundrechte einstuft. Die Einstufung hängt am Zweck und nicht an der Technik: Dasselbe Modell kann in einer Anwendung Hochrisiko sein und in einer anderen nicht.
- Hochrisiko-KI-System
Ein KI-System, dessen Einsatzbereich die KI-Verordnung als besonders gefährlich einstuft.
Beispiel: „Die Software zur Bewerbervorauswahl ist ein Hochrisiko-KI-System, der Textassistent im Marketing nicht.“Zwei Wege führen in die Einstufung. Entweder ist das System ein Sicherheitsbauteil in einem Produkt, das ohnehin eine Prüfung durch eine dritte Stelle braucht, etwa in Medizintechnik oder Maschinen. Oder es fällt unter einen der in Anhang III aufgezählten Einsatzbereiche.
Diese Bereiche sind, grob gefasst: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung und Personalauswahl, Zugang zu öffentlichen Leistungen und Krediten, Strafverfolgung, Migration und Justiz.
Die Ausnahme, die viele betrifft
Artikel 6 Absatz 3 nimmt Systeme aus, die „does not pose a significant risk of harm“ bewirken, weil sie nur eine enge Verfahrensaufgabe erfüllen, eine fertige menschliche Arbeit verbessern, Muster in früheren Entscheidungen erkennen oder bloß vorbereiten. Wer die Ausnahme in Anspruch nimmt, muss das dokumentieren. Eine Grenze gibt es dabei: Profilbildung über natürliche Personen „shall always be considered to be high-risk“.
Die Fristen hat die Verordnung (EU) 2026/1744 verschoben. Für Systeme nach Anhang III gelten die Auflagen ab 2. Dezember 2027, für solche nach Anhang I ab 2. August 2028.
Was die Einstufung nach sich zieht
Den vollen Pflichtenkatalog: Risikomanagement über den Lebenszyklus, Anforderungen an die Datenqualität, technische Dokumentation, Protokollierung, Gebrauchsanweisung für Betreiber, menschliche Aufsicht nach Artikel 14, die im Gesetz „Genauigkeit, Robustheit und Cybersicherheit“ genannten Eigenschaften, eine Konformitätsbewertung und die Eintragung in eine EU-Datenbank. Das ist Arbeit für Monate und nicht für einen Nachmittag.
Was das für Webprojekte heißt
Fast immer: nichts. Eine Website, ein Shop, ein Textassistent und ein Chatfenster für Produktfragen fallen nicht darunter. Aufmerksam wird man, sobald eine Anwendung über Menschen entscheidet oder mitentscheidet, also bei Bewerbungen, Bonität, Zugang zu Leistungen oder biometrischer Erkennung. In diesen Fällen gehört die Einstufung vor den ersten Entwurf und nicht hinter die Umsetzung.