Ein KI-System ist die betriebsfertige Anwendung, die mit künstlicher Intelligenz arbeitet: das Modell, die Oberfläche, die Anbindungen, die Regeln und der Zweck, für den das Ganze eingesetzt wird. Der Begriff ist der rechtlich maßgebliche, weil die KI-Verordnung ihre Pflichten daran festmacht.
- KI-System
Eine Anwendung, die mit KI arbeitet, samt allem, was um das Modell herum gehört.
Beispiel: „Das KI-System besteht aus einem zugekauften Modell, unseren Regeln und der Anbindung an den Warenbestand.“Abgrenzung zum KI-Modell: Das Modell ist das trainierte Innenleben. Das System ist das, was ein Mensch benutzt. Dasselbe Modell steckt in vielen Systemen, und die Pflichten hängen am System.
Die KI-Verordnung fasst den Begriff bewusst weit: ein „machine-based system“, das mit „varying levels of autonomy“ arbeitet und aus Eingaben ableitet, wie es Ausgaben erzeugt. Darunter fallen auch ältere Verfahren des maschinellen Lernens.
Der Wortlaut steht in Artikel 3 Nummer 1 der KI-Verordnung. Die Fassung nennt ausdrücklich, dass ein solches System „may exhibit adaptiveness after deployment“, also sein Verhalten nach der Inbetriebnahme ändern kann.
Warum die Unterscheidung in der Praxis zählt
Weil sie entscheidet, wer wofür geradesteht. Wer ein zugekauftes Modell in die eigene Anwendung einbaut, wird damit zum Anbieter eines KI-Systems und übernimmt die Pflichten für dieses System, auch wenn das Modell von jemand anderem stammt. Umgekehrt haftet der Modellanbieter nicht dafür, wofür jemand sein Modell einsetzt.
Was ein KI-System ausmacht und was nicht
Entscheidend ist das Ableiten aus Daten. Eine Software, die feste Regeln abarbeitet, also eine Preisstaffel oder eine Formel, ist kein KI-System, auch wenn sie klug wirkt. Sobald ein Modell aus Beispielen gelernt hat und daraus Ausgaben erzeugt, ist die Schwelle überschritten. Die Grenze liegt damit tiefer, als viele annehmen, und schließt Empfehlungslogik und Bilderkennung ein. Für die Einordnung hilft eine einfache Probe: Steht irgendwo im Haus ein Trainingsdatensatz, aus dem das Verhalten entstanden ist? Dann liegt ein KI-System vor, und die Frage nach den Pflichten ist zu stellen.