Eine Modellkarte ist ein kurzes Beiblatt zu einem KI-Modell. Sie hält fest, wofür das Modell gedacht ist, wie es gemessen wurde, woran es scheitert und unter welchen Bedingungen es nicht benutzt werden sollte.
- Modellkarte (Model Card)
Ein kurzes Beiblatt zu einem KI-Modell, das Zweck, Messwerte und Grenzen festhält.
Beispiel: „Die Modellkarte nannte den vorgesehenen Einsatz und zugleich drei Fälle, für die das Modell ausdrücklich nicht gedacht war.“Was hineingehört: Zweck und vorgesehener Einsatz, nicht vorgesehener Einsatz, Angaben zu den Trainingsdaten, Messwerte je Gruppe und Bedingung, bekannte Grenzen, Stand und Ansprechpartner.
Wo man sie findet: bei quelloffenen Modellen auf der Modellseite der Veröffentlichungsplattform, bei Anbietermodellen in der Dokumentation und in den Begleitberichten zur Veröffentlichung.
Das Format stammt aus der Arbeit „Model Cards for Model Reporting“ (Mitchell u. a., 2018/2019). Dort heißen sie „short documents accompanying trained machine learning models“, und der Kern des Vorschlags lautet: „Model cards also disclose the context in which models are intended to be used.“ Gemessen werden soll ausdrücklich nach Bedingungen getrennt, auch nach demografischen und kulturellen Gruppen.
Warum sie im Einkauf nützt
Weil sie die Fragen beantwortet, die eine Benchmarktabelle offenlässt. Für welche Sprachen ist das Modell gemessen? Welche Aufgaben sind ausgeschlossen? Was ist über die Herkunft der Trainingsdaten bekannt? Wer ein Modell in einen Geschäftsablauf einbaut, braucht genau diese Angaben, und das Fehlen einer Modellkarte ist selbst eine Auskunft.
Was oft fehlt
Die Herkunft der Trainingsdaten. Je größer das Modell, desto knapper fällt dieser Abschnitt aus, und bei den großen Anbietermodellen bleibt er meist bei allgemeinen Angaben. Auch die Messwerte je Sprache fehlen häufig, was für deutschsprachige Anwendungen die wichtigste Lücke ist, siehe LLM-Benchmark.
Was sie mit der Regulierung zu tun hat
Die KI-Verordnung verlangt für bestimmte Systeme eine technische Dokumentation, und die Modellkarte ist das Format, das dieser Anforderung am nächsten kommt. Wer selbst ein Modell nachtrainiert oder anpasst, erbt die Pflicht teilweise mit und tut gut daran, die eigenen Änderungen in derselben Form festzuhalten: was geändert wurde, mit welchen Daten und mit welcher Wirkung auf die Messwerte. Für eigene Zwecke genügt eine Seite, und sie ersetzt später die Rekonstruktion aus dem Gedächtnis.