KI-Inhaltserkennung bezeichnet Werkzeuge, die schätzen, ob ein Inhalt maschinell erzeugt wurde. Bei Texten messen sie, wie vorhersehbar die Wortwahl ist, bei Bildern suchen sie nach Spuren der Erzeugung, und beide liefern einen Prozentwert, der sicherer aussieht, als er ist.
- KI-Inhaltserkennung (AI Content Detection)
Werkzeuge, die schätzen, ob ein Inhalt maschinell erzeugt wurde.
Beispiel: „Die KI-Inhaltserkennung hielt den Aufsatz einer Schülerin für maschinell und einen erzeugten Text für menschlich.“Wie sie bei Texten arbeiten: Maschinell erzeugter Text wählt im Schnitt wahrscheinlichere Wörter und schwankt weniger im Satzbau. Daraus wird ein Wert gebildet, und ab einer Schwelle gilt der Text als erzeugt.
Woran das scheitert: Auch Menschen schreiben gleichmäßig, besonders in einer Fremdsprache, in Fachtexten und in Schulaufsätzen. Umgekehrt genügt leichtes Umschreiben, um jeden Wert zu unterlaufen.
Warum die Fehlalarme das Problem sind
Weil die Folgen einseitig sind. Ein als maschinell eingestufter Text eines Menschen kostet jemanden eine Note, einen Auftrag oder seinen Ruf; ein nicht erkannter erzeugter Text kostet niemanden etwas. Bei Quoten, die bei nicht muttersprachlichen Texten deutlich schlechter ausfallen, trifft es außerdem immer dieselben. Anbieter von Sprachmodellen haben eigene Erkennungswerkzeuge aus genau diesem Grund wieder eingestellt.
Was stattdessen hilft
Herkunft statt Erkennung. Ein Nachweis, der bei der Erstellung entsteht und mitgeführt wird, ist belastbar, siehe C2PA; eine Schätzung im Nachhinein ist es nicht. Für Texte gibt es diesen Weg bisher kaum, und deshalb bleibt die eigene Kennzeichnung das einzige Verlässliche.
Was wir Kunden dazu sagen
Keine Entscheidung auf einen solchen Wert stützen. Weder im Lektorat noch bei Bewerbungen noch bei Beiträgen von Nutzern taugt ein Prozentwert als Grundlage; was zählt, ist der Inhalt: Stimmen die Angaben, gibt es Quellen, trägt der Text etwas Eigenes bei. Diese Prüfung kostet mehr und ist die einzige, die hält.
Was bei Bildern anders ist
Dort gibt es einen Weg über die Herkunft. Aufnahmegeräte und Bildwerkzeuge können beim Erstellen eine signierte Angabe mitschreiben, die später prüfbar bleibt, und mehrere Hersteller beteiligen sich daran. Das Verfahren hat Lücken, etwa beim Weiterverarbeiten und beim Hochladen in Netzwerke, die solche Angaben entfernen. Es ist aber ein Nachweis und keine Schätzung, und darin liegt der Unterschied.