Faktenprüfung bei KI-Texten ist das Nachprüfen der überprüfbaren Aussagen eines maschinell erzeugten Textes an der Quelle. Sie ist der Arbeitsschritt, der bei erzeugten Texten den Unterschied zwischen brauchbar und gefährlich macht, und sie lässt sich nicht an dasselbe Werkzeug zurückgeben.
- Faktenprüfung bei KI-Texten
Das Nachprüfen der überprüfbaren Aussagen eines maschinell erzeugten Textes an der Quelle.
Beispiel: „Die Faktenprüfung fand zwei richtige Zahlen und eine, die es nie gegeben hatte.“Was zu prüfen ist: Zahlen, Daten, Namen, Zitate, Gesetzesstellen, Produktbezeichnungen und jede Behauptung über Dritte. Was nicht: Formulierungen, Aufbau, Ton.
Warum ein zweites Modell nicht genügt: Es hat dieselben Lücken und dieselbe Neigung, Plausibles für wahr zu halten. Geprüft wird an der Quelle und nicht an einem weiteren Modell.
Worauf man zuerst schaut
Auf alles, was sich zählen lässt. Jahreszahlen, Prozentwerte, Beträge, Paragrafen und Mengen sind die Stellen, an denen erzeugte Texte scheitern, und sie sind gleichzeitig am schnellsten zu prüfen. Danach kommen Zitate: Ein wörtliches Zitat, das sich nicht in der angegebenen Quelle findet, ist der häufigste schwere Fehler.
Wo die Prüfung regelmäßig vergessen wird
In der Mitte langer Texte und in Nebensätzen. Anfang und Schluss liest jeder, die Einschränkung in Absatz sieben nicht. Dazu gehören Angaben, die wie Allgemeinwissen klingen: eine Jahreszahl zu einer Rechtsänderung, der Name eines Standards, die Zahl der Mitgliedsstaaten. Genau solche Sätze gehen unbemerkt durch.
Wie wir damit arbeiten
Mit einem Quellenarchiv und mit Pflicht zur Fundstelle. Jede Angabe, die in einen veröffentlichten Text kommt, hat eine Quelle mit Datum, und die wird abgelegt, nicht nur verlinkt. Das verlangsamt das Schreiben und ist der Grund dafür, dass wir zu Zahlen stehen können, die in unseren Texten stehen.
Wer prüfen sollte
Nicht derjenige, der den Prompt geschrieben hat. Wer den Text in Auftrag gegeben hat, liest ihn mit der Erwartung, dass er stimmt, und überfliegt genau die Stellen, die er selbst vorgegeben hat. Eine zweite Person mit Sachkenntnis findet in zehn Minuten mehr als der Verfasser in einer Stunde, und bei Texten mit Zahlen ist das eine feste Regel bei uns.