Ein Deep Fake ist ein mit KI erzeugter oder veränderter Inhalt, der etwas Bestehendes so nachbildet, dass er für echt gehalten würde. Im Sprachgebrauch der Branche meint der Begriff fast immer die Nachbildung einer bestimmten Person, die etwas tut oder sagt, was sie nie getan oder gesagt hat. Die KI-Verordnung fasst ihn erheblich weiter.
- Deep Fake
Ein KI-erzeugter Inhalt, der etwas Bestehendes nachbildet und für echt gehalten würde.
Beispiel: „Der Deep Fake eines Vorstands kostete ein Unternehmen eine Überweisung, weil die Videokonferenz echt wirkte.“Herkunft des Begriffs: Er entstand 2017 in einem Internetforum als Zusammenziehung von „deep learning“ und „fake“ und bezeichnete zunächst getauschte Gesichter in Videos.
Abgrenzung zu synthetischen Medien: Das ist der Oberbegriff für alles Erzeugte, auch für frei Erfundenes. Zum Deep Fake wird es erst, wenn etwas Bestehendes nachgebildet wird und die Täuschung möglich ist.
Warum die gesetzliche Fassung viel weiter ist
Die KI-Verordnung definiert den Begriff in Artikel 3 Nummer 60 als „AI-generated or manipulated image, audio or video content that resembles existing persons, objects, places, entities or events and would falsely appear to a person to be authentic or truthful“. Darin stehen neben Personen auch Gegenstände, Orte, Einrichtungen und Ereignisse, und entscheidend ist allein, dass der Inhalt für echt gehalten würde.
Praktisch heißt das: Ein erzeugtes Bild des eigenen Firmengebäudes, einer Produktionshalle, eines Ladens oder einer Veranstaltung ist nach dem Gesetz ein Deep Fake, auch wenn niemand darauf zu sehen ist und niemand getäuscht werden soll. Damit greift die Offenlegungspflicht aus Artikel 50 Absatz 4, und zwar an einer Stelle, an der sie kaum jemand erwartet. Wer Referenzbilder, Standortbilder oder Veranstaltungsbilder erzeugt, kennzeichnet sie also besser, als er nach dem Branchenverständnis müsste.
Die KI-Verordnung regelt den Fall ausdrücklich. Artikel 50 Absatz 4 verlangt von Betreibern eines Systems, das einen Deepfake erzeugt oder verändert, offenzulegen „that the content has been artificially generated or manipulated“. Die Pflicht trifft also den, der veröffentlicht, und nicht nur den Anbieter des Werkzeugs.
Was rechtlich noch dazukommt
Das Recht am eigenen Bild und der Schutz der Persönlichkeit. Beide greifen unabhängig von der KI-Verordnung und schon vor jeder Veröffentlichung. Für Werbung mit dem Bildnis einer Person braucht es deren Einwilligung, und das gilt für eine Nachbildung genauso wie für ein Foto. Bei Personen des öffentlichen Lebens sind die Grenzen enger gezogen, als häufig angenommen wird.
Was praktisch schützt
Im Unternehmen: ein zweiter Weg für jede Zahlungsanweisung und für jede Freigabe mit Folgen, unabhängig davon, wie echt ein Anruf oder eine Videokonferenz wirkt. Technische Erkennung hinkt der Erzeugung hinterher und taugt nicht als Kontrolle. Für die eigene Außendarstellung hilft Berechenbarkeit: Wer bekannte Kanäle benutzt und ungewöhnliche Wege nie, macht eine Fälschung leichter erkennbar. Hinzu kommt die Vorsorge für den Fall selbst: Eine vorbereitete Richtigstellung auf der eigenen Website ist in der ersten Stunde mehr wert als jede nachträgliche Untersuchung.