Seit dem 2. August 2026 müssen Deepfakes gekennzeichnet werden. Ich musste den Satz zweimal lesen. Ein Deepfake ist ein Bild, ein Video oder eine Stimme, die künstlich erzeugt oder verändert wurde und dabei so wirkt, als sei das Gezeigte wirklich passiert. Ein Politiker sagt etwas, das er nie gesagt hat. Eine Frau erscheint auf einem Foto, das nie aufgenommen wurde. Ein Ereignis findet in einem Video statt, obwohl es nie stattgefunden hat. Und wenn man so etwas veröffentlicht, muss man künftig darauf hinweisen, dass es künstlich erzeugt oder verändert wurde.
Das ist ungefähr so, als würde man beschließen: Gefälschte Geldscheine müssen künftig den Aufdruck „gefälscht“ tragen.
Natürlich hinkt der Vergleich ein wenig. Nicht jeder Deepfake ist kriminell. Es gibt Satire, Kunst, Filme und offensichtliche Inszenierungen. Ein künstlich erzeugtes Bild ist nicht automatisch eine Lüge. Aber ausgerechnet bei den Deepfakes, vor denen wir Angst haben, wird die Regel merkwürdig: bei dem Video, das Menschen täuschen soll, bei der Stimme, die jemandem einen Satz unterschiebt, bei dem Bild, das verbreitet wird, damit möglichst viele Menschen glauben, etwas sei tatsächlich geschehen. Die Täuschung funktioniert nur, solange niemand weiß, dass es eine Täuschung ist. Und genau derjenige, der täuschen will, soll nun dazuschreiben: Dieses Video wurde künstlich erzeugt.
Vielleicht tut er das. Vielleicht denkt der Betrüger kurz vor dem Hochladen: Mist. Die EU-Kennzeichnung. Fast vergessen.
Natürlich ist damit eine Täuschung nicht plötzlich erlaubt. Wer betrügt, verleumdet, Persönlichkeitsrechte verletzt oder auf andere Weise rechtswidrig handelt, kann sich nicht mit einem kleinen „KI-generiert“ davonstehlen. Trotzdem verändert die Kennzeichnung etwas. Denn irgendwann werden wir ein manipuliertes Video sehen und jemand wird sagen: Das stand doch dabei. Unten links. „KI-generiert.“ Du hast es nur nicht gelesen.
Das ist ein eigenartiger Gedanke. Das Bild zeigt etwas, das nie passiert ist. Die Stimme gehört einem Menschen, der diese Worte nie gesprochen hat. Millionen Menschen haben es vielleicht gesehen, weitergeleitet und kommentiert. Aber technisch war die Sache transparent. Es stand ja dabei. Vielleicht gewöhnen wir uns daran, dass neben einer Unwahrheit künftig eine kleine Gebrauchsanweisung steht.
Noch merkwürdiger wird es, wenn man sich anschaut, wie diese neue Klarheit gerade erklärt wird. Das ZDF berichtete Anfang August über die neuen Regeln und zitierte einen Fachanwalt mit dem Beispiel, dass sogar ein Verein ein mit KI erzeugtes Motiv für sein Sommerfest kennzeichnen müsse. Die Europäische Kommission beschreibt die Verpflichtung für Veröffentlichende in ihrer eigenen Zusammenfassung enger: Sie nennt Deepfakes sowie Texte über Angelegenheiten von öffentlichem Interesse, wenn diese ohne menschliche Prüfung oder redaktionelle Kontrolle veröffentlicht werden.
Das ist bemerkenswert. Eine Vorschrift, die uns helfen soll, künstliche Inhalte eindeutig zu erkennen, ist offenbar selbst nicht ganz einfach eindeutig zu erklären. Der Verein mit seinem Sommerfest wird möglicherweise lieber „KI-generiert“ unter sein Plakat schreiben. Sicher ist sicher.
Währenddessen beginnt bei Texten die viel interessantere Geschichte. Denn auch künstlich erzeugte Texte können falsch sein. Nur sehen sie nicht falsch aus. Sie haben keine sechs Finger. Die Lippen bewegen sich nicht eine halbe Sekunde zu spät. Im Hintergrund wächst kein zweites Ohr. Sie stehen einfach da: ein guter Absatz, eine Zahl, eine Studie, ein Zitat, ein Institut. Alles wirkt vollkommen normal. Vielleicht stimmt es. Vielleicht aber auch nur fast.
Und genau hier sieht die neue Regel eine bemerkenswerte Ausnahme vor. Ein KI-generierter Text über Angelegenheiten von öffentlichem Interesse muss grundsätzlich kenntlich gemacht werden. Es sei denn, er wurde menschlich geprüft oder redaktionell kontrolliert und jemand übernimmt die redaktionelle Verantwortung. Dann muss das Publikum nicht erfahren, dass eine künstliche Intelligenz den Text erzeugt hat.
Wir haben das geprüft.
Vier Worte. Und plötzlich wird aus einem KI-generierten Text ein ganz normaler redaktioneller Inhalt.
Das Problem daran ist nicht, dass jemand Verantwortung übernimmt. Natürlich soll jemand verantwortlich sein. Das Problem steckt in einer anderen Frage: Was hat dieser Mensch eigentlich geprüft? Den Text? Oder die Wahrheit? Das ist nicht dasselbe.
Ein Sprachmodell kann eine falsche Behauptung inzwischen sehr ordentlich formulieren. Es kann eine Studie nennen, die genauso klingt, wie eine Studie zu diesem Thema heißen müsste. Es kann ein Datum einsetzen, das wunderbar passt. Es kann zwei richtige Tatsachen miteinander verbinden und daraus eine falsche Schlussfolgerung machen. Und nichts daran muss verdächtig aussehen. Das Falsche stolpert nicht mehr. Es hat keine Rechtschreibfehler. Es trägt keine schlecht sitzende Maske. Es wirkt nicht dubios. Es klingt vernünftig.
Vielleicht ist das die eigentliche Veränderung durch künstliche Intelligenz:
Und genau in diesem Moment erklären wir den Menschen zur letzten Kontrollinstanz. Das klingt zunächst richtig. Wer veröffentlicht, soll prüfen. Nur ist die interessante Frage nicht, ob menschliche Kontrolle grundsätzlich gut ist. Die interessante Frage ist: Was ist menschliche Kontrolle in einer KI-beschleunigten Redaktion praktisch noch wert?
Denn künstliche Intelligenz wird nicht eingesetzt, damit anschließend genauso lange gearbeitet wird wie vorher. Sie wird eingesetzt, weil sie schnell ist. Aus fünf Meldungen werden zehn. Aus zehn werden zwanzig. Eine Pressemitteilung wird zusammengefasst, eine Studie erklärt, ein Hintergrundtext entsteht, aus mehreren Meldungen wird in wenigen Minuten ein neuer Artikel.
Und anschließend muss jemand prüfen. Nicht lesen. Prüfen. Die Zahl nachsehen. Die Originalquelle öffnen. Das Zitat dort tatsächlich suchen. Die Studie finden und wenigstens so weit lesen, dass man weiß, ob sie wirklich das belegt, was im Text behauptet wird. Nachsehen, ob das Institut existiert, ob das Datum stimmt, ob das Ereignis stattgefunden hat, ob aus einer korrekten Quelle im nächsten Satz eine falsche Schlussfolgerung geworden ist.
Das kostet Zeit. Genau jene Zeit, die künstliche Intelligenz gerade eingespart hat.
Das Problem ist dabei nicht einmal Nachlässigkeit. Es ist Plausibilität. Wenn in einem Text steht, der Eiffelturm sei 173 Meter hoch, wird vielleicht jemand misstrauisch und schaut nach. Wenn dort aber 324 Meter steht, schaut vermutlich niemand nach. Die Zahl klingt richtig. Sie ist übrigens richtig. Aber genau darin liegt das Problem. Bei einem langen Text gibt es vielleicht zwanzig solcher Stellen. Neunzehn stimmen. Eine nicht. Und ausgerechnet diese eine klingt genauso überzeugend wie die anderen neunzehn.
Woher soll der prüfende Mensch wissen, bei welchem Satz er aufhören und recherchieren muss? Eigentlich müsste er bei jedem aufhören. Dann wäre es allerdings keine schnelle Prüfung mehr. Es wäre Recherche.
Und vielleicht wird deshalb etwas sehr Naheliegendes passieren. Eine KI schreibt den Text. Eine andere KI prüft ihn. Vielleicht bekommt sie den Auftrag: Prüfe alle Tatsachenbehauptungen. Suche nach Primärquellen. Markiere Widersprüche. Kontrolliere Zitate und Zahlen. Das kann sie inzwischen erstaunlich gut. Und erstaunlich gut ist genau das Problem, denn auch diese Antwort wird wieder sehr überzeugend aussehen.
Keine wesentlichen Fehler gefunden.
Dann sitzt am Ende irgendwo noch ein Mensch. Vielleicht mit einem Kaffee. Er liest darüber und klickt auf „Freigeben“. Jetzt ist der Inhalt geprüft. Jetzt übernimmt jemand die Verantwortung. Und jetzt muss niemand mehr erfahren, dass der Text von einer Maschine stammt.
Das ist eine bemerkenswerte Konstruktion. Die Maschine erzeugt den Text. Die Maschine hilft, die Wahrheit des Textes zu beurteilen. Der Mensch übernimmt die Verantwortung. Nur Wahrheit entsteht durch diesen Vorgang noch nicht automatisch.
Denn Verantwortung ist keine Garantie für Wahrheit. Man kann für etwas verantwortlich sein und sich trotzdem irren. Man kann gewissenhaft prüfen und trotzdem etwas übersehen. Man kann sogar gerade deshalb etwas übersehen, weil es überhaupt keinen Anlass gibt, misstrauisch zu werden. Die Zahl passt. Die Studie klingt bekannt. Der Zusammenhang ist schlüssig. Warum sollte man ausgerechnet dort nachsehen?
Nicht weil jemand böse ist. Nicht einmal unbedingt aus Bequemlichkeit. Sondern weil kein Mensch jede Behauptung in jedem automatisch erzeugten Text bis zu ihrem Ursprung zurückverfolgen kann, wenn gleichzeitig immer mehr solcher Texte produziert werden. Oder genauer: Er könnte es. Dann wäre der Geschwindigkeitsvorteil nur weitgehend verschwunden.
Vielleicht entsteht deshalb gerade etwas Neues. Eine Art redaktionelle KI-Wahrheit. Nicht unbedingt wahr, weil jemand die Sache selbst recherchiert hat. Nicht wahr, weil jemand dabei war. Nicht einmal unbedingt wahr, weil ein Mensch jede einzelne Aussage bis zu ihrer Quelle zurückverfolgt hat. Sondern wahr genug, weil ein Prüfprozess stattgefunden hat und weil jemand bereit ist, dafür die Verantwortung zu übernehmen.
Für uns Leser sieht man davon nichts. Wir öffnen den Artikel. Die Seite kennen wir. Der Text klingt ordentlich. Eine Journalistin oder ein Redakteur steht vielleicht darunter. Im Impressum gibt es einen Verantwortlichen. Also wird es schon stimmen.
Und vielleicht ist genau das die viel größere Veränderung. Wir sprechen über eine Kennzeichnungspflicht für künstliche Intelligenz. Dabei verändert künstliche Intelligenz längst etwas viel Grundsätzlicheres: wie Wahrheit für uns aussieht.
Denn bisher war die Glaubwürdigkeit einer Redaktion auch mit einer stillen Vorstellung verbunden: Da hat jemand recherchiert. Jemand hat telefoniert. Jemand hat eine Quelle gelesen. Jemand hat einen Satz geschrieben und wusste ungefähr, weshalb er dort steht. Diese Verbindung kann sich auflösen. Künftig kann jemand für einen Text verantwortlich sein, dessen Entstehung er nur noch am Ende begleitet hat.
Vielleicht ist das sogar vollkommen in Ordnung. Vielleicht werden daraus ausgezeichnete Texte entstehen. Nur sollten wir uns dann nicht vormachen, wir hätten mit einem Verantwortlichen auch automatisch einen Ursprung gefunden.
Und genau deshalb wirkt die neue Kennzeichnungspflicht auf mich so eigentümlich. Bei einem manipulierten Video sagen wir künftig: Schau genau hin. Es steht dabei, dass es künstlich ist. Bei einem künstlich erzeugten redaktionellen Text sagen wir: Du musst nicht genau hinsehen. Wir haben das schon gemacht.
Das eine bekommt ein Etikett. Das andere bekommt Vertrauen.
In Zukunft werden wir also Deepfakes sehen, auf denen steht, dass sie Deepfakes sind. Vielleicht übersehen wir die Kennzeichnung. Dann wird jemand sagen: Es stand doch darunter.
Und wir werden Texte lesen, in denen vielleicht eine Zahl erfunden, eine Quelle falsch verstanden oder ein Zusammenhang halluziniert wurde. Unter denen steht nichts. Denn sie wurden geprüft.
Vielleicht ist das die eigentliche Absurdität. Wir schaffen eine Regel, die uns helfen soll, künstliche Wirklichkeit von wirklicher Wirklichkeit zu unterscheiden. Und am Ende müssen wir mehr denn je selbst herausfinden, was wir glauben.
Bleiben noch die Deepfakes. Die müssen gekennzeichnet werden. Was vermutlich eine gute Idee ist.
Denn der Mensch, der einen Deepfake mit betrügerischer Absicht verbreitet, wird vermutlich nicht in der letzten Sekunde denken:
Mist. Fast hätte ich die Kennzeichnung vergessen.
