Liebes Publikum, geneigte Leser*innen, hiermit fordere ich feierlich die diesjährige Durchführung einer Fußball-EM in Deutschland sowie Landtagswahlen in Brandenburg, Thüringen und Sachsen. Na, was sagt ihr zu meiner kreativen Idee?

Wie bitte? Das passiert sowieso und ich habe darauf keinen Einfluss mehr?!

So ähnlich verhält es sich mit einem Zitat von Justizminister Marco Buschmann (FDP) aus einem Interview mit dem Redaktionsnetzwerk Deutschland (RND). Buschmann hat darin am 2. April eine Kennzeichnungspflicht für KI-Erzeugnisse erwähnt. Die Deutsche Presse-Agentur hat das als „Forderung“ eingeordnet und per Agenturmeldung verbreitet. Dazu muss man wissen: Sehr viele traditionellen Zeitungen, Online-Medien und Rundfunkhäuser sind Kund*innen der dpa und übernehmen deren Meldungen oft ohne gründlichen Faktencheck.

Seitdem rollt also die Nachrichtenwelle durch Deutschland, von ZDF über Deutschlandfunk bis hin zu den Oldenburger Nachrichten. In einem Videobeitrag von rbb24 in der ARD-Mediathek sagt die Sprecherin: „Bundesjustizminister Marco Buschmann sieht im Bereich KI eine Gesetzeslücke“.

Allerdings ist die Erzählung von der Gesetzeslücke daneben und die Einordnung des Buschmann-Zitats als „Forderung“ grob irreführend. Denn die genannte Kennzeichnungspflicht ist längst beschlossene Sache und wird ohnehin kommen.

Viel Luft um nichts

Im Winter hat sich die Europäische Union auf eine KI-Verordnung geeinigt, auch bekannt als AI Act. Öffentlich ist inzwischen der Kompromisstext, der nach dem Trilog mit Parlament, Rat und Kommission entstanden ist. Die Kennzeichnungspflicht steht in Artikel 52, Absatz 3. Dort heißt es, frei aus dem Englischen übersetzt:

Anbieter von KI-Systemen, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren, die einen Deepfake darstellen, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.

In den Erwägungsgründen liefert die Verordnung noch eine englischsprachige Erklärung, was genau mit Deepfake gemeint ist, nämlich:

Audio- oder Videoinhalte, die bestehenden Personen, Orten oder Ereignissen deutlich ähneln und die einer Person fälschlicherweise als authentisch erscheinen würden.

Als EU-Mitgliedstaat hat Deutschland die KI-Verordnung selbstverständlich mitverhandelt und sie auch mitbeschlossen. Die offenbar von der dpa stammende Formulierung: „Nun bringt der Justizminister eine Kennzeichnungspflicht ins Spiel“ ist deshalb Käse. Treffender wäre gewesen: Der Justizminister spricht sich für die Umsetzung der Kennzeichnungspflicht aus. Es ist ein anschauliches Beispiel dafür, was passieren kann, wenn deutsche Nachrichtenmedien EU-Gesetzgebung nicht ausreichend auf dem Schirm haben.

Zumindest das Fachmedium „Tagesspiegel Background“ hat’s gemerkt und beim Justizministerium nachgehakt. Und das Ministerium stellte klar: Es stimmt, die KI-Verordnung sehe eine Kennzeichnungspflicht nach den Vorstellungen des Bundesjustizministers vor. Tja, viel Luft um nichts also, eine Nachrichtenmeldung ohne Nachrichtenwert.

Für den Justizminister bedeutet dieses redaktionelle Missgeschick jedoch ein Gratis-Ticket – für eine fulminante Fahrt im Nachrichten-Karussell. Buschmann darf einmal die große Runde durch deutsche Nachrichtenmedien drehen, und zwar mit einer Zitatmeldung, die ihn als Ideengeber und Macher beim Hype-Thema KI darstellt. Sicher nicht übel für die eigene Bekanntheit.

Wen sollen Deepfake-Label aufhalten?

Ein Fortschritt im Kampf gegen Propaganda, Desinformation und Hetze ist das jedoch nicht. Falls man eine KI-Kennzeichnungspflicht für besonders dringlich hielte, könnte man ja fordern, so etwas schon vorher auf nationaler Ebene einzuführen. Denn bis alle Regeln der KI-Verordnung greifen, gibt es eine Übergangsfrist von zwei Jahren. So genau hat aber offenbar niemand nachgefragt.

Ich erwarte derweil eher wenig von einer Verpflichtung, realistische Deepfakes zu kennzeichnen. Wer sein redaktionelles Handwerk ernst nimmt, darf sein Publikum sowieso nicht in die Irre führen und muss täuschend echte Deepfakes kenntlich machen – sofern man es für nötig hält, sie überhaupt zu veröffentlichen. Das ist journalistische Sorgfaltspflicht.

Wer wiederum gezielt Desinformation und Propaganda in Umlauf bringen möchte, dürfte beim Gedanken an verpflichtende Deepfake-Label nur müde lächeln. Immerhin stören sich die Akteur*innen auch nicht daran, dass sie systematisch Persönlichkeitsrechte oder Sorgfaltspflichten verletzen, Verleumdung oder Volksverhetzung verbreiten.

Mit Wasserzeichen gegen die babylonische Verwirrung

Schon klar, man muss es Menschen nicht extra einfach machen, einen Tagesschau-Sprecher zu faken, um falsche Nachrichten zu verkünden. Andererseits wird es auch in Zukunft für etwas pfiffigere Nutzer*innen kein Problem sein, jegliche Kennzeichen technisch zu umgehen oder zu entfernen. Das für Desinformation und Verschwörungserzählungen empfängliche Publikum dürfte vor allem von der Suggestivkraft eines Fakes eingenommen sein, unabhängig davon, ob da noch eine Kennzeichnung steht.

Ich finde, das beste Mittel gegen die Beeinflussung der Öffentlichkeit durch manipulative Deepfakes sind nach wie vor seriöse Nachrichtenmedien, auf die man sich verlassen kann. So viele Menschen wie möglich sollten wissen: Egal, was für krasses Zeug mir in Messenger-Gruppen und sozialen Medien begegnet – bei seriösen Nachrichtenmedien kann ich mich immer verlässlich darüber informieren, was da draußen gerade wirklich passiert.

Leider haben viele Leute kein Vertrauen in seriöse Nachrichtenmedien. Umso wichtiger ist es, dass Journalist*innen sich alle Mühe geben, möglichst viele gute Gründe für Vertrauen zu liefern. Dazu gehört sicher auch, dass Medienhäuser ihren Angestellten genug Zeit für Recherche einräumen. Leider muss man sagen: Die jüngste Meldung über einen Minister, der „fordert“, was 27 EU-Mitgliedstaaten nach jahrelangen Verhandlungen schon eingetütet haben – die ist dafür kein gutes Beispiel.