Dieser Artikel stammt von Netzpolitik.org.Der Autor ist…
Die deutsche Medienaufsicht erweitert ihr System zur Kontrolle von Online-Inhalten. Nach einer Probephase in Nordrhein-Westfalen soll die Aufsicht nun deutschlandweit verdächtige Inhalte direkt ans Bundeskriminalamt (BKA) melden.
Die Medienaufsicht als Hilfssheriff im Internet (Symbolbild) – CC public domain DALL-E-2 („surveillance all around the futuristic city, cameras, eyes, streets, buildings, people, painting by dali“)Die deutsche Medienaufsicht geht vermehrt im Internet auf Streife. Mithilfe einer Software durchforstet die Behörde Websites und soziale Medien auf der Suche nach Straftaten wie Volksverhetzung. Verdächtige Inhalte landen automatisch in einem Ticketsystem, Sichter*innen müssen sie dann überprüfen. Von dort können die Meldungen ans Bundeskriminalamt (BKA) gelangen.
Diesen direkten Draht zum BKA nutzte bislang nur die Medienaufsicht in Nordrhein-Westfalen (NRW). Jetzt wird die Zusammenarbeit auf ganz Deutschland ausgeweitet. Die Aufsicht verspricht sich davon ein „demokratischeres Netz“ und eine „effektive Strafverfolgung“, schreibt die Landesmedienanstalt NRW auf ihrer Website.
Seit mindestens zwei Jahren treibt die nordrhein-westfälische Behörde die deutschlandweite Überwachung von Online-Inhalten voran. Den Anfang machte 2021 die bereits erwähnte Software, die automatisch Online-Inhalte per Stichwortsuche und Bilderkennung durchforstet. Die Behörde spricht von „Künstlicher Intelligenz“ und nennt das Werkzeug KIVI. Das ist ein Kofferwort aus der Abkürzung KI und dem lateinischen Wort für „überwachen“ (vigilare). KIVI sucht nicht nur nach Volksverhetzung, sondern etwa auch nach Pornografie und Inhalten, die Drogen verherrlichen. Das interne Handbuch von KIVI haben wir hier veröffentlicht und analysiert; außerdem diskutieren wir hier die Risiken des Werkzeugs.
Im Frühjahr 2022 wurde der Einsatz von KIVI von NRW auf ganz Deutschland ausgeweitet. Die Medienaufsicht promotet die Software außerdem in anderen EU-Staaten. Im vergangenen Jahr sagte uns eine Person, die im Auftrag der Medienaufsicht strafbare Inhalte sucht, sie komme sich vor „wie ein Internet-Polizist“. Der Vergleich ist gar nicht so weit hergeholt, immerhin nennt das BKA die Medienaufsicht „Kooperationspartner“. Ein umgangssprachliches Wort dafür wäre wohl Hilfssheriff.
Die Medienaufsicht ist allerdings keine Polizei, sondern eine staatsferne Anstalt des öffentlichen Rechts. Zu ihren sonstigen Aufgaben gehört es zum Beispiel, Medienkompetenz zu fördern und Sendelizenzen zu vergeben.
Rund zwei Meldungen pro Tag
Seit Mai 2022 habe die Landesmedienanstalt NRW dem BKA knapp 700 Verdachtsmeldungen geschickt, schreibt sie in ihrer Pressemitteilung. Das entspricht etwa zwei Meldungen pro Tag. Mit Blick auf die im Sekundentakt veröffentlichte Menge von Hass und Hetze im Netz dürfte das allenfalls eine homöopathische Dosis sein. Ein Großteil der entdeckten Inhalte sei auf KIVI zurückzuführen, wie ein Sprecher erklärt. Betroffen waren demnach ausschließlich Gewaltdarstellungen, Volksverhetzung, Holocaustleugnung und Kennzeichen verfassungswidriger Organisationen; darunter fallen etwa Hakenkreuze.
Das BKA rechnet damit, dass sich die Anzahl solcher Meldungen durch die Zusammenarbeit mit der Medienaufsicht künftig „leicht“ erhöht. Die Polizei bearbeitet die Meldungen in der „Zentralen Meldestelle für strafbare Inhalte im Internet“ (kurz: ZMI BKA). Ein Großteil dieser Meldungen (93 Prozent) sei strafrechtlich relevant gewesen, schreibt eine Sprecherin.
Die Beamt*innen finden zunächst heraus, welche Behörde überhaupt zuständig ist. Lässt sich beispielsweise eine mutmaßliche Volksverhetzung einem Facebook-Nutzer aus dem Saarland zuordnen, dann wandert die Meldung an die dortige Staatsanwaltschaft. In rund zwei Dritteln der Fälle habe das BKA eine solche zuständige Behörde feststellen können, schreibt die Sprecherin.
Überwachung soll abschrecken
KIVI nimmt neben Websites auch YouTube, Twitter, TikTok und Telegram ins Visier. Viele solcher Online-Plattformen moderieren zwar auch selbst Inhalte, sie sind dazu aber nicht verpflichtet. Mit KIVI kommt nun eine neue systematische Überwachung von Online-Inhalten hinzu. Das legt den Grundstein für eine neuartige Infrastruktur von staatlicher Inhaltskontrolle im Netz.
Das zugrunde liegende Ziel ist Abschreckung, wie der Direktor der Landesmedienanstalt NRW, Tobias Schmid, in einem Interview erklärte. Täter*innen sollten demnach wissen, „dass sie erwischt werden können“. Eine breite Debatte über die Risiken einer solchen Kontrolle gibt es nicht. Im Februar wurden Details über ein zumindest technologisch ähnliches System aus Russland bekannt.
Offenlegung: netzpolitik.org-Gründer Markus Beckedahl ist seit 2010 Mitglied des Medienrats der Medienanstalt Berlin-Brandenburg (mabb).
Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.
Zur Quelle wechseln
Zur CC-Lizenz für diesen Artikel
Author: Sebastian Meineck
