Vor einigen Wochen stellte der Content Creator Julien Bam fest, dass einige seiner Abonnent*innen manche seiner Videos nicht sehen konnten. Er erhielt Nachrichten, dass ein paar seiner Zuschauer*innen nicht einmal von der Existenz einiger Videos mitbekommen hatten. Es stellte sich heraus, dass diese Videos im eingeschränkten Modus auf Youtube nicht mehr sichtbar waren, wie Bam in einem Video berichtet.

Der eingeschränkte Modus ist eine Jugendschutz-Funktion von Youtube, die seit 2010 genutzt werden kann. Laut Youtube soll damit unter anderem der Übergang von Youtube Kids zu Youtube erleichtert werden. „Videos mit Inhalten, die potenziell nur für Erwachsene geeignet sind, werden im eingeschränkten Modus nicht angezeigt“, heißt es hierzu auf einer Infoseite von Youtube-Mutter Google.

Der Filter lässt sich in den Einstellungen aktivieren und deaktivieren. Wird er über die Familien-Version aktiviert, können die Kinder ihn nicht selbst wieder deaktivieren. Wenn man ihn selbst aktiviert, muss man das für jeden Browser machen, heißt es auf einer Infoseite. In öffentlichen WLANs wie Schulen, Bibliotheken oder Jugendherbergen könne der Netzwerkadministrator den Filter aktivieren. Nutzt man Youtube in der App, wird man nicht darüber informiert, wenn dieser Modus gerade eingeschaltet ist.

Julien Bam produziert Videos für eine vorwiegend junge, jugendliche Community und zählt zu den bekanntesten Content Creators in Deutschland. In seinen aufwendig produzierten Videos gibt es Sketche, Musik und bunte Kostüme, bekannte Youtuber*innen und Komiker*innen treten auf; es geht unter anderem um Außerirdische oder den Osterhasen. Die Zuordnung „potenziell nicht jugendfrei“ trifft für seine Videos nicht zu.

Der eingeschränkte Modus sperrt für betroffene Nutzer*innen nicht nur einige Videos, sondern auch grundsätzlich die Kommentarfunktion. Das heißt, Nutzer*innen könne keine Kommentare unter Videos sehen oder schreiben. Erkannt werden „potenziell nicht jugendfreie“ Inhalte laut YouTube anhand von „zahlreichen Anhaltspunkten“, darunter Titel, Videobeschreibung und  Metadaten.

Auf einer Infoseite nennt Youtube inhaltliche Gründe für eine Sperre im eingeschränkten Modus: Drogen und Alkohol, sexuelle Inhalte, Gewalt, Erwachsenenthemen oder Videos, die sich mit Terrorismus, Krieg, Kriminalität und politischen Konflikten befassen, vulgäre oder jugendfreie Sprache, Aufhetzung und Erniedrigung. Wenn ein Video vom Filter gesperrt wird, ist es selbst über einen direkten Link nicht mehr aufrufbar. Inhalte, die zu Aufklärungszwecken dienen, sollen davon ausgenommen sein, insbesondere wenn es sich um persönliche Geschichten handelt.

Offensichtliche Beispiele von Overblocking

Man muss nicht lange suchen, um im eingeschränkten Modus zahlreiche Beispiele von Overblocking zu finden. So nennt man es, wenn durch eine technische Maßnahme mehr Inhalte gesperrt werden als eigentlich gewünscht. Stichproben von netzpolitik.org zeigen: Der eingeschränkte Modus filtert Videos heraus, die ausdrücklich zur Aufklärung erstellt wurden, darunter auch LGBTQ+-Inhalte.

Zu den im eingeschränkten Modus nicht abrufbaren Videos gehören unter anderem Schminkvideos für trans Personen oder Videos, die beim Coming-out helfen sollen. Auch über 30 Videos des YouTube-Kanals von netzpolitik.org werden herausgefiltert.

Auch bei der Gegenprobe offenbart der eingeschränkte Modus Schwächen – ohne, dass man lange danach suchen muss. Wir fanden im eingeschränkten Modus ebenso zensierte Pornos wie Videos, die reale Gewalt dokumentieren, aufgezeichnet durch Bodycams von US-Polizist*innen. Zwar wurden viele solcher Videos im eingeschränkten Modus ausgeblendet, einige aber nicht.

Der eingeschränkte Modus filtert auch politischen Journalismus heraus. Auf dem Youtube-Kanal des SPIEGEL werden etwa Videos herausgefiltert, die über russische Propaganda aufklären sollen.

Kritik aus der queeren Szene

Queere Organisationen und Blogger*innen kritisieren den eingeschränkten Modus bereits seit Jahren. Eine Empörungswelle gab es etwa im Jahr 2017 auf Twitter (heute: X) unter dem Hashtag #YouTubeIsOverParty. Obwohl YouTube den Filter danach etwas angepasst hat, gab es nach Berichten von queer.de weiterhin Probleme.

Inzwischen haben YouTuber*innen die Möglichkeit, Einspruch einzulegen, wenn eines ihrer Videos betroffen ist. Viele wissen jedoch noch nicht einmal, dass dieser Filter existiert. Creator*innen werden nicht darauf hingewiesen, wenn eines ihrer Videos unter den eingeschränkten Modus fällt – und Nutzer*innen werden nicht darauf hingewiesen, wenn sie gerade im eingeschränkten Modus Videos schauen.

Youtube weiß selbst, dass der eingeschränkte Modus Fehler macht. So heißt es auf der Infoseite ausdrücklich: „Leider kann es manchmal bei der Auswahl der Videos, die im eingeschränkten Modus verfügbar sind, zu Fehlern kommen. Wir arbeiten aber laufend daran, unsere automatisierten Systeme zu verbessern.“

Es ist jedoch fraglich, wie gut ein automatisiertes System überhaupt sein kann: Maschinenlesbare Hinweise wie Videotitel und Videobeschreibungen reichen kaum aus, um zuverlässig zwischen Aufklärungsinhalten und nicht jugendfreien Inhalten zu unterscheiden.

Unsere Recherchen zu anderen Jugendschutz-Filtern wie JusProg oder Google SafeSearch zeigen: Die Probleme ähneln sich stark. Die Filter orientieren sich offenkundig oft an bloßen Stichworten; selbst seriöse Inhalte rund um Sexualität oder Geschlechtsidentität werden blockiert. Dabei sind es insbesondere Jugendliche, die zu solchen und weiteren sensiblen Themen Aufklärung suchen und seriöse Info-Angebote benötigen.