Drücken Sie „Enter“, um den Inhalte zu überspringen

Trusted Flagger: YouTube serviert freiwillige Helfer:innen ab

Dieser Artikel stammt von Netzpolitik.org.Der Autor ist...

Eine Person hat die Hände auf der Tastatur eines Laptops. Ein Screenshot mit YouTube-Videos.

Sein Online-Name ist LightCode, und er ist ziemlich sauer. Mehrere Jahre lang hat der Entwickler aus den USA in seiner Freizeit geholfen, YouTube aufzuräumen. Er hat die Plattform nach Spam- und Gewaltvideos durchforstet. Am 15. Oktober veröffentlicht LightCode auf Englisch einen Wutbrief gegen YouTube. Er schreibt: „Wir sind fertig. Wir sind angepisst. Wir ertragen das nicht mehr.“

Was ist passiert?

LightCode ist einer von mehreren freiwilligen Helfer:innen auf YouTube. Sie heißen „Trusted Flagger“, auf Deutsch: vertrauenswürdige Hinweisgeber:innen. Sie unterstützen YouTube bei der Suche nach missbräuchlichen Videos: zum Beispiel Spam, Gewalt, Tierquälerei. Zwar dürfen alle Nutzer:innen auf YouTube Videos melden, aber Trusted Flagger haben Privilegien.

So können Trusted Flagger etwa mit einem speziellen Tool mehrere Videos auf einmal melden. Die Hinweise werden YouTube zufolge mit erhöhter Priorität bearbeitet. Dazu gebe es Austausch mit dem YouTube-Team. Mit diesen Vorzügen wird das Trusted-Flagger-Programm noch immer öffentlich beworben. Aber offenbar ist die Realität dahinter ernüchternd.

Einblick in den Maschinenraum

Auf Feedback warten die freiwilligen Helfer:innen nach eigenen Angaben heute mehrere Wochen bis Monate. E-Mails mit Rückfragen würden kaum beantwortet. Das einst mächtige Tool zum Finden und Melden missbräuchlicher Videos wurde wohl durch ein weniger nützliches ersetzt. Diese und weitere Vorwürfe erhebt nicht nur LightCode in seinem öffentlichen Brief – auch ein Trusted Flagger aus Deutschland bestätigt sie.

„Es läuft schon eine ganze Weile ziemlich scheiße“, sagt er im Gespräch mit netzpolitik.org. Er möchte hier Phil genannt werden, sein echter Name ist der Redaktion bekannt. Wir haben YouTube-Mutter Google gefragt, ob die Vorwürfe von LightCode korrekt sind. In seiner allgemein gehaltenen Antwort ging der Konzern nicht direkt auf die Frage ein.

Die Geschichte der Trusted Flagger gibt einen seltenen Einblick in den Maschinenraum von YouTube, eine der größten Social-Media-Plattformen der Welt. Seit Jahren wird diskutiert, wie Plattformen ihre Richtlinien durchsetzen können. Wie lassen sich Gewalt, Betrug und Propaganda bekämpfen, wenn Millionen von Menschen sekündlich neue Inhalte hochladen? Neben Heerscharen bezahlter Löschcrews und automatisch löschenden Bots lautet eine Antwort: freiwillige Helfer:innen.

Das sagt YouTube zu den Trusted Flaggern

Schon der Transparenzbericht von YouTube zeigt, dass sich bei den Trusted Flaggern etwas verändert hat. Im Jahr 2018 wurden dank ihrer Hilfe rund 5,3 Millionen Videos entfernt. Im Jahr 2019 waren es nur noch rund 2,6 Millionen, ein Jahr später 0,56 Millionen. Die Helfer:innen melden immer weniger Videos. Ein möglicher Grund: Sie haben nicht mehr das nötige Werkzeug.

„Die haben alles entfernt, womit man gut arbeiten kann“, sagt der deutsche Trusted Flagger Phil. Früher habe er mit einem speziellen Tool gezielt nach Videos suchen können, die gegen die Richtlinien verstoßen. Das waren oft Spam-Videos, die Menschen auf kostenpflichtige Seiten mit Pornos oder Kinofilmen locken sollten. Die Treffer konnte Phil direkt im Tool melden; bereits gemeldete Videos ließen sich herausfiltern. Heute gibt es dieses Tool nicht mehr.

Phil müsste missbräuchliche Videos nun über die weniger praktische YouTube-Suche aufspüren und per Formular melden. Das koste deutlich mehr Zeit und Klicks.

Eine Begründung für die Schikane hat YouTube inzwischen geliefert: Anfang Oktober erhalten die Trusted Flagger eine E-Mail, unterzeichnet von Derek Slater, einem Manager der YouTube-Mutter Google. LightCode bezieht sich in seinem Wutbrief darauf. Die entscheidenden Passagen der E-Mail konnte netzpolitik.org verifizieren.

„Schlag in die Magengrube“

In der E-Mail bedankt sich Slater zunächst bei den Trusted Flaggern. Ihre Hilfe werde sehr wertgeschätzt, sie mache YouTube für Millionen Nutzer:innen sicherer. Slater erwähnt technische Verbesserungen, mit deren Hilfe YouTube automatisch Verstöße erkenne. Und dann kommt das, was LightCode so wütend macht.

Slater zufolge bekomme das Trusted-Flagger-Programm einen neuen Fokus. YouTube setze nun auf Hinweise von NGOs und Regierungsorganisationen, nicht mehr auf massenhafte Meldungen. Eine feste Ansprechperson für die Freiwilligen gebe es nicht mehr; sie könnten aber jederzeit eine Nachricht hinterlassen.

Für Trusted Flagger heißt das im Klartext: Ihr seid nicht mehr wichtig. LightCode beschreibt die E-Mail als „Schlag in die Magengrube, gefolgt von einem Kinnhaken“.

Der E-Mail zufolge arbeitet YouTube mit mehr als 200 NGOs und mehr als 70 Behörden zusammen. Auch sie haben die Privilegien von Trusted Flaggern. In Deutschland sind das neben einigen Polizeibehörden beispielsweise die Beratungsstelle für digitale Gewalt, HateAid, und das Portal jugendschutz.net. Das hat YouTube 2019 in einer Stellungnahme gegenüber dem Rechtsausschuss des Bundestages offengelegt (PDF). Von den Trusted Flaggern, die zu keiner NGO gehören, gebe es weltweit höchstens 50, schätzt Phil, genau wisse er es nicht. Eine Rückfrage zu den genauen Zahlen lässt die Pressestelle von Google unbeantwortet.

Auch ein interessanter Artikel:  Filter Bubble Transparency Act: Nutzer:innen in den USA sollen Recht auf chronologische Timeline erhalten

Waren die Trusted Flagger zu fleißig?

Zahlenmäßig spielen die Meldungen von NGOs und Regierungsorganisationen allerdings eine kleine Rolle. Laut Transparenzbericht wurden auf Hinweis von NGOs im Jahr 2019 knapp 27.000 Videos entfernt; auf Hinweis von Behörden nur 74. Kein Vergleich zu den millionenfachen Hinweisen der einzelnen Trusted Flagger.

Ein Balkendiagramm zeigt, wie viele YouTube-Videos 2019 gelöscht wurden, nach einer Meldung durch Algorithmen, Trusted Flagger, Nutzer:innen, NGOs, Behörden.
Das Jahr 2019 zeigt gut, wie viel Trusted Flagger leisten können. Ab 2020 geht die Anzahl ihrer Meldungen stark zurück. Die Werte für NGOs und Behörden sind so gering, dass die entsprechenden Balken hier kaum sichtbar sind. Quelle: YouTube Transparency Report - CC-BY-NC-SA 4.0 netzpolitik.org

Nicht nur deshalb ärgern sich Phil und LightCode über die E-Mail von Slater. Phil vermutet, YouTube wolle in Wahrheit einfach Geld sparen, immerhin müssten all die Hinweise von irgendwem gesichtet werden. Wir wollten von YouTube-Mutter Google wissen, ob das stimmt: Ist es für YouTube schlicht zu teuer, massenhafte Hinweise von Trusted Flaggern zu überprüfen? Der Konzern hat die Frage nicht direkt beantwortet. Über einen Sprecher weist Google zumindest darauf hin, dass sich die automatische Erkennung wesentlich verbessert habe. Das legt nahe, dass der Konzern menschliche Hilfe für weniger notwendig erachtet als früher.

EU feilt an Gesetz für Trusted Flagger

Trusted Flagger spielen auch eine Rolle im geplanten Digitale-Dienste-Gesetz der EU. Artikel 19 würde von Plattformen verlangen, dass Hinweise von Helfer:innen „vorrangig und unverzüglich bearbeitet und entschieden werden“. Bei sehr vielen Meldungen durch Trusted Flagger bedeutet das sehr viel Arbeit. Es wäre Spekulation, ob das geplante Gesetz ein zusätzlicher Anreiz ist, die Anzahl der Meldungen gering zu halten.

LightCode bezweifelt, dass YouTubes Algorithmen die Arbeit von Freiwilligen wie ihm vollständig ersetzen können. Es gebe immer neue „abuse trends“, also Maschen, mit denen Menschen die Algorithmen täuschen und missbräuchliche Videos auf YouTube schleusen. Diese Trends zu entdecken sei Teil seiner freiwilligen Arbeit gewesen.

Ein weiteres Problem bei Löscharbeit durch Algorithmen: Sie machen Fehler. Wenn Plattformen zu viel blockieren, kann das die Meinungsfreiheit gefährden. Um Fälle von Overblocking zu erkennen und zu überprüfen, braucht es letztlich doch wieder Menschen.

LightCode und Phil bedauern, dass ihre Arbeit in der gewohnten Form nicht mehr möglich ist. Und das, obwohl sie für ihren Fleiß kein Geld bekommen haben. Warum sind die beiden so heiß auf unbezahlte Arbeit?

„Ich hatte das Gefühl, etwas Gutes zu tun“, sagt Phil. Er hat eine enge Verbindung zu der Plattform, befasst sich auch beruflich mit YouTube. LightCode schreibt, es habe ihn motiviert, dass Menschen durch seine Arbeit nicht auf schädliche Videos stoßen – etwa Videos mit Links zu Malware und Phishing oder Videos, die Kinder verstören. Beide erzählen, dass sie sich auch auf andere Weise gern bei YouTube nützlich gemacht haben, etwa indem sie Fragen anderer Nutzer:innen im Forum beantwortet haben.

Warum NGOs nur wenige Videos melden

Für manche NGOs macht der Status als Trusted Flagger die Arbeit leichter. „Der Mehrwert ist, dass Meldungen priorisiert behandelt werden“, sagt Josephine Ballon von HateAid im Gespräch mit netzpoltik.org. HateAid berät Betroffene digitaler Gewalt. Die Berater:innen melden auf YouTube zum Beispiel üble Nachrede und Verleumdung. „Manchmal haben Betroffene schon selbst vergeblich versucht, Kommentare und Videos löschen zu lassen.“

Die Anzahl der gemeldeten Inhalte sei unterm Strich aber gering. Und das leuchtet ein, wenn man sich die Aufgaben von HateAid vor Augen führt: Es ist eine Beratungsstelle – und kein Büro für Klickarbeiter:innen, die YouTube durchkämmen.

Die Amadeu-Antonio-Stiftung, die gegen Rechtsextremismus, Rassismus und Antisemitismus mobil macht, empfindet das Trusted-Flagger-Programm als „sehr effektiv“, schreibt eine Sprecherin. Inhalte würden sehr viel schneller gelöscht. Die Stiftung tausche sich mit YouTube darüber aus, wie die Richtlinien verbessert werden könnten.

Eine weitere NGO, die Google dem Bundestag als Trusted Flagger genannt hat, ist Klicksafe, ein von der EU finanziertes Portal für Sicherheit im Netz. Auf Anfrage teilt Klicksafe jedoch mit, nicht mehr als Trusted Flagger aktiv zu sein. Eine Sprecherin verweist auf jugendschutz.net.

Die Jugendschützer:innen möchten auf Anfrage jedoch nichts zum Trusted-Flagger-Programm sagen, was über den Jahresbericht (PDF) hinausgeht. Demnach haben sie im Jahr 2020 mehrere Hundert YouTube-Inhalte gemeldet.

Die Rückmeldungen legen nahe: NGOs können vor allem Lücken in den YouTube-Richtlinien aufzeigen. Die wenigsten haben Zeit, YouTube systematisch nach möglichst vielen Verstößen zu durchforsten. Dafür bräuchte es wohl eher passionierte YouTube-Kenner:innen, die nichts lieber tun als das. Ein paar von ihnen würden dafür nicht mal Geld verlangen.


Hilf mit! Mit Deiner finanziellen Hilfe unterstützt Du unabhängigen Journalismus.

Zur Quelle wechseln
Zur CC-Lizenz für diesen Artikel

Author: Sebastian Meineck

Mastodon