Browserspiel „Trust & Safety Tycoon“: Wie es sich anfühlt, Boss der Content Moderation zu sein

Wie funktioniert eigentlich Inhaltsmoderation auf einer großen Social-Media-Plattform und warum entstehen dabei immer wieder Skandale? Ein kurzweiliges Spiel gibt einen Einblick in die harten Entscheidungen hinter den Kulissen – und macht dabei auch noch Spaß.

In Tycoon-Spielen managen Spieler:innen Unternehmen, Jahrmärkte, Sportvereine oder Zoos; müssen mit knappen Ressourcen hantieren und schwere Entscheidungen treffen. Der neuste Beitrag zu dem Genre ist ein browserbasiertes Tycoon-Spiel, in dem man sich in die Untiefen kommerzieller Content Moderation begibt, also die Moderation von Inhalten auf einer profitorientierten Plattform.

Bei Trust & Safety Tycoon übernehmen Spieler:innen die Leitung des „Trust & Safety“-Teams beim fiktiven Start-up „Yapper“. Sie sind verantwortlich dafür, dass die Nutzer:innen zufrieden sind, dass der Hass nicht überquillt und das Start-up genug Geld in der nächsten Finanzierungsrunde bekommt. Gleichzeitig müssen die Mitarbeiter:innen in der Moderationsabteilung bei Laune gehalten und der CEO der Plattform zufrieden sein. Weiter ins nächste Level geht es nur, wenn die Nutzer:innen nicht verprellt werden und die Geschwindigkeit der Moderation nicht zu stark sinkt.

Das ist umso spannender vor dem Hintergrund realer Skandale rund um Content Moderation, sei es bei Facebook, TikTok oder YouTube. Lehrreich, real und kreativ sind die Fragestellungen, mit denen sich Spieler:innen beim Trust & Safety Tycoon auseinandersetzen müssen: Von überdreht hetzenden Promis mit großer Followerschaft über Crypto-Currency-Spambots, bis hin zu Desinformation oder algorithmischer Sortierung, die auf einem anderen Teil der Welt zu realer Gewalt führt.

Mit einem Augenzwinkern

Im Spiel muss man sich entscheiden, welchen Problemen man mehr Aufmerksamkeit widmet, ob man mit den legitimen und illegitimen Anfragen von Strafverfolgungsbehörden kooperiert oder ob man bei der nächsten Finanzierungsrunde in sogenannte Künstliche Intelligenz investiert – und die Maschine moderieren lässt. Setzt man einen Zustellungsbevollmächtigten in einem Land ein oder ignoriert man die Anfrage einfach? Mit diesen Themen gibt das Spiel einen sehr treffenden Überblick über die Probleme, die sich bei Plattformen in den letzten Jahren gestellt haben. Und das durchaus mit einem Augenzwinkern.

Beteiligt bei der Erstellung war auch der Blogger Mike Masnick des US-Blogs Techdirt. In einem Artikel zum Spiel schreibt er:

Es gibt keine „richtige“ Antwort auf all diese Fragen, aber nicht alle Entscheidungen führen zu positiven Ergebnissen für Dich oder das Unternehmen, für das Du arbeitest. Wie gehst Du mit Bedenken Deines Teams, des CEO oder der Medien um? Wie wirst Du mit einer Krise umgehen, wenn Dein Team bereits überlastet ist? Wirst Du einen internationalen Zwischenfall verursachen, der dazu führt, dass Du vor dem US-Kongress Rede und Antwort stehen müssen?

Das Spiel gibt auf spannende Weise die Komplexität von Moderation und Informationskontrolle bei Plattformen wider und vermittelt ein Gefühl dafür, in welchen schlechten Zwickmühlen sich Unternehmen teilweise wiederfinden und welche Optionen sie eigentlich haben.

Entwickelt wurde das Spiel von Techdirt und einer Abteilung der US-amerikanischen Denkfabrik Atlantic Council, der „Task Force for a Trustworthy Future Web“ (auf Deutsch: Arbeitsgruppe für ein vertrauenswürdiges Netz in der Zukunft). Zum Spielen ist kein Account notwendig.

Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen.
Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus jetzt mit einer Spende.