Drücken Sie „Enter“, um den Inhalte zu überspringen

Digitale-Dienste-Gesetz: Was die neuen EU-Regeln für Pornoplattformen bedeuten

Dieser Artikel stammt von Netzpolitik.org.

Als die EU-Kommission vor fast vier Jahren den Entwurf eines Gesetzes für ein „besseres Internet“ vorstellte, dachte wohl niemand zuerst an Pornoplattformen. Das Gesetz sollte die Grundrechte derjenigen besser schützen, die auf großen Plattformen und Online-Shops unterwegs sind, sollte strafbarer Hetze und politischer Radikalisierung einen Riegel vorschieben. Gemeint waren: TikTok, Instagram, Amazon, Google.

Dann aber trat das Digitale-Dienste-Gesetz (DSA) vergangenes Jahr in Kraft und kurz darauf ernannte die Kommission auch drei Pornoseiten zu „sehr großen Online-Plattformen“ („VLOPs“) – Seiten also, die viele nicht als Tech-Riesen auf dem Schirm hatten.

Pornhub, XVideos und die Seiten rund um xHamster sind zweifellos Giganten im Netz. Gemessen an der Zahl der Aufrufe liegen die meistbesuchten Pornoseiten weit vor Netflix. Weil sie aber Pornografie zeigen, gehören sie in der öffentlichen Wahrnehmung zu den Außenseitern. Es sind Websites, die viele wohl schnell zumachen, wenn jemand anderes am Bildschirm vorbeigeht, und um die auch viele Nachrichtenmedien einen Bogen machen.

Die Branche gilt als schwer zu regulieren. Zahlungsdienstleister wie Visa und Mastercard waren in der Vergangenheit weitaus effektiver als Regierungen, wenn es darum geht, Pornhub zu strikterer Moderation von Inhalten und der Prüfung von Einvernehmlichkeit zu bewegen.

Das könnte sich nun ändern, denn aus Sicht der EU ist es egal, ob eine Plattform Einrichtungstipps, politische Meinungen oder Pornografie zeigt: Wenn sie in der EU aktiv ist, gilt für sie seit Kurzem das Digitale-Dienste-Gesetz. Und wenn sie mehr als 45 Millionen monatliche Nutzer:innen in der EU hat, gilt sie zusätzlich als „sehr große Online-Plattform“ und muss noch striktere Auflagen erfüllen.

Hier kommt der Überblick, welche Auflagen nun für Pornoseiten gelten, und wie sie sich auswirken; einerseits für die Menschen, die sich auf diesen Seiten beim Sex zeigen; andererseits für die Menschen, die ihnen dabei zusehen.

1. Transparenz schaffen – etwa über Moderations-Teams

Pornoplattformen gewähren ungern Einblicke: In ihre Moderationspraktiken, die Zahl der Mitarbeiter:innen oder ihre Einnahmen. Im Fall von XVideos oder dem Konkurrenten xHamster war lange nicht mal klar, wer hinter den verschlungenen Firmenkonstrukten steht.

Schon gar nicht geben Plattformen gerne Auskunft dazu, wie häufig bestimmte Straftaten auf ihrer Seite entdeckt werden, etwa wenn jemand Aufnahmen ohne das Einverständnis der Gezeigten hochgeladen hat oder Minderjährige in Videos zu sehen sind. In der Vergangenheit landete solches strafbare Material wiederholt über die großen Pornoseiten öffentlich im Netz.

Diese Geheimnistuerei soll sich mit dem neuen Gesetz ändern. Demnach müssen Anbieter in Zukunft einen jährlichen Bericht erstellen (Artikel 15). Darin werden sie eine Fülle von Details auflisten müssen, etwa wie viele Löschanordnungen sie für welche Art von illegalen Inhalten bekommen haben und aus aus welchem Land diese kamen. Außerdem müssen sie Auskunft darüber geben, wie sie selbst diese Inhalte moderieren, wie sie Mitarbeitende dafür schulen und welche automatisierten Verfahren – Stichwort „Künstliche Intelligenz“ – sie dabei verwenden, inklusive deren Fehlerquoten bei der Erkennung. Diese Regeln gelten für alle Plattformen, die in der EU aktiv sind. Ausnahmen gibt es nur für „Kleinunternehmen“ mit wenigen Mitarbeitenden.

2. Noch mehr Transparenz schaffen – wenn man „sehr groß“ ist

Für die „sehr großen“ Plattformen gelten noch viel weiter reichende Transparenzauflagen (Artikel 42). Sie müssen darüber hinaus etwa auch bekannt geben, wie viel Personal sie in der Moderation beschäftigen und welche Sprachen die Angestellten sprechen. Sie müssen regelmäßig zur Zahl ihrer monatlichen Nutzer:innen in der EU informieren. Ihre Berichte müssen sie außerdem im schnelleren Takt veröffentlichen: alle sechs Monate statt jährlich.

Ende vergangenen Jahres hat die EU-Kommission Pornhub und XVideos und Stripchat – eine Seite aus der xHamster-Familie – zu solche Riesen erklärt. Stripchat und Pornhub kämpfen derzeit vor Gericht gegen diese Einschätzung. Beide behaupten, weniger als 45 Millionen Nutzer:innen in der EU zu haben und haben das zuständige Gericht gebeten, die Auflagen auszusetzen. Die Kommission nimmt ihnen das nicht ab und hatte auf Grundlage eigener Nachforschungen entschieden, die Plattformen gehörten dennoch in den Club der Riesen.

Auch XVideos, das 160 Millionen monatliche EU-Nutzer:innen angibt, hat Berichten zufolge Klage eingereicht. Anlass ist etwa die Verpflichtung, Werbe-Anzeigen offenzulegen, wie Politico berichtete. Auf Anfrage hat XVideos sich bislang nicht dazu geäußert.

3. Risiken einschätzen – etwa für bildbasierte Gewalt

Die Berichte der VLOPs müssen auch deswegen wesentlich umfangreicher ausfallen, weil sie darin zwei weitere Auflagen bedienen müssen. Sie müssen systemische Risiken auf ihren Seiten selbst einschätzen (Artikel 34). Und sie müssen gleichzeitig eigene Lösungswege dafür vorstellen, wie sie diesen Risiken begegnen (Artikel 35) – etwa durch schnellere Moderation oder Änderungen ihrer Geschäftsbedingungen.

Als Beispiele für Risiken, die hier auftreten könnten, nennt das Gesetz etwa: die „Verbreitung rechtswidriger Inhalte“, aber auch das Grundrecht der Achtung des Privatlebens, der Schutz von persönlichen Daten oder die nachteilige Auswirkung auf Wahlen.

Wahlmanipulation dürfte für Pornoplattformen wohl eher eine untergeordnete Rolle spielen, politische Werbung ist auf Pornhub nach eigenen Angaben ohnehin verboten. Umso bedeutsamer könnte dafür dieses Risiko werden, für das betroffene Plattformen Lösungswege vorstellen müssen: „alle tatsächlichen oder absehbaren nachteiligen Auswirkungen in Bezug auf geschlechtsspezifische Gewalt“.

Dies wird vor allem auf sogenannten Tube-Seiten wie XVideos und Pornhub eine Rolle spielen, wo praktisch alle Nutzer:innen einen Account anlegen und nach Belieben Inhalte hochladen können, ähnlich wie bei YouTube. Regelmäßig landeten dadurch nicht-einvernehmliche Deepfakes oder anderes Material gegen den Willen der Gezeigten im Netz. Fachleute bezeichnen diese Phänomene als bildbasierte Gewalt.

Mehr Einblick in diesen undurchsichtigen Bereich ist wohl einer der größten Vorteile, den das neue Gesetz in Bezug auf die Pornoplattformen bietet. Durch die Berichte hätte man erstmals statistische Daten über das Ausmaß geschlechtsspezifischer Gewalt auf solchen Plattformen, sagt etwa Elizabeth Ávila González vom Bundesverband der Frauenberatungsstellen und -notrufe (bff).

Porno-Riesen schränken Suchfunktion ein – teilweise

Wir hatten für eine frühere Recherche auf XVideos stichprobenartig mutmaßlich illegale Videos gemeldet; es ging um Material, das offenbar sexualisierte Gewalt zeigt. Die Plattform hatte die gemeldeten Videos nach der Recherche entfernt. Doch ob verdächtige Aufnahmen möglicherweise einvernehmlich sind, lässt sich von Außen nicht eindeutig erkennen.

Auch Pornhub hat eine lange Geschichte mit sexualisierter Gewalt. Betroffene von nicht-einvernehmlichen Uploads berichten, dass sie noch vor wenigen Jahren bei der Plattform darum betteln mussten, dass Videos von ihnen entfernt werden. Pornhub hatte außerdem eine öffentlich beworbene Zusammenarbeit mit der Produktionsfirma Girls Do Porn, gegen die zu diesem Zeitpunkt schon mehrere Frauen geklagt hatten, weil sie für Filmaufnahmen zum Sex gezwungen wurden.

Nachdem Medien über diese Missstände berichtet hatten und die Kreditkartenunternehmen den Druck erhöhten, hat Pornhub in einer Hauruck-Aktion mehrere Millionen Videos von nicht verifizierten Nutzer:innen gelöscht. Heute gehören Pornhubs Verfahren zur Prüfung von Einvernehmlichkeit zu den strengsten in der Branche. Seit Anfang des Jahres müssen Darsteller:innen nicht nur für sich und alle Co-Darsteller:innen Identitätsnachweise liefern, bevor sie Videos hochladen dürfen, sondern auch deren schriftliche Zustimmung nachweisen.

Auch Stripchat hält die EU für eine VLOP. Das ist ist eine Cam-Seite, das heißt Darsteller:innen performen dort live vor der Kamera. Das Zuschauen ist zunächst kostenlos, Nutzer:innen können aber Trinkgeld geben oder für private Vorführungen bezahlen. Die Gefahr bei diesem Geschäft besteht vor allem darin, dass Menschen gegen ihren Willen zur Arbeit auf der Plattform gedrängt werden. Auch Lösungen für solche Risiken müsste Stripchat laut Digitale-Dienste-Gesetz wohl entwerfen.

4. Risiken mindern – womöglich mit Alterskontrollen

Die Vorschriften zur Risikominimierung bergen zugleich die größte Gefahr, die das Digitale-Dienste-Gesetz für Grundrechte birgt – in einem unscheinbaren Halbsatz. Denn um Kinder und Jugendliche von Pornos fernzuhalten, könnte das Gesetz Pornoplattformen dazu bringen, Alterskontrollen einzuführen. Das würde dann nicht nur Minderjährige treffen, sondern alle Nutzer:innen, und damit viele Millionen Menschen, die täglich diese Seiten aufrufen.

Das Digitale-Dienste-Gesetz schreibt Plattformen nicht vor, dass sie Alterskontrollen einführen müssen, es ist nur eine ausdrücklich genannte Option, um systemische Risiken zu mindern. Wörtlich ist im Gesetz die Rede von „gezielten Maßnahmen zum Schutz der Rechte des Kindes, darunter auch Werkzeuge zur Altersüberprüfung und zur elterlichen Kontrolle“. Wenn VLOPs hierzu gar nichts unternehmen, riskieren sie Strafen von bis zu sechs Prozent ihres globalen Umsatzes.

Pornos gelten in der EU als schädliche Inhalte für Minderjährige, so steht es in der Richtlinie über audiovisuelle Mediendienste (AVMD-RL). Die Plattformen müssten eigentlich heute schon dafür sorgen, dass Kinder und Jugendliche diese Inhalte nicht einfach aufrufen können.

Wie genau Plattformen in der EU das Alter überprüfen, ist zunächst nicht einheitlich festgelegt. In Deutschland gibt die zuständige Kommission für Jugendmedienschutz klare Linien vor: Die Plattformen könnten etwa von allen Nutzer:innen Ausweisdokumente verlangen oder ihr Alter mit biometrischen Verfahren einschätzen.

Das Problem: Jede Maßnahme, die über die bloße Frage „Bist du mindestens 18 Jahre alt“ hinausgeht, greift tief in Grundrechte ein; zum Beispiel das Grundrecht, sich anonym und damit möglichst frei im Netz bewegen zu können. Nicht nur Ausweiskontrollen sind bedenklich. Ähnlich invasiv ist es, wenn Kinder wie Erwachsene künftig ihre Gesichter scannen lassen sollen, um im Netz ihr Alter nachzuweisen. Gerade biometrische Daten gelten als besonders schützenswert, weil sie einen Menschen ein Leben lang identifizieren können.

Wie Alterskontrollen das Internet umkrempeln sollen

Noch dazu können all diese Maßnahmen oft kinderleicht umgangen werden. In Australien hat sich die Regierung aus diesem Grund vorläufig gegen die Einführung von Alterskontrollen entscheiden. Keine der bisher existierenden Technologien zu Alterskontrolle sei ausgereift genug, um Minderjährige mit Sicherheit von Seiten fernzuhalten, erklärte das zuständige Ministerium. Alterskontrollen müssten außerdem „ein Gleichgewicht zwischen Privatsphäre und Sicherheit herstellen, ohne die persönlichen Daten von Erwachsenen zu gefährden, die sich für den Zugang zu legaler Pornografie entscheiden“.

Zusätzlich zur bereits länger geltenden AVMD-Richtlinie wird nun auch das Digitale-Dienste-Gesetz Druck auf Pornoseiten ausüben. Die Kommission hat das Thema offenbar zur Chefsache erklärt und pocht auf strenge Alterskontrollen. „Pornhub, Stripchat und XVideos haben eine große Verantwortung“, schrieb etwa die zuständige Kommissarin Margrethe Vestager in einem Post auf X (vorher Twitter). „Als VLOPs im Rahmen der DSA müssen sie illegale Inhalte wie z. B. sexuellen Kindesmissbrauch oder Deepfake-Pornos bekämpfen und Kinder z. B. mit einer Altersverifizierung schützen.“

Das heißt aber nicht, dass die Ausweiskontrolle für beispielsweise Pornhub unweigerlich kommt: In den USA hat sich Pornhub gerade aus mehreren US-Bundesstaaten zurückgezogen, nachdem dort Gesetze zur Alterskontrolle eingeführt wurden. In Texas oder Utah ist die Seite seitdem nicht mehr ohne Weiteres zu erreichen. Auch in der EU könnten Pornoplattformen diesen Schritt gehen. Dann würden sie allerdings einen großen Teil ihres Publikums einbüßen.

5. Straftaten an Behörden melden

Neu ist auch die Meldepflicht, die mit dem DSA für sehr große Online-Plattformen – und damit die drei großen Pornoseiten – gelten würde. Sollten Plattformen den Verdacht hegen, dass es sich bei einem Video um eine Straftat handeln könnte, müssten sie das in Zukunft direkt an eine Strafverfolgungsbehörde melden. Das gilt laut dem Gesetz für alle Straftaten, „die eine Gefahr für das Leben oder die Sicherheit einer Person“ darstellen (Artikel 18).

Indirekt besteht so ein Kanal zumindest für einige der Pornoplattformen heute schon. Pornhub etwa meldet bereits seit einigen Jahren Material, das mutmaßlich Minderjährige zeigt, an eine US-amerikanische NGO namens National Center for Missing and Exploited Children (NCMEC). Das Zentrum meldet Fälle außerhalb der USA weiter an die nationalen Behörden, etwa das BKA.

Nach den neuen Regeln müsste Pornhub jetzt selbst die Daten an das BKA melden, wenn es vermutet, dass der strafbare Inhalt etwas mit Deutschland zu tun hat. Ist unklar, von wo aus ein Inhalt hochgeladen wurde, geht die Meldung an Europol oder an die Behörden der Landes, in dem das Unternehmen registriert ist. Im Fall von Pornhub und Stripchat wäre das Zypern, im Fall von XVideos Tschechien.

Neben mutmaßlichen Darstellungen von Gewalt an Kindern werden im Fall der Pornoplattformen auch mögliche Straftaten relevant sein, die sich gegen Erwachsene richten. Aufnahmen etwa, die ohne das Einverständnis auf die Plattform hochgeladen wurden. Sexualisierte Deepfakes. Aufnahmen ohne Einverständnis. Über all das hatten Betroffene in den vergangenen Jahren berichtet.

Die Deepfake-Flut

Ob die Plattformen diese Inhalte bei Verdacht nun melden werden? Hier wird es große Unterschiede bei der Auslegung geben, vermutet Svea Windwehr, die bei der Gesellschaft für Freiheitsrechte (GFF) zum Digitale-Dienste-Gesetz arbeitet, je nachdem, welchen Stellenwert der Schutz von Nutzer:innendaten hat. Aktuell sei nicht klar, was die Erwartungen an Plattformen sind. Was und wie viel letztlich an Strafverfolgungsbehörden gemeldet wird, werde man erst sehen, wenn das Bundeskriminalamt seinen ersten Bericht zum Thema veröffentlicht. Dazu ist die Behörde in Deutschland verpflichtet.

Die sehr breite Definition dessen, was schon bei Verdacht gemeldet werden muss, sieht die Bürgerrechtsorganisation als Gefahr für Grundrechte. Der Katalog der bei Verdacht meldungspflichtigen Straftaten müsse eingeschränkt werden, sagt Svea Windwehr, sonst drohe die massenhafte Meldung an Behörden, die auch viele unbescholtene Nutzer:innen treffen würde. Zumindest das BKA scheint sich auf eine Flut von Meldungen vorzubereiten.

Theoretisch könnte das auch für Uploads auf Pornoplattformen die Gefahr bergen, dass Nutzer:innen übermäßig ins Visier der Behörden geraten – auch dann wenn sie einvernehmliche Amateur-Aufnahmen ins Netz stellen. Windwehr sieht hier aber weniger eine Gefahr von übermäßigen Meldungen.

Aus Windwehrs Sicht ist der Artikel ein gutes Beispiel dafür, dass Pornoplattformen ursprünglich im Gesetz nicht mitgedacht wurden. „Die Historie des Gesetzes war eine andere“, sagt sie. Nach den Anschlägen von Christchurch und Paris sei es eher um Radikalisierung und Terrorpropaganda gegangen.

6. Nutzer:innen könnten abwandern

Auch in den USA sind Pornoseite im Visier von Regulierungsbehörden; strenge Ausweiskontrollen sind in mehreren Bundesstaaten Pflicht. Mike Stabile, Sprecher der US-amerikanischen Branchenorganisation Free Speech Coalition hat darüber mit dem US-Medium 404 Media gesprochen. Die Gesetze sind andere, doch ein Vergleich mit der EU lässt sich ziehen.

Stabile warnt: „Perverserweise treiben diese neuen Gesetze zur Altersüberprüfung das Wachstum illegaler Seiten in die Höhe“. Im Blick hat er kleinere Pornoseiten, die ihren Sitz in Ländern haben, auf die Behörden kaum Zugriff haben. „Plötzlich wenden sich 90 Prozent der Nutzer von legalen, gesetzeskonformen Websites ab, weil sie Angst haben, einen Ausweis hochzuladen oder biometrische Daten zu übermitteln“, sagt Stabile. „Und wohin sollen sie dann gehen?“

Wenn Nutzer:innen zum Schutz ihrer Privatsphäre invasive Alterskontrollen meiden, könnte das Gesetz sein Ziel verfehlen. Betroffene bildbasierter Gewalt müssten damit rechnen, dass Plattformen mit deutlich weniger gründlicher Inhaltsmoderation mehr Zulauf bekommen. Plattformen also, die Aufnahmen auf Anfrage möglicherweise nicht löschen.

Die „sehr großen“ Porno-Plattformen könnten deutlich an Zulauf verlieren, wodurch sie unter die Marke von 45 Millionen monatlichen EU-Nutzer:innen rutschen. Damit würden viele Transparenz-Pflichten wieder verlöschen. Und nicht zuletzt würden auch Porno-Darsteller:innen Nachteile haben, weil sie versuchen müssten, ihr Einkommen auf weniger verlässlichen Websites zu bestreiten.

Zur Quelle wechseln
Zur CC-Lizenz für diesen Artikel

Author: Chris Köver

Sebastianus & afra köln 2012 e.