Seit Wochen tobt eine Debatte rund um Pornhub: Nachdem Vorwürfe, die Pornografieplattform tue nicht genug gegen die Verbreitung missbräuchlicher Inhalte, laut wurden, entschieden sich die Zahlungsdienstleister Visa und Mastercard dazu, ihre Kooperation mit dem Unternehmen zu beenden. Pornhub reagierte daraufhin prompt und löschte sämtliche Videos, die nicht verifiziert waren – damit war ein Großteil der Inhalte auf der Plattform, insgesamt zehn Millionen Videos, auf einen Schlag entfernt. Künftig soll nur mehr verifizierter Content zugelassen werden.

Anstoß dafür war eine Kolumne der "New York Times", die das Schicksal mehrerer Betroffener schilderte, deren Missbrauch auf der Plattform zu sehen war. Noch Jahre später sei es für sie schwierig, die Inhalte aus der Welt zu schaffen, da diese heruntergeladen und weiterverbreitet wurden.

Gratwanderung

Die Zeitung kritisierte, dass es einerseits viel zu leicht sei, anhand des Suchfelds bei Pornhub Inhalte zu finden, die Kindesmissbrauch oder Vergewaltigungen zeigen. Weiters sei es für Moderatoren häufig gar nicht möglich, bewerten zu können, ob die dargestellten Personen etwa 16 Jahre alt, 17 oder bereits volljährig sind.

Bei Vergewaltigungsvideos ist es zudem oft eine Gratwanderung, einzuschätzen, ob es sich um ein gestelltes Video oder echten Missbrauch handelt. Auch Rachepornografie oder heimliche Aufnahmen blieben viel zu lange stehen – bis sie entfernt werden, sind sie häufig schon hunderte oder tausende Male geklickt worden, wodurch ein Download und eine Weiterverbreitung auf anderen Seiten möglich wurde.

Problematik bei allen Pornoseiten

Doch Pornhub ist mit dieser Problematik längst nicht allein. Wie soziale Medien erlaubte die Seite bisher beliebigen Nutzern, Inhalte hochzuladen, ohne zuvor einen Verifikationsprozess durchzuführen. Das ist bei den meisten anderen großen Pornografieplattformen nicht anders – auch sie erlauben sämtliche Uploads. Pornhub gehört zum Milliardenkonzern Mindgeek, zu dem mit Youporn, Xtube und Redtube zahlreiche der populärsten Pornografieplattformen gehören, die ident betrieben werden wie Pornhub – und somit mit den gleichen Problemen zu kämpfen haben.

Auch XHamster, ebenso ein Platzhirsch in der Branche, geriet in der Vergangenheit immer wieder in die Kritik: Beispielsweise waren Ende 2019 Frauen heimlich in einer Sauna gefilmt worden, ihre Aufnahmen landeten auf der Pornoplattform. Teilweise blieben sie trotz Meldung zwei Wochen lang online, XHamster verwies zunächst auf die eigenen Nutzungsbedingungen. In den Monaten darauf tauchten heimliche Aufnahmen von unwissenden Frauen auf Dixi-Toiletten bei Festivals, darunter das Fusion-Festival, auf.

USA reagiert mit Registrierungspflicht

Im US-Senat reagierte man auf die Pornhub-Vorwürfe mit dem Plan, eine Ausweispflicht für Uploader einzuführen. Außerdem sollen dem von zwei US-Senatoren eingereichten Vorhaben zufolge unterschriebene Einverständniserklärungen aller Darsteller, aus denen auch vollständige Namen auslesbar sind, eingeholt und bei der jeweiligen Plattform hinterlassen werden. Bisher wurde dies nur von Pornografieproduzenten vorausgesetzt, nicht aber von der jeweiligen Hosting-Plattform, auf der Inhalte hochgeladen werden.

Ein derartiges Vorgehen bräuchte eine Folgenabschätzung für die Allgemeinheit, warnt der Grundrechtsaktivist Thomas Lohninger von der NGO Epicenter Works. "Die Rechtfertigungslast liegt beim Gesetzgeber", sagt er zum STANDARD – der müsste begründen, warum eine derartige Einschränkung für die Allgemeinheit tragbar ist. Dazu kommt, dass pornografische Inhalte nicht immer nur aus finanziellen Interessen verbreitet würden, sondern dass manche Nutzer auf diese Weise hobbymäßig ihre sexuellen Vorlieben ausleben. Diese würden unbegründet exponiert werden.

Maximilian Schubert, Generalsekretär des Providerverbands ISPA, der wiederum die Meldestelle gegen Kindesmissbrauch, Wiederbetätigung und Extremismus Stopline.at betreibt, gibt zudem zu bedenken, dass ein sehr hohes Maß an Datensicherheit gewährleistet sein müsste, da gerade Darsteller in der Pornografiebranche häufig beispielsweise Stalkern ausgesetzt seien.

Gerade die Frage der Datensicherheit könnte tragend werden, denn schon jetzt ist der Umgang von Pornografieplattformen mit Nutzerdaten fraglich – so kommt das Institut für Digitalisierung und Innovation im Recht der Universität Wien in seinem Podcast Ars Aequi zu dem Schluss, dass Pornhub grundlegende DSGVO-Regeln in seinen Nutzungsbestimmungen missachtet. Pornhub hat eigentlich seinen Sitz in Zypern und müsste sich demnach an die Datenschutzgrundverordnung (DSGVO) halten und ein ähnliches Schutzniveau sicherstellen wie beispielsweise Facebook. Doch während soziale Medien dafür immer wieder in die Kritik geraten und zur Verantwortung gezogen werden, ist dies bei Pornografieseiten nicht der Fall. In den Datenschutzbestimmungen werden etwa gesammelte Daten nicht als persönliche Informationen gewertet – was schlicht nicht stimmt.

Intransparente Moderation

Im Grunde handelt sich bei dem Umstand, dass derartige Inhalte stehenbleiben, wohl um eine Problematik in der Inhaltsmoderation: Pornoplattformen waren in Bezug auf ihre Praktiken bisher sehr intransparent – erst kürzlich geriet XHamster in die Kritik, weil die Kontrolle von Nutzerinhalten teilweise auf Freiwillige ausgelagert wird. Pornhub hat als Reaktion auf die Kritik der letzten Wochen angekündigt, die Moderation zu stärken und das auch anhand von regelmäßigen Transparenzberichten offenzulegen – für die Prüfung des Umgangs mit rechtswidrigen Inhalten werde künftig eine unabhängige Anwaltskanzlei angeheuert.

Grundsätzlich setzen Plattformen üblicherweise zur Kontrolle von nutzergenerierten Inhalten auf zwei Komponenten: einerseits auf menschliche Moderatoren, andererseits auf automatisierte Systeme. Konkret speichern sie digitale Fingerabdrücke von bereits gelöschten Inhalten in einer Datenbank, die darin befindlichen Inhalte werden dann mit Uploads abgeglichen. Bei einem Treffer wird der Inhalt unterbunden.

Kooperationen mit Behörden

Solche Systeme kommen im Regelfall vorrangig bei der Verfolgung von Kindesmissbrauchsdarstellungen zum Einsatz. Vor allem große soziale Medien kooperieren freiwillig mit Behörden wie Interpol, die derartige Hash-Datenbanken führen, in denen bereits identifizierte Inhalte zum Abgleich zur Verfügung gestellt werden. Bei den meisten großen Pornografieplattformen dürfte es nicht anders sein – schließlich haben sie ein eigenes finanzielles Interesse daran, derartiges Material zu entfernen. Pornhub bestätigt dies auf STANDARD-Anfrage, das Unternehmen verweist außerdem auf Partnerschaften mit dutzenden Non-Profit-Organisationen.

Wie es aus der Pressestelle des Bundeskriminalamts heißt, komme es zwar mit Pornografieplattformen vereinzelt zu Kontakten, jedoch gebe es keine speziellen Kooperationen. Im Vergleich dazu haben die Behörden eine bessere Zusammenarbeit mit den großen sozialen Medien aus den USA (mehr dazu hier).

Kein spezielles Regelwerk

Doch während vor allem Kindesmissbrauch – auch aufgrund des rigorosen Drucks durch Behörden – streng verfolgt wird, bleibt die Regulierung sonstigen sexuellen Missbrauchs wie beispielsweise Vergewaltigung oder Menschenhandel offen. Konkrete Regeln für die Moderation gibt es nicht.

In Österreich gilt seit dem 1. Jänner die Umsetzung der EU-Richtlinie für audiovisuelle Mediendienste – diese schreibt für Video-Sharing-Plattformen auch eine Löschpflicht für bestimmte illegale Inhalte vor, darunter pornografische Darstellungen Minderjähriger, wie die Juristin Gabriela Staber der Kanzlei CMS erklärt. Diese müssen unverzüglich nach einer Meldung entfernt werden. Diese Regeln gelten bereits dann, wenn ein Unternehmen der Unternehmensgruppe in einem EU Mitgliedstaat niedergelassen ist. So soll verhindert werden, dass sich große Plattformen durch eine vielschichtige Gruppenstruktur vom Anwendungsbereich der Richtlinie ausnehmen. Allerdings verlegen große Firmen ihren Sitz in der Regel in jene Mitgliedsstaaten, die Regulierungen besonders lax umsetzen.

Das seit Jahresanfang geltende, von Türkis-Grün umgesetzte Gesetzespaket gegen Hass im Netz greift nicht – einerseits, weil es keine Videos betrifft, andererseits, weil die Rechtswirksamkeit des Kommunikationsplattformengesetzes allgemein aufgrund von möglichen Verstößen gegen die E-Commerce-Richtlinie fraglich ist.

Digital Services Act steht an

Ein potentielles Regelwerk könnte allerdings der geplante Digital Services Act (DSA) der Europäischen Union liefern: Das umfassende Vorhaben sieht auch Vorgaben für den Umgang mit Nutzerinhalten vor. Diese gelten vor allem für besonders große Plattformen, nämlich jene, die mehr als 45 Millionen User in der EU haben. Pornhub dürfte von den Regeln betroffen sein – die Plattform zählt schließlich monatlich rund 3,5 Milliarden Visits – und damit mehr als beispielsweise Amazon oder Netflix; der Mutterkonzern Mindgeek aufgrund seiner zahlreichen zugriffsstarken Tochterunternehmen sowieso.

Geplant ist ein verpflichtendes Meldesystem, mit dem User unkompliziert rechtswidrige Inhalte mitteilen können. Um Overblocking, also die Entfernung erlaubter Inhalte, zu vermeiden, sollen die Ersteller gelöschter Beiträge sich wehren können, falls sie der Löschung nicht zustimmen. Außerdem sollen sogenannte "Trusted Flaggers" nominiert werden – das können Behörden oder Organisationen sein –, deren Meldungen priorisiert behandelt werden. Weiters müssen Zustellbevollmächtigte in den jeweiligen Ländern platziert werden.

Transparenzpflicht

Außerdem sieht der DSA spezielle Regeln für Plattformen vor, die besonders groß sind, beispielsweise müssen sie eigenen Aufsichtsbehörden halbjährlich Informationen vorlegen. Auch soll ihr Vorgehen und die Einhaltung der EU-Vorgaben anhand von unabhängigen Audits geprüft werden. Kontrolleure sollen dabei Zugriff auf "alle relevanten Daten" erhalten und ihre Erkenntnisse direkt an die Kommission weitergeben, die ebenfalls Einsicht erhalten soll. Bis die Regeln tatsächlich in Kraft treten, dürfte es allerdings noch dauern – denn zuerst müssen Kommission, Rat und EU-Parlament sich einigen, auch ist umfassendes Lobbying zu erwarten.

Regierung will bisher nur allgemeine Einschränkungen

Anders als bei sozialen Medien wie Facebook oder Youtube wurde die Debatte über die Regulierung problematischer Inhalte bei Pornografieplattformen vor allem von politischer Seite in den vergangenen Jahren in Österreich kaum geführt. Bisherige Bestreben, häufig von religiösen Anliegen motiviert, befassten sich mit der allgemeinen Beschränkung des Zugriffs auf pornografische Inhalte, nicht aber mit Moderationsvorgaben.

So gilt die Menschenrechtssprecherin und ÖVP-Abgeordnete Gudrun Kugler als eine der größten Verfechterinnen eines Pornografiefilters, der den Besuch derartiger Webseiten standardmäßig blockieren soll. In der türkis-blauen Vorgängerregierung waren derartige Systeme geplant, das türkis-grüne Regierungsprogramm sieht hingegen freiwillige Schutzfilter für Eltern vor. (Muzayen Al-Youssef, 3.1.2021)