Geschlechtliche Identität und Nacktdarstellung

Zusammenfassung des Falls

Das Oversight Board hat die ursprünglichen Entscheidungen von Meta aufgehoben, zwei Instagram-Posts zu entfernen, die eine Transgender- und eine nichtbinäre Person oberkörperfrei zeigen. Es empfiehlt Meta außerdem, den Gemeinschaftsstandard für Nacktheit und sexuelle Handlungen von Erwachsenen so zu ändern, dass er klaren Kriterien unterliegt, die internationale Menschenrechtsstandards respektieren.

Über den Fall

In dieser Entscheidung betrachtet das Oversight Board zum ersten Mal zwei Fälle gemeinsam. Zwei separate Inhalte wurden von demselben Instagram-Konto gepostet, einer im Jahr 2021, der andere im Jahr 2022. Das Konto wird von einem in den USA ansässigen Paar geführt, das sich als transgender und nichtbinär identifiziert.

Beide Beiträge zeigen Bilder des Paares, auf denen sie oberkörperfrei zu sehen sind, wobei die Brustwarzen bedeckt sind. In den Bildunterschriften geht es um die Gesundheitsfürsorge für Transgender-Personen allgemein und darum, dass eine der beiden Personen bald eine Mastektomie durchführen lassen wird (geschlechtsangleichende Operation für eine flachere Brust), für die das Paar Spenden sammelt.

Nach einer Reihe von Warnungen durch die automatisierten Systeme von Meta und Berichten von Nutzern wurden die Beiträge mehrfach auf mögliche Verstöße gegen verschiedene Gemeinschaftsstandards überprüft. Meta entfernte schließlich beide Beiträge wegen Verstoßes gegen den Gemeinschaftsstandard für sexuell motivierte Kontaktaufnahme, weil sie dem ersten Anschein nach eine Darstellung von Brüsten und einen Link zu einer Spendensammelseite enthalten.

Die Nutzer legten bei Meta und dann beim Oversight Board Einspruch ein. Nachdem das Gremium die Fälle akzeptiert hatte, stellte Meta fest, dass es die Beiträge irrtümlich entfernt hatte, und stellte sie wieder her.

Wichtige Erkenntnisse

Das Board stellt fest, dass die Entfernung dieser Beiträge nicht im Einklang steht mit den Gemeinschaftsstandards von Meta, seinen Werten und seiner menschenrechtlichen Verantwortung. Diese Fälle zeigen auch grundlegende Probleme mit den Richtlinien von Meta auf.

Metas interne Leitlinien für Moderatoren, wann Inhalte im Rahmen der Richtlinie zur sexuell motivierten Kontaktaufnahme zu entfernen sind, sind viel weiter gefasst als die angegebene Begründung für die Richtlinie oder die öffentlich zugänglichen Leitlinien. Dies schafft Verwirrung bei Nutzern und Moderatoren und führt, wie Meta erkannt hat, dazu, dass Inhalte zu Unrecht entfernt werden.

In mindestens einem der Fälle wurde der Beitrag von einem automatischen System, das für die Durchsetzung des Gemeinschaftsstandards für Nacktheit und sexuelle Handlungen von Erwachsenen geschult wurde, zum Review durch einen Mitarbeiter weitergeleitet. Dieser Standard verbietet Bilder, auf denen weibliche Brustwarzen zu sehen sind, mit Ausnahme bestimmter Umstände, z. B. beim Stillen oder bei geschlechtsangleichenden Operationen.

Diese Richtlinie basiert auf einer binären Auffassung von Geschlecht und einer Unterscheidung zwischen männlichen und weiblichen Körpern. Ein solcher Ansatz sorgt für Unklarheiten, wie die Regeln auf intersexuelle, nichtbinäre und Transgender-Personen anzuwenden sind, und verlangt von den Reviewern eine schnelle und subjektive Beurteilung von biologischem und sozialem Geschlecht, was bei der Moderation von Inhalten in großem Umfang nicht praktikabel ist.

Die Einschränkungen und Ausnahmen von den Regeln für weibliche Brustwarzen sind umfangreich und verwirrend, insbesondere was Transgender- und nichtbinäre Personen betrifft. Die Ausnahmen von der Richtlinie reichen von Protesten über Geburtsszenen bis hin zu medizinischen und gesundheitlichen Kontexten, einschließlich Brustoperationen und Brustkrebsaufklärung. Diese Ausnahmen sind oft kompliziert und unzureichend definiert. In einigen Kontexten müssen die Moderatoren beispielsweise das Ausmaß und die Art der sichtbaren Narben beurteilen, um zu entscheiden, ob bestimmte Ausnahmen gelten. Der Mangel an Klarheit in dieser Richtlinie schafft Unsicherheiten für Nutzer und Reviewer und macht sie in der Praxis nicht umsetzbar.

Das Oversight Board hat immer wieder betont, dass Meta darauf achten muss, wie sich seine Richtlinien auf Menschen auswirken, die von Diskriminierung betroffen sind (siehe z. B. die Entscheidungen zu den Fällen „Wampumgürtel“ oder „Äußerungen in arabischer Sprache“). In diesem Fall stellt das Gremium fest, dass Metas Richtlinien zu Nacktheit für Erwachsene zu größeren Hindernissen für die Meinungsäußerung von Frauen, Trans- und nichtbinären Personen auf seinen Plattformen führen. Sie haben zum Beispiel schwerwiegende Auswirkungen in Kontexten, in denen Frauen traditionell mit freiem Oberkörper auftreten, und Menschen, die sich als LGBTQI+ identifizieren, können unverhältnismäßig stark betroffen sein, wie diese Fälle zeigen. Die automatischen Systeme von Meta haben den Inhalt mehrfach identifiziert, obwohl er nicht gegen die Richtlinien von Meta verstößt.

Meta sollte sich dafür einsetzen, Richtlinien zu entwickeln und umzusetzen, die all diese Bedenken berücksichtigen. Meta sollte seinen Ansatz für den Umgang mit Nacktheit auf seinen Plattformen ändern, indem es klare Kriterien für die Richtlinien zu Nacktheit und sexuellen Handlungen von Erwachsenen definiert, die sicherstellen, dass alle Nutzer in einer Weise behandelt werden, die mit den Menschenrechtsstandards vereinbar ist. Darüber hinaus sollte Meta prüfen, ob die Richtlinie über Nacktheit und sexuelle Handlungen Erwachsener vor dem nicht einvernehmlichen Teilen intimer Bilder schützt und ob andere Richtlinien in dieser Hinsicht verstärkt werden müssen.

Die Entscheidung des Oversight Boards

Das Oversight Board hebt die ursprüngliche Entscheidung von Meta auf, den Beitrag zu entfernen.

Das Board empfiehlt Meta außerdem folgende Maßnahmen:

• Klare, objektive und die Rechte achtende Kriterien für den Gemeinschaftsstandard für Nacktheit und sexuelle Handlungen Erwachsener zu definieren, damit alle Menschen in Übereinstimmung mit internationalen Menschenrechtsstandards behandelt werden, ohne Diskriminierung aufgrund des biologischen oder sozialen Geschlechts. Meta sollte zunächst eine umfassende Bewertung der Auswirkungen einer solchen Änderung auf die Menschenrechte durchführen und dabei verschiedene Interessengruppen einbeziehen und einen Plan zur Behebung der festgestellten Probleme erstellen.
• Die Kriterien, die zur Entfernung von Inhalten führen, sollten in dem öffentlich zugänglichen Gemeinschaftsstandard zur sexuell motivierten Kontaktaufnahme genauer beschrieben werden.
• Die Leitlinien für Moderatoren zum Gemeinschaftsstandard für sexuell motivierte Kontaktaufnahme sollten überarbeitet werden, damit sie die öffentlich verfügbaren Regeln der Richtlinie besser widerspiegeln. Dies würde dazu beitragen, Fehler bei der Durchsetzung seitens Meta zu reduzieren.

* Fallzusammenfassungen bieten einen Überblick über den Fall und haben keinen Präzedenzwert.

Ausführliche Fallentscheidung

1. Zusammenfassung der Entscheidung

Das Oversight Board hebt die ursprünglichen Entscheidungen von Meta in zwei Fällen von Instagram-Beiträgen auf, die von Meta entfernt wurden. Meta hat anerkannt, dass seine ursprünglichen Entscheidungen in beiden Fällen falsch waren. Diese Fälle werfen wichtige Fragen darüber auf, inwiefern Metas Richtlinien die Meinungsfreiheit von Frauen und LGBTQI+-Personen auf den Plattformen unverhältnismäßig stark beeinträchtigen. Das Gremium empfiehlt Meta, klare, objektive und die Rechte achtende Kriterien zu definieren, die die Gesamtheit der Richtlinien zu Nacktheit und sexuellen Handlungen von Erwachsenen regeln und eine Gleichbehandlung aller Menschen sicherstellen, die mit internationalen Menschenrechtsstandards im Einklang steht und Diskriminierung aufgrund des Geschlechts oder der Geschlechtsidentität vermeidet. Meta sollte zunächst eine umfassende menschenrechtliche Folgenabschätzung vornehmen, um die Auswirkungen der Einführung solcher Kriterien zu prüfen. Dazu gehört auch die Einbeziehung von Interessengruppen aus verschiedenen ideologischen, geografischen und kulturellen Kontexten. In dem Maße, in dem diese Bewertung potenzielle negative Auswirkungen aufzeigt, sollte die Umsetzung der neuen Richtlinie einen Plan zur Abmilderung dieser negativen Auswirkungen beinhalten.

Das Oversight Board empfiehlt Meta außerdem, seine öffentlich zugänglichen Richtlinien zur sexuell motivierten Kontaktaufnahme zu präzisieren und seine internen Durchsetzungsrichtlinien enger zu fassen, um solche Verstöße besser zu verfolgen.

2. Beschreibung des Falls und Hintergrundinformationen

Diese Fälle betreffen zwei Inhaltsentscheidungen von Meta, die das Oversight Board in dieser Entscheidung gemeinsam behandelt. Zwei voneinander unabhängige Bilder mit Bildunterschriften wurden von einem Konto gepostet, das gemeinschaftlich von einem Paar aus den USA betrieben wird. Auf beiden Bildern ist das Paar zu sehen. Sowohl in den Beiträgen als auch in ihren Mitteilungen an das Gremium erklärt das Paar, sich als transgender und nichtbinär zu identifizieren.

Meta hat beide Beiträge im Hinblick auf seinen Gemeinschaftsstandard gegen sexuell motivierte Kontaktaufnahme entfernt. In beiden Fällen haben Metas automatisierte Systeme den Inhalt als potenziell gegen die Richtlinien verstoßend bewertet.

Auf dem ersten Bild, das 2021 veröffentlicht wurde, haben beide Personen nackte Oberkörper und ihre Brustwarzen sind mit hautfarbenem Tape abgeklebt. Im zweiten Bild, das 2022 gepostet wurde, ist eine Person bekleidet, während die andere oberkörperfrei ist und ihre Brustwarzen mit den Händen verdeckt. In den jeweiligen Bildunterschriften sprechen sie darüber, dass die Person, die in beiden Bildern oberkörperfrei ist, bald eine Mastektomie durchführen lassen wird – eine geschlechtsangleichende Operation für eine flachere Brust. Sie informieren über ihre Pläne, die Operation zu dokumentieren, und sprechen über Gesundheitsthemen von Transgender-Personen. Sie kündigen an, dass sie eine Spendenaktion organisieren möchten, um die Operation zu finanzieren, da sie Schwierigkeiten hatten, eine Kostenübernahme durch die Versicherung für den Eingriff zu erhalten.

Im ersten Fall wurde das Bild zunächst automatisch als wahrscheinlich ungefährlich eingestuft. Die Meldung wurde geschlossen, ohne geprüft zu werden, und der Inhalt verblieb zunächst auf der Plattform. Drei Nutzer meldeten den Inhalt dann wegen Pornografie und Selbstverletzung. Diese Meldungen wurden von menschlichen Moderatoren geprüft und der Beitrag wurde als zulässig eingestuft. Als der Inhalt ein viertes Mal von einem Nutzer gemeldet wurde, wurde er bei einer weiteren manuellen Überprüfung als Verstoß gegen den Gemeinschaftsstandard zur sexuell motivierten Kontaktaufnahme gewertet und entfernt.

Im zweiten Fall wurde der Inhalt zweimal von den automatischen Systemen von Meta identifiziert und zum manuellen Review durch einen Mitarbeiter weitergeleitet. Dort wurde er beide Male als zulässig eingestuft. Danach meldeten zwei Nutzer den Inhalt. Die Meldungen wurden jedoch automatisch geschlossen, ohne geprüft zu werden, und der Inhalt verblieb auf Instagram. Schließlich wurde der Inhalt von Metas automatisierten Systemen ein drittes Mal als potenziell gegen die Richtlinien verstoßend bewertet und zur manuellen Überprüfung weitergeleitet. Bei den letzten beiden Malen wurde der Inhalt von Metas automatisiertem Classifier für Nacktheit und sexuelle Handlungen von Erwachsenen gekennzeichnet. Der Grund für diese wiederholten Überprüfungen ist jedoch unklar. Bei diesem letzten manuellen Review wurde befunden, dass der Beitrag gegen den Gemeinschaftsstandard zur sexuell motivierten Kontaktaufnahme verstieß, und er wurde entfernt.

Die Kontoeigentümer haben gegen beide Entscheidungen zum Entfernen der Inhalte bei Meta Einspruch erhoben, und der Inhalt wurde in beiden Fällen durch einen manuellen Review überprüft. Diese Überprüfungen führten jedoch nicht dazu, dass Meta die Beiträge wiederherstellte. Die Kontoeigentümer haben gegen beide Entscheidungen zum Entfernen der Inhalte beim Oversight Board Einspruch erhoben. Das Gremium prüft diese beiden Fälle gemeinsam, was eine Premiere für das Oversight Board darstellt. Dies hat den Vorteil, dass ähnliche Probleme in den Inhaltsrichtlinien und Prozessen von Meta identifiziert und Lösungen angeboten werden können, die diese Probleme beheben.

Nachdem das Board diese Beiträge zur Bearbeitung ausgewählt hatte und Meta aufgefordert wurde, seine Entscheidung zur Entfernung der Inhalte zu begründen, hat Meta das Entfernen dieser Beiträge als „Durchsetzungsfehler“ bezeichnet und die Beiträge wiederhergestellt.

Bei der Überlegung, warum diese Fälle wichtige Themen darstellen, verweist das Oversight Board auf die große Anzahl öffentlicher Kommentare, die in diesen Fällen eingegangen sind. Viele davon stammten von Personen, die sich als trans, nichtbinär oder Cis-Frauen identifizierten und erklärten, dass sie persönlich von Durchsetzungsfehlern und ähnlichen Problemen wie in diesen Fällen betroffen waren.

Das Oversight Board hat auch die akademische Forschung von Haimson et al und Witt, Suzor und Huggins, die ebenfalls in öffentlichen Kommentaren zitiert wurde, sowie zwei Berichte von Salty über algorithmische Verzerrungen und Zensur von marginalisierten Gemeinschaften als relevanten Kontext bezeichnet. Diese Studien haben ergeben, dass Fehler bei der Durchsetzung der beiden in diesen Fällen diskutierten Gemeinschaftsstandards Frauen und die LGBTQI+-Gemeinschaft unverhältnismäßig stark betreffen. Ein Co-Autor einer dieser Studien ist Mitglied des Oversight Board.

3. Befugnis und Wirkungsbereich des Oversight Boards

Das Board ist befugt, die Entscheidung von Meta nach dem Einspruch des Nutzers zu prüfen, dessen Inhalt entfernt wurde (Artikel 2 der Satzung, Abschnitt 1; Artikel 3 der Geschäftsordnung, Abschnitt 1).

Das Gremium kann die Entscheidung von Meta bestätigen oder aufheben (Artikel 3 der Satzung, Abschnitt 5), und seine Entscheidung ist für das Unternehmen verbindlich (Artikel 4 der Satzung). Meta muss außerdem die Umsetzbarkeit seiner Entscheidung in Bezug auf identische Inhalte mit parallelem Kontext auswerten (Artikel 4 der Satzung). Die Entscheidungen des Boards können Stellungnahmen zu den Richtlinien mit Empfehlungen umfassen, auf die Meta antworten muss (Artikel 3 der Satzung, Abschnitt 4; Artikel 4).

Wenn das Oversight Board Fälle wie diesen auswählt, in denen Meta einen Fehler anerkennt, nachdem das Gremium den Fall festgestellt hat, überprüft das Board die ursprüngliche Entscheidung. Dies geschieht, um das Verständnis für die Parameter der Richtlinien und die Prozesse der Inhaltsmoderation zu verbessern, die zu dem Fehler geführt haben, und um Probleme zu lösen, die das Gremium mit den zugrunde liegenden Richtlinien identifiziert hat. Das Oversight Board möchte außerdem Empfehlungen aussprechen, um die Wahrscheinlichkeit künftiger Fehler zu verringern und damit Nutzer künftig fairer behandelt werden.

Wenn das Gremium Fälle identifiziert, die ähnliche Fragen aufwerfen, können diese zusammen an ein Panel verwiesen werden, um darüber gemeinsam zu beraten. Für jeden einzelnen Inhalt wird eine verbindliche Entscheidung getroffen.

4. Quellen der Befugnis

Bei seiner Entscheidung hat das Oversight Board die folgenden Institutionen und Standards berücksichtigt:

I. Entscheidungen des Oversight Boards:

• Fall „Äußerungen in arabischer Sprache“ (2022-003-IG-UA). Das Oversight Board analysierte die Herausforderungen bei der Anwendung von Ausnahmeregelungen und die unverhältnismäßigen Auswirkungen einiger Richtlinienentscheidungen.
• Die „Wampumgürtel-Entscheidung“ (2021-012-FB-UA). Das Oversight Board analysierte die Herausforderungen bei der Anwendung von Ausnahmeregelungen und die unverhältnismäßigen Auswirkungen einiger Richtlinienentscheidungen.
• „Symptome von Brustkrebs und Nacktdarstellung“ (2020-004-IG-UA). Das Oversight Board analysierte die Instagram-Gemeinschaftsrichtlinien und empfahl Meta, klarzustellen, dass es eine Ausnahmeregelung zum Thema Brustkrebs gibt.

II. Die Content-Richtlinien von Meta:

Für die vorliegenden Fälle sind die Instagram-Gemeinschaftsrichtlinien und die Gemeinschaftsstandards von Facebook relevant. Im Meta Transparency Center wird erklärt: „Facebook und Instagram teilen ihre Inhaltsrichtlinien. Das bedeutet, dass Inhalte, die auf Facebook einen Regelverstoß darstellen, dies auch auf Instagram tun.“

Sexuell motivierte Kontaktaufnahme

In den Gemeinschaftsrichtlinien von Instagram heißt es, dass das „Anbieten sexueller Dienstleistungen“ nicht erlaubt ist. Diese Bestimmung verweist dann auf den Facebook-Gemeinschaftsstandard zur sexuell motivierten Kontaktaufnahme.

In der Begründung zu den Richtlinien über sexuell motivierte Kontaktaufnahme heißt es bei Meta: „Wenn jedoch Inhalte sexuelle Begegnungen oder gewerbliche sexuelle Dienstleistungen zwischen Erwachsenen fördern, unterstützen oder koordinieren, ist für uns die Grenze erreicht. So möchten wir Transaktionen verhindern, die möglicherweise Menschenhandel, Nötigung und nicht einvernehmliche sexuelle Handlungen betreffen. Wir schränken außerdem die Verwendung explizit sexueller, möglicherweise zu einer sexuellen Kontaktaufnahme führender Sprache ein, da manche Mitglieder unserer globalen Gemeinschaft diese Art von Inhalten als anstößig empfinden könnten. Darüber hinaus kann ein solcher Sprachgebrauch Nutzer davor abschrecken, mit Freunden und der Gemeinschaft im Allgemeinen zu interagieren.“

Der Facebook-Gemeinschaftsstandard zur sexuell motivierten Kontaktaufnahme besagt, dass Meta sowohl explizite als auch implizite Aufforderung untersagt. Für die implizite Aufforderung gibt es zwei Kriterien, die beide erfüllt sein müssen, damit ein Inhalt gegen die Richtlinie verstößt. Das erste Kriterium ist „Angebot oder Anfrage“, d. h. Inhalte, die implizit oder indirekt (in der Regel durch Nennung einer Kontaktmethode) eine sexuell motivierte Kontaktaufnahme anbieten oder nachfragen. Das zweite Kriterium sind „anzügliche Elemente“, d. h. „Inhalte, in denen die oben erwähnte sexuell motivierte Kontaktaufnahme unter Verwendung eines der folgenden sexuell anzüglichen Elemente angeboten oder nachgefragt wird“. Zu den aufgeführten Elementen gehören „regionale sexualisierte Umgangssprache“ und „Posen“.

Nacktdarstellung und sexuelle Handlungen von Erwachsenen

In den Instagram-Gemeinschaftsrichtlinien heißt es, dass Nutzer auf Folgendes achten sollen: „Poste Fotos und Videos, die für eine vielfältige Zielgruppe geeignet sind. Wir wissen, dass Personen manchmal Bilder von Nacktheit als künstlerische oder kreative Darstellungsform teilen möchten. Aus verschiedenen Gründen ist die Darstellung von Nacktheit auf Instagram jedoch nicht zulässig. Das gilt auch für Fotos, Videos und einige digital erstellte Inhalte, auf denen Geschlechtsverkehr, Genitalien und Nahaufnahmen nackter Gesäße zu sehen sind. Dazu gehören auch bestimmte Fotos weiblicher Brustwarzen, doch Fotos im Kontext des Stillens, einer Entbindung und der Momente danach, in gesundheitsbezogenen Kontexten (z. B. nach einer Brustamputation, zur Sensibilisierung für Brustkrebs oder bei einer geschlechtsangleichenden Operation) oder einer Protestaktion sind zulässig.“ Dieser Abschnitt verweist auf die Facebook-Richtlinie zu Nacktheit und sexuellen Handlungen von Erwachsenen, die weitere Einzelheiten zu diesen Regeln enthält.

Als Grundgedanken dieser Richtlinie zu Nacktheit und sexuellen Handlungen von Erwachsenen erklärt Meta Folgendes: „Wir schränken die Darstellung von Nacktheit oder sexuellen Handlungen ein, da manche Mitglieder unserer Gemeinschaft diese Art von Inhalten als anstößig empfinden. Außerdem entfernen wir grundsätzlich Bilder mit sexuellen Inhalten, um das Teilen nicht einvernehmlicher Inhalte sowie von Inhalten im Zusammenhang mit Minderjährigen zu verhindern.“

In den Facebook-Richtlinien zu Nacktheit und sexuellen Handlungen von Erwachsenen heißt es außerdem: „Folgende Inhalte sind untersagt: Unbedeckte weibliche Brustwarzen, es sei denn, die Darstellung erfolgt im Kontext von Stillen, Geburt, Momenten nach der Geburt oder in einem medizinischen oder gesundheitlichen Kontext (z. B. nach einer Brustamputation, zur Sensibilisierung für Brustkrebs oder eine geschlechtsangleichende Operation) oder als Protestaktion.“ Nutzer können auch Bilder von Genitalien posten, wenn sie in einem „medizinischen oder gesundheitlichen Kontext“ geteilt werden (was auch Operationen zur Geschlechtsangleichung einschließt), aber es wird ein Hinweis eingeblendet, dass es sich um sensible Inhalte handelt. Außerdem gibt es mindestens 18 weitere interne Leitlinien zur Darstellung von Brustwarzen und diesen Ausnahmen.

III. Die Werte von Meta:

Die Werte von Meta werden in der Einleitung der Facebook-Gemeinschaftsstandards dargelegt. Der Wert der „Mitsprache“ hat laut dieser Einleitung „höchste Priorität“:

Ziel unserer Gemeinschaftsstandards ist es schon immer gewesen, einen Ort zu schaffen, an dem Menschen sich und ihre Meinung frei ausdrücken können. [...] Wir möchten, dass die Nutzerinnen und Nutzer offen über die Themen sprechen können, die ihnen wichtig sind. Das gilt auch dann, wenn einige Personen möglicherweise unterschiedlicher Meinung sind oder Inhalte anstößig finden.

Meta beschränkt die „Mitsprache“ zugunsten von vier anderen Werten, von denen zwei für diesen Fall relevant sind:

„Sicherheit“: Unser Ziel ist es, Facebook zu einem sicheren Ort zu machen. Äußerungen, die Nutzer bedrohen, haben das Potenzial, andere einzuschüchtern, auszugrenzen oder mundtot zu machen. Deshalb sind sie auf Facebook nicht gestattet.

„Würde“: Wir sind der Ansicht, dass alle Menschen gleich an Würde und Rechten sind. Deshalb erwarten wir, dass sie die Würde anderer achten und andere nicht belästigen oder erniedrigen.

IV. Internationale Menschenrechtsstandards:

Die UN-Leitprinzipien für Wirtschaft und Menschenrechte (United Nations Guiding Principles on Business and Human Rights, UNGPs), die 2011 vom UN-Menschenrechtsrat verabschiedet wurden, geben einen freiwilligen Rahmen für die menschenrechtliche Verantwortung von Privatunternehmen vor. Im Jahr 2021 veröffentlichte Meta seine Unternehmensrichtlinie zu Menschenrechten, in der das Unternehmen seine Verpflichtung zur Achtung der Menschenrechte gemäß den UN-Leitprinzipien bekräftigte. Das Oversight Board hat bei seiner Analyse der menschenrechtlichen Verantwortung von Meta in diesen Fällen folgende Menschenrechtsstandards berücksichtigt:

• Das Recht auf Meinungsfreiheit und freie Meinungsäußerung: Artikel 19, Internationaler Pakt über bürgerliche und politische Rechte (ICCPR), Allgemeine Bemerkung Nr. 34, Menschenrechtsausschuss, 2011; Bekanntmachung 488/1992; Beschluss 32/2, Menschenrechtsrat, 2016; Berichte des UN-Sonderberichterstatters für Meinungsfreiheit und freie Meinungsäußerung: A/HRC/38/35 (2018) und A/74/486 (2019).
• Die Rechte von Frauen: Artikel 2 und Artikel 5, Übereinkommen zur Beseitigung jeder Form von Diskriminierung der Frau (Convention on the Elimination of All Forms of Discrimination against Women, CEDAW).
• Das Recht auf Nichtdiskriminierung: Artikel 2, Absatz 1, und Artikel 26, ICCPR. Nepomnyashchiy gegen Russland, Menschenrechtsausschuss, 2018 (CCPR/C/123/D/2318/2013).

5. Einreichungen der Nutzer

In ihren Einreichungen zu diesen Fällen erklären die Nutzer, dass sie glauben, dass diese Inhalte aufgrund von Transphobie entfernt wurden. Sie schreiben, dass, wenn das Oversight Board bestätigen würde, dass diese Inhalte auf der Plattform verbleiben sollten, die Entscheidung dazu beitragen würde, Instagram zu einem einladenderen Ort für LGBTQI+-Inhalte zu machen.

6. Einreichungen von Meta

Meta hat in seiner Entscheidungsbegründung erklärt, dass es sich bei beiden Entfernungen von Inhalten um Durchsetzungsfehler handelte und dass keiner der Beiträge gegen die Richtlinien zur sexuell motivierten Kontaktaufnahme verstieß. Meta erklärt: „Das einzige Angebot oder die einzige Aufforderung ist die Bitte um Spenden für eine Spendenaktion oder der Besuch einer Website, um T-Shirts zu kaufen. Beides stellt keine sexuell motivierte Kontaktaufnahme dar.“

Meta stellt außerdem fest, dass keiner der Beiträge gegen den Standard für Nacktheit und sexuelle Handlungen von Erwachsenen verstößt. In der Begründung heißt es, dass die internen „Leitlinien für Prüfer speziell darauf eingehen, wie mit nichtbinärer, geschlechtsneutraler oder Nacktheit von Transgender-Personen umzugehen ist.“ Die Inhalte in diesen Fällen wurden in einem „explizit nichtbinären oder Transgender-Kontext geteilt, wie das Gesamtthema des Inhalts (sich einer Mastektomie unterziehen) und die verwendeten Hashtags zeigen.“ Meta kam zu Folgendem Schluss: „Selbst wenn die Brustwarzen in diesen Fällen sichtbar und unbedeckt wären, würden sie nicht gegen unsere Richtlinie zu Nacktheit und sexuellen Handlungen von Erwachsenen verstoßen.“ Meta räumte auch ein, dass die Brustwarzen auf beiden Bildern „vollständig verdeckt“ sind.

Angesichts der Zeit, die seit der Entfernung der Inhalte verstrichen ist, konnte Meta dem Oversight Board nicht angeben, welche Richtlinie(n) die verschiedenen automatisierten Systeme, die die Inhalte als potenzielle Verstöße identifiziert hatten, durchsetzen sollten. In einem Fall konnte Meta erklären, dass der Inhalt von den Classifiern für Nacktheit und sexuelle Handlungen von Erwachsenen zweimal für den Review durch einen Mitarbeiter vorgemerkt wurde. Meta konnte auch nicht angeben, warum die Reviewer der Meinung waren, der Inhalt verstoße gegen die Richtlinie für sexuell motivierte Kontaktaufnahme. In der Begründung wird eingeräumt, dass Meta „sich bewusst ist, dass einige Reviewer Inhalte fälschlicherweise als implizite sexuelle Kontaktaufnahme ansehen und entfernen (auch wenn es nicht so ist), weil sie unsere internen Prüferrichtlinien zu technisch anwenden.“

Das Oversight Board stellte Meta 18 Fragen, die Meta in vollem Umfang beantwortete.

7. Öffentliche Kommentare

Das Oversight Board hat 130 öffentliche Kommentare im Zusammenhang mit diesen Fällen berücksichtigt. 97 der Kommentare kamen aus den USA und Kanada, 19 aus Europa, 10 aus dem Asien-Pazifik-Raum und Ozeanien, einer aus Lateinamerika und der Karibik, einer aus dem Nahen Osten und Nordafrika, einer aus Subsahara-Afrika und einer aus Zentral- und Südasien.

Die Eingaben betrafen folgende Themen: die irrtümliche Entfernung von Inhalten von transsexuellen, nichtbinären und weiblichen Nutzern; die Ungerechtigkeit und Ungleichheit von geschlechtsspezifischen Unterscheidungen, um zu bestimmen, welche Formen von Nacktheit auf der Plattform erlaubt sind; die Verwirrung darüber, welche Inhalte gemäß den Gemeinschaftsstandards zu Nacktheit und sexuellen Handlungen von Erwachsenen bzw. den Gemeinschaftsstandards zur sexuell motivierten Kontaktaufnahme zulässig sind; und die Bedeutung von sozialen Medien für die Meinungsäußerung in Gesellschaften, in denen die Rechte von LGBTQI+-Personen bedroht sind.

Die öffentlichen Kommentare, die zu diesem Fall eingereicht wurden, können hier eingesehen werden. Einige der eingereichten Kommentare wurden nicht berücksichtigt, da sie persönliche Informationen über andere Personen als den Verfasser des Kommentars enthielten.

8. Analyse des Oversight Boards

Das Board hat aus drei Perspektiven geprüft, ob diese Beiträge wiederhergestellt werden sollten: Aus der Perspektive der Content-Richtlinien von Meta, der Werte des Unternehmens und seiner menschenrechtlichen Verantwortung.

Das Gremium wählte diese Fälle aus, da die Entfernung von Inhalten, die nicht gegen die Menschenrechte verstoßen und von Personen gepostet werden, die sich mit Randgruppen identifizieren, deren Recht auf freie Meinungsäußerung beeinträchtigt. Dies ist besonders wichtig, da Instagram für diese Gruppen ein wichtiges Forum für den Aufbau einer Community sein kann. Diese Fälle zeigen, wie sich Fehler bei der Durchsetzung unverhältnismäßig stark auf bestimmte Gruppen auswirken können, und weisen möglicherweise auf umfassendere Probleme bei der Richtlinie und der Durchsetzung hin, die behoben werden sollten.

8.1 Einhaltung der Content-Richtlinien von Meta

Das Oversight Board stellt fest, dass diese Beiträge gegen keine der Meta-Inhaltsrichtlinien verstoßen. Die Gemeinschaftsrichtlinien gelten zwar für Instagram, aber Meta erklärt auch, dass „Facebook und Instagram gemeinsame Inhaltsrichtlinien haben. Inhalte, die auf Facebook einen Regelverstoß darstellen, gelten auch auf Instagram als Verstoß.“ Die Facebook-Gemeinschaftsrichtlinien enthalten weitere Einzelheiten und sind in den Richtlinien verlinkt.

a. Sexuell motivierte Kontaktaufnahme

Gemäß dem Gemeinschaftsstandard zur sexuell motivierten Kontaktaufnahme sind für eine implizite sexuell motivierte Kontaktaufnahme zwei Elemente erforderlich:

• Inhalte, die ein implizites Angebot oder eine Anfrage enthalten, UND
• Sexuell anzügliche Elemente.

Implizites Angebot oder Anfrage.

Ein implizites Angebot oder eine implizite Anfrage wird im Gemeinschaftsstandard zur sexuell motivierten Kontaktaufnahme definiert als „Inhalt, der implizit oder indirekt (typischerweise durch Nennung einer Kontaktmethode) eine sexuell motivierte Kontaktaufnahme anbietet oder nachfragt“. In den „Bekannten Fragen“ von Meta, die eine zusätzliche interne Leitlinie für Prüfer darstellen, umfasst die Liste der Kontaktinformationen, die eine Entfernung als implizites Angebot auslösen, Links zu Profilen in den sozialen Medien und „Links zu abonnementbasierten Websites (z. B. OnlyFans.com oder Patreon.com)“. In den vorliegenden Fällen enthielt der Inhalt einen Link zu einer Plattform, auf der die Nutzer eine Spendenaktion zur Finanzierung einer Operation organisierten. Da die Meta-internen Kriterien für die Definition von „impliziten Angeboten oder Anfragen“ sehr weit gefasst sind, würde dieser Link technisch gesehen als „Angebot oder Anfrage“ im Sinne der Meta-Leitlinien für Prüfer gelten, obwohl er nicht gegen den Standard für die Öffentlichkeit verstößt, der besagt, dass das Angebot oder die Anfrage für etwas mit sexuellem Bezug sein muss.

Sexuell anzügliches Element.

Der Gemeinschaftsstandard enthält eine Liste mit sexuell anzüglichen Elementen, darunter auch Posen. Die „Bekannten Fragen“ enthalten eine von Meta als umfassend bezeichnete Liste von Posen, die als sexuell anzüglich bezeichnet werden, darunter nackte „weibliche Brüste, die entweder digital oder durch menschliche Körperteile oder Objekte bedeckt sind“. Das Oversight Board stellt fest, dass auf beiden Bildern Brüste durch menschliche Körperteile (Hände) oder Gegenstände (Klebeband) verdeckt sind. In diesen Fällen macht der Inhalt der Beiträge deutlich, dass sich die Personen auf den Fotos als trans und nichtbinär identifizieren, was bedeutet, dass die abgebildeten Brüste zu Personen gehören, die sich nicht als Frauen identifizieren. Das Gremium stellt außerdem fest, dass der Inhalt keine sexuellen Anspielungen enthält. Auf dieser Grundlage war das zweite Element, das erforderlich ist, um gegen die Richtlinie zur sexuell motivierten Kontaktaufnahme zu verstoßen – ein sexuell anzügliches Element wie eine sexuelle Pose (zu der eine bedeckte weibliche Brust gehört) – nicht erfüllt.

Da das zweite Element nicht erfüllt war, stellten die Beiträge keinen Verstoß gegen die Richtlinie dar. Die Anwendung der öffentlichen Version des ersten Elements (das besagt, dass das Angebot bzw. die Anfrage einen sexuellen Bezug haben muss) zeigt ebenfalls, dass diese Bilder keine sexuell motivierte Kontaktaufnahme darstellen.

b. Nacktdarstellung und sexuelle Handlungen von Erwachsenen

Der Gemeinschaftsstandard zu Nacktheit und sexuellen Handlungen von Erwachsenen besagt, dass Nutzer keine Bilder veröffentlichen sollten von „unbedeckten weiblichen Brustwarzen, es sei denn, die Darstellung erfolgt im Kontext von Stillen, Geburt, Momenten nach der Geburt oder in einem medizinischen oder gesundheitlichen Kontext (z. B. nach einer Brustamputation, zur Sensibilisierung für Brustkrebs oder eine geschlechtsangleichende Operation) oder als Protestaktion.“ In den „Bekannten Fragen“ von Meta heißt es weiter, dass Prüfer „Bilder von Brustwarzen zulassen sollten, wenn sie in einem expliziten Kontext der Frau-zu-Mann-Transsexualität bzw. einem nichtbinären oder geschlechtsneutralen Kontext geteilt werden (z. B. wenn ein Nutzer eine solche Geschlechtsidentität angibt), unabhängig von Größe oder Form der Brust“. Keines der Bilder aus den vorliegenden Fällen verstößt gegen diesen Gemeinschaftsstandard.

Erstens sind in keinem der Bilder unbedeckte Brustwarzen zu sehen. Auf beiden Bildern haben die Personen ihre Brustwarzen bedeckt, entweder mit den Händen oder mit Tape. Zweitens stellt dass Oversight Board fest, dass die Bilder, selbst wenn die Brustwarzen unbedeckt gewesen wären, mit einem Begleittext geteilt wurden, der deutlich macht, dass die Personen sich als nichtbinär identifizieren. Diese Richtlinie wird daher nicht verletzt.

8.2 Einhaltung der Werte von Meta

Das Board vertritt die Auffassung, dass die ursprüngliche Entscheidung zur Entfernung dieser Beiträge den Werten „Mitsprache“ und „Würde“ von Meta entgegenstand und auch nicht im Sinne des Werts „Sicherheit“ war.

Fehler bei der Durchsetzung, die unverhältnismäßig viele von Diskriminierung betroffene Gruppen betreffen, stellen eine ernsthafte Bedrohung für die Werte „Mitsprache“ und „Würde“ dar. Obwohl Metas Menschenrechtsargumente die „Sicherheit“ betrafen, insbesondere in Bezug auf das nicht einvernehmliche Teilen von Bildern, Sexhandel und Kindesmissbrauch, ist das Gremium der Ansicht, dass diese Entfernungen die „Sicherheit“ nicht gefördert haben.

8.3. Erfüllung der menschenrechtlichen Verantwortung von Meta

Meinungsfreiheit (Artikel 19 ICCPR)

Artikel 19 des ICCPR sieht einen umfassenden Schutz der freien Meinungsäußerung vor. Dazu gehört auch die Diskussion über Menschenrechte und Äußerungen, die von Menschen als beleidigend empfunden werden könnten (Allgemeine Bemerkung Nr. 34, Abs. 11). Das Recht auf freie Meinungsäußerung ist allen Menschen garantiert; sie dürfen dabei nicht aufgrund ihres „Geschlechts“ oder eines „anderen Aspekts“ diskriminiert werden (ICCPR, Artikel 2, Absatz 1). Der Menschenrechtsausschuss hat in Fällen wie Nepomnyashchiy gegen Russland (CCPR/C/123/D/2318/2013) bestätigt, dass das Verbot der Diskriminierung auch die Diskriminierung aufgrund der Geschlechtsidentität umfasst.

Die Inhalte beziehen sich auf wichtige gesellschaftliche Themen. Für diese Nutzer bietet Instagram ein Forum, um ihre Geschlechtszugehörigkeit zu diskutieren und darzustellen, und bietet eine Möglichkeit, um Kontakte zu knüpfen und Unterstützung zu erhalten. Die Inhalte können sich auch direkt auf die Möglichkeiten der Nutzer auswirken, sich einer geschlechtsangleichenden Operation zu unterziehen, da beide Posts erklären, dass sich eine Person einer Mastektomie unterziehen wird, und eine Spendenaktion teilen, mit der sie die Operationskosten finanzieren möchten.

Artikel 19 sieht vor, dass in Fällen, in denen Regierungen das Recht auf freie Meinungsäußerung einschränken, die Anforderungen der Gesetzmäßigkeit, des rechtmäßigen Ziels und der Notwendigkeit und Verhältnismäßigkeit erfüllt werden müssen (ICCPR, Artikel 19, Absatz 3). Auf Basis dieser Leitprinzipien hat der UN-Sonderberichterstatter zu Meinungsfreiheit und freier Meinungsäußerung Social-Media-Unternehmen aufgerufen, ihre Inhaltsregeln an die Anforderungen anzupassen, die in Artikel 19, Abs. 3, ICCPR (A/HRC/38/35, Abs. 45 und 70) verankert sind. Das Oversight Board verwendet dieses Konzept, um die Richtlinien und Durchsetzung von Meta zu analysieren.

Im vorliegenden Fall stellt das Oversight Board fest, dass Meta seiner Verantwortung, Richtlinien zu schaffen und durchzusetzen, die mit diesen Standards übereinstimmen, nicht nachgekommen ist. Die internen Kriterien, die für die Entfernung von Inhalten im Rahmen der Richtlinie zur sexuell motivierten Kontaktaufnahme angewandt werden, sind weitreichender als die erklärte Begründung der Richtlinie, was zu einer übermäßigen Durchsetzung führt, wie Meta selbst erkannt hat. Der Gemeinschaftsstandard zu Nacktheit und sexuellen Handlungen von Erwachsenen wirkt sich unverhältnismäßig stark auf Frauen und LGBTQI+-Personen aus und stützt sich auf subjektive und spekulative Wahrnehmungen von Geschlecht und Geschlechtsidentität, die nicht praktikabel sind, wenn es um die Moderation von Inhalten in großem Umfang geht. Das Board analysiert diese Unzulänglichkeiten und empfiehlt Meta, einen umfassenden Prozess einzuleiten, um diese Probleme zu lösen.

I. Gesetzmäßigkeit (Klarheit und Zugänglichkeit der Regeln)

Regeln, die die Meinungsäußerung einschränken, müssen klar und verständlich sein, damit sowohl die für ihre Durchsetzung Verantwortlichen als auch die Nutzer wissen, was erlaubt ist. Beide Gemeinschaftsstandards, um die es in diesen Fällen geht, genügen diesem Standard nicht.

a. Sexuell motivierte Kontaktaufnahme

Das Oversight Board stellt fest, dass der Gemeinschaftsstandard zur sexuell motivierten Kontaktaufnahme in den internen Richtlinien für Prüfer zu weit gefasste Kriterien enthält. Diese unzureichend ausgearbeiteten Leitlinien tragen zu einer übermäßigen Durchsetzung durch die Prüfer und zur Verwirrung der Nutzer bei. Meta hat dies eingeräumt und dem Oversight Board erklärt, dass die Anwendung der internen Richtlinien in Fällen, in denen die Kriterien für implizite sexuell motivierte Kontaktaufnahme erfüllt sind, es aber klar ist, dass „keine Absicht bestand, sexuellen Kontakt aufzunehmen“, zu einer übermäßigen Durchsetzung führen könnte.

Die Verwirrung spiegelt sich in beiden Elementen dieser Richtlinie wider. In Bezug auf die Komponente „Angebot oder Anfrage“ des Gemeinschaftsstandards zur sexuell motivierten Kontaktaufnahme verweisen die öffentlich zugänglichen Regeln auf eine „Kontaktmethode“ für die auffordernde Partei. In den Leitlinien für Moderatoren, den „Bekannten Fragen“, heißt es jedoch, dass eine „Kontaktmethode“ für ein implizites „Angebot oder eine Anfrage“ auch Links zu Profilen in sozialen Medien oder Links zu abonnementbasierten Websites Dritter wie Patreon umfasst. Den Nutzern wird nicht klar gemacht, dass jeder Link zu einem anderen Social-Media-Profil, einer Zahlungsplattform eines Drittanbieters oder einem Fundraising-Link (wie Patreon oder GoFundMe) bedeuten könnte, dass ihr Beitrag als Anfrage behandelt wird. Diese Unklarheit spiegelt sich in den vielen öffentlichen Kommentaren wider, die das Gremium von Personen erhalten hat, die nicht verstanden haben, warum Inhalte mit solchen Links von Dritten entfernt wurden oder dazu führten, dass ihre Konten gesperrt wurden.

Das zweite Kriterium, das ein sexuell anzügliches Element verlangt, ist weit gefasst, vage und unvereinbar mit den Meta-Richtlinien zu Nacktheit und sexuellen Handlungen von Erwachsenen. Der öffentlich zugängliche Gemeinschaftsstandard nennt „sexuell anzügliche Posen“ als ein sexuell anzügliches Element. Die „Bekannten Fragen“ liefern dann eine detaillierte Liste von „sexuell anzüglichen Posen“, zu denen auch die Darstellung des freien Oberkörpers und das Bedecken der Brüste durch Hände oder Gegenstände gehören. Die Nutzer werden daraus wahrscheinlich nicht ersehen, dass jedes Bild, auf dem bedeckte Brüste zu sehen sind, als sexuell anzügliche Pose gilt. Diese Verwirrung wird durch die Tatsache verstärkt, dass die Richtlinie für Nacktdarstellungen von Erwachsenen Fotos ohne Oberbekleidung zulässt, sofern dabei die Brustwarzen bedeckt sind. In dieser Hinsicht werden Inhalte, die unter einer Richtlinie als sexuell anstößig angesehen werden, unter einer anderen Richtlinie nicht als sexuell anstößig angesehen.

Zusätzlich zur Verunsicherung der Nutzer deutet die Tatsache, dass die Prüfer bei diesem Inhalt wiederholt zu unterschiedlichen Ergebnissen gekommen sind, darauf hin, dass die Moderatoren nicht genau wissen, welche Inhalte als sexuell motivierte Kontaktaufnahme zu betrachten sind.

Wie Meta einräumt, werden durch die Anwendung seiner internen Richtlinien zu den beiden Elementen der impliziten Aufforderung Inhalte entfernt, die nicht auf sexuelle Handlungen abzielen. Längerfristig lassen sich fehlerhafte Löschungen wahrscheinlich am besten durch eine Änderung des Geltungsbereichs dieser Richtlinie beheben. Kurzfristig empfiehlt das Oversight Board jedoch, dass Meta seine internen Richtlinien überarbeitet, um sicherzustellen, dass die Kriterien die öffentlich zugänglichen Regeln widerspiegeln und eine klarere Verbindung zwischen dem „Angebot oder der Anfrage“ und dem „sexuell anzüglichen Element“ verlangen. Außerdem sollte Meta den Nutzern in den öffentlichen Gemeinschaftsstandards genauer erklären, was ein „Angebot für oder eine Anfrage“ nach Sex ist und was sexuell anzügliche Posen sind.

b. Nacktdarstellung und sexuelle Handlungen von Erwachsenen

Der Gemeinschaftsstandard zu Nacktheit und sexuellen Handlungen von Erwachsenen basiert auf Unterscheidungen zwischen den Geschlechtern, die schwer umzusetzen sind, und enthält Ausnahmen, die nur unzureichend definiert sind. Bestimmte Regeln in der Richtlinie sind für die Nutzer verwirrend, da sie nicht wissen, was erlaubt ist. Dies führt auch zu Verwirrung bei den Moderatoren, die subjektive Einschätzungen auf der Grundlage von unvollständigen Informationen vornehmen und schnell eine Regel mit zahlreichen Faktoren, Ausschlüssen und Vermutungen anwenden müssen.

Trotz der Verwendung einer Sprache, die sich auf bestimmte Körperteile statt auf das Geschlecht konzentriert (und die es Nutzern erlaubt, in ihrem Profil aus einer breiten Palette von Geschlechtsidentitäten zu wählen), erklären die meisten Meta-Regeln nicht, wie das Unternehmen mit Inhalten umgeht, die intersexuelle, transsexuelle oder nichtbinäre Menschen betreffen. Die Richtlinie bezieht sich beispielsweise auf „männliche und weibliche Genitalien“, „weibliche Brüste“ und „weibliche Brustwarzen“. Es ist aber unklar, wie diese Beschreibungen auf Menschen mit Körpern und Identitäten angewendet werden, die möglicherweise nicht diesen Definitionen entsprechen. Viele transsexuelle und nichtbinäre Personen haben dem Oversight Board öffentliche Kommentare übermittelt, in denen sie darauf hinweisen, dass die Nutzer nicht wissen, ob ihre Inhalte nach ihrer Geschlechtsidentität, nach dem ihnen bei der Geburt zugewiesenen Geschlecht oder nach Aspekten ihrer körperlichen Erscheinung bewertet und kategorisiert werden.

Die aktuellen Regeln erfordern, dass beim manuellen Review durch einen Mitarbeiter sowohl das Geschlecht eines Nutzers schnell bewertet werden muss, da diese Richtlinie für „weibliche Brustwarzen“ gilt, als auch seine Geschlechtsidentität, da es Ausnahmen gibt, die darauf beruhen, ob die abgebildete Person nichtbinär, geschlechtsneutral oder transgender ist oder ob die Person den Inhalt im Rahmen einer geschlechtsangleichenden Operation postet. Die Wahrnehmung von Geschlecht und Geschlechtsidentität erfordert die Interpretation kontextbezogener Hinweise und des Aussehens – beides sind subjektive Feststellungen, die zu Fehlern führen können.

Diese Auslegung wird durch das Meta-Prinzip „default to female“ (standardmäßig weiblich) weiter erschwert, wonach in Zweifelsfällen restriktivere Richtlinien für weibliche (im Gegensatz zu männlicher) Nacktheit gelten. In den „Bekannten Fragen“ heißt es, dass in Fällen, in denen es keinen eindeutigen Kontext gibt und die Person auf dem Bild „sich als weiblich präsentiert ODER ein Transgender-Kontext (Mann-zu-Frau-Transsexualität) vorliegt, standardmäßig von weiblicher Nacktheit ausgegangen wird und die entsprechende Richtlinie angewendet wird.“

Die Zahl der Einschränkungen und Ausnahmen von den Regeln für als weiblich wahrgenommene Brustwarzen ist umfangreich und verwirrend. Die Ausnahmen reichen von Protestaktionen über Geburtsszenen und Stillen bis hin zu medizinischen und gesundheitlichen Kontexten, einschließlich Bildern nach einer Brustoperation und zur Brustkrebsaufklärung. Die Ausnahmen sind oft nicht oder nur unzureichend definiert. Die Liste der Ausnahmen hat sich im Laufe der Zeit erheblich erweitert, und es ist davon auszugehen, dass sie im Zuge der Entwicklung der Meinungsäußerung noch zunehmen wird. Wenn es um weibliche Brüste geht, wird in der Meta-Richtlinie zu Nacktheit und sexuellen Handlungen von Erwachsenen davon ausgegangen, dass solche Bilder sexuelle Inhalte darstellen. Die immer länger werdende Liste der Ausnahmen zeigt jedoch, dass Bilder von weiblichen Brüsten in vielen Fällen, die in der Richtlinie anerkannt werden, nicht sexuell anzüglich sind.

Selbst innerhalb der einzelnen Ausnahmen stellen sich zahlreiche Fragen. So ist zum Beispiel die Ausnahme für geschlechtsangleichende Operationen von besonderer Bedeutung für transsexuelle und nichtbinäre Personen. Meta gibt aber in seinen öffentlich zugänglichen Regeln keine Erklärung zum Umfang der Ausnahme für geschlechtsangleichende Operationen. Dies hat dazu geführt, dass in vielen öffentlichen Kommentaren Verwirrung darüber geäußert wurde, ob im Rahmen der Ausnahmeregelung auch Fotos vor der Operation (um ein Vorher-Nachher-Bild zu erstellen) und Bilder von Transfrauen zulässig sind, bei denen eine Brustvergrößerung vorgenommen wurde. In den internen Richtlinien und „Bekannten Fragen“ wird deutlich, dass diese Ausnahme enger gefasst ist, als es die öffentliche Richtlinie vermuten lässt.

Die Richtlinien von Meta basieren auf binären Unterscheidungen zwischen männlich und weiblich, was zu Problemen führt, wenn Meta versucht, seine Ausnahme für Operationen zur Geschlechtsangleichung zu formulieren. In den Antworten von Meta an das Oversight Board erklärt Meta, dass die Ausnahme für geschlechtsangleichende Operationen bedeutet, dass „unbedeckte weibliche Brustwarzen erlaubt sind, bevor die Person ihre Brüste operativ entfernen lässt, wenn der Inhalt in einem explizit transsexuellen Kontext (weiblich-zu-männlich), nichtbinären oder geschlechtsneutralen Kontext geteilt wird“. Weiter heißt es in den Leitlinien: „Brustwarzen von Transgender-Frauen (Mann-zu-Frau-Transsexualität), die sich einer Brustvergrößerung (Brustoperation) unterzogen haben, sind verboten, es sei denn, es besteht eine Narbe über der Brustwarze“.

Die internen Richtlinien zu chirurgischen Narben und Brustwarzen sind sogar noch verworrener. Die Regeln für Mastektomien erlauben zum Beispiel „Fälle, in denen die Brustwarze aus anderem Gewebe rekonstruiert oder schabloniert oder tätowiert wurde“ und „Fälle, in denen mindestens eine chirurgisch entfernte Brust zu erkennen ist, auch wenn die andere nackte weibliche Brustwarze sichtbar ist.“ Noch verwirrender ist, dass in den Regeln steht: „Bei Mastektomien umfasst die Narbenbildung die Darstellung des Bereichs, in dem sich das entfernte Brustgewebe befand. Die eigentliche Operationsnarbe muss nicht sichtbar sein.“

Die Prüfer werden wahrscheinlich Schwierigkeiten haben, die Regeln anzuwenden, die verlangen, dass sie schnell die geschlechtsspezifischen Merkmale der abgebildeten Person bewerten, um zu entscheiden, ob die Regeln für weibliche Brustwarzen anzuwenden sind, und dann die Geschlechtsidentität der Person zu bewerten und entsprechend zu bestimmen, ob einige Ausnahmen gelten, und dann zu prüfen, ob der Inhalt die Vorstufe oder die Nachwirkung eines chirurgischen Eingriffs darstellt, um welchen chirurgischen Eingriff es sich handelt und das Ausmaß und die Art der sichtbaren Narben, um zu bestimmen, ob andere Ausnahmen gelten können. Das entsprechende Bild von weiblichen Brustwarzen wäre verboten, wenn es von einer Cis-Frau gepostet werden würde, es wäre aber erlaubt, wenn es von einer Person gepostet werden würde, die sich als nichtbinär identifiziert. Das Oversight Board weist auch auf weitere Ausnahmen in Bezug auf Brustwarzen hin, die im Kontext von Protestaktionen, der Geburt, Momenten nach der Geburt und des Stillens stehen, die hier nicht untersucht wurden, die aber ebenfalls geprüft werden müssen und vermutlich zusätzliche interne Kriterien beinhalten.

In Anbetracht der Bedeutung von Meinungsfreiheit zu Fragen der Geschlechtsidentität, der körperlichen Gesundheit, der Geburt und Elternschaft schafft der derzeitige komplexe Flickenteppich von Ausnahmen unnötige Unsicherheit für die Nutzer und birgt das Potenzial für falsch angewendete Regeln, wie dieser Fall zeigt. Durch den Mangel an Klarheit für Nutzer und Moderatoren, der dieser Richtlinie zu Grunde liegt, ist der Gemeinschaftsstandard nicht umsetzbar. Wie weiter unten erläutert, ist das Oversight Board der Ansicht, dass Meta ein Konzept für die Nacktdarstellung von Erwachsenen verfolgen sollte, das sicherstellt, dass alle Menschen ohne Diskriminierung aufgrund ihres Geschlechts oder ihrer Geschlechtsidentität behandelt werden.

II. Legitimes Ziel

Artikel 19 des ICCPR besagt, dass Regierungen, die die Meinungsäußerung einschränken, dies nur zur Förderung legitimer Ziele tun dürfen, die wie folgt lauten: „die Achtung der Rechte oder des Ansehens anderer ... [und] der Schutz der nationalen Sicherheit oder der öffentlichen Ordnung (ordre public) oder der öffentlichen Gesundheit und Moral.“ In dieser Entscheidung werden die Gründe von Meta für die Inhaltsregulierung in ihren Richtlinien im Hinblick auf diese Standards untersucht.

a. Sexuell motivierte Kontaktaufnahme

Meta erklärt in seiner Richtlinie zur sexuell motivierten Kontaktaufnahme, dass sie „Nutzer daran hindern soll, Facebook oder Instagram zu nutzen, um ‚Transaktionen zu erleichtern, die Menschenhandel, Nötigung und nicht einvernehmliche sexuelle Handlungen beinhalten können‘“, die außerhalb der Plattform stattfinden könnten. Dies ist ein Beispiel für den Schutz der Rechte anderer, was ein legitimes Ziel ist.

b. Nacktdarstellung und sexuelle Handlungen von Erwachsenen

Meta lieferte mehrere Begründungen für bestimmte Aspekte seiner Richtlinie zu Nacktheit und sexuellen Handlungen von Erwachsenen, darunter die Verhinderung der Verbreitung von nicht einvernehmlich geteilten intimen Inhalten, der Schutz von Minderjährigen, wenn das Alter der Person unklar ist, und die Tatsache, dass „einige Menschen in unserer Gemeinschaft diese Art von Inhalten als anstößig empfinden könnten“. Meta hat dem Oversight Board auch eine Erläuterung seiner allgemeinen Grundsätze zum Thema Nacktdarstellung vorgelegt. Darin heißt es: „Bei der Ausarbeitung seiner Grundsätze hat Meta (1) die private oder sensible Natur der Bilder berücksichtigt; (2) die Frage, ob bei der Aufnahme und Weitergabe von Nacktbildern die Zustimmung erteilt wurde; (3) das Risiko der sexuellen Ausbeutung und (4) die Frage, ob die Veröffentlichung solcher Bilder zu Belästigungen außerhalb der Plattform führen könnte, insbesondere in Ländern, in denen solche Bilder kulturell anstößig sein können.“

Die meisten dieser Ziele stehen im Einklang mit dem Schutz der Rechte anderer. Die Begründung von Meta, die „Sensibilität der Gemeinschaft“ zu schützen, verdient jedoch eine genauere Untersuchung. Diese Begründung könnte mit dem legitimen Ziel der „öffentlichen Moral“ einhergehen. Das Oversight Board weist jedoch darauf hin, dass das Ziel des Schutzes der „öffentlichen Moral“ manchmal unzulässigerweise von staatlichen Regulierungsbehörden für das Recht auf Redefreiheit herangezogen wurde, um Menschenrechte zu verletzen, insbesondere die von Angehörigen von Minderheiten und gefährdeten Gruppen. Der Menschenrechtsausschuss hat davor gewarnt, dass „das Konzept der Moral aus vielen sozialen, philosophischen und religiösen Traditionen stammt; folglich müssen Einschränkungen ... zum Schutz der Moral auf Prinzipien beruhen, die nicht ausschließlich aus einer einzigen Tradition stammen“ (Menschenrechtsausschuss, Allgemeine Bemerkung Nr. 34).

Während die Menschenrechtsgesetze anerkennen, dass die öffentliche Moral ein legitimes Ziel für die Einschränkung der freien Meinungsäußerung für Staaten darstellen kann und Einschränkungen der öffentlichen Nacktheit auf der ganzen Welt existieren, betont Meta im spezifischen Kontext dieses Falles andere Ziele als die „Sensibilität der Gemeinschaft“. Meta erklärte, dass „[o]bgleich [seine] Richtlinie zu Nacktdarstellung mit dem Schutz der öffentlichen Moral im Einklang steht [...], sie letztlich nicht auf diesem Ziel basiert, weil die moralischen Standards in Bezug auf Nacktheit in den verschiedenen Kulturen so unterschiedlich sind und nicht in großem Umfang umgesetzt werden könnten.“ In vielen Gemeinschaften und Teilen der Welt könnten zum Beispiel Darstellungen von unbedeckten Brüsten von Transgender- und nichtbinären Personen durchaus als Überschreitung der gesellschaftlichen Sensibilität angesehen werden. Dennoch schränkt Meta eine solche Darstellung nicht ein. Darüber hinaus ist das Oversight Board besorgt über die bekannte und immer wiederkehrende unverhältnismäßige Benachteiligung gegenüber Frauen, Transgender- und nichtbinären Personen durch die Richtlinien von Meta (siehe unten). Aus diesen Gründen konzentriert sich das Board auf die anderen Ziele jenseits der „Sensibilität der Gemeinschaft“, die Meta bei der Prüfung seiner menschenrechtlichen Verantwortung vorgebracht hat.

Es ist anzumerken, dass einige der Gründe, die Meta für seine Richtlinie für Nacktdarstellungen von Erwachsenen angibt, die Annahme widerspiegeln, dass der sexuell anzügliche Charakter von weiblichen Brüsten die Grundlage ist. Das Oversight Board erhielt öffentliche Kommentare von vielen Nutzern, die ihre Besorgnis über die vermeintliche Sexualisierung von Körpern von weiblichen, nichtbinären oder Trans-Personen zum Ausdruck brachten, während bei Cis-Männern keine vergleichbare Annahme der Sexualisierung von Bildern getroffen wird. (Siehe z. B. den von InternetLab eingereichten öffentlichen Kommentar 10624).

Das Gremium hat in diesem Fall viele öffentliche Kommentare im Rahmen seiner normalen Verfahren zur Aufklärung von Fällen erhalten. Als ein Gremium, das sich verpflichtet hat, der Nutzerbasis von Meta und den wichtigsten Interessengruppen ein angemessenes Maß an Rechenschaft zu bieten, nimmt das Board die Kommentare als Bestandteil seiner Überlegungen ernst. Wie bei allen Fällen sind wir uns darüber im Klaren, dass diese Kommentare möglicherweise nicht repräsentativ sind für die weltweite Meinung. Das Oversight Board schätzt die Erfahrungen und das Fachwissen, die in den Kommentaren geteilt werden, und unternimmt weiterhin Schritte, um die Communitys, die derzeit möglicherweise nicht an diesem Prozess teilnehmen, stärker zu involvieren.

Außerdem erkennt das Oversight Board an, dass Meta berechtigterweise die Wichtigkeit der Verhinderung bestimmter Schäden in Betracht zieht, die geschlechtsspezifische Auswirkungen haben können. Wie die Sonderberichterstatterin der Vereinten Nationen über Gewalt gegen Frauen feststellt, ist es „wichtig, anzuerkennen, dass das Internet in einem breiteren Umfeld weit verbreiteter und systemischer struktureller Diskriminierung und geschlechtsspezifischer Gewalt gegen Frauen und Mädchen genutzt wird“ (A/HRC/38/47). Außerdem zeigen Umfragen, dass „90 Prozent der Opfer der nicht einvernehmlichen digitalen Verbreitung von Intimbildern Frauen sind.“ (A/HRC/38/47). Meta sollte versuchen, geschlechtsspezifische Benachteiligungen und schädliche Auswirkungen zu begrenzen, sowohl bei der übermäßigen als auch bei der unzureichenden Durchsetzung von Verbotsbestimmungen für Nacktdarstellungen.

III. Notwendigkeit und Verhältnismäßigkeit

Das Oversight Board ist der Ansicht, dass die Richtlinien von Meta, so wie sie formuliert und durchgesetzt wurden, mehr Inhalt als nötig umfassen. Keine der Richtlinien steht in einem angemessenen Verhältnis zu den Problemen, die sie zu lösen versuchen.

a. Sexuell motivierte Kontaktaufnahme

Die Definitionen der Richtlinie zur sexuell motivierten Kontaktaufnahme sind zu weit gefasst und erfassen zwangsläufig eine beträchtliche Anzahl von Inhalten, die nichts mit einer sexuell motivierten Kontaktaufnahme zu tun haben. Meta selbst räumt das Risiko einer irrtümlichen Durchsetzung ein und erklärt, dass es „sich bewusst ist, dass einige Reviewer Inhalte fälschlicherweise als implizite sexuell motivierte Kontaktaufnahme ansehen und entfernen (auch wenn es sich nicht um solche handelt), weil sie die internen Prüferrichtlinien zu technisch anwenden.“ Meta erklärte ferner:

Derzeit betrachten wir auf der Grundlage unserer „Bekannten Fragen“ das Teilen, Erwähnen oder Bereitstellen von Kontaktinformationen sozialer oder digitaler Identitäten als ein implizites Angebot oder eine Anfrage zur sexuell motivierten Kontaktaufnahme. [...] Die Anwendung dieser Richtlinie kann jedoch zu einer übermäßigen Durchsetzung in Fällen führen, in denen beispielsweise ein Fotomodell von einem Reviewer als in einer sexuell anzüglichen Weise posierend wahrgenommen wird (erfüllt das Kriterium „sexuell anzügliches Element“) und der Fotografen daraufhin markiert wird, um ihm eine Bewertung für das Bild zu geben (erfüllt das Kriterium „Angebot oder Anfrage“). Diese Art von Inhalt ist nicht verletzend, da keine Absicht besteht, zu sexuellen Handlungen aufgefordert zu werden. Dennoch kann der Inhalt (entgegen der Richtlinie) entfernt werden, da er ansonsten die beiden oben genannten Kriterien erfüllt.

Die UNESCO hat in einem Bericht über die Bildung im digitalen Raum das Risiko einer irrtümlichen Überregulierung beschrieben. Sie stellt fest, dass „strengen Vorschriften im Zusammenhang mit der Weitergabe expliziter Bilder dazu führen, dass in einigen Fällen Bildungsmaterialien, die online veröffentlicht werden, um das Lernen über den Körper oder sexuelle Beziehungen zu unterstützen, von Moderatoren fälschlicherweise für unangemessene, explizite Inhalte gehalten und daher von allgemeinen Internetplattformen entfernt werden.“ Das Oversight Board verweist auch auf die vielen öffentlichen Kommentare, die es erhalten hat und in denen es um irrtümliche Löschungen nach dieser Richtlinie ging. So schreibt beispielsweise ACON (eine Nicht-Regierungsorganisation für HIV-Aufklärung in Australien), dass Inhalte, die in einer sexpositiven Art und Weise für die HIV-Prävention warben, sowie Inhalte für Aufklärungsworkshops wegen sexuell motivierter Kontaktaufnahme entfernt wurden. Das hat dazu geführt, dass die Organisation für ihre Inhalte eine Sprache und Ausdrucksform wählte, mit der Meta-Entfernungen vermieden wurden, anstatt die beste Sprache zu wählen, um ihre Zielgruppen zu erreichen (Öffentlicher Kommentar 10550). Dies wurde auch von Joanna Williams bestätigt, einer Forscherin, die feststellte, dass neun von zwölf der von ihr befragten Organisationen für sexuelle Gesundheit berichteten, dass sie durch Metas Moderation in diesem Bereich negativ beeinflusst wurden (Öffentlicher Kommentar 10613).

b. Nacktdarstellung und sexuelle Handlungen von Erwachsenen

Zusätzlich zu den oben beschriebenen Herausforderungen bei der Festlegung durchsetzbarer und skalierbarer Regeln, die auf Metas Wahrnehmung von Geschlecht und Geschlechtsidentität beruhen, stellt das Oversight Board auch fest, dass Metas Richtlinien zu Nacktdarstellung von Erwachsenen einige Arten von Inhalten und Ausdrucksformen unverhältnismäßig stark einschränken. Die Richtlinien schreiben die Entfernung von Inhalten vor, obwohl weniger restriktive Maßnahmen die erklärten Richtlinienziele auch umsetzen könnten.

Meta wendet bereits eine Reihe von Durchsetzungsmaßnahmen an, die über die Entfernung hinausgehen. Dazu gehören die Verwendung von Warnbildschirmen und Altersbeschränkungen von Inhalten, sodass diese nur von Nutzern über 18 Jahren angesehen werden können. Darüber hinaus wendet Meta bereits solche Maßnahmen im Rahmen seiner Richtlinie zu Nacktdarstellung und sexuellen Handlungen von Erwachsenen an – auch für künstlerische Darstellungen sexueller Handlungen. Meta könnte auch automatisierte und menschliche Moderatoren einsetzen, um genauer und kontextspezifisch zu bestimmen, wann ein Nackt-Kontext tatsächlich sexueller Natur ist, unabhängig vom Geschlecht des abgebildeten Körpers. Meta könnte darüber hinaus eine Vielzahl von Maßnahmen ergreifen, um die Sichtbarkeit von Nacktdarstellungen für Nutzer, die diese nicht sehen wollen, einzuschränken, indem es ihnen mehr Kontrolle über die Inhalte gibt. Meta verfügt außerdem über eine Reihe von speziellen Richtlinien zu Themen, die auch in der Richtlinie zu Nacktdarstellungen von Erwachsenen behandelt werden (z. B. die Richtlinie gegen sexuellen Missbrauch von Erwachsenen und die Richtlinien gegen Nacktdarstellungen und sexuellen Missbrauch von Kindern), die verstärkt werden könnten.

Das Oversight Board stellt fest, dass die Durchsetzungspraktiken von Meta Berichten zufolge zu einer hohen Anzahl von falsch-positiven Ergebnissen führen, d. h. zur irrtümlichen Entfernung von Inhalten, die keine Verstöße darstellen. Der letzte Meta-Bericht zur Durchsetzung der Gemeinschaftsstandards für Instagram ( April–Juni 2022) zeigt, dass 21 % der Entfernungen gemäß der Richtlinie zu Nacktdarstellungen und sexuellen Handlungen von Erwachsenen, gegen die Einspruch erhoben wurde, dazu führten, dass der Inhalt wiederhergestellt wurde. Das Gremium erhielt auch eine große Anzahl öffentlicher Kommentare über die irrtümliche Entfernung von Inhalten im Rahmen der Richtlinie zu Nacktdarstellungen von Erwachsenen.

Nichtdiskriminierung

Es gibt Belege dafür, dass die Richtlinien von Meta und die Durchsetzung der Richtlinie zu Nacktdarstellung und sexuellen Handlungen von Erwachsenen zu unverhältnismäßigen Auswirkungen insbesondere für Frauen und LGBTQI+-Personen führen kann. Diese Auswirkungen spiegeln sich sowohl in der Richtlinie als auch in der Durchsetzung wider und schränken die Möglichkeiten der einzelnen Gruppen ein, sich auszudrücken, sich gegen Vorurteile zu wehren und ihre Sichtbarkeit in der Gesellschaft zu erhöhen.

Während dieser Fall transsexuelle und nichtbinäre Personen betraf, sind die Durchsetzungsfehler in diesem Fall auf eine zugrundeliegende Richtlinie zurückzuführen, die sich auch auf Frauen auswirkt – insbesondere, da bei Meta in Fällen, in denen es keinen eindeutigen Kontext gibt, standardmäßig von weiblicher Nacktheit ausgegangen wird. Daher wird in diesem Abschnitt untersucht, wie sich die Richtlinien von Meta sowohl auf LGBTQI+-Personen als auch auf Frauen auswirken. Die große Anzahl öffentlicher Einreichungen in diesem Fall lieferte viele Beispiele für die Auswirkungen, die diese Richtlinien haben können.

Das Recht auf freie Meinungsäußerung ist allen Menschen garantiert; sie dürfen dabei nicht aufgrund ihres „Geschlechts“ oder eines „anderen Aspekts“ diskriminiert werden (Artikel 2, Absatz 1, ICCPR). Dazu gehören auch die sexuelle Orientierung und die Geschlechtsidentität (Toonen gegen Australien (1994); A/HRC/19/41, Absatz 7). Die Rechtsprechung des Menschenrechtsausschusses stellt fest, dass „nicht jede Differenzierung aufgrund der in Artikel 26 des Pakts aufgeführten Gründe einer Diskriminierung gleichkommt, solange sie auf vernünftigen und objektiven Kriterien beruht und ein Ziel verfolgt, das nach dem Pakt legitim ist.“ Nepomnyashchiy gegen Russland, Menschenrechtsausschuss, 2018, Absatz 7.5 (CCPR/C/123/D/2318/2013).

Das Übereinkommen zur Beseitigung jeder Form von Diskriminierung der Frau (Convention on the Elimination of All Forms of Discrimination Against Women, CEDAW) verbietet „jede Unterscheidung, jeden Ausschluss oder jede Beschränkung aufgrund des Geschlechts, die zur Folge oder zum Ziel hat, dass die Anerkennung, der Genuss oder die Ausübung der Menschenrechte und Grundfreiheiten durch Frauen [...] auf der Grundlage der Gleichberechtigung von Männern und Frauen im politischen, wirtschaftlichen, sozialen, kulturellen, zivilen oder jedem anderen Bereich beeinträchtigt oder zunichte gemacht wird“ (CEDAW, Art. 1). Das Oversight Board stellt fest, dass sich die internationalen Menschenrechtsgremien nicht mit den menschenrechtlichen Auswirkungen der Erlaubnis oder des Verbots von einvernehmlicher Nacktheit von Erwachsenen und deren möglichen diskriminierenden Auswirkungen befasst haben.

In den UN-Leitprinzipien heißt es, dass „Unternehmen besonders auf nachteilige menschenrechtliche Auswirkungen auf Angehörige von Personen- oder Bevölkerungsgruppen achten sollten, die unter Umständen einem erhöhten Risiko der Vulnerabilität oder Marginalisierung ausgesetzt sind“ (UNGPs, Prinzipien 18 und 20). Der Sonderberichterstatter für die Förderung und den Schutz des Rechts auf Meinungsfreiheit und freie Meinungsäußerung hat Technologieunternehmen aufgefordert, „aktiv nach den Anliegen von Gemeinschaften zu suchen, die historisch von Zensur und Diskriminierung bedroht sind, und diese zu berücksichtigen“ ( A/HRC/38/35, Absatz 48). Auch die Arbeitsgruppe der Vereinten Nationen für Wirtschaft und Menschenrechte hat den Technologieunternehmen empfohlen, dafür zu sorgen, dass „künstliche Intelligenz und Automatisierung keine unverhältnismäßigen negativen Auswirkungen auf die Menschenrechte von Frauen haben“ (Gender Dimensions Handbook).

Angesichts der Bedeutung von Social-Media-Plattformen als Ausdrucksplattform für diskriminierte Personen hat das Oversight Board immer wieder seine Erwartung geäußert, dass Meta besonders sensibel auf die Möglichkeit der unrechtmäßigen Entfernung von Inhalten von, über oder mit Mitgliedern dieser Gruppen reagiert. Wie das Board bereits in seiner „Wampumgürtel-Entscheidung“ (2021-012-FB-UA) angemerkt hatte, bei der es um künstlerische Ausdrucksformen indigener Personen ging, reicht es nicht aus, Metas Durchsetzung der Facebook-Richtlinie zu Hassrede gegenüber der gesamten Nutzerschaft zu bewerten, da auch die Folgen dieser Durchsetzung für bestimmte Gruppen berücksichtigt werden müssen. In ähnlicher Weise bestätigte das Oversight Board im Fall „Äußerungen in arabischer Sprache“, dass „die Übermoderation von Äußerungen von Nutzern, die verfolgten Minderheitengruppen angehören, eine ernsthafte Bedrohung ihrer Meinungsfreiheit darstellt“ und äußerte sich besorgt darüber, wie Ausnahmen in Metas Richtlinien (in diesem Fall die Richtlinie gegen Hassrede) auf Äußerungen von Randgruppen angewendet wurden (2022-003-IG-UA).

Die Folgen von Metas Entscheidungen führen dazu, dass Frauen, transsexuellen und nichtbinären Menschen auf den Plattformen von Meta nicht die gleichen Ausdrucksmöglichkeiten zur Verfügung stehen. Metas derzeitige Richtlinie zu Nacktheit und sexuellen Handlungen von Erwachsenen betrachtet weibliche Brüste und Brustwarzen als grundsätzlich sexuell und damit als verboten, es sei denn, sie wurden oder werden operiert oder sind beim Stillen zu sehen. Anstatt Maßnahmen zu ergreifen, die sicherstellen, dass die Zensur einige Gruppen nicht unverhältnismäßig stark beeinträchtigt, verstärkt die Richtlinie von Meta solche Auswirkungen auf diese Gruppen und hält sie aufrecht.

Diese Fälle verdeutlichen die unverhältnismäßigen Auswirkungen von Metas Richtlinie für Menschen, die sich als LGBTQI+ identifizieren, da Inhalte mehrfach von den Classifiern für Nacktdarstellung und sexuelle Handlungen von Erwachsenen identifiziert wurden, obwohl sie nicht in den Anwendungsbereich der Richtlinie fallen. Das Oversight Board ist der Ansicht, dass diese Fälle sinnbildlich für umfassendere Problemstellungen sind. So hat die Studie von Haimson et al. ergeben, dass Transgender-Personen in hohem Maße über die Entfernung von Inhalten und die Löschung von Konten berichten, in der Regel aufgrund von Nacktdarstellungen und sexuellen Inhalten.

Auch die Durchsetzung der Richtlinienentscheidungen von Meta hat unverhältnismäßig starke Auswirkungen auf Frauen. Eine Studie von Witt, Suzor und Higgins fand heraus, dass bis zu 22 % der Bilder von Frauenkörpern, die von Instagram entfernt wurden, offensichtlich False Positives waren. Die unterschiedlichen Auswirkungen auf Frauenkörper wurden auch in öffentlichen Kommentaren angemerkt (siehe z. B. den öffentlichen Kommentar 10616 von Dr. Zahra Stardust).

Diese Standardhaltung zu Nacktheit hat auch schwerwiegende Auswirkungen in Kontexten, in denen Frauen traditionell mit nacktem Oberkörper auftreten können. Der Sonderberichterstatter für Meinungsfreiheit und freie Meinungsäußerung hat die Unternehmen aufgefordert, mit indigenen Gruppen auf der ganzen Welt zusammenzuarbeiten, um „bessere Indikatoren für die Berücksichtigung des kulturellen und künstlerischen Kontexts bei der Bewertung von Inhalten mit Nacktdarstellung zu entwickeln“ (Absatz 54, A/HRC/38/35).

Zusätzlich zu diesen richtlinienbezogenen Fragen im Hinblick auf das Recht auf Nichtdiskriminierung warfen diese Fälle auch durchsetzungsbezogene Bedenken im Zusammenhang mit dem Recht auf Nichtdiskriminierung auf. Meta sollte darauf achten, dass Inhalte von Nutzern, die sich mit Randgruppen identifizieren, einem größeren Risiko wiederholter oder böswilliger Meldungen ausgesetzt sind, bei denen Nutzer nicht rechtswidrige Inhalte melden, um Personen zu belasten oder zu schikanieren. Diese Probleme wurden auch in mehreren öffentlichen Kommentaren angesprochen (siehe z. B. den öffentlichen Kommentar 10596 von GLAAD und den öffentlichen Kommentar 10628 von The Human Rights Campaign Foundation).

Diese Fälle haben gezeigt, dass mehrere Meldungen, die mehrere Überprüfungen nach sich ziehen, die Wahrscheinlichkeit von irrtümlichen Löschungen erhöhen können. In diesem Fall führten die meisten Nutzermeldungen zu einem Review durch Mitarbeiter, die den Inhalt als nicht verletzend einstuften. Der Inhalt wurde jedoch weiterhin gemeldet, bis die Reviewer ihn fälschlicherweise als verletzend einstuften und entfernten.

Meta sollte sich dafür einsetzen, Richtlinien zu entwickeln und umzusetzen, die all diese Bedenken berücksichtigen. Dazu könnten einheitlichere Richtlinien in Bezug auf Nacktdarstellung gehören, die ohne Diskriminierung aufgrund des Geschlechts oder der Geschlechtsidentität gelten. Sie könnten auch kontextbezogenere Bestimmungen darüber beinhalten, welche Inhalte sexuell sind, solange diese Bestimmungen nicht auf diskriminierenden Kriterien beruhen.

Das Oversight Board nimmt zur Kenntnis, dass Meta in seiner Richtlinie zur sexuellen Ausbeutung von Erwachsenen eine eigene Richtlinie zum Umgang mit nicht einvernehmlich geteilten intimen Bildern erstellt hat. Dies ist ein Bereich, den das Unternehmen vorrangig durchsetzen will (siehe z. B. die Einführung einer automatischen Erkennungstechnologie, um zu verhindern, dass nicht einvernehmlich geteilte Bilder wiederholt veröffentlicht werden). Wenn Meta in Erwägung zieht, seinen Ansatz zum Umgang mit Nacktheit auf der Plattform zu ändern, sollte das Unternehmen genau prüfen, inwieweit die Richtlinie zu Nacktdarstellung von Erwachsenen und sexuellen Handlungen vor dem Teilen von nicht einvernehmlichem Bildmaterial schützt und ob Änderungen an der Richtlinie zur sexuellen Ausbeutung von Erwachsenen oder ihrer Durchsetzung erforderlich sind, um ihre Wirksamkeit zu stärken.

Das Oversight Board erkennt auch an, dass Meta ein berechtigtes Interesse daran hat, sexuelle oder pornografische Inhalte auf seiner Plattform zu beschränken. Das Gremium ist jedoch der Ansicht, dass die entsprechenden Zielsetzungen mit Ansätzen erreicht werden können und sollten, die alle Nutzer ohne Diskriminierung behandeln.

Einige Mitglieder des Oversight Boards sind der Meinung, dass Meta versuchen sollte, die diskriminierenden Auswirkungen seiner derzeitigen Richtlinie zu verringern, indem es eine Richtlinie zur Nacktdarstellung von Erwachsenen einführt, die nicht auf Unterschieden des Geschlechts oder der Geschlechtszugehörigkeit basiert. Sie verwiesen auf die Bestimmungen des Übereinkommens zur Beseitigung jeder Form von Diskriminierung der Frau (CEDAW) über die Beseitigung geschlechtsspezifischer Stereotypen (siehe z. B. Artikel 5 und 10) und auf Metas ausdrückliches Bekenntnis zu CEDAW in der Unternehmensrichtlinie zu Menschenrechten. Die Mitglieder kamen zu dem Schluss, dass im Zusammenhang mit der Richtlinie zu Nacktdarstellung diese internationalen Menschenrechtsstandards und Metas eigene Verpflichtung zur Nichtdiskriminierung die Beseitigung stereotyper Unterscheidungen unterstützen. Diese Gruppe von Mitgliedern ist zu dem Schluss gekommen, dass die Umstellung auf eine Richtlinie, die nicht auf sexuellen oder geschlechtsspezifischen Unterschieden basiert, angesichts der Unternehmenswerte und -verpflichtungen der beste Weg für Meta wäre, seiner menschenrechtlichen Verantwortung als Unternehmen gerecht zu werden. Diese Mitglieder weisen darauf hin, dass sich Normen und Leitlinien weiterentwickeln sollten, um Konventionen zu berücksichtigen, die diskriminierende Auswirkungen haben, da viele Formen der Diskriminierung weit verbreitete gesellschaftliche Konventionen darstellen oder weiterhin darstellen werden.

Unter den Mitgliedern des Oversight Boards gab es einige Meinungsverschiedenheiten zu diesen Fragen. Einige Mitglieder stimmten grundsätzlich zu, dass Meta sich nicht auf das Geschlecht oder die Geschlechtsidentität stützen sollte, um die Meinungsäußerung einzuschränken, waren aber sehr skeptisch, ob Meta in der Lage sein würde, ohne eine geschlechtsspezifische Richtlinie zu Nacktdarstellung wirksam gegen nicht einvernehmlich geteilte intime Bilder und andere potenzielle Schäden vorzugehen. Andere Mitglieder des Gremiums sind der Ansicht, dass die geltenden Menschenrechtsgrundsätze zur Nichtdiskriminierung Unterscheidungen aufgrund geschützter Merkmale zulassen, solange sie „auf vernünftigen und objektiven Kriterien beruhen und ein Ziel verfolgen, das nach dem Pakt legitim ist“ (Nepomnyashchiy gegen Russland, Menschenrechtsausschuss, 2018, Absatz 7.5 (CCPR/C/123/D/2318/2013). Daher ist eine geschlechtsneutrale Richtlinie zu Nacktdarstellung nicht erforderlich und könnte andere negative Auswirkungen hervorrufen oder verschlimmern.

Die Mitglieder des Gremiums, die eine geschlechtsneutrale Richtlinie zu Nacktdarstellung von Erwachsenen unterstützen, erkennen an, dass nach den internationalen Menschenrechtsstandards, wie sie auf Staaten angewandt werden, Unterscheidungen aufgrund geschützter Merkmale auf der Grundlage vernünftiger und objektiver Kriterien vorgenommen werden dürfen, wenn sie einem legitimen Zweck dienen. Sie sind nicht der Meinung, dass die Unterscheidungen innerhalb der Richtlinie zu Nacktdarstellung von Erwachsenen von Meta diesen Standard erfüllen. Sie weisen außerdem darauf hin, dass Meta als Unternehmen Menschenrechtsverpflichtungen eingegangen ist, die nicht vereinbar sind mit einem Ansatz, der die Meinungsäußerung im Internet aufgrund der Auffassung des Unternehmens über Geschlecht und Geschlechtsidentität einschränkt.

Der Gemeinschaftsstandard zu Nacktheit und sexuellen Handlungen von Erwachsenen wirkt sich unverhältnismäßig stark auf Frauen und LGBTQI+-Personen aus und stützt sich auf subjektive und spekulative Wahrnehmungen von Geschlecht und Geschlechtsidentität, die nicht praktikabel sind, wenn es um die Moderation von Inhalten in großem Umfang geht. In Anbetracht der Verwirrung um die Regeln und ihre Durchsetzung sowie der unverhältnismäßigen und diskriminierenden Auswirkungen von Metas aktueller Richtlinie zur Nacktdarstellung von Erwachsenen und sexuellen Handlungen empfiehlt das Oversight Board Meta, klare, objektive und die Rechte achtende Kriterien für die gesamte Richtlinie zur Nacktdarstellung von Erwachsenen festzulegen, um eine Behandlung aller Menschen zu gewährleisten, die mit internationalen Menschenrechtsstandards vereinbar ist und keine Diskriminierung aufgrund des Geschlechts oder der Geschlechtsidentität beinhaltet. Meta sollte zunächst eine umfassende menschenrechtliche Folgenabschätzung vornehmen, um die Auswirkungen der Einführung solcher Kriterien zu prüfen. Dazu gehört auch die Einbeziehung von Interessengruppen aus verschiedenen ideologischen, geografischen und kulturellen Kontexten. In dem Maße, in dem diese Bewertung potenzielle negative Auswirkungen aufzeigt, sollte die Umsetzung der neuen Richtlinie einen Plan zur Abmilderung dieser negativen Auswirkungen beinhalten. Das Oversight Board bittet sechs Monate nach dem Datum der Veröffentlichung dieser Entscheidung um einen Bericht zur Bewertung und Konzeption.

9. Entscheidung des Oversight Boards

Das Oversight Board hebt die ursprüngliche Entscheidung von Meta auf, die beiden Beiträge zu entfernen, und verlangt, sie wiederherzustellen.

10. Stellungnahme zu den Richtlinien

Content-Richtlinie

1. Um alle Nutzer und Nutzerinnen auf gleiche Weise zu behandeln und den Moderatoren und der Öffentlichkeit eine praktikable Leitlinie zu Nacktdarstellungen zu vermitteln, sollte Meta klare, objektive und die Rechte achtende Kriterien zu definieren, die die Gesamtheit der Richtlinien zu Nacktdarstellung und sexuellen Handlungen von Erwachsenen regeln und eine Gleichbehandlung aller Menschen sicherstellen, die mit internationalen Menschenrechtsstandards im Einklang steht, ohne Diskriminierung aufgrund des Geschlechts oder der Geschlechtsidentität. Meta sollte zunächst eine umfassende menschenrechtliche Folgenabschätzung vornehmen, um die Auswirkungen der Einführung solcher Kriterien zu prüfen. Dazu gehört auch die Einbeziehung von Interessengruppen aus verschiedenen ideologischen, geografischen und kulturellen Kontexten. In dem Maße, in dem diese Bewertung potenzielle negative Auswirkungen aufzeigt, sollte die Umsetzung der neuen Richtlinie einen Plan zur Abmilderung dieser negativen Auswirkungen beinhalten.

2. Um den Nutzern mehr Klarheit zu verschaffen, sollte Meta den Nutzern in den öffentlichen Gemeinschaftsstandards genauer erklären, was ein „Angebot für oder eine Anfrage“ nach Sex ist (einschließlich Links zu Websites Dritter) und was sexuell anzügliche Posen sind. Das Oversight Board wird diese Empfehlung als umgesetzt betrachten, wenn eine Erläuterung dieser Begriffe mit Beispielen in den Gemeinschaftsstandard zur sexuell motivierten Kontaktaufnahme aufgenommen wird.

Durchsetzung

3. Um sicherzustellen, dass Metas interne Kriterien für die Richtlinien zur sexuell motivierten Kontaktaufnahme nicht dazu führen, dass mehr Inhalte entfernt werden als gemäß der öffentlich zugänglichen Richtlinien vorgesehen ist und damit nicht fälschlicherweise nicht sexuelle Inhalte entfernt werden, sollte Meta seine internen Richtlinien für Prüfer überarbeiten, um sicherzustellen, dass die Kriterien die öffentlich zugänglichen Regeln widerspiegeln und einen klareren Zusammenhang zwischen dem „Angebot oder der Anfrage“ und dem „sexuell anzüglichen Element“ verlangen. Das Oversight Board wird dies als umgesetzt betrachten, wenn Meta dem Gremium seine aktualisierten internen Richtlinien vorlegt, die diese überarbeiteten Kriterien widerspiegeln.

* Anmerkung zur Vorgehensweise:

Die Entscheidungen des Oversight Boards werden von einem Panel aus fünf Mitgliedern vorbereitet und von einer Mehrheit des Boards bestätigt. Entscheidungen des Gremiums geben nicht zwangsläufig die persönliche Meinung aller Mitglieder wieder.

Für diese Fallentscheidung wurde eine unabhängige Studie vom Gremium in Auftrag gegeben. Ein unabhängiges Forschungsinstitut mit Sitz an der Universität Göteborg und ein Team aus über 50 Sozialwissenschaftlern auf sechs Kontinenten sowie mehr als 3.200 Länderexperten aus der ganzen Welt stellten ihr Expertenwissen zum soziopolitischen und kulturellen Kontext zur Verfügung. Weitere Unterstützung erhielt das Gremium durch Duco Advisors, eine Beratungsfirma mit Schwerpunkt auf die Schnittstelle zwischen Geopolitik, Vertrauen, Sicherheit und Technologie.