Äußerungen in arabischer Sprache

Das Oversight Board hob Metas ursprüngliche Entscheidung auf, einen Instagram-Beitrag zu entfernen, der Bilder mit arabischen Wörtern zeigte, die einem Nutzer zufolge abwertend für Männer mit „effeminate mannerisms“ (feminin anmutendem Verhalten) verwendet werden können. Der Inhalt fällt unter eine Ausnahmeregelung von Metas Richtlinie zu Hassrede und hätte nicht entfernt werden sollen.

Zum Fall

Im November 2021 postete ein öffentliches Instagram-Konto, das sich selbst als Plattform für Diskussionen über queere Themen in der arabischen Kultur bezeichnet, mehrere Bilder in einem Carousel. Das ist ein einzelner Instagram-Post, der bis zu zehn Bilder mit einer einzigen Bildunterschrift enthalten kann. Darin wird sowohl auf Arabisch als auch auf Englisch erklärt, dass jedes Bild ein anderes Wort zeigt, das in der arabischen Welt abwertend für Männer mit „effeminate mannerisms“ (feminin anmutendem Verhalten) verwendet werden kann, darunter die Begriffe „zamel“, „foufou“ und „tante/tanta“. Der Nutzer gab an, dass der Beitrag dazu dienen sollte, „to reclaim [the] power of such hurtful terms“ (gegen solche verletzenden Begriffe einzutreten).

Meta hatte den Beitrag zunächst entfernt mit der Begründung, dass er gegen seine Richtlinie zu Hassrede verstoße. Nachdem der Nutzer Einspruch erhoben hatte, stellte Meta den Inhalt jedoch wieder her. Allerdings wurde der Inhalt dann von einem anderen Nutzer gemeldet, woraufhin Meta ihn erneut entfernte mit der Begründung, dass er gegen die Richtlinie zu Hassrede verstoße. Meta zufolge wurde der Inhalt, bevor das Board diesen Fall auswählte, für eine weitere interne Überprüfung eskaliert, die ergab, dass er nicht gegen die Richtlinie zu Hassrede des Unternehmens verstoße. Anschließend stellte Meta den Inhalt auf Instagram wieder her. Meta erklärte, dass die ursprüngliche Entscheidung, den Inhalt zu entfernen, darauf beruhte, dass die überprüften Bilder die Begriffe „z***l“ und „t***e/t***a“ enthielten.

Wichtige Erkenntnisse

Das Board hält die Entfernung dieses Inhalts für einen eindeutigen Fehler, da sie gegen Metas Richtlinie zu Hassrede verstieß. Der Beitrag enthält zwar Beleidigungen, doch der Inhalt fällt unter eine Ausnahmeregelung für Ausdrücke, die „auf die eigene Person bezogen oder als Ausdruck von Unterstützung verwendet werden“, sowie unter eine Ausnahmeregelung, die Hassrede erlaubt, „um dies zu verurteilen oder dafür zu sensibilisieren“. Der Nutzer gab an, dass er die Verwendung dieser Beleidigungen weder „condone or encourage the use [of]“ (gutheißt noch unterstützt) und dass sein Ziel darin bestand, „to reclaim [the] power of such hurtful terms“ (gegen solche verletzenden Begriffe einzutreten). Daran hätte der Moderator erkennen können, dass der Beitrag möglicherweise unter eine Ausnahmeregelung fällt.

Für Personen der LGBTQIA+-Community in Ländern, in denen das Ausleben ihrer Identität unter Strafe gestellt wird, ist Social Media oft die einzige Möglichkeit, ihre Meinung frei zu äußern. Die Übermoderation von Beiträgen von Nutzern, die verfolgten Minderheiten angehören, stellt eine ernsthafte Bedrohung für deren Recht auf freie Meinungsäußerung dar. Das Board hat Bedenken, dass Meta die Ausnahmeregelungen der Richtlinie zu Hassrede nicht konsequent auf Beiträge von Randgruppen anwendet.

In diesem Fall waren drei verschiedene Moderatoren irrtümlicherweise der Ansicht, dass der Inhalt gegen die Richtlinie zu Hassrede verstößt. Diese Fehler deuten darauf hin, dass die Anweisungen Metas an Moderatoren, Beiträge mit Beleidigungen prüfen, möglicherweise unzureichend sind. Das Board ist darüber besorgt, dass Prüfer möglicherweise nicht über ausreichende Ressourcen wie Kapazitäten oder Schulungen verfügen, um Fehler wie den hier beobachteten zu vermeiden.

Moderatoren Anweisungen auf Englisch für die Überprüfung von Inhalten in anderen Sprachen zu geben, wie es Meta derzeit tut, ist von Natur aus schwierig. Damit Moderatoren besser einschätzen können, wann Ausnahmeregelungen für Inhalte, die Beleidigungen enthalten, gelten, empfiehlt das Board, dass Meta seine internen Leitlinien in die von seinen Moderatoren verwendeten arabischen Dialekte übersetzen lässt.

Das Board ist außerdem der Ansicht, dass Meta regelmäßig die Meinung von Minderheiten einholen muss, die selbst mit länder- und kulturspezifischen Beleidigungen konfrontiert werden. So kann das Unternehmen nuancierte Beleidigungslisten erstellen und seinen Moderatoren angemessene Anweisungen für die Anwendung von Ausnahmeregelungen der Richtlinie zu Hassrede geben. Meta sollte zudem transparenter machen, wie es seine marktspezifischen Beleidigungslisten erstellt, prüft und das Verbot der darin aufgeführten Ausdrücke durchsetzt.

Die Entscheidung des Oversight Boards

Das Oversight Board hebt die ursprüngliche Entscheidung von Meta auf, den Inhalt zu entfernen.

In einer Stellungnahme zur Richtlinie empfiehlt das Board folgende Maßnahmen:

• Die internen Implementierungsstandards und bekannten Fragen sollten in die arabischen Dialekte übersetzt werden, die Metas Content-Moderatoren verwenden. Dies könnte die übermäßige Durchsetzung der Richtlinie zu Hassrede in arabischsprachigen Regionen reduzieren, da Moderatoren so besser einschätzen können, wann für Inhalte mit Beleidigungen Ausnahmeregelungen gelten.
• Meta sollte eine eindeutige Erklärung dazu veröffentlichen, wie es seine marktspezifischen Beleidigungslisten erstellt. Diese sollte deutlich machen, welche Prozesse und Kriterien bestimmen, welche Beleidigungen und Länder den einzelnen marktspezifischen Listen zugewiesen werden.
• Meta sollte eine eindeutige Erklärung dazu veröffentlichen, wie es das Verbot der Ausdrücke auf seinen marktspezifischen Beleidigungslisten durchsetzt. Diese sollte die Verfahren und Kriterien enthalten, mit denen genau bestimmt wird, wann und wo das Verbot von Beleidigungen durchgesetzt wird, sei es in Bezug auf Beiträge, die geografisch aus der betreffenden Region stammen, die von außerhalb stammen, sich aber auf die betreffende Region beziehen, und/oder in Bezug auf alle Nutzer in der betreffenden Region, unabhängig davon, in welcher Region der Beitrag veröffentlicht wurde.
• Meta sollte eine eindeutige Erklärung dazu veröffentlichen, wie es seine marktspezifischen Beleidigungslisten prüft. Diese sollte die Prozesse und Kriterien enthalten, die bestimmen, welche Beleidigungen aus den marktspezifischen Listen von Meta entfernt und welche in diese Listen aufgenommen werden.

* Fallzusammenfassungen bieten einen Überblick über den Fall und haben keinen Präzedenzwert.

Ausführliche Fallentscheidung

1.Zusammenfassung der Entscheidung

Das Oversight Board hebt die ursprüngliche Entscheidung von Meta auf, einen Instagram-Beitrag eines Kontos zu entfernen, das „queer narratives in Arabic history and popular culture“ (queere Themen in der arabischen Geschichte und Popkultur) thematisiert. Der Inhalt fällt unter eine Ausnahmeregelung von Metas Richtlinie zu Hassrede, da er über die negative Verwendung homophober Beleidigungen durch andere berichtet, sich damit auseinandersetzt, sie verurteilt und die fraglichen Beleidigungen in einem eindeutig positiven Kontext verwendet.

2. Beschreibung des Falls und Hintergrundinformationen

Im November 2021 postete ein öffentliches Instagram-Konto, das sich selbst als Plattform für Diskussionen über queere Themen in der arabischen Kultur bezeichnet, mehrere Bilder in einem Carousel. Das ist ein einzelner Instagram-Post, der bis zu zehn Bilder mit einer einzigen Bildunterschrift enthalten kann. Darin erklärt der Nutzer sowohl auf Arabisch als auch auf Englisch, dass jedes Bild ein anderes Wort zeigt, das in der arabischen Welt abwertend für Männer mit „effeminate mannerisms“ (feminin anmutendem Verhalten) verwendet werden kann, darunter die Begriffe „zamel“, „foufou“ und „tante“/„tanta“. In der Bildunterschrift erklärt der Nutzer, dass er „not condone or encourage the use of these words“ (die Verwendung dieser Wörter weder gutheißt noch unterstützt), dass er jedoch schon mit einem dieser Begriffe beschimpft wurde und der Beitrag dazu dienen sollte, „to reclaim [the] power of such hurtful terms“ (gegen solche verletzenden Begriffe einzutreten). Die externen Experten des Boards bestätigten, dass die in dem Inhalt zitierten Begriffe häufig als Beleidigungen verwendet werden.

Der Inhalt wurde etwa 9.000-mal aufgerufen und erhielt rund 30 Kommentare und etwa 2.000 Reaktionen. Bereits drei Stunden nach der Veröffentlichung war der Inhalt gemeldet worden: Ein Nutzer meldete den Inhalt als „Nacktheit oder sexuelle Handlungen von Erwachsenen“; ein anderer Nutzer meldete ihn als „sexuell motivierte Kontaktaufnahme“. Jede Meldung wurde separat von verschiedenen menschlichen Moderatoren bearbeitet. Der Moderator, der die erste Meldung prüfte, ergriff keine weiteren Maßnahmen, doch der Moderator, der die zweite Meldung prüfte, entfernte den Inhalt, weil er seiner Ansicht nach gegen Metas Richtlinie zu Hassrede verstieß. Der Nutzer legte gegen diese Entfernung Einspruch ein, woraufhin ein dritter Moderator den Inhalt auf der Plattform wiederherstellte. Nach dieser Wiederherstellung wurde der Inhalt erneut gemeldet – als Hassrede. Ein weiterer Moderator führte eine vierte Überprüfung durch und entfernte den Inhalt erneut. Der Nutzer legte ein zweites Mal Einspruch ein, und nach einer fünften Überprüfung hielt ein weiterer Moderator die Entscheidung zur Entfernung des Inhalts aufrecht. Nachdem Meta den Nutzer über diese Entscheidung informiert hatte, legte dieser beim Oversight Board Einspruch ein. Meta bestätigte später, dass alle Moderatoren, die den Inhalt geprüft hatten, fließend Arabisch sprechen.

Meta erklärte, dass die ursprüngliche Entscheidung, den Inhalt zu entfernen, darauf beruhte, dass die überprüften Bilder die Begriffe „z***l“ und „t***e/t***a“ enthielten. Als Reaktion auf eine Frage des Boards wies Meta außerdem darauf hin, dass das Unternehmen den Begriff „moukhanath“, der ebenfalls in dem Inhalt verwendet wurde, als Beleidigung betrachtet.

Meta zufolge wurde der Inhalt, nachdem der Nutzer dem Board gegenüber Einspruch erhoben, das Board den Fall jedoch noch nicht ausgewählt hatte, unabhängig davon für eine weitere interne Überprüfung eskaliert, die ergab, dass er nicht gegen die Richtlinie zu Hassrede verstieß. Der Inhalt wurde anschließend auf der Plattform wiederhergestellt.

3. Befugnis und Wirkungsbereich des Oversight Boards

Das Board ist befugt, die Entscheidung von Meta nach dem Einspruch des Nutzers zu prüfen, dessen Inhalt entfernt wurde (Artikel 2 der Satzung, Abschnitt 1; Artikel 3 der Geschäftsordnung, Abschnitt 1).

Das Gremium kann die Entscheidung von Meta bestätigen oder aufheben (Artikel 3 der Satzung, Abschnitt 5), und seine Entscheidung ist für das Unternehmen verbindlich (Artikel 4 der Satzung). Meta muss außerdem die Umsetzbarkeit seiner Entscheidung in Bezug auf identische Inhalte mit parallelem Kontext auswerten (Artikel 4 der Satzung). Die Entscheidungen des Boards können Stellungnahmen zu den Richtlinien mit unverbindlichen Empfehlungen umfassen, auf die Meta antworten muss (Artikel 3 der Satzung, Abschnitt 4; Artikel 4).

Wenn das Board Fälle wie den vorliegenden auswählt, in denen Meta einräumt, dass es einen Fehler gemacht hat, überprüft das Board die ursprüngliche Entscheidung, damit besser nachvollzogen werden kann, warum es zu Fehlern kommt, und damit Beobachtungen oder Empfehlungen kommuniziert werden können, die möglicherweise zur Reduzierung von Fehlern und zur Verbesserung der ordnungsgemäßen Verfahren beitragen.

4.Quellen der Befugnis

Bei seiner Entscheidung hat das Oversight Board die folgenden Befugnisquellen berücksichtigt:

I.Entscheidungen des Oversight Boards:

Zu den relevantesten Entscheidungen des Boards in diesem Fall gehören:

• Die „Wampumgürtel-Entscheidung“ (2021-012-FB-UA): In dieser Entscheidung hob das Board die Bedeutung des Schutzes der freien Meinungsäußerung von Randgruppen hervor und wies darauf hin, dass Meta sicherstellen muss, dass es keine Inhalte entfernt, die unter eine Ausnahmeregelung der Richtlinie zu Hassrede fallen.
• Die „Entscheidung zu Beleidigungen im südafrikanischen Kontext“ (2021-011-FB-UA): In dieser Entscheidung stellte das Board fest, dass Meta die Verfahren und Kriterien, die es für die Erstellung seiner Beleidigungslisten verwendet, transparenter gestalten muss. Das Board empfahl Meta außerdem, bei der Durchsetzung seiner Richtlinie zu Hassrede die Verbesserung der verfahrensrechtlichen Fairness zu priorisieren, damit Nutzer besser verstehen, warum Inhalte entfernt werden.
• Die „Myanmar-Bot-Entscheidung“ (2021-007-FB-UA): In dieser Entscheidung betonte das Board die Bedeutung des Kontextes, wenn es darum geht, zu beurteilen, ob Inhalte unter eine Ausnahmeregelung der Richtlinie zu Hassrede fallen.

Das Board verweist außerdem auf Empfehlungen, die es in folgenden Fällen gegeben hat: Die „Entscheidung zu Öcalans Isolation“ (2021-006-IG-UA), die „Entscheidung zum „Two buttons“-Meme“ (2021-005-FB-UA) und die „Entscheidung zu Fotos von Brustkrebssymptomen und Nacktdarstellung“ (2020-004-IG-UA).

II. Die Content-Richtlinien von Meta:

Für den vorliegenden Fall sind die Gemeinschaftsrichtlinien von Instagram und die Gemeinschaftsstandards von Facebook relevant. Im Meta Transparency Center wird erklärt: „Facebook und Instagram teilen ihre Inhaltsrichtlinien. Das bedeutet, dass Inhalte, die auf Facebook einen Regelverstoß darstellen, dies auch auf Instagram tun.“

Die Instagram-Gemeinschaftsrichtlinien erklären:

Wir möchten eine positive und vielfältige Community fördern. Dazu entfernen wir Inhalte, die glaubhafte Drohungen oder Hassrede enthalten. Aufrufe zu Gewalt oder zu Angriffen gegen bestimmte Personen aufgrund ihrer ethnischen Zugehörigkeit, nationalen Herkunft, ihres Geschlechts oder ihrer Geschlechtsidentität, ihrer sexuellen Orientierung, religiösen Zugehörigkeit oder aufgrund von Behinderung oder Krankheit sind keinesfalls zulässig. Wenn Hassrede geteilt wird, um ihr zu widersprechen oder darauf aufmerksam zu machen, können wir sie unter Umständen erlauben. In diesen Fällen verlangen wir jedoch, dass du deine Absichten deutlich zum Ausdruck bringst.

Facebook definiert in seinen Gemeinschaftsstandards Hassrede als „direkten Angriff auf Personen aufgrund geschützter Eigenschaften: ethnische Zugehörigkeit, nationale Herkunft, religiöse Zugehörigkeit, sexuelle Orientierung, Kaste, Geschlecht, Geschlechtsidentität und ernsthafte Erkrankung oder Behinderung“. Meta teilt Angriffe in drei Kategorien auf. Der Abschnitt „Beleidigungen“ der Richtlinie zu Hassrede verbietet „[I]nhalte, die Personen beleidigend beschreiben oder sie mit Beleidigungen angreifen. Als Beleidigungen definieren wir Ausdrücke, die an sich anstößig sind und als kränkende Bezeichnungen für die oben genannten Eigenschaften verwendet werden“. Der Rest der dritten Kategorie verbietet Inhalte, die Menschen durch Aufrufe zu Abgrenzung oder Ausgrenzung angreifen.

Im Grundgedanken dieser Richtlinie erklärt Meta:

„Uns ist klar, dass Menschen manchmal Inhalte teilen, die Hassreden anderer enthalten, um dies zu verurteilen oder dafür zu sensibilisieren. Denkbar ist auch, dass Aussagen, die ansonsten gegen unsere Standards verstoßen würden, auf die eigene Person bezogen oder als Ausdruck von Unterstützung verwendet werden. Unsere Richtlinien sollen Aussagen dieser Art Raum geben, doch dabei müssen die Personen ihre Absicht deutlich machen. Ist die Absicht unklar, wird der Inhalt unter Umständen entfernt.“

III. Die Werte von Meta:

Die Werte von Meta werden in der Einleitung der Facebook-Gemeinschaftsstandards dargelegt. Der Wert der „Mitsprache“ hat laut dieser Einleitung „höchste Priorität“:

Ziel unserer Gemeinschaftsstandards ist es schon immer gewesen, einen Ort zu schaffen, an dem Menschen sich und ihre Meinung frei ausdrücken können. [...] Wir möchten, dass die Nutzerinnen und Nutzer offen über die Themen sprechen können, die ihnen wichtig sind. Das gilt auch dann, wenn einige Personen möglicherweise unterschiedlicher Meinung sind oder Inhalte anstößig finden.

Meta beschränkt die „Mitsprache“ zugunsten von vier anderen Werten, von denen zwei für diesen Fall relevant sind:

„Sicherheit“: Unser Ziel ist es, Facebook zu einem sicheren Ort zu machen. Äußerungen, die Nutzer bedrohen, haben das Potenzial, andere einzuschüchtern, auszugrenzen oder mundtot zu machen. Deshalb sind sie auf Facebook nicht gestattet.

„Würde“: Wir sind der Ansicht, dass alle Menschen gleich an Würde und Rechten sind. Deshalb erwarten wir, dass sie die Würde anderer achten und andere nicht belästigen oder erniedrigen.

IV. Internationale Menschenrechtsstandards:

Die UN-Leitprinzipien für Wirtschaft und Menschenrechte (United Nations Guiding Principles on Business and Human Rights, UNGPs), die 2011 vom UN-Menschenrechtsrat verabschiedet wurden, geben einen freiwilligen Rahmen für die menschenrechtliche Verantwortung von Privatunternehmen vor. Im Jahr 2021 veröffentlichte Meta seine Unternehmensrichtlinie zu Menschenrechten, in der das Unternehmen seine Verpflichtung zur Achtung der Menschenrechte gemäß den UN-Leitprinzipien bekräftigte. Das Board hat bei seiner Analyse der menschenrechtlichen Verantwortung von Meta in diesem Fall folgende Menschenrechtsstandards berücksichtigt, die in Abschnitt 8 dieser Entscheidung angewendet werden:

• Das Recht auf Meinungsfreiheit und freie Meinungsäußerung: Artikel 19, Internationaler Pakt über bürgerliche und politische Rechte (ICCPR), Allgemeine Bemerkung Nr. 34, Menschenrechtsausschuss, 2011; Bekanntmachung 488/1992, Toonen gegen Australien, Menschenrechtsausschuss, 1992; Beschluss 32/2, Menschenrechtsrat, 2016; Berichte des UN-Sonderberichterstatters für Meinungsfreiheit und freie Meinungsäußerung: A/HRC/38/35 (2018) und A/74/486 (2019); Bericht des UN-Hochkommissariats für Menschenrechte: A/HRC/19/41 (2011).
• Das Recht auf Nichtdiskriminierung: Artikel 2, Absatz 1, und Artikel 26, ICCPR.

5. Einreichungen des Nutzers

In seiner Stellungnahme dem Board gegenüber beschrieb der Nutzer sein Konto als Plattform „to celebrate queer Arab culture“ (zum Würdigen queerer arabischer Kultur). Er erklärte, dass es ein „safe space“ (sicherer Ort) für seine wachsende Anzahl an Abonnenten sei, gleichzeitig jedoch zunehmend Zielscheibe homophober Trolle geworden sei, die beleidigende Kommentare hinterlassen und Inhalte massenhaft melden.

Der Nutzer erklärte, dass er mit dem Beitrag die „femininen Männer und Jungen“ in der arabischen Gesellschaft würdigen wollte, die oft durch die abwertende Sprache, die in dem Beitrag hervorgehoben wurde, herabgesetzt werden. Ferner erklärte er, dass er versucht habe, diese Beleidigungen als Form des Widerstands und der Selbstwertsteigerung einzusetzen, und argumentierte, dass aus dem Inhalt des Beitrags deutlich hervorgehe, dass er die Verwendung der Wörter auf den Bildern als Beleidigungen weder gutheiße noch unterstütze. Der Nutzer erklärte außerdem, dass dieser Inhalt seiner Ansicht zufolge nach den Inhaltsrichtlinien von Meta zulässig sei, die ausdrücklich die Verwendung von ansonsten verbotenen Ausdrücken erlauben, wenn sie auf die eigene Person bezogen oder als Ausdruck von Unterstützung verwendet werden.

6. Einreichungen von Meta

Meta erklärte, dass der Inhalt ursprünglich unter Berufung auf die Richtlinie zu Hassrede entfernt wurde, da er ein Wort enthielt, das Metas Beleidigungsliste zufolge „ein abwertender Begriff für Homosexuelle“ und somit unzulässig sei. Meta revidierte schließlich seine ursprüngliche Entscheidung und stellte den Inhalt wieder her, da die Verwendung des fraglichen Wortes unter eine Ausnahmeregelung von Metas Richtlinie zu Hassrede fällt, die „Inhalte betrifft, die eine Beleidigung oder Hassrede verurteilen, die die Verwendung von Beleidigungen diskutieren, einschließlich Berichten über Fälle, in denen sie verwendet wurden, oder Debatten darüber, ob ihre Verwendung akzeptabel ist“. Meta erkannte an, dass der Kontext darauf hinwies, dass der Nutzer auf die verletzende Natur des Wortes aufmerksam machte und der Inhalt daher nicht gegen die Richtlinie zu Hassrede verstößt.

Auf die Frage des Boards, inwieweit der Kontext bei Metas Anwendung von Ausnahmeregelungen der Richtlinie zu Hassrede relevant sei, erklärte Meta, dass „Hassrede und Beleidigungen erlaubt sind“, wenn sie verspottet, verurteilt oder erörtert werden, wenn über sie berichtet wird oder sie auf die eigene Person bezogen werden, und dass es in der Verantwortung des Nutzers liege, seine Absicht bei der Verwendung einer Beleidigung deutlich zu machen.

Auf eine weitere Frage des Board antwortete Meta, „nicht darüber spekulieren zu wollen“, warum der Inhalt fälschlicherweise entfernt wurde, da seine Inhaltsprüfer die Gründe für ihre Entscheidungen nicht dokumentieren.

Insgesamt stellte das Board Meta 17 Fragen, von denen 16 vollständig und eine teilweise beantwortet wurden.

7. Öffentliche Kommentare

Das Board hat drei öffentliche Kommentare im Zusammenhang mit diesem Fall erhalten. Einer davon stammte aus den USA und Kanada, einer aus dem Nahen Osten und Nordafrika und ein weiterer kam aus der Region Lateinamerika und Karibik.

Die Einreichungen deckten folgende Themen ab: Die Sicherheit von Mitgliedern der LGBT-Community auf wichtigen Social Media-Plattformen, die Berücksichtigung des lokalen Kontextes bei der Durchsetzung der Richtlinie zu Hassrede und die sich ändernden Bedeutungen arabischer Wörter.

Die öffentlichen Kommentare, die zu diesem Fall eingereicht wurden, können hier eingesehen werden.

Im Rahmen der laufenden Bemühungen zur Beteiligung von Stakeholdern haben die Mitglieder des Boards außerdem informative und bereichernde Gespräche mit Organisationen geführt, die sich für das Recht auf freie Meinungsäußerung und die Rechte von Personen der LGBTQIA+-Community einsetzen, darunter auch arabischsprachige. In diesen Gesprächen wurden unter anderem folgende Probleme angesprochen: die Problematik, die Verwendung einer Beleidigung kategorisch als Form des Widerstands und der Selbstbestimmung einzustufen und grundsätzlich als nicht anstößig zu erklären, wenn der fragliche Begriff von manchen Zielgruppen weiterhin als Beleidigung empfunden wird, unabhängig von der Absicht des Sprechers, die Probleme, die durch den mangelnden Input von LGBTQIA+-Interessengruppen und nicht englischsprachigen Communitys zu Content-Richtlinien entstehen, und die Risiken einer Inhaltsmoderation, die nicht ausreichend auf den Kontext eingeht.

8.Analyse des Oversight Boards

Das Board hat aus drei Perspektiven geprüft, ob dieser Inhalt wiederhergestellt werden sollte: Aus dem Blickwinkel der Content-Richtlinien von Meta, der Werte des Unternehmens und seiner menschenrechtlichen Verantwortung.

Das Board hat diesen Fall ausgewählt, da die Übermoderation von Beiträgen von Nutzern, die verfolgten Minderheiten angehören, eine ernsthafte und umfassende Bedrohung für deren Recht auf freie Meinungsäußerung darstellt. Online-Plattformen, auf denen Nutzer ihre Meinung frei äußern können, sind besonders wichtig für Gruppen, die Verfolgung ausgesetzt sind, und Social-Media-Unternehmen müssen dem Schutz ihrer Rechte erhöhte Aufmerksamkeit schenken. Dieser Fall zeigt auch, in welchem Spannungsverhältnis Meta steht, wenn es versucht, Minderheiten vor Hassrede zu schützen und gleichzeitig einen Raum zu schaffen, in dem diese Minderheiten ihre Meinung frei zum Ausdruck bringen können, unter anderem auch dadurch, dass sie Beleidigungen als Form des Widerstands und der Selbstbestimmung einsetzen.

8.1 Einhaltung der Inhaltsrichtlinien von Meta

I.Inhaltsregeln

Das Board vertritt die Auffassung, dass der Inhalt trotz der Verwendung von Beleidigungen nicht als Hassrede einzustufen ist, da er unter eine Ausnahmeregelung der Richtlinie zu Hassrede fällt, die Beleidigungen erlaubt, die „auf die eigene Person bezogen oder als Ausdruck von Unterstützung verwendet werden“, sowie unter eine Ausnahmeregelung, die Hassrede erlaubt, um „dies zu verurteilen oder dafür zu sensibilisieren“.

In seinen Entscheidungen zum Wampumgürtel und „Two buttons“-Meme merkte das Board an, dass ein Nutzer seine Absicht nicht explizit in einem Beitrag nennen muss, um die Anforderungen für eine Ausnahmeregelung der Richtlinie zur Hassrede zu erfüllen. Es genügt, wenn der Kontext des Beitrags deutlich macht, dass der Nutzer Hassrede auf eine Art und Weise verwendet, die der Richtlinie zufolge zulässig ist.

In diesem Fall wies der Nutzer in seinem Inhalt allerdings klar darauf hin, dass er die beleidigende Verwendung der fraglichen Verunglimpfungen nicht „condone or encourage“ (weder gutheißt noch unterstützt). Stattdessen sollte der Beitrag „an attempt to resist and challenge the dominant narrative“(ein Versuch, sich der vorherrschenden Meinung zu widersetzen und sie zu hinterfragen) und „to reclaim the power of such hurtful terms“ (gegen solche verletzenden Begriffe einzutreten) sein. Auch wenn klare Absichtserklärungen nicht immer notwendig oder ausreichend sind, um die Verwendung oder das Zitieren von Hassrede zu rechtfertigen, sollten sie einen Moderator doch darauf aufmerksam machen, dass hier eine Ausnahmeregelung gelten könnte. In diesem Fall ist das Board der Ansicht, dass die Absichtserklärung in Verbindung mit dem Kontext deutlich macht, dass der Inhalt eindeutig unter eine Ausnahmeregelung fällt.

Meta hatte den Inhalt ursprünglich trotzdem entfernt, da drei verschiedene Moderatoren irrtümlicherweise festgestellt hatten, dass er gegen die Richtlinie zu Hassrede verstieß. Es gibt zwar eine Reihe möglicher Gründe dafür, weshalb verschiedene Moderatoren den Inhalt falsch eingestuft hatten, doch Meta war nicht in der Lage, konkrete Erklärungen für diesen Fehler zu liefern, da das Unternehmen seinen Moderatoren nicht vorschreibt, die Gründe für ihre Entscheidungen zu dokumentieren. Wie bereits in der „Wampumgürtel-Entscheidung“ angemerkt, zeigen die Arten der Fehler und die Menschen oder Personengruppen, die die Last dieser Fehler tragen müssen, die Entscheidungen bei der Gestaltung der Durchsetzungssysteme auf der Plattform auf, die das Recht auf freie Meinungsäußerung von Mitgliedern verfolgter Gruppen beeinträchtigen können. Wenn Meta, wie in diesem Fall, ein anhaltendes Muster der übermäßigen Durchsetzung der Richtlinie zu Hassrede auf Inhalte beobachtet, die sich auf eine verfolgte oder marginalisierte Gruppe beziehen, wäre es angebracht, die Gründe für diese Durchsetzungsentscheidungen zu hinterfragen und zu überlegen, welche Änderungen an den Moderationsregeln notwendig sind, oder ob verstärkte Schulungen oder Kontrollen in Bezug auf die bestehenden Regeln erforderlich sind, um eine exzessive Durchsetzung der Richtlinie zu vermeiden, die Mitglieder von Gruppen benachteiligt, deren Meinungsfreiheit besonders gefährdet ist.

II.Durchsetzungsmaßnahmen

Auf Fragen des Boards erklärte Meta, dass der Inhalt nur deshalb auf der Plattform wiederhergestellt wurde, weil er zufälligerweise von einem Meta-Mitarbeiter für eine weitere Überprüfung eskaliert wurde. „Für eine weitere Überprüfung eskaliert“ bedeutet, dass die Entscheidung nicht im großen Maßstab überprüft wurde, was häufig extern geschieht, sondern von einem internen Team bei Meta. Dazu war es offenbar erforderlich, dass ein Meta-Mitarbeiter die Entfernung des Inhalts feststellte und dann ein internes Webformular ausfüllte und einreichte, um auf das Problem hinzuweisen. Abgesehen von dem Zufallselement, das hier eine Rolle spielte, können solche Systeme nur Fehler in Inhalten erkennen, mit denen Meta-Mitarbeiter auch selbst in Berührung kommen. Dementsprechend werden Inhalte, die nicht in englischer Sprache verfasst sind, Inhalte, die von Konten mit wenigen Abonnenten in den USA gepostet werden, oder Inhalte, die für und von Gruppen erstellt werden, die auf den Meta-Plattformen unterrepräsentiert sind, mit weitaus geringerer Wahrscheinlichkeit registriert, gekennzeichnet und mit zusätzlicher Aufmerksamkeit bedacht.

Das Board wurde außerdem auf die Bedenken von Stakeholdern aufmerksam gemacht, dass die ordnungsgemäße Durchsetzung der Ausnahmeregelungen der Richtlinie zu Hassrede ein gewisses Maß an Sachkenntnis und Wissen über lokale Gegebenheiten erfordert, die Meta entweder nicht besitzt oder nicht immer anwenden kann. Das Board teilt deren Bedenken, dass Meta nur dann in der Lage sein wird, nuancierte Beleidigungslisten zu erstellen und seinen Moderatoren angemessene Anweisungen für die Anwendung von Ausnahmeregelungen der Richtlinie zu Hassrede zu geben, wenn das Unternehmen regelmäßig die Meinung von Minderheiten einholt, die selbst mit länder- und kulturspezifischen Beleidigungen konfrontiert werden.

8.2 Einhaltung der Werte von Meta

Das Board vertritt die Auffassung, dass die ursprüngliche Entscheidung zur Entfernung dieses Inhalts den Werten „Mitsprache“ und „Würde“ von Meta entgegenstand und auch nicht im Sinne des Werts „Sicherheit“ war. Es entspricht zwar Metas Werten, die Verwendung von Beleidigungen zur Beschimpfung von Personen auf seinen Plattformen zu verhindern, doch das Board hat Bedenken, dass Meta die Ausnahmeregelungen der Richtlinie nicht konsequent auf Beiträge von Randgruppen anwendet.

Im Zusammenhang mit diesem Fall kommt dem Wert „Mitsprache“, der die freie Meinungsäußerung von Mitgliedern einer Randgruppe fördern soll, größte Bedeutung zu. Es ist zwar richtig, dass Meta versucht, die Verwendung von Beleidigungen zur Verunglimpfung und Einschüchterung von Personen einzuschränken, und gleichzeitig gut gemeinte Versuche zu erlauben, diesen Wörtern ihre negative Wirkung zu nehmen, indem man sie als Form des Widerstands und der Selbstbestimmung einsetzt.

Das Board erkannt an, dass die Verwendung von Beleidigungen den Wert „Würde“ beeinträchtigt. Besonders wenn sie mit beleidigender Absicht verwendet werden oder wenn es keine kontextuellen Hinweise darauf gibt, dass sie nicht mit dieser Absicht verwendet werden, können Schimpfwörter Nutzer auf eine Weise einschüchtern, verärgern oder beleidigen, die die freie Meinungsäußerung online einschränkt. Wenn es eindeutige kontextuelle Hinweise darauf gibt, dass die Beleidigung erwähnt wird, um sie zu verurteilen oder dafür zu sensibilisieren, oder darauf, dass sie auf die eigene Person bezogen oder als Ausdruck von Unterstützung verwendet wird, schreibt der Wert „Würde“ nicht vor, dass das Wort von der Plattform entfernt werden muss. Im Gegenteil: Eine übermäßige Durchsetzung, die Ausnahmeregelungen ignoriert, schädigt Minderheiten und Randgruppen ganz besonders. Wie das Board bereits bei seiner Entscheidung zum „Two buttons“-Meme empfohlen hat, muss Meta sicherstellen, dass seine Moderatoren über genügend Ressourcen verfügen und ausreichende Unterstützung erhalten, damit sie den relevanten Kontext ordnungsgemäß bewerten können. Es ist wichtig, dass die Moderatoren in der Lage sind, zwischen zulässigen und unzulässigen Anwendungsfällen von Beleidigungen zu unterscheiden, um die „Mitsprache“ und „Würde“ seiner Nutzer zu schützen, insbesondere derer aus Randgruppen.

Da die „Würde“ und „Sicherheit“ von Randgruppen auf Social-Media-Plattformen einem erhöhten Risiko ausgesetzt sind, haben diese Plattformen eine erhöhte Verantwortung, diese Werte zu schützen. In seiner „Wampumgürtel-Entscheidung“ empfahl das Board Meta bereits, die richtige Anwendung der Ausnahmeregelungen seiner Richtlinie zu Hassrede zu überprüfen. Diese kann verbessert werden, indem man den Moderatoren beibringt, Inhalte, die diskriminierte Gemeinschaften betreffen, besser zu erkennen und sorgfältig zu überprüfen, ob Ausnahmeregelungen der Richtlinie zu Hassrede gelten. Die richtige Auswertung der Inhalte sowie das Erkennen unterstützender kontextueller Hinweise sollten für die Anwendung von Ausnahmeregelungen maßgeblich sein.

In Bezug auf den Wert „Sicherheit“ weist das Board außerdem auf die besondere Bedeutung sicherer Online-Plattformen und einer sorgfältigen Moderation von Inhalten für oder über marginalisierte und bedrohte Gemeinschaften hin. Vor allem in der MENA-Region sind arabischsprachige Personen der LGBTQIA+-Community einer gewissen Gefahr ausgesetzt, wenn sie sich online offen zu ihrer Identität äußern. Meta muss ein Gleichgewicht finden zwischen der Notwendigkeit, solidarische Plattformen für diese Art der freien Meinungsäußerung zu schaffen, und der Notwendigkeit, Beiträge von Menschen, die ohnehin bereits mit Zensur und Unterdrückung zu kämpfen haben, nicht übermäßig zu moderieren und sie so mundtot zu machen. Das Board erkennt zwar an, wie komplex die Inhaltsmoderation in diesem Bereich ist, vor allem, wenn sie im großen Maßstab erfolgt. Es ist dennoch unbedingt erforderlich, dass die betroffenen Plattformen in die für eine ordnungsgemäße Überprüfung erforderlichen Ressourcen investieren.

8.3. Erfüllung der menschenrechtlichen Verantwortung von Meta

Das Board kommt zu dem Schluss, dass die ursprüngliche Entscheidung von Meta, den Inhalt zu entfernen, nicht mit der menschenrechtlichen Verantwortung eines Unternehmens vereinbar war. Meta hat sich zur Wahrung der Menschenrechte gemäß der UN-Leitprinzipien für Wirtschaft und Menschenrechte (UNGPs) verpflichtet. Facebooks Unternehmensrichtlinie zu Menschenrechten besagt, dass dies auch den Internationalen Pakt über bürgerliche und politische Rechte (ICCPR) umfasst.

1. Meinungsfreiheit (Artikel 19 ICCPR)

Artikel 19 des ICCPR sieht einen umfassenden Schutz der freien Meinungsäußerung vor. Dazu gehört auch die Diskussion über Menschenrechte und Gedankengut, das als „zutiefst beleidigend“ betrachtet werden kann (Allgemeine Bemerkung Nr. 34, Abs. 11). Das Recht auf freie Meinungsäußerung ist allen Menschen garantiert; sie dürfen dabei nicht aufgrund ihres „Geschlechts“ oder eines „anderen Aspekts“ diskriminiert werden (Artikel 2, Absatz 1, ICCPR). Dazu gehören auch die sexuelle Orientierung und die Geschlechtsidentität (Toonen gegen Australien (1992); A/HRC/19/41, Absatz 7).

Der fragliche Beitrag bezieht sich auf das wichtige gesellschaftliche Thema der Diskriminierung von Mitgliedern der LGBTQIA+-Community. Das UN-Hochkommissariat für Menschenrechte hat Bedenken dazu geäußert, dass die freie Meinungsäußerung eingeschränkt wird. Diese Bedenken ergeben sich aus diskriminierenden Einschränkungen der Unterstützung der Rechte der LGBTQIA+-Community (A/HRC/19/41, Abs. 65).

Artikel 19 sieht vor, dass in Fällen, in denen Regierungen das Recht auf freie Meinungsäußerung einschränken, die Anforderungen der Gesetzmäßigkeit, des rechtmäßigen Ziels und der Notwendigkeit und Verhältnismäßigkeit erfüllt werden (Artikel 19, Absatz 3 ICCPR). Auf Basis dieser Leitprinzipien hat der UN-Sonderberichterstatter zu Meinungsfreiheit und freier Meinungsäußerung Social Media-Unternehmen aufgerufen, ihre Inhaltsregeln an die Anforderungen anzupassen, die in Artikel 19, Abs. 3, ICCPR (A/HRC/38/35, Abs. 45 und 70) vorgesehen sind.

I. Gesetzmäßigkeit (Klarheit und Zugänglichkeit der Regeln)

Das Kriterium der Gesetzmäßigkeit sieht vor, dass jede Einschränkung der freien Meinungsäußerung zugänglich und klar genug formuliert sein sollte, um eine Orientierung dafür zu bieten, was erlaubt ist und was nicht.

In den Fällen „Fotos von Brustkrebssymptomen und Nacktdarstellung“ (2020-004-IG-UA, Empfehlung Nr. 9) und „Entscheidung zu Öcalans Isolation“ (2021-006-IG-UA, Empfehlung Nr. 10) sowie der beratenden Stellungnahme zur Richtlinie zur Weitergabe privater Wohnsitzinformationen (Empfehlung Nr. 9) empfahl das Board Meta, Instagram-Nutzer darauf hinzuweisen, dass Facebooks Gemeinschaftsstandards für Instagram ebenso gelten wie für Facebook, mit einigen Ausnahmen. In der beratenden Stellungnahme zur Richtlinie empfahl das Board Meta, diese Maßnahme innerhalb von 90 Tagen umzusetzen. Das Board nimmt Metas Antwort auf die beratende Stellungnahme zur Richtlinie zur Kenntnis, in der Meta erklärt, dass diese Empfehlung zwar vollständig umgesetzt wird, Meta jedoch noch an der Erstellung umfassenderer Instagram-Gemeinschaftsrichtlinien arbeitet, aus denen auch deren Verhältnis zu den Facebook-Gemeinschaftsstandards hervorgehen wird, und die 90-Tage-Frist nicht einhalten kann. Das Board, das diese Empfehlung mehrfach wiederholt hatte, ist der Ansicht, dass Meta genügend Zeit hatte, sich auf diese Änderungen vorzubereiten. Die unklare Beziehung zwischen Instagrams Gemeinschaftsrichtlinien und Facebooks Gemeinschaftsstandards ist eine Quelle anhaltender Verwirrung für die Nutzer der Meta-Plattformen. Derzeit enthalten die Instagram-Gemeinschaftsrichtlinien zwar einen Link zum Facebook-Gemeinschaftsstandard zu Hassrede, für Nutzer ist jedoch nicht klar ersichtlich, dass der gesamte Facebook-Gemeinschaftsstandard zu Hassrede, einschließlich des Verbots von Beleidigungen und dessen Ausnahmen, auch für Instagram gilt. Die fristgerechte und umfassende Aktualisierung der Instagram-Gemeinschaftsrichtlinien hat für das Board weiterhin höchste Priorität.

Hinsichtlich der Erstellung der Beleidigungsliste wiederholt das Board die im Fall „Beleidigungen im südafrikanischen Kontext“ (2021-011-FB-UA) gemachte Empfehlung, dass Meta transparenter machen sollte, welche Verfahren und Kriterien es bei der Erstellung dieser Liste anwendet. In diesem Fall erklärte Meta, die Beleidigungslisten für jeden etablierten Markt anhand von „Analysen und Überprüfungen durch relevante interne Partner wie Prozess-, Markt- und Content-Richtlinien-Teams“ zu erstellen. Meta wies außerdem darauf hin, dass seine Marktexperten die Beleidigungslisten jährlich überprüfen und dabei jeden Begriff qualitativ und quantitativ bewerten. Außerdem unterscheiden sie zwischen „Wörtern, die von Natur aus beleidigend sind, auch wenn sie ohne Kontext erwähnt werden, und Wörtern, die nicht von Natur aus beleidigend sind“. Für das Board ist nicht ersichtlich, wann diese jährliche Überprüfung stattfindet, doch nachdem das Board diesen Fall ausgewählt hatte, überprüfte Meta die Verwendung des Wortes „z***l“. Nach der Überprüfung wurde das Wort von der Beleidigungsliste für den arabischen Markt entfernt, jedoch nicht von der Beleidigungsliste für die Maghreb-Region. Dem Board ist nicht bekannt, ob diese Überprüfung Teil der regulären Verfahren war oder eine Ad-hoc-Überprüfung als Reaktion auf die Auswahl dieses Falles durch das Board. Allgemeiner betrachtet ist für das Board nicht ersichtlich, was die qualitativen und quantitativen Auswertungen in den jährlichen Überprüfungen umfassen.

Informationen über die Verfahren und Kriterien für die Erstellung der Beleidigungslisten und der Marktbezeichnung, insbesondere darüber, wie sprachliche und geografische Märkte voneinander abgegrenzt werden, stehen Nutzern nicht zur Verfügung. Ohne diese Informationen können Nutzer nur schwer beurteilen, welche Wörter als Beleidigungen gelten, zumal sich die Definition von Beleidigungen in der Richtlinie zu Hassrede lediglich auf subjektive Konzepte wie Wörter, die von Natur aus anstößig und beleidigend sind, bezieht (A/74/486, Abs. 46; siehe auch A/HRC/38/35, Abs. 26).

Die Frage, wie es das Verbot der Ausdrücke auf seinen marktspezifischen Beleidigungslisten durchsetzt, beantwortete Meta im Fall „Beleidigungen im südafrikanischen Kontext“ (2021-011-FB-UA) damit, dass das „Verbot von Beleidigungen weltweit gilt, jedoch die Einstufung von Beleidigungen marktspezifisch ist“. Das Unternehmen erklärte: „[W]enn ein Begriff auf der Beleidigungsliste für einen Markt genannt wird, verbietet die Richtlinie gegen Hassrede die Verwendung des Begriffs auf diesem Markt.“ Metas Erläuterung ist verwirrend, denn der Anwendungsbereich seiner Durchsetzungsverfahren mag zwar global sein, allerdings ist nicht klar, ob das bedeutet, dass Begriffe, die in einem bestimmten Markt als Beleidigungen gelten, dann auch global verboten werden. Meta erläuterte, dass es einen Markt als „eine Kombination aus eine(r/m) oder mehreren Land/Ländern und Sprache(n)/Dialekt(e)“ definiert und dass „die Einteilung in ... Märkte in erster Linie auf einer Kombination aus der Sprache/dem Dialekt, in der/dem der Inhalt verfasst ist, und dem Land, in dem er veröffentlicht wird, basiert“. Metas Inhaltsprüfer werden „auf der Grundlage ihrer sprachlichen Fähigkeiten und ihrer Kultur- und Marktkenntnisse einem bestimmten Markt zugewiesen“. Meta zufolge betraf der fragliche Inhalt den arabischen und den Maghreb-Markt. Die Zuweisung zu diesen Märkten erfolgte „basierend auf einer Kombination verschiedener Kriterien wie Ort der Veröffentlichung, Sprache und Dialekt des Inhalts, die Art des Inhalts und die Art der Meldung“. Dem Board ist nicht hinreichend klar, wie die verschiedenen Kriterien zusammenwirken, um zu bestimmen, welche Märkte ein Inhalt anspricht, und ob Inhalte, die ein Wort enthalten, das in einem bestimmten Markt als Beleidigung gilt, nur entfernt werden, wenn sich der Inhalt auf diesen Markt bezieht, oder ob sie auch dann entfernt werden, wenn dies nicht der Fall ist. Im Gemeinschaftsstandard wird dieser Prozess nicht erläutert.

Meta sollte eine umfassende Erklärung darüber abgeben, wie es das Verbot von Beleidigungen auf der Plattform durchsetzt. Die aktuelle Richtlinie umfasst mehrere Punkte, die nicht transparent genug sind, einschließlich der Frage, ob Beiträge mit Begriffen, die in einer bestimmten Region als Beleidigung gelten, nur dann von der Plattform entfernt werden, wenn sie in dieser Region gepostet oder aufgerufen werden, oder unabhängig davon, wo sie gepostet oder aufgerufen werden. Meta sollte außerdem erläutern, wie es mit Wörtern umgeht, die in manchen Situationen als Beschimpfung gelten, in anderen Situationen aber eine ganz andere Bedeutung haben, die nicht gegen Metas Richtlinien verstößt.

Der Aufbau des Gemeinschaftsstandards zu Hassrede kann ebenfalls zu Verwirrung führen. Obwohl das Verbot von Beleidigungen unter der Überschrift für Hassrede der dritten Kategorie aufgeführt ist, ist für das Board nicht klar ersichtlich, ob das Verbot zur dritten Kategorie gehört, da Beleidigungen nicht unbedingt Aufrufe zu Abgrenzung oder Ausgrenzung anderer Menschen sind, welche im Rest dieser Kategorie im Mittelpunkt stehen.

II.Legitimes Ziel

Jede Einschränkung der Meinungsäußerung sollte eines der im ICCPR aufgeführten legitimen Ziele verfolgen, zu denen auch die „Rechte Dritter“ gehören. Die in diesem Fall fragliche Richtlinie verfolgte das legitime Ziel, die Rechte anderer (Allgemeine Bemerkung Nr. 34, Abs. 28) auf Gleichheit sowie auf Schutz vor Gewalt und Diskriminierung aufgrund der sexuellen Orientierung und der Geschlechtsidentität zu schützen (Artikel 2, Abs. 1, Artikel 26 ICCPR; UN Menschenrechtsausschuss, Toonen gegen Australien (1992); Beschluss 32/2 des UN-Menschenrechtsrats zum Schutz vor Gewalt und Diskriminierung aufgrund sexueller Orientierung und Geschlechtsidentität).

III. Notwendigkeit und Verhältnismäßigkeit

Der Grundsatz der Notwendigkeit und Verhältnismäßigkeit verlangt, dass Einschränkungen der Meinungsfreiheit „dazu geeignet sein müssen, ihre Schutzfunktion zu erfüllen, die am wenigsten einschneidenden Instrumente unter denjenigen sein müssen, die ihre Schutzfunktion erfüllen können [und] verhältnismäßig zu den zu schützenden Interessen sein müssen“ (Allgemeine Bemerkung Nr. 34, Absatz 34).

In diesem Fall war es nicht notwendig, den Inhalt zu entfernen, da es sich um einen eindeutigen Fehler handelte, der nicht mit den Ausnahmeregelungen von Metas Richtlinie zu Hassrede vereinbar war. Die Entfernung war auch nicht das am wenigsten einschneidende Instrument, um das legitime Ziel zu erfüllen, da bei jeder Überprüfung des Inhalts, die zu seiner Entfernung führte, das gesamte Carousel mit 10 Fotos entfernt wurde, obwohl bei nur einem der Fotos ein vermeintlicher Verstoß gegen die Richtlinie vorlag. Selbst wenn das Carousel ein Bild mit unzulässigen Beleidigungen enthalten hätte, die nicht unter eine Ausnahmeregelung fallen, wäre die Entfernung des gesamten Carousel keine angemessene Reaktion gewesen.

Meta erklärte dem Board, dass „der Beitrag gegen die Richtlinien verstößt, wenn eines der Fotos einen Verstoß gegen die Gemeinschaftsstandards enthält“ und dass es „Meta im Gegensatz zu Facebook nicht möglich ist, ein einzelnes Bild aus einem Instagram-Beitrag mit mehreren Fotos zu entfernen“. Meta erklärte, dass eine Aktualisierung des Tools zur Überprüfung von Inhalten vorgeschlagen worden war, mit dem Ziel, dass Prüfer nur das Foto, das gegen die Richtlinien verstößt, aus einem Carousel entfernen können, doch diese Aktualisierung wurde nicht priorisiert. Das Board hält diese Erklärung nicht für schlüssig und ist der Ansicht, dass die mangelnde Priorisierung der Aktualisierung zu einer systematischen übermäßigen Durchsetzung der Richtlinie führen könnte, bei der Carousels vollständig entfernt werden, obwohl nur Teile davon gegen die Richtlinie verstoßen. Das Board weist außerdem darauf hin, dass Fälle, in denen ein- und derselbe Inhalt auf Facebook und Instagram unterschiedlich behandelt wird, zu inkonsistenten Ergebnissen führen würden, die sich nicht durch einen signifikanten Unterschied zwischen den Richtlinien dieser Plattformen rechtfertigen ließen. Dies wäre beispielsweise dann der Fall, wenn ein Bild in einer Fotoserie, die auf beiden Plattformen gepostet wurde, gegen die Richtlinien verstößt und das gesamte Carousel von Instagram entfernt wird, jedoch nicht von Facebook.

2.Keine Diskriminierung

Angesichts der Bedeutung, die die Verwendung abwertender Begriffe als Form des Widerstands und der Selbstbestimmung für die LGBTQIA+-Community hat, um sich gegen Diskriminierung zu wehren, erwartet das Board, dass Meta besondere Sensibilität zeigt, was die Gefahr der irrtümlichen Entfernung des Inhalts in diesem Fall sowie vergleichbarer Inhalte auf Facebook und Instagram angeht. Wie das Board bereits in seiner „Wampumgürtel-Entscheidung“ angemerkt hatte, (2021-012-FB-UA), bei der es um künstlerische Ausdrucksformen indigener Personen ging, reicht es nicht aus, Metas Durchsetzung der Facebook-Richtlinie zu Hassrede als Ganzes zu bewerten, da auch die Folgen dieser Durchsetzung für Randgruppen berücksichtigt werden müssen. Gemäß den UNGPs „sollten Unternehmen besonders auf nachteilige menschenrechtliche Auswirkungen auf Angehörige von Personen- oder Bevölkerungsgruppen achten, die unter Umständen einem erhöhten Risiko der Vulnerabilität oder Marginalisierung ausgesetzt sind“ (UNGPs, Prinzip 18 und 20). Für Personen der LGBTQIA+-Community in Ländern, in denen das Ausleben ihrer Identität unter Strafe gestellt wird, ist Social Media oft die einzige Möglichkeit, ihre Meinung frei zu äußern. Dies trifft insbesondere auf Instagram zu, dessen Gemeinschaftsrichtlinien es Nutzern erlauben, nicht ihren echten Namen zu verwenden. Das Board weist darauf hin, dass die Gemeinschaftsstandards Facebook-Nutzern nicht dieselben Freiheiten erlauben. Für Meta wäre es wichtig, nachzuweisen, dass es eine menschenrechtsbezogene Due-Diligence-Prüfung durchgeführt hat, um sicherzustellen, dass seine Systeme gerecht und nicht diskriminierend sind (UNGPs, Prinzip 17). Das Board merkt an, dass Meta die Genauigkeit seiner Durchsetzungssysteme beim Umgang mit Hassrede regelmäßig auswertet („Wampumgürtel-Entscheidung“). Bei diesen Bewertungen wird jedoch nicht spezifisch untersucht, ob Meta in der Lage ist, unzulässige Hassrede von erlaubten Inhalten zu unterscheiden, in denen versucht wird, Beleidigungen als Form des Widerstands und der Selbstbestimmung einzusetzen.

Die Fehler in diesem Fall deuten darauf hin, dass die Anweisungen Metas an Moderatoren, Verweise auf abwertende Begriffen zu prüfen, möglicherweise unzureichend sind. Das Board hat Bedenken, dass Prüfer möglicherweise nicht über ausreichende Ressourcen wie Kapazitäten oder Schulungen verfügen, um Fehler wie den hier beobachteten zu vermeiden, insbesondere, was Inhalte angeht, die aufgrund von Richtlinienausnahmen zulässig sind. In diesem Fall informierte Meta das Board darüber, dass die bekannten Fragen und die internen Implementierungsstandards nur in englischer Sprache verfügbar sind, um „eine standardisierte globale Durchsetzung“ seiner Richtlinien zu gewährleisten, und dass „all seine Content-Moderatoren fließend Englisch sprechen“. Bereits in der „Myanmar-Bot-Entscheidung“ (2021-007-FB-UA) empfahl das Board Meta, sicherzustellen, dass seine internen Implementierungsstandards in der Sprache verfügbar sind, in der Content-Moderatoren Inhalte überprüfen. Meta ging dieser Empfehlung nicht weiter nach und wies auch hier darauf hin, dass seine Content-Moderatoren fließend Englisch sprechen. Das Board stellt fest, dass es von Natur aus schwierig ist, Prüfern Anweisungen auf Englisch für die Moderation von Inhalten in anderen Sprachen zu geben. Die internen Implementierungsstandards und die bekannten Fragen basieren häufig auf US-amerikanischen Sprachstrukturen, die sich nicht auf andere Sprachen wie Arabisch anwenden lassen.

In der „Wampumgürtel-Entscheidung“ (2021-012-FB-UA, Empfehlung Nr. 3) empfahl das Board Meta, die richtige Anwendung der Ausnahmeregelungen seiner Richtlinie zu Hassrede zu überprüfen. Gegenstand dieser Überprüfung sollten Hinweise auf Menschenrechtsverstöße (z. B. die Verurteilung von Hassrede und Beleidigungen, das Aufmerksammachen auf diese, das Beziehen dieser Begriffe auf die eigene Person oder die Verwendung dieser Begriffe als Ausdruck von Unterstützung) sein. Meta sollte dem Board außerdem die Ergebnisse dieser Überprüfung vorlegen und dabei unter anderem erklären, wie die Durchsetzung und die Erarbeitung von Richtlinien anhand dieser Ergebnisse verbessert werden wird. Das Board sprach diese Empfehlung aus, da es der Meinung ist, dass die Folgen einer übermäßigen Entfernung von Beiträgen, die auf Menschenrechtsverstöße aufmerksam machen, besonders gravierend sind. Das Board nimmt die Bedenken von Meta in Bezug auf die Empfehlung, die Umsetzbarkeit auszuwerten, zur Kenntnis, darunter (a) das Fehlen spezifischer Kategorien in seinen Richtlinien für Ausnahmeregelungen, die für Bereiche wie Menschenrechtsverletzungen gelten, und (b) das Fehlen einer leicht identifizierbaren Stichprobe von Inhalten, die unter Ausnahmenregelungen der Richtlinie zu Hassrede fallen. Das Board ist der Ansicht, dass diese Herausforderungen überwunden werden können, da sich Meta auf die Analyse bestehender Ausnahmeregelungen der Richtlinie zu Hassrede konzentrieren und die Identifizierung von Stichproben von Inhalten priorisieren könnte. Das Board empfiehlt Meta, die im „Wampumgürtel-Fall“ (2021-012-FB-UA) ausgesprochenen Empfehlung umzusetzen und begrüßt es, wenn Meta in seinem nächsten vierteljährlichen Bericht Updates dazu veröffentlicht.

9. Entscheidung des Oversight Boards

Das Oversight Board hebt die ursprüngliche Entscheidung von Meta auf, den Inhalt zu entfernen.

10. Stellungnahme zu den Richtlinien

Durchsetzung

1. Meta sollte die internen Implementierungsstandards und die bekannten Fragen in modernes Hocharabisch übersetzen lassen. Dies könnte die übermäßige Durchsetzung der Richtlinie zu Hassrede in arabischsprachigen Regionen reduzieren, da Moderatoren so besser einschätzen können, wann für Inhalte mit Beleidigungen Ausnahmeregelungen gelten. Das Board merkt an, dass Meta auf seine Empfehlung in Bezug auf die „Myanmar-Bot-Entscheidung“ (2021-007-FB-UA) nicht reagiert hat, laut der Meta sicherstellen sollte, dass seine internen Implementierungsstandards in der Sprache verfügbar sind, in der Content-Moderatoren Inhalte überprüfen. Das Board wird diese Empfehlung als umgesetzt erachten, sobald Meta das Board darüber informiert, dass die Übersetzung in modernes Hocharabisch abgeschlossen ist.

Transparenz

2. Meta sollte eine eindeutige Erklärung dazu veröffentlichen, wie es seine marktspezifischen Beleidigungslisten erstellt. Diese sollte deutlich machen, welche Prozesse und Kriterien bestimmen, welche Beleidigungen und Länder den einzelnen marktspezifischen Listen zugewiesen werden. Das Board wird diese Empfehlung als umgesetzt erachten, sobald diese Informationen im Transparency Center veröffentlicht wurden.

3. Meta sollte eine eindeutige Erklärung dazu veröffentlichen, wie es das Verbot der Ausdrücke auf seinen marktspezifischen Beleidigungslisten durchsetzt. Diese sollte die Verfahren und Kriterien enthalten, mit denen genau bestimmt wird, wann und wo das Verbot von Beleidigungen durchgesetzt wird, sei es in Bezug auf Beiträge, die geografisch aus der betreffenden Region stammen, die von außerhalb stammen, sich aber auf die betreffende Region beziehen, und/oder in Bezug auf alle Nutzer in der betreffenden Region, unabhängig davon, in welcher Region der Beitrag veröffentlicht wurde. Das Board wird diese Empfehlung als umgesetzt erachten, sobald diese Informationen in Metas Transparency Center veröffentlicht wurden.

4. Meta sollte eine eindeutige Erklärung dazu veröffentlichen, wie es seine marktspezifischen Beleidigungslisten prüft. Diese sollte die Prozesse und Kriterien enthalten, die bestimmen, welche Beleidigungen aus den marktspezifischen Listen von Meta entfernt und welche in diese Listen aufgenommen werden. Das Board wird diese Empfehlung als umgesetzt erachten, sobald diese Informationen in Metas Transparency Center veröffentlicht wurden.

* Anmerkung zur Vorgehensweise:

Die Entscheidungen des Oversight Boards werden von einem Panel aus fünf Mitgliedern vorbereitet und von einer Mehrheit des Boards bestätigt. Entscheidungen des Gremiums geben nicht zwangsläufig die persönliche Meinung aller Mitglieder wieder.

Für diese Fallentscheidung wurde eine unabhängige Studie vom Gremium in Auftrag gegeben. Ein unabhängiges Forschungsinstitut mit Sitz an der Universität Göteborg und ein Team aus über 50 Sozialwissenschaftlern auf sechs Kontinenten sowie mehr als 3.200 Länderexperten aus der ganzen Welt. Weitere Unterstützung erhielt das Board durch Duco Advisors, eine Beratungsfirma mit Schwerpunkt auf die Schnittstelle zwischen Geopolitik, Vertrauen, Sicherheit und Technologie. Das Unternehmen Lionbridge Technologies, LLC, dessen Spezialisten insgesamt mehr als 350 Sprachen fließend beherrschen und in 5.000 Städten weltweit arbeiten, stellte seine Sprachkompetenz zur Verfügung.