Myanmar Bot

Zusammenfassung des Falls

Das Oversight Board hat die Entscheidung von Facebook aufgehoben, einen Beitrag in burmesischer Sprache zu entfernen, der aus Sicht von Facebook gegen seinen Gemeinschaftsstandard zur Vermeidung von Hassrede verstößt. Das Board stellte fest, dass der Beitrag nicht auf das chinesische Volk, sondern auf den chinesischen Staat abzielte. Insbesondere wurden darin im Rahmen einer politischen Diskussion über die Rolle der chinesischen Regierung in Myanmar vulgäre Ausdrücke als Verweise auf die staatliche chinesische Vorgehensweise in Hongkong verwendet.

Zum Fall

Im April 2021 postete ein Facebook-Nutzer, der sich offenbar in Myanmar befand, einen Beitrag in burmesischer Sprache in seiner Chronik. In dem Beitrag wurden Möglichkeiten zur Begrenzung der Finanzierung des Militärs nach dem Putsch in Myanmar am 1. Februar 2021 diskutiert. Es wurde vorgeschlagen, die Steuereinnahmen dem Committee Representing Pyidaungsu Hlutaw (CRPH) zukommen zu lassen. Hierbei handelt es sich um ein aus gewählten Abgeordneten bestehendes Gremium, das gegen den Putsch eingestellt ist. Der Beitrag erhielt etwa eine halbe Million Aufrufe und wurde von keinem Facebook-Nutzer gemeldet.

Facebook übersetzte den vermeintlich gegen den Gemeinschaftsstandard verstoßenden Teil des Beitrags des Nutzers als „Weil die verdammten Chinesen sie gefoltert haben, haben die Menschen in Hongkong ihre Bankgeschäfte ins Vereinigte Königreich verlegt, sodass sie (die Chinesen) jetzt nicht an das Geld herankommen“. Facebook entfernte den Beitrag unter Berufung auf seinen Gemeinschaftsstandard zur Vermeidung von Hassrede. Dieser verbietet Inhalte, die auf eine Person oder Personengruppe aufgrund ihrer ethnischen Zugehörigkeit und/oder nationalen Herkunft abzielen, mit „profanen Begriffen oder Ausdrücken mit der Absicht, die Zielperson zu beleidigen“.

Die vier Inhaltsprüfer, die den Beitrag überprüft haben, waren sich darin einig, dass er gegen die Regeln von Facebook verstieß. In seinem beim Board eingelegten Einspruch gab der Nutzer an, dass er den Inhalt gepostet habe, um „das brutale Militärregime zu stoppen“.

Wichtige Erkenntnisse

Dieser Fall zeigt auf, wie wichtig es ist, den Kontext bei der Durchsetzung von Richtlinien zur Vermeidung von Hassrede zu berücksichtigen. Zudem macht er deutlich, welchen Stellenwert der Schutz politischer Äußerungen hat. Dies ist in Myanmar angesichts des Putsches im Februar 2021 und Facebooks wichtiger Rolle als Kommunikationsmedium in dem Land besonders relevant.

In dem Beitrag wurde der burmesische Ausdruck „$တရုတ်“ (bzw. „sout ta-yote“) verwendet. Dies übersetzte Facebook als „verdammte Chinesen“. Laut Facebook wird das Wort „ta-yote“ „sowohl kulturell als auch linguistisch als eine Überschneidung der Identitäten/Bedeutungen zwischen dem Land China und dem chinesischen Volk wahrgenommen“. Facebook erklärte, dass es angesichts der Art dieses Wortes und der Tatsache, dass der Nutzer nicht „deutlich angegeben habe, dass sich der Begriff auf das Land/die Regierung von China bezieht“ zu dem Schluss gekommen war, dass „der Nutzer sich mindestens auf das chinesische Volk beziehe“. Dementsprechend entfernte Facebook den Beitrag unter Berufung auf seinen Gemeinschaftsstandard zur Vermeidung von Hassrede.

Da in der burmesischen Sprache dasselbe Wort verwendet wird, um Bezug auf einen Staat und die Menschen dieses Staates zu nehmen, ist der Kontext entscheidend, um die beabsichtigte Bedeutung zu verstehen. Eine Reihe von Faktoren überzeugte das Board, dass der Nutzer nicht auf Chinesen, sondern auf den chinesischen Staat abzielte.

Der Teil des Beitrags, der vermeintlich gegen die Regeln von Facebook verstieß, verwendet den Begriff „Folter“ bzw. „Verfolgung“ im Zusammenhang mit Chinas Finanzstrategien in Hongkong und nicht in Bezug auf die Handlungen von einzelnen Personen oder von Chinesen in Myanmar. Beide Übersetzer des Boards wiesen darauf hin, dass sich in diesem Fall das Wort „ta-yote“ auf einen Staat bezöge. Auf die Frage, ob es irgendeine mögliche Mehrdeutigkeit bei dieser Bezeichnung geben könnte, äußerten die Übersetzer keinerlei Zweifel. Die Übersetzer des Boards gaben außerdem an, dass der Beitrag Begriffe enthalte, die häufig von der Regierung Myanmars und der chinesischen Botschaft verwendet würden, um einander anzusprechen. Außerdem wurde der Beitrag von keinem Nutzer gemeldet, obwohl ihn eine halbe Million Menschen angesehen und mehr als 6.000 Menschen geteilt haben. Die öffentlichen Kommentare haben den allgemeinen Tonfall des Beitrags als politische Diskussion beschrieben.

Da der Beitrag nicht auf Personen aufgrund von ethnischer Zugehörigkeit oder nationaler Herkunft, sondern auf einen Staat abzielte, kam das Board zu dem Schluss, dass der Beitrag nicht gegen Facebooks Gemeinschaftsstandard zur Vermeidung von Hassrede verstoßen hat.

Die Entscheidung des Oversight Boards

Das Oversight Board hebt die Entscheidung von Facebook, den Inhalt zu entfernen, auf und verlangt, den Beitrag wiederherzustellen.

In einer Stellungnahme zu den Richtlinien empfiehlt das Board Facebook folgende Maßnahmen:

• Facebook sollte sicherstellen, dass seine internen Implementierungsstandards in der Sprache verfügbar sind, in der Inhaltsmoderatoren Inhalte überprüfen. Falls eine Priorisierung erforderlich ist, sollte Facebook sich zunächst auf die Kontexte konzentrieren, bei denen die Risiken für Menschenrechte gravierender sind.

* Fallzusammenfassungen bieten einen Überblick über den Fall und haben keinen Präzedenzwert.

Ausführliche Fallentscheidung

1. Zusammenfassung der Entscheidung

Das Oversight Board hat die Entscheidung von Facebook aufgehoben, einen Inhalt unter Berufung auf seinen Gemeinschaftsstandard zur Vermeidung von Hassrede zu entfernen. Das Board kam zu dem Schluss, dass der Beitrag keine Hassrede darstellte.

2. Beschreibung des Falls

Im April 2021 postete ein Facebook-Nutzer, der sich offenbar in Myanmar befand, einen Beitrag in burmesischer Sprache in seiner Chronik. In dem Beitrag wurden Möglichkeiten zur Begrenzung der Finanzierung des Militärs nach dem Putsch in Myanmar am 1. Februar 2021 diskutiert. Es wurde vorgeschlagen, die Steuereinnahmen dem Committee Representing Pyidaungsu Hlutaw (CRPH) zukommen zu lassen. Hierbei handelt es sich um ein aus gewählten Abgeordneten bestehendes Gremium, das gegen den Putsch eingestellt ist. Der Beitrag erhielt etwa 500.000 Aufrufe sowie etwa 6.000 Reaktionen und wurde etwa 6.000-mal geteilt. Der Beitrag wurde von keinem Facebook-Nutzer gemeldet.

Facebook übersetzte den vermeintlich gegen den Gemeinschaftsstandard verstoßenden Teil des Beitrags des Nutzers als „Weil die verdammten Chinesen sie gefoltert haben, haben die Menschen in Hongkong ihre Bankgeschäfte ins Vereinigte Königreich verlegt, sodass sie (die Chinesen) jetzt nicht an das Geld herankommen“. Am Tag nach seiner Veröffentlichung entfernte Facebook den Beitrag als Hassrede der „Stufe 2“ gemäß seines Gemeinschaftsstandards zur Vermeidung von Hassrede. Dieser verbietet Inhalte, die auf eine Person oder Personengruppe aufgrund ihrer ethnischen Zugehörigkeit und/oder nationalen Herkunft abzielen, mit „profanen Begriffen oder Ausdrücken mit der Absicht, die Zielperson zu beleidigen“.

Ein geteilter Beitrag des Posts wurde laut Facebook „automatisch im Rahmen einer Stichprobe ausgewählt und an einen menschlichen Überprüfer gesendet, um ihn für ein Classifier-Training zu verwenden“. Hierbei erstellt Facebook Datensätze, die aus Beispielen von unzulässigen und zulässigen Inhalten bestehen. Dies geschieht, um Facebooks automatisierte Erkennungs- und Durchsetzungsprozesse zu trainieren, damit sie prognostizieren können, ob Inhalte gegen Facebook-Richtlinien verstoßen. Der Überprüfer befand, dass der geteilte Beitrag gegen den Gemeinschaftsstandard zur Vermeidung von Hassrede verstoßen hat. Zwar bestand der Zweck des Prozesses darin, verschiedene Inhalte zusammenzustellen, um den Classifier zu trainieren, jedoch wurde der geteilte Beitrag entfernt, sobald seine Unzulässigkeit festgestellt wurde.

Da festgestellt wurde, dass der geteilte Beitrag gegen die Regeln von Facebook verstoßen hat, hat ein „Administrative Action Bot“ den ursprünglichen Beitrag automatisch zwecks Überprüfung ermittelt. Facebook erläuterte, dass es sich beim Administrative Action Bot um ein internes Facebook-Konto handelt, das keine Inhaltsprüfung vornimmt, sondern „verschiedene Handlungen im Durchsetzungssystem durchführt, die auf Entscheidungen basieren, die von Menschen oder automatisiert getroffen wurden“. Daraufhin haben zwei Mitarbeiter den ursprünglichen Beitrag analysiert und als Hassrede der „Stufe 2“ eingestuft. Der Inhalt wurde entfernt. Der Nutzer legte bei Facebook Einspruch gegen die Entfernung ein. Hier bestätigte ein vierter menschlicher Überprüfer die Entfernung. Laut Facebook „waren die Inhaltsprüfer in diesem Fall alle Mitglieder eines burmesischen Inhaltsprüfungsteams bei Facebook“. Der Nutzer reichte daraufhin seinen Einspruch beim Oversight Board ein.

3. Befugnis und Umfang

Das Board ist befugt, die Entscheidung von Facebook nach dem Einspruch des Nutzers zu prüfen, dessen Beitrag entfernt wurde (Artikel 2 der Satzung, Abschnitt 1; Artikel 2 der Geschäftsordnung, Abschnitt 2.1). Das Board kann die Entscheidung bestätigen oder aufheben (Artikel 3 der Satzung, Abschnitt 5). Die Entscheidungen des Boards sind verbindlich und können beratende Stellungnahmen zu Richtlinien sowie Empfehlungen beinhalten. Diese Empfehlungen sind unverbindlich, Facebook ist jedoch verpflichtet, darauf zu reagieren (Artikel 3 der Satzung, Abschnitt 4). Das Board ist ein unabhängiger Beschwerdemechanismus, der es ermöglichen soll, Streitigkeiten auf transparente und prinzipientreue Art und Weise beizulegen.

4. Relevante Standards

Bei seiner Entscheidung hat das Oversight Board die folgenden Standards berücksichtigt:

I. Facebook-Gemeinschaftsstandards

Facebook definiert in seinen Gemeinschaftsstandards Hassrede als „direkten Angriff auf Personen aufgrund geschützter Eigenschaften: ethnische Zugehörigkeit, nationale Herkunft, religiöse Zugehörigkeit, sexuelle Orientierung, Kaste, Geschlecht, Geschlechtsidentität und ernsthafte Erkrankung oder Behinderung“. Gemäß „Stufe 2“ gehören zu den verbotenen Inhalten u. a. Beschimpfungen, die definiert sind als Verwendung „[p]rofaner Begriffe oder Ausdrücke mit der Absicht, die Zielperson zu beleidigen, wie beispielsweise ficken, Schlampe, Wichser“.

II. Werte von Facebook

Die Werte von Facebook werden in der Einleitung der Gemeinschaftsstandards dargelegt. Der Wert der „Mitsprache“ hat laut dieser Einleitung „höchste Priorität“:

Ziel unserer Gemeinschaftsstandards ist es schon immer gewesen, einen Ort zu schaffen, an dem Menschen sich und ihre Meinung frei ausdrücken können. [...] Wir möchten, dass die Nutzerinnen und Nutzer offen über die Themen sprechen können, die ihnen wichtig sind. Das gilt auch dann, wenn einige Personen möglicherweise unterschiedlicher Meinung sind oder Inhalte anstößig finden.

Facebook beschränkt die „Mitsprache“ zugunsten von vier anderen Werten, von denen zwei für diesen Fall relevant sind:

„Sicherheit“: Unser Ziel ist es, Facebook zu einem sicheren Ort zu machen. Äußerungen, die Nutzer bedrohen, haben das Potenzial, andere einzuschüchtern, auszugrenzen oder mundtot zu machen. Deshalb sind sie auf Facebook nicht gestattet.

„Würde“ : Wir sind der Ansicht, dass alle Menschen gleich an Würde und Rechten sind. Deshalb erwarten wir, dass sie die Würde anderer achten und andere nicht belästigen oder erniedrigen.

III. Menschenrechtsstandards

Die UN-Leitprinzipien für Wirtschaft und Menschenrechte (United Nations Guiding Principles on Business and Human Rights, UNGPs), die 2011 vom UN-Menschenrechtsrat verabschiedet wurden, geben einen freiwilligen Rahmen für die menschenrechtliche Verantwortung von Privatunternehmen vor. Im Jahr 2021 veröffentlichte Facebook seine Unternehmensrichtlinie zu Menschenrechten, in der sich das Unternehmen zur Achtung der Menschenrechte gemäß den UN-Leitprinzipien verpflichtete. Das Board hat bei seiner Analyse dieses Falls folgende Menschenrechtsstandards berücksichtigt:

1. Freie Meinungsäußerung: Artikel 19, Internationaler Pakt über bürgerliche und politische Rechte ( ICCPR), Allgemeine Bemerkung Nr. 34, Menschenrechtsausschuss, 2011
2. Die Verantwortung von Unternehmen: Wirtschaft, Menschenrechte und von Konflikten betroffene Regionen: Hin zu verstärkten Maßnahmen ( A/75/212), Bericht der UN-Arbeitsgruppe zum Thema Menschenrechte und transnationale Konzerne und andere Wirtschaftsunternehmen

5. Stellungnahme des Nutzers

Der Nutzer erklärte in seinem beim Board eingelegten Einspruch, dass er diesen Inhalt gepostet habe, um „das brutale Militärregime zu stoppen“ und den demokratischen Parteiführern in Myanmar einen Rat zu geben. Der Nutzer wiederholte außerdem die Notwendigkeit, die Finanzierung für das Militärregime von Myanmar zu begrenzen. Der Nutzer bezeichnete sich selbst als einen „Aktivisten“ und spekulierte, dass die Informanten des Militärregimes von Myanmar seinen Beitrag gemeldet hätten. Der Nutzer erklärte außerdem, dass „jemand, der die Sprache Myanmars versteht“, seinen Beitrag überprüfen sollte.

6. Erläuterung der Entscheidung von Facebook

Facebook entfernte den Inhalt als einen Angriff der „Stufe 2“ gemäß dem Gemeinschaftsstandard zur Vermeidung von Hassrede. Konkret wurde er entfernt, da er gegen Facebooks Richtlinie verstoßen hat, die profane Schimpfwörter verbietet, die auf Personen aufgrund ihrer ethnischen Zugehörigkeit und/oder nationalen Herkunft abzielen. Laut Facebook wurde der vermeintlich unzulässige Inhalt als Angriff auf das chinesische Volk eingestuft.

Der Inhalt enthielt den burmesischen Begriff „$တရုတ်“, (bzw. „sout ta-yote“), den das regionale Facebook-Team als „verdammte Chinesen“ übersetzt hat. Facebooks regionales Team führte weiter aus, dass „$“ als Abkürzung für „စောက်“ oder „sout“ verwendet werden könne, was übersetzt „verdammt(e)“ bedeute. Nach Aussage des Facebook-Teams wird das Wort „ta-yote“ „sowohl kulturell als auch linguistisch als eine Überschneidung der Identitäten/Bedeutungen zwischen dem Land China und dem chinesischen Volk wahrgenommen“. Facebook hat dem Board die relevanten vertraulichen internen Anweisungen zur Verfügung gestellt, die es seinen Moderatoren bereitstellt, bzw. interne Implementierungsstandards über charakteristische Ausdrucksweisen, die auf Menschen aufgrund geschützter Eigenschaften abzielen, und über Konzepte im Zusammenhang mit geschützten Eigenschaften.

Facebook merkte in seiner Begründung der Entscheidung außerdem an, dass es nach dem Putsch im Februar 2021 in Myanmar „Berichte über eine zunehmend chinesenfeindliche Stimmung gegeben habe“ und dass „mehrere Chinesen verletzt, gefangen oder getötet wurden in einem mutmaßlichen Brandanschlag auf eine von Chinesen finanzierte Bekleidungsfabrik in Yangon, Myanmar“. In seiner Antwort auf eine Frage vom Board gab Facebook an, dass es keinerlei Kontakt zum Militärregime in Myanmar bezüglich dieses Beitrags hatte.

Facebook erklärte, dass es angesichts der Art des Wortes „ta-yote“ und der Tatsache, dass der Nutzer nicht „deutlich angegeben habe, dass sich der Begriff auf das Land/die Regierung von China bezieht“ zu dem Schluss gekommen war, dass „der Nutzer sich mindestens auf das chinesische Volk beziehe“. Demzufolge gab Facebook an, die Entfernung des Beitrags wäre im Einklang mit seinem Gemeinschaftsstandard zur Vermeidung von Hassrede erfolgt.

Facebook argumentierte weiterhin, die Entfernung des Inhalts stehe im Einklang mit seinen Werten „Würde“ und „Sicherheit“ unter Abwägung gegen den Wert „Mitsprache“. Nach Aussage von Facebook könne eine profane auf Chinesen abzielende Beleidigung „diesen Menschen schaden“ und sei „erniedrigend, entmenschlichend und setze ihre Menschenwürde herab“.

Facebook argumentierte, seine Entscheidung stimme mit internationalen Menschenrechtsstandards überein. Facebook gab weiterhin an, seine Entscheidung erfülle die Anforderungen der internationalen Menschenrechtsgesetze im Hinblick auf die Gesetzmäßigkeit, das legitime Ziel und die Notwendigkeit und Verhältnismäßigkeit. Nach Aussage von Facebook war seine Richtlinie „leicht zugänglich“ in den Gemeinschaftsstandards und „die Wortwahl des Nutzers fiel genau in das Verbot profaner Begriffe“. Außerdem wäre die Entscheidung, den Inhalt zu entfernen, gerechtfertigt gewesen, um „die Rechte anderer vor Schaden und Diskriminierung“ zu schützen. Und schließlich wäre seine Entscheidung zur Entfernung des Inhalts „notwendig und verhältnismäßig“ gewesen, da „die Anhäufung von Inhalten mit vulgären gegen Chinesen gerichteten Ausdrücken „zu einem Umfeld führe, in dem Gewalt stärker toleriert wird, und solche Inhalte zum Fortbestand von Diskriminierung in der Gesellschaft beitrügen““, womit Facebook die Entscheidung des Boards 2021-002-FB-UA im Zusammenhang mit Zwarte Piet zitierte. Facebook äußerte, dass es hier ähnlich wäre, da es „in beiden Fällen um Hassrede ginge, die auf Personen aufgrund ihrer ethnischen Zugehörigkeit abziele“.

7. Einreichungen Dritter

Das Oversight Board hat zu diesem Fall 10 öffentliche Kommentare erhalten. Fünf der Kommentare stammten aus dem Asien-Pazifik-Raum und Ozeanien, konkret aus Myanmar, und fünf kamen aus den USA und Kanada. Das Board erhielt Kommentare von Stakeholdern, u. a. von Menschenrechtsverteidigern und zivilgesellschaftlichen Organisationen, die sich vor allem mit der freien Meinungsäußerung und Hassrede in Myanmar beschäftigen.

In den Einreichungen ging es um Themen wie Übersetzung und Analyse des Wortes „sout ta-yote“; ob der Inhalt einen Angriff auf China oder Chinesen darstellte; ob es sich bei dem Beitrag um eine politische Äußerung handelte, die im Zusammenhang mit dem Konflikt in Myanmar geschützt werden sollte; ob die chinesenfeindliche Stimmung in Myanmar nach dem Putsch im Februar 2021 zugenommen hat; um die Beziehungen zwischen China und dem Militärregime in Myanmar; und um Facebooks Praktiken bei der Inhaltsmoderation, insbesondere um die Nutzung, das Training und die Prüfung von Facebooks Automatisierungstools für Inhalte in burmesischer Sprache.

Die öffentlichen Kommentare, die zu diesem Fall eingereicht wurden, können hier eingesehen werden.

8. Analyse des Oversight Boards

Dieser Fall unterstreicht die Bedeutung des Kontextes bei der Durchsetzung von Inhaltsrichtlinien, die Nutzer vor Hassrede schützen sollen, und wie wichtig es ist, zugleich politische Äußerungen zu respektieren. Dies ist besonders relevant in Myanmar angesichts des Putsches im Februar 2021 und Facebooks Stellenwert als Kommunikationsmedium. Das Board hat aus drei Perspektiven geprüft, ob dieser Inhalt wiederhergestellt werden sollte: Anhand der Facebook-Gemeinschaftsstandards, der Werte des Unternehmens und seiner Verantwortung bezüglich der Menschenrechte.

8.1 Einhaltung der Gemeinschaftsstandards

Das Board kam zu dem Schluss, dass die Wiederherstellung des Inhalts im Einklang mit Facebooks Gemeinschaftsstandard zur Vermeidung von Hassrede steht. Facebooks Richtlinie verbietet Inhalte, die auf eine Person oder Personengruppe aufgrund ihrer ethnischen Zugehörigkeit und/oder nationalen Herkunft abzielen, mit „profanen Begriffen mit der Absicht, die Zielperson zu beleidigen“. Das Board kommt zu dem Schluss, dass der Beitrag nicht auf Personen sondern vielmehr im Rahmen der Diskussion über die Rolle der chinesischen Regierung in Myanmar auf die staatliche chinesische Vorgehensweise in Hong Kong abzielte.

Neben den öffentlichen Kommentaren zog das Board auch zwei Übersetzungen des Textes heran. Diese umfassten Übersetzungen einer der burmesischen Sprache mächtigen, in Myanmar ansässigen Person sowie die einer solchen Person, die außerhalb von Myanmar ansässig war. Die öffentlichen Kommentare und die Übersetzer des Boards wiesen darauf hin, dass in der burmesischen Sprache dasselbe Wort verwendet wird, um Bezug auf einen Staat und die Menschen dieses Staates zu nehmen. Deshalb ist der Kontext entscheidend, um die beabsichtigte Bedeutung zu verstehen. Dies ist insbesondere für die Anwendung von Facebooks Richtlinie zur Vermeidung von Hassrede relevant. Zu dem Zeitpunkt, als der Inhalt entfernt wurde, waren gemäß dem Gemeinschaftsstandard zur Vermeidung von Hassrede Angriffe gegen Personen aufgrund ihrer nationalen Herkunft verboten, jedoch keine Angriffe gegen Länder.

Das Board berücksichtigte verschiedene Faktoren bei seiner Entscheidung, dass dieser Beitrag nicht auf Chinesen abzielte aufgrund ihrer ethnischen Zugehörigkeit oder nationalen Herkunft. Erstens werden in dem weiter gefassten Beitrag Möglichkeiten vorgeschlagen, die finanzielle Förderung für das Militärregime zu begrenzen und dem CRPH finanzielle Unterstützung zukommen zu lassen. Zweitens bezeichnet der vermeintlich gegen die Regeln von Facebook verstoßende Teil des Beitrags Chinas Finanzstrategien in Hongkong als „Folter“ oder „Verfolgung“ und nicht die Handlungen einzelner Personen oder des chinesischen Volkes in Myanmar. Drittens: Es bedeutet zwar nicht immer, dass ein häufig geteilter Beitrag keinen Verstoß darstellt, wenn er nicht gemeldet wird, jedoch haben über 500.000 Menschen den Beitrag angesehen, mehr als 6.000 Menschen ihn geteilt und er wurde er von keinem Nutzer gemeldet. Viertens wiesen beide Übersetzer, die das Board zu Rate gezogen hat, darauf hin, dass zwar derselbe Begriff verwendet wird, um Bezug sowohl auf einen Staat als auch auf sein Volk zu nehmen, er sich hier jedoch auf den Staat bezog. Auf die Frage nach einer möglichen Mehrdeutigkeit bei dieser Bezeichnung äußerten die Übersetzer keinerlei Zweifel. Fünftens gaben die Übersetzer des Boards an, dass der Beitrag Begriffe enthalte, die häufig von der Regierung Myanmars und der chinesischen Botschaft verwendet würden, um einander anzusprechen. Und schließlich nahmen die öffentlichen Kommentare den allgemeinen Tonfall des Beitrags vor allem als politische Diskussion wahr.

Deshalb kam das Board zu dem Schluss, dass der Beitrag nicht gegen Facebooks Gemeinschaftsstandard zur Vermeidung von Hassrede verstoßen hat, da die vulgären Ausdrücke nicht auf Menschen aufgrund ihrer ethnischen Zugehörigkeit oder nationalen Herkunft abzielten, sondern sich an einen Staat richteten. Es sei von entscheidender Bedeutung sicherzustellen, dass Verbote zum Abzielen auf Personen aufgrund geschützter Eigenschaften nicht auf eine Art ausgelegt werden, die Regierungen oder Institutionen vor Kritik schützt. Das Board erkennt an, dass chinesenfeindliche Hassrede ein schwerwiegendes Problem darstellt, allerdings bezöge sich dieser Beitrag auf den chinesischen Staat.

Das Board widerspricht Facebooks Argument, dass seine Entscheidung, diesen Inhalt zu entfernen, auf der Begründung des Boards in Fallentscheidung 2021-002-FB-UA beruhte, (in der das Board die Entfernung von Darstellungen von Menschen mit Blackface-Schminke bestätigte). In dem Fall hatte Facebook eine Regel gegen Darstellungen von Menschen mit Blackface-Schminke, und das Board gestattete Facebook, diese Regel auf einen Inhalt anzuwenden, der Blackface-Darstellungen von Zwarte Piet enthielt. Hier ergibt sich aus dem Kontext des Beitrags jedoch, dass die verwendete Wortwahl in keinerlei Weise gegen Facebooks Regeln verstoßen hat.

Während der Entscheidungsfindung des Boards zu diesem Fall hat Facebook seinen Gemeinschaftsstandard zur Vermeidung von Hassrede aktualisiert, um weitere Informationen zu seinem Verbot von „Konzepten“ im Zusammenhang mit geschützten Eigenschaften unter bestimmten Umständen bereitzustellen. Diese neue Regel besagt, dass Facebook für die Durchsetzung „zusätzliche Informationen und/oder Kontext benötigt“ und dass Nutzer keine Inhalte posten sollten, die „auf Konzepte, Institutionen, Ideen, Praktiken oder Ansichten, die mit geschützten Eigenschaften assoziiert werden, abzielen, und wahrscheinlich zu unmittelbar drohender Körperverletzung, Einschüchterung oder Diskriminierung der Personen beitragen, denen diese geschützte Eigenschaft zugeordnet wird“.

Da dieser Teil nicht in dem Gemeinschaftsstandard enthalten war, als Facebook diesen Inhalt entfernt hat, und Facebook gegenüber dem Board nicht argumentiert hat, dass es den Inhalt gemäß diesem aktualisierten Standard entfernt hat, hat das Board die Anwendung dieser Richtlinie auf diesen Fall nicht geprüft. Das Board nimmt jedoch zur Kenntnis, dass „Konzepte, Institutionen, Ideen, Praktiken oder Ansichten“ ein breites Spektrum der Meinungsäußerung abdecken könnte, einschließlich politischer Rede.

8.2 Einhaltung der Werte von Facebook

Das Board kommt zu dem Schluss, dass die Wiederherstellung des Inhalts den Werten von Facebook entspricht. Auch wenn Facebooks Werte „Würde“ und „Sicherheit“ wichtig sind, insbesondere im Kontext des Putsches in Myanmar im Februar 2021, stellte dieser Inhalt keine derartige Gefahr für diese Werte dar, die eine Vernachlässigung des Werts „Mitsprache“ rechtfertigen würde. Das Board kam außerdem zu dem Schluss, dass der Beitrag politische Rede enthält, was ein entscheidender Aspekt des Wertes „Mitsprache“ ist.

8.3. Erfüllung der menschenrechtlichen Verantwortung von Facebook

Das Board kommt zu dem Schluss, dass die Wiederherstellung des Inhalts im Einklang mit Facebooks menschenrechtlicher Verantwortung als Unternehmen steht. Facebook hat sich zur Wahrung der Menschenrechte gemäß UN-Leitprinzipien für Wirtschaft und Menschenrechte (UNGPs) verpflichtet. Seine Unternehmensrichtlinie zu Menschenrechtenbesagt, dass dies auch den Internationalen Pakt über bürgerliche und politische Rechte (ICCPR) umfasst.

Artikel 19 des ICCPR sieht einen umfassenden Schutz der Meinungsäußerung vor. Dieser Schutz ist „besonders hoch“ für politische Äußerungen und Diskussionen, wie u. a. über öffentliche Institutionen ( Allgemeine Bemerkung Nr. 34, Absatz 38). Artikel 19 schreibt vor, dass staatliche Einschränkungen der Meinungsäußerung die drei Testkriterien Gesetzmäßigkeit, Rechtmäßigkeit sowie Notwendigkeit und Verhältnismäßigkeit erfüllen. Das Board kommt zu dem Schluss, dass die Maßnahmen von Facebook nicht seiner Verantwortung als Unternehmen im Rahmen dieses Tests genügten.

I. Gesetzmäßigkeit (Klarheit und Zugänglichkeit der Regeln)

Der Grundsatz der Gesetzmäßigkeit gemäß den internationalen Menschenrechtsgesetzen verlangt, dass von staatlicher Seite zur Einschränkung der freien Meinungsäußerung eingesetzte Regeln klar verständlich und frei einsehbar sind (Allgemeine Bemerkung Nr. 34, Absatz 25). Die Regeln zur Einschränkung der freien Meinungsäußerung müssen außerdem „den mit ihrer Durchführung Beauftragten ausreichend Anleitung dafür bieten, dass sie herausfinden können, welche Arten ordnungsgemäß eingeschränkt werden und welche nicht“ ( Allgemeine Bemerkung Nr. 34, Abs. 25).

Der Gemeinschaftsstandard zur Vermeidung von Hassrede verbietet vulgäre Ausdrücke, die aufgrund von ethnischer Zugehörigkeit oder nationaler Herkunft auf Personen abzielen. Facebook teilte dem Board mit, dass es wegen der Schwierigkeiten bei der „vollumfänglichen Ermittlung der Absicht den Begriff „verdammte Chinesen“ als Bezugnahme sowohl auf das chinesische Volk als auch auf China als Land bzw. die chinesische Regierung erachte, sofern der Nutzer keinen zusätzlichen Kontext dazu bereitstellt, dass er sich ausschließlich auf das Land oder die Regierung bezieht“. Die Regel der standardmäßigen Entfernung ist nicht in dem Gemeinschaftsstandard genannt.

Das Board kommt zu dem Schluss, dass der Nutzer zusätzlichen Kontext dazu bereitgestellt habe, dass sich der Beitrag auf einen Staat oder ein Land bezog. (Siehe die Einschätzung des Boards zum Gemeinschaftsstandard zur Vermeidung von Hassrede (Abschnitt 8.1 oben)). Mehrere Facebook-Überprüfer kamen zu einem anderen Schluss als die Übersetzer des Boards, die Personen, die öffentliche Kommentare gesendet haben, und wahrscheinlich viele der über 500.000 Nutzer, die den Beitrag gesehen und nicht gemeldet haben. Angesichts dieser Uneinigkeit, stellt das Board die Angemessenheit der internen Anweisungen, Ressourcen und Schulungen in Frage, die Facebook Inhaltsmoderatoren bereitgestellt.

Mit seiner Feststellung, dass der Nutzer nicht gegen Facebooks Richtlinie zur Vermeidung von Hassrede verstoßen hat, fällt das Board kein Urteil darüber, ob die nicht öffentliche Regel zur standardmäßigen Entfernung gegen den Grundsatz der Gesetzmäßigkeit verstößt. Das Board ist jedoch besorgt darüber, dass sich die Regel der standardmäßigen Entfernung nicht eindeutig aus den Gemeinschaftsstandards ergibt, wenn vulgäre Ausdrücke so ausgelegt werden können, dass sie sich wahlweise an ein Volk oder einen Staat richten. Generell sollte Facebook solche internen Anweisungen veröffentlichen, die die Auslegung seiner öffentlichen Gemeinschaftsstandards ändern.

II. Legitimes Ziel

Jede staatliche Einschränkung der Meinungsäußerung sollte eines der im ICCPR aufgeführten legitimen Ziele verfolgen. Dies sind u. a. die „Rechte anderer“. Laut Facebook soll seine Richtlinie zur Vermeidung von Hassrede die Nutzer vor Diskriminierung schützen. Das Board stimmt zu, dass es sich hierbei um ein legitimes Ziel handelt.

III. Notwendigkeit und Verhältnismäßigkeit

Der Grundsatz der Notwendigkeit und Verhältnismäßigkeit gemäß Menschenrechtsgesetzen verlangt, dass Einschränkungen der Meinungsfreiheit „dazu geeignet sein müssen, ihre Schutzfunktion zu erfüllen, die am wenigsten einschneidenden Instrumente unter denjenigen sein müssen, die ihre Schutzfunktion erfüllen können und verhältnismäßig zu den zu schützenden Interessen sein müssen“ (Allgemeine Bemerkung Nr. 34, Absatz 34). In diesem Fall stellte das Board aufgrund seiner Auslegung des Inhalts fest, dass die Einschränkung dieses Beitrags keine Schutzfunktion erfüllen würde.

Laut den UN-Leitprinzipien müssen Unternehmen fortlaufende menschenrechtliche Due-Diligence-Prüfungen durchführen, um die Auswirkungen ihrer Tätigkeiten einzuschätzen (Leitprinzip 17), und anerkennen, dass die Gefahr menschenrechtlicher Schäden in von Konflikten betroffenen Regionen erhöht ist (Leitprinzip 7). Die UN-Arbeitsgruppe zum Thema Menschenrechte und transnationale Konzerne und andere Wirtschaftsunternehmen wies darauf hin, dass die unternehmerische Sorgfaltspflicht der größeren Komplexität und dem erhöhten Schadensrisiko in einigen Szenarien Rechnung tragen sollte ( A/75/212, Abs. 41-49). Entsprechend empfahl das Board in Fallentscheidung 2021-001-FB-FBR, dass Facebook „die Bereitstellung angemessener Ressourcen und Fachkenntnisse sicherstellen sollte, um die Risiken von Schäden durch einflussreiche Nutzer weltweit zu bewerten“. Damit erkannte es an, dass Facebook Regionen mit erhöhten Risiken mehr Aufmerksamkeit widmen sollte.

In diesem Fall stellte das Board fest, dass diese erhöhte Verantwortung nicht zu einer standardmäßigen Entfernung führen sollte, da es sowohl weitreichend Folgen habe, gefährliche Inhalte online zu lassen als auch Inhalte zu entfernen, die ein geringes oder kein Schadensrisiko darstellen. Auch wenn Facebooks Besorgnis im Hinblick auf Hassrede in Myanmar berechtigt sei, müsse es auch besonders darauf achten, politische Kritiken und Äußerungen nicht zu entfernen, die in diesem Fall eine demokratische Staatsführung unterstützten.

Das Board führte an, dass Facebooks Regel der Annahme, dass sich vulgäre Ausdrücke mit Erwähnung der nationalen Herkunft (in diesem Fall „$တရုတ်“) auf Staaten und Personen beziehen, zu einer unverhältnismäßigen Durchsetzung in einigen linguistischen Kontexten führen könne, wie hier, wo dasselbe Wort für beide Fälle verwendet wird. Das Board merkte außerdem an, dass sich die Auswirkungen dieser Entfernung über den Fall hinaus erstreckten, da Facebook angab, der Beitrag wäre im Classifier-Training als Beispiel für einen gegen den Gemeinschaftsstandard zur Vermeidung von Hassrede verstoßenden Inhalt verwendet worden.

Angesichts der obigen Erkenntnisse unterstützen die internationalen Menschenrechtsstandards die Wiederherstellung des Inhalts auf Facebook.

9. Entscheidung des Oversight Boards

Das Oversight Board hebt die Entscheidung von Facebook, den Inhalt zu entfernen, auf und verlangt, den Inhalt wiederherzustellen. Facebook ist gemäß Satzung des Boards dazu verpflichtet, diese Entscheidung auf parallele Kontexte anzuwenden, und sollte diesen Inhalt bei Verwendung in einem Classifier-Training als zulässig kennzeichnen.

10. Richtlinienempfehlung

Facebook sollte sicherstellen, dass seine internen Implementierungsstandards in der Sprache verfügbar sind, in der Inhaltsmoderatoren Inhalte überprüfen. Falls eine Priorisierung erforderlich ist, sollte Facebook sich zunächst auf die Kontexte konzentrieren, bei denen die Risiken für Menschenrechte gravierender sind.

* Anmerkung zur Vorgehensweise:

Die Entscheidungen des Oversight Board werden von einem Panel aus fünf Mitgliedern vorbereitet und von einer Mehrheit des Gremiums bestätigt. Entscheidungen des Gremiums geben nicht zwangsläufig die persönliche Meinung aller Mitglieder wieder.

Für diese Fallentscheidung wurde eine unabhängige Studie vom Gremium in Auftrag gegeben. Ein unabhängiges Forschungsinstitut mit Sitz an der Universität Göteborg und ein Team aus über 50 Sozialwissenschaftlern auf sechs Kontinenten sowie mehr als 3.200 Länderexperten aus der ganzen Welt stellten ihr Expertenwissen zum soziopolitischen und kulturellen Kontext zur Verfügung. Das Unternehmen Lionbridge Technologies, LLC, dessen Spezialisten insgesamt mehr als 350 Sprachen fließend beherrschen und in 5.000 Städten weltweit arbeiten, stellte seine Sprachkompetenz zur Verfügung.

Volver a Decisiones de casos y opiniones consultivas sobre políticas