Angriff einer iranischen Frau auf der Straße

Zusammenfassung

Das Oversight Board hat die ursprüngliche Entscheidung von Meta aufgehoben, ein Video zu löschen, das einen Mann im Iran zeigt, der in der Öffentlichkeit eine Frau angeht, weil sie keinen Hidschab trägt. Der Beitrag verstößt nicht gegen die Regeln zu Gewalt und Anstiftung zu Gewalt, da er keine wörtliche Aussage, sondern bildliche Sprache enthält und keine ernsthafte Gewaltandrohung darstellt. In einer Zeit des Aufruhrs, der eskalierenden Repression und Gewalt gegen Protestierende ist der Zugang zu sozialen Medien im Iran von entscheidender Bedeutung – das Internet stellt eine neue Aktionsplattform im Kampf für Frauenrechte dar. Instagram ist eine der wenigen verbliebenen Plattformen, die in dem Land nicht verboten wurden. Es spielt eine unschätzbare Rolle für die regimekritische „Frau, Leben, Freiheit“-Bewegung, trotz der Bemühungen des Regimes, Angst bei den Frauen zu schüren und sie auch online mundtot zu machen. Das Board kommt zu dem Schluss, dass die Bemühungen von Meta, die Achtung der Meinungs- und Versammlungsfreiheit vor dem Hintergrund systematischer staatlicher Unterdrückung zu gewährleisten, unzureichend waren und empfiehlt eine Änderung des Krisenrichtlinienprotokolls des Unternehmens.

Über den Fall

Im Juli 2023 postete ein*e Instagram-Nutzer*in ein Video von einer Frau, die von einem Mann angegriffen wurde, weil sie in der Öffentlichkeit keinen Hidschab trug. Das Video ist in persischer Sprache, mit englischen Untertiteln. Darin antwortet die Frau, dass sie für ihre Rechte eintritt. Eine begleitende Bildunterschrift drückt ihre Unterstützung für diese Frau sowie die iranischen Frauen aus, die dem Regime die Stirn bieten. Ein Teil der Bildunterschrift, die auch das Regime kritisiert, enthält eine Formulierung, die laut Meta übersetzt bedeutet: „it is not far to make you into pieces“ (Bald wirst du in Stücke gerissen).

Das iranische Strafgesetz sieht für Frauen, die sich ohne einen „ordnungsgemäßen Hidschab“ in der Öffentlichkeit bewegen, Geld- oder Gefängnisstrafen oder Auspeitschen vor. Im September 2023 verabschiedete das iranische Regime ein neues Hidschab- und Keuschheitsgesetz, nach dem Frauen mit bis zu 10 Jahren Gefängnis bestraft werden können, wenn sie die Pflicht zum Tragen eines Hidschabs missachten. Die Bildunterschrift in diesem Beitrag stellt klar, dass die Frau im Video bereits verhaftet wurde.

Der Beitrag wurde zunächst von den automatischen Systemen von Meta als potenzieller Verstoß gegen die Gemeinschaftsrichtlinien von Instagram markiert und zum Review durch eine*n Mitarbeiter*in weitergeleitet. Der Beitrag wurde von mehreren Prüfer*innen gemäß Metas Richtlinie zu Gewalt und Anstiftung zu Gewalt bewertet. Sie kamen jedoch nicht alle zum gleichen Ergebnis. Darum sowie aufgrund eines technischen Fehlers wurde der Beitrag auf der Plattform belassen. Daraufhin meldete ein*e Nutzer*in den Beitrag. Das führte zu einer weiteren Review-Runde, diesmal durch das regionale Team von Meta, das über entsprechende Sprachkenntnisse verfügt. Dabei wurde festgestellt, dass der Beitrag gegen die Richtlinie zu Gewalt und Anstiftung zu Gewalt verstößt, und er wurde von Instagram entfernt. Der*Die Urheber*in des Inhalts legte daraufhin Einspruch beim Oversight Board ein. Meta hielt seine Entscheidung zur Entfernung des Inhalts aufrecht, bis das Oversight Board diesen Fall auswählte. Daraufhin hat das Unternehmen seine Entscheidung rückgängig gemacht und den Post wiederhergestellt.

Wichtige Erkenntnisse

Das Oversight Board ist der Meinung, dass der Beitrag nicht gegen den Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt verstößt, da er figurative Sprache enthält und keine glaubwürdige Gewaltandrohung darstellt, die abseits des Internets zu Schaden führen würde. Ursprünglich hatte Meta den Beitrag unter anderem deshalb entfernt, weil es die Formulierung „it is not far to make you into pieces“ (Bald wirst du in Stücke gerissen) als Absichtserklärung, schwere Gewalt zu verüben – gegen den Mann im Video – wertete. Tatsächlich sollte die Formulierung nicht wörtlich ausgelegt werden. In Anbetracht des Kontexts der weit verbreiteten Proteste im Iran sowie der Bildunterschrift und des Videos als Ganzes ist diese Aussage bildlich gemeint und drückt Wut und Bestürzung über das Regime aus. Vom Board befragte Sprachexpert*innen haben eine leicht abweichende Übersetzung des Satzes („we will tear you to pieces sometime soon“, etwa „wir werden dich/euch bald in Stücke reißen“) angemerkt und erklärt, dass er Wut, Enttäuschung und Abneigung gegenüber dem Regime ausdrückt. Der wahrscheinlichste Schaden, der aus diesem Beitrag resultieren würde, wären also eher Vergeltungsmaßnahmen seitens des Regimes als ein Schaden für das Regime.

Die Argumentation von Meta legt zwar nahe, dass „Sprache“ und „Kontext“ bei der Bewertung einer „glaubwürdigen Bedrohung“ berücksichtigt werden können, aber die internen Leitlinien von Meta für die Moderator*innen ermöglichen dies in der Praxis nicht. Moderator*innen sind angewiesen, bestimmte Kriterien (eine Bedrohung und ein Ziel) zu bestimmen und, sollten diese erfüllt sein, Inhalte zu entfernen. Das Board hat bereits im Fall Protest-Slogan gegen die Regierung im Iran seine Besorgnis über diese Fehleinschätzung geäußert und Meta empfohlen, differenzierte Leitlinien zur Berücksichtigung des Kontexts zu erstellen und die Moderator*innen anzuweisen, keine „rhetorischen Äußerungen“ mehr zu entfernen, die eine abweichende Meinung ausdrücken. Es ist besorgniserregend, dass in Kontexten wie dem des Iran immer noch Raum besteht für eine uneinheitliche Durchsetzung von figurativer Sprache. Da die Genauigkeit der Automatisierung von der Qualität der von Menschen bereitgestellten Trainingsdaten abhängt, ist es außerdem wahrscheinlich, dass sich der Fehler beim Entfernen bildlicher Sprache noch verstärkt.

Dieser Beitrag wurde auch im Rahmen des Standards zu koordiniertem Zufügen von Schaden und Begünstigung von Verbrechen betrachtet, da es eine Regel gibt, die „Inhalte [verbietet], die unverschleierte Frauen gefährden, indem sie ihre Bilder ohne Schleier gegen deren Willen bzw. ohne deren Einwilligung preisgeben und sie somit einem Risiko aussetzen“. Die Richtlinie wurde inzwischen geändert und verbietet jetzt: „Outing [unverschleierter Frauen]: Die Identität einer Person preis[zu]geben und sie dem Risiko einer Gefährdung aus[zu]setzen.“ In diesem Punkt stimmt das Oversight Board mit Meta überein, dass der Inhalt die Frau im Video nicht „outet“ und die Gefahr eines Schadens gemindert war, weil ihre Identität weithin bekannt war und sie bereits verhaftet worden war. Vielmehr wurde der Beitrag geteilt, um auf ihre Verhaftung aufmerksam zu machen und die Behörden unter Druck zu setzen, sie freizulassen.

Da der Iran gemäß den Krisenrichtlinien von Meta, einschließlich des Krisenrichtlinienprotokolls, als Risikoland eingestuft wird, kann das Unternehmen vorübergehende Änderungen an den Richtlinien („Hebel“) vornehmen, um auf eine bestimmte Situation zu reagieren. Das Oversight Board erkennt die Bemühungen von Meta in Bezug auf den Iran an; diese reichen jedoch nicht aus, um die Achtung der Meinungs- und Versammlungsfreiheit der Menschen in einem Umfeld systematischer Unterdrückung zu gewährleisten.

Die Entscheidung des Oversight Boards

Das Oversight Board hat die ursprüngliche Entscheidung von Meta aufgehoben, den Beitrag zu entfernen.

Das Oversight Board empfiehlt Meta folgende Maßnahmen:

• Dem Krisenrichtlinienprotokoll einen Hebel hinzuzufügen, um klarzustellen, dass bildliche (d. h. nicht wörtliche) Äußerungen, die nicht darauf abzielen, zu Gewalt anzustiften, und bei denen dies auch nicht zu erwarten ist, nicht gegen die Richtlinie zu Gewalt und Anstiftung zu Gewalt verstoßen, die Gewaltandrohungen in relevanten Kontexten verbietet. Dazu gehört auch, Kriterien für Moderator*innen zu entwickeln, wie sie solche Formulierungen im jeweiligen Kontext erkennen können.

* Fallzusammenfassungen bieten einen Überblick über die Fälle und haben keinen Präzedenzwert.

Ausführliche Fallentscheidung

1. Zusammenfassung der Entscheidung

Das Oversight Board hat die ursprüngliche Entscheidung von Meta aufgehoben, ein Video zu löschen, das einen Mann im Iran zeigt, der in der Öffentlichkeit eine Frau angreift, weil sie keinen Hidschab trägt. Meta entfernte den Beitrag von Instagram wegen der folgenden Zeile in der Bildunterschrift – „it is not far to make you into pieces“ (Bald wirst du in Stücke gerissen). Das Unternehmen fasste diese Formulierung als Drohung auf, die sich gegen den Mann im Video richtete, der die Frau angriff, weil sie keinen Hidschab trug. Das Oversight Board hat festgestellt, dass der Beitrag nicht gegen die Richtlinie zu Gewalt und Anstiftung zu Gewalt verstößt, da die betreffende Aussage eher bildlich als wörtlich zu verstehen ist und angesichts des Kontexts keine glaubwürdige Gewaltandrohung darstellt. Nachdem das Board den Fall ausgewählt hatte, hielt Meta seine Entscheidung zunächst aufrecht, den Beitrag zu entfernen. Bevor Meta dem Oversight Board seine Begründung vorlegte, stellte das Unternehmen jedoch fest, dass seine ursprüngliche Entscheidung, den Inhalt zu entfernen, ein Fehler war, und stellte den Beitrag auf der Plattform wieder her. Das Board kommt zu dem Schluss, dass die Bemühungen von Meta, die Achtung der Meinungs- und Versammlungsfreiheit vor dem Hintergrund systematischer staatlicher Unterdrückung der Meinungsfreiheit zu gewährleisten, unzureichend waren und empfiehlt eine Änderung des Krisenrichtlinienprotokolls des Unternehmens.

2. Beschreibung des Falls und Hintergrundinformationen

Im Juli 2023 postete eine Person auf Instagram ein Video, das auf Persisch mit englischen Untertiteln ist, und zeigt, wie eine Frau von einem Mann angegriffen wird, weil sie in der Öffentlichkeit keinen Hidschab trägt. Die Frau antwortet daraufhin, dass sie für ihre Rechte eintritt. Der Mann ist in dem Video nicht zu erkennen, während die Frau vollständig zu sehen ist. Das Video scheint eine Neuveröffentlichung einer Aufnahme zu sein, die ursprünglich von einer Person geteilt wurde, die dem iranischen Regime nahesteht oder es unterstützt. Das Video enthielt eine Bildunterschrift, ebenfalls auf Persisch. Sie drückt ihre Unterstützung für diese Frau sowie die iranischen Frauen aus, die dem Regime die Stirn bieten und Kritik am Regime und seinen Unterstützern äußern. Die Bildunterschrift enthielt eine Formulierung, die von Meta mit „Bald wirst du in Stücke gerissen“ übersetzt wurde und enthielt zusätzlich den Hinweis, dass die Frau nach dem Vorfall verhaftet wurde. Der Beitrag wurde rund 47.000-mal aufgerufen, 2.000-mal mit „Gefällt mir“ markiert, 100-mal kommentiert und 50-mal geteilt.

Der Inhalt wurde zunächst von einem automatischen Classifier (also einem Algorithmus, den Meta verwendet, um potenzielle Verstöße gegen seine Richtlinien zu erkennen) als potenzieller Verstoß gegen die Gemeinschaftsrichtlinien von Instagram markiert und zum manuellen Review weitergeleitet. Der Inhalt wurde von mehreren Prüfer*innen bewertet. Aufgrund eines technischen Fehlers und weil die Prüfer*innen nicht alle zu demselben Ergebnis kamen, ob der Beitrag gegen die Richtlinien zu Gewalt und Anstiftung zu Gewalt verstößt, wurde er zunächst nicht entfernt. Daraufhin meldete ein*e Nutzer*in den Beitrag. Ein automatischer Classifier stellte hierauf erneut fest, dass der Inhalt möglicherweise gegen die Richtlinien von Meta verstößt, und leitete ihn zur weiteren Überprüfung weiter. Der Inhalt wurde von einem*einer Nutzer*in gemeldet – und er wurde nur einmal gemeldet. Nach dieser zusätzlichen Überprüfung durch ein regionales Team von Meta, das über entsprechende Sprachkenntnisse verfügt, entfernte Meta den Beitrag von Instagram unter Berufung auf die Richtlinie zu Gewalt und Anstiftung zu Gewalt. Die Entscheidung von Meta, den Beitrag zu entfernen, basierte auf der folgenden Zeile in der Bildunterschrift: „it is not far to make you into pieces“ (etwa: Bald wirst du in Stücke gerissen). Das Unternehmen wertete diese Zeile als Drohung, die sich gegen den Mann in dem Video richtete, der die Frau zur Rede stellte, weil sie keinen Hidschab trug. Die Person, die den Beitrag erstellt hatte, legte bei Meta Einspruch gegen die Entscheidung ein, den Beitrag zu entfernen. In einem manuellen Review wurde die Entscheidung, den Beitrag zu entfernen, bestätigt.

Der*Die Urheber*in des Inhalts legte daraufhin Einspruch beim Oversight Board gegen die Entfernung ein. Als das Oversight Board den Fall für eine rechtliche Prüfung auswählte, hielt Meta seine Entscheidung zur Entfernung des Inhalts aufrecht. In dieser Phase der Prüfung berücksichtigte Meta auch den Gemeinschaftsstandard zu koordiniertem Zufügen von Schaden und Begünstigung von Verbrechen, der das „Outing“ unverschleierter Frauen verbietet, wenn die Frau dadurch in Gefahr gerät. Zu dem Zeitpunkt, als der Inhalt gepostet wurde, war die Frau bereits vom Regime verhaftet worden. Nachdem das Oversight Board den Fall ausgewählt hatte, änderte das Unternehmen seine Entscheidung und stellte den Inhalt auf der Grundlage zusätzlichen Inputs seines regionalen Teams und der Entscheidung des Oversight Boards im Fall „Aufruf zum Frauenprotest in Kuba“ wieder her.

Wie das Board in seiner Entscheidung Protest-Slogan gegen die Regierung im Iran feststellte, protestieren die Menschen im Iran mindestens seit der Revolution von 1979 gegen die Regierung und für die bürgerlichen und politischen Rechte sowie die Gleichstellung der Geschlechter. Im Jahr 2023 wurde der Friedensnobelpreis an Narges Mohammadi verliehen, eine inhaftierte Menschenrechtsaktivistin, die seit mehr als „20 Jahren für die Rechte der Frauen kämpft und [dadurch] zu einem Symbol für die Freiheit und den Kampf gegen die iranische Theokratie geworden ist“. Das iranische Strafgesetz sieht für Frauen, die sich ohne einen „ordnungsgemäßen Hidschab“ in der Öffentlichkeit bewegen, Geld- oder Gefängnisstrafen oder Auspeitschen vor. Außerdem sind Frauen im Iran von bestimmten Studienfächern und von vielen öffentlichen Bereichen ausgeschlossen, und es ist ihnen unter anderem verboten, mit Angehörigen des anderen Geschlechts zu tanzen. Der Mann wird als Familienoberhaupt betrachtet, und Frauen benötigen die Zustimmung ihres Vaters oder Ehemanns, um arbeiten, heiraten oder reisen zu dürfen. Vor Gericht wird der Aussage einer Frau halb so viel Gewicht beigemessen wie der eines Mannes, wodurch der Zugang von Frauen zur Justiz eingeschränkt ist.

Nachdem die iranischen Behörden im Jahr 2022 die Maßnahmen zur Durchsetzung der Hidschab-Pflicht verschärft und ausgeweitet haben, werden Frauen verstärkt kontrolliert, was häufig zu verbalen und körperlichen Belästigungen und Verhaftungen führt. Im September 2022 starb die 22-jährige Jina Mahsa Amini drei Tage nach ihrer Verhaftung in Polizeigewahrsam, nachdem sie angeblich die Vorschriften zum „ordnungsgemäßen Tragen des Hidschabs“ missachtet hatte. Ihr Tod löste nationale Empörung und Protestwellen im ganzen Land aus und führte zu einer regimekritischen Bewegung, die unter dem Namen „Zan, Zendegi, Azadi“ („Frau, Leben, Freiheit“) bekannt wurde. Dies führte zu einem gewaltsamen Vorgehen der politischen Führung, in dessen Verlauf bis Ende 2022 mehr als 500 Menschen getötet und schätzungsweise 14.000 Menschen verhaftet wurden, darunter Demonstrierende sowie Journalist*innen, Jurist*innen, Aktivist*innen, Künstler*innen und Sportler*innen, die die Bewegung unterstützt hatten.

Im September 2023 verabschiedete das iranische Parlament ein neues Gesetz zum Thema „Hidschab und Keuschheit“, wonach Frauen mit bis zu 10 Jahren Gefängnis bestraft werden können, wenn sie die Pflicht zum Tragen eines Hidschabs missachten. Unternehmen, in denen Frauen ohne Hidschab bedient werden, müssen ebenfalls mit Sanktionen rechnen und riskieren, dass ihr Betrieb geschlossen wird.

Die sozialen Medien waren für die Frauenprotestbewegung im Iran von zentraler Bedeutung und spielten eine entscheidende Rolle bei der Mobilisierung der Proteste und der Verbreitung wichtiger Informationen (siehe öffentliche Kommentare PC-21007, PC-21011) sowie bei der Dokumentation und öffentlichen Aufbewahrung von Beweisen für Missstände und Menschenrechtsverletzungen (PC-21008, Anhang).

Online-Kampagnen setzen Frauen jedoch auch dem Risiko weiterer Repressionen durch das Regime aus, darunter Drohungen, Diffamierungskampagnen, Festnahmen und Inhaftierungen. Vom Board befragte Expert*innen wiesen auf ein umfangreiches Netzwerk von Organisationen hin, die mit der Islamischen Revolutionsgarde und der iranischen Regierung in Verbindung stehen und auf Instagram und Telegram aktiv sind, wobei letzteres häufig genutzt wird, um Demonstrierende und Andersdenkende direkt zu beschuldigen.

In mehreren öffentlichen Kommentaren, die an das Oversight Board gerichtet wurden, wurde auch auf die Taktik des Regimes hingewiesen, Protestinhalte auf Instagram mithilfe des Nutzer*innenmeldesystems massenhaft zu melden, um „Social-Media-Unternehmen unter Druck zu setzen, damit sie Inhalte, die mit Andersdenkenden in Verbindung stehen, entfernen oder sie mit so genannten Schattenverboten belegen“ (siehe öffentliche Kommentare PC-21011, PC-21009). Es gibt auch Berichte über iranische Geheimdienstmitarbeiter*innen, die Content-Moderator*innen Geld anbieten, damit sie Inhalte entfernen, die von regimekritischen Personen geteilt werden.

Im Februar 2023 berichtete der UN-Sonderberichterstatter für den Iran über die anhaltende Unterdrückung und gezielte Verfolgung von zivilgesellschaftlichen Aktivist*innen, Menschenrechtsverteidiger*innen, Frauenrechtsaktivist*innen, Jurist*innen sowie Journalist*innen, da die Behörden die Möglichkeiten zur Äußerung abweichender Meinungen stark einschränken, unter anderem durch die massive Störung des Internets und die Zensur sozialer Medienplattformen.

3. Befugnis und Wirkungsbereich des Oversight Boards

Das Board ist befugt, die Entscheidung von Meta nach dem Einspruch der Person zu prüfen, deren Inhalt entfernt wurde (Artikel 2 der Satzung, Abschnitt 1; Artikel 3 der Geschäftsordnung, Abschnitt 1).

Das Board kann die Entscheidung von Meta bestätigen oder aufheben (Artikel 3 der Satzung, Abschnitt 5), und seine Entscheidung ist für das Unternehmen verbindlich (Artikel 4 der Satzung). Meta muss außerdem die Umsetzbarkeit seiner Entscheidung in Bezug auf identische Inhalte mit parallelem Kontext auswerten (Artikel 4 der Satzung). Die Entscheidungen des Oversight Boards können unverbindliche Empfehlungen umfassen, auf die Meta antworten muss (Artikel 3 der Satzung, Abschnitt 4; Artikel 4). Wenn Meta sich verpflichtet, auf Grundlage von Empfehlungen zu handeln, überwacht das Oversight Board die Umsetzung.

Wenn das Gremium Fälle wie diesen auswählt, bei dem Meta im Nachhinein einen Fehler eingesteht, überprüft es die ursprüngliche Entscheidung, um mehr über den Content-Moderationsprozess zu erfahren und Empfehlungen auszusprechen, damit in Zukunft Fehler vermieden und Personen auf Facebook und Instagram fairer behandelt werden.

4. Quellen der Befugnis und Leitfäden

Das Gremium hat bei seiner Analyse dieses Falls folgende Standards und Präzedenzfälle berücksichtigt:

I. Entscheidungen des Oversight Boards

Zu den relevantesten bisherigen Entscheidungen des Oversight Boards gehören:

• Aufruf zum Frauenprotest in Kuba
• Metaphorische Äußerung über den peruanischen Präsidenten
• Protest-Slogan gegen die Regierung im Iran
• Einzelhaft von Öcalan
• Symptome von Brustkrebs und Nacktdarstellung

II. Inhaltsrichtlinien von Meta

Die Analyse durch das Oversight Board gründete auf Metas Verpflichtung zur Mitsprache, die das Unternehmen als „höchste Priorität“ beschreibt, sowie seinen Werten „Sicherheit“, „Privatsphäre“ und „Würde“.

Instagram-Gemeinschaftsrichtlinien

In den Instagram-Gemeinschaftsrichtlinien ist festgelegt, dass das Unternehmen „Inhalte entfernt, die glaubwürdige Bedrohungen enthalten“ und im Zusammenhang stehen mit dem Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt. Die Gemeinschaftsrichtlinien stehen nicht in direktem Zusammenhang mit dem Gemeinschaftsstandard Koordiniertes Zufügen von Schaden und Begünstigung von Verbrechen. Im Bericht zur Durchsetzung der Gemeinschaftsstandards zum 1. Quartal 2023 erklärt Meta: „Facebook und Instagram haben gemeinsame Inhaltsrichtlinien. Das bedeutet, dass Inhalte, die auf Facebook einen Regelverstoß darstellen, dies auch auf Instagram tun.“

Der Inhalt wurde gemäß der Richtlinie zu Gewalt und Anstiftung zu Gewalt entfernt. Nachdem das Oversight Board den Fall ausgewählt hatte, analysierte Meta den Inhalt auch nach seiner Richtlinie zu koordiniertem Zufügen von Schaden und Begünstigung von Verbrechen.

Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt

Entsprechend dem Grundgedanken dieser Richtlinie zielt der Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt darauf ab, „potenzielle Gewalt abseits des Internets zu verhindern, die möglicherweise im Zusammenhang mit Inhalten [auf den Meta-Plattformen] stehen könnte“. Gleichzeitig ist sich Meta darüber im Klaren, „dass Menschen ihre Verachtung bzw. Geringschätzung oder Ablehnung häufig durch Drohungen oder Aufrufe zur Gewalt ausdrücken, die scherzhaft und nicht ernst gemeint sind und beiläufig erfolgen.“ Meta entfernt daher Inhalte, wenn das Unternehmen der Meinung ist, dass sie „Gewaltandrohungen enthalten, die zum Tod führen könnten“, einschließlich Inhalten, die auf Personen abzielen, mit „Absichtserklärungen“ zur Verübung „schwerer Gewalt“. Das Unternehmen erklärt, dass es bei der Beurteilung, ob eine Drohung glaubwürdig ist, den Kontext der Aussage berücksichtigt, was zusätzliche Informationen sein können wie die „öffentliche Sichtbarkeit der Person oder ihre Angreifbarkeit“.

Der Abschnitt zu den untersagten Inhalten der Richtlinie verbietet „an Menschen oder Orte gerichtete Drohungen, die zum Tod (und zu anderen Formen schwerer Gewalt) führen können“. Das Wort „Bedrohung“ schließt „Absichtserklärungen“ ein, schwere Gewalt zu verüben“.

Gemeinschaftsstandard zu „Koordiniertes Zufügen von Schaden und Begünstigung von Verbrechen“

Im Grundgedanken dieser Richtlinie heißt es, dass der Gemeinschaftsstandard „Koordiniertes Zufügen von Schaden und Begünstigung von Verbrechen“ darauf abzielt, „Schaden abseits des Internets und Nachahmungstaten zu verhindern“, indem er Menschen die Unterstützung, Organisation, Förderung oder das Zugeben bestimmter krimineller oder schädlicher Aktivitäten verbietet, die auf Personen, Unternehmen oder Tiere abzielen.“ Dazu gehört auch das „Outing“, das Meta als Inhalt definiert, der die Identität oder den Standort einer Person preisgibt, die unter anderem „einer Gruppe angehört, die durch ein Outing gefährdet werden kann“. Diese Richtlinie wird von den Moderator*innen in Bezug auf bestimmte Gruppen durchgesetzt. Im Rahmen einer Eskalation mit zusätzlichem Kontext hieß es in der Richtlinie von Meta zum Zeitpunkt der Veröffentlichung des Inhalts, dass in diesem Zusammenhang auch „Inhalte [entfernt werden können], die unverschleierte Frauen gefährden, indem sie ihre Bilder ohne Schleier gegen deren Willen bzw. ohne deren Einwilligung preisgeben und sie somit einem Risiko aussetzen.“ Diese Formulierung wurde nun geändert, um das „Outing [unverschleierter Frauen] [zu verbieten]: Die Identität einer Person preis[zu]geben und sie dem Risiko einer Gefährdung aus[zu]setzen.“

III. Menschenrechtliche Verantwortung von Meta

Die UN-Leitprinzipien für Wirtschaft und Menschenrechte (United Nations Guiding Principles on Business and Human Rights, UNGPs), die 2011 vom UN-Menschenrechtsrat verabschiedet wurden, geben einen freiwilligen Rahmen für die menschenrechtliche Verantwortung von Privatunternehmen vor. In seiner unternehmensweiten Menschenrechtsrichtlinie, die am 16. März 2021 angekündigt wurde, bekräftigte Meta sein Engagement, Menschenrechte gemäß der UNGPs zu achten.

Für die Analyse des Oversight Boards zur menschenrechtlichen Verantwortung von Meta in diesem Fall sind die folgenden internationalen Standards relevant:

• Das Recht auf Meinungsfreiheit: Artikel 19, Internationaler Pakt über bürgerliche und politische Rechte (ICCPR), Allgemeine Bemerkung Nr. 34, Menschenrechtsausschuss, 2011; Berichte des Sonderberichterstatters der Vereinten Nationen für Meinungsfreiheit: A/HRC/38/35 (2018) und A/74/486 (2019); und Aktionsplan von Rabat, Bericht des UN-Hochkommissars für Menschenrechte: A/HRC/22/17/Zus.4 (2013).
• Das Recht, sich friedlich zu versammeln: Artikel 21, ICCPR; Allgemeine Bemerkung Nr. 37 des Menschenrechtsausschusses, 2020;
• Das Recht auf Leben: Artikel 6, ICCPR.
• Das Recht auf Freiheit und Sicherheit der Person: Artikel 9, ICCPR.
• Das Recht auf Nichtdiskriminierung: Artikel 2 (1), 3 und 26, ICCPR; Artikel 1 und Artikel 7 (Teilnahme am politischen und öffentlichen Leben des Landes ohne Diskriminierung), Übereinkommen zur Beseitigung jeder Form von Diskriminierung der Frau (Convention on the Elimination of All Forms of Discrimination against Women, CEDAW). Siehe auch Erklärung zu den Menschenrechtsverteidigern, Artikel 8, das Recht, einzeln wie auch in Gemeinschaft mit anderen, wirksam ohne Diskriminierung an der Regierung seines Landes und an der Gestaltung der öffentlichen Angelegenheiten mitzuwirken.
• Das Recht auf Schutz des Privatlebens: Artikel 17 des ICCPR.

5. Einreichungen von Nutzer*innen

Der*Die Urheber*in des Inhalts legte gegen die Entfernung Einspruch beim Oversight Board ein. In ihrem Statement erklärte die Person, dass der Beitrag einen Vertreter der iranischen Regierung zeigt, der eine Frau damit konfrontiert, dass sie keinen Hidschab trägt. Der*Die Nutzer*in erklärte, das Video zeige die Tapferkeit der iranischen Frau, für ihre Rechte einzutreten. Laut Aussage des*der Nutzer*in haben andere ähnliche Videos in den sozialen Medien geteilt. Der Inhalt sei nicht schädlich oder gefährlich und verstoße nicht gegen die Instagram-Richtlinien.

6. Einreichungen von Meta

Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt

Meta teilte dem Oversight Board mit, dass die ursprüngliche Entscheidung, den Inhalt in diesem Fall zu entfernen, auf der Richtlinie zu Gewalt und Anstiftung zu Gewalt beruhte. Meta erklärte, dass seine Entscheidung auf einem Teil der Bildunterschrift des Beitrags beruhte, die das Unternehmen mit „Bald wirst du in Stücke gerissen“ übersetzte. Das Unternehmen verstand diese Zeile als eine Anspielung auf den Mann in dem Video, der die Frau zur Rede stellte, weil sie keinen Hidschab trug. Das regionale Team von Meta stellte fest, dass die Formulierung „make you into pieces“ (du wirst in Stücke gerissen) im Kontext des Irans eine körperliche Drohung darstellte. Aufgrund dieser Auslegung bestätigte Meta zunächst die Entscheidung, den Inhalt gemäß der Richtlinie zu Gewalt und Anstiftung zu Gewalt zu entfernen.

Meta hielt seine Entscheidung, den Inhalt zu entfernen, zunächst aufrecht, als das Oversight Board den Fall zum ersten Mal für eine rechtliche Prüfung auswählte, änderte seine Entscheidung jedoch, nachdem das Oversight Board diesen Fall ausgewählt hatte, und stellte den Inhalt auf der Grundlage zusätzlicher Informationen des regionalen Teams wieder her. Auf der Grundlage dieser Informationen kam Meta zu dem Schluss, dass die wahrscheinlichste Auslegung der Sprache in der Bildunterschrift eine Anspielung auf den Sturz des iranischen Regimes oder der Befürworter der Hidschab-Pflicht war und keine wörtliche Drohung gegen den Mann im Video.

In dieser abschließenden Überprüfung kam Meta zu dem Schluss, dass der Inhalt darauf abzielt, aufzuklären und auf Missstände gegen Frauen aufmerksam zu machen, wie z. B. die Frau, die von dem Mann im Video damit konfrontiert wird, dass sie keinen Hidschab trägt. Der*Die Nutzer*in verweist auf die besondere Stärke der iranischen Frauen und kritisiert die „Bastardhaftigkeit“, wobei er*sie sich entweder auf den Mann, der das Video gefilmt hat, oder auf das Regime insgesamt bezieht, und macht darauf aufmerksam, dass die Frau im Video verhaftet wurde. Meta stellte klar, dass die potenziell bedrohliche Sprache vor dem Hintergrund dieses Gesamtzusammenhangs gesehen und verstanden werden sollte. Diese Art der Sensibilisierung sei im Iran, wo es nur wenige Möglichkeiten der freien Meinungsäußerung gibt, besonders wichtig, so Meta in seiner Begründung mit Verweis auf die Entscheidung des Oversight Boards im Fall „Protest-Slogan gegen die Regierung im Iran“.

Meta teilte dem Oversight Board auch mit, dass die regionalen Teams nach zusätzlichen Recherchen zu dem Schluss kamen, dass die vernünftigste Interpretation der Formulierung „it is not far to make you into pieces“ (Bald wirst du in Stücke gerissen) keine echte Drohung war, sondern eher eine politische Kritik, die sich entweder gegen das Regime als Ganzes oder gegen diejenigen richtete, die die Hidschab-Pflicht im Allgemeinen unterstützen. Während sich „make you into pieces“ im Allgemeinen darauf bezieht, eine Person zu töten, indem man ihren Körper in Stücke schneidet, könnte es hier als Zerschlagung des Regimes verstanden werden (ähnlich wie die metaphorische Sprache, die im Fall Metaphorische Äußerung über den peruanischen Präsidenten verwendet wurde).

Meta teilte dem Oversight Board mit, dass ein weiterer Faktor für die Wiederherstellung des Inhalts die jüngste Entscheidung des Boards in der Fallentscheidung Aufruf zum Frauenprotest in Kuba war, in der das Gremium betonte, dass bei einer kontextbezogenen Lesart des Beitrags die Welle staatlicher Repression und das große öffentliche Interesse an den historischen Protesten, die Gegenstand des Beitrags waren, berücksichtigt werden sollten. Darüber hinaus befasste sich das Unternehmen mit dem Fall Protest-Slogan gegen die Regierung im Iran, in dem das Oversight Board die politische Bewegung um die Rechte der Frauen im Iran analysierte. Das Board betonte darin, wie wichtig es ist, die Mitsprache im Kontext der Protestbewegung zu schützen, insbesondere vor dem Hintergrund der systematischen Unterdrückung der freien Meinungsäußerung durch die iranische Regierung und der Bedeutung digitaler Räume als Forum für die Äußerung abweichender Meinungen. Das Unternehmen wies auch darauf hin, dass es die jüngste Entscheidung des Oversight Boards im Fall „Metaphorische Äußerung über den peruanischen Präsidenten“ berücksichtigt hat, in dem erneut betont wurde, wie wichtig es ist, kontextabhängige Moderationssysteme zu entwickeln, die Ironie, Satire oder rhetorische Äußerungen berücksichtigen, insbesondere um politische Äußerungen zu schützen“.

Gemeinschaftsstandard zu „Koordiniertes Zufügen von Schaden und Begünstigung von Verbrechen“

Meta teilte dem Oversight Board mit, dass es auch in Erwägung zog, den Inhalt nach dem Gemeinschaftsstandard Koordiniertes Zufügen von Schaden und Begünstigung von Verbrechen zu entfernen, weil die im Video gezeigte Frau unfreiwillig ohne Kopftuch zu sehen war. Meta setzt diese Richtlinie nur im Falle einer Eskalation durch und wenn zusätzlicher Kontext zur Verfügung gestellt wird. Die Durchsetzung erfordert die Mitwirkung relevanter Interessengruppen und konzentriert sich auf die Feststellung, ob der Inhalt eine unverschleierte Frau zeigt, ihre Identität ohne ihre Einwilligung preisgibt und sie wahrscheinlich in Gefahr bringt – und nicht auf bestimmte verwendete Begriffe oder den Ton des Inhalts oder der Bildunterschrift. Dabei stellt Meta fest, dass eine Person sich nicht selbst „outen“ kann. Vielmehr muss das Outing unfreiwillig erfolgen, um gegen die Richtlinie zu verstoßen.

In diesem Fall entschied Meta, dass der Inhalt nicht aufgrund eines unfreiwilligen Outings zu entfernen sei, da die Identität der Frau weithin bekannt und online verfügbar war und sie zum Zeitpunkt der Veröffentlichung des Inhalts bereits verhaftet worden war. Vor diesem Hintergrund war das Schadensrisiko durch das Belassen des Inhalts auf der Plattform deutlich geringer.

Das Oversight Board stellte Meta zu diesem Fall 11 Fragen sowie zwei schriftliche Nachfragen. Die Fragen bezogen sich auf die Durchsetzungsverfahren und -ressourcen für den Iran, die Risikobewertung von Meta für den Iran im Allgemeinen und für die im Video gezeigte Frau im Besonderen, die automatisierten und manuellen Reviewprozesse, die Durchsetzung von Inhalten, die unverschleierte Frauen zeigen, und das Outing einer gefährdeten Gruppe, im großen Maßstab und im Rahmen einer Eskalation. Meta beantwortete alle Fragen.

7. Öffentliche Kommentare

Das Oversight Board hat zu diesem Fall 12 öffentliche Kommentare erhalten. Sieben der Kommentare kamen aus den Vereinigten Staaten und Kanada, zwei aus Zentral- und Südasien, zwei aus Europa und einer wurde aus dem Nahen Osten und Nordafrika eingereicht.

Die Einreichungen deckten die folgenden Themen ab: die Rolle der sozialen Medien bei den Protesten im Iran, einschließlich der „Frau, Leben, Freiheit“-Bewegung, und die Rolle, die Bilder von Frauen ohne Kopfbedeckung in Online-Kampagnen spielen; die Risiken für die Verbreitung von Bildern, die unverschleierte Frauen im Iran zeigen, in sozialen Medien; die Nutzung sozialer Medien durch die iranischen Behörden; die Durchsetzung der Meta-Richtlinien zur Inhaltsmoderation für persischsprachige Äußerungen zur politischen Situation im Iran; Meinungsfreiheit, Menschenrechte, Frauenrechte, staatliche Repression und Verbote sozialer Medien im Iran.

Die öffentlichen Kommentare, die zu diesem Fall eingereicht wurden, können hier eingesehen werden.

8. Analyse des Oversight Boards

Das Board untersuchte die ursprüngliche Entscheidung von Meta, den Inhalt zu entfernen, im Hinblick auf die Content-Richtlinien, die menschenrechtliche Verantwortung von Meta und die Werte des Unternehmens.

Das Oversight Board hat diesen Fall ausgewählt, weil er die Chance bot, die Meta-Richtlinien zu Gewalt und Anstiftung zu Gewalt und zum koordinierten Zufügen von Schaden und Begünstigung von Verbrechen sowie die damit verbundenen Durchsetzungsverfahren im Kontext der massiven Proteste für Frauenrechte und die Beteiligung von Frauen am öffentlichen Leben im Iran seit September 2022 zu untersuchen. Dabei geht es insbesondere um die Bedeutung von Social-Media-Plattformen für Menschen, die gegen die Hidschab-Pflicht protestieren.

Darüber hinaus bietet der Fall dem Oversight Board die Möglichkeit, die internen Verfahren von Meta zu erörtern, mit denen festgelegt wird, wann und warum bildliche Äußerungen, die, wenn sie wörtlich ausgelegt werden, als Bedrohung verstanden werden können, aufgrund des Kontexts aber nicht als glaubwürdige Bedrohung interpretiert werden sollten. Der Fall fällt hauptsächlich in die Prioritäten „Wahlen“ und „bürgerlicher Raum“ des Oversight Boards, berührt aber auch die Prioritäten „Geschlecht“, „Die Nutzung von Metas Plattformen durch Regierungen“ sowie „Krisen- und Konfliktsituationen“.

8.1 Einhaltung der Content-Richtlinien von Meta

Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt

Das Oversight Board ist der Meinung, dass der Inhalt in diesem Fall nicht gegen den Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt verstößt, da er eine bildliche Äußerung enthält, die die Wut über die Unterdrückung durch die Regierung zum Ausdruck bringt, und keine wörtliche und somit glaubwürdige Gewaltandrohung.

Meta erklärte, dass es den Inhalt in diesem Fall ursprünglich entfernt hatte, weil er „eine Absichtserklärung zur Verübung schwerer Gewalt“ enthielt. Meta definiert schwere Gewalt als eine Bedrohung, die zum Tod führen könnte oder wahrscheinlich tödlich ist.

Nach Einschätzung des regionalen Teams wertete Meta die Formulierung „it is not far to make you into pieces“ (Bald wirst du in Stücke gerissen) in der Bildunterschrift des Beitrags im Kontext des Irans als Androhung körperlicher Gewalt und verstieß damit gegen die Richtlinie zu Gewalt und Anstiftung zu Gewalt.

Vom Board befragte Sprachexpert*innen erklärten, dass der betreffende Teil der Bildunterschrift mit „we will tear you to pieces sometime soon!“ (Wir werden dich/euch bald in Stücke reißen) oder „it is not far away, we will rip you into shreds“ (Schon bald werden wir dich/euch in Stücke reißen) übersetzt werden kann. Die Expert*innen stellten fest, dass der Satz im Kontext des Irans Wut, Enttäuschung und Abneigung gegenüber den Unterdrückern ausdrückt und die Vorstellung nahelegt, dass sich die Situation irgendwann ändern könnte, da die Macht der Unterdrücker nicht ewig bestehen wird. Diese Äußerung sollte nicht wörtlich als Absicht interpretiert werden, körperlichen Schaden anzurichten; sie dient vielmehr als „rhetorische Äußerung“, die Aufmerksamkeit erregen soll und durch eine emotionsgeladene Sprache mit kraftvollen Verben wie „tear“ (zerreißen) oder „rip into pieces/shreds“ (in Stücke/Fetzen reißen) unterstrichen wird. Die Expert*innen betonten, dass eine solche bildliche Sprache die tiefsitzende Wut der Person widerspiegelt, die den Inhalt gepostet hat, und die ihrer Zielgruppe. Es handelt sich hierbei also nicht um eine tatsächliche Androhung körperlicher Gewalt.

Obwohl Meta dem Oversight Board mitgeteilt hat, dass es bei der Beurteilung, ob eine Drohung glaubwürdig ist, auch den Kontext der Aussage berücksichtigt, geht aus den Leitlinien für Moderator*innen nicht hervor, dass sie den Kontext berücksichtigen können bei der Beurteilung, ob es sich um eine „Absichtserklärung [zur Verübung] hochgradiger Gewalt“ handelt. Solange die Voraussetzungen der Richtlinie erfüllt sind (insbesondere wenn der Inhalt sowohl eine Bedrohung als auch ein Ziel enthält), wird der Beitrag als Verstoß gewertet – wie es hier der Fall war. In diesem Fall hat Meta die Äußerung so aufgefasst, dass sie sich gegen den Mann richtet, der die Frau verfolgt. Laut der Richtlinie muss die Zielperson nicht sichtbar oder identifizierbar sein. In den Richtlinien gibt es nur ein Beispiel für bedrohliche Äußerungen, die von der Regel ausgenommen sind oder nicht als glaubwürdige Bedrohung gelten: „Drohungen, die sich gegen bestimmte gewalttätige Akteure, z. B. terroristische Gruppen, richten“.

Die Formulierung „make you into pieces“ (du wirst in Stücke gerissen) stellt keine glaubwürdige Drohung dar. Vor dem Hintergrund der Unruhen, der eskalierenden Repression und der Gewalt gegen Menschen, die gegen das Regime im Iran protestieren, und unter Berücksichtigung der Bildunterschrift und des Videos als Ganzes ist das Oversight Board der Ansicht, dass der Satz im übertragenen Sinne zu verstehen und nicht wörtlich zu nehmen ist, da er Wut und Bestürzung über das Regime zum Ausdruck bringt und keine „Absichtserklärung, schwere Gewalt [zu verüben]“ darstellt. Diese Auslegung steht im Einklang mit Metas Verpflichtung zu freier Meinungsäußerung und der Bedeutung des Schutzes im Zusammenhang mit der Äußerung von politischer Unzufriedenheit.

Gemeinschaftsstandard zu „Koordiniertes Zufügen von Schaden und Begünstigung von Verbrechen“

Das Board ist der Ansicht, dass der Inhalt in diesem Fall nicht gegen den Gemeinschaftsstandard „Koordiniertes Zufügen von Schaden und Begünstigung von Verbrechen“ verstößt.

Meta erwog, den Beitrag aufgrund der Regel zu entfernen, die „Inhalte [verbietet], die unverschleierte Frauen gefährden, indem sie ihre Bilder ohne Schleier gegen deren Willen bzw. ohne deren Einwilligung preisgeben und sie somit einem Risiko aussetzen“. Diese Richtlinie wurde inzwischen geändert und verbietet nun das „Outing [unverschleierter Frauen]: Die Identität einer Person preis[zu]geben und sie dem Risiko einer Gefährdung aus[zu]setzen.“ Das Unternehmen versteht unter „Outing“ Inhalte, die das Bild einer unverschleierten Frau teilen, ihre Identität ohne ihre Einwilligung preisgeben und sie in Gefahr bringen, Schaden zu nehmen. Diese Richtlinie wird nur im Falle einer Eskalation angewandt und erfordert die Mitwirkung verschiedener Interessengruppen bei der Durchsetzung (siehe Abschnitt 4 oben).

In diesem Fall stimmt das Oversight Board mit Meta überein, dass der Inhalt die Frau nicht „outet“ und die Gefahr eines Schadens gemindert war, weil sie zum Zeitpunkt der Veröffentlichung des Inhalts bereits verhaftet worden war. Daher würde das Video, wenn es auf der Plattform verbleibt, das Risiko für die Frau nicht wesentlich erhöhen und könnte sogar dazu beitragen, die Aufmerksamkeit auf ihren Fall zu lenken. Die Entscheidung, ob ein Beitrag eine Frau „outet“ und sie in Gefahr bringt, ist stark kontextabhängig. Die Durchsetzung der Richtlinie nur im Rahmen einer Eskalation kann sicherstellen, dass das Team, das die Richtlinie durchsetzt, die Zeit und die Ressourcen hat, um den relevanten Kontext effektiv zu ermitteln und zu berücksichtigen.

8.2 Erfüllung der menschenrechtlichen Verantwortung von Meta

Das Board ist der Ansicht, dass die Entfernung des Inhalts von der Plattform im Einklang mit Metas menschenrechtlicher Verantwortung steht.

Meinungsfreiheit (Artikel 19 ICCPR)

Artikel 19 des ICCPR sieht einen umfassenden Schutz der Meinungsäußerung vor, einschließlich der „Freiheit, sich ohne Rücksicht auf Staatsgrenzen Informationen und Gedankengut jeder Art in Wort, Schrift oder Druck, durch Kunstwerke oder andere Mittel eigener Wahl zu beschaffen, zu empfangen und weiterzugeben“. Wenn Regierungen das Recht auf freie Meinungsäußerung einschränken, müssen die Anforderungen der Gesetzmäßigkeit, des rechtmäßigen Ziels und der Notwendigkeit und Verhältnismäßigkeit erfüllt werden (Artikel 19, Absatz 3, ICCPR). Das Board nutzt diesen Ansatz, um Metas freiwillige Verpflichtung zu den Menschenrechten zu bewerten, sowohl in Bezug auf die jeweilige Inhaltsentscheidung als auch darauf, was dies über die grundsätzliche Herangehensweise von Meta an Content-Governance aussagt. Der UN-Sonderberichterstatter zur Meinungsfreiheit hat festgestellt, dass Unternehmen, obgleich sie „nicht dieselben Verpflichtungen wie Regierungen haben, [...] dennoch eine derartige Wirkung haben, dass sie dieselben Arten von Fragen im Zusammenhang mit dem Schutz des Rechts auf Meinungsfreiheit ihrer Nutzer[*innen] prüfen müssen“ (A/74/486, Abs. 41).

Der Zugang zu sozialen Medien ist in einer geschlossenen Gesellschaft wie dem Iran von entscheidender Bedeutung. Als „digitale Gatekeeper“ haben Social-Media-Plattformen einen „tiefgreifenden Einfluss“ auf den öffentlichen Zugang zu Informationen (A/HRC/50/29, Abs. 90). Der Beitrag hier ist Teil einer breiteren Protestbewegung, deren Fortbestehen abhängig ist von digitalen Räumen der Öffentlichkeit. Gesetze, die festlegen, wie sich Frauen zu kleiden haben, wirken sich auf ihre Freiheit und Würde aus (A/68/290, Abs. 38), unabhängig davon, ob das Gesetz das Tragen eines Kopftuchs verbietet oder es Frauen untersagt, ohne Schleier in der Öffentlichkeit aufzutreten (siehe z. B. Yaker v. Frankreich, CCPR/C/123/D/2747/2016). In diesem Zusammenhang ist das „Internet eine neue Aktionsplattform im Kampf für Frauenrechte, da es Frauen bessere Möglichkeiten bietet, ihre Meinung zu äußern“ (A/76/258 Abs. 4). Die Stärkung der freien Meinungsäußerung von Frauen ermöglicht ihre politische Teilhabe und die Verwirklichung ihrer Menschenrechte (A/HRC/Res/23/2, Abs. 1-2; A/76/258, Abs. 5).

I. Gesetzmäßigkeit (Klarheit und Zugänglichkeit der Regeln)

Der Grundsatz der Gesetzmäßigkeit verlangt, dass jede Einschränkung des Rechts auf freie Meinungsäußerung auf einer festgelegten Regel beruht, die für die Nutzer*innen frei einsehbar und klar ist. Die Regel muss „mit hinreichender Genauigkeit formuliert werden, damit der*die Einzelne sein Verhalten danach ausrichten kann, und sie muss für die Öffentlichkeit zugänglich sein“ (Allgemeine Bemerkung Nr. 34, Abs. 25). Darüber hinaus dürfen die Regeln zur Einschränkung der freien Meinungsäußerung „den mit [ihrer] Durchführung Beauftragten keine uneingeschränkte Freiheit zur willkürlichen Einschränkung der freien Meinungsäußerung ermöglichen“ und „den mit ihrer Durchführung Beauftragten ausreichend Anleitung dafür bieten, damit sie herausfinden können, welche Arten der freien Meinungsäußerung ordnungsgemäß eingeschränkt werden und welche nicht“ (Allgemeine Bemerkung Nr. 34, Abs. 25; A/HRC/38/35 (undocs.org), Abs. 46). Mangelnde Klarheit oder Präzision kann zu einer uneinheitlichen und willkürlichen Durchsetzung der Regeln führen. Angewandt auf Meta sollten die Nutzer*innen in der Lage sein, die Folgen des Einstellens von Inhalten auf Facebook und Instagram vorherzusehen; Inhaltsprüfer*innen sollten klare Anweisungen zur Durchsetzung der Regeln haben.

Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt

Das Board stellt fest, dass der Grundgedanke dieser Richtlinie (die die Ziele des Gemeinschaftsstandards ausdrückt, aber nicht Teil der Regel selbst ist) des Gemeinschaftsstandards zu Gewalt und Anstiftung zu Gewalt zwar nahelegt, dass „der Kontext eine Rolle spielt“ und bei der Bewertung einer „glaubwürdigen Bedrohung“ berücksichtigt werden kann, die internen Richtlinien und der Ansatz von Meta zur Moderation dies in der Praxis jedoch nicht ermöglichen. Wie das Oversight Board im Fall „Protest-Slogan gegen die Regierung im Iran“ feststellte, sind Moderator*innen angewiesen, nach bestimmten Kriterien oder Elementen in einem Beitrag zu suchen, und wenn diese erfüllt sind, sind die Moderator*innen dazu instruiert, den Beitrag zu entfernen. Mit anderen Worten: Wenn der Beitrag eine Drohung (z. B. „kill“ (töten) oder „I will tear you into pieces“ (Ich werde dich in Stücke reißen)) und ein Ziel enthält, wird er entfernt. Die Moderator*innen sind nicht befugt, zu beurteilen, ob die Drohung glaubwürdig ist. Wie Meta in diesem Fall erklärt hat, ist der grundlegende oder formelhafte Ansatz darauf zurückzuführen, dass „die Beurteilung, ob eine [Formulierung] eine rhetorische Äußerung oder glaubwürdige Bedrohung darstellt, eine anspruchsvolle Aufgabe ist, insbesondere in großem Umfang.“ Die Glaubwürdigkeit von Drohungen wird bei der Erstellung der Regel berücksichtigt, nicht bei ihrer Durchsetzung. Wie das Oversight Board im Fall „Protest-Slogan gegen die Regierung im Iran“ feststellte, werden rhetorische Äußerungen, die im Kontext von Protesten zu erwarten sind, im Grundgedanken dieser Richtlinie dem Anschein nach berücksichtigt, in den schriftlichen Regeln und zugehörigen Leitfäden für Prüfer*innen hingegen nicht. Tatsächlich ist die Durchsetzung in der Praxis insbesondere in großem Umfang formelhafter, als die Regeln implizieren. Dies kann dazu führen, dass Nutzer*innen falsch einschätzen, wie die Regeln wahrscheinlich durchgesetzt werden. Im aktuellen Entwurf des Leitfadens für Prüfer*innen wird die Möglichkeit einer Kontextanalyse ausgeschlossen, auch wenn der Inhalt selbst klare Hinweise darauf enthält, dass bedrohliche Sprache rhetorisch zu verstehen ist.“ Diese Diskrepanz zwischen dem erklärten Grundgedanken dieser Unternehmensrichtlinie und seiner tatsächlichen Durchsetzungspraxis besteht weiterhin und wird dem Grundsatz der Gesetzmäßigkeit nicht ausreichend gerecht.

Das Oversight Board verweist auf die Erkenntnisse aus dem Fall „Protest-Slogan gegen die Regierung im Iran“, wonach Meta differenzierte Anleitungen zur Berücksichtigung des Kontexts geben sollte und die Moderator*innen anweisen sollte, „rhetorische“ oder nicht wörtliche Äußerungen, die eine abweichende Meinung zum Ausdruck bringen, nicht standardmäßig zu entfernen, insbesondere in einem politisch sensiblen Umfeld wie dem Iran.

Gemeinschaftsstandard zu „Koordiniertes Zufügen von Schaden und Begünstigung von Verbrechen“

Das Oversight Board stellt fest, dass Metas Verbot für „Inhalte, die unverschleierte Frauen gefährden, indem sie ihre Bilder ohne Schleier gegen deren Willen bzw. ohne deren Einwilligung preisgeben und sie somit einem Risiko aussetzen“ hinreichend klar ist, wie es in diesem Fall angewendet wird. Es macht deutlich, dass Inhalte, die unverschleierte Frauen „outen“ und zu Schaden führen könnten, auf den Plattformen von Meta verboten sind. Das Oversight Board äußert jedoch Bedenken hinsichtlich der Tatsache, dass die Gemeinschaftsrichtlinien von Instagram nicht in direktem Zusammenhang stehen mit dem Gemeinschaftsstandard Koordiniertes Zufügen von Schaden und Begünstigung von Verbrechen. Dies beeinträchtigt die Zugänglichkeit der Regeln für Instagram-Nutzer*innen. In früheren Fällen (Symptome von Brustkrebs und Nacktdarstellung, Einzelhaft von Öcalan) hat das Oversight Board empfohlen, dass Meta öffentlich klarstellt, wie die Facebook-Gemeinschaftsstandards für Instagram gelten. Als Reaktion darauf hat Meta damit begonnen, die Gemeinschaftsstandards mit den Gemeinschaftsrichtlinien von Instagram zu vereinheitlichen und zu präzisieren, in welchen Bereichen sich die Richtlinien der Plattformen ggf. unterscheiden. In den darauffolgenden vierteljährlichen Transparenzberichten teilte Meta dem Oversight Board mit, dass diese Bemühungen weiterhin Priorität haben, und verwies darauf, dass rechtliche und regulatorische Erwägungen den Zeitplan beeinträchtigt haben. Das Board betont erneut, wie wichtig es ist, diesen Prozess schnell abzuschließen und für Klarheit bei den geltenden Regeln zu sorgen.

II. Legitimes Ziel

Gemäß Artikel 19, Absatz 3 des ICCPR darf die Meinungsäußerung unter bestimmten festgelegten Umständen eingeschränkt werden, unter anderem zum Schutz der Rechte anderer. In diesem Fall stellt das Oversight Board fest, dass der Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt „potenziellen Schaden abseits des Internets verhindern“ [soll], indem Inhalte entfernt werden, die „eine echte Gefahr von Körperverletzung oder eine unmittelbare Bedrohung der öffentlichen Sicherheit“ darstellen. Somit dient diese Richtlinie dem berechtigten Ziel, das Recht auf Leben (Artikel 6, ICCPR) und das Recht auf die physische Sicherheit von Personen zu schützen (Artikel 9 ICCPR); Allgemeine Bemerkung Nr. 35, Abs. 9).

Somit dient die Richtlinie „Koordiniertes Zufügen von Schaden und Begünstigung von Verbrechen“ dem berechtigten Ziel, die Rechte von Frauen im Iran auf Nichtdiskriminierung zu schützen (Artikel 2, 3 und 26, ICCPR; Artikel 1 und 7, Übereinkommen zur Beseitigung jeder Form von Diskriminierung der Frau (Convention on the Elimination of All Forms of Discrimination against Women, CEDAW), einschließlich des Rechts auf freie Meinungsäußerung und Versammlungsfreiheit (Artikel 19 und 21, ICCPR), des Rechts auf Teilhabe am öffentlichen Leben (Artikel 1 und 7, CEDAW), des Rechts auf Privatsphäre (Artikel 17, ICCPR) und des Rechts auf Leben (Artikel 6, ICCPR ) und auf Freiheit und Sicherheit der Person (Artikel 9, ICCPR).

III. Notwendigkeit und Verhältnismäßigkeit

Einschränkungen der Meinungsfreiheit „müssen dazu geeignet sein, ihre Schutzfunktion zu erfüllen; sie müssen die am wenigsten einschneidenden Instrumente unter denjenigen sein, die ihre Schutzfunktion erfüllen können; sie müssen im Verhältnis zu den zu schützenden Interessen stehen“ (Allgemeine Bemerkung Nr. 34, Abs. 34). Social-Media-Unternehmen sollten neben der Löschung auch verschiedene andere mögliche Reaktionen auf problematische Inhalte in Erwägung ziehen, um sicherzugehen, dass Einschränkungen genau auf den Einzelfall abgestimmt sind (A/74/486, Abs. 51).

Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt

Das Board ist der Ansicht, dass die ursprüngliche Entscheidung von Meta, den Inhalt zu entfernen, nicht notwendig war. Sie war nicht erforderlich, um die Sicherheit der Person, die das Video aufgenommen hat, oder anderer zu schützen, da die erwähnte Bedrohung in der Bildunterschrift des Beitrags nicht wörtlich zu nehmen ist. Das Board ist besorgt darüber, dass die Gemeinschaftsstandards des Unternehmens und die Leitlinien für Moderator*innen auch nach der Entscheidung im Fall „Protest-Slogan gegen die Regierung im Iran“ immer noch Raum für eine uneinheitliche Durchsetzung von bildlichen (nicht wörtlichen) Drohungen lassen, trotz der Situation im Iran, wo die Proteste seit mehr als einem Jahr andauern. Im genannten Fall ging es, wie auch in diesem vorliegenden, um eine Formulierung, die von Meta nicht als bildliche (nicht wörtliche) Äußerung einer Drohung erkannt wurde. Das Fehlen angemessener Richtlinien wird noch dadurch verdeutlicht, dass der Inhalt in diesem Fall von mehreren Moderator*innen und Teams bei Meta überprüft und mehrfach als Verstoß gewertet wurde.

Als Teil seiner Analyse stützte sich das Oversight Board auf die sechs Faktoren aus dem Aktionsplan von Rabat, um zu beurteilen, inwieweit der Inhalt in diesem Fall zu Diskriminierung, Gewalt oder anderen gesetzeswidrigen Handlungen anstiften kann. Nach Angabe des Oversight Boards wurden die Faktoren aus dem Aktionsplan von Rabat zwar für die Befürwortung von nationalem, rassistischem oder religiösem Hass, der eine Anstiftung zu Gewalt darstellt, und nicht für die Anstiftung zu Gewalt im Allgemeinen entwickelt, dennoch ist der Sechs-Faktoren-Test nützlich, um Anstiftung zu Gewalt im Allgemeinen zu beurteilen. Das Oversight Board hat ihn bereits früher auf diese Weise angewandt (siehe z. B. Protest-Slogan gegen die Regierung im Iran und Aufruf zum Frauenprotest in Kuba):

• Kontext: Der Inhalt wurde im Juli 2023 gepostet, vor dem Hintergrund der Unruhen, der eskalierenden Repressionen und der Gewalt gegen Menschen, die gegen das Regime protestieren. Aufgrund der massiven Internetunterbrechungen und des Verbots der wichtigsten Social-Media-Plattformen wie Facebook, Telegram und X sind die Möglichkeiten für Proteste im Land begrenzt. Instagram ist eine der wenigen noch verfügbaren Plattformen und spielt daher eine maßgebliche Rolle für die Bewegung „Frau, Leben, Freiheit“. Die vom Oversight Board befragten Expert*innen stellten fest, dass die Bewegung auf eine Normalisierung der Proteste und eine Auflehnung gegen die seit vier Jahrzehnten bestehenden diskriminierenden Gesetze gegen Frauen abzielt. Die Expert*innen gaben zu bedenken, dass seit dem Beginn der Bewegung Angst geschürt und Frauen daran gehindert wurden, sich online zu äußern. Neue Gesetze und prominente Verhaftungen sollen die Proteste eindämmen und den Trend stoppen, der eine Missachtung der Hidschab-Gesetze normalisiert.
• Identität des*der Sprecher*in: Meta erklärte dem Oversight Board, dass es die Person, die den Inhalt gepostet hat, nicht als öffentliche Person ansieht. Der Bildunterschrift des Videos nach zu urteilen, scheint die Person ein*e Anhänger*in oder Teil der Bewegung „Frau, Leben, Freiheit“ zu sein. Der*Die Sprecher*in befindet sich daher offenbar nicht in einer Autoritätsposition und riskiert möglicherweise die eigene Sicherheit, wenn er*sie seine*ihre Unterstützung zum Ausdruck bringt und diesen Inhalt postet.
• Absicht: Auch wenn es eine große Herausforderung ist, bei der Moderation von Inhalten die Absicht zu beurteilen, deutet eine objektive und allgemeine Betrachtung des gesamten Beitrags darauf hin, dass die abgebildeten Frau unterstützt und auf ihre Verhaftung aufmerksam gemacht wurde. Laut den vom Oversight Board befragten Expert*innen ist es im Iran üblich, dass Demonstrierende das Bild einer unverschleierten Frau und ihren Namen nach ihrer Verhaftung verbreiten, um Druck auf die Behörden auszuüben und die Frau in Sicherheit zu bringen. Die Demonstrant*innen haben gelernt, dass sie durch die Öffentlichmachung dieser Personen weitere Belästigungen der Opfer verhindern können.
• Inhalt und Form der Äußerung: Laut den vom Oversight Board befragten Sprachexpert*innen kann die Formulierung „make you into pieces“ (du wirst in Stücke gerissen) in der persischen Sprache in diesem Zusammenhang als Ausdruck einer tiefen Emotion wie Wut und Enttäuschung verstanden werden, nicht aber als wörtliche Gewaltandrohung. Die Bewegung „Frau, Leben, Freiheit“ hat bereits in der Vergangenheit regelmäßig kraftvolle und scheinbar bedrohliche Sprache verwendet, um sich gegen das Regime auszusprechen. Im Fall Protest-Slogan gegen die Regierung im Iran stellte das Oversight Board fest, dass der Slogan „Khamenei soll sterben“ eine „rhetorische Drohung“ darstellte, und merkte an, dass Meta aus ähnlichen Gründen den Satz „Ich werde jeden töten, der meinen Bruder/meine Schwester tötet“ zugelassen hatte. Im vorliegenden Fall steht die Aussage in der Mitte einer Bildunterschrift, in der eine Frau gefeiert wird, die für ihre Rechte eintritt. Als Ganzes betrachtet, drückt die Bildunterschrift die Unterstützung für iranische Frauen aus, die gegen diskriminierende Gesetze und missbräuchliche Regierungspraktiken protestieren.
• Ausmaß und Reichweite: Der Beitrag wurde rund 47.000-mal aufgerufen, 2.000-mal mit „Gefällt mir“ markiert, 100-mal kommentiert und 50-mal geteilt. In Anbetracht der anderen Faktoren gemäß der Rabat-Analyse scheint diese Äußerung keine Anstiftung zu Gewalt darzustellen, und die große Reichweite des Inhalts an sich ist kein Faktor, der für eine Entfernung sprechen würde.
• Wahrscheinlichkeit und drohende Gefahr: Mit diesem Faktor wird bewertet, ob die Äußerung möglicherweise einen unmittelbaren und wahrscheinlichen Schaden für das potenzielle Ziel der Rede auslöst – in diesem Fall das Regime. Die Protestbewegung und ihre Unterstützer*innen stellen sich gegen ein Regime, das ständig mit Gewalt und Repressalien gegen Demonstrierende vorgeht. Die wahrscheinlichste Form von Schaden, die aus der Äußerung in diesem Fall resultieren kann, sind Vergeltungsmaßnahmen des Regimes gegen die Person, die den Inhalt veröffentlicht hat, oder gegen die Frau, die in dem Video gezeigt wird, und nicht Gewalt gegen das Regime oder seine Unterstützer*innen. Die Expert*innen verwiesen auf die Gefahren, denen die Teilnehmenden an diesen Protesten ausgesetzt sind, und darauf, dass die Bewegung trotz der drohenden Gewalt weiterbesteht. Sie erklärten auch, dass das Ziel der Verbreitung der Bilder von unverschleierten Frauen, die verhaftet wurden, darin besteht, auf ihre Verhaftung aufmerksam zu machen und Druck auf die Behörden auszuüben, damit diese sie in Sicherheit bringen.

Basierend auf der Analyse der oben genannten Faktoren ist das Oversight Board der Ansicht, dass der Inhalt keine glaubwürdige Bedrohung darstellte und nicht geeignet war, Schaden abseits des Internets anzurichten. Wenn bildliche Sprache im Zusammenhang mit ausgedehnten Protesten verwendet wird, die gewaltsam unterdrückt werden, sollte Meta seine Reviewer*innen in die Lage versetzen, die Sprache und den lokalen Kontext zu bewerten und die Leitlinien für Moderator*innen an den Grundgedanken dieser Richtlinie anpassen. Eine genaue Bewertung, ob ein Beitrag „bildliche Sprache“ darstellt oder zu Gewalt anstiftet, ist für die Verbesserung der Moderation in Krisensituationen insgesamt entscheidend. Die Genauigkeit der Automatisierung hängt von der Qualität der von Menschen bereitgestellten Trainingsdaten ab. Wenn Moderator*innen „bildliche“ Äußerungen aufgrund einer strengen Durchsetzung einer Regel entfernen, wird dieser Fehler wahrscheinlich durch die Automatisierung reproduziert und verstärkt.

Das Oversight Board weist darauf hin, dass Meta über verschiedene Mechanismen verfügt, um seine Richtlinien und deren Durchsetzung in Krisensituationen anzupassen, darunter das Einstufungssystem des Unternehmens, um Länder als Risikoländer („at risk“) zu kategorisieren, sowie das Krisenrichtlinienprotokoll. Das Klassifizierungssystem zur Einstufung eines Landes als Risikoland wird verwendet, um Länder zu identifizieren, bei denen das „Risiko von Schäden und Gewalt in der realen Welt“ besteht, um zu bestimmen, wie Meta seine Produktentwicklung priorisieren oder seine Ressourcen investieren sollte. Die Bewertung kann auch bei anderen Prozessen berücksichtigt werden (z. B. bei der Entscheidung, ob ein Special Operations-Team eingerichtet oder das Krisenpolitikprotokoll angewendet werden soll). Meta teilte dem Oversight Board mit, dass der Iran für die zweite Jahreshälfte 2023 als Risikoland eingestuft wurde. Seit dem 21. September 2022 ist der Iran auch im Rahmen des Krisenrichtlinienprotokolls als solches ausgewiesen und hat diesen Status seither beibehalten. Das Krisenrichtlinienprotokoll ermöglicht es Meta, bestimmte vorübergehende Richtlinienänderungen vorzunehmen, die als „Richtlinienhebel“ (policy levers) bezeichnet werden, um auf eine bestimmte Situation zu reagieren. Meta hat einige Beispiele für Richtlinienhebel angegeben, die im Iran bereits zum Einsatz kommen, darunter „die Erlaubnis, Inhalte zuzulassen, die den Slogan ‚Ich werde jeden töten, der meinen Bruder/meine Schwester tötet‘ oder Ableitungen davon enthalten, sofern keine anderen Verstöße gegen unsere Richtlinien vorliegen“. (Weitere Beispiele für Richtlinienhebel finden sich im Krisenrichtlinienprotokoll in den Protokollen der Meetings des Policy Forums, 25. Januar 2022.)

Zwar erkennt das Board das Engagement des Unternehmens für Sicherheit und seine Bemühungen an, potenzielle Risiken bei der Inhaltsmoderation durch die Aktivierung des Krisenrichtlinienprotokolls für den Iran zu mindern, aber diese Bemühungen reichen nicht aus, um die Achtung der freien Meinungsäußerung und Versammlungsfreiheit der Menschen in einem Umfeld zu gewährleisten, in dem soziale Spannungen herrschen und abweichende Meinungen systematisch unterdrückt werden. Eine vom Oversight Board in Auftrag gegebene Studie zeigt, dass die allermeisten Inhalte, die unverschleierte Frauen im Zusammenhang mit der Diskussion über das Tragen des Hidschabs im Iran zeigen, auf den Meta-Plattformen von der Protestbewegung geteilt oder unterstützt werden. Wiederholt ist es den Durchsetzungsverfahren von Meta nicht gelungen, bildliche oder nicht wörtliche Äußerungen im relevanten Kontext von realen Bedrohungen und Aufrufen zur Gewalt zu unterscheiden, die das Potenzial haben könnten, Schaden abseits des Internets anzurichten.

Das Oversight Board empfiehlt, dass Meta das Krisenrichtlinienprotokoll um einen Richtlinienhebel ergänzt und den Moderator*innen interne Kriterien zur Verfügung stellt, wie sie Äußerungen, in denen bedrohliche Sprache im übertragenen Sinne oder nicht wörtlich verwendet wird, im jeweiligen Kontext als nicht gegen die Richtlinie zu Gewalt und Anstiftung zu Gewalt verstoßend erkennen können. Bei der Entwicklung solcher krisenspezifischen Kriterien zur Beurteilung, ob eine Drohung bildlich und nicht wörtlich gemeint ist, kann Meta die Faktoren des Rabat-Plans heranziehen (z. B. den Kontext massiver landesweiter Proteste gegen staatliche Repression, die Frage, ob der*die Sprecher*in in der Position ist, Menschen zu Gewalt anzustiften, oder ob die Gefahr besteht, dass die Person andere zu Gewalttaten anstachelt, den relevanten sprachlichen und sozialen Kontext, der auf die übliche Verwendung von ausdrucksstarker/emotionaler Sprache für rhetorische Zwecke hindeutet, die Wahrscheinlichkeit von Schaden aufgrund lokaler Kenntnisse usw.). Das Unternehmen könnte sich auch auf seine vertrauenswürdigen Partner verlassen, wenn es darum geht, die Kriterien für die Moderation zu entwickeln oder zu bewerten. Meta hat selbst die besondere Bedeutung des Aktionsplans von Rabat für die Moderation von Inhalten betont und die Vereinten Nationen bei der Übersetzung des Aktionsplans in 32 Sprachen unterstützt. Dieser Richtlinienhebel sollte „bildliche Sprache“ im Rahmen von Protesten gegen das Regime zulassen, vorausgesetzt, sie zielt nicht darauf ab und ist nicht geeignet, zu Gewalt anzustiften.

Gemeinschaftsstandard zu „Koordiniertes Zufügen von Schaden und Begünstigung von Verbrechen“

Aus Sicht des Oversight Boards war eine Entfernung nach dem Gemeinschaftsstandard „Koordiniertes Zufügen von Schaden und Begünstigung von Verbrechen“ in diesem Fall nicht notwendig, da die Identität der dargestellten Frau allgemein bekannt war und der Inhalt eindeutig gepostet wurde, um auf ihre Verhaftung aufmerksam zu machen, in der Hoffnung, dass diese Aufmerksamkeit zu ihrer Freilassung führen würde. Außerdem wurde von mehreren öffentlichen Kommentator*innen betont, dass Frauen, die den Hidschab in der Öffentlichkeit ablegen, dies absichtlich als eine Form des Protests tun und sich der möglichen Konsequenzen bewusst sind, indem sie sich für „Missachtung als strategischen Widerstand gegen die Staatsgewalt“ entscheiden (siehe öffentlicher Kommentar Tech Global Institute, PC-21009). Die im Video gezeigte Frau wurde bereits vom Regime ermittelt und verhaftet. Dieser Beitrag wurde mit der Absicht geteilt, auf diese Verhaftung aufmerksam zu machen. Vom Regime inhaftierte Oppositionelle und Dissident*innen wurden gefoltert oder Opfer geschlechtsspezifischer Gewalt oder sind verschwunden. Vom Oversight Board befragte Expert*innen sowie mehrere öffentliche Kommentator*innen haben ausdrücklich darauf hingewiesen, dass diese Praxis, auf Verhaftungen aufmerksam zu machen und die Freilassung einer inhaftierten Person zu fordern, von der Bewegung und von Menschenrechtsaktivist*innen im Iran regelmäßig angewendet wird und dazu beitragen kann, vom Regime festgehaltene Personen in Sicherheit zu bringen.

Es ist schwierig, die Balance zu finden zwischen der Notwendigkeit, die Identitäten gefährdeter Nutzer*innen zu schützen und gleichzeitig eine Zensur für diejenigen zu vermeiden, die sich exponieren wollen – das erfordert eine kontextbezogene Analyse, eine rechtzeitige Überprüfung und schnelles Handeln.

9. Entscheidung des Oversight Boards

Das Oversight Board hebt die ursprüngliche Entscheidung von Meta auf, den Inhalt zu entfernen.

10. Empfehlungen

1. Durchsetzung

Um die Achtung der freien Meinungsäußerung und Versammlungsfreiheit der Nutzer*innen in einem Umfeld systematischer staatlicher Unterdrückung zu gewährleisten, sollte Meta das Krisenrichtlinienprotokoll um einen Richtlinienhebel erweitern, der besagt, dass bildliche (oder nicht wörtliche) Äußerungen, die nicht zu Gewalt anstiften sollen und dies auch nicht tun, nicht gegen die Richtlinie zu Gewalt und Anstiftung zu Gewalt verstoßen, die Gewaltandrohungen in relevanten Kontexten verbietet. Dazu gehört auch, Kriterien für Moderator*innen zu entwickeln, wie sie solche Formulierungen im jeweiligen Kontext erkennen können.

Das Board wird diese Empfehlung als umgesetzt betrachten, wenn Meta sowohl die Methoden zur Umsetzung des Richtlinienhebels als auch die daraus resultierenden Kriterien für die Moderation im Zusammenhang mit dem Iran mit dem Oversight Board teilt.

* Anmerkung zur Vorgehensweise:

Die Entscheidungen des Oversight Boards werden von einem Panel aus fünf Mitgliedern vorbereitet und von einer Mehrheit des Gremiums bestätigt. Entscheidungen des Oversight Boards geben nicht zwangsläufig die persönliche Meinung aller Mitglieder wieder.

Für diese Fallentscheidung wurde eine unabhängige Studie vom Board in Auftrag gegeben. Das Board wurde von einem unabhängigen Forschungsinstitut mit Sitz an der Universität Göteborg unterstützt, das mit einem Team aus über 50 Sozialwissenschaftler*innen auf sechs Kontinenten sowie mehr als 3.200 Länderexpert*innen aus der ganzen Welt zusammenarbeitet. Weitere Unterstützung erhielt das Board durch Duco Advisors, eine Beratungsfirma mit Schwerpunkt auf die Schnittstelle zwischen Geopolitik, Vertrauen, Sicherheit und Technologie. Memetica, eine Organisation, die Open-Source-Forschung zu Trends in sozialen Medien betreibt, führte ebenfalls Analysen durch. Das sprachliche Know-how wurde von Lionbridge Technologies LLC zur Verfügung gestellt, dessen Spezialist*innen insgesamt mehr als 350 Sprachen fließend beherrschen und in 5.000 Orten auf der ganzen Welt arbeiten.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें