Gewaltdarstellendes Video aus dem Sudan

Zusammenfassung des Falls

Das Oversight Board hat Metas Entscheidung bestätigt, einen Facebook-Beitrag wiederherzustellen, der Gewalt gegen eine Zivilperson im Sudan zeigt. Der Inhalt machte auf Menschenrechtsverletzungen aufmerksam und war von großem öffentlichen Interesse. Das Oversight Board empfahl Meta, dem Gemeinschaftsstandard zu gewaltdarstellendem Inhalt eine spezifische Ausnahmeregelung für das Aufmerksammachen auf Menschenrechtsverletzungen bzw. deren Dokumentation hinzuzufügen.

Zum Fall

Am 21. Dezember 2021 verwies Meta einen Fall an das Oversight Board, der ein gewaltdarstellendes Video betraf, das anscheinend ein ziviles Opfer von Gewalt im Sudan zeigte. Der Inhalt wurde nach dem Militärputsch am 25. Oktober 2021 in dem Land auf der Facebook-Profilseite des Nutzers gepostet.

Das Video zeigt eine neben einem Auto liegende Person mit einer schweren Kopfwunde und einem sichtbar herausgelösten Auge. Im Hintergrund sind Stimmen von Personen zu hören. Sie sagen auf Arabisch, dass jemand geschlagen und auf der Straße liegen gelassen wurde. Ein ebenfalls in arabischer Sprache abgefasster Untertitel ruft die Menschen dazu auf, zusammenzuhalten und dem Militär nicht zu vertrauen. Der Text enthält Hashtags, die auf Dokumentationen von militärischen Übergriffen und zivilem Ungehorsam verweisen.

Nachdem der Beitrag von Metas automatisierten Systemen identifiziert und von einem menschlichen Moderator überprüft wurde, wurde er wegen eines Verstoßes gegen Facebooks Gemeinschaftsstandard zu gewaltdarstellendem Inhalt entfernt. Nachdem der Nutzer Einspruch eingelegt hatte, gab Meta allerdings eine Ausnahmeregelung aufgrund des Nachrichtenwerts heraus, sodass der Beitrag am 29. Oktober 2021 von der Entfernung ausgenommen wurde. Aufgrund eines internen Missverständnisses stellte Meta den Inhalt jedoch erst knapp fünf Wochen später wieder her. Im Rahmen der Wiederherstellung des Beitrags platzierte Meta eine Warnmeldung auf dem Video.

Wichtige Erkenntnisse

Das Gremium stimmt der Entscheidung von Meta zu, diesen Inhalt auf Facebook wiederherzustellen und eine Warnmeldung hinzuzufügen. Aus Metas Richtlinie zu gewaltdarstellendem Inhalt geht jedoch nicht eindeutig hervor, wie Nutzer Gewaltdarstellungen teilen können, um auf Missstände aufmerksam zu machen oder diese zu dokumentieren.

Der Grundgedanke für den Gemeinschaftsstandard, der beschreibt, welche Ziele mit der Richtlinie verfolgt werden, stimmt nicht mit den Regeln der Richtlinie überein. Während im Grundgedanken der Richtlinie angegeben wird, dass Meta Nutzern das Posten von Gewaltdarstellungen gestatte, „um Menschen aufmerksam zu machen“ auf Menschenrechtsverletzungen, verbietet die Richtlinie selbst alle Videos (gleichgültig, ob sie geteilt werden, um auf Missstände aufmerksam zu machen oder nicht) „von Personen oder Leichen in einem nicht-medizinischen Umfeld, wenn sie Verstümmelung zeigen“.

Das Gremium kommt außerdem zu dem Schluss, dass die Ausnahmeregelung aufgrund des Nachrichtenwerts zwar in diesem Fall angewendet wurde, jedoch keine wirksame Methode dafür darstelle, diese Art von Inhalten in großem Umfang auf Facebook zuzulassen. Meta teilte dem Gremium mit, dass es „im Laufe der vergangenen 12 Monate (in den 12 Monaten vor dem 8. März 2022) 17 Inhalte dokumentiert habe, die unter die Ausnahmeregelung aufgrund des Nachrichtenwerts im Zusammenhang mit der Richtlinie zu gewaltdarstellendem Inhalt fielen. Der Inhalt in diesem Fall war eine der 17 Ausnahmen.“ Im Vergleich: In den ersten drei Quartalen des Jahres 2021 hat Meta 90,7 Millionen Inhalte gemäß diesem Gemeinschaftsstandard entfernt.

Das Oversight Board hält es für unwahrscheinlich, dass im Laufe eines Jahres nur 17 Inhalte im Zusammenhang mit dieser Richtlinie als berichtenswert und von öffentlichem Interesse auf der Plattform hätten verbleiben dürfen. Um die Zulässigkeit solcher Inhalte auf Facebook sicherzustellen, empfiehlt das Gremium Meta, den Gemeinschaftsstandard zu gewaltdarstellendem Inhalt zu ändern, sodass Videos von Personen und Leichen gestattet sind, wenn sie geteilt werden, um auf Missstände aufmerksam zu machen oder diese zu dokumentieren.

Meta muss außerdem darauf vorbereitet sein, weltweit schnell und systematisch auf Konflikte und Krisensituationen zu reagieren. Die Entscheidung des Gremiums zur „Sperrung des ehemaligen Präsidenten Trump“ enthielt die Empfehlung für Meta „eine Richtlinie zu entwickeln und zu veröffentlichen, die die Reaktion von Facebook auf Krisen regelt“. Das Gremium begrüßt zwar die Entwicklung dieses Protokolls, das Meta nach eigenen Angaben eingeführt hat, jedoch müsse das Unternehmen das Protokoll schneller umsetzen und so viele Details wie möglich zu seiner Funktionsweise bereitstellen.

Die Entscheidung des Oversight Boards

Das Oversight Board bestätigt Metas Entscheidung, den Beitrag wiederherzustellen und ihm eine Warnmeldung hinzuzufügen, die verhindert, dass Minderjährige den Inhalt sehen.

In einer beratenden Stellungnahme zur Richtlinie empfiehlt das Gremium Meta folgende Maßnahmen:

• Den Gemeinschaftsstandard zu gewaltdarstellendem Inhalt ändern, um Videos von Personen und Leichen zuzulassen, wenn sie geteilt werden, um auf Menschenrechtsverletzungen aufmerksam zu machen oder sie zu dokumentieren. Diese Inhalte sollten gestattet werden, wenn sie eine Warnmeldung enthalten, damit die Betrachter wissen, dass der Inhalt verstörend sein könnte.
• Einen Prozess zur Weiterentwicklung seiner Richtlinien durchführen, um Kriterien für die Identifizierung von Videos von Personen und Leichen zu entwickeln, die geteilt werden, um auf Menschenrechtsverletzungen aufmerksam zu machen oder sie zu dokumentieren.
• In seiner Beschreibung der Ausnahmeregelung aufgrund des Nachrichtenwerts alle Maßnahmen deutlich machen, die es möglicherweise auf der Grundlage dieser Richtlinie ergreift (beispielsweise Wiederherstellung unter Hinzufügung einer Warnmeldung).
• Nutzer benachrichtigen, wenn es auf der Grundlage der Ausnahmeregelung aufgrund des Nachrichtenwerts Maßnahmen gegen ihre Inhalte ergreift, wie u. a. Wiederherstellung von Inhalten oder Hinzufügung einer Warnmeldung. Dabei kann die Benachrichtigung der Nutzer auf die vom Transparency Center abgegebene Erläuterung der Ausnahmeregelung aufgrund des Nachrichtenwerts verweisen.

* Fallzusammenfassungen bieten einen Überblick über den Fall und haben keinen Präzedenzwert.

Ausführliche Fallentscheidung

1. Zusammenfassung der Entscheidung

Das Oversight Board bestätigt Metas Entscheidung, einen Beitrag auf Facebook wiederherzustellen, der ein Video mit einem Untertitel enthält, das Gewalt gegen eine Zivilperson im Sudan zeigt. Der Beitrag wurde gemäß der Ausnahmeregelung aufgrund des Nachrichtenwerts wiederhergestellt und mit einer Warnmeldung versehen, die den Inhalt als sensibel kennzeichnet und ihn generell unzugänglich für Minderjährige macht. Alle anderen Nutzer müssen sich durchklicken, um den Inhalt ansehen zu können. Das Gremium ist der Ansicht, dass dieser Inhalt, der dem Zweck diente, auf Menschenrechtsverletzungen aufmerksam zu machen bzw. diese zu dokumentieren, von großem öffentlichen Interesse war. Die ursprüngliche Entfernung des Inhalts wäre zwar in Übereinstimmung mit des Regeln des Gemeinschaftsstandards zu gewaltdarstellendem Inhalt erfolgt, jedoch stehe Metas Entscheidung, den Inhalt unter Hinzufügung eines Warnhinweises wiederherzustellen, im Einklang mit seinen Richtlinien, seinen Werten und seiner menschenrechtlichen Verantwortung.

Das Oversight Board weist jedoch darauf hin, dass Metas Anwendung der Ausnahmeregelung aufgrund des Nachrichtenwerts keine wirksame Methode dafür darstelle, derartige Inhalte in großem Umfang auf der Plattform zu belassen oder wiederherzustellen. Das Gremium empfiehlt Meta deshalb, dem Gemeinschaftsstandard zu gewaltdarstellendem Inhalt eine spezifische Ausnahmeregelung für das Aufmerksammachen auf Missstände bzw. deren Dokumentation hinzuzufügen. Das Oversight Board fordert Meta außerdem zur Priorisierung der Umsetzung seiner früheren Empfehlung auf, eine Richtlinie zur Erfassung, zur Aufbewahrung und zum Teilen von Inhalten, die als Beweise für Völkerrechtsverletzungen dienen können, einzuführen.

2. Beschreibung des Falls und Hintergrundinformationen

Am 21. Dezember 2021 verwies Meta einen Fall an das Oversight Board, der ein gewaltdarstellendes Video betraf, das anscheinend ein ziviles Opfer von Gewalt im Sudan zeigte. Der Inhalt wurde am 26. Oktober 2021 auf der Facebook-Profilseite des Nutzers gepostet, nachdem am 25. Oktober 2021 ein Militärputsch im Land stattgefunden hatte und es zu Protesten gegen die Übernahme der Regierung durch das Militär kam.

Das Video zeigt eine Person, die mit einer schweren Kopfwunde und einem sichtbar herausgelösten Auge neben einem Auto liegt. Im Hintergrund sind Stimmen von Personen zu hören. Sie sagen auf Arabisch, dass jemand geschlagen und auf der Straße liegen gelassen wurde. Der Beitrag enthält einen ebenfalls in arabischer Sprache abgefassten Untertitel, der die Menschen dazu aufruft, zusammenzuhalten und dem Militär nicht zu vertrauen. Der Text enthält Hashtags, die auf Dokumentationen von militärischen Übergriffen und zivilem Ungehorsam verweisen.

Meta erläuterte, dass seine Technologie den Inhalt am Tag seiner Veröffentlichung (26. Oktober 2021) als potentiellen Verstoß gegen seinen Gemeinschaftsstandard zu gewaltdarstellendem Inhalt identifiziert habe. Nach dem Review durch einen Mitarbeiter entschied Meta, dass der Inhalt gegen Facebooks Richtlinie zu gewaltdarstellenden Inhalten verstieß und entfernte ihn. Der Content-Creator war später nicht mit der Entscheidung einverstanden. Am 28. Oktober 2021 wurde der Inhalt für eine zusätzliche Überprüfung an Experten für die Richtlinie und das Thema eskaliert. Nach der Überprüfung gab Meta eine Ausnahmeregelung aufgrund des Nachrichtenwerts heraus, sodass der Beitrag am 29. Oktober 2021 von der Entfernung gemäß der Richtlinie zu gewaltdarstellendem Inhalt ausgenommen wurde. Tatsächlich stellte Meta den Inhalt aufgrund eines internen Missverständnisses jedoch erst am 2. Dezember 2021, also fast fünf Wochen später, wieder her. Im Rahmen der Wiederherstellung des Inhalts platzierte Meta eine Warnmeldung auf dem Video, um es als sensiblen Inhalt zu kennzeichnen. Nutzer müssen sich durchklicken, um den Inhalt ansehen zu können. Die Warnmeldung verbietet Nutzern unter 18 Jahren, sich das Video anzusehen.

Der Beitrag wurde weniger als 1.000 Mal aufgerufen und von keinem Nutzer gemeldet.

Das Board berücksichtigte bei seiner Entscheidung folgende Tatsachen. Laut dem UN-Hochkommissariat für Menschenrechte schossen die Sicherheitskräfte im Sudan nach der Übernahme der Zivilregierung durch das Militär im Oktober 2021 und dem Beginn der Proteste der Zivilbevölkerung mit scharfer Munition, setzten Tränengas ein und nahmen Protestierende willkürlich fest und inhaftierten sie. Die Sicherheitskräfte wären auch gegen Journalisten und Aktivisten vorgegangen und hätten ihre Häuser und Büros durchsucht. Journalisten wären angegriffen, verhaftet und inhaftiert worden.

Laut der vom Oversight Board hinzugezogenen Experten wurden die sozialen Medien durch die Übernahme der staatlichen Medien durch das Militär und das harte Vorgehen gegen sudanesische Zeitungen und Rundfunk-/Fernsehanstalten zur entscheidenden Informationsquelle und Dokumentationsstelle der durch das Militär ausgeübten Gewalt. Das Militär hätte das Internet zeitgleich mit der Festnahme der zivilen Führung am 25. Oktober 2021 abgeschaltet und seitdem käme es in dem Land regelmäßig zu Unterbrechungen des Internets.

3. Befugnis und Wirkungsbereich des Oversight Boards

Das Board hat die Befugnis, Entscheidungen zu überprüfen, die Meta zur Überprüfung vorlegt (Satzung Artikel 2, Abschnitt 1; Artikel 2 der Geschäftsordnung, Abschnitt 2.1.1). Das Gremium kann die Entscheidung von Meta bestätigen oder aufheben (Artikel 3 der Satzung, Abschnitt 5), und seine Entscheidung ist für das Unternehmen verbindlich (Artikel 4 der Satzung). Meta muss außerdem die Umsetzbarkeit seiner Entscheidung in Bezug auf identische Inhalte mit parallelem Kontext auswerten (Artikel 4 der Satzung). Die Entscheidungen des Boards können Stellungnahmen zu den Richtlinien mit unverbindlichen Empfehlungen umfassen, auf die Meta antworten muss (Artikel 3 der Satzung, Abschnitt 4; Artikel 4).

4. Quellen der Befugnis

Bei seiner Entscheidung hat das Oversight Board die folgenden Befugnisquellen berücksichtigt:

I.Entscheidungen des Oversight Boards:

In früheren Entscheidungen hat das Gremium die Richtlinien und Prozesse von Meta geprüft und diesbezügliche Empfehlungen ausgesprochen. Beispiele für die relevantesten Entscheidungen:

• Fallentscheidung 2021-010-FB-UA („Kolumbien-Proteste“): In diesem Fall merkte das Gremium an, dass Meta seine Kriterien für die Ausnahmeregelung aufgrund des Nachrichtenwerts für eine Eskalation von Inhalten zur Überprüfung (welches die einzige Möglichkeit zur Anwendung des Standards ist) nicht öffentlich zugänglich mache und erklärte, dass „die sozialen Medien in einem Umfeld, in dem die Möglichkeiten der freien politischen Meinungsäußerung begrenzt sind, eine Plattform für alle (einschließlich Journalisten) bieten, um Informationen zu den Protesten zu teilen.“ Das Gremium empfahl Meta, „klare Kriterien für Inhaltsprüfer festzulegen und zu veröffentlichen, um im Rahmen einer Eskalation eine zusätzliche Überprüfung von Inhalten von öffentlichem Interesse zu veranlassen... Diese Kriterien sollten Inhalte abdecken, die massive Proteste zu politischen Themen darstellen, insbesondere in Kontexten, in denen Staaten Menschenrechtsverletzungen vorgeworfen werden und in denen der Aufzeichnung öffentlich zugänglicher Daten zu Ereignissen eine erhöhte Bedeutung zukommt.“
• Fallentscheidung 2021-001-FB-FBR (Sperrung des ehemaligen Präsidenten Trump“) In diesem Fall empfahl das Gremium Meta „eine Richtlinie zu entwickeln und zu veröffentlichen, die die Reaktion von Facebook auf Krisen oder neuartige Situationen regelt, in denen seine üblichen Prozesse einen drohenden Schaden nicht verhindern oder vermeiden würden“. Im Januar 2022 veranstaltete Meta ein Richtlinien-Forum zum „Protokoll über die Krisenrichtlinie“, welches als Reaktion auf die Empfehlung des Gremiums entwickelt wurde. Meta bestätigte jedoch in einer seiner Antworten auf Fragen des Gremiums, dass dieses Protokoll zum Zeitpunkt des Putsches im Sudan und der nachfolgenden Entscheidungen zur Entfernung und Wiederherstellung in diesem Fall nicht bestand.

II.Die Content-Richtlinien von Meta:

Die Facebook-Gemeinschaftsstandards:

Im Grundgedanken seiner Richtlinie „Gewaltdarstellender Inhalt“ erklärt Meta, dass es alle Inhalte entferne, die „Gewalt verherrlichen oder das Leid anderer befürworten“. Entsprechend der Richtlinie sind Gewaltdarstellungen jedoch zulässig, wenn sie „Menschen für bestimmte Themen sensibilisieren bzw. auf Probleme aufmerksam machen“. Gemäß der Richtlinie ist es untersagt, „Videos von Personen oder Leichen in einem nicht-medizinischen Umfeld zu posten, wenn sie eine Verstümmelung zeigen“. Gemäß seiner Ausnahmeregelung aufgrund des Nachrichtenwerts erlaubt Meta gewaltdarstellende Inhalte auf seinen Plattformen, wenn sie berichtenswert sind und „es im öffentlichen Interesse liegt, dass sie sichtbar bleiben“.

III. Die Werte von Meta:

Die Werte von Meta werden in der Einleitung der Facebook-Gemeinschaftsstandards dargelegt. Die für diesen Fall relevanten Werte sind „Mitsprache“, „Sicherheit“, „Privatsphäre“ und „Würde“. Dem Wert „Mitsprache“ wird die „höchste Priorität“ beigemessen:

Ziel unserer Gemeinschaftsstandards ist es schon immer gewesen, einen Ort zu schaffen, an dem Menschen sich und ihre Meinung frei ausdrücken können. [ Wir möchten], dass die Nutzerinnen und Nutzer offen über die Themen sprechen können, die ihnen wichtig sind. Das gilt auch dann, wenn einige Personen möglicherweise unterschiedlicher Meinung sind oder Inhalte anstößig finden.

Meta beschränkt die „Mitsprache“ zugunsten von vier anderen Werten, von denen drei für diesen Fall relevant sind:

„Sicherheit“: Inhalte, die Nutzerinnen und Nutzer bedrohen, haben das Potenzial, andere einzuschüchtern, auszugrenzen oder mundtot zu machen. Deshalb sind sie auf Facebook nicht gestattet.

„Privatsphäre“: Wir setzen uns für den Schutz von Privatsphäre und personenbezogenen Informationen ein. Im Rahmen einer sicheren Privatsphäre können unsere Nutzerinnen und Nutzer sie selbst sein, selbst entscheiden, wie und wann sie etwas auf Facebook teilen, und sich leichter mit anderen vernetzen.

„Würde“: Wir sind der Ansicht, dass alle Menschen gleich an Würde und Rechten sind. Deshalb erwarten wir, dass sie die Würde anderer achten und andere nicht belästigen oder erniedrigen.

IV: Internationale Menschenrechtsstandards:

Die UN-Leitprinzipien für Wirtschaft und Menschenrechte (United Nations Guiding Principles on Business and Human Rights, UNGPs), die 2011 vom UN-Menschenrechtsrat verabschiedet wurden, geben einen freiwilligen Rahmen für die menschenrechtliche Verantwortung von Privatunternehmen vor. Im Jahr 2021 veröffentlichte Meta seine Unternehmensrichtlinie zu Menschenrechten, in der das Unternehmen seine Verpflichtung zur Achtung der Menschenrechte gemäß den UN-Leitprinzipien bekräftigte. Das Gremium hat bei seiner Analyse der menschenrechtlichen Verantwortung von Meta in diesem Fall folgende Menschenrechtsstandards berücksichtigt:

• Das Recht auf freie Meinungsäußerung, einschließlich der Möglichkeit, sich Informationen zu beschaffen und zu empfangen: Artikel 19, Internationaler Pakt über bürgerliche und politische Rechte ( ICCPR), Allgemeine Bemerkung Nr. 34, Menschenrechtsausschuss, 2011; UN-Sonderberichterstatter für Meinungsfreiheit und freie Meinungsäußerung, Berichte: A/HRC/38/35 (2018) und A/73/348 (2018).
• Kindeswohl: Artikel 13 und 17 des Übereinkommens über die Rechte des Kindes (Convention on the Rights of the Child, CRC); Allgemeine Bemerkung Nr. 25, Ausschuss für die Rechtes des Kindes (Committee on the Rights of the Child), 2021, über die Rechte der Kinder im digitalen Umfeld.
• Das Recht auf Schutz des Privatlebens: Artikel 17 des ICCPR;
• Zugriff auf wirksame Rechtsbehelfe: Artikel 2 des ICCPR; Allgemeine Anmerkung Nr. 31 des Menschenrechtsausschusses (2004); UNGPs, Prinzipien 22, 29, 31.

5. Einreichungen des Nutzers

Nach der Weiterleitung durch Meta und der Entscheidung des Gremiums, den Fall anzunehmen, erhielt der Nutzer eine Nachricht, in der er über die Überprüfung durch das Gremium informiert wurde und die Möglichkeit bekam, eine Stellungnahme beim Gremium einzureichen. Der Nutzer reichte keine Stellungnahme ein.

6. Einreichungen von Meta

In seiner Weiterleitung erklärte Meta, dass die Entscheidung über diesen Inhalt schwierig gewesen sei, weil er das Spannungsverhältnis verdeutliche zwischen dem Wert des öffentlichen Interesses an der Dokumentation von Menschenrechtsverletzungen und dem Risiko von Schäden, die mit dem Teilen solcher gewaltdarstellenden Inhalte verbunden sind. Meta betonte auch, wie wichtig es sei, Nutzern das Dokumentieren von Menschenrechtsverletzungen zu gestatten, beispielsweise während eines Putsches oder der Abschaltung des Internetzugangs in dem Land.

Meta teilte dem Gremium mit, dass es unmittelbar nach dem Militärputsch im Sudan ein funktionsübergreifendes Krisenreaktionsteam zur Überwachung der Situation und zur Information über neue Trends und aufkommende Risiken zusammengestellt habe. Laut Meta beobachtete dieses Team „zu Zeiten, in denen die Proteste am aktivsten waren, Spitzenwerte in Bezug auf Meldungen von Inhalten, die Gewaltdarstellungen und Gewalt und Anstiftung zu Gewalt zeigten. [Das Team] wurde angewiesen, Anfragen auf Zulassung von Gewaltdarstellungen zu eskalieren, die ansonsten gegen die Richtlinie zu gewaltdarstellendem Inhalt verstoßen würden, wie u. a. Inhalte, die staatlich unterstützte Menschenrechtsverletzungen zeigen.“

Meta merkte an, dieses Video wäre im Kontext massiver Proteste und realer Sorgen bezüglich der Pressefreiheit im Sudan aufgenommen worden. Außerdem wies Meta darauf hin, dass diese Art von Inhalten „Nutzer in dem Gebiet vor einer Bedrohung ihrer Sicherheit warnen könnte und besonders wichtig während eines Ausfalls des Internet ist, wenn Journalisten unter Umständen nur eingeschränkten Zugang zum Ort des Geschehens haben.”

Meta erklärte auch, dass die Entscheidung zur Wiederherstellung des Inhalts im Einklang mit seinen Werten erfolgte, insbesondere dem Wert „Mitsprache“, der höchste Priorität habe. Meta zitierte frühere Entscheidungen des Gremiums, in denen es erklärte, dass politische Rede ein zentraler Aspekt des Werts „Mitsprache“ sei. Fallentscheidungen 2021-010-FB-UA („Kolumbien-Proteste“): 2021-003-FB-UA („Punjabi-Besorgnis hinsichtlich des RSS in Indien“); 2021-007-FB-UA („Myanmar-Bot“); und 2021-009-FB-UA („Geteilter Al Jazeera-Beitrag“).

Meta teilte dem Gremium mit, dass es zu dem Schluss gekommen sei, dass seine ursprüngliche Entscheidung, den Inhalt zu entfernen, nicht mit Artikel 19 des ICCPR, insbesondere mit dem Grundsatz der Notwendigkeit, vereinbar war. Deshalb habe es den Inhalt gemäß der Ausnahmeregelung aufgrund des Nachrichtenwerts wiederhergestellt. Um jegliche potenziellen Risiken zu mindern, die damit verbunden sind, dass der gewaltdarstellende Inhalt auf der Plattform verbleiben darf, wenn er erst einmal wiederhergestellt wurde, schränkte Meta den Zugriff darauf ein, sodass ihn nur noch Personen über 18 Jahren sehen können, und fügte eine Warnmeldung hinzu. Meta wies in seiner Fallbegründung auch darauf hin, dass die Entscheidung zur Wiederherstellung des Inhalts mit dem Bericht des UN-Sonderberichterstatters für die Förderung und den Schutz des Rechts auf Meinungsfreiheit und freie Meinungsäußerung übereinstimmte, insbesondere mit dem „Recht auf Informationen zu Menschenrechtsverletzungen zuzugreifen“.

Meta führte weiter aus, dass es ebenfalls die Auswirkungen der Entscheidung auf die Rechte des Kindes berücksichtigt habe, da es eine Warnmeldung hinzugefügt habe, die es Nutzern unter 18 Jahren nicht gestatte, den Inhalt anzusehen. Meta teilte dem Oversight Board mit, dass es beim Treffen seiner Entscheidung Artikel 13 des Übereinkommens über die Rechte des Kindes sowie die Allgemeine Bemerkung Nr. 25 über die Rechte der Kinder im digitalen Umfeld berücksichtigt habe, indem es das Recht des Kindes auf freie Meinungsäußerung, einschließlich der „Freiheit, ohne Rücksicht auf Staatsgrenzen Informationen und Gedankengut jeder Art sich zu beschaffen, zu empfangen und weiterzugeben“ geschützt habe. Meta erläuterte in seiner Fallbegründung, dass seine Entscheidung, die Sichtbarkeit des Inhalts auf Erwachsene einzuschränken, dem legitimen Ziel des Schutzes der Sicherheit Minderjähriger diente und für diesen Zweck verhältnismäßig gewesen wäre.

Das Gremium stellte Meta 21 Fragen. Meta beantwortete 17 vollständig und vier teilweise. Die unvollständigen Antworten betrafen Fragen zur Messung der Auswirkungen des automatisierten Systems von Meta auf Inhalte auf der Plattform und dazu, warum der Gemeinschaftsstandard zu gewaltdarstellendem Inhalt keine Ausnahmeregelung für Inhalte enthält, die für bestimmte Themen sensibilisieren bzw. auf Probleme aufmerksam machen.

7. Öffentliche Kommentare

Das Oversight Board erhielt fünf öffentliche Kommentare zu diesem Fall. Zwei Kommentare stammten aus Europa, einer kam aus Subsahara-Afrika und zwei hatten ihren Ursprung in den USA und Kanada.

In den Einreichungen ging es um folgende Themen: Die Notwendigkeit, einen stärker kontextbezogenen Ansatz zu ergreifen, der einen höheren Grenzwert für die Entfernung von Inhalten in Regionen mit bewaffneten Konflikten festlegen würde, sodass weniger Inhalte entfernt werden; die Notwendigkeit zur Aufbewahrung von Materialien für eventuelle künftige Untersuchungen oder um Personen bzw. Unternehmen, die gegen Menschenrechte verstoßen, zur Rechenschaft zu ziehen; und darum, dass die Ausnahmeregelung aufgrund des Nachrichtenwerts wahrscheinlich ad hoc und in anfechtbarer Weise angewendet würde und dass diese Praxis noch einmal überdacht werden sollte.

Im März 2022 sprach das Gremium im Rahmen der fortlaufenden Einbeziehung von Stakeholdern mit ca. 50 Interessenvertretern und Einzelpersonen, die im Bereich Berichterstattung über Menschenrechtsverletzungen und deren Dokumentation tätig sind, mit in der Erforschung von Ethik, Menschenrechten und Dokumentation tätigen Wissenschaftlern sowie mit Stakeholdern, die an einem Dialog mit dem Oversight Board hinsichtlich Themen interessiert sind, die sich aus dem Gemeinschaftsstandard zu gewaltdarstellendem Inhalt und seiner Durchsetzung im Kontext von Krisen oder Protesten ergeben. Dieser fortlaufende Austausch findet gemäß der Chatham House-Regel statt, um eine offene Diskussion zu gewährleisten und die Teilnehmer zu schützen. In der Diskussion wurde eine Reihe von Themen angesprochen wie u. a. die wichtige Rolle, die den sozialen Medien in Ländern, die von repressiven Regimes kontrolliert werden, dabei zukommt, Menschenrechtsverletzungen zu dokumentieren und die Aufmerksamkeit der internationalen Medien sowie der Öffentlichkeit auf staatlich geduldete Gewalt zu lenken; es wurden Bedenken ausgetauscht, dass ein universeller Standard zu gewaltdarstellenden Inhalten in der Praxis ein US-orientierter Standard sei; und es wurde festgestellt, dass die Verwendung von Warnmeldungen hilfreich sei, um Abhilfe für das reale Problem der Traumata zu schaffen, auch wenn einige Organisationen berichtet haben, dass Warnmeldungen die Reichweite ihrer Inhalte einschränken können.

Die öffentlichen Kommentare, die zu diesem Fall eingereicht wurden, können hier eingesehen werden.

8. Analyse des Oversight Boards

Das Oversight Board hat aus drei Perspektiven geprüft, ob dieser Inhalt auf der Plattform verbleiben sollte: Aus dem Blickwinkel der Content-Richtlinien von Meta, der Werte des Unternehmens und seiner menschenrechtlichen Verantwortung.

8.1. Einhaltung der Content-Richtlinien von Meta

I.Inhaltsregeln

Das Oversight Board stimmt der Entscheidung von Meta zu, diesen Inhalt auf der Plattform wiederherzustellen und ihm eine Warnmeldung sowie eine Altersbeschränkung hinzuzufügen, weist jedoch darauf hin, dass es den Content-Richtlinien von Meta an Klarheit mangele und es keine wirksamen Methoden gebe, diese Antwort in großem Umfang für ähnliche Inhalte umzusetzen.

Metas ursprüngliche Entscheidung, den Inhalt zu entfernen, erfolgte im Einklang mit den Regeln in seinem Gemeinschaftsstandard zu gewaltdarstellendem Inhalt – der Inhalt verstieß gegen die Richtlinie, da er menschliche Verstümmelung in einem nicht-medizinischen Umfeld zeigte (eine Person mit einer schweren Kopfwunde und einem sichtbar herausgelösten Auge). Der Grundgedanke der Richtlinie im Rahmen des Gemeinschaftsstandards zu gewaltdarstellendem Inhalt besagt jedoch, dass „[Meta] Gewaltdarstellungen (mit einigen Einschränkungen) zulässt, wenn sie für bestimmte Themen sensibilisieren bzw. auf Probleme aufmerksam machen. [Meta] ist bewusst, dass es den Nutzerinnen und Nutzern wichtig ist, wichtige Themen wie Menschenrechtsverletzungen oder Terrorakte diskutieren zu können“. Trotz dieses Verweises im Grundgedanken dieser Richtlinie enthalten die spezifischen Regeln im Gemeinschaftsstandard keine Ausnahmeregelung für Inhalte, die „für bestimmte Themen sensibilisieren bzw. auf Probleme aufmerksam machen“. Metas interne Standards für seine Prüfer enthalten ebenfalls keine Ausnahmeregelung für Inhalte, die dazu dienen sollen, auf Menschenrechtsverletzungen aufmerksam zu machen oder diese zu dokumentieren.

Da es keine spezifische Ausnahmeregelung im Gemeinschaftsstandard gibt, stimmt das Gremium der Entscheidung von Meta zu, den Inhalt unter Berufung auf die Ausnahmeregelung aufgrund des Nachrichtenwerts wiederherzustellen. Meta erklärt, dass es gestatte, dass unzulässige Inhalte gemäß der Ausnahmeregelung aufgrund des Nachrichtenwerts auf der Plattform verbleiben, wenn es feststellt, dass sie berichtenswert sind und „es im öffentlichen Interesse liegt, dass sie sichtbar bleiben [und] nachdem ein Abwägungstest durchgeführt wurde, in dem das öffentliche Interesse gegen das Schadensrisiko abgewogen wird“.

II.Durchsetzungsmaßnahmen

Das Gremium weist darauf hin, dass Meta zwar am 29. Oktober 2021 die Entscheidung getroffen hätte, eine Ausnahmeregelung aufgrund des Nachrichtenwerts herauszugeben und den Beitrag unter Hinzufügung einer Warnmeldung wiederherzustellen, der Beitrag jedoch tatsächlich erst fast fünf Wochen später, am 2. Dezember 2021, auf der Plattform wiederhergestellt wurde. Meta teilte mit, dass die Kommunikation bezüglich der endgültigen Entscheidung über den Inhalt nicht über seine üblichen Eskalationsmanagementtools erfolgte, was „zur Verzögerung beim Ergreifen der geeigneten Maßnahmen bezüglich des Inhalts führte“. Das Gremium hält diese Erklärung und die Verzögerung für äußerst besorgniserregend und betont, wie wichtig es sei, dass Meta im Kontext einer öffentlichen Krise und bei einer massiven Einschränkung der Pressefreiheit zeitnah Maßnahmen in Bezug auf Entscheidungen wie diese treffe. Als Meta diesen Inhalt ursprünglich entfernt hat, verhängte es eine 30-tägige Funktionseinschränkung, die verhinderte, dass der Nutzer neue Inhalte erstellen konnte. Dies geschah zu einer Zeit, in der Protestierende auf der Straße und Journalisten, die über den Putsch und das harte Vorgehen des Militärs berichteten, mit schwerer Gewalt und Unterdrückung konfrontiert wurden.

8.2. Einhaltung der Werte von Meta

Das Gremium kommt zu dem Schluss, dass es Metas Werten „Mitsprache“ und „Sicherheit“ entspreche, den Inhalt unter Hinzufügung einer Warnmeldung auf der Plattform zu belassen.

Das Gremium erkennt die Bedeutung der Werte „Würde“ und „Privatsphäre“ im Kontext des Schutzes von Opfern von Menschenrechtsverletzungen an. Der Inhalt betreffe die Würde und Privatsphäre der verletzten Person in dem Video sowie deren Familie; die abgebildete Person sei identifizierbar und sie, bzw. ihre Familie oder Freunde, hätte(n) möglicherweise nicht gewollt, dass diese Art von Aufnahmen von ihr verbreitet wird.

Das Gremium weist auch auf die Relevanz des Wertes „Sicherheit“ in diesem Kontext hin. Er zielt darauf ab, Nutzer vor Inhalten zu schützen, die „ein Schadensrisiko für die physische Sicherheit von Personen begründen“. Einerseits wollte der Nutzer auf den aktuellen Putsch aufmerksam machen, was zur Verbesserung der Sicherheit von Personen in der Region beitragen könnte. Andererseits könne der Inhalt auch Risiken für die in dem Video gezeigte Person und/oder ihre Familie begründen.

Das Oversight Board kommt zu dem Schluss, dass in einem Kontext, in dem der bürgerliche Raum und die Medienfreiheit vom Staat eingeschränkt werden, der Wert „Mitsprache“ sogar noch mehr Bedeutung erlangt. In diesem Fall dient der Wert „Mitsprache“ auch dazu, den Wert „Sicherheit“ zu stärken, indem sichergestellt wird, dass Menschen auf Informationen zugreifen können und staatliche Gewalt gezeigt wird.

8.3. Erfüllung der menschenrechtlichen Verantwortung von Meta

Das Gremium ist der Ansicht, dass es im Einklang mit Metas menschenrechtlicher Verantwortung stehe, den Inhalt unter Hinzufügung einer Warnmeldung auf der Plattform zu belassen. Dennoch kommt das Gremium zu dem Schluss, dass Metas Richtlinien geändert werden sollten, um das Recht auf freie Meinungsäußerung für Nutzer, die auf Missstände aufmerksam machen oder sie dokumentieren möchten, besser zu achten.

Meinungsfreiheit (Artikel 19 ICCPR)

Artikel 19 des Internationalen Pakts über bürgerliche und politische Rechte (ICCPR) sieht einen umfassenden Schutz des Rechts auf Meinungsfreiheit und freie Meinungsäußerung vor, einschließlich des Rechts, sich Informationen zu beschaffen und zu empfangen. Jedoch kann dieses Recht unter bestimmten Bedingungen eingeschränkt werden, die als dreiteilige Prüfung der Gesetzmäßigkeit (Klarheit), der Legitimität und der Notwendigkeit bekannt sind. Obwohl der ICCPR für Meta keine Verpflichtungen wie für Staaten vorsieht, hat sich Meta verpflichtet, die Menschenrechte zu achten, wie in den UNGPs dargelegt. Diese Verpflichtung umfasst die international anerkannten Menschenrechte, wie sie unter anderem im ICCPR festgelegt sind.

I. Gesetzmäßigkeit (Klarheit und Zugänglichkeit der Regeln)

Jede Einschränkung der freien Meinungsäußerung sollte zugänglich und klar genug formuliert sein, um eine Orientierung dafür zu bieten, was erlaubt ist und was nicht. Das Gremium kommt zu dem Schluss, dass die Richtlinie zu gewaltdarstellendem Inhalt nicht klar und deutlich darlegt, wie Meta Nutzern gestattet, Gewaltdarstellungen zu teilen, um auf Missstände aufmerksam zu machen oder sie zu dokumentieren. Der Grundgedanke für den Gemeinschaftsstandard, der beschreibt, welche Ziele mit der Richtlinie verfolgt werden, stimmt nicht mit den Regeln der Richtlinie überein. Im Grundgedanken der Richtlinie wird angegeben, dass Meta Nutzern das Posten von Gewaltdarstellungen gestattet, „um Menschen aufmerksam zu machen“ auf Menschenrechtsverletzungen, jedoch verbietet die Richtlinie alle Videos (gleichgültig, ob sie geteilt werden, um auf Missstände aufmerksam zu machen oder nicht) „von Personen oder Leichen in einem nicht-medizinischen Umfeld, wenn sie Verstümmelung zeigen“. Während Meta sich bei der Wiederherstellung dieses Inhalts zu Recht auf die großzügigere Ausnahmeregelung aufgrund des Nachrichtenwerts gestützt hat, geht aus dem Gemeinschaftsstandard zu gewaltdarstellendem Inhalt nicht eindeutig hervor, ob diese Art von Inhalten auf der Plattform zugelassen wird.

Das Gremium stellt außerdem fest, dass in der Ausnahmeregelung aufgrund des Nachrichtenwerts nicht klar und deutlich dargelegt wird, wann Inhalte, die Menschenrechtsverletzungen oder Gräueltaten dokumentieren, unter die Ausnahmeregelung fallen. Während wir mit Meta darin übereinstimmen, dass die Feststellung des Nachrichtenwerts „höchst subjektiv“ sein kann, definiert die fragliche Regel den Begriff nicht einmal. Die Richtlinie besagt, dass das Unternehmen „Inhalten eine besondere Bedeutung beimisst, die eine unmittelbare Bedrohung für die öffentliche Gesundheit oder Sicherheit darstellen oder Sichtweisen ausdrücken, die zurzeit im Rahmen politischer Prozesse diskutiert werden.“ Symbolische Beispiele und klare Vorgaben sollten die Ermessensausübung bei der Anwendung dieser Ausnahmeregelung leiten. Fehlen diese, ist ihre Anwendung wahrscheinlich uneinheitlich und willkürlich. Außerdem verweist die Ausnahmeregelung aufgrund des Nachrichtenwerts nicht auf den Einsatz von Warnmeldungen (oder Unterbrecherwerbung) für Inhalte, die ansonsten gegen die Richtlinien von Meta verstoßen.

Abschließend empfahl das Gremium Meta in einem früheren Fall („Kolumbien-Proteste“), „klare Kriterien für Inhaltsprüfer festzulegen und zu veröffentlichen, um im Rahmen einer Eskalation eine zusätzliche Überprüfung von Inhalten von öffentlichem Interesse zu veranlassen“. Meta antwortete, dass es die Kriterien für die Eskalation bereits über den Artikel zum Nachrichtenwert im Transparency Center veröffentlicht habe. Der Schwerpunkt dieses Artikels liegt jedoch auf den Faktoren, die Meta bei der Anwendung der Ausnahmeregelung aufgrund des Nachrichtenwerts berücksichtigt, und nicht auf den Kriterien, die Moderatoren bereitgestellt werden, wenn es um die Eskalation von Inhalten geht (also die Weiterleitung dieser zwecks zusätzlicher Überprüfung). Wenn die Ausnahmeregelung aufgrund des Nachrichtenwerts Teil des skalierten Inhaltsmoderationssystems des Unternehmens sein soll, sollten die Prozesse für die Eskalation und Anwendung dieses Ziel unterstützen. Das Gremium weist darauf hin, dass die mangelnde Klarheit im Zusammenhang damit, wann und wie die Ausnahmeregelung aufgrund des Nachrichtenwerts angewendet wird, wahrscheinlich zur willkürlichen Anwendung dieser Richtlinie führen werde.

II. Legitimes Ziel

Einschränkungen der freien Meinungsäußerung sollten ein legitimes Ziel verfolgen, wie etwa den Schutz der Rechte anderer, also beispielsweise das Recht auf Privatsphäre der abgebildeten Person (Allgemeine Bemerkung Nr. 34, Abs. 28) und das Recht auf körperliche Unversehrtheit. Meta erklärt im Grundgedanken für die Richtlinie auch, dass „Inhalte, die Gewalt verherrlichen oder das Leid bzw. die Erniedrigung anderer befürworten,..ein feindseliges Umfeld schaffen können“. Das Gremium stimmt zu, dass die Richtlinie zu gewaltdarstellendem Inhalt mehrere legitime Ziele verfolgt.

III. Notwendigkeit und Verhältnismäßigkeit

Einschränkungen der freien Meinungsäußerung „müssen dazu geeignet sein, ihre Schutzfunktion zu erfüllen; sie müssen die am wenigsten einschneidenden Instrumente unter denjenigen sein, die ihre Schutzfunktion erfüllen können; [und] sie müssen verhältnismäßig zu den zu schützenden Interessen sein“ (Allgemeine Bemerkung Nr. 34, Abs. 34).

In diesem Fall kommt das Oversight Board zu dem Schluss, dass das Einblenden eines Warnhinweises über dem Inhalt eine notwendige und verhältnismäßige Einschränkung der freien Meinungsäußerung war. Die Warnmeldung stellt keine unzumutbare Belastung für diejenigen dar, die den Inhalt sehen möchten. Zugleich informiert sie andere über die Art des Inhalts und ermöglicht es ihnen, zu entscheiden, ob sie ihn sehen möchten oder nicht. Außerdem schützt die Warnmeldung die Würde der abgebildeten Person und ihrer Familie angemessen.

Das Gremium stellt außerdem fest, dass, wie in Abschnitt 8.1 erwähnt, die Wiederherstellung des Beitrags durch Meta mit fast fünf Wochen Verzögerung stattfand. Diese Verzögerung hätte angesichts der anhaltenden Gewalt und des eingeschränkten Medienumfelds im Sudan unverhältnismäßige Auswirkungen auf die freie Meinungsäußerung gehabt. Eine derartig lange Verzögerung schwäche den Nutzen dieser Äußerung, die dazu dienen soll, Zivilisten zu warnen und auf Missstände aufmerksam zu machen.

Das Gremium erklärt weiterhin, dass die Ausnahmeregelung aufgrund des Nachrichtenwerts keinen wirksamen Mechanismus dafür darstelle, in großem Umfang Inhalte auf der Plattform zuzulassen, die Missstände dokumentieren oder auf sie aufmerksam machen sollen. Meta teilte dem Gremium mit, dass es „im Laufe der vergangenen 12 Monate (in den 12 Monaten vor dem 8. März 2022) 17 Inhalte dokumentiert habe, die unter die Ausnahmeregelung aufgrund des Nachrichtenwerts im Zusammenhang mit der Richtlinie zu gewaltdarstellendem Inhalt fielen. Der Inhalt in diesem Fall war eine der 17 Ausnahmen.“ Im Vergleich: In den ersten drei Quartalen des Jahres 2021 hat Meta 90,7 Millionen Inhalte gemäß diesem Gemeinschaftsstandard entfernt. Das Oversight Board hält es für unwahrscheinlich, dass weltweit im Laufe eines Jahres nur 17 Inhalte im Zusammenhang mit dieser Richtlinie als berichtenswert und von öffentlichem Interesse auf der Plattform hätten verbleiben dürfen. Die Ausnahmeregelung aufgrund des Nachrichtenwerts sieht keinen geeigneten Mechanismus dafür vor, derartige Inhalte auf der Plattform zu belassen. Um das Zensieren geschützter Äußerungen zu vermeiden, sollte Meta die Richtlinie zu gewaltdarstellendem Inhalt selbst ändern, damit solche Inhalte auf der Plattform verbleiben dürfen.

Im Kontext von Kriegen oder politischen Unruhen werde es mehr gewaltdarstellende Inhalte geben, die von Nutzern aufgenommen und auf der Plattform geteilt werden, um auf Missstände aufmerksam zu machen oder sie zu dokumentieren. Diese Inhalte seien wichtig für die Förderung der Rechenschaftspflicht. Das Gremium erklärte in dem Fall „Sperrung des ehemaligen Präsidenten Trump“, dass Meta dafür verantwortlich sei, „Informationen zu erfassen, aufzubewahren und gegebenenfalls weiterzugeben, um die Untersuchung und mögliche Verfolgung von schweren Verstößen gegen internationales Strafrecht, Menschenrechte und humanitäres Recht durch zuständige Behörden und Mechanismen der Rechenschaftspflicht zu unterstützen“. Das Gremium empfahl außerdem, dass Meta in seinen Protokollen zur Unternehmensrichtlinie zu Menschenrechten klarstellen und angeben solle, wie es Personen, die Untersuchungen durchführen, zuvor öffentlich zugängliche Inhalte zur Verfügung stellt und dabei internationale Standards und Datenschutzgesetze einhält. Daraufhin verpflichtete Meta sich, das Oversight Board über seine fortlaufenden Bemühungen zur Behebung dieses Problems zu unterrichten. Seit das Gremium diese Empfehlung am 5. Mai 2021 veröffentlichte, hat Meta keine Fortschritte zu diesem Thema gemeldet. Das Gremium hält eine derartig lange Verzögerung und das Fehlen von Fortschritten angesichts der Rolle, die die Plattform in Situationen gewaltsamer Konflikte (z. B. der derzeitige Krieg in der Ukraine, bei dem Nutzer die Missstände über die sozialen Medien dokumentieren) und politischer Unruhen weltweit einnimmt, für besorgniserregend.

Abschließend erinnert das Gremium an seine Empfehlung in dem Fall der „Sperrung des ehemaligen Präsidenten Trump“, in der es Meta empfahl, „eine Richtlinie zu entwickeln und zu veröffentlichen, die die Reaktion von Facebook auf Krisen oder neuartige Situationen regelt, in denen seine üblichen Prozesse einen drohenden Schaden nicht verhindern oder vermeiden würden“. Meta berichtete im Update für das 4. Quartal 2021 über das Oversight Board, dass das Unternehmen als Reaktion auf die Empfehlung des Gremiums einen Vorschlag für ein neues Krisenprotokoll ausgearbeitet habe und dieser angenommen wurde. Meta erklärte weiterhin, dass es schon bald Informationen zu diesem Protokoll im Transparency Center bereitstellen werde. Meta informierte das Gremium, dass dieses Protokoll zum Zeitpunkt des Putsches im Sudan noch nicht bestand und auch während der Überprüfung dieses Falls nicht einsatzbereit war. Das Unternehmen plant, das Protokoll im weiteren Verlauf des Jahres 2022 einzuführen. Ein gut durchdachtes Protokoll sollte Meta bei der Entwicklung und Umsetzung notwendiger und verhältnismäßiger Reaktionen in Krisensituationen unterstützen. Meta sollte die Implementierung dieses Protokolls vorantreiben und so viele Details wie möglich dazu bereitstellen, wie dieses Protokoll funktionieren und mit bestehenden Prozessen von Meta interagieren wird. Die Plattformen von Meta spielen eine wichtige Rolle in Konflikten und Krisensituationen auf der ganzen Welt, und das Unternehmen muss darauf vorbereitet sein, schnell und systematisch zu reagieren, um Fehler zu vermeiden.

9. Entscheidung des Oversight Boards

Das Oversight Board bestätigt Metas Entscheidung, den Inhalt veröffentlicht zu lassen und ihm eine Warnmeldung hinzuzufügen, die den Zugriff auf Personen über 18 Jahren einschränkt.

10. Stellungnahme zu den Richtlinien

Content-Richtlinie

1. Meta sollte den Gemeinschaftsstandards zu gewaltdarstellendem Inhalt ändern, um Videos von Personen und Leichen zuzulassen, wenn sie geteilt werden, um auf Menschenrechtsverletzungen aufmerksam zu machen oder sie zu dokumentieren. Diese Inhalte sollten gestattet werden, wenn sie eine Warnmeldung enthalten, damit die Betrachter wissen, dass der Inhalt verstörend sein könnte. Das Gremium wird diese Empfehlung als umgesetzt erachten, sobald Meta den Gemeinschaftsstandard aktualisiert.

2. Meta sollte einen Prozesses zur Weiterentwicklung seiner Richtlinien durchführen, um Kriterien für die Identifizierung von Videos von Personen und Leichen zu entwickeln, die geteilt werden, um auf Menschenrechtsverletzungen aufmerksam zu machen oder sie zu dokumentieren. Das Gremium wird diese Empfehlung als umgesetzt erachten, sobald Meta die Ergebnisse des Prozesses zur Weiterentwicklung seiner Richtlinien veröffentlicht, einschließlich Informationen zum Prozess und Kriterien zur Identifizierung dieser Inhalte in großem Umfang.

3. Meta sollte in seiner Beschreibung der Ausnahmeregelung aufgrund des Nachrichtenwerts alle Maßnahmen deutlich machen, die es möglicherweise auf der Grundlage dieser Richtlinie ergreift (beispielsweise Wiederherstellung unter Hinzufügung einer Warnmeldung). Das Gremium wird diese Empfehlung als umgesetzt erachten, sobald Meta die Richtlinie aktualisiert.

Durchsetzung

4. Um sicherzustellen, dass die Nutzer die Regeln verstehen, sollte Meta die Nutzer benachrichtigen, wenn es auf der Grundlage der Ausnahmeregelung aufgrund des Nachrichtenwerts Maßnahmen gegen ihre Inhalte ergreift, wie u. a. Wiederherstellung von Inhalten oder Hinzufügung einer Warnmeldung. Dabei kann die Benachrichtigung der Nutzer auf die vom Transparency Center abgegebene Erläuterung der Ausnahmeregelung aufgrund des Nachrichtenwerts verweisen. Das Gremium wird diese Empfehlung als umgesetzt erachten, sobald Meta diese aktualisierte Benachrichtigung von Nutzern in allen Märkten einführt und anhand von Daten zur Durchsetzung nachweist, dass die Nutzer diese Benachrichtigung erhalten.

* Anmerkung zur Vorgehensweise:

Die Entscheidungen des Oversight Boards werden von einem Panel aus fünf Mitgliedern vorbereitet und von einer Mehrheit des Boards bestätigt. Entscheidungen des Gremiums geben nicht zwangsläufig die persönliche Meinung aller Mitglieder wieder.

Für diese Fallentscheidung wurde eine unabhängige Studie vom Gremium in Auftrag gegeben. Ein unabhängiges Forschungsinstitut mit Sitz an der Universität Göteborg, das auf ein Team aus mehr als 50 Sozialwissenschaftlern auf sechs Kontinenten zugreifen kann, sowie mehr als 3.200 Länderexperten aus der ganzen Welt. Weitere Unterstützung erhielt das Board durch Duco Advisors, eine Beratungsfirma mit Schwerpunkt auf die Schnittstelle zwischen Geopolitik, Vertrauen, Sicherheit und Technologie.

Volver a Decisiones de casos y opiniones consultivas sobre políticas