Russisches Gedicht

Diese Entscheidung ist auch auf Russisch (über den Tab „Sprache“ im Menü am oberen Bildschirmrand), auf Lettisch (über diesen Link) sowie auf Ukrainisch (über diesen Link) verfügbar.

Lai iepazītos ar lēmumu latviski, spied šeit.

Щоб прочитати це рішення українською мовою, натисніть тут.

Zusammenfassung des Falls

Das Oversight Board hat die ursprüngliche Entscheidung von Meta aufgehoben, einen Facebook-Beitrag zu entfernen, in dem die russische Armee in der Ukraine mit den Nazis verglichen und ein Gedicht zitiert wurde, das zum Töten von Faschisten aufruft. Außerdem hat es der Ansicht von Meta widersprochen, dass ein Bild in demselben Beitrag, auf dem scheinbar ein Toter so sehen ist, gegen die Richtlinie zu gewaltdarstellendem Inhalt verstößt. Meta hatte eine Warnmeldung zu dem Bild hinzugefügt und diese damit begründet, dass es gegen die Richtlinie verstoße. Dieser Fall wirft wichtige Fragen rund um die Content-Moderation in Konfliktsituationen auf.

Zum Fall

Im April 2022 postete ein Facebook-Nutzer in Lettland ein Bild, auf dem offenbar ein Toter zu sehen ist, der mit dem Gesicht nach unten auf der Straße liegt. Es sind keine Verletzungen sichtbar. Meta bestätigte gegenüber dem Board, dass die Person in Bucha, Ukraine, erschossen wurde.

Im russischen Begleittext zum Bild wird argumentiert, dass die mutmaßlichen Gräueltaten, die sowjetische Soldaten während des Zweiten Weltkriegs in Deutschland begingen, dadurch zu entschuldigen seien, dass sie die Verbrechen der Nazis in der UdSSR rächten. Es wird ein Vergleich zwischen der Armee der Nazis und der russischen Armee in der Ukraine gezogen, indem behauptet wird, die russischen Soldaten „became fascist“ (sind faschistisch geworden).

Der Beitrag nennt mutmaßliche Gräueltaten, die von der russischen Armee in der Ukraine begangen worden sein sollen, und sagt „after Bucha, Ukrainians will also want to repeat... and will be able to repeat“ (nach Butscha werden die Ukrainer zurückschlagen wollen ... und können). Der Beitrag endet mit dem Zitat des Gedichts „Kill him!“ (Töte ihn!) des sowjetischen Lyrikers Konstantin Simonow, das unter anderem folgende Zeilen enthält: „kill the fascist... Kill him! Kill him! Kill!“ (Töte den Faschisten ... Töte ihn! Töte ihn! Töte!).

Der Beitrag wurde von einem anderen Facebook-Nutzer wegen Verletzung des Gemeinschaftsstandards zu Hassrede gemeldet. Nachdem sich das Board des Falls angenommen hatte, kam Meta zu dem Schluss, dass der Beitrag fälschlicherweise entfernt worden war, und stellte ihn wieder her. Drei Wochen später wurde im Rahmen der Richtlinie zu gewaltdarstellendem Inhalt eine Warnmeldung zum Bild hinzugefügt.

Wichtige Erkenntnisse

Das Board ist der Meinung, dass die Entfernung des Beitrags und das spätere Hinzufügen der Warnmeldung nicht in Einklang mit den Facebook-Gemeinschaftsstandards, den Werten von Meta oder der Verantwortung des Unternehmens in Hinblick auf die Menschenrechte steht.

Das Board ist der Meinung, der Beitrag behauptet nicht generell, dass „russische Soldaten Nazis sind“, sondern argumentiert, dass sie sich wie Nazis zu einem bestimmten Zeitpunkt und an einem bestimmten Ort verhalten haben, wobei Parallelen zur Vergangenheit gezogen werden. Zudem nennt der Beitrag die russischen Soldaten aufgrund ihrer Rolle als Kämpfer, nicht aufgrund ihrer Nationalität. In diesem Kontext können die menschenrechtliche Verantwortung von Meta und die Gemeinschaftsstandards zu Hassrede Soldaten nicht vor der Behauptung eines schwerwiegenden Fehlverhaltens schützen und keine provokativen Vergleiche ihrer Taten mit vergangenen Ereignissen verhindern.

Das Board unterstreicht, wie wichtig der Kontext für die Beurteilung ist, ob ein Inhalt zu Gewalt aufruft. In diesem Fall ist das Board der Ansicht, dass die Zitate aus dem Gedicht „Kill him!“ (Töte ihn!) eine künstlerische und kulturelle Referenz sind, die als rhetorisches Stilmittel eingesetzt werden. Im Kontext des gesamten Beitrags werden die Zitate verwendet, um eine Geisteshaltung zu beschreiben, nicht zu unterstützen, so das Board. Sie warnen vor einer Gewaltspirale und davor, dass sich die Geschichte in der Ukraine wiederholen könnte.

Metas interne Richtlinien für Moderatoren stellen klar, dass das Unternehmen seinen Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt so interpretiert, dass solche „neutralen Referenzen zu einem möglichen Ergebnis“ und „vorsorgliche Warnungen“ zulässig sind. Allerdings wird dies nicht in den öffentlichen Gemeinschaftsstandards erläutert. Ebenso verbietet die Richtlinie zu gewaltdarstellendem Inhalt Bilder, die einen gewaltsamen Tod zeigen. Die internen Richtlinien für Moderatoren beschreiben, wie Meta entscheidet, ob ein Tod offensichtlich gewaltsam ist, doch diese Informationen finden sich nicht in der öffentlichen Richtlinie.

In diesem Fall ist das Board mehrheitlich der Ansicht, dass das Bild im Beitrag keine eindeutigen Anzeichen für Gewalt aufweist, die laut den internen Meta-Richtlinien für Moderatoren eine Warnmeldung rechtfertigen würden.

Insgesamt ist das Board der Meinung, dass dieser Beitrag die Gewalt wahrscheinlich nicht verschärfen wird. Allerdings merkt es an, dass es bei internationalen Konflikten, bei denen Kämpfer gemäß internationalem Recht kritisiert werden dürfen, besonders schwierig ist, gewaltverherrlichende Sprache zu beurteilen. Die russische Invasion in der Ukraine wird international als unrechtmäßig angesehen. Das Board legt Meta nahe, seine Richtlinien dahingehend zu überarbeiten, dass die Umstände einer unrechtmäßigen militärischen Intervention berücksichtigt werden können.

Die Entscheidung des Oversight Boards

Das Oversight Board hebt Metas ursprüngliche Entscheidung auf, den Beitrag zu entfernen, und widerspricht der anschließenden Feststellung, das Bild im Beitrag verstoße gegen die Richtlinie zu gewaltdarstellendem Inhalt, woraufhin Meta eine Warnmeldung hinzufügte.

Das Board empfiehlt Meta folgende Maßnahmen:

• Den öffentlichen Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt so überarbeiten, dass klar wird, dass Meta gemäß der unternehmenseigenen Interpretation der Richtlinie Inhalte zulässt, die „neutrale Referenzen zu einem möglichen Ergebnis“ enthalten.
• Im Gemeinschaftsstandard zu gewaltdarstellendem Inhalt eine Erklärung dazu bereitstellen, wie entschieden wird, ob ein Bild „den gewaltsamen Tod einer Person“ zeigt.
• Die Möglichkeit prüfen, ein Tool einzuführen, wodurch erwachsene Nutzer selbst entscheiden können, ob sie Gewaltdarstellungen generell sehen möchten und ob sie sie in diesem Fall mit oder ohne Warnmeldung sehen möchten.

* Fallzusammenfassungen bieten einen Überblick über den Fall und haben keinen Präzedenzwert.

Ausführliche Fallentscheidung

1. Zusammenfassung der Entscheidung

Das Oversight Board hebt die ursprüngliche Entscheidung von Meta auf, einen Facebook-Beitrag zum Konflikt in der Ukraine zu entfernen. Der Inhalt ist auf Russisch verfasst und wurde in Lettland gepostet. Er enthält ein Foto einer Straßenszene, in der eine – wahrscheinlich tote – Person neben einem umgestürzten Fahrrad auf dem Boden liegt. Das Foto wird von Text begleitet. Der Text enthält Zitate aus einem bekannten Gedicht des sowjetischen Lyrikers Konstantin Simonow, das im Zweiten Weltkrieg zum Widerstand gegen die Deutschen aufrief. Es wird impliziert, dass die russischen Soldaten in der Ukraine eine ähnliche Rolle spielen wie damals die deutschen Soldaten in der UdSSR. Nachdem das Board den Beitrag prüfen wollte, änderte Meta seine Meinung und stellte den Inhalt auf der Plattform wieder her. Der Inhalt wirft wichtige Fragen zur Definition der Meta-Richtlinien zur Vermeidung von Hassrede und Gewalt und Anstiftung zu Gewalt auf. Wenige Wochen, nachdem Meta den Beitrag wiederhergestellt hatte, versah es das Foto mit einer Warnmeldung. Das Board ist mehrheitlich der Ansicht, dass das Foto nicht gegen die Richtlinie zur Vermeidung von gewaltdarstellendem Inhalt verstößt, da das Bild keine eindeutigen Anzeichen für Gewalt aufweist, die laut den internen Meta-Richtlinien für Content-Moderatoren die Verwendung einer Warnmeldung rechtfertigen würden.

2. Beschreibung des Falls und Hintergrundinformationen

Im April 2022 postete ein Facebook-Nutzer in Lettland ein Foto mit einem Text auf Russisch im eigenen News Feed. Der Beitrag wurde etwa 20.000 Mal aufgerufen, rund 100 Mal geteilt und erhielt beinahe 600 Reaktionen und mehr als 100 Kommentare.

Das Foto zeigt eine Straßenszene, in der eine wahrscheinlich tote Person neben einem umgestürzten Fahrrad auf dem Boden liegt. Es sind keine Verletzungen sichtbar. Der Text beginnt mit den Zeilen: „They wanted to repeat and repeated“ (Sie wollten zurückschlagen und haben zurückgeschlagen). In dem Beitrag werden mutmaßliche Verbrechen von sowjetischen Soldaten in Deutschland während des Zweiten Weltkriegs angesprochen. Es wird gesagt, diese Verbrechen wurden damit entschuldigt, dass Soldaten die Gräueltaten der Nazis in der UdSSR rächten. Außerdem wird ein Zusammenhang hergestellt zwischen dem Zweiten Weltkrieg und dem Angriff auf die Ukraine mit der Behauptung, die russische Arme „became fascist“ (ist faschistisch geworden). Der Beitrag behauptet, dass die russische Armee in der Ukraine „rape[s] girls, wound[s] their fathers, torture[s] and kill[s] peaceful people“ (Mädchen vergewaltigt, ihre Väter verletzt, friedliche Menschen foltert und tötet). Es wird der Schluss gezogen, dass „after Bucha, Ukrainians will also want to repeat ... and will be able to repeat“ (die Ukrainer nach Butscha auch zurückschlagen wollen ... und können). Am Ende des Beitrags teilt der Nutzer Auszüge aus dem Gedicht „Kill him!“ (Töte ihn!) des sowjetischen Lyrikers Konstantin Simonow, unter anderem folgende Zeilen: „kill the fascist so he will lie on the ground’s backbone, not you“ (töte den Faschisten, damit er auf dem Boden liegt, nicht du); „kill at least one of them as soon as you can“ (töte mindestens einen von ihnen, sobald du kannst); „Kill him! Kill him! Kill!“ (Töte ihn! Töte ihn! Töte!).

Am gleichen Tag, an dem der Inhalt gepostet wurde, wurde er von einem anderen Nutzer als „gewaltdarstellender Inhalt“ gemeldet. Nach erfolgter manueller Überprüfung entfernte Meta den Inhalt, weil er gegen seine Gemeinschaftsstandards zu Hassrede verstoße. Einige Stunden später legte der Nutzer, der den Inhalt gepostet hatte, Einspruch ein. Die zweite manuelle Überprüfung bewertete den Inhalte als Verstoß gegen dieselbe Richtlinie.

Der Nutzer legte beim Oversight Board Einspruch ein. Nachdem das Board am 31. Mai 2022 den Einspruch zur Überprüfung ausgewählt hatte, entschied Meta, dass seine Entscheidung, den Inhalte zu entfernen, ein Fehler war, und stellte den Inhalt wieder her. Am 23. Juni 2022 – 23 Tage nach Wiederherstellung des Inhalts – fügte Meta dem Foto in dem Beitrag eine Warnmeldung hinzu mit Verweis auf seine Gemeinschaftsstandards zu gewaltdarstellendem Inhalt, da auf dem Foto der gewaltsame Tod einer Person abgebildet sei. Die Warnmeldung trägt den Text: „Sensible Inhalte – dieses Foto zeigt möglicherweise gewaltdarstellenden Inhalt“. Nutzer können auswählen zwischen „Mehr dazu“ und „Foto ansehen“.

Folgende Fakten legen den Grundstein für die Entscheidung des Boards und basieren auf Recherchen, die vom Board durchgeführt wurden:

• Der russische Angriff auf die Ukraine wurde von der Generalversammlung der Vereinten Nation am 2. März 2022 als unrechtmäßig eingestuft (A/RES/ES-11/1).
• Michelle Bachelet, UN-Hochkommissarin für Menschenrechte, äußerte Bedenken aufgrund von „schwerwiegenden und verstörenden Fragen hinsichtlich möglicher Kriegsverbrechen, schwerwiegender Verstöße gegen internationales humanitäres Recht und schwerwiegender Verstöße gegen internationale Menschenrechtsgesetze“ in der Ukraine.
• In Kulturen nach der Sowjetzeit bezieht sich der Begriff „faschistisch“ häufig auf deutsche Nazis, insbesondere im Zusammenhang mit dem Zweiten Weltkrieg. Allerdings ist die Definition von „faschistisch“ nicht mehr direkt mit den deutschen Nazis verbunden. In Russland und der Ukraine hat sich die Bedeutung des Wortes verschoben, nachdem der Begriff „faschistisch“ im Rahmen politischer Diskussionen verwendet wurde, um Gegner aus ganz unterschiedlichen politischen Lagern zu stigmatisieren.
• „They wanted to repeat and repeated“ (Sie wollten zurückschlagen und haben zurückgeschlagen), der erste Satz im Beitrag des Nutzers, ist eine Anspielung auf den bekannten russischen Ausspruch „[w]e can repeat“ (wir können zurückschlagen), der gelegentlich als Verweis auf den sowjetischen Sieg gegen die Nazis im Zweiten Weltkrieg verwendet wird. Der Nutzer spielt auch mit der Aussage „after Bucha, Ukrainians will also want to repeat... and will be able to repeat“ (nach Butscha werden die Ukrainer zurückschlagen wollen ... und können) auf diesen Ausspruch an.

3. Befugnis und Wirkungsbereich des Oversight Boards

Das Board ist befugt, die Entscheidung von Meta nach dem Einspruch des Nutzers zu prüfen, dessen Inhalt entfernt wurde (Artikel 2 der Satzung, Abschnitt 1; Artikel 3 der Geschäftsordnung, Abschnitt 1). Das Gremium kann die Entscheidung von Meta bestätigen oder aufheben (Artikel 3 der Satzung, Abschnitt 5), und seine Entscheidung ist für das Unternehmen verbindlich (Artikel 4 der Satzung). Meta muss außerdem die Umsetzbarkeit seiner Entscheidung in Bezug auf identische Inhalte mit parallelem Kontext auswerten (Artikel 4 der Satzung). Die Entscheidungen des Boards können Stellungnahmen zu den Richtlinien mit unverbindlichen Empfehlungen umfassen, auf die Meta antworten muss (Artikel 3 der Satzung, Abschnitt 4; Artikel 4).

Wenn das Board Fälle wie den vorliegenden auswählt, in denen Meta einräumt, dass es einen Fehler gemacht hat, überprüft das Board die ursprüngliche Entscheidung, damit besser nachvollzogen werden kann, warum es zu Fehlern kommt, und damit Beobachtungen oder Empfehlungen kommuniziert werden können, die möglicherweise zur Reduzierung von Fehlern und zur Verbesserung von fairen und nachvollziehbaren Verfahren beitragen.

4. Quellen der Befugnis

Bei seiner Entscheidung hat das Oversight Board die folgenden Institutionen und Standards berücksichtigt:

I.

Zu den relevantesten früheren Entscheidungen des Oversight Board gehören:

• Fall „Kommunikationsbüro Tigray“ (2022-006-FB-MR). In diesem Fall stützte das Board die Entscheidung von Meta, den Inhalt zu entfernen, nachdem es aufgrund des Nutzerprofils (ein Ministerium einer Regionalregierung), der Ausdrucksweise (ein ausdrücklicher Aufruf, Soldaten zu töten, die sich nicht ergeben) und der Reichweite der Seite (rund 260.000 Follower) zu der Entscheidung gelangt war, dass der Beitrag mit großer Wahrscheinlichkeit zu weiterer Gewalt hätte führen können.
• Fall „Gewaltdarstellendes Video aus dem Sudan“ (2022-002-FB-MR). In diesem Fall riet das Board Meta dazu: (i) den Gemeinschaftsstandard zu gewaltdarstellendem Inhalt dahingehend anzupassen, dass Videos von Personen oder Toten zulässig sind, wenn sie geteilt werden, um auf Menschenrechtsverletzungen aufmerksam zu machen oder sie zu dokumentieren, und (ii) ein Verfahren zur Richtlinienerstellung durchzuführen, bei dem Kriterien festgelegt werden sollten, um Videos von Personen oder Toten zu identifizieren, die geteilt werden, um auf Menschenrechtsverletzungen aufmerksam zu machen oder sie zu dokumentieren.

II. Die Content-Richtlinien von Meta:

Gemäß dem Gemeinschaftsstandard zu Hassrede gestattet Meta keine „gewaltverherrlichenden“ oder „entmenschlichenden“ Äußerungen über Personen oder Gruppen aufgrund geschützter Eigenschaften. Die Richtlinie besagt, dass „entmenschlichende Äußerungen“ auch „Vergleiche, Verallgemeinerungen oder unqualifizierte Äußerungen zum Verhalten gegenüber oder über ... Gewalttäter oder Sexualstraftäter“ sind. Die Richtlinie gilt ausdrücklich nicht für qualifizierte Äußerungen zum Verhalten. Gruppen, die laut Beschreibung „Gewalttaten oder Sexualverbrechen begangen haben“, sind im Rahmen der Richtlinie zu Hassrede nicht vor Angriffen geschützt.

Gemäß dem Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt gestattet Meta keine „Bedrohungen, die zum Tode (und anderen Formen schwerer Gewalt) führen könnten“, wobei „Bedrohung“ unter anderem als „Aufrufe zu schwerer Gewalt“ und „Äußerungen, die schwere Gewalt befürworten“ definiert ist. Die internen Meta-Richtlinien für Inhaltsprüfer stellen klar, dass das Unternehmen diese Richtlinie so auslegt, dass Inhalte mit Äußerungen mit „neutralen Referenzen zu einem möglichen Ergebnis einer Handlung oder einer vorsorglichen Warnung“ zulässig sind.

Gemäß dem Gemeinschaftsstandard zu gewaltdarstellendem Inhalt werden „Bilder, die den gewaltsamen Tod einer oder mehrerer Personen durch Unfall oder Tötung zeigen“ mit einer Warnmeldung versehen.

III. Die Werte von Meta:

Meta beschreibt die Facebook-Werte in der Einleitung zu den Gemeinschaftsstandards unter anderem als „Stimme“, „Würde“ und „Sicherheit“. Diese Entscheidung bezieht sich auf diese Werte, sofern und soweit für die Entscheidung relevant.

IV. Internationale Menschenrechtsstandards:

Die UN-Leitprinzipien für Wirtschaft und Menschenrechte (United Nations Guiding Principles on Business and Human Rights, UNGPs) wurden 2011 vom UN-Menschenrechtsrat verabschiedet. Sie geben einen freiwilligen Rahmen für die Menschenrechtspflichten von Privatunternehmen vor. Im Jahr 2021 veröffentlichte Meta seine Unternehmensrichtlinie zu Menschenrechten, in der das Unternehmen seine Verpflichtung zur Achtung der Menschenrechte gemäß den UN-Leitprinzipien bekräftigte. Das Board hat bei seiner Analyse der menschenrechtlichen Verantwortung von Meta in diesem Fall folgende Menschenrechtsstandards berücksichtigt:

• Das Recht auf Meinungsfreiheit und freie Meinungsäußerung: Artikel 19, Internationaler Pakt über bürgerliche und politische Rechte (ICCPR), Allgemeine Bemerkung Nr. 34, Menschenrechtsausschuss, 2011; Berichte des UN-Sonderberichterstatters für Meinungsfreiheit und freie Meinungsäußerung: A/HRC/38/35 (2018), A/74/486 (2019) und A/HRC/44/49/Add.2 (2020); Bericht des UN-Hochkommissariats für Menschenrechte: A/HRC/22/17/Add.4 (2013).
• Gleichheit und Nichtdiskriminierung: Artikel 2, Absatz 1 IPPCR.
• Recht auf physische Sicherheit: Artikel 9 ICCPR.
• Recht auf Leben: Artikel 6 ICCPR.

5. Einreichungen des Nutzers

Im Einspruch gegenüber dem Board erklärt der Nutzer, dass das geteilten Foto das „most innocuous“ (harmloseste) Bild sei, das die „crimes of the Russian army in the city of Bucha“ (Verbrechen der russischen Armee in der Stadt Butscha) zeigt, „where dozens of dead civilians lie on the streets“ (wo Dutzende tote Zivilist auf den Straßen liegen). Der Nutzer sagt, dass der Beitrag nicht zu Gewalt aufrufe und die „past history and the present“ (geschichtliche Vergangenheit und die Gegenwart) behandle. Er sagt, dass das Gedicht ursprünglich dem „struggle of Soviet soldiers against the Nazis“ (Kampf der sowjetischen Soldaten gegen die Nazis) gewidmet wurde und zeigen sollte, dass „the Russian army became an analogue of the fascist army“ (die russische Armee ebenfalls zu einer faschistischen Armee geworden ist). In seinem Einspruch gibt er an, dass er Journalist sei und es für wichtig halte, dass die Menschen verstehen, was passiert, vor allem in Zeiten des Kriegs.

6. Einreichungen von Meta

In der Begründung, die Meta dem Board vorgelegt hat, analysierte das Unternehmen den Inhalt dieses Falls vor dem Hintergrund von drei verschiedenen Richtlinie, beginnend mit der Richtlinie zu Hassrede. Meta konzentrierte sich darauf, warum das Unternehmen seine ursprüngliche Entscheidung zurückgenommen hatte, anstatt zu erklären, wie es zu der ursprünglichen Entscheidung gelangt war. Laut Meta stellt die Behauptung, russische Soldaten hätten im Russland-Ukraine-Konflikt Verbrechen begangen, gemäß der Richtlinie zu Hassrede keinen Angriff dar, da „qualifizierte Äußerungen zum Verhalten“ auf der Plattform zulässig seien. Meta erklärte außerdem, dass Faschismus eine politische Ideologie ist und dass allein die Tatsache, dass die russische Armee mit einer bestimmten politischen Ideologie in Zusammenhang gebracht wird, keinen Angriff darstelle, da „die russische Armee eine Institution und somit keine Gruppe oder Untergruppe mit geschützten Eigenschaften ist, die der Richtlinie zu Hassrede unterliegt (im Gegensatz zu russischen Soldaten, die Personen sind)“. Zuletzt wies Meta darauf hin, dass die verschiedenen Auszüge aus dem Gedicht „Kill him!“ (Töte ihn!), die im Text des Beitrags zitiert werden (z. B. „kill a fascist“ (töte einen Faschisten), „kill at least one of them“ (töte mindestens einen von ihnen) und „kill him!“ (töte ihn!)) sich auf „Nazis“ im Kontext des Zweiten Weltkriegs beziehen und Nazis keine geschützte Gruppe sind.

Meta analysierte den Beitrag angesichts der Richtlinie zu Gewalt und Anstiftung zu Gewalt. In diesem Zusammenhang erklärte Meta, dass die Aussage „after Bucha, Ukrainians will also want to repeat... and will be able to repeat“ (nach Butscha werden die Ukrainer zurückschlagen wollen ... und können) nach den Ereignissen in Butscha nicht zur Gewalt aufruft. Meta legt dar, dass dies eine „neutrale Referenz zu einem möglichen Ergebnis“ sei, was das Unternehmen gemäß der Richtlinie zu Gewalt und Anstiftung zu Gewalt für zulässig erachtet. Meta erklärte auch, dass das Zitieren des Gedichts von Simonow das Bewusstsein dafür schärfen sollte, dass sich die Geschichte in der Ukraine möglicherweise wiederholt. Zuletzt erklärte das Unternehmen, dass die Befürwortung von Gewalt gegenüber Personen, die unter die Richtlinie zu gefährlichen Personen und Organisationen fallen, darunter die Nazis (in Simonows Gedicht als „Faschisten“ bezeichnet), gemäß dem Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt zulässig sei.

Meta erläuterte anschließend, dass eine Warnmeldung und entsprechende Altersbeschränkungen gemäß der Richtlinie zu gewaltdarstellendem Inhalt auf den Beitrag angewendet worden waren, da das Bild im Beitrag den gewaltsamen Tod einer Person zeigt. Meta bestätigte, dass das Bild eine Person zeigt, die in Butscha in der Ukraine erschossen wurde.

Als Reaktion auf Fragen des Boards gab Meta weitere Erklärungen zu Initiativen ab, die im Kontext des Ukraine-Konflikts entwickelt wurden. Meta bestätigte jedoch, dass keine dieser Initiativen der Grund für die ursprüngliche Entfernung des Inhalts in diesem Fall oder für die Entscheidung, ihn mit einer Warnmeldung wiederherzustellen, war. Das Unternehmen fügte hinzu, dass es mehrere Maßnahmen in Einklang mit den UN-Leitlinien für Wirtschaft und Menschenrechte ergriffen hat, um die angemessene Sorgfalt in Zeiten von Konflikten sicherzustellen. Zu diesen Maßnahmen gehört die Interaktion mit der ukrainischen und russischen Zivilbevölkerung und unabhängigen russischen Medien, um Feedback dazu einzuholen, welche Auswirkungen die Maßnahmen von Meta zu Beginn des Konflikts hatten.

Das Board stellte Meta 11 Fragen, die Meta in vollem Umfang beantwortete.

7. Öffentliche Kommentare

Das Oversight Board hat zu diesem Fall acht öffentliche Kommentare erhalten. Drei Kommentare stammten aus Europa, vier aus den USA und Kanada und einer aus Lateinamerika oder der Karibik. Die Einreichungen behandelten folgende Themen: internationale bewaffnete Konflikte, die Bedeutung von Kontext bei der Content-Moderation, die Rolle von Journalisten in Konfliktsituationen, die Dokumentation von Kriegsverbrechen und die künstlerische Freiheit.

Die öffentlichen Kommentare, die zu diesem Fall eingereicht wurden, können hier eingesehen werden.

8. Analyse des Oversight Boards

Das Board untersuchte anfangs, ob der Inhalt gemäß den Content-Richtlinien von Meta zulässig sei, interpretierte bei Bedarf hinsichtlich der Plattformwerte und beurteilte dann, ob die Behandlung des Inhalts mit der menschenrechtlichen Verantwortung des Unternehmens übereinstimmte.

Der vorliegende Fall wurde vom Board ausgewählt, da die Entfernung dieses Beitrags wichtige Fragen zur künstlerischen Freiheit und zu kulturellen Referenzen aufwarf, die in einen neuen Kontext gesetzt werden und die Gewalt in Konfliktsituationen möglicherweise anheizen. Besonders für Menschen, die von Krieg betroffen sind, sind Online-Plattformen ein wichtiges Ausdrucksmittel und Social-Media-Unternehmen müssen besonders darauf achten, die Rechte dieser Menschen zu schützen. Dieser Fall demonstriert, dass das Vernachlässigen der Kontextanalyse, das bei der Content-Moderation im großen Umfang häufig der Fall ist, dazu führen kann, dass Nutzer ihre Meinung zu einem Konflikt nicht ausdrücken und keine Parallelen zu historischen Ereignissen ziehen können.

8.1 Einhaltung der Content-Richtlinien von Meta

Das Board ist der Meinung, dass der Inhalt in diesem Fall nicht gegen die Gemeinschaftsstandards zu Hassrede, Gewalt und Anstiftung zu Gewalt verstößt. Das Board ist mehrheitlich der Meinung, dass der Inhalt nicht gegen den Gemeinschaftsstandard zu gewaltdarstellendem Inhalt verstößt.

I. Hassrede

Metas Richtlinie zu Hassrede verbietet Angriffe gegen Personen aufgrund geschützter Eigenschaften, wie u. a. Nationalität. Berufsgruppen sind „in gewisser Weise geschützt“, wenn die zusammen mit einer geschützten Eigenschaft genannt werden. Die internen Unternehmensrichtlinien für Moderatoren stellen klar, dass „quasi geschützte Untergruppen“, darunter Gruppen, die durch eine geschützte Eigenschaft plus einen Beruf definiert werden (z. B. russische Soldaten), im Allgemeinen vor Angriffen durch Hassrede der Stufe 1 zu schützen sind. Zu diesen Angriffen gehören unter anderem „gewaltverherrlichende Sprache“ und „entmenschlichende Äußerungen ... in Form von Vergleichen, Verallgemeinerungen oder unqualifizierten Äußerungen zum Verhalten“ „gegenüber oder über ... Gewalttäter oder Sexualstraftäter“. „Gruppen, die laut Beschreibung Gewalttaten oder Sexualverbrechen begangen haben“, sind im Rahmen der Meta-Richtlinie zu Hassrede nicht geschützt.

Allgemeine Behauptungen, dass russische Soldaten dazu neigen, Verbrechen zu begehen, können je nach Inhalt und Kontext gegen die Meta-Richtlinie zu Hassrede verstoßen. Diese Behauptungen können gemäß der Richtlinie unter das Verbot von „entmenschlichenden Äußerungen“ in Form von „unqualifizierten Äußerungen zum Verhalten“ fallen. Die Meta-Richtlinie unterscheidet zwischen: (i) der Zuordnung eines schlechten Charakters oder unerwünschter Charakterzüge zu einer Gruppe aufgrund ihrer Ethnie, ihrer nationalen Herkunft oder anderer geschützter Eigenschaften (bei Meta als „Verallgemeinerung“ bezeichnet); (ii) der Kritik an Mitgliedern einer Gruppe ohne Kontext (bei Meta als „unqualifizierte Äußerungen zum Verhalten“ bezeichnet) und (iii) der Kritik an Mitgliedern einer Gruppe aufgrund vorheriger Verhaltensweisen (bei Meta als „qualifizierte Äußerungen zum Verhalten“ bezeichnet). In diesem Fall werden die Behauptungen über die angreifenden russischen Soldaten in Zusammenhang mit ihrem Vorgehen im Ukraine-Konflikt betroffen, nicht allgemein.

Die Frage hierbei ist, ob der Vergleich von russischen Soldaten mit deutschen Faschisten aus der Zeit des Zweiten Weltkriegs, den der Nutzer zieht, und die Unterstellung, dass sie Frauen vergewaltigten, deren Väter töteten und unschuldige Personen töteten und folterten, gegen die Meta-Richtlinie zu Hassrede verstößt. Sowohl Meta als auch das Board kommen zu dem Schluss, dass der Beitrag keine gewaltverherrlichenden oder entmenschlichenden Äußerungen gemäß der Richtlinie zu Hassrede darstellt, allerdings argumentieren beide Seiten unterschiedlich. Dies war das einzige Argument der Richtlinie zu Hassrede, das für diesen Beitrag als relevant angesehen wurde.

Meta argumentiert, dass der Beitrag nicht gegen die Richtlinie verstößt, da die Anschuldigungen sich gegen die russische Armee richten, die als Institution angesehen wird, nicht gegen russische Soldaten, die als Personen gelten. Das Board ist der Ansicht, dass diese Unterscheidung im vorliegenden Fall nicht gelten kann, weil der Nutzer die Begriffe „Armee“ und „Soldaten“ gleichbedeutend verwendet.

Dennoch ist das Board der Meinung, dass die Unterstellung des Nutzers, dass russische Soldaten Verbrechen begangen haben, die mit denen der Nazis vergleichbar sind, im Kontext des russischen Angriffs auf die Ukraine zulässig ist. Der Grund dafür ist, dass die Zuordnung bestimmter Handlungen (z. B. „they began to really take revenge – rape girls, cut their fathers, torture and kill peaceful people of peaceful outskirts Kyiv“ (sie begannen, sich zu rächen – vergewaltigten Mädchen, schnitten ihre Väter, folterten und töteten friedliche Menschen in den friedlichen Außenbezirken von Kiew)) und der Vergleich der Handlungen russischer Soldaten in der Ukraine mit anderen Armeen, die bekanntermaßen Kriegsverbrechen begangen haben (z. B. „the Russian army, after 70 years, completely repeated itself in Germany and the German [army] in Ukraine“ (die russische Armee schlug 70 Jahre später in Deutschland zurück und die deutsche [Armee] in der Ukraine)), „qualifizierte“ Äußerungen sind, die sich auf das Verhalten während eines bestimmten Konflikts beziehen.

Das Board kommt daher zu dem Schluss, dass ein Vergleich des Vorgehens russischer Soldaten in einem bestimmten Kontext mit den Verbrechen der Nazis im Rahmen der Gemeinschaftsstandards zulässig ist, unabhängig davon, ob ein allgemeiner Vergleich mit den Nazis erlaubt ist. Laut den internen Meta-Richtlinien verstößt Material, das normalerweise als Hassrede gelten würde, nicht gegen die Richtlinie, wenn es auf Gruppen ausgerichtet ist, die „laut Beschreibung Gewalttaten oder Sexualverbrechen begangen haben“. Allgemeiner gesprochen verstößt es nicht gegen die Richtlinie zu Hassrede, Menschenrechtsverletzungen in einem bestimmten Kontext anzuprangern, selbst wenn dabei die Nationalität der verantwortlichen Personen genannt wird.

Das Board ist weiter der Meinung, dass die unterschiedlichen Auszüge aus dem Gedicht „Kill him!“ (Töte ihn!), die im Inhalt zitiert werden (z. B. „kill a fascist“ (töte einen Faschisten), „kill at least one of them“ (töte mindestens einen von ihnen), „kill him!“ (töte ihn!)), nicht als „gewaltverherrlichende Sprache“ angesehen werden sollten. Wenn man den Beitrag nämlich komplett liest, wird laut Board klar, dass der Nutzer auf die Gewaltspirale aufmerksam machen möchte und nicht zu Gewalt aufruft.

Schließlich kommt das Board zu dem Fazit, dass russische Soldaten in dem Beitrag aufgrund ihrer Rolle als Kämpfer genannt werden, nicht aufgrund ihrer Nationalität. Die Behauptungen sind keine Angriffe, die „auf Grundlage“ ihrer geschützten Eigenschaften gegen eine Gruppe gerichtet sind. Es erklärt, dass der Inhalt keine Hassrede darstellt, da keine geschützte Eigenschaft genutzt wird.

II. Gewalt und Anstiftung zu Gewalt

Gemäß der Richtlinie zu Gewalt und Anstiftung zu Gewalt entfernt Meta unter anderem „Aufrufe zu schwerer Gewalt“, „Äußerungen, die schwere Gewalt befürworten“ und „Aussagen, die die Absicht der Ausübung von schwerer Gewalt oder ihre Androhung unter gewissen Bedingungen enthalten“. Die internen Unternehmensrichtlinien für Moderatoren stellen außerdem klar, dass Meta diesen Gemeinschaftsstandard so auslegt, dass Inhalte mit Äußerungen mit „neutralen Referenzen zu einem möglichen Ergebnis einer Handlung oder einer vorsorglichen Warnung“ zulässig sind. Darüber hinaus erläutern die internen Richtlinien, dass „Inhalte, die Gewaltandrohungen verurteilen oder auf diese aufmerksam machen“ gemäß der Richtlinie zu Gewalt und Anstiftung zu Gewalt ebenfalls zulässig sind. Das gilt für Inhalte, die „eindeutig über ein bestimmtes Thema oder Problem informieren oder aufklären sollen, oder Inhalte, die von den Erfahrungen einer Person berichten, die das Ziel von Bedrohung oder Gewalt war“, darunter akademische und Medienberichte.

Meta erklärte dem Board, dass es entschieden habe, den Inhalt wiederherzustellen, da der Beitrag keine Gewalt befürworte. Meta stuft die Äußerung des Nutzers „Ukrainians will also want to repeat … and will be able to repeat“ (die Ukrainer werden zurückschlagen wollen ... und können) nach den Ereignissen in Butscha als „neutrale Referenz zu einem möglichen Ergebnis“ ein, die das Unternehmen als gemäß der Richtlinie zu Gewalt und Anstiftung zu Gewalt zulässig erachtet. Meta erklärt auch, dass das Zitieren des Gedichts von Simonow das Bewusstsein dafür schärfen sollte, dass sich die Geschichte in der Ukraine möglicherweise wiederholt. Zuletzt verweist das Unternehmen darauf, dass sich Simonows Gedicht gegen deutsche Faschisten richte und die Befürwortung von Gewalt gegenüber Personen, die unter die Richtlinie zu gefährlichen Personen und Organisationen fallen, darunter die Nazis, gemäß dem Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt zulässig sei.

Das Board ist durch die Begründung teilweise überzeugt. Es stimmt zu, dass der Satz „Ukrainians will also want to repeat … and will be able to repeat“ (die Ukrainer werden zurückschlagen wollen ... und können) weder zu Gewalt aufruft noch diese befürwortet. Ganz wörtlich genommen besagt dieser Teil des Beitrags nur, dass die Ukrainer womöglich ebenso gewaltsam auf das Vorgehen der russischen Armee reagieren könnten wie die Sowjets auf das der Nazis. In anderen Worten ist dies eine „neutrale Referenz zu einem möglichen Ergebnis“, was gemäß Metas Auslegung der Richtlinie zu Gewalt und Anstiftung zu Gewalt zulässig ist, wie in den internen Richtlinien für Content-Moderatoren klargestellt wird.

Das Board ist außerdem der Ansicht, dass die im obigen Abschnitt zitierten Auszüge aus dem Gedicht „Kill him!“ (Töte ihn!), die gewaltverherrlichende Sprache enthalten, als Beschreibung verstanden werden können, nicht als Befürwortung. Wenn sie im Kontext des gesamten Beitrags einschließlich der Fotos gelesen werden, sind die Auszüge Teil einer größeren Botschaft und der Warnung davor, dass sich die Geschichte in der Ukraine wiederholen könnte. Sie sind künstlerische und kulturelle Referenzen, die vom Nutzer als rhetorisches Stilmittel eingesetzt werden, um seine Botschaft zu vermitteln. Daher kommt das Board zu dem Schluss, dass dieser Teil des Inhalts ebenfalls gemäß den internen Meta-Richtlinien zulässig ist.

Das Board zieht jedoch das Fazit, dass Meta die Realität verkennt, wenn es den Beitrag ausschließlich als Aufruf zur Gewalt gegen Nazis versteht. Der Nutzer verdeutlicht, dass er Ähnlichkeiten zwischen den russischen Soldaten in der Ukraine heute und den Deutschen in Russland während des Zweiten Weltkriegs sieht. Soweit der Beitrag mit seinen Zitaten aus Simonows Gedicht so ausgelegt werden kann, dass er sich auf die aktuellen Gräueltaten von Soldaten gegen Zivilisten bezieht, besteht ein Risiko, dass Leser dies aktuell als Aufruf zur Gewalt gegen russische Soldaten verstehen könnten. Das Board stimmt dennoch mit Metas Fazit überein, dass der Beitrag nicht gegen den Standard zu Gewalt und Anstiftung zu Gewalt verstößt, da seine primäre Botschaft im entsprechenden Kontext eine Warnung vor einer Gewaltspirale ist.

III. Gewaltdarstellender Inhalt

Gemäß der Richtlinie zu gewaltdarstellendem Inhalt fügt Meta Inhalten Warnmeldungen hinzu, „damit Nutzer auf die gewaltdarstellenden Inhalte aufmerksam gemacht werden, bevor sie sie ansehen“. Dies gilt für „Bilder, die den gewaltsamen Tod einer oder mehrerer Personen durch Unfall oder Tötung zeigen“. In den internen Richtlinien für Content-Moderatoren beschreibt Meta als „Hinweise auf einen gewaltsamen Tod“ die grafische Darstellung der „Folgen eines gewaltsamen Todes, sodass das Opfer tot oder sichtbar beeinträchtigt aussieht und es weitere sichtbare Hinweise auf Gewalt gibt“, beispielsweise „Blut oder Wunden am Körper, Blut rund um das Opfer, ein aufgeblähter oder verfärbter Körper oder Körper, die aus Schuttbergen geborgen werden“. Die internen Richtlinien führen weiter aus, dass Körper ohne „sichtbare Hinweise auf einen gewaltsamen Tod“ oder ohne „mindestens einen Hinweis auf Gewalt“ nicht als Abbildungen eines „gewaltsamen Todes“ angesehen werden sollten.

Das zum Inhalt gehörige Foto zeigt eine Straßenszene mit einer Person, die regungslos am Boden liegt. Es sind keine Verletzungen sichtbar. Meta konnte bestätigen, dass die Person in Bucha, Ukraine, erschossen wurde. Das Board merkt an, dass Content-Moderatoren, die viele Fälle beurteilen müssen, nicht unbedingt Zugang zu diesen Informationen haben. Das Board ist mehrheitlich der Ansicht, dass nicht gegen die Richtlinie zu gewaltdarstellendem Inhalt verstoßen wurde, da das Foto keine eindeutigen Anzeichen für Gewalt aufweist, wie in den internen Meta-Richtlinien für Content-Moderatoren beschrieben. Daher ist die Mehrheit der Meinung, dass keine Warnmeldung hätte hinzugefügt werden sollen.

Im Kontext des bewaffneten Konflikts in der Ukraine und des auf dem Foto abgebildeten Schutts ist eine Minderheit im Board der Meinung, dass der Inhalt gegen die Richtlinie zu gewaltdarstellendem Inhalt verstößt.

IV. Durchsetzungsmaßnahmen

Der Inhalt wurde von einem Nutzer aufgrund von gewaltdarstellendem Inhalt gemeldet, wurde jedoch im Rahmen der Richtlinie zu Hassrede entfernt. Er wurde erst dann wiederhergestellt, nachdem Meta durch das Board darauf aufmerksam gemacht wurde. Als Antwort auf Fragen des Boards erklärte Meta, dass der Inhalt nicht für eine zusätzliche Überprüfung an Richtlinien- oder Fachexperten weitergeleitet wurde. „Zur Überprüfung weitergeleitet“ bedeutet, dass die Entscheidung nicht von Content-Moderatoren neu bewertet wird, die viele Überprüfungen durchführen, sondern an ein internes Team bei Meta gesendet wird, das für die entsprechende Richtlinie oder das Themengebiet zuständig ist.

8.2 Einhaltung der Werte von Meta

Das Board ist der Meinung, dass das Entfernen des Inhalts und das Hinzufügen einer Warnmeldung für das darin enthaltene Foto nicht den Meta-Werten entsprechen.

Das Board ist besorgt angesichts der Situation russischer Zivilisten und der möglichen Auswirkungen von gewaltverherrlichender Sprache gegen Russen im Allgemeinen. Allerdings ist das Board im vorliegenden Fall der Ansicht, dass der Inhalt kein reales Risiko für die „Würde“ und „Sicherheit“ der genannten Personen darstellt, das ein Übergehen der „Stimme“ rechtfertigen würde, insbesondere in einem Kontext, in dem Meta dafür sorgen sollte, dass vom Krieg betroffene Nutzer sich über dessen Auswirkungen austauschen können.

8.3. Erfüllung der menschenrechtlichen Verantwortung von Meta

Das Board ist der Meinung, dass sowohl Metas ursprüngliche Entscheidung, den Inhalt zu entfernen, als auch Metas Entscheidung, eine Warnmeldung zum Inhalt hinzuzufügen, nicht mit der menschenrechtlichen Verantwortung von Meta als Unternehmen vereinbar sind. Meta hat sich zur Wahrung der Menschenrechte gemäß der UN-Leitprinzipien für Wirtschaft und Menschenrechte (UNGPs) verpflichtet. Facebooks Unternehmensrichtlinie zu Menschenrechten besagt, dass dies auch den Internationalen Pakt über bürgerliche und politische Rechte (ICCPR) umfasst.

Meinungsfreiheit (Artikel 19 ICCPR)

Der Geltungsbereich des Rechts auf Meinungsfreiheit ist umfassend. Artikel 19, Abschnitt 2 des ICCPR sieht einen besonderen Schutz der Meinungsfreiheit, einschließlich der künstlerischen Freiheit, im Zusammenhang mit politischen Konflikten und Kommentaren zu öffentlichen Angelegenheiten sowie mit Diskussionen über Menschenrechte und Behauptungen mit historischem Hintergrund vor (Allgemeine Bemerkung Nr. 34, Absatz 11 und 49). Selbst Äußerungen, die als „höchst anstößig“ angesehen werden könnten, unterliegen dem Schutz (Allgemeine Bemerkung Nr. 34, Absatz 11). Der im vorliegenden Fall vom Board analysierte Inhalt enthält Kraftausdrücke. Allerdings stellt er einen politischen Diskurs dar und lenkt die Aufmerksamkeit auf Menschenrechtsverletzungen in Kriegen.

In diesem Fall enthielt der Inhalt Zitate aus einem bekannten Kriegsgedicht, das der Nutzer als provokative kulturelle Referenz einsetzte, um die Leser über die möglichen Konsequenzen des Vorgehens russischer Soldaten in der Ukraine aufzuklären und davor zu warnen. Der UN-Sonderberichterstatter für Meinungsfreiheit hat darauf hingewiesen, dass künstlerische Freiheit „fiktive und nicht fiktive Geschichten, die aufklären oder unterhalten oder provozieren“ umfasst (A/HRC/44/49/Add.2, Absatz. 5).

Artikel 19 des ICCPR verlangt, dass in Fällen, in denen Regierungen das Recht auf freie Meinungsäußerung einschränken, die Anforderungen der Gesetzmäßigkeit, des legitimen Ziels und der Notwendigkeit und Verhältnismäßigkeit erfüllt werden müssen (Artikel 19, Absatz 3, ICCPR). Der UN-Sonderberichterstatter für Meinungsfreiheit und freie Meinungsäußerung hat Social-Media-Unternehmen dazu aufgerufen, sich bei der Moderation von Online-Meinungsäußerungen an diesen Leitlinien zu orientieren (A/HRC/38/35, Absatz 45 und 70).

I. Gesetzmäßigkeit (Klarheit und Zugänglichkeit der Regeln)

Der Grundsatz der Gesetzmäßigkeit verlangt, dass von staatlicher Seite zur Einschränkung der freien Meinungsäußerung eingesetzte Regeln klar verständlich und frei einsehbar sind (Allgemeine Bemerkung Nr. 34, Absatz 25). Der Menschenrechtsausschuss betonte außerdem, dass die Regeln „den Personen, die diese Regeln durchsetzen, keine uneingeschränkte Freiheit zur willkürlichen Einschränkung der freien Meinungsäußerung ermöglichen dürfen“ (Allgemeiner Kommentar 34, Absatz 25). Die Betroffenen müssen über ausreichend Informationen verfügen, um zu entscheiden, ob und wie ihre Meinungsäußerung möglicherweise eingeschränkt ist, damit sie ihr Verhalten entsprechend anpassen können. Für die Facebook-Content-Regeln von Meta bedeutet das, dass es für Nutzer ersichtlich und verständlich sein muss, was erlaubt bzw. verboten ist.

Insbesondere zwei Abschnitte aus den internen Meta-Richtlinien zur Durchsetzung des Gemeinschaftsstandards zu Gewalt und Anstiftung zu Gewalt sind für das Fazit relevant, zu dem sowohl Meta als auch das Board kommen, dass der Inhalt auf Facebook verbleiben sollte. Zunächst legt Meta diese Richtlinie so aus, dass Botschaften, die vor möglicher Gewalt durch Dritte warnen, zulässig sind, sofern es sich um Äußerungen mit einer „neutrale Referenz zu einem möglichen Ergebnis einer Handlung oder eine vorsorgliche Warnung“ handelt. Außerdem ist Inhalt, der gegen eine Richtlinie verstößt, zulässig, sofern er „Gewaltandrohungen verurteilt oder auf diese aufmerksam macht“. Das Board merkt jedoch an, dass diese internen Richtlinien nicht in der für die Öffentlichkeit bestimmten Formulierungen des Gemeinschaftsstandards zu Gewalt und Anstiftung zu Gewalt vorhanden sind. Dies kann dazu führen, dass Nutzer Inhalte wie den Beitrag im vorliegenden Fall als Verstoß ansehen, auch wenn es keiner ist. Meta sollte diese Abschnitte in die für die Öffentlichkeit bestimmten Formulierungen der Richtlinie zu Gewalt und Anstiftung zu Gewalt aufnehmen, damit dies für die Nutzer klar erkennbar ist. Das Board ist sich bewusst, dass die Veröffentlichung weiterer Details zu Metas Content-Richtlinien dazu führen könnte, dass Nutzer mit böswilligen Absichten die Gemeinschaftsstandards leichter umgehen können. Das Board ist jedoch der Ansicht, dass die Notwendigkeit von Klarheit und Genauigkeit Vorrang vor den Bedenken hat, dass einige Nutzer versuchen könnten, „das System zu überlisten“. Wenn Nutzer nicht wissen, dass „neutrale Referenzen zu einem möglichen Ergebnis“, „vorsorgliche Warnungen“, das „Verurteilen“ und „Aufmerksammachen auf“ Gewaltandrohungen zulässig sind, kann dies dazu führen, dass sie es vorziehen, keine Diskussionen von öffentlichem Interesse auf den Meta-Plattformen anzustoßen oder sich daran zu beteiligen.

Das Board ist außerdem beunruhigt, weil Metas Entscheidung, in diesem Fall eine Warnmeldung hinzuzufügen, nicht den internen Richtlinien für Content-Moderatoren entspricht. Darüber hinaus ist Metas Auslegung der Richtlinie zu gewaltdarstellendem Inhalt den Nutzern möglicherweise nicht klar. Meta sollte in den für die Öffentlichkeit bestimmten Formulierungen der Richtlinie klarstellen, wie das Unternehmen die Richtlinie auslegt und wie es im Kontext von Konflikten bestimmt, ob ein Bild „den gewaltsamen Tod einer oder mehrerer Personen durch Unfall oder Tötung zeigt“, wie in den internen Meta-Richtlinien für Content-Moderatoren beschrieben.

Zudem informierte Meta das Board darüber, dass keine Nachricht an den Nutzer gesendet wurde, der den Inhalt ursprünglich gemeldet hatte, um ihn zu informieren, dass der Beitrag später vom Unternehmen wiederhergestellt wurde. Dies wirft Fragen zur Gesetzmäßigkeit auf, da das Fehlen relevanter Informationen „die Fähigkeit des Einzelnen, Inhalte in Frage zu stellen oder inhaltsbezogene Beschwerden nachzuverfolgen“ beeinträchtigen kann (A/HCR/38/35, Absatz 58). Das Board merkt an, dass eine Benachrichtigung der meldenden Personen über die gegen den gemeldeten Inhalt ergriffene Maßnahme zu Durchsetzung sowie über den relevanten durchgesetzten Gemeinschaftsstandard dazu beitragen würde, dass Nutzer die Meta-Regeln besser verstehen und befolgen könnten.

II. Legitimes Ziel

Jegliche Einschränkung der Meinungsfreiheit sollte außerdem ein „legitimes Ziel“ verfolgen. Das Board hat bereits festgestellt, dass der Gemeinschaftsstandard zu Hassrede das legitime Ziel verfolgt, die Rechte anderer zu schützen (Allgemeine Bemerkung Nr. 34, Absatz 28), darunter die Rechte auf Gleichheit und Nichtdiskriminierung aufgrund von Ethnie und nationaler Herkunft (Artikel 2, Absatz 1 ICCPR). Russen vor gegen sie gerichteten Hass zu schützen, ist daher ein legitimes Ziel. Allerdings ist das Board der Ansicht, dass der Schutz von „soldiers“ (Soldaten) gegen den Vorwurf eines Fehlverhaltens kein legitimes Ziel ist, wenn sie aufgrund ihrer Rolle als Kämpfer im Krieg angegriffen werden und nicht aufgrund ihrer Nationalität oder einer anderen geschützten Eigenschaft. Kritik an Institutionen wie der Armee sollte nicht verboten sein (Allgemeine Bemerkung Nr. 34, Absatz 38).

Sofern der Standard zu Gewalt und Anstiftung zu Gewalt richtig formuliert und angewendet wird, verfolgt er das legitime Ziel, die Rechte anderer zu schützen. Im Kontext des vorliegenden Falls soll diese Richtlinie eine Eskalation der Gewalt verhindern, die die physische Sicherheit (Artikel 9 ICCPR) und das Leben (Artikel 6 ICCPR) von Menschen in Gebieten, die vom Russland-Ukraine-Konflikt betroffen sind, gefährden könnte.

Das Board merkt an, dass die Beurteilung gewaltverherrlichender Sprache im Kontext eines bewaffneten Widerstands gegen eine Invasion besonders schwierig ist. Der russische Angriff auf die Ukraine wird international als unrechtmäßig angesehen (A/RES/ES-11/1) und die Anwendung von Gewalt zur Selbstverteidigung gegen ein solch aggressives Handeln ist zulässig (Artikel 51, UN-Satzung). Im Kontext eines internationalen bewaffneten Konflikts dürfen laut internationalen Völkerrechtsgesetzen zum Verhalten der am Konflikt beteiligten Parteien aktive Kämpfer des bewaffneten Konflikts legitim angegriffen werden. Das gilt nicht für Personen, die nicht mehr aktiv am Konflikt beteiligt sind, darunter Kriegsgefangene (Artikel 3, Genfer Abkommen über die Behandlung der Kriegsgefangenen). Wenn Gewalt selbst gemäß internationalem Recht legitim ist, unterliegen Äußerungen, die eine solche Gewalt befürworten, anderen Überlegungen, die im Einzelfall abgewogen werden müssen. Auch wenn das Board im vorliegenden Fall in dem Inhalt keinen Verstoß sieht, legt es Meta nahe, seine Richtlinien dahingehend zu überarbeiten, dass die Umstände einer unrechtmäßigen militärischen Intervention berücksichtigt werden können.

In Hinblick auf die Entscheidung des Unternehmens, das Foto mit einer Warnmeldung zu versehen, merkt Meta an, dass die Richtlinie zu gewaltdarstellendem Inhalt eine Umgebung schaffen soll, die für eine vielfältige Beteiligung förderlich ist, indem „Inhalte, die Gewalt verherrlichen oder das Leid oder die Demütigung anderer zelebrieren,“ eingeschränkt werden. Das Board, dass dieses Ziel im Kontext von Metas Ziel, eine inklusive Plattform zu schaffen, legitim ist.

III. Notwendigkeit und Verhältnismäßigkeit

Der Grundsatz der Notwendigkeit und Verhältnismäßigkeit verlangt, dass Einschränkungen der Meinungsfreiheit „dazu geeignet sein müssen, ihre Schutzfunktion zu erfüllen, die am wenigsten einschneidenden Instrumente unter denjenigen sein müssen, die ihre Schutzfunktion erfüllen können [und] verhältnismäßig zu den zu schützenden Interessen sein müssen“ (Allgemeine Bemerkung Nr. 34, Absatz 34).

Um die Risiken durch gewaltverherrlichende oder hasserfüllte Inhalte zu beurteilen, hält sich das Board normalerweise an den sechsstufigen Test, der im Aktionsplan von Rabat beschrieben ist. Darin wird die Befürwortung von national, rassistisch oder religiös motiviertem Hass erörtert, der zu Feinseligkeit, Diskriminierung oder Gewalt führt. Im vorliegenden Fall ist das Board der Ansicht, dass selbst angesichts des andauernden bewaffneten Konflikts und der emotional aufgeladenen kulturellen Referenzen, die der Nutzer einsetzt, der Beitrag – als Warnung vor einer Gewaltspirale – wahrscheinlich keinen Schaden anrichten wird. Das Board kommt zu dem Schluss, dass die ursprüngliche Entfernung des Inhalts unnötig war. Darüber hinaus ist das Board mehrheitlich der Meinung, dass die Warnmeldung ebenfalls unnötig war, während eine Minderheit im Board findet, dass beides notwendig und angemessen war.

Berücksichtigt man hier die relevanten Faktoren, kommt das Board zu dem Schluss, dass auch angesichts der unrechtmäßigen russischen Invasion in die Ukraine, bei der potenziell hetzerische Äußerungen die Spannungen verschärfen könnten, die offensichtliche Intention des Nutzers (das Bewusstsein für den Krieg und seine Konsequenzen schärfen), der nachdenkliche Ton beim Zitieren eines Kriegsgedichts und die Verbreitung anderer Kommunikation zu den schrecklichen Ereignissen in der Ukraine darauf schließen lassen, dass der Inhalt wahrscheinlich nicht zur deutlichen Verschlimmerung der Gewalt beitragen wird.

Das Board kommt mehrheitlich zu dem Schluss, dass die Anwendung einer Warnmeldung die Meinungsfreiheit einschränkt und in diesem Fall unnötig ist, da das Bild keine eindeutigen Anzeichen für Gewalt aufweist, die laut den internen Meta-Richtlinien für Content-Moderatoren die Verwendung einer Warnmeldung rechtfertigen würden. Social-Media-Unternehmen sollten verschiedenste mögliche Reaktionen auf problematische Inhalte in Erwägung ziehen, um sicherzugehen, dass Einschränkungen genau auf den Einzelfall abgestimmt sind (A/74/486, Absatz 51). Daher empfiehlt das Board Meta, Anpassungstools weiterzuentwickeln, wodurch Nutzer selbst entscheiden können, ob sie sensible Gewaltdarstellungen auf Facebook und Instagram mit oder ohne Warnmeldung sehen möchten.

Eine Minderheit im Board findet, dass die Warnmeldung eine notwendige und angemessene Maßnahme und genau auf den Einzelfall zugeschnitten war, um Beteiligung und Meinungsfreiheit zu fördern. Diese Minderheit ist der Ansicht, dass Meta in Hinblick auf die Würde verstorbener Personen, insbesondere im Kontext eines bewaffneten Konflikts, und auf die möglichen Auswirkungen von Bildern, die Tod und Gewalt für eine große Nutzerzahl grafisch darstellen, vernünftig gehandelt hat, indem es zu einem Inhalt wie dem fraglichen eine Warnmeldung hinzugefügt hat.

9. Entscheidung des Oversight Boards

Das Oversight Board hebt Metas ursprüngliche Entscheidung auf, den Inhalt zu entfernen, und widerspricht der anschließenden Feststellung von Meta, der Inhalt verstoße gegen die Richtlinie zu gewaltdarstellendem Inhalt, woraufhin das Unternehmen eine Warnmeldung zum Foto im Beitrag hinzufügte.

10. Stellungnahme zu den Richtlinien

Content-Richtlinie

1. Meta sollte in den für die Öffentlichkeit bestimmten Formulierungen des Gemeinschaftsstandards zu Gewalt und Anstiftung zu Gewalt klarstellen, dass das Unternehmen die Richtlinie so interpretiert, dass Inhalte mit Äußerungen mit „neutraler Referenz zu einem möglichen Ergebnis einer Handlung oder einer vorsorglichen Warnung“ und Inhalte, die „Gewaltandrohungen verurteilen oder auf diese aufmerksam machen“, zulässig sind. Das Board erwartet, dass Meta, wenn es dieser Empfehlung folgt, die für die Öffentlichkeit bestimmten Formulierungen der Richtlinie zu Gewalt und Anstiftung zu Gewalt aktualisieren und um diese Zusätze erweitern muss.

2. Meta sollte den für die Öffentlichkeit bestimmten Formulierungen des Gemeinschaftsstandards zu gewaltdarstellendem Inhalt die Details aus den internen Richtlinien hinzufügen, die beschreiben, wie das Unternehmen festlegt, ob ein Bild „den gewaltsamen Tod einer oder mehrerer Personen durch Unfall oder Tötung zeigt“. Das Board erwartet, dass Meta, wenn es dieser Empfehlung folgt, die für die Öffentlichkeit bestimmten Formulierungen des Gemeinschaftsstandards zu gewaltdarstellendem Inhalt aktualisieren und um diesen Zusatz erweitern muss.

Durchsetzung

3. Meta sollte die Möglichkeit prüfen, Anpassungstools einzuführen, wodurch Nutzer über 18 Jahre selbst entscheiden können, ob sie sensible Gewaltdarstellungen auf Facebook und Instagram mit oder ohne Warnmeldung sehen möchten. Das Board erwartet, dass Meta, wenn es dieser Empfehlung folgt, die Ergebnisse einer Machbarkeitsstudie veröffentlichen muss.

* Anmerkung zur Vorgehensweise:

Die Entscheidungen des Oversight Boards werden von einem Panel aus fünf Mitgliedern vorbereitet und von einer Mehrheit des Boards bestätigt. Entscheidungen des Gremiums geben nicht zwangsläufig die persönliche Meinung aller Mitglieder wieder.

Für diese Fallentscheidung wurde eine unabhängige Studie vom Gremium in Auftrag gegeben. Ein unabhängiges Forschungsinstitut mit Sitz an der Universität Göteborg und ein Team aus über 50 Sozialwissenschaftlern auf sechs Kontinenten sowie mehr als 3.200 Länderexperten aus der ganzen Welt. Weitere Unterstützung erhielt das Board durch Duco Advisors, eine Beratungsfirma mit Schwerpunkt auf die Schnittstelle zwischen Geopolitik, Vertrauen, Sicherheit und Technologie. Das Unternehmen Lionbridge Technologies, LLC, dessen Spezialisten insgesamt mehr als 350 Sprachen fließend beherrschen und in 5.000 Städten weltweit arbeiten, stellte seine Sprachkompetenz zur Verfügung.