Kommentare eines Politikers zum demografischen Wandel

Zusammenfassung

Das Oversight Board hat Metas Entscheidung bestätigt, einen Videoclip zuzulassen, in dem der französische Politiker Éric Zemmour über demografische Veränderungen in Europa und Afrika spricht. Der Inhalt verstößt nicht gegen den Gemeinschaftsstandard zu Hassrede, da er Personen nicht aufgrund einer geschützten Eigenschaft wie ethnischer Zugehörigkeit oder nationaler Herkunft direkt angreift. Die Mehrheit des Boards ist der Ansicht, dass es im Einklang mit Metas menschenrechtlicher Verantwortung stehe, den Inhalt auf der Plattform zu belassen. Das Board empfiehlt Meta jedoch, öffentlich klarzustellen, wie es Diskussionen über Einwanderung von schädlichen Äußerungen, die Menschen anhand ihres Migrationsstatus angreifen, einschließlich feindseliger Verschwörungstheorien, unterscheidet.

Über den Fall

Im Juli 2023 wurde ein Videoclip, in dem der französische Politiker Éric Zemmour über demografische Veränderungen in Europa und Afrika spricht, auf dessen offizieller Facebook-Seite von deren Administrator*in gepostet. Der Clip ist ein Ausschnitt aus einem längeren Videointerview mit dem Politiker. In dem Clip sagt Zemmour: „Since the start of the 20th century, there has been a population explosion in Africa.“ (Seit Beginn des 20. Jahrhunderts ist die Bevölkerung in Afrika explosionsartig gewachsen.) Er behauptet außerdem, dass die europäische Bevölkerung mit etwa 400 Millionen Menschen in etwa gleich geblieben ist, während die afrikanische Bevölkerung auf 1,5 Milliarden Menschen angestiegen ist, „so the power balance has shifted“ (sodass sich das Kräfteverhältnis verschoben hat). Der Untertitel in französischer Sprache besagt, dass um 1900, „when there were four Europeans for one African, [Europe] colonized Africa“ (als vier Europäer auf einen Afrikaner kamen, [Europa] Afrika kolonialisierte“) und jetzt „there are four Africans for one European and Africa colonizes Europe“ (vier Afrikaner auf einen Europäer kommen und Afrika Europa kolonialisiert). Zemmours Facebook-Seite hat etwa 300.000 Follower*innen. Der besagte Post wurde mit Stand Januar 2024 ca. 40.000-mal aufgerufen.

Zemmour war bereits in mehrere Gerichtsverfahren verwickelt und wurde in Frankreich mehrfach wegen Anstachelung zu Rassenhass und rassistischen Bemerkungen über Muslim*innen, Afrikaner*innen und Schwarze verurteilt. 2022 war er Präsidentschaftskandidat, schied jedoch nach der ersten Runde aus. In seinem Wahlkampf spielte die Verschwörungstheorie vom „Großen Austausch“ eine zentrale Rolle, nach der die weiße europäische Bevölkerung durch Migration und das Wachstum von Minderheiten ethnisch und kulturell von diesen ersetzt wird. Sprachwissenschaftler*innen weisen darauf hin, dass diese Theorie und die damit verbundene Sprache „zu Rassismus, Hass und Gewalt gegen Migrant*innen, nicht-weiße Europäer*innen und insbesondere Muslim*innen anstacheln“. In dem fraglichen Video wird die Theorie nicht explizit genannt.

Zwei Nutzer*innen meldeten den Inhalt, weil er ihrer Ansicht nach gegen Metas Richtlinie zu Hassrede verstieß, doch da die Meldungen nicht innerhalb von 48 Stunden für eine Überprüfung priorisiert wurden, wurden sie automatisch geschlossen. Metas automatisierte Systeme priorisieren Meldungen anhand des Schweregrads des mutmaßlichen Verstoßes, der Viralität des Inhalts (Anzahl der Aufrufe) und der Wahrscheinlichkeit eines Verstoßes. Eine*r der Nutzer*innen legte daraufhin Einspruch bei Meta ein. Ein manueller Review kam dann zu dem Schluss, dass der Inhalt nicht gegen Metas Richtlinien verstößt. Der/Die Nutzer*in erhob dann Einspruch beim Board.

Wichtige Erkenntnisse

Die Mehrheit des Boards ist der Ansicht, dass der Inhalt nicht gegen Metas Gemeinschaftsstandard zu Hassrede verstößt. Der Videoclip enthält ein Beispiel für eine geschützte (wenn auch umstrittene) Äußerung zum Thema Migration. Er ruft weder zu Gewalt auf noch richtet er sich mit entmenschlichenden oder hasserfüllten Äußerungen an gefährdete Gruppen. Auch wenn Zemmour in der Vergangenheit wegen der Verwendung von hasserfüllten Äußerungen strafrechtlich verfolgt wurde und die Themen in diesem Video denen des „Großen Austauschs“ ähneln, rechtfertigt dies nicht die Entfernung eines Beitrags, der nicht gegen Metas Standards verstößt.

Der Beitrag hätte nur dann als Verstoß gegolten, wenn er einen „direkten Angriff“ enthalten hätte, der ausdrücklich zu „Ausschluss oder Ausgrenzung“ einer Gruppe mit „geschützten Eigenschaften“ aufruft. Da Zemmours Äußerungen keinen direkten Angriff enthalten und weder einen ausdrücklichen Aufruf zum Ausschluss einer Gruppe aus Europa noch eine Aussage über Afrikaner*innen darstellen, die einem schädlichen Stereotyp, einer Beleidigung oder einem anderen direkten Angriff gleichkommt, verstoßen sie nicht gegen Metas Regeln zu Hassrede. Der Grundgedanke dieser Richtlinie macht auch deutlich, dass Meta „Stellungnahmen zu und Kritik an Einwanderungsgesetzen“ zulässt. Allerdings wird nicht öffentlich kommuniziert, dass das Unternehmen im Rahmen von Diskussionen über Einwanderungsgesetze Aufrufe zum Ausschluss von Personen zulässt.

Das Board findet es jedoch bedenklich, dass Meta Afrikaner*innen nicht als Gruppe mit geschützten Eigenschaften betrachtet, da nationale Herkunft, ethnische Zugehörigkeit und Religion sowohl gemäß Metas Richtlinien als auch den internationalen Menschenrechtsgesetzen als geschützte Eigenschaften gelten. Afrikaner*innen werden im gesamten Inhalt erwähnt und stehen in diesem Video für alle nicht-weißen Afrikaner*innen.

Das Board berücksichtigte für diesen Fall auch die Relevanz der Richtlinie zu gefährlichen Organisationen und Personen. Die Mehrheit des Boards ist jedoch der Ansicht, dass der Beitrag nicht gegen diese Richtlinie verstößt, da er nicht genug Elemente enthält, die darauf schließen lassen, dass Zemmour einem größeren gewaltbereiten Verschwörungsnetzwerk angehört. Meta definiert diese Netzwerke als nichtstaatliche Akteure mit demselben Leitbild, die unbegründete Theorien darüber verbreiten, dass soziale und politische Probleme auf Verschwörungen mächtiger Akteure zurückzuführen sind, und die direkt mit systematischen Schäden abseits des Internets in Verbindung gebracht werden.

Eine Minderheit des Boards ist der Ansicht, dass Metas Ansatz für Inhalte, die schädliche Verschwörungstheorien verbreiten, nicht vereinbar ist mit den Zielen seiner Richtlinien zur Vermeidung des Ausschlusses geschützter Minderheiten, online und offline. Gemäß diesen Richtlinien werden Inhalte, die bestimmte andere Verschwörungsnarrative enthalten, zum Schutz gefährdeter Minderheiten moderiert. Diese Board-Mitglieder sind zwar der Meinung, dass Kritik zu Fragen wie Immigration erlaubt sein sollte, doch gerade weil eine faktenbasierte Diskussion dieses Themas so wichtig ist, kann die Verbreitung von Verschwörungstheorien wie der des „Großen Austauschs“ schädlich sein. Es sind nicht die einzelnen Inhalte, die Social-Media-Unternehmen vor so große Herausforderung stellen, sondern der Umstand, dass diese Inhalte im großen Umfang und mit rasanter Geschwindigkeit geteilt werden. Meta muss deshalb seine Richtlinien so umformulieren, dass seine Dienste nicht von Personen missbraucht werden, um Verschwörungstheorien zu verbreiten, die online und offline Schaden anrichten.

Meta hat zwar erwogen, eine Richtlinie zu entwickeln, um gegen hasserfüllte Verschwörungstheorien vorzugehen, dann jedoch entschieden, dass dies zu einer übermäßigen Entfernung politischer Äußerungen führen würde. Das Board zeigt sich besorgt darüber, dass Meta so wenig Informationen diesbezüglich geteilt hat.

Die Entscheidung des Oversight Boards

Das Oversight Board hat die Entscheidung von Meta, den Beitrag nicht zu entfernen, bestätigt.

Das Oversight Board empfiehlt Meta folgende Maßnahmen:

• In seinem Gemeinschaftsstandard zu Hassrede näher darauf einzugehen, wie es Diskussionen über Einwanderung von schädlichen Äußerungen, die Menschen anhand ihres Migrationsstatus angreifen, unterscheidet. Dazu gehört auch eine Erklärung, wie das Unternehmen mit Inhalten umgeht, die hasserfüllte Verschwörungstheorien verbreiten, damit Nutzer*innen verstehen können, wie Meta politische Äußerungen zu Einwanderung schützt und zugleich den potenziellen Schäden vorbeugt, die diese Theorien abseits des Internets anrichten.

* Fallzusammenfassungen bieten einen Überblick über die Fälle und haben keinen Präzedenzwert.

Ausführliche Fallentscheidung

1.Zusammenfassung der Entscheidung

Das Oversight Board bestätigt Metas Entscheidung, einen Post auf der offiziellen Facebook-Seite des französischen Politikers Éric Zemmour auf der Plattform zu belassen. Dabei handelt es sich um ein Video-Interview mit Zemmour, in dem er über demografische Änderungen in Europa und Afrika spricht. Das Board ist der Ansicht, dass der Inhalt nicht gegen Metas Gemeinschaftsstandard zu Hassrede verstößt, da er Menschen nicht direkt aufgrund geschützter Eigenschaften wie ethnischer Zugehörigkeit und nationaler Herkunft angreift. Die Mehrheit des Boards ist der Ansicht, dass es im Einklang mit Metas menschenrechtlicher Verantwortung stehe, den Inhalt auf Facebook zu belassen. Eine Minderheit des Boards ist der Ansicht, dass Metas Richtlinien seiner menschenrechtlichen Verantwortung, die erhebliche Gefahr von schädlichen und ausgrenzenden Verschwörungstheorien wie der des „Großen Austauschs“ einzudämmen, nicht gerecht werden. Da es notwendig ist, politische Äußerungen zu Einwanderung zu schützen und gleichzeitig den potenziellen Schäden vorzubeugen, die diese Theorien abseits des Internets anrichten, empfiehlt das Board Meta, öffentlich klarzustellen, wie es mit Content umgeht, der hasserfüllte Verschwörungstheorien verbreitet.

2. Beschreibung des Falls und Hintergrundinformationen

Am 7. Juli 2023 postete ein*e Nutzer*in ein Video auf der offiziellen, verifizierten Facebook-Seite des französischen Politikers Éric Zemmour. In dem 50-sekündigen Ausschnitt eines längeren Interviews auf Französisch spricht Zemmour über demografische Veränderungen in Europa und Afrika. Die Person, die das Video gepostet hatte, war ein*e Administrator*in der Seite, die etwa 300.000 Follower*innen hat. Zemmour war Kandidat für die französischen Präsidentschaftswahlen 2022 und erhielt rund 7 % der Stimmen in der ersten Runde, kam aber nicht weiter. Bevor er für das Amt kandidierte, veröffentlichte Zemmour regelmäßig Kolumnen für Le Figaro und andere Zeitungen. Er war außerdem als Fernsehkommentator für seine provokanten Äußerungen über den Islam, Immigration und Frauen bekannt. Wie nachstehend ausführlicher erläutert, war er in mehrere Gerichtsverfahren verwickelt und in einigen von ihnen wegen dieser Äußerungen verurteilt worden. Meta betrachtet die Person, die das Video gepostet hat, nicht als Person des öffentlichen Lebens, Zemmour jedoch schon.

In dem Video behauptet Zemmour: „Since the start of the 20th century, there has been a population explosion in Africa.“ (Seit Beginn des 20. Jahrhunderts ist die Bevölkerung in Afrika explosionsartig gewachsen.) Er sagt auch, dass die europäische Bevölkerung mit etwa 400 Millionen Menschen in etwa gleich geblieben ist, während die afrikanische Bevölkerung auf 1,5 Milliarden Menschen angestiegen ist, „so the power balance has shifted“ (sodass sich das Kräfteverhältnis verschoben hat). Der Untertitel in französischer Sprache wiederholt die Behauptungen aus dem Video und besagt, dass um 1900, „when there were four Europeans for one African, [Europe] colonized Africa“ (als vier Europäer auf einen Afrikaner kamen, [Europa] Afrika kolonialisierte“) und jetzt „there are four Africans for one European and Africa colonizes Europe“ (vier Afrikaner auf einen Europäer kommen und Afrika Europa kolonialisiert). Diese Zahlen werden mit den unten aufgeführten Zahlen der Vereinten Nationen verglichen. Außerdem wird die Position der Mehrheit des Boards zu diesen Zahlen in Abschnitt 8.2 näher erläutert.

Als das Board diesen Fall am 28. November 2023 auswählte, war der Inhalt bereits etwa 20.000-mal aufgerufen worden. Im Januar 2024 war er insgesamt etwa 40.000-mal aufgerufen worden und hatte weniger als 1.000 Reaktionen erhalten. Die meisten davon waren „Gefällt mir“, gefolgt von „Love“ und „Haha“.

Am 9. Juli 2023 meldeten zwei Nutzer*innen den Inhalt unabhängig voneinander mit der Begründung, das er gegen Metas Richtlinie zu Hassrede verstoße. Das Unternehmen schloss die Meldungen automatisch, da sie nicht innerhalb von 48 Stunden für eine Überprüfung priorisiert wurden. Meta erklärte, dass bei der dynamischen Priorisierung von Meldungen unter anderem folgende Faktoren eine Rolle spielen: der Schweregrad des vermuteten Verstoßes, die Viralität des Inhalts (Anzahl der Aufrufe) und die Wahrscheinlichkeit, dass er gegen die Richtlinien des Unternehmens verstößt. Der Inhalt wurde nicht von der Plattform entfernt.

Am 11. Juli 2023 legte die Person, die den Inhalt zuerst gemeldet hatte, Einspruch gegen die Entscheidung von Meta ein. Der Einspruch wurde durch eine*n Mitarbeiter*in überprüft, der/die Metas ursprüngliche Entscheidung, den Inhalt nicht zu löschen, bestätigte. Der/Die Nutzer*in legte daraufhin Einspruch beim Oversight Board ein.

Zehn Tage vor der Veröffentlichung des Inhalts hatte der Tod von Nahel Merzouk, eines 17-jährigen Franzosen marokkanischer und algerischer Abstammung, zahlreiche Ausschreitungen und gewaltsame Proteste in Frankreich ausgelöst. Merzouk war am 27. Juni 2023 von zwei Polizisten in einem Pariser Vorort erschossen worden. Die Proteste, die zur Zeit der Veröffentlichung des Inhalts im Gange waren, richteten sich gegen Polizeigewalt und die wahrgenommene systematische, rassistisch motivierte Diskriminierung durch die Polizei in Frankreich. Diese Proteste waren die jüngsten in einer langen Serie von Protesten gegen Polizeigewalt, die sich den Protestierenden zufolge häufig gegen Immigrant*innen afrikanischer Herkunft und andere marginalisierte Gruppen in Frankreich richte.

Laut der Europäischen Kommission gegen Rassismus und Intoleranz (ECRI) sind hauptsächlich Immigrant*innen, insbesondere afrikanischer Herkunft, und deren Nachkommen Opfer von Rassismus in Frankreich. 2022 forderte der Ausschuss für die Beseitigung der Rassendiskriminierung (CERD) Frankreich auf, seine Anstrengungen zur effektiven Verhinderung und Bekämpfung rassistischer Hassrede zu verstärken. Er stellte fest, dass „trotz der Bemühungen des Vertragsstaates ... der Ausschuss weiterhin mit Sorge beobachtet, wie hartnäckig und weit verbreitet rassistische und diskriminierende Äußerungen sind, vor allem in den Medien und im Internet“. Er zeigt sich außerdem „besorgt angesichts der rassistischen Bemerkungen einiger Spitzenpolitiker*innen in Bezug auf bestimmte ethnische Minderheiten, vor allem Sinti und Roma, Afrikaner*innen, Personen afrikanischer Herkunft, Personen arabischer Herkunft und Ausländer*innen“ (CERD/C/FRA/CO/22–23, Abs. 11).

Ein Bericht der Abteilung für wirtschaftliche und soziale Angelegenheiten der Vereinten Nationen von 1999 schätzte die Bevölkerung von Afrika im Jahr 1900 auf 133 Millionen ein. Daten der Vereinten Nationen aus dem Jahr 2022 schätzen die Bevölkerung Afrikas 2021 auf etwa 1,4 Milliarden. Sie gehen auch davon aus, dass die Bevölkerung Afrikas bis 2050 fast 2,5 Milliarden Menschen umfassen wird. Laut diesem Bericht von 1999 betrug die Bevölkerung Europas 1900 etwa 408 Millionen. Die Abteilung für wirtschaftliche und soziale Angelegenheiten der Vereinten Nationen schätzt, dass sich die Bevölkerung Europas 2021 auf etwa 745 Millionen belief und bis 2050 nur noch etwa 716 Millionen umfassen wird.

Wie in vielen anderen Teilen der Welt ist auch in Frankreich die Ankunft einer großen Zahl von Migrant*innen zu einem der wichtigsten politischen Themen geworden. Im September 2023 hielten sich rund 700.000 Geflüchtete und Asylsuchende in Frankreich auf, was es zum drittgrößten Aufnahmeland in der Europäischen Union machte. Als das Board diesen Fall überprüfte, fanden in Frankreich gerade umfassende Proteste und eine hitzige öffentliche Debatte über Migration statt, da das Parlament ein neues Einwanderungsgesetz verabschiedet hatte, das unter anderem Zuwanderungsquoten vorsieht und die Regeln für die Familienzusammenführung und den Anspruch auf Sozialleistungen verschärft. Zemmour und seine Partei haben sich an dieser Debatte sehr aktiv beteiligt und dabei für Zuwanderungsbeschränkungen plädiert.

Zemmour war bereits in mehrere Gerichtsverfahren verwickelt und wurde in den letzten Jahren von französischen Gerichten aufgrund seiner Aussagen über Muslim*innen, Afrikaner*innen, Schwarze und Angehörige der LGBTQIA+-Community mehrfach wegen Anstachelung zu Rassenhass und rassistischen Bemerkungen verurteilt. Zemmour wurde verurteilt wegen Anstachelung zu Rassenhass, weil er 2011 im Fernsehen gesagt hatte: „most dealers are blacks and Arabs. That's a fact.” (Die meisten Dealer*innen sind Schwarze und Araber*innen. Das ist eine Tatsache.) Kürzlich befand ein Gericht Zemmour für schuldig, 2020 zu Rassenhass angestachelt zu haben, und verurteilte ihn zu einer Geldstrafe von 10.000 Euro, weil er behauptet hatte, Kinder von Migrant*innen seien “thieves, killers, they’re rapists. That’s all they are. We should send them back.“ (Dieb*innen, Mörder*innen und Vergewaltiger. Das ist alles, was sie sind. Wir sollten sie zurückschicken.) Er hat sein Recht auf Berufung in einem weiteren Fall ausgeschöpft, in dem er vom französischen Strafgericht wegen Anstiftung zu Diskriminierung und religiösem Hass gegen die französische muslimische Glaubensgemeinschaft zu einer Geldstrafe verurteilt wurde. Die Verurteilung basierte auf Äußerungen, die er 2016 in einer Fernsehsendung vorgebracht hatte und denen zufolge Muslim*innen „the choice between Islam and France“ (die Wahl zwischen dem Islam und Frankreich) erhalten sollten und „for thirty years we have been experiencing an invasion, a colonization (…) it is also the fight to Islamize a territory which is not, which is normally a non-Islamized land“ (wir seit dreißig Jahren eine Invasion erleben, eine Kolonisierung (...), die auch der Kampf ist, ein Gebiet zu islamisieren, das nicht, das normalerweise ein nicht-islamisiertes Land ist). Im Dezember 2022 entschied der Europäische Gerichtshof für Menschenrechte, dass die Verurteilung nicht gegen Zemmours Recht auf Meinungsfreiheit verstößt.

Obwohl die Verschwörungstheorie des „Großen Austauschs“ in dem fraglichen Inhalt nicht explizit erwähnt wird, ist sie ein zentrales Element von Zemmours politischer Ideologie und spielte eine wichtige Rolle in seinem Präsidentschaftswahlkampf, in dem er versprach, nach seiner Wahl ein „Ministerium für Remigration“ zu gründen. Er behauptete auch, dass er in fünf Jahren eine Million Ausländer*innen zurückschicken würde („send back a million“). Laut einer vom Board in Auftrag gegebenen unabhängigen Untersuchung von Expert*innen für Verschwörungstheorien und französische Politik, Social-Media-Trends und Linguistik argumentieren Verfechter*innen des Großen Austauschs, dass die weiße europäische Bevölkerung durch Migration und das Wachstum von Minderheiten ethnisch und kulturell von diesen ersetzt wird. Die Theorie besagt, dass die aktuelle Migration nicht-weißer (und überwiegend muslimischer) Menschen aus außereuropäischen Ländern (vor allem Afrika und Asien) nach Europa eine Form der demografischen Kriegsführung ist. Die Expert*innen des Boards betonten, dass sie die Migration und deren Anstieg faktisch nicht anfechten. Vielmehr ist es die Behauptung, dass es ein Komplott oder eine Verschwörung gibt, um nicht-weiße Menschen nach Europa zu bringen und so die weiße Bevölkerung zu ersetzen oder ihren Anteil zu verringern, die den „Großen Austausch“ zu einer Verschwörungstheorie machen. Die vom Board hinzugezogenen Sprachwissenschaftler*innen erklärten, dass diese Theorie und die damit verbundene Sprache „zu Rassismus, Hass und Gewalt gegen Migrant*innen, nicht-weiße Europäer*innen und insbesondere Muslim*innen anstacheln“. Ein Bericht des EU-Aufklärungsnetzwerks gegen Radikalisierung weist darauf hin, dass die antisemitische, antimuslimische und allgemein immigrationsfeindliche Gesinnung, die von Verfechter*innen des „Großen Austauschs“ verbreitet wird, in den letzten Jahren die Wahl der Zielscheiben mehrerer bekannter Einzelattentäter*innen in Europa beeinflusst hat. Die vom Board in Auftrag gegebene Untersuchung zeigte auch, dass die Theorie in den letzten Jahren zahlreiche gewalttätige Vorfälle auf der ganzen Welt inspiriert hat, darunter die Massenschießerei in Christchurch, Neuseeland, bei der 51 Muslim*innen getötet wurden.

Eine Minderheit des Boards betrachtet auch die Tatsache, dass gewalttätige rechtsextreme Proteste in Frankreich im letzten Jahr zugenommen haben, als wichtigen Kontext. Die tödliche Messerattacke auf einen Teenager am 18. November 2023 auf einem Dorffest in Crépol, einer ländlichen französischen Gemeinde, führte zu gewalttätigen Protesten von Aktivist*innen und rechten Parteien, auf denen es zu tätlichen Auseinandersetzungen zwischen der Polizei und den Protestierenden kam. Letztere behaupteten, dass Immigrant*innen und Minderheiten für den Angriff verantwortlich seien, obwohl von den neun Verhafteten acht französischer und einer italienischer Herkunft waren. Der französische Innenminister Gérald Darmanin behauptete, dass die Mitglieder der Bürgerwehr „seek to attack Arabs, people with different skin colors, speak of their nostalgia for the Third Reich“ (versuchen, Araber*innen, Menschen mit einer anderen Hautfarbe, anzugreifen und das Dritte Reich zu verklären). Sandrine Rousseau von den französischen Grünen verglich diese Proteste mit sogenannten „ratonnades“, also körperlicher Gewalt, die sich gegen eine ethnische Minderheit oder soziale Gruppe richtet, vor allem gegen Menschen nordafrikanischer Herkunft. Die bekannteste „ratonnade“, die oft mit der Etablierung des Begriffs in Verbindung gebracht wird, fand am 17. Oktober 1961 während friedlicher Proteste von Algerier*innen statt, bei denen 200 von ihnen durch Polizeigewalt getötet wurden. Seitdem taucht der Begriff in Frankreich immer wieder in verschiedenen Zusammenhängen auf. Im Dezember 2022 etwa prangerten neben zahlreichen Social-Media-Nutzer*innen auch französische Politiker*innen die Gewalt auf den Straßen an. Sie verglichen sie mit den„ratonnades“ nach dem WM-Spiel zwischen Frankreich und Marokko.

3. Befugnis und Wirkungsbereich des Oversight Boards

Das Oversight Board ist befugt, die Entscheidung von Meta zu überprüfen, nachdem die Person dagegen Einspruch erhoben hatte, dass von ihr gemeldete Inhalte veröffentlicht gelassen wurden (Artikel 2 der Satzung, Abschnitt 1; Artikel 3 der Satzung, Abschnitt 1).

Das Board kann die Entscheidung von Meta bestätigen oder aufheben (Artikel 3 der Satzung, Abschnitt 5), und seine Entscheidung ist für das Unternehmen verbindlich (Artikel 4 der Satzung). Meta muss außerdem die Umsetzbarkeit der Entscheidung des Oversight Boards in Bezug auf identische Inhalte mit parallelem Kontext auswerten (Artikel 4 der Satzung). Die Entscheidungen des Oversight Boards können unverbindliche Empfehlungen umfassen, auf die Meta antworten muss (Artikel 3 der Satzung, Abschnitt 4; Artikel 4). Wenn Meta sich verpflichtet, auf Grundlage von Empfehlungen zu handeln, überwacht das Oversight Board die Umsetzung.

4.Quellen der Befugnis und Leitfäden

Das Board hat bei seiner Analyse dieses Falls folgende Standards und Präzedenzfälle berücksichtigt:

I.Entscheidungen des Oversight Boards

• Holocaustleugnung
• Gewalt gegen ethnische und religiöse Gruppen im indischen Bundesstaat Odisha
• Knin-Cartoon
• Geteilter Beitrag zu Al Jazeera
• Sperrung des ehemaligen US-Präsidenten Trump
• Darstellung von Zwarte Piet

II.Inhaltsrichtlinien von Meta

Hassrede

Der Grundgedanke des Gemeinschaftsstandards zur Vermeidung von Hassrede erklärt, dass Hassrede, die als direkter Angriff gegen Menschen aufgrund geschützter Eigenschaften definiert wird, grundsätzlich nicht zulässig ist, denn sie „schafft ein Umfeld der Einschüchterung und Ausgrenzung und kann in gewissen Fällen Gewalt in der Offline-Welt fördern.“ Unter anderem führt die Richtlinie ethnische Zugehörigkeit, nationale Herkunft und religiöse Zugehörigkeit als geschützte Eigenschaften auf. Die Richtlinie erklärt, dass „Angriffe in zwei Schweregrade eingeteilt werden“, wobei Angriffe der Stufe 1 schwerwiegender sind. Der Grundgedanke des Gemeinschaftsstandards zur Vermeidung von Hassrede erklärt auch, dass die Richtlinie „Geflüchtete, Migrant*innen, Immigrant*innen und Asylsuchende vor besonders schweren Angriffen schützt“, dass Meta jedoch „Stellungnahmen zu und Kritik an Einwanderungsgesetzen“ zulässt. Metas interne Richtlinien für Content Moderators gehen näher auf dieses Prinzip ein und erklären, dass sie den Status von Migrant*innen, Immigrant*innen, Geflüchteten und Asylsuchenden als quasi geschützt betrachten. Das bedeutet, dass Meta sie gemäß der Richtlinie zu Hassrede vor Angriffen der Stufe 1 schützt, jedoch nicht vor Angriffen der Stufe 2.

Die Richtlinie, die bislang drei verschiedene Angriffsstufen vorsah, jetzt jedoch nur noch zwei umfasst, definiert aktuell, neben anderen Content-Arten, als Angriffe der Stufe 2 „Ausschluss oder Ausgrenzung in Form von Handlungsaufrufen, Absichtserklärungen, bedingten Aussagen oder Aussagen, die den Ausschluss oder die Ausgrenzung – definiert als [...] explizite Ausgrenzung wie den Ausschluss oder das Verbot bestimmter Gruppen – befürworten oder unterstützen“, und verbietet diese. Meta lehnte die Aufforderung des Boards ab, weitere Informationen über seine internen Richtlinien für Inhaltsprüfer*innen zu diesem Aspekt zu veröffentlichen.

In einem Newsroom-Beitrag von 2017 mit dem Titel „Schwierige Fragen: Wer sollte entscheiden, was in einer globalen Online-Community als Hassrede gilt?“ räumte Meta ein, dass politische Debatten über Einwanderung häufig „zu einer Debatte über Hassrede werden, wenn beide Seiten aufrührerische Äußerungen verwenden“. Der Beitrag ist unten im Grundgedanken des Gemeinschaftsstandards zur Vermeidung von Hassrede verlinkt („Weitere Informationen zu unserem Umgang mit Hassrede“). Das Unternehmen erklärte außerdem, es habe sich nach der Überprüfung von Facebook-Beiträgen zur weltweiten Migrationsdebatte „entschieden, neue Richtlinien zu entwickeln, um Aufrufe zu Gewalt gegen Migrant*innen und entmenschlichende Verweise auf sie – etwa Vergleiche mit Tieren, Dreck oder Müll – zu entfernen“. Das Unternehmen lässt jedoch weiterhin zu, „dass Nutzer*innen ihre Ansichten zu Immigration äußern“, da es sich „zutiefst verpflichtet fühlt, sicherzustellen, dass Facebook ein Ort für legitime Diskussionen bleibt“.

Gefährliche Organisationen und Personen

Im Grundgedanken des Gemeinschaftsstandards zu gefährlichen Personen und Organisationen heißt es, dass Meta auf seinen Plattformen keine Präsenz von Organisationen oder Personen erlaubt, die Gewalt befürworten oder sich daran beteiligen. Er erklärt auch, dass Meta diese Entitäten „aufgrund ihres Verhaltens sowohl online als auch offline und vor allem aufgrund ihrer Verbindung zu Gewalt“ bewertet.

Der Standard zu gefährlichen Organisationen und Personen erklärt, dass Meta die Präsenz von gewaltbereiten Verschwörungsnetzwerken verbietet, aktuell definiert als nichtstaatliche Akteure, die: (i) „durch einen Namen, ein Leitbild, ein Symbol oder ein gemeinsames Vokabular gekennzeichnet sind“; (ii) „unbegründete Theorien verbreiten, die versuchen, die Ursachen bedeutender sozialer und politischer Probleme, Ereignisse und Umstände durch geheime Verschwörungen zweier oder mehrerer mächtiger Akteure zu erklären“; und (iii) „sich explizit für systematische Körperverletzung abseits des Internets ausgesprochen haben oder direkt damit in Verbindung gebracht wurden. Diese wird von den Anhänger*innen begangen, die auf die vermeintlichen, von den propagierten unbegründeten Theorien festgestellten Schäden aufmerksam machen oder diese beseitigen wollen.“

Die Analyse der Inhaltsrichtlinien durch das Board gründete auch auf Metas Verpflichtung zu freier Meinungsäußerung, die das Unternehmen als „höchste Priorität“ beschreibt, und seinen Werten „Sicherheit“ und „Würde“.

III. Menschenrechtliche Verantwortung von Meta

Die UN-Leitprinzipien für Wirtschaft und Menschenrechte (United Nations Guiding Principles on Business and Human Rights, UNGPs), die 2011 vom UN-Menschenrechtsrat verabschiedet wurden, geben einen freiwilligen Rahmen für die menschenrechtliche Verantwortung von Privatunternehmen vor. Im Jahr 2021 veröffentlichte Meta seine Unternehmensrichtlinie zu Menschenrechten, in der das Unternehmen seine Verpflichtung zur Achtung der Menschenrechte gemäß den UN-Leitprinzipien bekräftigte. Das Board hat bei seiner Analyse der menschenrechtlichen Verantwortung von Meta in diesem Fall folgende internationale Standards berücksichtigt:

• Das Recht auf Meinungsfreiheit: Artikel 19, Internationaler Pakt über bürgerliche und politische Rechte (ICCPR), Artikel 20, Abs. 2 ICCPR, Allgemeine Bemerkung Nr. 34, Menschenrechtsausschuss, 2011; Berichte des Sonderberichterstatters der Vereinten Nationen (UNSR) für Meinungsfreiheit und freie Meinungsäußerung: A/HRC/38/35 (2018) und A/74/486 (2019).
• Gleichheit und Nichtdiskriminierung: Artikel 2, Absatz 1 und Artikel 26 ICCPR; Artikel 2 des internationalen Übereinkommens zur Beseitigung jeder Form von Rassendiskriminierung (International Convention on the Elimination of All Forms of Racial Discrimination, ICERD); Generalversammlung der Vereinten Nationen, Beschluss A/RES/73/195.
• Recht auf Leben: Artikel 6, ICCPR.

5. Einreichungen von Nutzer*innen

Das Board erhielt eine Einreichung der Person, die den Inhalt gemeldet und gegen Metas Entscheidung, ihn auf der Plattform zu belassen, Einspruch erhoben hatte. Bei der Einreichung erklärte diese Person, dass Zemmour die Begriffe „Kolonisierung“ und „Migration“ nur im Hinblick auf Überbevölkerung verwendet, was sie als „Falschmeldung“ einstufte.

6. Einreichungen von Meta

Nach der Auswahl des Falls durch das Board überprüfte Meta den Beitrag gemeinsam mit Expert*innen im Hinblick auf die Richtlinie zu Hassrede und stellte fest, dass seine ursprüngliche Entscheidung, den Inhalt zuzulassen, richtig gewesen war. Meta machte keine weiteren Angaben zu den genauen Aufgaben- oder Kompetenzbereichen dieser Expert*innen. Meta betonte, dass ein Inhalt gemäß der Richtlinie nur dann als unzulässig eingestuft wird, wenn er einen direkten Angriff auf eine Gruppe mit geschützten Eigenschaften darstellt – und dass die Äußerungen zur Bevölkerungsentwicklung und Kolonisation dieses Kriterium nicht erfüllen. Meta erklärte, dass es die Behauptung, eine Gruppe würde ein Gebiet „kolonisieren“, an sich nicht als Angriff betrachtet, solange sie keinen Aufruf zur Ausgrenzung beinhaltet, und betonte, dass es „den Bürger*innen erlauben möchte, über die Gesetze und die Politik ihrer Länder zu diskutieren, solange sie dabei keine gefährdeten Gruppen angreifen, die von diesen Gesetzen betroffen sein könnten“. Schließlich erklärte Meta, dass sich der Inhalt nicht auf eine Gruppe mit geschützten Eigenschaften bezieht, weil Zemmour sich auf „Afrika“ – einen Kontinent, der aus mehreren Ländern besteht – bezieht und die „Richtlinie zu Hassrede keine einzelnen Länder oder Institutionen vor Angriffen schützt“.

Meta weigerte sich, seine Geheimhaltungspflicht in Bezug auf sein Verfahren zur Entwicklung von Richtlinien für die Moderation schädlicher Verschwörungstheorien aufzuheben. Stattdessen stellte Meta fest: „Wir haben in Erwägung gezogen, Richtlinien speziell für Inhalte zu entwickeln, die sich auf Verschwörungstheorien beziehen, aber nicht gegen unsere bestehenden Richtlinien verstoßen. Allerdings sind wir zu dem Schluss gekommen, dass wir mit der Umsetzung solcher Richtlinien riskieren würden, eine große Anzahl politischer Äußerungen zu entfernen.“

Das Board stellte Meta zu diesem Fall acht schriftliche Fragen. Sie bezogen sich auf Metas Entwicklung von Richtlinien für die Moderation von Inhalten, die sich auf den „Großen Austausch“ beziehen, die Anwendbarkeit der Richtlinie zu Hassrede und Richtlinie zu gefährlichen Organisationen und Personen und auf vergangene Verstöße der Facebook-Seite und der Person, die den Inhalt gepostet hatte. Meta beantwortete sechs der Fragen des Boards, zwei wurden nicht zufriedenstellend beantwortet. Nachdem Meta die erste Frage des Boards zur Entwicklung von Richtlinien für die Moderation von Inhalten, die sich auf den „Großen Austausch“ beziehen, nicht ausführlich genug beantwortet hatte, stellte das Board eine Folgefrage, die Meta mit weiteren, jedoch immer noch nicht ausreichenden Informationen beantwortete.

7.Öffentliche Kommentare

Das Oversight Board hat 15 öffentliche Kommentare erhalten. Sieben der Kommentare stammten aus den Vereinigten Staaten und Kanada, drei aus Europa, zwei aus Zentral- und Südasien, einer aus dem Nahen Osten und Nordafrika, einer aus dem Asien-Pazifik-Raum und Ozeanien und einer aus Subsahara-Afrika. In der Gesamtzahl sind öffentliche Kommentare enthalten, bei denen es sich um Duplikate handelte oder die mit Zustimmung zur Veröffentlichung eingereicht wurden, aber die Bedingungen des Boards für die Veröffentlichung nicht erfüllten. Öffentliche Kommentare können dem Board mit oder ohne Zustimmung zur Veröffentlichung und mit oder ohne Zustimmung zur Zuschreibung (d. h. anonym) übermittelt werden.

Die Einreichungen behandelten hauptsächlich zwei Themen. Erstens betonten mehrere Kommentare, dass das Entfernen des Inhalts in diesem Fall einer Zensur gleichkäme und sogar „die Wut der Bürger*innen verstärken könnte, die das Gefühl haben, dass ihre Stimme nicht gehört wird“ (PC-22009). Zweitens reichten zwei Organisationen Kommentare ein, welche die negativen Auswirkungen dieser Art von Content und insbesondere der Theorie des „Großen Austauschs“ in der Offline-Welt betonten. Beide Kommentare argumentierten, dass es eine Verbindung zwischen dem Christchurch-Massaker und der Theorie gäbe (PC-22013, Digital Rights Foundation; PC-22014, Global Project Against Hate and Extremism).

Die öffentlichen Kommentare, die zu diesem Fall eingereicht wurden, können hier eingesehen werden.

8.Analyse des Oversight Boards

Das Board analysierte die Inhaltsrichtlinien, die menschenrechtliche Verantwortung und die Werte von Meta, um zu entscheiden, ob der Inhalt in diesem Fall entfernt werden sollte. Zudem analysierte das Oversight Board die Auswirkungen dieses Falls auf die allgemeine Herangehensweise von Meta an Content-Governance.

Das Board wählte diesen Fall, um Metas Ansatz zur Moderation von Inhalten zu prüfen, die sich im Kontext einer global zunehmend immigrationsfeindlichen Rhetorik und hitziger öffentlicher Debatten über Einwanderungspolitik gegen Migrant*innen richten. Dies war insbesondere angesichts der Herausforderung wichtig, gefährliche Inhalte im großen Umfang von politischen Äußerungen zu Einwanderungspolitik zu unterscheiden.

8.1 Einhaltung der Content-Richtlinien von Meta

Das Board kommt zu dem Schluss, dass der Inhalt nicht gegen Metas Richtlinien verstößt. Folglich war die Entscheidung von Meta, den Inhalt auf Facebook zu belassen, richtig. Lediglich eine Minderheit des Boards ist der Ansicht, dass Metas Richtlinien selbst die schärfste Kritik an einer Einwanderungspolitik klar von Äußerungen unterscheiden können, die sich auf Verschwörungstheorien beziehen und Gruppen mit geschützten Eigenschaften schaden.

I.Inhaltsregeln

Hassrede

Die Mehrheit des Boards kommt zu dem Schluss, dass der Inhalt in diesem Fall nicht gegen Metas Gemeinschaftsstandard zur Vermeidung von Hassrede verstößt und vielmehr ein Beispiel für eine geschützte, wenn auch kontroverse Meinung zum Thema Einwanderung ist. Der fragliche 50-sekündige Clip von Zemmours Interview enthält weder einen Aufruf zu Gewalt noch richtet er sich mit entmenschlichenden oder hasserfüllten Äußerungen an gefährdete Gruppen. Die Tatsache, dass Zemmour in der Vergangenheit wegen der Verwendung von hasserfüllten Äußerungen strafrechtlich verfolgt und verurteilt wurde und die Inhalte in diesem Post denen der Verschwörungstheorie des „Großen Austauschs“ ähneln – von der viele glauben, dass sie zu Gewalt gegen Migrant*innen und Minderheiten führt –, ist keine angemessene Rechtfertigung für die Entfernung eines Beitrags, der nicht gegen Metas Standards verstößt. Der Beitrag muss folgende zwei Kriterien erfüllen, um gemäß der Richtlinie als Verstoß zu gelten: Er muss (i) einen „direkten Angriff“ enthalten, der (ii) sich an eine Gruppe mit „geschützten Eigenschaften“ richtet. Meta definiert „direkte Angriffe“ unter anderem als „Ausschluss oder Ausgrenzung in Form von Handlungsaufrufen“, wie in Abschnitt 4 oben näher erläutert. Außerdem erlaubt Meta im Grundgedanken der Richtlinie „Stellungnahmen zu und Kritik an Einwanderungsgesetzen“.

Die meisten von Zemmours Kommentaren in dem Video fokussieren sich hauptsächlich auf vermeintliche demografische Informationen über Afrika, Europa und die „Kolonisierung“. Das Video enthält unter anderem Aussagen wie „So the balance of power has reversed“ (sodass sich das Kräfteverhältnis verschoben hat) und „When there are now four Africans for one European, what happens? Africa colonizes Europe, and in particular, France.“ (Wenn jetzt vier Afrikaner auf einen Europäer kommen, was passiert dann? Afrika kolonisiert Europa, insbesondere Frankreich.). Zemmours Äußerungen enthalten keinen direkten Angriff. Er verwendet weder den Ausdruck „Großer Austausch“ noch bezieht er sich direkt auf diese Theorie. Er ruft weder ausdrücklich dazu auf, eine Gruppe aus Europa auszuschließen, noch trifft er Aussagen über Afrikaner*innen, die einem schädlichen Stereotyp, einer Beleidigung oder einem anderen direkten Angriff gleichkommen. Das Board findet es jedoch bedenklich, dass Meta Afrikaner*innen nicht als Gruppe mit geschützten Eigenschaften betrachtet, da nationale Herkunft, ethnische Zugehörigkeit und Religion sowohl gemäß Metas Richtlinien als auch den internationalen Menschenrechtsgesetzen als geschützte Eigenschaften gelten. Afrikaner*innen werden im gesamten Inhalt erwähnt. Afrika besteht aus mehreren Nationen – der Begriff „Afrikaner*innen“ bezeichnet daher Staatsangehörige verschiedener afrikanischer Länder. Zweitens stand der Begriff „Afrikaner*in“ im Kontext von Zemmours früheren Kommentaren und Äußerungen über Migration in Frankreich stellvertretend für nicht-weiße Afrikaner*innen, insbesondere für schwarze und muslimische Afrikaner*innen.

Gefährliche Organisationen und Personen

Die Mehrheit des Boards ist außerdem der Ansicht, dass der Inhalt nicht gegen Metas Richtlinie zu gefährlichen Organisationen und Personen verstößt, da er keine Elemente enthält, die darauf schließen lassen, dass Zemmour einem größeren gewaltbereiten Verschwörungsnetzwerk angehört.

Wie in Abschnitt 6 oben erläutert, hat Meta in Erwägung gezogen, Richtlinien speziell für Inhalte zu entwickeln, die sich auf Verschwörungstheorien beziehen, jedoch nicht gegen seine bestehenden Richtlinien verstoßen. Allerdings ist das Unternehmen zu dem Schluss gekommen, dass es mit der Umsetzung solcher Richtlinien riskieren würde, eine große Anzahl politischer Äußerungen zu entfernen. Das Board äußert sich besorgt darüber, dass Meta auf die Fragen des Boards zu seinem Verfahren zur Entwicklung von Richtlinien nur wenig Informationen bereitstellte. Das Board merkt an, dass das Unternehmen keine spezifischen Informationen über die von ihm durchgeführten Untersuchungen, erfassten Informationen, die Anzahl und die Art der konsultierten Expert*innen und die in Betracht gezogenen Richtlinienänderungen zur Verfügung gestellt hat. Das Board zeigt sich außerdem besorgt darüber, dass Meta keine Informationen zu seinem Verfahren zur Entwicklung von Richtlinien und dessen Ergebnissen öffentlich geteilt hat.

Eine Minderheit des Boards räumt ein, dass der Inhalt zwar implizit mehrere sich überschneidende Gruppen mit geschützten Eigenschaften (Schwarze, Araber*innen und Muslim*innen) angreift, der aktuelle Wortlaut von Metas Richtlinie zu Hassrede und zu gefährlichen Organisationen und Personen jedoch Inhalte wie diesen nicht verbietet. Die Tatsache, dass sich der Beitrag lediglich auf die „weniger kontroversen“ Aspekte des „Großen Austauschs“ bezieht, ist jedoch nicht entscheidend. Bei seiner Entscheidung zur Sperrung des ehemaligen US-Präsidenten Trump betonte das Board, dass Meta „bei der Bewertung der Beiträge einflussreicher Nutzer*innen berücksichtigen muss, wie sie wahrscheinlich verstanden werden, auch wenn ihre aufrührerische Botschaft so dargestellt wird, dass Verantwortung vermieden wird“.

Wie in Abschnitt 8.3 näher erläutert, ist jedoch für eine Minderheit des Boards Metas Vorgehen gegen Inhalte, die schädliche Verschwörungstheorien wie die des „Großen Austauschs“ verbreiten, unvereinbar mit den Zielen der verschiedenen Richtlinien, die das Unternehmen entwickelt hat, um die Schaffung eines Umfelds der Einschüchterung und Ausgrenzung zu verhindern und so geschützte Minderheiten online und offline vor Schäden zu schützen. Obwohl eine Minderheit des Boards der festen Überzeugung ist, dass Metas Richtlinien Kritik und Diskussionen zu allen in demokratischen Gesellschaften relevanten Themen (wie Einwanderung) zulassen sollten, sollte das Unternehmen auch klare Regeln aufstellen, um die Verbreitung impliziter oder expliziter Angriffe auf gefährdete Gruppen zu verhindern und dabei den Schaden abseits des Internets bestimmter Verschwörungsnarrative wie der des „Großen Austauschs“ berücksichtigen.

II. Transparenz

Meta gibt im Transparency Center Einblicke dazu, wie es gemäß dem Gemeinschaftsstandard zur Vermeidung von Hassrede mit Inhalten zu Immigration umgeht. In diesem Standard erklärt das Unternehmen, dass Geflüchtete, Migrant*innen, Immigrant*innen und Asylsuchende vor besonders schweren Angriffen geschützt sind. In einem Newsroom-Beitrag von 2017, der im Grundgedanken der Richtlinie zu Hassrede verlinkt ist, stellt Meta weitere Informationen dazu bereit. Das Unternehmen erklärt jedoch nicht explizit, wie es mit Inhalten umgeht, die sich auf die Theorie des „Großen Austauschs“ beziehen. Der Beitrag aus dem Jahr 2017 enthält zwar zu diesem Thema relevante Informationen, wurde jedoch nach dem in Abschnitt 6 erwähnten Verfahren zur Entwicklung von Richtlinien von 2021 nicht mehr aktualisiert. Meta erklärt in seinen öffentlichen Richtlinien auch nicht explizit, dass Aufrufe zum Ausschluss im Rahmen von Diskussionen über Einwanderung erlaubt sind. Es ist auch nicht klar, wie es mit impliziten oder verdeckten Angriffen in diesem Zusammenhang umgeht.

8.2 Erfüllung der menschenrechtlichen Verantwortung von Meta

Die Mehrheit des Boards ist der Ansicht, dass es im Einklang mit Metas menschenrechtlicher Verantwortung stehe, den Inhalt auf der Plattform zu belassen. Eine Minderheit des Boards ist der Ansicht, dass Meta, um seiner menschenrechtlichen Verantwortung gerecht zu werden, seine Richtlinien umformulieren sollte, damit seine Dienste nicht zur Verbreitung von Verschwörungstheorien, die online und offline Schäden anrichten, missbraucht werden.

Meinungsfreiheit (Artikel 19 ICCPR)

Artikel 19 des ICCPR sieht einen umfassenden Schutz des Rechts auf freie Meinungsäußerung vor, einschließlich der „Freiheit, Informationen und Meinungen jeglicher Art einzuholen, zu erhalten und zu vermitteln“, wozu auch „politische Äußerungen“ und Stellungnahmen zu „öffentlichen Angelegenheiten“ gehören (Allgemeiner Kommentar Nr. 34, Abs. 11). Der Menschenrechtsausschuss stellte fest, dass sich der Umfang dieses Rechts „selbst auf Äußerungen erstreckt, die als zutiefst beleidigend aufgefasst werden können, auch wenn die Bestimmungen in Artikel 19, Absatz 3, und Artikel 20 diese Äußerungen ggf. einschränken“, um die Rechte oder den Ruf anderer zu schützen oder um die Anstachelung zu Diskriminierung, Feindseligkeit oder Gewalt zu verbieten (Allgemeine Bemerkung Nr. 34, Abs. 11).

Im Kontext öffentlicher Debatten über Einwanderung wies die Generalversammlung der Vereinten Nationen auf ihre Verpflichtung hin, „das Recht auf Meinungsfreiheit im Einklang mit dem Völkerrecht zu schützen und anzuerkennen, dass eine offene und freie Debatte zu einem umfassenden Verständnis aller Aspekte der Migration beiträgt“. Sie verpflichtete sich außerdem dazu, „einen offenen und faktenbasierten öffentlichen Diskurs zu Migration und Migrant*innen mit allen Teilen der Gesellschaft zu fördern, um eine realistischere, menschlichere und konstruktivere Wahrnehmung dieses Themas zu schaffen“ (A/RES/73/195, Abs. 33). Immigration und die damit verbundenen Richtlinien sind nicht nur in Frankreich, sondern auch auf globaler Ebene äußerst umstritten und für politische Prozesse relevant. Das macht sie zu einem legitimen Diskussionsthema auf Metas Plattformen. Für die Mehrheit des Boards wäre ein Verbot dieser Art von Äußerungen auf Metas Plattformen angesichts der möglichen Auswirkungen auf die öffentliche Debatte ein klarer Verstoß gegen das Recht auf freie Meinungsäußerung und ein gefährlicher Präzedenzfall. Für eine Minderheit des Boards ist die Verbreitung von Verschwörungstheorien wie der des „Großen Austauschs“ auf Social-Media-Plattformen gerade deshalb so gefährlich, weil offene und faktenbasierte Diskussionen über Einwanderung so wichtig für eine demokratische Gesellschaft sind. Gemäß dem Institute for Strategic Dialogue nutzen die Methoden zur Verbreitung der Theorie „entmenschlichende rassistische Memes, verzerrte und falsch dargestellte demografische Daten und Pseudowissenschaften“.

Wenn Regierungen das Recht auf freie Meinungsäußerung einschränken, müssen die Anforderungen der Gesetzmäßigkeit, des rechtmäßigen Ziels und der Notwendigkeit und Verhältnismäßigkeit erfüllt werden (Artikel 19, Absatz 3, ICCPR). Diese Anforderungen werden häufig auch als „dreiteilige Prüfung“ oder „drei Merkmale“ bezeichnet. Das Board nutzt diesen Ansatz, um Metas freiwillige Verpflichtung zu den Menschenrechten zu bewerten, sowohl in Bezug auf die jeweilige Inhaltsentscheidung als auch darauf, was dies über die grundsätzliche Herangehensweise von Meta an Content-Governance aussagt. Der UN-Sonderberichterstatter für Meinungsfreiheit hat festgestellt, dass „Unternehmen, obgleich sie nicht dieselben Verpflichtungen wie Regierungen haben, dennoch eine derartige Wirkung haben, dass sie dieselben Arten von Fragen im Zusammenhang mit dem Schutz des Rechts auf Meinungsfreiheit ihrer Nutzer*innen prüfen müssen“ (A/74/486, Abs. 41).

I. Gesetzmäßigkeit (Klarheit und Zugänglichkeit der Regeln)

Das Prinzip der Gesetzmäßigkeit erfordert, dass Regeln, die die Meinungsfreiheit einschränken, zugänglich, klar und so präzise formuliert sind, dass eine Person ihr Verhalten danach ausrichten kann (Allgemeine Bemerkung Nr. 34, Abs. 25). Außerdem dürfen diese Regeln„den mit [ihrer] Durchführung Beauftragten keine uneingeschränkte Freiheit zur willkürlichen Einschränkung der freien Meinungsäußerung ermöglichen“ und müssen „den mit ihrer Durchführung Beauftragten ausreichend Anleitung dafür bieten, dass sie herausfinden können, welche Arten der freien Meinungsäußerung ordnungsgemäß eingeschränkt werden und welche nicht“ (ebd.). Hinsichtlich der Regeln für Online-Sprache erklärte der UN-Sonderberichterstatter für Meinungsfreiheit, dass diese klar und spezifisch sein sollten (A/HRC/38/35, Abs. 46). Personen, die die Meta-Plattformen verwenden, sollten die Regeln einsehen und verstehen können; Inhaltsprüfer*innen sollten über klare Anweisungen zu ihrer Durchsetzung verfügen.

Keine der aktuellen Richtlinien von Meta verbietet den Inhalt in diesem Fall „ausdrücklich und unmissverständlich“. Für die Mehrheit des Boards würde ein*e Durchschnittsnutzer*in, der/die den Gemeinschaftsstandard zur Vermeidung von Hassrede oder Metas Blog-Post „Schwierige Fragen“ von 2017 (der im Gemeinschaftsstandard verlinkt ist) durchliest, wahrscheinlich den Eindruck bekommen, dass Meta nur besonders schwerwiegende Angriffe gegen Immigrant*innen und Migrant*innen entfernt, da das Unternehmen eindeutig darauf hinweist, Stellungnahmen zu und Kritik an Einwanderungsgesetzen auf seinen Plattformen zuzulassen. Die Mehrheit des Boards ist der Ansicht, dass diese Verpflichtung im Einklang mit Metas menschenrechtlicher Verantwortung stehe. Eine Minderheit des Boards ist der Ansicht, dass die Richtlinie zu Hassrede die Schaffung eines Umfelds des Ausschlusses oder der Ausgrenzung, zu dem hasserfüllte Verschwörungstheorien wie die des „Großen Austauschs“ gehören, verhindern soll. Da Inhalte, die sich auf solche Theorien beziehen, in der Regel auf gefährdete Gruppen und Minderheiten abzielen und einen Angriff auf deren Würde darstellen, könnte ein*e Durchschnittsnutzer*in erwarten, durch Metas Richtlinie zu Hassrede vor dieser Art von Inhalten geschützt zu werden.

Metas Richtlinie zu gefährlichen Organisationen und Personen sieht aktuell keine Bestimmungen vor, die den Inhalt in diesem Fall verbieten. Die Mehrheit des Boards ist der Ansicht, dass der Inhalt auch dann zulässig wäre, wenn Meta auf seinen Plattformen Inhalte, die sich auf die Theorie des „Großen Austauschs“ beziehen, ausdrücklich und eindeutig verboten hätte, da er weder den Namen der Theorie erwähnt noch auf Aspekte der Theorie in einer Weise eingeht, die als verschwörerisch und schädlich interpretiert werden könnte. Der Beitrag behauptet nicht, dass die Migrationsbewegungen bestimmter Personengruppen nach Europa Teil einer Verschwörung von Akteuren mit versteckten Absichten sind.

II.Legitimes Ziel

Jede Einschränkung der freien Meinungsäußerung sollte auch eines der im ICCPR aufgeführten legitimen Ziele verfolgen, zu denen auch der Schutz von „Rechten Dritter“ gehört. Der Begriff „Rechte“ umfasst die im Pakt und allgemein in den internationalen Menschenrechtsnormen anerkannten Menschenrechte (Allgemeine Bemerkung Nr. 34, Abs. 28).

In mehreren Entscheidungen hat das Board festgestellt, dass Metas Richtlinie gegen Hassrede einem legitimen Ziel dient, das internationalen Menschenrechtsstandards entspricht, indem sie Menschen vor Schäden durch Hassrede schützt (siehe die Entscheidung zum Fall Knin-Cartoon). Sie schützt das Recht auf Leben (Artikel 6, Absatz 1, ICCPR) sowie die Rechte auf Gleichstellung und Nichtdiskriminierung, unter anderem wegen ethnischer Zugehörigkeit und nationaler Herkunft (Artikel 2, Absatz 1, ICCPR; Artikel 2, ICERD). Das Board hatte zuvor auch schon festgestellt, dass Metas Richtlinie zu gefährlichen Organisationen und Personen Schäden in der realen Welt vorbeugen und bekämpfen soll und das legitime Ziel verfolgt, die Rechte anderer zu schützen (siehe die Entscheidung zum Fall Geteilter Beitrag zu Al Jazeera). Andererseits hat das Board wiederholt darauf hingewiesen, dass mit der Einschränkung der Meinungsäußerung zum alleinigen Zweck, Personen vor Beleidigung zu schützen, kein legitimes Ziel verfolgt wird (siehe die Entscheidung zum Fall Darstellung von Zwarte Piet, bei der der UN-Sonderberichterstatter zur Meinungs- und Ausdrucksfreiheit zitiert wird, Bericht A/74/486, Absatz 24, und Sperrung des ehemaligen US-Präsidenten Trump), da internationale Gesetze zum Menschenrecht der uneingeschränkten Meinungsäußerung einen hohen Wert einräumen (Allgemeine Bemerkung Nr. 34, Absatz 38).

III. Notwendigkeit und Verhältnismäßigkeit

Der Grundsatz der Notwendigkeit und Verhältnismäßigkeit verlangt, dass Einschränkungen der Meinungsfreiheit „geeignet sein müssen, ihre Schutzfunktion zu erfüllen; sie müssen das am wenigsten einschneidende Instrument unter denjenigen sein, die ihre Schutzfunktion erfüllen können“, und „sie müssen in einem angemessenen Verhältnis zu dem zu schützenden Interesse stehen“ (Allgemeine Bemerkung Nr. 34, Abs. 34). Die Art und der Umfang der Maßnahmen, die einem Unternehmen wie Meta zur Verfügung stehen, unterscheiden sich von denen, die einem Staat zur Verfügung stehen, und kommen oft wegen weniger schwerwiegender Verstöße gegen Rechte als beispielsweise strafrechtliche Sanktionen zum Einsatz. Im Rahmen ihrer menschenrechtlichen Verantwortung sollten Social-Media-Unternehmen neben der Löschung auch verschiedene andere mögliche Reaktionen auf problematische Inhalte in Erwägung ziehen, um sicherzugehen, dass Einschränkungen genau auf den Einzelfall abgestimmt sind (A/74/486, Abs. 51).

Um die Risiken durch potenziell gewaltverherrlichende Inhalte zu beurteilen, hält sich das Board an den sechsstufigen Test, der im Aktionsplan von Rabat beschrieben ist. Dieser erörtert die Anstachelung zu Diskriminierung, Feindseligkeit oder Gewalt (OHCHR, A/HRC/22/17/Add.4, 2013). Der Test berücksichtigt Kontext, Sprecher*in, Absicht, Inhalt, Form und Verbreitungsausmaß einer Äußerung sowie die Wahrscheinlichkeit eines unmittelbar drohenden Schadens durch sie.

Die Mehrheit des Boards hält die Entfernung des Inhalts in diesem Fall weder für notwendig noch für verhältnismäßig. Der Rabat-Test betont, dass der Inhalt und die Sprachform einer Äußerung „entscheidende Elemente für eine Anstachelung“ sind. In dem in diesem Fall geprüften 50-sekündigen Clip beziehen sich Zemmours Kommentare nicht direkt auf die verschwörerischen Elemente des „Großen Austauschs“ und das Video enthält auch keine aufrührerischen Elemente wie brutale oder aufhetzende Bilder. Die Kommentare und die Bildunterschrift enthalten auch keine direkten Aufrufe zu Gewalt oder Ausgrenzung. Die Mehrheit des Boards ist der Ansicht, dass die Entfernung politisch kontroverser Inhalte aufgrund von Äußerungen, die der/die Sprecher*in anderweitig getätigt hat, gegen das Recht auf freie Meinungsäußerung verstößt. Für die Mehrheit des Boards sind die von Zemmour genannten Zahlen nur leicht übertrieben. Die Mehrheit des Boards stellt außerdem fest, dass Immigration das Hauptthema von Zemmours Aussagen in dem Video ist – eines der vermutlich wichtigsten politischen Themen unserer Zeit.

Eine Minderheit des Boards ist der Ansicht, dass der Inhalt in diesem Fall nicht gegen die aktuellen Richtlinien von Meta verstößt (siehe Abschnitt 8.1). Das Unternehmen hat jedoch verschiedene Richtlinien zur Vermeidung eines Umfelds der Ausgrenzung und Einschüchterung entwickelt, das geschützte Minderheiten nicht nur online beeinträchtigt (und so auch die Stimmen ausgegrenzter Gruppen), sondern auch offline. Im Rahmen dieser Richtlinien werden antisemitische und rassistische Äußerungen sowie Inhalte von gewaltbereiten Verschwörungsnetzwerken moderiert. Die Entfernung dieser Inhalte ist mit Metas menschenrechtlicher Verantwortung vereinbar. Wie in Abschnitt 2 oben erläutert, basiert die Theorie des „Großen Austauschs“ auf der Annahme, dass die weiße Bevölkerung Europas gezielt durch Migrant*innen, hauptsächlich aus Afrika und Asien, ersetzt wird. Die Verbreitung des „Großen Austauschs“ hat zur Anstachelung zu Rassismus, Hass und Gewalt gegen Immigrant*innen, nicht-weiße Europäer*innen und Muslim*innen beigetragen. Eine Minderheit des Boards betont, dass es sich nicht einfach nur um eine abstrakte Idee oder kontroverse Meinung handelt, sondern vielmehr um eine klassische Verschwörungstheorie, die online und offline Schaden anrichtet. Sie trägt zweifellos dazu bei, eine Atmosphäre der Ausgrenzung und Einschüchterung bestimmter Minderheiten zu schaffen. Die nachweislichen Schäden, die durch die aggregierte oder kumulative, skalierte und rasante Verbreitung antisemitischer Inhalte auf Metas Plattformen entstehen, wie in der Fallentscheidung Holocaustleugnung besprochen, ähneln den nachweislichen Schäden, die durch die Theorie des „Großen Austauschs“ entstehen, wie in Abschnitt 2 aufgeführt. Aus diesen Gründen findet eine Minderheit des Boards die Entscheidung Metas, bestimmte gefährdete Minderheiten vor Ausgrenzung und Diskriminierung durch Verschwörungsnarrative zu schützen und andere, einem ähnlichen Risiko ausgesetzte Gruppen nicht zu schützen, mit dem Grundsatz der Nichtdiskriminierung und Metas Werten „Sicherheit“ und „Würde“ unvereinbar. Eine Minderheit des Boards fand keinen triftigen Grund dafür, dass Meta Inhalte, die sich auf den „Großen Austausch“ beziehen, anders moderiert als Inhalte, die sich auf die oben erwähnten anderen Verschwörungsnarrative beziehen, die Meta gemäß seiner menschenrechtlichen Verantwortung moderiert.

In diesem Zusammenhang sieht eine Minderheit des Boards die größere Herausforderung für Social-Media-Unternehmen nicht in den einzelnen Inhalten, sondern in der rasanten, kumulativen Verbreitung gefährlicher Inhalte im großen Umfang. Das Board erklärte, dass die „Moderation von Inhalten zur Bekämpfung der kumulativen Konsequenzen von Hassrede unter gewissen Umständen im Einklang mit Metas Verantwortung in Bezug auf Menschenrechte stattfinden kann, selbst wenn diese Inhalte nicht direkt zu Gewalt oder Diskriminierung aufrufen“ (siehe die Fallentscheidungen Darstellung von Zwarte Piet und Gewalt gegen ethnische und religiöse Gruppen im indischen Bundesstaat Odisha). 2022 äußerte der CERD seine Besorgnis darüber, „wie hartnäckig und weit verbreitet rassistische und diskriminierende Äußerungen [in Frankreich] sind, vor allem in den Medien und im Internet“. Für eine Minderheit des Boards schafft die Anhäufung von Inhalten, die sich auf den „Großen Austausch“ beziehen, „ein Umfeld, in dem Gewalttaten häufiger toleriert werden und zu Diskriminierung in einer Gesellschaft führen“ (siehe die Fallentscheidungen Darstellung von Zwarte Piet und Gewalt gegen ethnische und religiöse Gruppen im indischen Bundesstaat Odisha). Eine Minderheit des Boards weist darauf hin, dass gemäß den UNGPs „Unternehmen besonders auf nachteilige menschenrechtliche Auswirkungen auf Angehörige von Personen- oder Bevölkerungsgruppen achten [sollten], die unter Umständen einem erhöhten Risiko der Vulnerabilität oder Marginalisierung ausgesetzt sind“ (UNGPs, Prinzip 18 und 20). Wie oben in Abschnitt 2 erwähnt, sind hauptsächlich Immigrant*innen, insbesondere afrikanischer Herkunft, und deren Nachkommen Opfer von Rassismus in Frankreich. In einem Interview aus dem Jahr 2023 teilte der französische Generaldirektor für innere Sicherheit seine Überzeugung mit, dass extremistische Gruppen, einschließlich Anhänger*innen des „Großen Austauschs“, eine ernstzunehmende Bedrohung für das Land sind.

Obwohl Meta erklärt hatte, dass es mit der Moderation von Inhalten mit Bezug auf Verschwörungstheorien riskieren würde, „zu viele politische Äußerungen“ zu entfernen, stellte eine Minderheit des Boards fest, dass das Unternehmen weder Nachweise noch Daten zur Untermauerung dieser Behauptung vorgelegt hatte. Außerdem erklärte Meta nicht, warum es diese Begründung für Inhalte anführt, die sich auf den„Großen Austausch“ beziehen, jedoch nicht etwa für rassistische oder antisemitische Inhalte, die man auch als Verschwörungstheorien verbreitend verstehen könnte. Aufgrund der oben aufgeführten Gründe ist eine Minderheit des Boards der Ansicht, dass Meta seine Richtlinien überarbeiten sollte, um gegen Inhalte vorzugehen, die den „Großen Austausch“ befürworten, es sei denn, das Unternehmen kann ausreichend nachweisen, (i) dass durch die Verbreitung dieser Inhalte keine Schäden entstehen, wie in dieser Fallentscheidung erörtert; oder (ii) dass die Auswirkungen der Moderation dieser Inhalte auf geschützte politische Äußerungen unverhältnismäßig wären. Meta könnte für eine verhältnismäßige Reaktion neben anderen Optionen die Erstellung einer speziellen Eskalationsrichtlinie in Erwägung ziehen, um die Entfernung von Inhalten zu ermöglichen, die den „Großen Austausch“ offen unterstützen, ohne dabei geschützte politische Äußerungen zu gefährden. Das Unternehmen könnte auch Akteure, die den „Großen Austausch“ explizit unterstützen, als Teil eines gewaltbereiten Verschwörungsnetzwerks gemäß Metas Richtlinie zu gefährlichen Organisationen und Personen einstufen.

Die Mehrheit des Boards bezweifelt, dass man eine Richtlinie entwickeln könnte, die diesen Inhalt als unzulässig einstuft und gleichzeitig die Anforderungen der Rechtmäßigkeit, Notwendigkeit und Verhältnismäßigkeit erfüllt, insbesondere da die Worte „Großer Austausch“ oder eine Variante davon in dem Inhalt fehlen. Ein Versuch, diesen Inhalt zu entfernen, selbst mit der Begründung, dass er sich indirekt auf den „Großen Austausch“ bezieht, würde zur Entfernung einer großen Anzahl geschützter politischer Äußerungen führen. Inhalte, die eigentlich geschützt sind, sollten nicht allein aufgrund der Identität des/der Sprecher*in oder weil sie sich vermeintlich auf hasserfüllte Ideologien beziehen entfernt werden.

9. Entscheidung des Oversight Boards

Das Oversight Board bestätigt die Entscheidung von Meta, den Inhalt veröffentlicht zu lassen.

10. Empfehlungen

Transparenz

1. Meta sollte in seinem Gemeinschaftsstandard zu Hassrede näher darauf einzugehen, wie es Diskussionen über Einwanderung von schädlichen Äußerungen, die Menschen aufgrund ihres Migrationsstatus angreifen, unterscheidet. Unter anderem sollte das Unternehmen erläutern, wie es mit Inhalten umgeht, die hasserfüllte Verschwörungstheorien verbreiten. Dies ist notwendig, damit die Nutzer*innen verstehen, wie Meta politische Äußerungen zum Thema Immigration schützt und gleichzeitig den potenziellen Schäden vorbeugt, die hasserfüllte Verschwörungstheorien abseits des Internets anrichten.

Das Board wird diese Empfehlungen als umgesetzt betrachten, wenn Meta ein Update veröffentlicht, aus dem hervorgeht, wie es mit Debatten über Immigration im Kontext des „Großen Austauschs“ umgeht, und das Update im Transparency Center an einer gut sichtbaren Stelle verlinkt.

* Anmerkung zur Vorgehensweise:

Die Entscheidungen des Oversight Boards werden von einem Panel aus fünf Mitgliedern vorbereitet und von der Mehrheit des Boards bestätigt. Entscheidungen des Oversight Boards geben nicht zwangsläufig die persönliche Meinung aller Mitglieder wieder.

Für diese Fallentscheidung wurde eine unabhängige Studie vom Board in Auftrag gegeben. Weitere Unterstützung erhielt das Board durch Duco Advisors, eine Beratungsfirma mit Schwerpunkt auf die Schnittstelle zwischen Geopolitik, Vertrauen, Sicherheit und Technologie. Memetica, eine Organisation, die Open-Source-Forschung zu Trends in sozialen Medien betreibt, führte ebenfalls Analysen durch. Das sprachliche Know-how wurde von Lionbridge Technologies LLC zur Verfügung gestellt, dessen Spezialist*innen insgesamt mehr als 350 Sprachen fließend beherrschen und in 5.000 Orten auf der ganzen Welt arbeiten.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas