Entfernung von COVID-19-Fehlinformationen

I. Zusammenfassung

Im Juli 2022 hat das Oversight Board einen Antrag von Meta akzeptiert, in dem es gebeten wurde, zu prüfen, ob bestimmte Kategorien von Fehlinformationen zu COVID-19 weiterhin entfernt werden sollten oder ob eine weniger strenge Vorgehensweise besser im Einklang mit den Werten und der menschenrechtlichen Verantwortung von Meta stünde. Die beratende Stellungnahme zur Richtlinie ist die Antwort des Boards auf diesen Antrag.

Das Board hat ausgiebige Untersuchungen und öffentliche Beratungen durchgeführt. Da Meta auf eine einzelne, global angewandte Vorgehensweise für COVID-19-Fehlinformationen besteht, hat das Board entschieden, dass Meta seine aktuelle Richtlinie beibehalten sollte, solange die Weltgesundheitsorganisation (WHO) COVID-19 weiterhin als internationalen Gesundheitsnotstand einstuft. Das bedeutet, dass Meta Fehlinformationen zu COVID-19 weiterhin entfernen sollte, wenn sie wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen. Das Board stellt jedoch fest, dass Meta einen Vorgang zur erneuten Prüfung der 80 Behauptungen einleiten sollte, die aktuell entfernt werden. Dabei sollten Stakeholder aus verschiedenen Bereichen einbezogen werden. Außerdem sollte Meta Maßnahmen für den Zeitpunkt vorbereiten, wenn die Einstufung der WHO aufgehoben wird, um unter diesen neuen Umständen die freie Meinungsäußerung und andere Menschenrechte zu schützen. Das Board empfiehlt Meta dringend, Informationen über Behördenanfragen zur Entfernung von COVID-19-Inhalten zu veröffentlichen, unabhängige Forschung über seine Plattformen zu unterstützen, die Verbindung zwischen der Architektur von Meta-Plattformen und Fehlinformationen zu untersuchen und weltweit Aufklärungsarbeit über COVID-19-Fehlinformationen zu leisten.

Hintergrund

Als Anfang 2020 die COVID-19-Pandemie ausbrach, begann Meta damit, verschiedene Behauptungen von Facebook und Instagram zu entfernen, die das Unternehmen als Fehlinformationen über COVID-19 einstufte. Im Laufe der Pandemie hat das Unternehmen die Liste der Behauptungen über COVID-19, die entfernt werden, erweitert. Heute umfasst die Liste etwa 80 Behauptungen über COVID-19, die gemäß der Meta-Richtlinie „Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen“ entfernt werden. Diese Richtlinie ist Teil des Gemeinschaftsstandards zu Fehlinformationen und wurde auf Basis der Empfehlungen des Boards in der Entscheidung „Aussage über COVID-Behandlung“ entwickelt. Thema dieser beratenden Stellungnahme zur Richtlinie ist ausschließlich die Vorgehensweise von Meta während der COVID-19-Pandemie gemäß der Richtlinie„Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen“. Sie betrifft keine Handlungen, die Meta während der COVID-19-Pandemie unter anderen Richtlinien vorgenommen hat.

Gemäß der Richtlinie „Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen“ entfernt Meta „Fehlinformationen bei Notfällen im Bereich der öffentlichen Gesundheit, wenn die Gesundheitsbehörden zu dem Schluss kommen, dass die Informationen falsch sind und wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen“. Bei der Entscheidung, ob diese Bedingung erfüllt war, verließ sich Meta ausschließlich auf Aussagen von Gesundheitsbehörden. Zu den 80 Behauptungen, die aktuell entfernt werden, zählen beispielsweise das Leugnen der Existenz von COVID-19 und die Behauptung, dass COVID-19-Impfstoffe den Körper magnetisch machen. Von März 2020 bis Juli 2022 entfernte Meta 27 Millionen Inhalte, die COVID-19-Fehlinformationen enthielten, von Facebook und Instagram. 1,3 Millionen davon wurden nach Einsprüchen wiederhergestellt. COVID-19-Fehlinformationen, die nicht die Bedingungen für eine Entfernung erfüllen, können besonders gekennzeichnet, herabgestuft oder von Faktenprüfern bewertet werden. Faktenprüfer können Inhalte beispielsweise als „falsch“ oder „fehlender Kontext“ einstufen. Meta fügt diesen Inhalten dann einen entsprechenden Hinweis sowie einen Link zu einem entsprechenden Faktencheck-Artikel hinzu. Das Unternehmen stuft außerdem Inhalte herab, die von Faktenprüfer*innen gekennzeichnet wurden. Das bedeutet, dass diese Inhalte basierend auf verschiedenen Faktoren seltener und an weniger sichtbarer Stelle im Feed angezeigt werden. Meta fügt außerdem Inhalten zu COVID-19 „neutrale Label“ hinzu. Diese Label enthalten Aussagen wie „Einige nicht zugelassene COVID-19-Behandlungsmethoden können schwere Schäden verursachen“ und leiten Personen zum COVID-19-Informationszentrum von Meta weiter. Dort finden sie Informationen zu Präventionsmaßnahmen, Impfstoffen und Ressourcen von Gesundheitsbehörden.

In seinem Antrag an das Board fragte Meta, ob es bestimmte COVID-19-Fehlinformationen weiterhin entfernen solle. Das Unternehmen sagte, es könne diese Inhalte herabstufen, an unabhängige Faktenprüfer weiterleiten oder besonders kennzeichnen, anstatt sie zu entfernen. Meta besteht darauf, eine einzelne, global angewandte Vorgehensweise für COVID-19-Fehlinformationen zu verfolgen, anstatt seinen Ansatz nach Land oder Region anzupassen. Laut dem Unternehmen würden lokalisierte Ansätze die Richtlinien weniger transparent für Nutzer machen und die Durchsetzung beeinträchtigen. Außerdem sagt Meta, dass es nicht über die nötigen Kapazitäten für einen solchen Ansatz verfügt. Bei der Prüfung des Antrags hat das Board ausgiebige öffentliche Beratungen unternommen. Dazu gehörte eine Reihe an virtuellen Round-Table-Gesprächen mit Teilnehmern aus aller Welt, die in Zusammenarbeit mit Bürgerrechtsgruppen organisiert wurden. Dabei hörte das Board Fachleute und Stakeholder aus verschiedenen Bereichen an.

Wichtige Erkenntnisse und Empfehlungen

Das Board stellt fest, dass es im Einklang mit den Werten und der menschenrechtlichen Verantwortung von Meta steht, COVID-19-Fehlinformationen zu entfernen, die während eines globalen Gesundheitsnotstands „wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen“. Anfangs untersuchte das Board, ob es für Meta sinnvoller wäre, bei COVID-19-Fehlinformationen lokalisierte Ansätze zu verfolgen. Meta betonte jedoch, dass dies nicht machbar sei, ohne die Transparenz und Fairness der Richtlinien zu beeinträchtigen und die Anzahl der Fehler bei der Durchsetzung stark zu erhöhen. Diese Bedenken sind möglicherweise gerechtfertigt. Durch den Ausschluss dieser Möglichkeit hat Meta jedoch die Bemühungen des Boards behindert, gegensätzlichen Ansichten von Stakeholdern und Mitgliedern des Boards gerecht zu werden, wie mit schädlichen COVID-19-Fehlinformationen unter Wahrung der Menschenrechte (insbesondere des Rechts auf freie Meinungsäußerung) umzugehen ist. Bei den 18 Empfehlungen in dieser beratenden Stellungnahme zur Richtlinie wurde diese Einschränkung berücksichtigt. Die meisten dieser Empfehlungen werden unten zusammengefasst.

Das Board empfiehlt Meta folgende Maßnahmen:

Meta sollte weiterhin Fehlinformationen über COVID-19 entfernen, die „während des anhaltenden Gesundheitsnotstands wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen“. Gleichzeitig sollte Meta auf transparente und inklusive Weise die 80 Behauptungen, die aktuell entfernt werden, prüfen und neu bewerten. Ein öffentlicher Gesundheitsnotstand stellt eine ernste und direkte Gesundheitsgefahr dar. Angesichts der Tatsache, dass Meta auf eine einzelne, global angewandte Vorgehensweise für COVID-19-Fehlinformationen besteht, stellt das Board fest, dass Metas aktuelle außergewöhnliche Maßnahmen gerechtfertigt sind, Fehlinformationen zu entfernen, die laut Ansicht von Gesundheitsbehörden wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen. Meta hat sich unter anderem nicht mit den relevanten Gesundheitsbehörden beraten, um die Behauptungen erneut zu prüfen, die aktuell entfernt werden. Meta hat außerdem keine allgemeinen Beratungen mit Stakeholdern und Fachleuten durchgeführt, um die einzelnen Behauptungen oder die Richtlinie insgesamt erneut zu prüfen. Da Meta noch nicht mit einem Due Diligence-Verfahren zur Änderung der Richtlinie begonnen hat (wofür Meta in erster Instanz verantwortlich ist), ist das Board nicht in der Lage, eine Richtlinienänderung zu empfehlen, die sich überproportional auf besonders gefährdete Gruppen auswirken könnte.

Da wir uns jedoch nicht mehr im Frühstadium der Krise befinden, sollte Meta mit Hinblick auf seine menschenrechtliche Verantwortung regelmäßig prüfen, ob die in seinen Richtlinien festgelegten Kriterien für die Entfernung von Inhalten weiterhin gegeben sind. Zu diesem Zweck sollte Meta ein transparentes Verfahren zur regelmäßigen Prüfung der 80 Behauptungen einleiten, die aktuell entfernt werden. Dabei sollten Stakeholder aus verschiedenen Bereichen einbezogen werden. Es ist nur dann gerechtfertigt, eine Behauptung auf der Liste der zu entfernenden Behauptungen aufzuführen, wenn Stakeholder eindeutige Beweise vorlegen, dass diese Behauptung unmittelbare körperliche Schäden verursachen kann. Meta sollte die Ergebnisse dieser regelmäßigen Prüfungen öffentlich teilen.

Meta sollte die Machbarkeit lokalisierter Ansätze prüfen. Meta muss einen Plan für den Zeitpunkt entwickeln, wenn die WHO COVID-19 nicht mehr als globalen Gesundheitsnotstand einstuft, aber bestimmte lokale Gesundheitsbehörden weiterhin einen Gesundheitsnotstand vermelden. Das Board empfiehlt die Einleitung einer Risikobewertung, um die Maßnahmen für dieses Szenario festzulegen. Dabei muss Meta den Umgang mit Fehlinformationen regeln, die wahrscheinlich zu erheblichen und unmittelbaren körperlichen Schäden beitragen können, ohne die freie Meinungsäußerung global zu beeinträchtigen. Im Rahmen der Risikobewertung sollte außerdem geprüft werden, ob eine lokalisierte Durchsetzung der Richtlinien realistisch ist.

Meta sollte die Auswirkungen der Architektur seiner Plattformen prüfen. Experten haben Bedenken geäußert, dass die Architektur der Meta-Plattformen die Verbreitung schädlicher Fehlinformationen zu Gesundheitsthemen verstärkt. Dementsprechend empfiehlt das Board, die menschenrechtlichen Auswirkungen seiner Design-Entscheidungen zu prüfen. Das Unternehmen sollte eine Untersuchung in Auftrag geben, bei der geprüft wird, inwiefern der Newsfeed, Empfehlungsalgorithmen und andere Funktionen die Verbreitung und die Auswirkungen schädlicher Fehlinformationen zu Gesundheitsthemen verstärken.

Meta sollte transparenter mit Behördenanfragen umgehen. Während der schwersten Phase der Pandemie wurden Bedenken darüber geäußert, dass Meta Inhalte zu COVID-19 im Auftrag von Regierungsbehörden prüft. Dieser Umstand ist besonders problematisch in Regionen, in denen Regierungsbehörden Anfragen nutzen, um friedliche Proteste oder Menschenrechtsaktivisten zu unterdrücken, Gespräche über den Ursprung der Pandemie zu kontrollieren oder Personen mundtot zu machen, die Regierungsmaßnahmen im Zuge des Gesundheitsnotstands kritisieren oder in Frage stellen. Die Vereinten Nationen haben Bedenken geäußert, dass einige Regierungen die Pandemie als Vorwand genutzt haben, um die Grundlagen der Demokratie zu untergraben. Meta sollte regelmäßig über Anfragen von Behörden berichten, die Meta auffordern, Inhalte gemäß der Richtlinie „Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen“ zu prüfen.

Meta sollte unabhängige Forschung unterstützen und Aufklärungsarbeit über COVID-19-Fehlinformationen leisten. Experten haben dem Board mitgeteilt, dass ihre Versuche, COVID-19-Fehlinformationen und die Effektivität von Metas Maßnahmen zu untersuchen, daran scheitern, dass sie keinen Zugriff auf Daten und Forschungsergebnisse des Unternehmens erhalten. Auch für das Board stellte ein Mangel an verfügbaren Daten ein Problem dar, als es diesen Antrag auf eine beratende Stellungnahme zur Richtlinie prüfte. Das Board erkennt an, dass Meta im Vergleich zu anderen Social Media-Unternehmen viele Daten mit unabhängigen Forschern teilt. Viele dieser Forscher haben dem Board mitgeteilt, dass Meta-Tools wie CrowdTangle und Facebook Open Research and Transparency (FORT) eine wichtige Rolle spielen. Gleichzeitig haben sie jedoch beklagt, dass es äußerst schwierig ist, auf Tools wie FORT zuzugreifen. Meta sollte diese Tools weiterhin zur Verfügung stellen, aber gleichzeitig besser zugänglich machen und unabhängigen Forschern Zugriff auf nicht öffentliche Daten geben. Das Board empfiehlt dem Unternehmen auch, Untersuchungen über seine Durchsetzung der COVID-19-Richtlinien durchzuführen und Daten darüber zu veröffentlichen. Außerdem sollte Meta die Ergebnisse der Untersuchung zu „neutralen Labels“ veröffentlichen, die es mit dem Board geteilt hat. Schließlich empfiehlt das Board Meta, den Zugang zu den Daten des Unternehmens auf Forscher und Universitäten im globalen Süden auszuweiten und Digital Literacy-Programme in aller Welt zu fördern.

Meta sollte bei der Entfernung von COVID-19-Fehlinformationen fairer, transparenter und einheitlicher vorgehen. Um seiner menschenrechtlichen Verantwortung gerecht zu werden, muss Meta auch sicherstellen, dass seine Regeln für Nutzer klar verständlich sind. Zu diesem Zweck sollte das Unternehmen für jede Kategorie der Behauptungen über COVID-19, die direkt entfernt werden, erläutern, wie sie zum Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen. Meta sollte auch erklären, auf welcher Grundlage es entscheidet, dass eine Behauptung falsch ist, und ein Protokoll führen, das alle Änderungen der Liste mit zu entfernenden Behauptungen enthält. Um die einheitliche Durchsetzung der Regeln in verschiedenen Regionen und Sprachen zu ermöglichen, sollte das Unternehmen seinen internen Leitfaden für Inhaltsmoderatoren in alle Sprachen übersetzen, mit denen es arbeitet. Meta sollte auch das Recht von Nutzern auf Rechtsmittel schützen, indem es die Möglichkeit erweitert, gegen Faktencheck-Labels Einspruch einzulegen. Außerdem sollte es sicherstellen, dass diese Einsprüche nicht von dem Faktenprüfer bearbeitet werden, der die ursprüngliche Entscheidung getroffen hat.

II. Antrag von Meta

1. Diese beratende Stellungnahme zur Richtlinie bezieht sich auf Metas Richtlinie zu COVID-19-Fehlinformationen, wie dargelegt in der Unternehmensrichtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen. Diese Richtlinie ist Teil des Gemeinschaftsstandards zu Fehlinformationen. Meta hat im Juli 2022 einen Antrag auf diese beratende Stellungnahme zur Richtlinie an das Board gesendet mit der Frage, ob im Rahmen dieser Richtlinie weiterhin bestimmte Inhalte zu COVID-19 entfernt werden sollten oder ob ein weniger restriktiver Ansatz den Werten des Unternehmens und dessen Verantwortung zur Einhaltung der Menschenrechte besser entsprechen würde.

2. Meta erklärte in seinem Antrag, dass gemäß der Richtlinie Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen Fehlinformationen entfernt würden, wenn es während eines Gesundheitsnotstands „wahrscheinlich ist, dass diese direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen“. Diese Richtlinie wird im Abschnitt III unten genauer erläutert. Bei der Beurteilung, ob Fehlinformationen diese Kriterien erfüllen, arbeitet das Unternehmen mit Gesundheitsbehörden zusammen, die über Kenntnisse und Expertise verfügen, um zu beurteilen, ob bestimmte Behauptungen falsch sind und ob es wahrscheinlich ist, dass sie direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen. Die Beurteilung erfolgt auf globaler Ebene. Meta erläuterte dem Board, dass es nicht machbar sei, einen skalierten, lokalisierten Ansatz anzuwenden, ohne die Transparenz und Fairness der Richtlinien zu beeinträchtigen und die Anzahl der Fehler bei der Durchsetzung stark zu erhöhen. Bei Fehlinformationen, die diesen strengen Kriterien nicht entsprechen, setzt Meta andere Verfahren wie Herabstufung, Kennzeichnung oder Faktenprüfung ein.

3. Bei der Entwicklung seines Ansatzes zu COVID-19-Fehlinformationen zwischen Januar 2020 und Februar 2021 (siehe Abschnitt III unten) beriet sich Meta mit mehr als 180 Experten aus unterschiedlichen Fachbereichen, darunter Experten für öffentliche Gesundheit und Infektionskrankheiten, Experten für nationale Sicherheit und öffentliche Sicherheit, Forscher aus dem Bereiche Falschmeldungen und Fehlinformationen, Faktenprüfer und Experten für freie Meinungsäußerung und digitale Rechte. Zudem beriet sich Meta mit regionalen Stakeholdern. Meta stellte fest, dass es unterschiedliche und gelegentlich widersprüchliche Empfehlungen und Einschätzungen von Experten aus unterschiedlichen Fachbereichen und Stakeholdern aus unterschiedlichen Regionen der Welt gab, wie unten näher erläutert wird. Meta erklärte, dass es bei der Einführung der aktuellen Richtlinie entschieden haben, dass die Risiken, die mit bestimmten Fehlinformationen zusammenhängen, groß genug seien, um angesichts des globalen Gesundheitsnotstands durch die COVID-19-Pandemie eine Entfernung notwendig zu machen. In seinem Antrag an das Board erklärte Meta, dass sich die Umstände rund um COVID-19 geändert hätten, seit Meta vor zwei Jahren die Entscheidung getroffen habe, bestimmte COVID-19-Fehlinformationen zu entfernen. Diese Veränderungen haben das Unternehmen veranlasst, abzuwägen, ob die Entfernung solcher Fehlinformationen noch immer nötig sei. Meta reichte drei Änderungen zur Prüfung durch das Oversight Board ein.

4. Zunächst gibt es laut Meta eine Änderung bei den Informationen rund um COVID-19. Zu Beginn der Pandemie erzeugten fehlende behördliche Richtlinien ein Informationsvakuum, das die Verbreitung von Fehlinformationen förderte. Das Unternehmen bemerkte, dass sich dies inzwischen deutlich geändert habe. Die Menschen haben Zugriff auf verlässliche Informationen zum Virus und zu Gesundheitsbehörden, die Informationen bereitstellen und Verhaltensweisen gefährdeter Personen beeinflussen können.

5. Außerdem bemerkte Meta, dass COVID-19 aufgrund von Impfungen und der Entwicklung von Krankheitsvarianten weniger tödlich ist als Anfang 2020. Dank der Entwicklung und Verteilung wirksamer Impfstoffe gibt es nun Möglichkeiten, COVID-19 zu verhindern bzw. die Schwere der Symptome zu reduzieren. Darüber hinaus verursachen die aktuellen Varianten laut öffentlichen Gesundheitsexperten weniger schwere Krankheitsverläufe als vorherige Varianten und Behandlungen entwickeln sich rasch weiter.

6. Drittens gab Meta an, dass Gesundheitsbehörden aktiv evaluieren, ob COVID-19 inzwischen als weniger schwerwiegend eingestuft werden kann, und dass „einige Gesundheitsbehörden feststellen, dass bestimmte Regionen der Welt dazu übergegangen sind, die Pandemie als weniger schwerwiegend einzustufen“. (Meta-Antrag auf beratende Stellungnahme zur Richtlinie, Seite 14) Meta zitierte Aussagen von Dr. Anthony Fauci in den Vereinigten Staaten, der Europäischen Kommission und des Gesundheitsministers von Thailand, um diese Beobachtung zu untermauern.

7. Allerdings erkennt Meta an, dass die Pandemie weltweit unterschiedliche Verläufe genommen hat. In seinem Antrag an das Board schrieb das Unternehmen:

Während Impfungen, medizinische Behandlungen und behördliche Richtlinien in Ländern mit hohen Einkommen zunehmend zur Verfügung stehen, prognostizieren Experten, dass Menschen in Ländern mit niedrigen Einkommen und einem weniger gut entwickelten Gesundheitssystem nur mit Verzögerung Zugang erhalten werden. Die größten Unterschiede bestehen derzeit zwischen hochentwickelten Ländern (...) und Entwicklungsländern. (...) Achtzig Prozent der Menschen in Ländern mit hohen Einkommen haben mindestens eine Impfdosis erhalten. In Ländern mit niedrigen Einkommen sind es lediglich 13 Prozent. Länder mit niedrigen Einkommen haben tendenziell zudem Gesundheitssysteme mit weniger Kapazitäten, eine weniger starke Wirtschaft und weniger Vertrauen in Regierungsvorgaben. All das verkompliziert die Impfung der Menschen und die Behandlung von COVID-19-Patienten.

(Meta-Antrag auf beratende Stellungnahme zur Richtlinie, Seite 3)

Metas Fragen an das Board

8. Angesichts dieser Informationen hat Meta dem Board folgende Richtlinienvorschläge zur Prüfung unterbreitet. Abschnitt III unten enthält weitere Details zu diesen Maßnahmen:

• Bestimmte Fehlinformationen in Bezug auf COVID-19 werden weiterhin entfernt: Bei dieser Option würde Meta weiterhin Inhalte entfernen, die während eines Gesundheitsnotstands „wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen“. Meta erklärt, dass es bei dieser Option Fehlinformationen dann nicht mehr entfernen würde, wenn das Risiko eines unmittelbaren körperlichen Schadens nicht mehr besteht. Das Unternehmen bittet das Board um Rat, wo die entsprechende Grenze gezogen werden soll.
• Vorübergehende Notfall-Reduktionsmaßnahmen: Bei dieser Option würde Meta Fehlinformationen in Bezug auf COVID-19 nicht mehr entfernen und stattdessen deren Verbreitung reduzieren. Dies wäre eine vorübergehende Maßnahme und das Unternehmen bittet das Oversight Board um Rat, wann diese Maßnahme – falls sie ergriffen wird – wieder eingestellt werden soll.
• Externe Faktenprüfung: Bei dieser Option würden Inhalte, die aktuell eigentlich entfernt werden würden, zur Bewertung an unabhängige Faktenprüfer übermittelt. Meta weist in seinem Antrag an das Oversight Board darauf hin, dass „die Anzahl der verfügbaren Faktenprüfer zur Bewertung von Inhalten begrenzt ist. Wenn Meta diese Option anwenden soll, können Faktenprüfer nicht alle Inhalte in Bezug auf COVID-19 auf unseren Plattformen überprüfen. Daher würde einige Inhalte nicht auf Richtigkeit hin geprüft, herabgestuft und gekennzeichnet werden.“ (Meta-Antrag auf beratende Stellungnahme zur Richtlinie, Seite 16)
• Kennzeichnungen: Bei dieser Option würde Meta Inhalte kennzeichnen. Damit würde zwar nicht verhindert, dass Nutzer die Inhalte sehen, aber die Inhalte würden Links zu verlässlichen Informationen enthalten. Meta betrachtet dies als vorübergehende Maßnahme und bittet das Oversight Board um Rat, welche Faktoren das Unternehmen bei der Entscheidung berücksichtigten soll, wann diese Kennzeichnungen eingestellt werden sollen.

9. Meta erklärt, dass diese Optionen jeweils Vor- und Nachteile haben, vor allem in Bezug auf ihre flächendeckende Skalierbarkeit, Richtigkeit und die Anzahl der betroffenen Inhalte. Das Unternehmen drängte darauf, dass die Richtlinie für alle Regionen anwendbar und gleichzeitig weltweit einheitlich und praktikabel sein sollte. In Bezug auf landesspezifische Richtlinien erklärte Meta: „Aus technischen Gründen empfehlen wir dringend, weltweite Richtlinien zu COVID-19 einzuhalten, statt landesspezifische oder regional unterschiedliche Richtlinien anzuwenden.“ In seinem Antrag an das Oversight Board erklärte Meta: „Die Richtliniendurchsetzung auf Landesebene kann sowohl zu einer übermäßig strengen Durchsetzung führen, wenn bestimmte Prüfer für mehrere Länder verantwortlich sind, als auch zu einer unzureichenden Durchsetzung, da Inhalte über mehrere Länder und Regionen hinweg verbreitet werden können.“ (Meta-Antrag auf beratende Stellungnahme zur Richtlinie, Seite 17, Fußnote 37) (Weitere Informationen zur skalierten, lokalisierten Durchsetzung finden sich in Absatz 61 unten.)

III. Meta-Richtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen

10. Ausgelöst durch die COVID-19-Pandemie und eine beobachtete Zunahme an Fehlinformationen auf seinen Plattformen begann Meta im Januar 2020, COVID-19-Fehlinformationen zu entfernen. Seine Richtlinie und die Arten von Behauptungen, die entfernt wurden, entwickelten sich im Laufe der folgenden beiden Jahre weiter und ergaben schließlich den aktuellen Abschnitt zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen des Gemeinschaftsstandards zu Fehlinformationen und der zugehörigen Seite im Hilfebereich.

11. Der Gemeinschaftsstandard zu Fehlinformationen beginnt mit einem Grundgedanken der Richtlinie, in dem Metas Ansatz bezüglich Fehlinformationen erläutert wird, darunter Entfernungen, Faktenchecks, Herabstufungen und Kennzeichnungen als Durchsetzungsmaßnahmen. Laut dem Unternehmen werden Fehlinformationen nur dann entfernt, wenn „sie wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen“. Die Richtlinie nennt dann vier Arten von Fehlinformationen, die entfernt werden: (1) körperlicher Schaden oder Gewalt; (2) gefährliche Gesundheitsfehlinformationen; (3) Beeinflussung von Wählern oder Volkszählungen und (4) manipulierte Medien (besonderes Augenmerk).

12. Der Abschnitt Gefährliche Gesundheitsfehlinformationen des Gemeinschaftsstandards zu Fehlinformationen hat drei Unterkategorien: (i) Fehlinformationen zu Impfstoffen; (ii) Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen und (iii) Förderung oder Befürwortung schädlicher Wundermittel für gesundheitliche Probleme (besonderes Augenmerk). Während andere Gemeinschaftsstandards ebenfalls für Behauptungen rund um COVID-19 gelten können, konzentriert sich diese beratende Stellungnahme zur Richtlinie ausschließlich auf den Abschnitt Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen der Richtlinie zu Fehlinformationen, die auf die COVID-19-Pandemie anwendbar ist. Sie bezieht sich nicht auf andere Richtlinien und sollte nicht so verstanden werden.

Entfernung von COVID-19-Fehlinformationen

13. Die Richtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesenbesagt:

Wir entfernen Fehlinformationen bei Notfällen im Bereich der öffentlichen Gesundheit, wenn die Gesundheitsbehörden zu dem Schluss kommen, dass die Informationen falsch sind und wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen, einschließlich des Risikos, dass Personen eine gefährliche Krankheit bekommen oder verbreiten oder einen entsprechenden Impfstoff ablehnen. Wir ermitteln Notfälle im Bereich der öffentlichen Gesundheit in Zusammenarbeit mit globalen und lokalen Gesundheitsbehörden. Dazu gehören derzeit falsche Behauptungen im Zusammenhang mit COVID-19, die von sachverständigen Gesundheitsbehörden überprüft wurden, über die Existenz oder den Schweregrad des Virus, eine Heilung oder Verhinderung, die Übertragung des Virus oder die Immunität bestimmter Personen sowie falsche Behauptungen, die von bewährten Gesundheitspraktiken im Zusammenhang mit COVID-19 abhalten (z. B. sich testen zu lassen, Abstand zu halten, einen Mundschutz zu tragen und sich gegen COVID-19 impfen zu lassen). Klicke hier, um die vollständigen Regeln dazu einzusehen, welche Fehlinformationen wir in Bezug auf COVID-19 und Impfstoffe nicht zulassen.

14. Im Rahmen dieser Richtlinie entfernt Meta Fehlinformationen, wenn drei Kriterien erfüllt sind: 1) es gibt einen öffentlichen Gesundheitsnotstand; 2) die Behauptung ist falsch und 3) die Behauptung trägt wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens bei. Bei der Anwendung dieses Standards auf die COVID-19-Pandemie stützte sich Meta auf die Beschlüsse von Gesundheitsbehörden und identifizierte rund 80 Behauptungen, die entfernt werden. Diese Behauptungen, die regelmäßig aktualisiert werden, sowie häufige Fragen zur Durchsetzung der Richtlinie sind auf dieser Seite im Hilfebereich zu finden.

15. Wie in der Richtlinie angegeben, werden diese 80 Behauptungen in folgende fünf Kategorien eingeordnet: (1) Behauptungen zu Existenz und Schweregrad von COVID-19, dazu gehören Behauptungen, die die Existenz von COVID-19 abstreiten oder den Schweregrad verharmlosen, beispielsweise die Behauptung, dass niemand an COVID-19 gestorben sei; (2) Übertragung von COVID-19 und Immunität, dazu gehören Behauptungen, dass COVID-19 durch 5G-Technologien übertragen werde; (3) garantierte Heilmittel oder Präventionsmethoden für COVID-19, beispielsweise Behauptungen, dass entsprechende Cremes eine Coronaerkrankung heilen oder eine Infektion mit dem Virus verhindern könnten; (4) Abschreckung von sinnvollen Gesundheitsmaßnahmen, beispielsweise Behauptungen, dass Gesichtsmasken schädliche Nanowürmer enthielten oder dass COVID-19-Impfstoffe die DNA einer Person veränderten oder Magnetismus verursachten; (5) Zugang zu unverzichtbaren Gesundheitsleistungen, dazu gehören Behauptungen, dass Menschen in Krankenhäusern getötet werden, um mehr Geld zu erhalten oder um die Organe der Menschen zu verkaufen.

16. Meta erklärte in seinem Antrag, dass es sich auf folgende Quellen stützt, um zu beurteilen, ob ein öffentlicher Gesundheitsnotstand existiert: (1) ob die Weltgesundheitsorganisation (WHO) einen öffentlichen Gesundheitsnotstand erklärt hat; (2) ob die WHO eine Krankheit als übertragbar, tödlich oder hohes Risiko eingestuft hat oder (3) sofern keine Risikobeurteilung der WHO verfügbar ist, verlässt sich Meta auf die Einschätzung örtlicher Gesundheitsbehörden zu einem öffentlichen Gesundheitsnotstand in einem Land. Wie Meta darlegte, erklärte die WHO dem Unternehmen, dass während eines erklärten Notstands „ein hohes Risiko für irreversible körperliche Schäden besteht, wenn das Risiko einer Exposition, die Übertragungsrate, das Verhältnis zwischen Exposition und Risiko sowie die Morbiditäts- und Mortalitätsraten ungewöhnlich hoch sind“. (Meta-Antrag auf beratende Stellungnahme zur Richtlinie, Seite 6) Die WHO erklärte am 30. Januar 2020 den Ausbruch von COVID-19 als „öffentlicher Gesundheitsnotstand von internationaler Bedeutung“.

17. Gemäß seiner Richtlinie verlässt sich Meta angesichts eines öffentlichen Gesundheitsnotstands auf kompetente Gesundheitsbehörden, um Fehlinformationen zu identifizieren und herauszufinden, ob eine falsche Behauptung „wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beiträgt“. Meta informierte das Oversight Board, dass es sich auf Experten für die öffentliche Gesundheit verlasse, beispielsweise die WHO und die U.S. Centers for Disease Control and Prevention (CDC), um zu beurteilen, welche Behauptungen aktuell entfernt werden sollten. In der Vergangenheit befragte Meta zudem beispielsweise die Ländervertreter von UNICEF und das Gesundheitsministerium in Pakistan (Meta-Antrag auf beratende Stellungnahme zur Richtlinie, Seite 6). Laut Auszügen aus der Korrespondenz zwischen Meta und einer Gesundheitsbehörde, die das Oversight Board geprüft hat, identifiziert Meta Behauptungen teilweise durch die Überwachung seiner Plattformen und reicht diese zur Prüfung an Gesundheitsbehörden ein, statt dass Gesundheitsbehörden selbst die Behauptungen, die entfernt werden sollten, identifizieren oder definieren. In einem beispielhaften Austausch mit einer Gesundheitsbehörde, die diese Beurteilung vornahm, identifizierte Meta eine Behauptung (dass die COVID-19-Impfstoffe Herzinfarkte verursachen) und fragte bei der Gesundheitsbehörde nach, ob diese falsch sei und ob sie zur Ablehnung einer Impfung führen könne. Die Gesundheitsbehörde antwortete mit Quellen und Analysen, die die Schlussfolgerung untermauern sollten, dass „es keine Beweise dafür gibt, dass COVID-19-Impfstoffe Herzinfarkte verursachen“. Es erwähnte gemeldete Fälle von Myokarditis (Herzmuskelentzündung) nach einer Impfung, insbesondere bei männlichen Jugendlichen und jungen Erwachsenen. Die Gesundheitsbehörde kam außerdem zu dem Schluss, dass „unbegründete Ängste, dass Impfstoffe Herzinfarkte (Myokardinfarkte) oder Herzerkrankungen verursachen, zur Ablehnung einer Impfung führen könnten“.

18. Metas Richtlinie zu Fehlinformationen beinhaltet auch Ausnahmen, bei denen das Unternehmen bestimmte Formulierungen von einer Entfernung ausnimmt. Beispielsweise sind Aussagen, die sich auf Politik oder politische Entscheidungen beziehen, zulässig, z. B. „ein COVID-Impfzwang funktioniert nicht“ oder „Impfstoffhersteller wollen sich nur die Taschen vollmachen“. Inhalte, die ausdrücklich humoristisch oder satirisch gemeint sind, z. B. „nur Brad Pitts Blut kann COVID heilen [zwei Tränen lachende Emojis]“, verstoßen nicht gegen die Richtlinie. Behauptungen, die eine persönliche Anekdote oder Erfahrung beschreiben, sind zulässig, sofern: der Inhalt die persönliche Erfahrung einer bestimmten Person wiedergibt; die Identität der Person ausdrücklich im Post genannt wird; und der Inhalt keine allgemeine Behauptung aufstellt und keinen Call-to-Action enthält. Inhalte, die spekulieren, hinterfragen oder Ungewissheit ausdrücken, sind ebenfalls zulässig, beispielsweise: „Verursachen Impfstoffe Autismus?“

19. Meta verlässt sich bei der Entfernung der Behauptungen, die unter diese Richtlinie zu Fehlinformationen fallen, auf sein reguläres, entsprechend skaliertes Durchsetzungssystem mit automatisierten Tools (oder Classifiern), Inhaltsmoderatoren und internen Eskalationsteams. Das Unternehmen informierte das Oversight Board, dass es über trainierte Classifier in 19 Sprachen verfüge, die wahrscheinliche Verstöße gegen diese Richtlinie identifizieren. Inhaltsmoderatoren, die die Richtlinie zu Fehlinformationen durchsetzen, erhalten interne Richtlinien, beispielsweise dazu, wie Inhalte identifiziert werden, die als Humor, Satire oder persönliche Anekdote auf der Plattform verbleiben sollten, wie auf der Seite im Hilfebereich erklärt. Wenn ein Inhalt entfernt wird, hat der Nutzer die Möglichkeit, „der Entscheidung zu widersprechen“. Eine Überprüfung kann nicht garantiert werden, aber einige Entscheidungen werden nach einem Einspruch überprüft, wenn die Kapazitäten vorhanden sind. Meta informierte das Oversight Board, dass das Unternehmen zwischen März 2020 und Juli 2022 27 Millionen Inhalte aufgrund von COVID-19-Fehlinformationen von Facebook und Instagram entfernt habe. Von diesen 27 Millionen entfernten Inhalten wurden 1,3 Millionen aufgrund ein Einsprüchen, die geprüft werden konnten, wiederhergestellt.

Externe Faktenprüfung und Herabstufung von Fehlinformationen

20. Inhalte, die nicht unter die zu entfernenden Behauptungen fallen, aber möglicherweise COVID-19-Fehlinformationen darstellen, durchlaufen die externe Faktenprüfung. Technologien für maschinelles Lernen spüren Posts auf, die wahrscheinlich Fehlinformationen enthalten, und senden sie an externe Faktenprüfer. Meta arbeitet bei der Prüfung und Kennzeichnung von Inhalten mit Organisationen für die unabhängige Faktenprüfung zusammen. Das Unternehmen beurteilt nicht die Leistung von Faktenprüfern. Es verlässt sich darauf, dass das International Fact-Checking Network ( IFCN) Organisationen beurteilt und die Qualität gewährleistet. Organisationen für die Faktenprüfung werden vom IFCN auf die Einhaltung bestimmter Grundsätze hin überprüft. Dazu gehören die Verpflichtung zur Unparteilichkeit und Fairness, Transparenz von Quellen, Transparenz der Finanzierung und eine Richtlinie zu offenen, ehrlichen Korrekturen.

21. Inhalte, die zur Faktenprüfung eingesendet werden, werden in den Feeds der Nutzer möglicherweise vorübergehend weiter unten angezeigt, besonders wenn sie viral gehen, bevor sie überprüft wurden. Meta nutzt einen Ranking-Algorithmus zur Priorisierung von Inhalten für Faktenprüfer. Inhalte, die viral gehen, werden in der Liste der Faktenprüfer priorisiert. Als Antwort auf die Frage des Boards informierte Meta das Board, dass die überwiegende Mehrheit an Inhalten in der Liste für die Faktenprüfung nie von Faktenprüfern geprüft wird. Laut Meta sind die meisten Inhalte in der Liste nicht falsch. Für diese Behauptung legte Meta keine entsprechenden Belege vor. Laut Meta priorisieren Faktenprüfungspartner nachweislich falsche Behauptungen oder eindeutige Hoaxes, die sich nicht auf Fakten stützen und die topaktuell und folgenreich sind. Faktenprüfer können zudem selbstständig Inhalte zur Prüfung suchen, die nicht in der von Meta bereitgestellten Liste aufgeführt sind.

22. Posts und Werbeanzeigen von Politikern können keiner Faktenprüfung unterzogen werden. „Politiker“ sind nach der Definition von Meta „Kandidaten für politische Ämter, Amtsinhaber und darüber hinaus viele Kandidaten für Ministerämter sowie politische Parteien und deren Parteiführung“. Laut Meta existiert diese Richtlinie, da „politische Reden [in vollentwickelten Demokratien mit freier Presse] die meist geprüften Reden überhaupt sind [und] eine Einschränkung von politischen Reden [...] dazu führen würde, dass Menschen weniger gut darüber informiert sind, was ihre gewählten Vertreter sagen, und dass Politiker weniger für ihre Aussagen zur Verantwortung gezogen werden“.

23. Faktenprüfer können Inhalte als „falsch“, „verfälscht“, „teilweise falsch“ oder „fehlender Kontext“ bewerten. Meta kennzeichnet die Inhalte entsprechend und stellt einen Link zum Artikel des Faktenprüfers zu dem Thema bereit. Um den Artikel zu lesen, muss der Nutzer Facebook verlassen und auf eine andere Seite gehen, die die Nutzung zusätzlicher Daten erfordert. Für einige Nutzer in Ländern, in denen die Meta-Plattformen ein Zero-Rating erhalten haben (d. h. Nutzer zahlen keine Daten- oder anderen Gebühren für den mobilen Zugriff auf Meta-Apps), verursacht dies zusätzliche Kosten. Inhalte, die als „falsch“ oder „verfälscht“ gekennzeichnet sind, werden mit einer Warnmeldung versehen, die den Inhalt verdeckt und ein Click-Through erfordert, damit der Nutzer diesen sehen kann. Inhalte, die als „teilweise falsch“ und „fehlender Kontext“ gekennzeichnet sind, werden nicht unkenntlich gemacht. Meta berichtete dem Board, dass in den 90 Tagen vor dem 9. Dezember 2022 10 % der Facebook-Nutzer und 43 % der Instagram-Nutzer einen Post, der als „falsch“ oder „verfälscht“ gekennzeichnet und entsprechend durch eine Warnmeldung verdeckt war, angeklickt hatten, um den Inhalt zu sehen. Im selben Zeitraum berichtete Meta, dass durchschnittlich 3 % der Facebook-Nutzer und 19 % der Instagram-Nutzer bei Posts mit der Kennzeichnung „falsch“, „verfälscht“, „teilweise falsch“ oder „fehlender Kontext“ auf die Schaltfläche „Grund anzeigen“ geklickt hatten. Dadurch wird der Nutzer auf eine neue Seite weitergeleitet, die Informationen dazu, warum der Inhalt so bewertet wurde, und Links zum Artikel des Faktenprüfers enthält.

24. Wenn ein Inhalt von Faktenprüfern gekennzeichnet wird, zeigt Meta ihn im Nutzer-Feed weiter unten an. Die Herabstufung, die auf COVID-19-Fehlinformationen mit der Kennzeichnung „falsch“, „verfälscht“ und „teilweise falsch“ angewendet wird, ist stärker als die für Inhalte mit der Kennzeichnung „fehlender Kontext“. Laut Meta variieren die Auswirkungen einer Herabstufung eines Inhalts innerhalb des Nutzer-Feeds. Der Inhalt, der einem Nutzer angezeigt wird, ist laut Meta so personalisiert, dass der Nutzer die Inhalte angezeigt bekommt, die für ihn am ehesten von Interesse sind. Eine Herabstufung eines Inhalts führt zu einer Verringerung seines Ranking-Scores. Das bedeutet nicht, dass die Aufrufe für den Inhalt um eine bestimmte Zahl oder Prozentzahl zurückgegangen sind. Wie wahrscheinlich es ist, dass ein bestimmter Nutzer einen herabgestuften Inhalt sieht, hängt vom Ranking-Score für diesen Inhalt im Verhältnis zu anderen Inhalten im Feed des Nutzers ab. Demzufolge wirken sich Herabstufungen abhängig vom Nutzer und seinem Content-Bestand unterschiedlich auf Inhalte aus. Wenn Inhalte in einer Gruppe oder von einem Nutzer mit einer großen Follower-Zahl geteilt werden, ist ihr Ranking-Score für Follower und Personen, die regelmäßig mit der Gruppe oder Seite interagieren, wahrscheinlich höher als oder ähnlich wie der Ranking-Score anderer Inhalte im Feed. Das bedeutet, dass eine Herabstufung möglicherweise nicht den beabsichtigten Effekt hat.

25. Wenn ein Faktenprüfer feststellt, dass von einer Seite oder Gruppe erstellte Inhalte gegen die Unternehmensrichtlinie zu Fehlinformationen verstoßen, können die Seitenmanager oder Gruppenadministratoren Einspruch einlegen. Facebook-Profile können keinen Einspruch gegen eine Faktenprüfungskennzeichnung einlegen. Gegen Gruppenverstöße kann über die Facebook-App unter iOS und Android oder über den Webbrowser Einspruch eingelegt werden. Gegen Seitenverstöße kann über den Webbrowser kein Einspruch eingelegt werden. Laut Facebook-Hilfebereich „ist diese Produktfunktion für den Einspruch derzeit nur für Gruppenadministratoren und Seitenmanager in einigen Ländern verfügbar. Alle anderen Nutzer können weiterhin per E-Mail einen Einspruch an Faktenprüfer senden.“

26. In seinem Antrag an das Oversight Board erklärte Meta, dass die Anzahl der verfügbaren Faktenprüfer, die Inhalte beurteilen, immer begrenzt sein wird. Als Meta das Oversight Board bat, die verschiedenen verfügbaren Ansätze zum Umgang mit COVID-19-Fehlinformationen zu beurteilen, erklärte das Unternehmen, dass Faktenprüfer nicht in der Lage wären, sich alle COVID-19-Inhalte auf den Plattformen anzusehen, falls sich das Unternehmen ausschließlich oder überwiegend auf die Faktenprüfung verließe. Einige Fehlinformationen könnten somit nicht auf Richtigkeit geprüft, herabgestuft und gekennzeichnet werden.

Anwendungen von Kennzeichnungen

27. Meta wendet zudem zwei Arten von sogenannten „neutralen Informationsmaßnahmen“ (NITs) an, nämlich Kennzeichnungen für neutrale Informationen und „Fakten zu X“-Informationsmaßnahmen bzw. FAXITs. Diese werden direkt von Meta angewendet, ohne dass Faktenprüfer involviert sind. FAXITs enthalten eine relevante Aussage zum Inhalt, der in dem Post geteilt wird, bevor Nutzer an das Informationszentrum weitergeleitet werden. Meta nutzt zwei FAXIT-Kennzeichnungen: (1) „COVID-19-Impfstoffe werden umfassend auf Sicherheit und Wirksamkeit getestet und engmaschig überwacht“ und (2) „Einige nicht zugelassene COVID-19-Behandlungsverfahren können ernsthafte Schäden verursachen.“ Jeder Inhalt, der durch einen Classifier als Inhalt zu COVID-19 identifiziert wird, erhält eine Kennzeichnung. Der Inhalt kann wahr oder falsch sein. Die Kennzeichnung trifft keine Aussage über den Inhalt selbst. Alle NITs leiten Nutzer an das COVID-19-Informationszentrum von Meta weiter.

28. Während der Diskussion rund um diesen Antrag auf beratende Stellungnahme zur Richtlinie informierte Meta das Oversight Board, dass es seine NITs ab 19. Dezember 2022 reduzieren werde. Die Entscheidung basierte auf einem weltweiten Test, den die Produkt- und Integritätsteams von Meta zur Wirksamkeit von NITs bei der Einschränkung der Verbreitung von COVID-19-Fehlinformationen auf der Plattform durchgeführt hatten. Der Test involvierte eine Kontrollgruppe, die weiterhin COVID-19-NITs ohne Einschränkungen sahen. Außerdem wurden drei weitere Testgruppen eingerichtet: Die erste Gruppe konnte alle drei Tage von jedem COVID-19-NIT jeweils einen sehen, die zweite Gruppe konnte alle 30 Tage von jedem COVID-19-NIT jeweils einen sehen und die dritte Gruppe sah überhaupt keine Kennzeichnungen. Laut dem Unternehmen hatte die zweite Gruppe (die alle 30 Tage von jedem NIT jeweils einen sah) die höchste Click-Through-Rate zu maßgeblichen Informationen aller Gruppen, einschließlich der Kontrollgruppe. Auch die durchschnittliche Zeit, die mit dem Ansehen der NITs verbracht wurde, war in dieser Gruppe am längsten. Außerdem gab es „keinen statistisch signifikanten Rückgang“ bei der Verbreitung von COVID-19-Fehlinformationen zwischen der Kontrollgruppe und den Testgruppen. Aufgrund der Testergebnisse informierte Meta das Oversight Board, dass es ab 19. Dezember 2022 die Anzahl an COVID-19-NITs, die Nutzer auf den Plattformen sehen können, auf eine COVID-19-Kennzeichnung von jeder Art alle 30 Tage reduziert habe. Anschließend informierte Meta das Oversight Board, dass das Unternehmen die Nutzung von COVID-19-NITs eingestellt habe, sodass Nutzer insgesamt weniger Kennzeichnungen sehen. Dadurch soll sichergestellt werden, dass NITs auch bei weiteren Gesundheitsnotständen noch wirksam sind.

Sanktionen

29. Meta wendet Sanktionen auf Kontoebene und Gruppenebene an, die sich auf die Verbreitung von Fehlinformationen auswirken. Profile, Seiten oder Gruppen, die Inhalte posten, welche im Rahmen dieser Richtlinie entfernt oder als „falsch“ oder „verfälscht“ gekennzeichnet werden, erhalten eine Verwarnung, werden aus den Empfehlungen entfernt und können mit ihrer Seite kein Geld mehr verdienen. Sobald eine bestimmte Anzahl an Verwarnungen erreicht ist, werden Besuchern der Seite oder Gruppe Popups angezeigt, dass diese Seite Fehlinformationen geteilt hat. Laut der Seite im Hilfebereich können Seiten, Gruppen und Instagram-Konten darüber hinaus entfernt werden, „wenn sie Inhalte geteilt haben, die gegen die Richtlinien zu COVID-19 und Impfstoffen verstoßen, und sie außerdem speziell dafür eingesetzt werden, sonstige Informationen zur Verurteilung von Impfungen auf der Plattform zu teilen“.

IV. Externe Beteiligung

30. Bei der Erstellung dieser beratenden Stellungnahme zur Richtlinie bezog das Oversight Board sowohl Stakeholder als auch Meta auf mehrere Arten mit ein.

Öffentliche Kommentare

31. Das Oversight Board erhielt im August 2022 181 öffentliche Kommentare zu dieser beratenden Stellungnahme zur Richtlinie. Vier Kommentare stammten aus Lateinamerika und der Karibik, fünf aus Zentral- und Südasien, acht aus dem Asien-Pazifik-Raum und Ozeanien, 81 aus Europa und 83 aus den USA und Kanada. Das Board erhielt keine öffentlichen Kommentare aus dem Nahen Osten und Nordafrika und keine aus Subsahara-Afrika.

32. Folgende Themen wurden in den Einreichungen angesprochen:

• Eine Einreichung des Khazanah Research Institute (PC-10703), ein Richtlinienforschungsinstitut in Malaysia, betonte die unterschiedlichen Zugangsmöglichkeiten zu verlässlichen Gesundheitsinformationen in verschiedenen Ländern und die unterschiedlichen Risiken, die sich ergeben, wenn Fehlinformationen unmoderiert bleiben. Wenn eine global angewandte Vorgehensweise nötig ist, sollte Meta nach Empfehlung der Einreichung lieber Vorsicht walten lassen und weiterhin schädliche COVID-19-Fehlinformationen entfernen. Die Einreichung verwies auch darauf, dass eine klare Definition von „unmittelbar bevorstehendem körperlichem Schaden“ fehle und wie wichtig das Verstehen des Kontexts, die kontinuierliche Überwachung und die Transparenz bei der Durchsetzung seien, um zu gewährleisten, dass die Nutzung dieses Standards effektiv beurteilt werden könne.
• Die Einreichung der American Civil Liberties Union (PC-10759) gab zu bedenken, dass Meta aufgrund der schwierigen Unterscheidung zwischen Fakt und Fiktion sowie zwischen Meinung, Erfahrung und Beteuerung von Fakten in großem Umfang Diskussionen einschränken wird, die gestattet werden sollten.
• Die Einreichung der US-amerikanischen gemeinnützige Organisation Asian Americans Advancing Justice (PC-10751) merkte an, dass asiatische Amerikaner dafür verantwortlich gemacht würden, dass das Virus in die USA gelangen konnte.
• Eine Einreichung von Professor Simon Wood von der Universität Edinburgh (PC-10713) äußerte Bedenken, dass Faktenprüfer nicht über ausreichendes technisches Wissen verfügten, um komplexe wissenschaftliche Abhandlungen und Belege effektiv zu prüfen.
• Die Einreichung von Media Matters for America (PC-10758) lenkte die Aufmerksamkeit auf die Tatsache, die das Cross-Check-System von Meta die Bemühungen zum Umgang mit Fehlinformationen untergrabe. Da Prominente, Politiker, Journalisten und andere bekannte Nutzer „eine langsamere oder nachsichtigere Durchsetzung“ bei Inhaltsverstößen erführen, würden Fehlinformationen auf der Plattform verbleiben.
• Mehrere Einreichungen verwiesen auf Metas Verantwortung angesichts seiner Reichweite und der Rolle seiner Systeme bei der zunehmenden Verbreitung von Fehlinformationen, die Risiken für die öffentliche Sicherheit anzugehen. Es wurden Bedenken zur Angemessenheit von Kennzeichnungen und Herabstufungen im Umgang mit dem Risiko von Schäden geäußert. Beispielsweise betonte die Einreichung des Senior Vice President des Center of Internet and International Studies (PC-10673) die Bedenken, dass Kennzeichnungen nicht ausreichend seien, um die Verbreitung von Fehlinformationen durch Politiker und prominente Influencer einzudämmen. Die Begründung lautete: „Eine einfache Kennzeichnung ist angesichts des potenziellen Risikos nicht ausreichend. Die Veröffentlichung von falschen Information zuzulassen, die das Risiko für Todesfälle oder schwerwiegende Erkrankungen erhöhen, bedeutet, sich seiner Verantwortung zu entziehen.“
• Mehrere Einreichungen empfahlen, sich auf Kennzeichnungen und Herabstufungen zu stützen, anstatt Fehlinformationen zu entfernen. Eine Einreichung von Assistant Professor Saiph Savage der Northeastern University und der Universidad Nacional Autónoma de México (UNAM) (PC-10519) lenkte die Aufmerksamkeit auf die Auswirkungen der Entfernungsrichtlinie und der entsprechenden Sanktionen auf indigene Communitys und Positionierungen und merkte an, dass indigene Communitys „sich aufgrund ihrer religiösen Überzeugungen für andere Best Practices im Umgang mit COVID-19 ausgesprochen haben“.

33. Die öffentlichen Kommentare, die zu dieser beratenden Stellungnahme zur Richtlinie eingereicht wurden, können hier eingesehen werden.

Round-Table-Gespräche mit regionalen Stakeholdern

34. Das Oversight Board besprach sich im Rahmen einer Reihe regionaler Round-Table-Gespräche mit weiteren Stakeholdern. Das Board berief in Zusammenarbeit mit privaten Organisationen sechs Round-Table-Gespräche mit Stakeholdern aus Nordamerika, Lateinamerika, Afrika, Asien und Europa ein. Im Rahmen dieser Round-Table-Gespräche sprach das Oversight Board mit rund 100 Personen, darunter Vertreter von Faktenprüfungsorganisationen, Gesundheitsbehörden und Experten für öffentliche Gesundheit, Forscher im Bereich Fehlinformationen, Experten für digitale Kenntnisse und Kommunikation sowie Menschenrechtsanwälte. Dieser Austausch fand gemäß der Chatham House-Regel statt, um eine offene Diskussion zu gewährleisten und die Teilnehmer zu schützen.

35. Während dieser Gespräche ergaben sich folgende Themen und Probleme:

• Zu den in allen Regionen häufigen Problemen gehören: fehlende Daten und die Herausforderung, angesichts des fehlenden Zugriffs auf Daten und interne Recherchen von Meta sowohl den Umfang von Fehlinformationen in den Ländern als auch die Auswirkungen der existierenden Meta-Richtlinien zu ermitteln; die beträchtliche Menge an Fehlinformationen zum Schweregrad des Virus, zu Hausmitteln und alternativen Behandlungsmethoden (darunter die Befürwortung von Bleiche), zum Zusammenhang der Pandemiemaßnahmen mit 5G-Technologie und Fehlinformationen rund um die Ablehnung von Impfungen; Bedenken, dass die Entfernungsrichtlinie zu einer übermäßigen Durchsetzung führen kann, wodurch Diskussionen eingeschränkt werden; die Notwendigkeit, die zugrundeliegende Facebook-Architektur zu überarbeiten, die Fehlinformationen fördert; die finanziellen und/oder politischen Motive von Personen, die Fehlinformationen in großem Umfang verbreiten; die Tatsache, dass COVID-19-Fehlinformationen nicht nur den Gesundheitsnotstand verschärfen, sondern auch das Vertrauen der Menschen in Einrichtungen, wissenschaftliche Kommunikation und wissenschaftliche und medizinische Behandlungen wie Impfungen schwächen.
• Zu den von Stakeholdern identifizierten Problemen in Lateinamerika gehören: die Faktenprüfung kann wirksam sein, doch Fehlinformationen werden häufig erst dann gekennzeichnet, wenn die Inhalte die Zielgruppe bereits erreicht haben; vorgebrachte Bedenken, dass die Faktenprüfung nicht skalierbar ist und es deutlich weniger Informationen in anderen Sprachen als Englisch gibt; organisierte Belästigung von Wissenschaftlern, die Fehlinformationen anzweifeln; einzelne Faktenprüfer wurden bedroht und belästigt, einige haben aus Angst um ihre körperliche Unversehrtheit ihr Land oder ihre Region verlassen; Faktenprüfungsorganisationen wurden aufgrund der Faktenprüfung verklagt und mussten sich gerichtlich verteidigen, wodurch ihre ohnehin begrenzten Ressourcen weiter strapaziert wurden; Politiker und prominente Personen werden keiner Faktenprüfung unterzogen; Experten für öffentliche Gesundheit und Mitarbeiter im Gesundheitswesen haben nicht die Kenntnisse oder Kapazitäten, um effektiv gegen Fehlinformationskampagnen vorzugehen, besonders gegen die von bekannten Influencern oder Schauspielern mit politischen oder wirtschaftlichen Interessen geführten Kampagnen, wie die Befürwortung unwirksamer alternativer COVID-19-Medikamente.
• Zu den von Stakeholdern identifizierten Problemen in Nordamerika gehören: medizinische Fachkräfte berichteten von der großen Belastung für Gesundheitsversorger aufgrund des Umgangs mit Fehlinformationen, der viel Zeit und Ressourcen in Anspruch nimmt und zu Burnouts führt; die Notwendigkeit von besseren, gerechteren Einspruchsverfahren für Nutzer, deren Inhalte entfernt wurden; Bedenken, dass sich ein großer Teil der Forschung zur Verbreitung von Fehlinformationen und zur Wirksamkeit der verschiedenen Interventionen auf die USA und Westeuropa konzentriert; vorgebrachte Bedenken, dass die Faktenprüfung nicht skalierbar ist und es deutlich weniger Informationen in anderen Sprachen als Englisch gibt; die Notwendigkeit wirksamerer Sanktionen für Konten; Bedenken, dass eine uneinheitliche Entfernung von Fehlinformationen existierende Verschwörungstheorien erneut befeuern könnte; die Schwierigkeit der Inhaltsmoderation bei Videoformaten.
• Zu den von Stakeholdern identifizierten Problemen in Asien gehören: zu Beginn der Pandemie waren viele Fehlinformationen im Umlauf und wurden über soziale und traditionelle Medien verbreitet; Fehlinformationen in vielen Ländern zielen auf Minderheiten oder gefährdete Bevölkerungsgruppen ab, beispielsweise Wanderarbeiter oder religiöse Minderheiten, die das Virus verbreitet haben sollen; die Faktenprüfung kann mit den Fehlinformationen nicht Schritt halten und erfolgt häufig zu spät; Regierungen haben die in Fehlinformationen enthaltenen Bedrohungen dazu genutzt, Medienagenturen anzugreifen und anders lautende Stimmen zum Schweigen zu bringen; faktengeprüfte Artikel sind nicht so leicht abrufbar oder so ansprechend wie Inhalte, die Fehlinformationen enthalten; eine bessere Abstimmung zwischen Faktenprüfungsorganisationen in der Region wäre hilfreich, da sich dieselben oder ähnliche Geschichten von Land zu Land verbreiten; Faktenprüfungsorganisationen haben nicht die Ressourcen, faktengeprüfte Artikel in der Vielzahl der Sprachen zur Verfügung zu stellen, die in den meisten Ländern gesprochen werden.
• Zu den von Stakeholdern identifizierten Problemen in Afrika gehören: religiöse Oberhäupter in Afrika waren prominente Verbreiter von Fehlinformationen; Regierungen und Oppositionsparteien waren prominente Verbreiter von COVID-19-Fehlinformationen; Misstrauen gegenüber der Regierung und öffentlichen Einrichtungen bot einen Nährboden für Fehlinformationen; Gesundheitsbehörden standen bei der Kommunikation mit der Öffentlichkeit vor enormen Herausforderungen und es gibt zwischen den einzelnen Ländern starke Abweichungen bei der Effektivität von Gesundheitsbehörden und der Verfügbarkeit von Ressourcen; die Faktenprüfung ist nicht in allen Sprachen verfügbar, was ihre Wirksamkeit begrenzt.
• Zu den von Stakeholdern identifizierten Problemen in Europa gehören: die Auswirkungen von Fehlinformationen variieren je nach Land, abhängig von digitalen Kenntnissen, Vertrauen in Regierung und Gesundheitseinrichtungen und einer offenen Medienlandschaft; es gibt gewisse Bedenken, dass die Entfernung von Fehlinformationen die offene Debatte über Angelegenheiten von öffentlichem Interesse einschränkt; manche argumentieren, dass besonders gefährdete Bevölkerungsgruppen am stärksten von Fehlinformationen betroffen sind, beispielsweise immunsupprimierte Personen, Kinder, Personen mit schlechten digitalen Kenntnissen oder wenig Zugang zu vielfältigen Medien sowie Personen, die keinen Zugang zu einer adäquaten Gesundheitsversorgung haben; die abschreckende Wirkung von Fehlinformationen auf die Entscheidungsfindung von Menschen; andere erwähnten die Notwendigkeit, Verfahren einzuführen, die eine offene Diskussion öffentlicher Gesundheitsmaßnahmen wie Gesichtsmasken oder Social Distancing zulassen; manche betonten, dass Fehlinformationen, die von einer Plattform entfernt werden, mühelos auf andere Plattformen gelangen, somit braucht es einen koordinierten Ansatz; die Notwendigkeit, Fehlinformationen vorzubeugen, statt auf sie zu reagieren; die Notwendigkeit, gute und korrekte Informationen auf den Meta-Plattformen zu verbreiten.

Einbindung von Meta

36. Nachdem Meta seinen Antrag auf beratende Stellungnahme zur Richtlinie eingereicht hat, sendete das Oversight Board dem Unternehmen zwischen Juli und Dezember 2022 50 schriftliche Fragen. Diese wurden von Meta schriftlich oder in drei Frage-und-Antwort-Sitzungen mündlich beantwortet. Dabei wurden 40 Fragen vollständig beantwortet, zehn Fragen nur teilweise. Die teilweisen Antworten ergaben sich durch Aufforderungen, Daten nach Region und Sprache aufzuschlüsseln, durch interne Forschung zur Wirksamkeit verschiedener Durchsetzungsmaßnahmen und durch die Gewichtung gegensätzlicher Überlegungen und Expertenratschläge durch das Unternehmen bei der Ausarbeitung seiner Richtlinie. Das Board übermittelte Fragen zu folgenden Punkten: Metas interne Daten oder Forschung zur Verbreitung von COVID-19-Fehlinformationen auf den Meta-Plattformen, weltweit und nach Land und Sprache aufgeschlüsselt; eingesetzte Verfahren und Maßnahmen zur Durchsetzung der Entfernungsrichtlinie und Daten zur Anzahl der entfernten Inhalte; öffentliche Bekanntgabe von Durchsetzungsdaten für den Gemeinschaftsstandard zu Fehlinformationen; Rolle von Gesundheitsbehörden und Experten für öffentliche Gesundheit bei der Ausarbeitung und Durchsetzung der Entfernungsrichtlinie; jegliche Forschung zu Wirksamkeit und Auswirkungen der Entfernung von COVID-19-Fehlinformationen; jegliche Forschung zu Wirksamkeit und Auswirkungen von anderen Maßnahmen, darunter Faktenprüfung, neutrale Kennzeichnungen und Herabstufungen; Rolle von externen Faktenprüfungsorganisationen; verhängte Sanktionen für COVID-19-Fehlinformationen; interne Richtlinien, die die Richtlinie zu COVID-19-Fehlinformationen implementieren; ob das Unternehmen den Effekt des Cross-Check-Programms auf die Wirksamkeit der Richtlinie zu COVID-19-Fehlinformationen beurteilt hatte; Prozess zur Einbeziehung der Stakeholder und befragte Experten bei der Ausarbeitung dieser Richtlinie und Beurteilung des erhaltenen Inputs durch Meta; Machbarkeit der Einführung einer differenzierten Durchsetzung der Richtlinie, wobei die Entfernung nur in einigen Ländern durchgesetzt würde, in anderen nicht; zusätzliche alternative Maßnahmen, darunter Investitionen in digitale Kenntnisse.

V. Rahmenwerk zur Analyse und Beurteilung der Richtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen durch das Oversight Board

37. In seinem Antrag stellte Meta dem Board die Frage, ob im Rahmen der Richtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen weiterhin bestimmte Inhalte zu COVID-19 entfernt werden sollten oder ob ein weniger restriktiver Ansatz den Werten des Unternehmens und dessen Verantwortung zur Einhaltung der Menschenrechte besser entsprechen würde. Um diese Frage zu beantworten, analysierte das Oversight Board, ob die Richtlinie Metas Werten und Verpflichtungen hinsichtlich der Menschenrechte entspricht, einschließlich der Tatsache, ob sie notwendig und zum aktuellen Zeitpunkt angemessen ist, oder ob das Unternehmen einen weniger restriktiven Ansatz beim Umgang mit Fehlinformationen zu COVID-19 verfolgen sollte. Die aus dieser Analyse abgeleiteten Empfehlungen werden im finalen Abschnitt dieser beratenden Stellungnahme zur Richtlinie genannt.

38. Bei der Darlegung der Strategie, die Meta bei der Ausarbeitung seiner Richtlinie zu COVID-19-Fehlinformationen verfolgte, verwies Meta auf die enormen Abweichungen zwischen Experten verschiedener Disziplinen und Stakeholdern in verschiedenen Regionen in Hinblick auf Risiko und Abwehrmaßnahmen. Das Oversight Board hörte bei seinen eigenen Recherchen und der Einbeziehung der Stakeholder ebenfalls unterschiedliche und gegensätzliche Meinungen zu den Risiken, die damit einhergehen würden, COVID-19-Fehlinformationen auf den Plattformen zu belassen, sowie zur Wirksamkeit verschiedener Maßnahmen im Umgang mit diesen Risiken.

39. Es gibt keine einzelne, vereinbarte Lösung für das Problem von COVID-19-Fehlinformationen und die Risiken, die diese für Rechte, Leben und Gesundheit von Menschen darstellen, insbesondere für besonders gefährdete Gruppen. Ein regional begründeter Ansatz würde die notwendige Verbindung zwischen Fehlinformationen und unmittelbar bevorstehendem körperlichem Schaden besser verdeutlichen. Allerdings musste das Oversight Board auch Metas Angaben zu den derzeitigen Einschränkungen der vorhandenen Systeme und der weltweiten Weiterverbreitung von COVID-19-Fehlinformationen berücksichtigen. Die Mitglieder des Oversight Boards reagierten unterschiedlich auf diese Bedenken. Diese beratende Stellungnahme zur Richtlinie führt die verschiedenen Sichtweisen innerhalb des Boards zusammen, soweit dies möglich ist. Sie ist das Ergebnis eines wohl überlegten Kompromisses für die schwierige Anforderung, den weltweit unterschiedlichen Ansätzen zu COVID-19-Fehlinformationen angesichts eines Gesundheitsnotstands Rechnung zu tragen, wobei die angegebenen technischen Einschränkungen von Meta berücksichtigt werden mussten. Daher repräsentiert sie möglicherweise nicht die persönliche Ansicht jedes einzelnen Board-Mitglieds.

Die Werte von Meta

40. Die Werte von Meta werden in der Einführung der Facebook-Gemeinschaftsstandards dargelegt. Der Wert der „Mitsprache“ hat laut dieser Einführung „höchste Priorität“. Meta beschränkt die „Mitsprache“ zugunsten von vier anderen Werten, von denen zwei für diesen Fall relevant sind: „Sicherheit“ und „Würde“. Um den Wert „Sicherheit“ zu gewährleisten, „entfernt [Meta] Inhalte, die zu einem Risiko für die physische Sicherheit von Personen beitragen könnten“. Der Wert „Würde“ besagt, dass „alle Menschen gleich an Würde und Rechten sind“. Deshalb wird von Nutzern erwartet, „dass [sie] die Würde anderer achten und andere nicht belästigen oder erniedrigen“.

41. Das Oversight Board ist der Meinung, dass die Meta-Richtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen die Werte „Mitsprache“, „Sicherheit“ und „Würde“ erfüllt. Bei einem Gesundheitsnotstand besteht ein beträchtliches Risiko. Der Wert „Mitsprache“ kann zugunsten des Wertes „Sicherheit“ für Fehlinformationen zur Gesundheit, die „wahrscheinlich direkt zum Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen“, eingeschränkt werden. Ein unmittelbar bevorstehender Schaden durch COVID-19-Fehlinformationen trifft überproportional auf besonders gefährdete Gruppen zu, darunter immunsupprimierte Personen und Menschen mit Vorerkrankungen oder Behinderungen, arme Gemeinden und ältere Menschen sowie Mitarbeiter im Gesundheitswesen.

Menschenrechtliche Verantwortung von Meta

42. Am 16. März 2021 gab Meta seine Unternehmensrichtlinie für Menschenrechte bekannt. Darin legt das Unternehmen seine Verpflichtung zur Einhaltung der UN-Leitprinzipien für Wirtschaft und Menschenrechte (UN Guiding Principles on Business and Human Rights; UNGPs) dar. Die UNGPs, die 2011 vom UN-Menschenrechtsrat verabschiedet wurden, geben einen freiwilligen Rahmen für die Menschenrechtspflichten von Privatunternehmen vor.

43. Laut Prinzip 12 der UNGPs bezieht sich die Verantwortung von Unternehmen, die Menschenrechte zu respektieren, auf international anerkannte Menschenrechte, mindestens jedoch auf die Rechte in der Internationalen Menschenrechtscharta. Diese umfasst die Allgemeine Erklärung der Menschenrechte, den Internationalen Pakt über bürgerliche und politische Rechte (ICCPR) und den Internationalen Pakt über wirtschaftliche, soziale und kulturelle Rechte (ICESCR). Diese Verantwortung bedeutet, dass Unternehmen „Menschenrechtsverletzungen vermeiden und negative Auswirkungen auf die Menschenrechte, in die sie involviert sind, angehen sollten“ (Prinzip 11). Von Unternehmen wird erwartet, dass sie: „(a) es vermeiden, durch ihre eigenen Aktivitäten negative Auswirkungen auf die Menschenrechte zu verursachen oder dazu beizutragen, und solche Auswirkungen angehen, wenn sie auftreten; (b) versuchen, negative Auswirkungen auf die Menschenrechte, die durch ihre Geschäftsbeziehungen direkt mit ihren Verfahren, Produkten oder Diensten zusammenhängen, zu vermeiden oder abzumildern, selbst wenn sie nicht zu diesen Auswirkungen beigetragen haben“ (Prinzip 13).

44. Prinzip 17 besagt darüber hinaus, dass Unternehmen „menschenrechtliche Sorgfalt“ walten lassen sollten, um „negative Auswirkungen auf die Menschenrechte zu identifizieren, zu verhindern, abzumildern und für ihren Umgang damit Rechnung zu tragen“. Dazu gehört, die tatsächlichen und potenziellen Auswirkungen auf die Menschenrechte zu beurteilen, die Ergebnisse zu berücksichtigen und entsprechende Maßnahmen zu ergreifen, die Reaktionen aufzuzeichnen und mitzuteilen, wie Auswirkungen gehandhabt werden. Die Verantwortung, menschenrechtliche Sorgfalt walten zu lassen, besteht kontinuierlich, da sich Risiken für Menschenrechte im Laufe der Zeit ändern können, wenn sich der Betrieb und die Betriebsumgebung des Unternehmens weiterentwickeln. Prinzip 20 schließlich legt fest, dass Unternehmen die Wirksamkeit ihrer Reaktion anhand geeigneter qualitativer und quantitativer Indikatoren nachverfolgen und auf Feedback von internen und externen Quellen, darunter betroffene Stakeholder, zurückgreifen sollten.

45. Das Board hat bei seiner Analyse dieser beratenden Stellungnahme zur Richtlinie folgende Menschenrechtsstandards berücksichtigt:

• Das Recht auf freie Meinungsäußerung gemäß Artikel 19, Absatz 2 des ICCPR. Dieser Artikel sieht einen umfassenden Schutz des Rechts auf freie Meinungsäußerung über alle Medien und ohne Rücksicht auf Grenzen vor. Das Recht auf freie Meinungsäußerung erstreckt sich auch auf das Recht, Informationen jeglicher Art einzuholen, zu erhalten und preiszugeben.
• Das Recht auf Leben (Artikel 6, ICCPR): Jeder Mensch hat ein angeborenes Recht auf Leben.
• Das Recht auf Gesundheit (Artikel 2 und 12, ICESCR): Das Recht jedes Menschen auf das für ihn erreichbare Höchstmaß an körperlicher und geistiger Gesundheit. Art. 12(2) besagt, dass zur Verwirklichung dieses Rechts die „Schaffung von Voraussetzungen [gehört], die für jedermann im Krankheitsfall den Genuss medizinischer Einrichtungen und ärztlicher Betreuung sicherstellen“. Dies umfasst „zugrundeliegende Bestimmungsfaktoren für die Gesundheit“, beispielsweise Zugang zu gesundheitsbezogener Bildung und Informationen sowie „Beteiligung der Bevölkerung an allen gesundheitsbezogenen Entscheidungen auf Gemeinde-, Landes- und internationaler Ebene“. ( Allgemeine Bemerkung Nr. 14, ICESCR, Absatz 11) Zur Informationsverfügbarkeit gehört das Recht, Informationen und Ideen in Bezug auf Gesundheitsfragen einzuholen, zu erhalten und preiszugeben. Das Recht auf Gesundheit zu schützen, bedeutet, eine berechtigte Diskussion zu Fragen der öffentlichen Gesundheit zuzulassen.
• Das Recht, an den Errungenschaften des wissenschaftlichen Fortschritts und seiner Anwendung teilzuhaben (Artikel 15(1)(b), ICESCR).
• Das Recht auf Nichtdiskriminierung (Artikel 26, ICCPR): Art. 26 verbietet Diskriminierung und garantiert allen Menschen gleichen und wirksamen Schutz vor Diskriminierung aufgrund von geschützten Eigenschaften.
• Das Recht auf wirksame Beschwerde (Artikel 2, ICCPR).

46. Der UN-Sonderberichterstatter zur freien Meinungsäußerung hat darauf hingewiesen, wie wichtig das Recht auf freie Meinungsäußerung im Kontext der COVID-19-Pandemie ist, denn „den Zugriff auf Informationen zu fördern stärkt die Förderung von Gesundheit, Leben, Autonomie und guter Führung“ und „wirkt Diskriminierung aufgrund des Standpunkts entgegen“. ( A/HRC/44/49, Absatz 2, 52) Fehlinformationen während eines Gesundheitsnotstands können sich drastisch auf die Rechte von Menschen auswirken, auf verlässliche Informationen und Gesundheitsratschläge und -ressourcen zuzugreifen, die für den Schutz des Rechts auf Gesundheit und Leben unerlässlich sind. Der UN-Sonderberichterstatter merkte an: „Durch Lügen und Propaganda verlieren Menschen Autonomie, die Fähigkeit zum kritischen Denken oder das Vertrauen in sich selbst und in Informationsquellen sowie das Recht, sich an den Debatten zu beteiligen, die die sozialen Umstände verbessern.“ ( A/HRC/44/49, Absatz 60) Der Sonderberichterstatter bemerkte auch, dass „falsche Informationen von Algorithmen und Geschäftsmodellen gefördert werden, die dafür entwickelt wurden, reißerische Inhalte zu verbreiten, die Nutzer auf Plattformen halten“, und rief Unternehmen dazu auf, „auf diese Probleme [zu] reagieren, nicht nur durch Inhaltsmoderation, sondern auch durch Überprüfung ihrer Geschäftsmodelle“. ( A/HRC/47/25, Absatz 16, 95)

47. Artikel 19 erlaubt, das Recht auf freie Meinungsäußerung unter bestimmten wenigen und begrenzten Bedingungen einzuschränken, die als dreiteilige Prüfung der Gesetzmäßigkeit (Klarheit), der Legitimität und der Notwendigkeit bekannt sind, die auch eine Bewertung der Verhältnismäßigkeit umfasst. Der UN-Sonderberichterstatter zur Meinungsfreiheit und freien Meinungsäußerung ist der Meinung, dass Artikel 19 Absatz 3 des Internationalen Pakts über bürgerliche und politische Rechte einen nützlichen Rahmen für die Moderation von Inhalten durch Plattformen bietet und dass Unternehmen ihre Inhaltsrichtlinien auf Menschenrechtsgrundsätze ausrichten sollten ( A/HRC/38/35, Absatz 10-11, A/74/486, Absatz 58). Das Board hat eingeräumt, dass der ICCPR für Meta zwar keine Verpflichtungen wie für Staaten vorsieht, Meta sich jedoch verpflichtet hat, die Menschenrechte zu achten, wie in den UNGPs dargelegt. ( A/74/486, Absatz 47-48). Daher muss Meta, wenn die Richtlinien des Unternehmens von den hohen Standards abweichen, die Staaten erfüllen müssen, um Einschränkungen der Redefreiheit zu rechtfertigen, eine begründete Erklärung der Richtlinienabweichung vorlegen, die in Einklang mit den Menschenrechtsstandards steht, zu denen sich das Unternehmen verpflichtet hat (Absatz 47-48).

Gesetzmäßigkeit (Klarheit und Zugänglichkeit der Regeln)

48. Jede Einschränkung der freien Meinungsäußerung sollte zugänglich und in Umfang, Bedeutung und Wirkung so klar formuliert sein, dass sie Nutzern und Inhaltsprüfern eine Orientierung dafür bietet, welche Inhalte auf der Plattform erlaubt sind und welche nicht. Mangelnde Klarheit oder Präzision kann zu einer uneinheitlichen und willkürlichen Durchsetzung der Regeln führen. ( A/HRC/47/25, Absatz 40).

49. Das Oversight Board empfahl in seiner Entscheidung zu „Aussage über COVID-Behandlung“ [2020-006-FB-FBR], dass Meta „einen klaren und zugänglichen Gemeinschaftsstandard zu gesundheitsbezogenen Fehlinformationen darlegt, in dem die bestehenden Regeln an einem Ort zusammengeführt und verdeutlicht werden (einschließlich wichtiger Begriffe wie Fehlinformationen). Diese Regelsetzung sollte von ‚ausführlichen, hypothetischen Beispielen begleitet werden, die die Auslegungs- und Anwendungsnuancen [dieser] Regeln veranschaulichen, um Nutzern eine größere Klarheit zu geben‘.“ Als Reaktion auf die Empfehlung des Boards erstellte Meta den Gemeinschaftsstandard zu Fehlinformationen. Zudem veröffentlichte das Unternehmen einen Artikel in seinem Hilfebereich, der eine Liste der Behauptungen enthält, die entfernt werden, sowie häufige Fragen zur Durchsetzung der Richtlinie, einschließlich dazu, wie das Unternehmen im Rahmen dieser Richtlinie mit Humor, Satire und persönlichen Anekdoten umgeht. Das Board lobt das Unternehmen für diese Schritte.

50. Die Behauptungen, die im Rahmen dieser Richtlinie entfernt werden, sind teilweise allgemein, teilweise sehr konkret angegeben. Beispielsweise sind einige Behauptungen, die derzeit entfernt werden, von Meta klar definiert (z. B. „Behauptungen, dass die wegen COVID-19 vorgeschriebenen Kontaktbeschränkungen in Wirklichkeit dem Aufbau einer Infrastruktur für die 5G-Mobilfunk-Kommunikationstechnologie dienen“), während andere allgemeiner formuliert sind (z. B. „Behauptungen, dass soziale/räumliche Distanzierung nicht dazu beitrage, die Ausbreitung von COVID-19 zu verhindern“). Das Oversight Board hat nicht analysiert, ob die Einschränkung bei jeder dieser Behauptungen ausreichend klar ist, da in erster Linie Meta für präzise und klar verständliche Formulierungen verantwortlich ist. Das Board merkt an, dass Meta über Informationen dazu verfügen sollte, welche Behauptungen regelmäßig zu Problemen einer unzureichenden oder übermäßigen Durchsetzung führen. Dies könnte auf zu ungenaue Formulierungen hindeuten. Darüber hinaus bemerkt das Board, dass die jeweiligen Behauptungen, die im Rahmen der Richtlinie zu COVID-19-Fehlinformationen entfernt werden, auf einer Seite im Hilfebereich genannt werden. Die Seite weist kein Änderungsprotokoll auf, das es Nutzern ermöglichen würde, zu sehen, wann eine Behauptung hinzugefügt, entfernt oder bearbeitet wurde.

51. Um die Richtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen besser an Standards der Gesetzmäßigkeit anzupassen, gibt das Oversight Board die Empfehlungen 1, 2, 3, 4 und 11 aus, die in Abschnitt VI unten genauer erläutert werden.

Legitimes Ziel

52. Einschränkungen der Meinungsfreiheit müssen ein legitimes Ziel verfolgen, wie unter anderem den Schutz der Rechte anderer und der öffentlichen Gesundheit. Der Menschenrechtsausschuss hat den Begriff „Rechte“ so ausgelegt, dass er die im Internationalen Pakt über bürgerliche und politische Rechte (ICCPR) und allgemein in den internationalen Menschenrechtsnormen anerkannten Menschenrechte umfasst ( Allgemeine Bemerkung Nr. 34, Absatz 28).

53. Metas Richtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen verfolgt die legitimen Ziele, die öffentliche Gesundheit während eines Gesundheitsnotstands zu schützen und das Recht auf Zugang zu Informationen, das Recht auf Leben, das Recht auf Gesundheit, das Recht, an den Errungenschaften des wissenschaftlichen Fortschritts und seiner Anwendung teilzuhaben, und das Recht auf Nichtdiskriminierung jedes Menschen zu schützen.

Notwendigkeit und Verhältnismäßigkeit

Übersicht

54. Einschränkungen der Meinungsfreiheit „müssen dazu geeignet sein, ihre Schutzfunktion zu erfüllen; sie müssen die am wenigsten einschneidenden Instrumente unter denjenigen sein, die ihre Schutzfunktion erfüllen können; sie müssen im Verhältnis zu den zu schützenden Interessen stehen“ (Allgemeine Bemerkung Nr. 34, Absatz 34).

55. Aus Gründen, die unten erläutert werden, ist das Board der Meinung, dass die Richtlinie, die es Meta während eines Gesundheitsnotstands gestattet, COVID-19-Fehlinformationen zu entfernen, die „wahrscheinlich direkt zum Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen“, notwendig und angemessen ist. Damit entspricht sie prinzipiell den Unternehmenswerten und der Verantwortung des Unternehmens in Hinblick auf die Menschenrechte. Indem die Gesundheitsbehörde der Vereinten Nationen den Gesundheitsnotstand erklärt, stellt sie fest, dass ein außergewöhnliches Ereignis vorliegt, das ein Risiko für die öffentliche Gesundheit oder das Leben von Menschen darstellt, bedingt durch die weltweite Verbreitung einer Krankheit, die „eine ernsthafte und unmittelbare Gefahr“ darstellt (WHO Internationale Gesundheitsvorschriften 2005). Angesichts dessen, dass die WHO aufgrund von COVID-19, einer Krankheit, deren Folgen unklar, unbeständig und tödlich waren, einen globalen Gesundheitsnotstand erklärt hat, befindet das Board die Reaktion von Meta für verhältnismäßig. Das Oversight Board ist sich bewusst, dass unter solch dramatischen Umständen bestimmte schädliche Fehlinformationen rund um die Gesundheit zu ernsthaften Schäden für die öffentliche Gesundheit führen und sich negativ auf die Rechte von Menschen auf und außerhalb der Meta-Plattformen auswirken können, insbesondere dann, wenn sie in großem Umfang oder von prominenten Influencern verbreitet werden. Das Board ist sich bewusst, dass es während der Hochphase eines Gesundheitsnotstands eventuell nicht möglich ist, eingehende Befragungen von zahlreichen Experten zu den einzelnen fehlerhaften Behauptungen durchzuführen. Bei der Beurteilung der Verhältnismäßigkeit von Metas Ansatz berücksichtigte das Board außerdem die Position des Unternehmens, dass ein lokalisierter Ansatz für COVID-19-Fehlinformationen nicht umsetzbar sei.

56. Doch da sich die Umstände rund um COVID-19 ändern, müssen auch die Notwendigkeit und die Verhältnismäßigkeit zwangsläufig neu beurteilt werden. Das Oversight Board erkennt an, dass die Auswirkungen von COVID-19 weltweit unterschiedlich sind. Sie hängen von der Verbreitung des Virus, den Gesundheitssystemen eines Landes und der Qualität des bürgerlichen Raums ab, der es Menschen gestattet, unter anderem Informationen zu COVID-19 zu erhalten und auszutauschen. Auch wenn die Notstandserklärung der WHO für COVID-19 in Kraft bleibt (und im Januar 2023 verlängert wurde), sind die COVID-19-Fälle in vielen Teilen der Welt zurückgegangen, und die Notfallmaßnahmen wurden deutlich reduziert. Das macht es noch schwieriger, eine global angewandte Vorgehensweise zu implementieren, die die Anforderungen an die Verhältnismäßigkeit erfüllt. Wie in Empfehlung 1 unten dargelegt, sollte Meta einen transparenten und inklusiven Prozess entwickeln, um festzustellen, ob die 80 Behauptungen, die derzeit entfernt werden, noch immer falsch sind oder „wahrscheinlich direkt zum Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen“. Der Prozess sollte so gestaltet sein, dass auch abweichende Meinungen gehört und berücksichtigt werden. Dazu gehören abweichende Meinungen innerhalb der Wissenschaftsgemeinde, zwischen Experten für freie Meinungsäußerung und zwischen Personen, die Kenntnisse dazu haben, wie sich Fehlinformationen online verbreiten und welche Auswirkungen sie haben. Das Board ruft Meta in Empfehlung 4 unten außerdem dazu auf, einen Prozess zu entwickeln, der Risiken für die Menschenrechte identifiziert, die in einigen Ländern möglicherweise weiterhin bestehen, und einen differenzierteren Ansatz auszuarbeiten, der diese Risiken minimiert, sobald der globale Gesundheitsnotstand vorüber ist.

Input von Stakeholdern

57. Stakeholder in vielen Regionen der Welt berichteten dem Oversight Board von Politikern, religiösen Oberhäuptern, Influencern und medizinischen Institutionen, die Fehlinformationen mit großer Reichweite verbreiteten, mit denen Faktenprüfer, Wissenschaftler und Gesundheitsbehörden nicht Schritt halten konnten. Stakeholder in jeder Region sprachen zudem an, wie Fehlinformationen dazu führten, dass Menschen sich alternativen Behandlungsmethoden zuwandten oder sich gegen eine Impfung entschieden. Sie bemerkten, dass Fehlinformationen sich auf die Bereitschaft von Menschen auswirkten, öffentliche Gesundheitsvorgaben zu befolgen oder Schutzmaßnahmen umzusetzen. Solche Fehlinformationen wurden von Stakeholdern als Behinderung von Schutzmaßnahmen und Risikomanagement eingeordnet, die sich wiederum auf die Allgemeinbevölkerung auswirkt und gefährdete Gruppen, darunter immunsupprimierte Personen, Menschen mit Behinderungen und Vorerkrankungen, ältere Personen sowie arme Bevölkerungsgruppen und Randgruppen, überproportional betrifft. (Weitere COVID-19-Daten finden sich im WHO-Dashboard.) Solide Studien zur Auswirkung von Online-Fehlinformationen zeigen eine zunehmende Missachtung von öffentlichen Gesundheitsvorgaben und eine geringere Wahrscheinlichkeit, dass künftige diagnostische Tests oder Impfungen akzeptiert werden. Das Board hält weitere gemeldete negative Auswirkungen von COVID-19-Fehlinformationen fest, darunter das schwindende Vertrauen in wissenschaftliche Einrichtungen und Gesundheitsbehörden. Dies behindert die wirksame Umsetzung von öffentlichen Gesundheitsmaßnahmen für COVID-19 und andere Gesundheitsnotstände. Zu den weiteren gemeldeten negativen Auswirkungen von COVID-19-Fehlinformationen gehören direkte Angriffe, Belästigungen und strategische Gerichtsverfahren gegen Faktenprüfungsorganisationen und einzelne Faktenprüfer.

58. Experten merkten zudem an, dass die Menge an Fehlinformationen auf der Plattform deutlich zurückging, nachdem Meta begonnen hatte, COVID-19-Fehlinformationen zu entfernen, und argumentierten, dass ohne diese Maßnahmen Fehlinformationen wieder zunehmen und Anti-Impf-Inhalte auf sozialen Plattformen wie Facebook vorherrschend sein werden. Diese Experten wiesen darauf hin, dass die fehlende Transparenz und der fehlende Zugriff auf Daten oder interne Forschung von Meta Bemühungen behindere, eindeutige Belege für die Wirksamkeit von Maßnahmen zum Umgang mit Fehlinformationen, einschließlich der Entfernung, zu finden. Allerdings argumentierten Stakeholder weltweit in Gesprächen mit dem Board, dass das Unternehmen dringende Maßnahmen beibehalten muss, solange weiterhin viele Menschen ihr Leben verlieren und die Gesundheit zahlloser Menschen gefährdet ist, und dass Fehler in Kauf genommen werden müssen, wenn das Leben gefährdeter Personen, vor allem besonders gefährdeter Gruppen, dadurch geschützt wird. Auch wenn die Verfügbarkeit verlässlicher wissenschaftlicher Informationen zu COVID-19 seit Beginn der Pandemie deutlich zugenommen hat, variiert der Zugang zu diesen Informationen je nach Land und Community, und die Menge an falschen oder irreführenden Informationen macht es für Menschen weltweit schwierig, existierende wissenschaftliche Informationen abzurufen und zu beurteilen, was die Vorteile des Zugangs zu diesen Informationen abschwächt. In diesem Zusammenhang betonte beispielsweise eine Einreichung des Khazanah Research Institute (PC-10703), ein Richtlinienforschungsinstitut in Malaysia, die unterschiedlichen Zugangsmöglichkeiten zu verlässlichen Gesundheitsinformationen in verschiedenen Ländern und die unterschiedlichen Risiken, die sich ergeben, wenn Fehlinformationen unmoderiert bleiben. Diese Position wird auch von anderen Experten und Stakeholdern aus verschiedenen Teilen der Welt vertreten, insbesondere aus Ländern mit niedrigen Einkommen. Wenn eine global angewandte Vorgehensweise nötig ist, sollte Meta nach Empfehlung der Einreichung des Khazanah Research Institute lieber Vorsicht walten lassen und weiterhin schädliche COVID-19-Fehlinformationen entfernen.

59. Wie Meta in seinem Antrag an das Oversight Board eingeräumt hat, ist die Pandemie weltweit unterschiedlich verlaufen und tut dies auch weiterhin. Es gibt deutliche Unterschiede bei den Impfraten, den Kapazitäten und Ressourcen von Gesundheitssystemen und beim Vertrauen in behördliche Vorgaben. Diese tragen zu den überproportional großen Auswirkungen des Virus auf besonders gefährdete Gruppen in verschiedenen Ländern bei. Auch wenn Impfstoffe entwickelt wurden und in den USA und anderen Ländern weltweit leicht erhältlich sind, spiegelt dies nicht die globalen Trends wider. Meta formuliert das wie folgt: „Achtzig Prozent der Menschen in Ländern mit hohen Einkommen haben mindestens eine Impfdosis erhalten. In Ländern mit niedrigen Einkommen sind es lediglich 13 Prozent. Länder mit niedrigen Einkommen haben tendenziell zudem Gesundheitssysteme mit weniger Kapazitäten, eine weniger starke Wirtschaft und weniger Vertrauen in Regierungsvorgaben. All das verkompliziert die Impfung der Menschen und die Behandlung von COVID-19-Patienten.“ (Meta-Antrag auf beratende Stellungnahme zur Richtlinie, Seite 15, Juli 2022) Um die großen Unterschiede bei den Impfraten zu verdeutlichen, sollen hier einige Beispiele aufgeführt werden. Im Februar 2023 hatten weniger als 20 % der Bevölkerung im Irak die erste Impfung erhalten, weniger als 1 % die Booster-Impfung. In Bulgarien haben rund 30 % der Bevölkerung die erste Impfung erhalten. In Syrien lag die Rate bei 13 %, in Papua-Neuguinea und Haiti bei weniger als 5 %. Einige vom Board befragte Experten warnten davor, sich für globale Richtlinien und Ansätze auf Informationen und Daten zu stützen, die sich hauptsächlich auf westliche Länder konzentrieren. Diese Experten wiesen auch darauf hin, dass die meisten empirischen Studien zu Fehlinformationen und Desinformationen auf einen kleinen geografischen Bereich beschränkt sind.

60. Im Januar 2023 erklärte die WHO, dass zwar „die Welt in einer besseren Lage ist als auf dem Höhepunkt der Omicron-Welle vor einem Jahr, aber dennoch in den vergangenen acht Wochen weltweit mehr als 170.000 Todesfälle in Zusammenhang mit COVID-19 gemeldet wurden“ und Gesundheitssysteme „derzeit mit COVID-19 und der Versorgung von Patienten, die an Grippe und dem RS-Virus leiden, sowie mit Personalmangel und erschöpften Mitarbeitern im Gesundheitswesen zu kämpfen haben“. Die WHO betonte außerdem, dass „die Reaktion auf COVID-19 in zu vielen Ländern weiterhin unzureichend ist, da sie nicht in der Lage sind, den besonders gefährdeten Bevölkerungsgruppen, älteren Menschen und Gesundheitsfachkräften [Impfungen, Behandlungen und Diagnostik] zur Verfügung zu stellen“. Das WHO-Komitee bemerkte, dass „die Impfskepsis und die anhaltende Verbreitung von Fehlinformationen nach wie vor zusätzliche Hindernisse für die Umsetzung wichtiger öffentlicher Gesundheitsmaßnahmen darstellen“.

Metas Bestehen auf eine global angewandte Vorgehensweise

61. Meta erkennt an, dass die Pandemie weltweit unterschiedlich verlaufen ist. Die größten Unterschiede gibt es dabei zwischen Industrienationen und weniger entwickelten Ländern. Als das Unternehmen das Board um Rat ersuchte, schloss es eine lokalisierte Vorgehensweise nahezu aus und erklärte, dass eine Anwendung solcher Durchsetzungsmaßnahmen „große Bedenken hinsichtlich Transparenz und Fairness aufwerfen und zu einer schlechten Nutzererfahrung führen würde und betrieblich nicht umsetzbar wäre“. Laut Meta würden regionale oder landesspezifische Durchsetzungsmaßnahmen in großem Umfang zu weniger Klarheit für Nutzer führen, welche Richtlinien und Sanktionen für welche Inhalte gelten, wenn Nutzer und Informationen Grenzen überwinden. Dieser Ansatz würde eine noch komplexere und umfangreichere Richtlinie erfordern, „in der dargelegt wird, wo und unter welchen Umständen verschiedene Behauptungen entweder entferntoder herabgestuft werden oder sonstigen Durchsetzungsmaßnahmen unterliegen“. Das Unternehmen hat nach eigenen Angaben derzeit keine Kapazitäten, um eine lokalisierte Vorgehensweise einzuführen, und die Entwicklung einer solchen würde einen enormen Ressourcen- und Zeitaufwand bedeuten, wodurch diese Vorgehensweise in naher Zukunft nicht umsetzbar ist. Es argumentierte, dass „[d]ie Richtliniendurchsetzung auf Landesebene sowohl zu einer übermäßig strengen Durchsetzung führen [kann], wenn bestimmte Prüfer für mehrere Länder verantwortlich sind, als auch zu einer unzureichenden Durchsetzung, da Inhalte über mehrere Länder und Regionen hinweg verbreitet werden können.“ Angesichts dieser Tatsache erklärte Meta, dass die vorgeschlagene Richtlinie für alle Regionen anwendbar „und gleichzeitig weltweit einheitlich und praktikabel“ sein sollte.

Analyse

62. Bei seiner Entscheidungsfindung zur Frage der Verhältnismäßigkeit berücksichtigte das Oversight Board verschiedene Faktoren, darunter: (i) potenzielle Gefahren für die Menschenrechte während eines anhaltenden Gesundheitsnotstands; (ii) die negativen Auswirkungen auf die freie Meinungsäußerung; (iii) die Vorgabe des relevanten Gemeinschaftsstandards, dass Inhalte, die entfernt werden, als falsch angesehen werden und wahrscheinlich direkt zu einem unmittelbar bevorstehenden und enormen körperlichen Schaden beitragen müssen; (iv) die Plattformarchitektur, die laut einigen Experten zu einer Zunahme schädlicher Inhalte beitragen könnte (siehe Empfehlung 10 zur Notwendigkeit der Durchführung einer Beurteilung der Auswirkungen auf die Menschenrechte für bestimmte Plattformdesigns); (v) die großen Bedenken zur Skalierbarkeit und Wirksamkeit der Inhaltsmoderation anstelle von Entfernungen (wie in den folgenden Absätzen zu Faktenprüfung, Herabstufungen und Kennzeichnung erläutert) und (vi) die Behauptung Metas, dass eine skalierte, lokalisierte Vorgehensweise bei der Umsetzung der Richtlinie nicht machbar sei.

63. Angesichts der Tatsache, dass Meta auf eine global angewandte Vorgehensweise besteht, und solange COVID-19 von der WHO weiterhin als „öffentlicher Gesundheitsnotstand von internationaler Bedeutung“ eingestuft wird, kann das Board keine Änderung an der Umsetzung der globalen Richtlinie durch Meta vorschlagen, ohne dass vom Unternehmen eine zusätzliche Berechtigungsprüfung und eine Beurteilung der Auswirkungen seiner Richtlinien und verschiedenen Durchsetzungstools durchgeführt wird. Unter diesen Umständen eine Änderung zu empfehlen, könnte sich auf die besonders gefährdeten Bevölkerungsgruppen weltweit überproportional auswirken. Dazu gehören ältere Menschen, immunsupprimierte Personen und Menschen mit Vorerkrankungen sowie arme Bevölkerungsgruppen und Randgruppen, die über weniger Ressourcen, fragilere bürgerliche Räume, keine sonstigen verlässlichen Informationsquellen und schlechtere Gesundheitssysteme verfügen oder gar keinen Zugang zu Gesundheitsversorgung haben. Wie oben erwähnt, ist sich das Board bewusst, dass Meta während der Hochphase eines Gesundheitsnotstands außergewöhnliche Maßnahmen ergriffen hat. Dem Oversight Board ist bewusst, dass das Unternehmen während des erklärten Gesundheitsnotstands außergewöhnliche Maßnahmen ergreifen musste, beispielsweise, wie in diesem Fall, durch Entfernen ganzer Kategorien von Fehlinformationen basierend auf einer Einschätzung, die ausschließlich von einer Gesundheitsbehörde stammte, mit dem Ziel, einen wahrscheinlichen, unmittelbar bevorstehenden Schaden abzuwenden. Das Board hält die Maßnahmen angesichts der einzigartigen Umstände der Pandemie für verhältnismäßig.

64. Allerdings müssen solche außergewöhnlichen Maßnahmen temporär, genau auf die Erfordernisse der Umstände zugeschnitten und öffentlich gemacht worden sein. Wenn sich die Umstände ändern, ändert sich auch die Analyse der Notwendigkeit und Verhältnismäßigkeit. Da sich Pandemien stetig weiterentwickeln, muss Meta nun einen robusteren Konsultationsprozess anstreben, sobald dieser praktikabel ist, und dafür Sorge tragen, dass die automatisierte Entfernung bestimmter Behauptungen nicht die Diskussion von Themen von öffentlichem Interesse einschränkt oder zu unangemessenem staatlichen Einfluss auf Metas Inhaltsmoderation führt. Beim Konsultationsprozess sollte auf die Expertise vielfältigerer Stakeholder zurückgegriffen werden, einschließlich abweichender Meinungen (wie in Empfehlung 1 unten dargelegt). Das Board weist darauf hin, dass Prinzip 17 der UNGPs besagt, dass Unternehmen kontinuierlich menschenrechtliche Sorgfalt walten lassen sollten, um „negative Auswirkungen auf die Menschenrechte zu identifizieren, zu verhindern, abzumildern und für ihren Umgang damit Rechnung zu tragen“. Dazu gehört, „die tatsächlichen und potenziellen Auswirkungen auf die Menschenrechte zu beurteilen, die Ergebnisse zu berücksichtigen und entsprechende Maßnahmen zu ergreifen, die Reaktionen aufzuzeichnen und mitzuteilen, wie Auswirkungen gehandhabt werden“. Darüber hinaus sollte das Unternehmen gemäß Prinzip 20 der UNGPs die Wirksamkeit seiner Reaktion „anhand geeigneter qualitativer und quantitativer Indikatoren nachverfolgen und auf Feedback von internen und externen Quellen, darunter betroffene Stakeholder, zurückgreifen“.

65. Wie oben erwähnt, berücksichtigte das Board bei seiner Entscheidungsfindung, ob weniger einschneidende Maßnahmen neben der Inhaltsentfernung dem Umfang an Fehlinformationen gerecht werden würden und die öffentliche Gesundheit während eines öffentlichen Gesundheitsnotstands sowie die Rechte von Menschen auf und außerhalb der Plattform schützen könnten. Bei der ersten Option, dem Versehen von Inhalten mit Faktenprüfungs-Kennzeichnungen zur Korrektur von Informationen ohne Entfernung, zeigen mehrere Stakeholder sowie Informationen von Meta, dass dieses Tool nur bedingt mit der Schnelligkeit und dem Umfang wahrscheinlich schädlicher gesundheitsbezogener Fehlinformationen während eines öffentlichen Gesundheitsnotstands mithalten kann. Meta informierte das Board, dass Faktenprüfer die überwiegende Mehrheit an Inhalten in ihrer Liste nicht prüfen könnten. Meta erklärte außerdem, dass es nicht in der Lage sei, das Faktenprüfungsprogramm auszuweiten, da diese externen Organisationen nicht von Meta kontrolliert werden oder im Besitz von Meta sind. Darüber hinaus machen Einschränkungen innerhalb des Programms diese Maßnahme weniger effektiv. Meta gestattet seinen Faktenprüfern nicht, von Politikern geteilte Inhalte zu prüfen. Dazu zählen Kandidaten für Ämter, aktuelle Amtsträger und ihre Beauftragten sowie politische Parteien und ihre Parteivorsitzenden. Wie von Stakeholdern aus den einzelnen Regionen umfassend berichtet und bestätigt, sind diese Nutzer prominente Verbreiter von Fehlinformationen. Die Verifizierung durch Faktenprüfer dauert länger als die automatische Entfernung im großen Umfang, was im Umgang mit schädlichen Fehlinformationen im Kontext eines öffentlichen Gesundheitsnotstands ein entscheidender Faktor sein kann. Diese Maßnahme leitet den Nutzer darüber hinaus zu einem Artikel weiter, der sich normalerweise außerhalb der Plattform befindet (und daher für Menschen, die keine Ressourcen für zusätzlichen Datenverbrauch haben, weniger gut zugänglich ist). Die Formulierungen in diesen Artikeln sind häufig sehr technisch und manchmal komplex im Gegensatz zu den kurzen, emotionsgeladenen Botschaften, durch die Fehlinformationen verbreitet werden. Eine Einreichung von Professor Simon Wood von der Universität Edinburgh (PC-10713) äußerte Bedenken, dass Faktenprüfer häufig nicht über ausreichendes technisches Wissen verfügten, um komplexe wissenschaftliche Abhandlungen und Belege effektiv zu prüfen.

66. Herabstufungen als zweite Option wirken sich zwar auf die Platzierung von Inhalten innerhalb eines Nutzer-Feeds aus, doch aufgrund der Individualität jedes Nutzer-Feeds lässt sich die Auswirkung dieser Maßnahme auf die Viralität oder Reichweite eines Inhalts nur schwer ermitteln. Der Ranking-Score eines Inhalts soll dazu führen, dass Nutzern Inhalte angezeigt werden, die „für sie am ehesten von Interesse sind“. Inhalte, die in einer Gruppe oder von einer Seite geteilt werden, der der Nutzer folgt, werden tendenziell höher eingeordnet. Demzufolge ist nicht klar, ob eine Herabstufung die Reichweite von Inhalten, die von Nutzern mit großen Follower-Zahlen oder in einer Gruppe geteilt werden, wirksam einschränken würde. Aufgrund des Inhaltsbestands in ihrem News Feed hat die Herabstufung für Nutzer, die mehreren Konten, Seiten oder Gruppen folgen, welche regelmäßig COVID-19-Fehlinformationen teilen, wahrscheinlich die geringsten Auswirkungen. Außerdem verfügt das Unternehmen offenbar nicht über Daten dazu, wie viele Nutzer weniger wahrscheinlich auf herabgestufte Inhalte zugreifen, selbst wenn diese Inhalte deutlich herabgestuft wurden. Herabstufungen allein werden nicht von Verwarnungen oder Sanktionen begleitet. Da Nutzer außerdem keine Möglichkeit haben, Herabstufungen ihrer Inhalte zu widersprechen, würde diese Option große Bedenken zur fairen Behandlung von Nutzern aufwerfen.

67. Die dritte Option, neutrale Kennzeichnungen, erweist sich laut der internen Forschung des Unternehmens nicht als effektiv darin, Nutzer im großen Umfang zu erreichen und ihre Kenntnisse zu vertiefen oder ihre Einstellung zu ändern. Meta wendet NITs (bzw. neutrale Kennzeichnungen) durch ein automatisiertes System an, das COVID-19 als Thema in Posts erkennt. Diese Kennzeichnungen stellen einen Link zu einem COVID-19-Informationszentrum bereit, das verlässliche Informationen zu COVID-19 enthält. Laut Meta zeigten vorläufige Untersuchungen des Unternehmens zu diesen Kennzeichnungen, dass die „Click-Through-Rate“ (wie viele Nutzer die Kennzeichnung anklicken, um die verlässlichen Informationen zu sehen) abnimmt, je mehr NITs einem Nutzer angezeigt werden. Meta informierte das Board weiterhin, dass das Unternehmen die Nutzung von COVID-19-NITs eingestellt hat. Laut Meta haben diese Kennzeichnungen keine erkennbaren Auswirkungen auf die Wahrscheinlichkeit, dass Nutzer faktengeprüfte Fehlinformationen oder Anti-Impf-Inhalte lesen, erstellen oder erneut teilen. Letztendlich berichtete das Unternehmen, dass anfängliche Untersuchungen gezeigt hätten, dass diese Kennzeichnungen keinen Effekt auf das Wissen von Nutzern und ihre Einstellung zu Impfungen haben.

68. Das Board kommt insgesamt zu dem Schluss, dass Meta, da es auf eine global angewandte Vorgehensweise zu COVID-19-Fehlinformationen besteht und die WHO weiterhin den Gesundheitsnotstand erklärt, seine Richtlinie zu COVID-19-Fehlinformationen, die wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen, weiterhin anwenden sollte. Gleichzeitig sollte es beginnen, eine robuste und inklusive Berechtigungsprüfung für die Behauptungen durchzuführen, die derzeit entfernt werden. Um die Richtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen besser an Standards der Notwendigkeit und Gesetzmäßigkeit anzupassen, gibt das Oversight Board die Empfehlungen 1, 4, 5, 9, 10, 12, 13, 14, 15 und 18 aus, die in Abschnitt VI unten genauer erläutert werden.

VI. Empfehlungen

Empfehlungen zur Content-Richtlinie

69. Empfehlung 1: Da die World Health Organization COVID-19 zu einem globalen Gesundheitsnotstand erklärt hat und Meta auf eine global angewandte Vorgehensweise besteht, sollte Meta die derzeitige Vorgehensweise beibehalten, falsche Inhalte zu COVID-19, die „wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen“, global zu löschen. Gleichzeitig sollte es einen transparenten und inklusiven Prozess anstoßen, um jede der 80 Behauptungen, die entfernt werden, eingehend und regelmäßig neu zu beurteilen, damit sichergestellt wird, dass: (1) jede der konkreten Behauptungen zu COVID-19, die entfernt wird, falsch ist und „wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beiträgt“ und (2) Metas Verpflichtungen für die Menschenrechte richtig umgesetzt werden (z. B. die Grundsätze zu Gesetzmäßigkeit und Notwendigkeit). Im Rahmen dieser Neubeurteilung sollte Meta feststellen, ob Behauptungen nicht mehr falsch sind oder nicht mehr „wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen“. Sollte Meta feststellen, dass Behauptungen nicht mehr falsch sind oder nicht mehr „wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen“, dann sollten diese Behauptungen im Rahmen dieser Richtlinie nicht mehr entfernt werden. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta eine Neubeurteilung bzw. Änderungen an den 80 Behauptungen auf der Seite im Hilfebereich ankündigt.

70. Die Unterabsätze unten legen die Empfehlungen des Boards zu Best Practices bei der Durchführung der Neubeurteilung der Behauptungen dar, die im Rahmen der Richtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen entfernt werden. Jede Unterempfehlung wird als separate Empfehlung von Empfehlung 1 angesehen, was bedeutet, dass das Board die Maßnahmen von Meta bei der Umsetzung der Empfehlungen separat überprüfen wird.

Empfehlung 1A: Konsultation vielfältigerer Experten und Stakeholder

71. Sobald dies möglich ist, muss das Unternehmen einen Prozess einsetzen, um bei der Beurteilung, ob die Entfernung jeder einzelnen Behauptung angesichts der Situation notwendig ist, vielfältigere Perspektiven zu berücksichtigen. Zu den konsultierten Experten und Organisationen sollten Experten für die öffentliche Gesundheit, Immunologen, Virologen, Forscher im Bereich Infektionskrankheiten, Forscher im Bereich Fehlinformationen und Desinformationen, Experten für technische Richtlinien, Menschenrechtsorganisationen, Faktenprüfer und Experten für freie Meinungsäußerung gehören. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta Informationen zu seinen Konsultationsprozessen mit vielfältigen Experten in seiner Richtlinie zur Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen sowie Informationen zu den Auswirkungen dieser Gespräche auf seine Richtlinie veröffentlicht.

72. Wie oben erwähnt, ist dem Oversight Board bewusst, dass das Unternehmen während des erklärten Gesundheitsnotstands außergewöhnliche Maßnahmen ergreifen musste, in diesem Fall durch Entfernen ganzer Kategorien von Fehlinformationen basierend auf einer Einschätzung, die ausschließlich von einer Gesundheitsbehörde stammte. Das Board ist sich bewusst, dass es während eines Gesundheitsnotstands nicht möglich ist, sofort eingehende Befragungen von zahlreichen Experten zu den einzelnen Behauptungen durchzuführen. Sobald dies möglich ist, müssen jedoch vielfältigere Experten und Stakeholder befragt werden, da sich Informationen zu der neuartigen Pandemie kontinuierlich verändern und es verschiedene Sichtweisen zum besten Umgang mit pandemiebezogenen Fehlinformationen gibt. Wie das Unternehmen mitteilte, musste es zuvor seine Position zu mindestens zwei Behauptungen, die entfernt werden, ändern – eine zum Ursprung des Virus und die andere zur Mortalitätsrate von COVID-19. Für eine bessere Entscheidungsfindung und mehr Schutz vor ungerechtfertigter Zensur sind eine umfangreichere Konsultation und mehr Transparenz zu diesem Input nötig.

73. Das Oversight Board fragte Meta, ob die Behauptungen, die in der Liste mit untersagten Inhalten enthalten sind (da sie als falsch angesehen werden und „wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen“), erneut beurteilt wurden, um die Auswirkungen der drei Änderungen zu berücksichtigen, die im Antrag des Unternehmens dargelegt sind. Meta informierte das Board, dass keine Informationen vorlägen, die die Schlussfolgerung zulassen, dass die Behauptungen, die aktuell entfernt werden, nicht mehr falsch sind oder nicht mehr wahrscheinlich direkt zu dem Risiko eines unmittelbaren Schadens beitragen. Allerdings hat sich das Unternehmen nicht mit den relevanten Gesundheitsbehörden beraten, um die Behauptungen erneut zu prüfen. Das Unternehmen hat außerdem keine Konsultationen mit Stakeholdern und Fachleuten durchgeführt, um die einzelnen Behauptungen oder die Richtlinie insgesamt erneut zu prüfen. Laut Meta beschloss das Unternehmen, sich mit einem Antrag auf beratende Stellungnahme zur Richtlinie an das Board zu wenden, anstatt externe Stakeholder in die Änderung der Richtlinie einzubeziehen, um Verzögerungen bei diesem Antrag zu vermeiden. Das Board lobt Meta dafür, dass das Unternehmen für die Richtlinie, die während einer globalen Krise erarbeitet wurde, externen Input eingeholt hat, und dafür, dass die Notwendigkeit einer Neubeurteilung erkannt wurde. Allerdings endet die Verantwortung des Unternehmens in Hinblick auf die Menschenrechte hier noch nicht. Einen Prozess einzuführen, mit dem beurteilt wird, ob die Entfernung jeder einzelnen Behauptung weiterhin notwendig ist, würde sicherstellen, dass das Unternehmen die relevante Berechtigungsprüfung gemäß den UNGPs durchführt.

Empfehlung 1B: Zeitrahmen der Überprüfung

74. Meta sollte den Zeitrahmen für diese Überprüfung festlegen (z. B. alle drei oder sechs Monate) und ihn öffentlich machen, um für die entsprechende Mitteilung und für Input zu sorgen. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta das Protokoll zum Überprüfungsmeeting auf ähnliche Weise öffentlich macht wie die Protokolle der Meetings des Policy Forums in seinem Transparency Center.

Empfehlung 1C: Verfahren zum Einholen von Input der Öffentlichkeit

75. Meta sollte einen klaren Prozess für die regelmäßige Überprüfung formulieren, einschließlich der Möglichkeiten, wie Personen und Organisationen eine Beurteilung einer konkreten Behauptung anfechten können (z. B. durch Bereitstellung eines Links auf der Seite im Hilfebereich für öffentliche Kommentar sowie virtuelle Befragungen). Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta einen Mechanismus für Feedback der Öffentlichkeit schafft und Informationen zu den Auswirkungen dieses Feedbacks auf seine internen Prozesse mit dem Board teilt.

Empfehlung 1D: Orientierungshilfe zur Art der Informationen, die berücksichtigt und beurteilt werden sollten

76. Bei der Überprüfung der Behauptungen sollte Meta die aktuelle Forschung zu Verbreitung und Auswirkungen solcher online verfügbaren gesundheitsbezogenen Fehlinformationen berücksichtigen. Dazu sollte interne Forschung zur relativen Wirksamkeit verschiedener Maßnahmen gehören, die Meta zur Verfügung stehen, darunter Entfernungen, Faktenprüfung, Herabstufungen und neutrale Kennzeichnungen. Das Unternehmen sollte den Status der Pandemie in allen Regionen, in denen es tätig ist, berücksichtigen, insbesondere dort, wo seine Plattformen die primäre Informationsquelle darstellen, und dort, wo digitale Kenntnisse weniger verbreitet sind, schwächere bürgerliche Räume vorhanden sind, es keine verlässlichen Informationsquellen oder fragile Gesundheitssysteme gibt. Meta sollte außerdem die Wirksamkeit seiner Durchsetzung dieser Behauptungen beurteilen. Meta sollte Informationen dazu erfassen – sofern es nicht bereits über diese verfügt –, welche Behauptungen regelmäßig zu Problemen einer unzureichenden oder übermäßigen Durchsetzung führen. Diese Informationen sollten dazu genutzt werden, festzustellen, ob eine Behauptung weiterhin entfernt oder auf andere Weise gehandhabt werden sollte. Das Board betrachtet diese Empfehlung als umgesetzt, sobald Meta Daten zur Überprüfung der Richtliniendurchsetzung teilt und diese Informationen öffentlich macht.

Empfehlung 1E: Orientierungshilfe für mehr Transparenz bei der Entscheidungsfindung

77. Um transparenter damit umzugehen, welche Experten befragt wurden, wie ihr Input aussah, welche interne und externe Forschung berücksichtigt wurde und wie sich die Informationen auf das Ergebnis der Analyse ausgewirkt haben, sollte Meta dem Board eine Zusammenfassung zur Grundlage für die Entscheidung über jede einzelne Behauptung vorlegen. Die Zusammenfassung sollte insbesondere auf die Grundlage für die Entscheidung des Unternehmens bezüglich der fortgesetzten Entfernung einer Behauptung eingehen. Meta sollte außerdem offenlegen, welche Rolle Regierungsvertreter oder Behörden bei der Entscheidungsfindung gespielt haben, sofern dies der Fall war. Wenn das Unternehmen sich entscheidet, eine bestimmte Behauptung nicht mehr zu entfernen, sollte es die Grundlage für diese Entscheidung erläutern (einschließlich folgender Angaben: (a) welcher Input für das Unternehmen zu der Entscheidung geführt hat, dass die Behauptung nicht mehr falsch ist; (b) welcher Input aus welcher Quelle für das Unternehmen zu der Entscheidung geführt hat, dass die Behauptung nicht mehr direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beiträgt, und ob diese Bewertung auch in Ländern mit sehr niedrigen Impfraten und einer schlecht ausgestatteten öffentlichen Gesundheitsversorgung Bestand hat; (c) ob das Unternehmen der Meinung ist, dass sein Durchsetzungssystem zu einer übermäßigen Durchsetzung in Bezug auf die konkrete Behauptung geführt hat; (d) ob das Unternehmen festgestellt hat, dass die Behauptung auf der Plattform nicht mehr verbreitet ist.) Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta die Beurteilung seines Richtlinienbewertungsprozesses teilt. Diese Informationen sollten zu den Gründen passen, die im Post im Hilfebereich für Änderungen an der Richtlinie veröffentlicht wurden, wie im ersten Absatz dieser Empfehlung dargelegt.

78. Empfehlung 2: Meta sollte unverzüglich eine eindeutige Erklärung zu den Gründen liefern, warum jede Kategorie von zu entfernenden Behauptungen „wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beiträgt“. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta die Seite im Hilfebereich überarbeitet und diese Erklärung liefert.

79. Derzeit nennt die Seite im Hilfebereich als Beispiel für den Zusammenhang zwischen einer bestimmten Behauptung und einem unmittelbar bevorstehenden körperlichen Schaden Beiträge, die „die Wahrscheinlichkeit einer Exposition mit dem Virus oder von dessen Übertragung erhöhen oder die sich nachteilig auf die Fähigkeit des öffentlichen Gesundheitssystems auswirken, die Pandemie zu bewältigen“. Auf derselben Seite werden dann fünf Kategorien von Fehlinformation genannt, die laut Meta das Kriterium der „Wahrscheinlich, zu einem unmittelbar bevorstehenden körperlichen Schaden beizutragen“ erfüllen. Die Seite im Hilfebereich erklärt jedoch nicht systematisch, inwiefern jede Kategorie von zu entfernenden Behauptungen das festgelegte Kriterium erfüllt. Meta sollte ausdrücklich erläutern, inwiefern jede Kategorie von Behauptungen wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beiträgt und auf welche Informationsquellen sich das Unternehmen für diese Entscheidung beruft.

80. Empfehlung 3: Meta sollte seine Richtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen verdeutlichen, indem das Unternehmen erklärt, dass sich die Voraussetzung, dass Informationen „falsch“ sein müssen, auf Informationen bezieht, die zum Zeitpunkt der letzten Neubeurteilung der Richtlinie gemäß den besten zugänglichen Belegen als falsch erachtet wurden. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta die Richtlinie auf der entsprechenden Seite im Hilfebereich verdeutlicht.

81. Meta musste bereits mindestens zweimal Behauptungen, die entfernt werden, überarbeiten, da sich bekannte Informationen geändert hatten oder die Informationen aufgrund der Entwicklung der Krankheit nicht mehr korrekt oder vollständig waren. Eventuell werden Fehler gemacht, neue Daten oder Forschungsergebnisse stellen die vorherrschende allgemeine Meinung infrage oder die Definition einer Behauptung muss überarbeitet werden. Angesichts dessen und um zu verdeutlichen, dass Meta sich bewusst ist, dass es die Bewertung, ob bestimmte Behauptungen die Kriterien seiner Richtlinie erfüllen, regelmäßig neu durchführen muss, sollte Meta die Richtlinie dahingehend klarer formulieren, dass deutlich wird, dass die Bewertung aufgrund der besten zugänglichen Belege zum jeweiligen Zeitpunkt vorgenommen wird und sich ändern kann.

Empfehlungen zur Durchsetzung

82. Empfehlung 4: Meta sollte unverzüglich eine Risikobewertung anstoßen, um die notwendigen und verhältnismäßigen Maßnahmen zu identifizieren, die das Unternehmen in Einklang mit dieser Richtlinie und anderen Empfehlungen in dieser beratenden Stellungnahme zur Richtlinie ergreifen sollte, wenn die WHO den globalen Gesundheitsnotstand aufgrund von COVID-19 aufhebt, andere lokale Gesundheitsbehörden COVID-19 jedoch weiterhin als öffentlichen Gesundheitsnotstand ansehen. Ziel dieses Prozesses sollte sein, Maßnahmen für den Umgang mit Fehlinformationen einzuführen, die wahrscheinlich zu erheblichen und unmittelbar bevorstehenden körperlichen Schäden beitragen, ohne das allgemeine Recht auf freie Meinungsäußerung global zu beeinträchtigen. Die Risikobewertung sollte Folgendes beinhalten: (1) eine robuste Beurteilung der Designentscheidungen und verschiedener Richtlinien- und Umsetzungsalternativen; (2) deren jeweilige Auswirkungen auf die freie Meinungsäußerung, das Recht auf Gesundheit und Leben sowie andere Menschenrechte und (3) eine Bewertung der Machbarkeit einer lokalisierten Vorgehensweise für die Durchsetzung. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta seinen Plan für die Durchführung der Risikobewertung öffentlich bekanntgibt, den Bewertungsprozess zur Erkennung und Minimierung von Risiken beschreibt und die Seite im Hilfebereich mit diesen Informationen aktualisiert.

83. Empfehlung 5: Meta sollte interne Umsetzungsrichtlinien in die Arbeitssprachen der Unternehmensplattformen übersetzen. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta seine internen Umsetzungsrichtlinien übersetzt und das Board entsprechend darüber unterrichtet.

84. Inhaltsmoderatoren haben Zugriff auf detaillierte interne Umsetzungsrichtlinien, die zusätzliche Informationen dazu bereitstellen, wie unzulässige Inhalte sowie Inhalte, die aufgrund der festgelegten Ausnahmen auf der Plattform verbleiben sollen (z. B. Humor, Satire, persönliche Anekdote, Meinung), identifiziert werden können. Um die einheitliche Durchsetzung in den verschiedenen Regionen der Welt zu gewährleisten, muss Meta dafür sorgen, dass diese Richtlinien Moderatoren bereitgestellt werden und in der Sprache verfügbar sind, mit der die Moderatoren arbeiten.

85. Das Board hat Meta bereits zuvor empfohlen, seine internen Umsetzungsrichtlinien, die Moderatoren zur Verfügung gestellt werden, in die Sprache zu übersetzen, in der die Inhalte geprüft werden (siehe Fallentscheidung „Äußerungen in arabischer Sprache“, [ 2022-003-IG-UA] und „Myanmar Bot“ [ 2021-007-FB-UA]). In seiner Antwort an das Board erklärte Meta, „eine Sammlung interner Richtlinien in der Sprache [zu führen], die alle unsere Inhaltsprüfer fließend sprechen ... ist die beste Methode, um eine weltweit einheitliche Durchsetzung unserer häufig aktualisierten Richtlinien zu gewährleisten ... Da sich diese Leitfäden oft ändern (neue Klarstellungen, Definitionen und Formulierungen, einschließlich Listen mit marktspezifischen Beleidigungen), könnte die Verwendung von Übersetzungen zu Verzögerungen und uneinheitlichen Auslegungen führen.“

86. Seit der obigen Erklärung von Meta wurden bei einer unabhängigen Bewertung der Durchsetzung der Richtlinien durch Meta in Israel und Palästina fehlende Sprachkenntnisse von Inhaltsmoderatoren als einer der Gründe für eine übermäßige Durchsetzung der Meta-Richtlinien bei arabischen Inhalten identifiziert (siehe „Human Rights Due Diligence of Meta’s Impacts in Israel and Palestine in May 2021“ von Business for Social Responsibility). Angesichts dieser Ergebnisse sowie der Komplexität der internen Richtlinien und der nuancierten Auslegungsmöglichkeiten durch Inhaltsmoderatoren ist das Board der Meinung, dass die Gefahr einer übermäßigen oder unzureichenden Durchsetzung der Richtlinien zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen tatsächlich gegeben ist. Meta sollte diese Risiken reduzieren, um zu gewährleisten, dass seine Richtlinie für alle Sprachen und Regionen einheitlich angewandt wird.

87. Empfehlung 6: Der Einspruch von Nutzern gegen Faktenprüfungskennzeichnungen sollte von einem anderen Faktenprüfer überprüft werden, nicht von der Person, die die erste Beurteilung vorgenommen hat. Um für Fairness zu sorgen und Nutzern, deren Inhalt einer Faktenprüfung unterzogen wurde, Zugang zu Abhilfe zu gewähren, sollte Meta seinen Prozess dahingehend anpassen, dass ein anderer Faktenprüfer, der nicht bereits eine Bewertung der vorliegenden Behauptung durchgeführt hat, die Entscheidung beurteilen und eine Kennzeichnung anfügen kann.Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta Nutzern einen Mechanismus bereitstellt, ihren Einspruch bei einem anderen Faktenprüfer einzulegen, und wenn das Unternehmen seine Richtlinien zur Faktenprüfung mit diesen neuen Einspruchsmechanismen aktualisiert.

88. Empfehlung 7: Meta sollte zulassen, dass Profile (nicht nur Seiten und Gruppen), deren Inhalte von externen Faktenprüfern aufgrund der Durchsetzung von Metas Richtlinie zu Fehlinformationen mit einer Kennzeichnung versehen wurden, durch die Einspruchsfunktion des Produkts einen Einspruch gegen die Kennzeichnung bei einem anderen Faktenprüfer einlegen können. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta die Einspruchsfunktion für Profile auf allen Märkten einführt und anhand von Durchsetzungsdaten demonstriert, dass Nutzer gegen die Kennzeichnungen der Faktenprüfung Einspruch einlegen können.

89. Einspruch von Nutzern ist eine wichtige Funktion für die Fehlerkorrektur und um Nutzern den Zugang zu Abhilfen zu gewährleisten. Faktenprüfer prüfen Inhalte von ganz unterschiedlicher Komplexität und unterschiedlichem technischen Inhalt und Kontext. Manche Fehler sind unvermeidbar. Ein öffentlicher Kommentar gab zu bedenken, dass Faktenprüfer nicht über die wissenschaftlichen und technischen Kenntnisse verfügen, um komplizierte wissenschaftliche Artikel zu prüfen, die auf der Plattform geteilt werden. Kennzeichnungen zur Faktenprüfung ziehen Konsequenzen für Nutzer nach sich. Wenn ein Faktenprüfer einen Inhalt kennzeichnet, kann diese Kennzeichnung zu einer Verwarnung führen, wenn der Inhalt als „falsch“ oder „verfälscht“ gekennzeichnet wurde. Bei mehreren Verwarnungen kann es zur Einschränkung von Funktionen und zur Herabstufung geteilter Inhalte dieses Profils kommen. Eine Umsetzung dieser Empfehlung würde es Nutzern gestatten, Faktenprüfer zu benachrichtigen, wenn sie der Meinung sind, dass ein Fehler vorliegt, und weitere Informationen teilen möchten, um eine Überprüfung zu erwirken.

90. Empfehlung 8: Meta sollte seine Investitionen in Programme zu digitalen Kenntnisse auf der ganzen Welt erhöhen und dabei Länder mit niedrigem Indikator für freie Medien (z. B. gemäß dem Wert für Pressefreiheit des Freedom House) und großer Social Media-Verbreitung priorisieren. Diese Investitionen sollten relevante Schulungen zu den entsprechenden Kenntnissen umfassen. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta einen Artikel zu seinen höheren Investitionen veröffentlicht, in dem der investierte Betrag, die Art der Programm und die betroffenen Länder genannt und Informationen zu den Auswirkungen solcher Programme angegeben werden.

91. Meta informierte das Board als Antwort auf eine Frage, dass das Unternehmen in den letzten drei Jahren mehr als sieben Millionen US-Dollar investiert hat, „um die Medienkompetenz von Menschen zu verbessern und die Menge an Fehlinformationen, die geteilt werden, proaktiv zu verringern“. Laut den von Meta angegebenenQuellen konzentrierten sich diese Investitionen hauptsächlich auf die Vereinigten Staaten. Meta arbeitet mit Organisationen in anderen Ländern zusammen, um Social Media-Kampagnen oder Werbeanzeigen mit Schwerpunkt auf Medienkompetenz bereitzustellen.

92. Studienzu den Auswirkungen von Metas Investitionen in Medienkompetenzprogramme in den Vereinigten Staaten (ein Programm in Zusammenarbeit mit PEN America und das andere mit dem Poynter Institute) ergaben deutliche Verbesserungen der Fähigkeiten von Teilnehmern bei der Beurteilung von Online-Informationen. Beispielsweise konnten Teilnehmer ihre Fähigkeit, COVID-19-Fehlinformationen zu erkennen, von 53 % vor Beginn des Programms auf durchschnittlich 82 % nach der Intervention verbessern. Ein Medienkompetenzprogramm für Senioren führte dazu, dass die Teilnehmer nach Abschluss des Kurses Schlagzeilen mit 22 % mehr Genauigkeit als wahr oder falsch identifizieren konnten.

93. Empfehlung 9: Für einzelne Konten und Netzwerke von Meta-Einheiten, die wiederholt gegen die Richtlinie zu Fehlinformationen verstoßen, sollte Meta Untersuchungen zu den Auswirkungen seines neu veröffentlichten Saktionssystems durchführen (oder vorhandene Untersuchungen öffentlich machen), einschließlich Daten dazu, wie dieses System Verstöße verhindern soll. Zu diesen Untersuchungen sollte eine Analyse der Konten gehören, die Kampagnen zu gesundheitsbezogenen Fehlinformationen unterstützen oder koordinieren. Bei der Bewertung sollte die Wirksamkeit der Demonetarisierung beurteilt werden, die Meta derzeit anwendet, um gegen die finanziellen Motive/Vorteile des Teilens schädlicher und falscher oder irreführender Informationen anzugehen. Das Board betrachtet diese Empfehlung als umgesetzt, sobald Meta dem Board ihm die Ergebnisse dieser Untersuchungen vorgelegt und eine Zusammenfassung der Ergebnisse seinem Transparenzbericht veröffentlicht.

Empfehlungen zur Transparenz

94. Empfehlung 10: Meta sollteeine Untersuchung in Auftrag geben, bei der geprüft wird, inwiefern der News Feed, Empfehlungsalgorithmen und andere Funktionen die Verbreitung und die Auswirkungen schädlicher Fehlinformationen zu Gesundheitsthemen verstärken. Bei dieser Untersuchung sollten Angaben dazu gemacht werden, welche die wichtigen Faktoren des Ranging-Algorithmus im Feed sind, die zur Unterstützung schädlicher Fehlinformationen zu Gesundheitsthemen beitragen, welche Arten von Fehlinformationen durch die Meta-Algorithmen verstärkt werden können und welche Gruppen für diese Art von Fehlinformationen besonders empfänglich sind (und ob diese durch die Meta-Funktionen besonders angesprochen werden). Die Untersuchung sollte auch jegliche Forschung öffentlich machen, die Meta bereits in der Vergangenheit durchgeführt hat und die die Auswirkungen seiner Algorithmen und Designentscheidungen auf Fehlinformationen zu Gesundheitsthemen verstärken. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta die Untersuchung zu den Auswirkungen auf die Menschenrechte, die eine solche Analyse enthält, veröffentlicht.

95. Der UN-Sonderberichterstatter zur freien Meinungsäußerung beschrieb die Reaktionen von Social Media-Plattformen auf COVID-19-Fehlinformationen, darunter die Entfernung von Fehlinformationen und das Programm zur externen Faktenprüfung von Meta, als „insgesamt positiv“, aber „unzureichend“, um die durch Fehlinformationen geschaffenen Herausforderungen anzugehen. Der Sonderberichterstatter betonte die Notwendigkeit einer „ernsthaften Überprüfung des Geschäftsmodells, das die Faktoren für Fehlinformationen und Falschmeldungen größtenteils fördert“. ( A/HRC/47/25, Absatz 65-67)

96. Das Oversight Board äußert Bedenken, dass Meta noch keine Untersuchung dazu durchgeführt hat, wie sich die Funktionen und aktuellen Maßnahmen seiner Plattformen auf die öffentliche Gesundheit und die Menschenrechte auswirken, beispielsweise auf das Recht auf Leben, Gesundheit, Zugang zu Informationen und freie Meinungsäußerung zur Pandemie und entsprechenden öffentlichen Gesundheitsmaßnahmen. Meta sollte dafür sorgen, dass es Zugang zu allen Informationen hat, die nötig sind, um die potenziellen Auswirkungen auf die Menschenrechte richtig beurteilen zu können. Angesichts der weltweiten Ungleichheiten beim Zugang zu geeigneten und verfügbaren Informationen, wichtigen Impfungen, Medikamenten und Behandlungen und bei der Bereitstellung von Inhaltsmoderation ist eine Untersuchung zu den Auswirkungen auf die Menschenrechte entscheidend, um zu beurteilen, welche Risiken von der Verbreitung von Fehlinformationen zu COVID-19, die unmittelbare körperliche Schäden verursachen können, in den Meta-Produkten weltweit ausgehen.

97. Empfehlung 11: Meta sollte der Seite im Hilfebereich, die die vollständige Liste der Behauptungen enthält, die im Rahmen der Unternehmensrichtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen entfernt werden, ein Änderungsprotokoll hinzufügen.Das Board betrachtet diese Empfehlung als umgesetzt, sobald der Seite im Hilfebereich ein Änderungsprotokoll hinzugefügt wurde.

98. Die Gemeinschaftsstandards enthalten ein Änderungsprotokoll, das Nutzer auf Änderungen der durchgesetzten Richtlinien hinweist. Allerdings gibt es auf der Seite im Hilfebereich, die die konkreten Behauptungen enthält, die im Rahmen der Richtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesenentfernt werden, kein Änderungsprotokoll oder sonstiges Instrument, mit dessen Hilfe Nutzer feststellen können, wann die Liste der Behauptungen aktualisiert oder überarbeitet wurde. Ergänzungen oder Änderungen der Behauptungen, die entfernt werden, sind somit schwer nachzuverfolgen.

99. Meta informierte das Board, dass zwischen März 2020 und Oktober 2022 mehrere Behauptungen zu der Liste der Behauptungen, die im Rahmen der Richtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesenentfernt werden, hinzugefügt wurden, andere Behauptungen wurden entfernt oder überarbeitet.

100. Der UN-Sonderberichterstatter zur freien Meinungsäußerung erklärte, dass alle Menschen „generell Zugang zu den Kommunikationstools, die nötig sind, um sich über den öffentlichen Gesundheitsnotstand zu informieren“, haben sollten ( A/HRC/44/49, Absatz 63(b)). Das Hinzufügen eines Änderungsprotokolls zum Hilfebereich würde den Grundsatz der Gesetzmäßigkeit erfüllen und Nutzer informieren, wenn bestimmte Behauptungen entfernt werden. Mehr Transparenz dazu, wie sich die Liste der Behauptungen verändert, würde Nutzern Vorteile bieten, wenn sich die wissenschaftliche Meinung und die Erkenntnisse zu den Auswirkungen der COVID-19-Pandemie auf die öffentliche Gesundheit weiterentwickeln.

101. In Hinblick auf Empfehlung 1 und 2 würde das Hinzufügen eines Änderungsprotokolls zum Hilfebereich Nutzern mit unterschiedlichen Ansichten außerdem helfen, die Bewertungen von Gesundheitsbehörden dazu, welche Aussagen falsch sind oder wahrscheinlich direkt zu dem Risiko eines unmittelbar bevorstehenden körperlichen Schadens beitragen, in Frage zu stellen. Diese Vorgehensweise wäre der menschenrechtlichen Verantwortung Metas in Hinblick auf die öffentliche Gesundheit zuträglich und würde es abweichenden Stimmen gestatten, Behauptungen anzufechten, denen sie widersprechen.

102. Empfehlung 12: Meta sollte vierteljährliche Durchsetzungsdaten zu Fehlinformationen im vierteljährlichen Bericht zur Durchsetzung bereitstellen, aufgeschlüsselt nach Art der Fehlinformationen (d. h. Körperverletzung oder Gewalt, schädliche Fehlinformationen zu Gesundheitsthemen, Beeinflussung von Wählern oder Volkszählungen oder manipulierte Medien) sowie Land und Sprache. Diese Daten sollten Informationen zur Anzahl der Einsprüche und der Anzahl der wiederhergestellten Inhalte umfassen. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta Durchsetzungsdaten zur Richtlinie zu Fehlinformationen in die Unternehmensberichte zur Durchsetzung aufnimmt.

103. Der Bericht zur Durchsetzung der Gemeinschaftsstandards (CSER), den Meta vierteljährlich veröffentlicht, gibt an, wie viele Inhalte im Rahmen der verschiedenen Gemeinschaftsstandards mit Maßnahmen belegt wurden. Allerdings enthält dieser Bericht keine Durchsetzungsdaten zur Unternehmensrichtlinie zu Fehlinformationen. Dem Oversight Board ist bewusst, dass dies teilweise daran liegt, dass der Gemeinschaftsstandard zu Fehlinformationen erst im März 2022 formal festgelegt wurde. Meta informierte das Board, dass das Unternehmen keine Daten zur Verbreitung von COVID-19-Fehlinformationen auf seinen Plattformen hat. Laut Meta liegt dies daran, dass sich die Definitionen von COVID-19-Fehlinformationen kontinuierlich ändern und es schwierig ist, einen aussagekräftigen Vergleich zwischen dem Zeitraum vor und nach der Einführung der Richtlinie zu ziehen.

104. Allerdings konnte Meta die Verbreitung für kürzere Zeiträume und kleinere Einheiten ermitteln. Laut dem Unternehmen machten COVID-19-Inhalte zwischen 1. März 2022 und 21. März 2022 in den Vereinigten Staaten 1-2 % der Aufrufe von Facebook-Posts aus. Unter diesen Aufrufen befinden sich nach Schätzungen von Meta 0,1 % bedenkliche Inhalte, die gegen die Richtlinien zu Fehlinformationen und Schaden verstoßen.

105. Das Oversight Board erhielt viele Kommentare von Stakeholdern aus der ganzen Welt, die darauf hinwiesen, dass das Fehlen öffentlich zugänglicher Informationen zur Anzahl der Inhalte, gegen die im Rahmen der Richtlinie zu Fehlinformationen Maßnahmen ergriffen wurden, neben anderen relevanten Datenpunkten die Fähigkeit von Forschern und Stakeholdern untergräbt, die Wirksamkeit der vorhandenen Meta-Reaktionen auf COVID-19-Fehlinformationen zu beurteilen. Meta muss Daten bereitstellen, damit beurteilt werden kann, ob die Durchsetzung der Richtlinie zu viele False Positives verursacht und überarbeitet werden muss, um das Risiko einer übermäßigen Durchsetzung zu verringern. In diesem Zusammenhang betonte der UN-Sonderberichterstatter zur freien Meinungsäußerung „fehlende Transparenz und Zugang zu Daten, wodurch eine objektive Bewertung der Wirksamkeit der Maßnahmen beeinträchtigt wird“, die zur Eindämmung von Online-Fehlinformationen eingesetzt werden. Außerdem können Stakeholder somit nicht in Erfahrung bringen, ob Richtlinien weltweit einheitlich angewendet werden. ( A/HRC/47/25, Absatz 65).

106. Das Oversight Board hat Meta in der Vergangenheit empfohlen, die Daten in seinem Bericht zur Durchsetzung der Gemeinschaftsstandards nach Land und Sprache aufzuschlüsseln (Fallentscheidung zu „Punjabi-Besorgnis hinsichtlich des RSS in Indien“, [ 2021-003-FB-UA], Empfehlung 1). Als Reaktion darauf hat sich Meta verpflichtet, seine Kennzahlen zu ändern, und als Ziel ausgegeben, diese bis Ende 2023 einzuführen. Die Durchsetzungsdaten nach Land und Sprache aufzuschlüsseln ist wichtig, um den Umfang des Problems in verschiedenen Teilen der Welt und die relative Wirksamkeit der Durchsetzungsmaßnahmen des Unternehmens zu verstehen. Das Oversight Board und vor allem Metas Stakeholder können die Wirksamkeit der derzeitigen globalen Richtlinie und der Vorgehensweise des Unternehmens bei der Durchsetzung im Umgang mit COVID-19-Fehlinformationen ohne relevante Daten, anhand derer Forscher und Bürger die Bemühungen des Unternehmens beurteilen könnten, nicht vollumfänglich nachvollziehen.

107. Empfehlung 13:Meta sollte in seinem „Bericht zur Durchsetzung der Gemeinschaftsstandards“ einen Abschnitt einfügen, in dem auf Anträge staatlicher Organisationen eingegangen wird, Inhalte auf Verstöße gegendie Richtlinie zuFehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesenzu prüfen. Der Berichte sollten Details zur Zahl der Prüfungen und Aufforderungen zur Entfernung nach Land und Behörde sowie die Zahl der Ablehnungen und Genehmigungen durch Meta angeben. Das Board betrachtet diese Maßnahme als umgesetzt, wenn Meta in seinem „Bericht zur Durchsetzung der Gemeinschaftsstandards“ einen gesonderten Abschnitt zu Aufforderungen von staatlichen Akteuren veröffentlicht, die zu einer Entfernung wegen eines solchen Verstoßes führten.

108. Im Fall „UK Drill“ [ 2022-007-IG-MR] empfahl das Board Meta, „Daten zu Anträgen von staatlichen Organisationen auf Inhaltsprüfung und -entfernung aufgrund von Verstößen gegen Gemeinschaftsstandards [zu] veröffentlichen“. Während der schwersten Phase der COVID-19-Pandemie wurden Bedenken darüber geäußert, dass Meta Inhalte zu COVID-19 im Auftrag von Regierungsbehörden prüft. In Ländern, in denen Regierungsbehörden solche Anträge stellen, um hart gegen friedliche Proteste oder Menschenrechtsverteidiger, die Regierungsmaßnahmen kritisieren, vorzugehen oder die öffentliche Debatte zu unterbinden, könnte sich dieser Trend verschärfen. Während der Pandemie äußerte sich der UN-Sonderberichterstatter zum Recht auf Versammlungs- und Organisationsfreiheit kritisch zu Regierungen auf der ganzen Welt, die die Pandemie als Vorwand nutzen, einen landesweiten Notstand auszurufen oder auf andere Weise erforderliche Verfahren und die Gewaltenteilung, die in demokratischen Gesellschaften herrscht, auszuhebeln. Dies wirke sich auf grundlegende Menschenrechte aus, beispielsweise das Recht auf friedlichen Protest ( A/HRC/50/42, Absatz 18; A/77/171, Absatz 40, 67). Ein detaillierter Bericht zu Anträgen von staatlichen Organisationen auf Inhaltsprüfung im Rahmen der Richtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen würde Nutzern faire Verfahren im Einklang mit dem Grundsatz der Gesetzmäßigkeit bieten, insbesondere in Ländern mit schwachen bürgerlichen Räumen, in denen die entsprechende Gefahr besteht.

109. Der UN-Sonderberichterstatter zum Recht auf Versammlungs- und Organisationsfreiheit empfahl, dass Technologieunternehmen dafür sorgen müssten, dass ihre Produkte nicht von Regierungen genutzt werden, um „Aktivisten für die Rechte bei sozialen Bewegungen“ zu überwachen oder zu kontrollieren (A/77/171, Absatz 71). Das Oversight Board lobt Metas Einsatz, Menschenrechtsverteidiger gegen Online-Belästigung, Überwachung und Zensur durch Regierungen zu stärken, wie in der Unternehmensrichtlinie zu Menschenrechten dargelegt. Transparenz zu Anträgen von Regierungen auf Prüfung und/oder Entfernung von Inhalten im Rahmen des Meta-Gemeinschaftsstandards zu Fehlinformationen würde diese Bemühung untermauern.

110. Empfehlung 14: Meta sollte dafür sorgen, dass vorhandene Forschungstools wie CrowdTangle und Facebook Open Research and Transparency (FORT) Forschern weiterhin zur Verfügung gestellt werden. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta seine Verpflichtung, Daten über diese Tools mit Forschern zu teilen, öffentlich macht.

111. Empfehlung 15: Meta sollte externen Forschern den Zugang zu nicht öffentlichen Daten ermöglichen, damit sie unabhängig die Auswirkungen von Richtlinieninterventionen in Bezug auf die Entfernung und geringere Verbreitung von COVID-19-Fehlinformationen untersuchen können, und gleichzeitig dafür sorgen, dass diese Zugangsmöglichkeiten das Recht der Meta-Nutzer auf Privatsphäre und die Menschenrechte von Menschen auf und außerhalb der Plattform schützen. Zu diesen Daten sollten Kennzahlen gehören, die zuvor nicht zugänglich waren, darunter Zahlen zur Rückfälligkeit rund um Interventionen in Bezug auf COVID-19-Fehlinformationen. Das Board betrachtet diese Richtlinie als umgesetzt, wenn Meta diese Datensätze externen Forschern zur Verfügung stellt und dem Board dies bestätigt.

112. Der UN-Sonderberichterstatter zur freien Meinungsäußerung merkte an, wie schwierig es sei, gegen Falschmeldungen vorzugehen, teilweise deshalb, weil ausreichend öffentlich zugängliche Informationen fehlen, die es Nutzern, Forschern und Aktivisten ermöglichen würden, die Art des Problems zu verstehen und auszudrücken ( A/HRC/47/25, Absatz 3, 67, 81). In dieser Frage empfiehlt der UN-Sonderberichterstatter zur freien Meinungsäußerung, Daten für „Forschung, Richtlinienentwicklung, Überwachung und Beurteilung“ zur Verfügung zu stellen (A/HRC/47/25, Absatz 104).

113. CrowdTangle ist ein Tool, das externe Forscher nutzen können, um „einflussreiche öffentliche Konten und Gruppe auf Facebook und Instagram“ nachzuverfolgen und relevante Trends, einschließlich Fehlinformationen, zu analysieren. Die Datenbank des Tools enthält alle verifizierten/öffentlichen Nutzer, Profile und Konten, beispielsweise von Politikern, Journalisten, Medien und Herausgebern, Prominenten, Sportmannschaften und anderen Personen des öffentlichen Lebens. Es beinhaltet zudem öffentliche Gruppen und Seiten über einem bestimmten, für ein Land geltenden Größenschwellenwert. Es gibt Daten zu Datum und Art der veröffentlichten Inhalte an, welche Seiten, Konten oder Gruppen den Inhalt geteilt haben, die Anzahl und Art der Interaktionen mit dem Inhalt und welche anderen öffentlichen Seiten oder Konten ihn geteilt haben. Es verfolgt nicht die Reichweite des Inhalts, von privaten Konten gepostete Daten oder Inhalte, bezahlte oder beworbene Inhalte oder demografische Informationen zu den Nutzern, die mit dem Inhalt interagieren. CrowdTangle umfasst Daten zu mehr als sieben Millionen Seiten, Gruppen und verifizierten Profilen auf Facebook und mehr als zwei Millionen öffentlichen Instagram-Konten.

114. Im Jahr 2022 wurde berichtet, dass Meta plane, CrowdTangle einzustellen. Auch wenn Meta dies nicht öffentlich bestätigt hat, betonte das Board, dass Forschungstools vom Unternehmen eher gestärkt als eingestellt werden sollten. Dadurch wären externe Forscher in der Lage, die Auswirkungen von Meta-Produkten, darunter COVID-19-Fehlinformationen, zu ermitteln.

115. Das Oversight Board erkennt die Bemühungen Metas bei der Einrichtung des Facebook Open Research and Transparency-(FORT-)Tools an, das Akademikern und Forschern unter Einhaltung des Datenschutzes verschiedene Datensätze bereitstellt. Laut dem Unternehmen gewährt die FORT Researcher Platform Sozialwissenschaftlern Zugriff auf sensible Daten in einer geschützten Umgebung, und zwar „Verhaltensdaten in großem Umfang, um soziale Phänomene zu untersuchen und zu erklären“. Berichte haben allerdings die Defizite des Tools für die akademische Forschung aufgedeckt, beispielsweise die „restriktiven Nutzungsbedingungen“ von Meta oder die Tatsache, dass Forschern unzureichende Informationen zur Verfügung gestellt werden, um aussagekräftige Analysen durchzuführen. Abgesehen davon erkennt das Board an, dass Meta im Kontext anderer Social Media-Unternehmen umfassende Maßnahmen ergriffen hat, um Daten mit externen Wissenschaftlern zu teilen, und das Board hält Meta dazu an, noch mehr zu tun.

116. Während all der Aktivitäten zur Einbindung der Stakeholder für diese beratende Stellungnahme zur Richtlinie haben Forscher wiederholt darauf hingewiesen, dass diese Tools Trends in Zusammenhang mit COVID-19-Fehlinformationen nachverfolgen müssen. Auch für das Board stellte der fehlende Zugang zu relevanten Daten ein Problem dar, als es diesen Antrag auf eine beratende Stellungnahme zur Richtlinie prüfte. Nach Kenntnis des Boards stehen einige dieser Daten nicht einmal dem Unternehmen selbst zur Verfügung, andere sind verfügbar, können jedoch nicht mit externen Stakeholdern, auch nicht mit dem Board, geteilt werden. Meta sollte Forschern Zugang zu relevanten Daten gewähren, sodass sie die Verbreitung von COVID-19-Fehlinformationen auf der Plattform und die Wirksamkeit bestimmter Gegenmaßnahmen nachverfolgen können. Solche Informationen sind auch entscheidend, um die oben erwähnte Untersuchung zu den Auswirkungen auf die Menschenrechte durchführen zu können.

117. Empfehlung 16: Meta sollte die Ergebnisse seiner Forschung zu neutralen und Kennzeichnungen zur Faktenprüfung, die es dem Board während des Prozesses zur beratenden Stellungnahme zur COVID-19-Richtlinie vorgelegt hat, veröffentlichen. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta diese Forschung in seinem Transparency Center öffentlich machen.

118. Das Oversight Board schätzt die Informationen zur Wirksamkeit von NITs und zur Herabstufung von Inhalten, die Meta dem Board zur Verfügung gestellt hat, beispielsweise die Ergebnisse der Experimente, die das Unternehmen zur Beurteilung der kontinuierlichen Wirksamkeit von NITs durchgeführt hat. Das Board ist der Meinung, dass die Ergebnisse dieser Experimente mit einer größeren Anzahl externer Forscher geteilt werden sollten, die versuchen, die Auswirkungen der Reaktionen des Unternehmens auf COVID-19-Fehlinformationen zu ermitteln.

119. Empfehlung 17: Meta sollte Forschern auf der ganzen Welt den gleichen Zugang zu Daten gewähren. Während Forscher in Europa durch den Digital Services Act (DSA) die Möglichkeit haben, sich für Datenzugriff zu bewerben, sollte Meta darauf achten, sich nicht zu stark auf Forscher von Universitäten des globalen Nordens zu konzentrieren. Forschungen zur Verbreitung von COVID-19-Fehlinformationen und zu den Auswirkungen der Meta-Richtlinien werden das allgemeine Verständnis schädlicher Fehlinformationen zu Gesundheitsthemen und künftige Reaktionen darauf für diese und weitere Krisen formen. Wenn sich diese Forschungen überproportional auf den globalen Norden konzentrieren, wird sich das in den Reaktionen widerspiegeln. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta seinen Plan öffentlich macht, Forschern weltweit ähnlichen Datenzugriff zu gewähren, wie EU-Länder ihn im Rahmen der DSA bereitstellen.

120. Ein Großteil der Forschung zum Fluss der Fehlinformationen repräsentiert überproportional Trends und Muster in den USA und Westeuropa. Dies könnte dazu führen, dass Content-Richtlinieninterventionen speziell auf die Probleme dieser Regionen abgestimmt werden. Der UN-Sonderberichterstatter zur freien Meinungsäußerung verwies auf Forderungen der Zivilgesellschaft nach mehr Forschung zur Auswirkung von Fehlinformationen auf „gefährdete Gruppen und Minderheiten“ und zitierte identitätsbasierte Falschmeldungskampagnen, die ethnische Konflikt in Äthiopien und Myanmar befeuerten ( A/HRC/47/25, Absatz 26). Wenn Meta in Einklang mit dem Digital Services Act mehr externen Forschern Zugriff gewährt und sein eigenes FORT pflegt, sollte das Unternehmen dafür sorgen, dass dabei Akademiker und Forscher aus allen Teilen der Welt berücksichtigt werden.

121. Empfehlung 18: Meta sollte die Auswirkungen des Cross-Check-Systems „Early Response Secondary Review (ERSR)“ auf die Wirksamkeit seiner Durchsetzung der Richtlinie zu Fehlinformationen beurteilen und dafür sorgen, dass Empfehlung 16 und 17 in der beratenden Stellungnahme zur Richtlinie des Boards zum Cross-Check-Programm von Meta für Einheiten gelten, die Inhalte posten, welche gegen die Richtlinie zu Fehlinformationen über die Gesundheit bei Notfällen im Gesundheitswesen verstoßen. Das Board betrachtet diese Empfehlung als umgesetzt, wenn Meta seine Ergebnisse mit dem Board teilt und öffentlich macht.

122. Laut Meta wurde das Cross-Check-Programm eingeführt, um die Der erste Teil des Cross-Check-Programms ist das System „Early Response Secondary Review“ (ERSR; Sekundärprüfung mit frühzeitiger Reaktion), das eine zusätzliche Überprüfung eines Inhalts, der von bestimmten berechtigten Einheiten gepostet wurde und potenziell gegen Richtlinien verstößt, durch einen Mitarbeiter garantiert. Meta führt Listen von berechtigten Einheiten, die darauf beruhen, wen das Unternehmen als berechtigt ansieht, von ERSR zu profitieren. Einheiten können Facebook-Seiten, Facebook-Profile und Instagram-Konten sein und Einzelpersonen und Gruppen oder Organisationen repräsentieren. Viele der Nutzer auf diesen Listen sind Prominente, große Unternehmen, Regierungschefs und Politiker.

123. In seiner beratenden Stellungnahme zur Richtlinie zu Metas Cross-Check-Programm empfahl das Board, dass Meta „eindeutige und öffentlich einsehbare Kriterien für die Berechtigung zur einheitsbasierten Fehlerprävention“ festlegt, die zwischen „Nutzern, deren Meinungsäußerung aus menschenrechtlicher Sicht zusätzlichen Schutz verdient“, und denen, die „aus geschäftlichen Gründen aufgenommen“ wurden, unterscheiden.

124. Politiker sind aus dem Programm des Unternehmens zur externen Faktenprüfung ausgenommen. Das bedeutet, dass von Politikern geteilte Fehlinformationen, die nicht aus anderen Gründen im Rahmen der Richtlinie zu gefährlichen Gesundheitsfehlinformationen entfernt werden, nicht von externen Faktenprüfern überprüft und gekennzeichnet werden können. Meta erklärte auch, dass es die Auswirkungen des ERSR-Systems auf die Wirksamkeit der Richtlinie zu COVID-19-Fehlinformationen nicht beurteilt habe, da ERSR eingerichtet wurde, um Fehler bei der Durchsetzung zu vermeiden, nicht um die Wirksamkeit eines bestimmten Gemeinschaftsstandards zu beurteilen. Demzufolge verfolgen die internen Teams des Unternehmens dieses System nicht nach und analysieren keine Daten zu seiner Auswirkung auf die Richtlinie zu COVID-19-Fehlinformationen.

125. Aufgrund von interner Forschung und der Einbeziehung von Stakeholdern für diese beratende Stellungnahme zur COVID-19-Richtlinie stellte das Oversight Board fest, dass viele Verbreiter von Fehlinformationen bekannte Personen sind, beispielsweise Prominente, Politiker, staatliche Organisationen und religiöse Oberhäupter, die möglicherweise als Einheit vom ERSR-Programm profitieren. Die Einreichung von Media Matters for America (PC-10758) beispielsweise lenkte die Aufmerksamkeit auf die Tatsache, die das Cross-Check-System von Meta die Bemühungen zum Umgang mit Fehlinformationen untergrabe. Da Prominente, Politiker, Journalisten und andere bekannte Nutzer „eine langsamere oder nachsichtigere Durchsetzung“ bei Inhaltsverstößen erführen, würden Fehlinformationen auf der Plattform verbleiben. Der UN-Sonderberichterstatter zur freien Meinungsäußerung äußerte ebenso Bedenken zu „nicht verlässlichen Informationen“, die von „Personen mit enormer Reichweite“ verbreitet werden, und merkte an, dass dies „drastische Schäden verursachen kann, absichtlich oder unabsichtlich“. Staatliche Organisationen hätten ebenfalls „häufig waghalsige Behauptungen“ unter anderem zum Ursprung des Virus, der Verfügbarkeit von Medikamenten zur Behandlung von Symptomen und zum Status von COVID-19 in ihrem Land verbreitet. Der UN-Sonderberichterstatter empfahl, Amtsträger für ihre Aussagen und Handlungen zur Verantwortung zu ziehen. ( A/HRC/44/49, Absatz 41, 45, 63(c); siehe auch A/HRC/47/25, Absatz 18 Identifizierung von Prominente als allgemeine Verbreiter von Fehlinformationen.)

126. Fehlinformationen, die von im Rahmen des ERSR-Programms berechtigten Einheiten gepostet werden und wahrscheinlich direkt zu dem Risiko unmittelbar bevorstehender körperlicher Schäden für die öffentliche Gesundheit und Sicherheit beitragen, werden in Einklang mit der Richtlinie zu schädlichen Gesundheitsfehlinformationen entfernt. Fehlinformationen, die normalerweise eine Faktenprüfung oder Kennzeichnung erhalten würden, aber von berechtigten Einheiten wie Politikern gepostet wurden, sind dagegen nicht nur von der externen Faktenprüfung ausgenommen, sondern profitieren auch von einer verzögerten Durchsetzung aufgrund des zusätzlichen Reviews von potenziell gegen Richtlinien verstoßenden Inhalten durch einen Mitarbeiter, wie vom ERSR-System vorgesehen. Das bedeutet, wenn COVID-19-Fehlinformationen, die nicht unter die 80 festgelegten Behauptungen fallen, von berechtigten Einheiten gepostet werden, können diese ohne Kennzeichnung zur Faktenprüfung auf der Plattform verbleiben und werden möglicherweise gar nicht überprüft.

* Anmerkung zur Vorgehensweise:

Die beratenden Stellungnahmen des Oversight Boards zur Richtlinie werden von einem Panel aus fünf Mitgliedern vorbereitet und von einer Mehrheit des Boards bestätigt. Entscheidungen des Oversight Boards geben nicht zwangsläufig die persönliche Meinung aller Mitglieder wieder.

Für diese beratende Stellungnahme zur Richtlinie wurde eine unabhängige Studie vom Board in Auftrag gegeben. Das Board wurde von einem unabhängigen Forschungsinstitut mit Sitz an der Universität Göteborg unterstützt, das mit einem Team aus über 50 Sozialwissenschaftlern auf sechs Kontinenten sowie mehr als 3.200 Länderexperten aus der ganzen Welt zusammenarbeitet. Weitere Unterstützung erhielt das Board durch Duco Advisors, eine Beratungsfirma mit Schwerpunkt auf die Schnittstelle zwischen Geopolitik, Vertrauen, Sicherheit und Technologie. Das Board wurde zudem von Memetica unterstützt, einer Organisation, die Open-Source-Forschung zu Trends in sozialen Medien betreibt und ebenfalls Analysen durchführte.

Volver a Decisiones de casos y opiniones consultivas sobre políticas