Oversight Board | Unabhängige Entscheidungsfindung Transparenz. Legitimität.

Um diese Entscheidung im PDF-Format zu lesen, bitte hier klicken.

Das Oversight Board hat die am 7. Januar 2021 von Facebook getroffene Entscheidung bestätigt, die Berechtigung des damaligen US-Präsidenten Donald Trump zur Veröffentlichung von Inhalten auf seiner Facebook-Seite und seinem Instagram-Konto einzuschränken.

Es war jedoch ein unangemessener Schritt seitens Facebook, die unbestimmte und nicht auf Standards und Richtlinien basierende Strafe einer unbefristeten Sperrung zu verhängen. Zu den üblichen Sanktionen von Facebook gehören die Entfernung unzulässiger Inhalte, die Verhängung einer zeitlich begrenzten Sperrung oder die dauerhafte Deaktivierung der Seite und des Kontos.

Das Board verlangt, dass Facebook diese Angelegenheit überprüft, um eine verhältnismäßige Reaktion zu bestimmen und zu begründen, die mit den Regeln übereinstimmen, die für andere Nutzer der Plattform gelten. Facebook ist verpflichtet, die Überprüfung dieser Angelegenheit innerhalb von sechs Monaten nach dem Datum dieser Entscheidung abzuschließen. Das Board formulierte darüber hinaus Richtlinienempfehlungen für Facebook, die das Unternehmen zwecks Entwicklung klarer, notwendiger und verhältnismäßiger Richtlinien, die die öffentliche Sicherheit fördern und das Recht auf freie Meinungsäußerung respektieren, implementieren sollte.

Zum Fall

Wahlen sind ein wesentlicher Bestandteil jeder Demokratie. Am 6. Januar 2021, während der Auszählung der Wahlmännerstimmen der Wahlen im November 2020, drangen mehrere Personen gewaltsam in das Kapitol in Washington, D.C., ein. Diese Gewalt bedrohte den Verfassungsprozess. Bei den Ausschreitungen kamen fünf Menschen ums Leben, viele weitere wurden verletzt. Während dieser Ereignisse postete der damalige Präsident Donald Trump zwei Beiträge.

Um 16:21 Uhr Eastern Standard Time, inmitten des Aufruhrs, postete Donald Trump ein Video auf Facebook und Instagram:

I know your pain. I know you’re hurt. We had an election that was stolen from us. It was a landslide election, and everyone knows it, especially the other side, but you have to go home now. We have to have peace. We have to have law and order. We have to respect our great people in law and order. We don’t want anybody hurt. It’s a very tough period of time. There’s never been a time like this where such a thing happened, where they could take it away from all of us, from me, from you, from our country. This was a fraudulent election, but we can't play into the hands of these people. We have to have peace. So go home. We love you. You're very special. You've seen what happens. You see the way others are treated that are so bad and so evil. I know how you feel. But go home and go home in peace. (Ich verstehe euren Schmerz. Ich weiß, dass ihr verletzt seid. Uns wurde eine Wahl gestohlen. Es war ein Erdrutschsieg und jeder weiß es, vor allem die andere Seite, doch ihr müsst jetzt nach Hause gehen. Wir brauchen Frieden. Wir brauchen Gesetz und Ordnung. Wir müssen unsere großartigen Gesetzeshüter schützen. Wir wollen keine Verletzten. Dies ist eine sehr schwere Zeit. So eine Zeit gab es noch nie, in der so etwas passiert ist, in der sie uns alles wegnehmen konnten – mir, euch und unserem Land. Diese Wahl war ein Betrug, aber wir dürfen diesen Leuten nicht in die Hände spielen. Wir brauchen Frieden. Also geht nach Hause. Wir lieben euch. Ihr seid etwas ganz Besonderes. Ihr habt gesehen, was passiert. Ihr seht, wie andere behandelt werden, die so schlecht und böse sind. Ich weiß, wie ihr euch fühlt. Aber geht heim und geht friedlich heim.)

Um 17:41 Uhr EST entfernte Facebook den Beitrag, da er einen Verstoß gegen den Facebook-Gemeinschaftsstandard zu gefährlichen Personen und Organisationen darstellte.

Um 18:07 Uhr EST, als die Polizei das Kapitol sicherte, postete Herr Trump eine schriftliche Erklärung auf Facebook:

These are the things and events that happen when a sacred landslide election victory is so unceremoniously viciously stripped away from great patriots who have been badly unfairly treated for so long. Go home with love in peace. Remember this day forever! (Solche Dinge und Ereignisse passieren, wenn ein unantastbarer erdrutschartiger Wahlsieg großen Patrioten, die lange schrecklich unfair behandelt wurden, kurzerhand und brutal weggenommen wird. Geht in Liebe und Frieden nach Hause. Erinnert euch für immer an diesen Tag!)

Um 18:15 Uhr EST entfernte Facebook den Beitrag, da er einen Verstoß gegen den Facebook-Gemeinschaftsstandard zu gefährlichen Personen und Organisationen darstellte. Außerdem wurde Herr Trump für 24 Stunden für Beiträge auf Facebook oder Instagram gesperrt.

Nach einer weiteren Prüfung von Herrn Trumps Beiträgen, seiner jüngsten Äußerungen außerhalb von Facebook und zusätzlicher Informationen zur Schwere der Gewalt am Kapitol verlängerte Facebook am 7. Januar 2021 die Sperrung seiner Konten „indefinitely and for at least the next two weeks until the peaceful transition of power is complete“ (auf unbestimmte Zeit und für mindestens zwei weitere Wochen, bis die friedliche Machtübergabe abgeschlossen ist).

Ab dem 20. Januar, mit der Amtseinführung von Präsident Joe Biden, war Herr Trump nicht länger Präsident der USA.

Am 21. Januar gab Facebook bekannt, diesen Fall an das Board zu übergeben. Facebook fragte, ob die Entscheidung vom 7. Januar richtig gewesen sei, Herrn Trump die Veröffentlichung von Beiträgen auf Facebook und Instagram auf unbestimmte Zeit zu verbieten. Das Unternehmen bat zudem um Empfehlungen zu Sperrungen, wenn der Nutzer eine politische Führungsperson ist.

Zusätzlich zu den beiden Beiträgen vom 6. Januar 2021 hatte Facebook zuvor fünf Verstöße gegen seine Gemeinschaftsstandards in Zusammenhang mit organischen Inhalten festgestellt, die auf der Facebook-Seite von Donald J. Trump gepostet wurden, drei davon innerhalb des letzten Jahres. Zwar wurden die fünf betreffenden Beiträge entfernt, es wurden aber keine Sanktionen auf Kontoebene verhängt.

Wichtige Erkenntnisse

Das Board stellt fest, dass die beiden Posts von Herrn Trump am 6. Januar einen schwerwiegenden Verstoß gegen die Gemeinschaftsstandards von Facebook und die Gemeinschaftsrichtlinien von Instagram darstellten. „We love you. You’re very special“ (Wir lieben euch. Ihr seid etwas ganz Besonderes) im ersten Beitrag und „great patriots (große Patrioten)“ und „remember this day forever“ (erinnert euch für immer an diesen Tag)" im zweiten Beitrag verletzten die Facebook-Regeln, die das Gutheißen oder die Unterstützung von Menschen, die Gewalt ausüben, verbieten.

Das Board war der Meinung, dass Herr Trump durch die Aufrechterhaltung haltloser Berichte über Wahlbetrug und beharrliche Aufrufe zum Handeln eine Umgebung schuf, von der ein ernsthaftes Risiko für Gewalt ausging. Zum Zeitpunkt von Herrn Trumps Beiträgen bestand eine klare, unmittelbare Gefahr von Schaden und seine Worte der Unterstützung für die an den Unruhen Beteiligten legitimierten deren gewalttätige Aktionen. Als Präsident hatte Herr Trump ein hohes Maß an Einfluss. Mit 35 Millionen Followern auf Facebook und 24 Millionen auf Instagram hatten seine Beiträge eine enorme Reichweite.

Angesichts der Schwere der Verstöße und der anhaltenden Gefahr von Gewalttätigkeiten war es gerechtfertigt, dass Facebook die Konten von Herrn Trump am 6. Januar sperrte und diese Sperrung am 7. Januar verlängerte.

Facebooks Verhängung einer unbefristeten Sperre war jedoch nicht angemessen.

Facebook darf keinen Nutzer für einen unbestimmten Zeitraum von der Plattform fernhalten, ohne dass Kriterien festgelegt wurden, wann oder ob das Konto wiederhergestellt wird.

Bei der Auferlegung dieser Strafe ist Facebook keinem klaren, veröffentlichten Verfahren gefolgt. „Unbefristete“ Sperrungen werden in den Inhaltsrichtlinien des Unternehmens nicht beschrieben. Zu den üblichen Sanktionen von Facebook gehören die Entfernung unzulässiger Inhalte, die Verhängung einer zeitlich begrenzten Sperrung oder die dauerhafte Deaktivierung der Seite und des Kontos.

Es ist die Aufgabe von Facebook, notwendige und verhältnismäßige Sanktionen festzulegen, die als Reaktion auf schwere Verstöße gegen die Inhaltsrichtlinien angewendet werden. Das Board muss sicherstellen, dass die Regeln und Prozesse von Facebook den Inhaltsrichtlinien, Werten und der Verpflichtung zur Achtung der Menschenrechte entsprechen.

Durch die Anwendung einer unbestimmten und einer nicht auf Standards basierenden Strafe und die anschließende Übergabe dieses Falls an das Board versucht Facebook, sich seiner Verantwortung zu entziehen. Das Board lehnt den Antrag von Facebook ab und besteht darauf, dass Facebook eine definierte Strafe anwendet und begründet.

Die Entscheidung des Oversight Boards

Das Oversight Board hat die Entscheidung von Facebook bestätigt, den Zugang von Herrn Trump zum Posten von Inhalten auf Facebook und Instagram am 7. Januar 2021 zu sperren. Da Facebook jedoch die Konten von Herrn Trump „auf unbestimmte Zeit“ gesperrt hat, muss das Unternehmen diese Strafe überprüfen.

Facebook muss innerhalb von sechs Monaten nach dieser Entscheidung die willkürliche Strafe, die am 7. Januar verhängt wurde, erneut prüfen und eine angemessene Strafe festlegen. Diese Strafe muss sich an der Schwere des Verstoßes und dem Risiko für zukünftigen Schaden orientieren. Zudem muss sie den Regeln von Facebook für schwerwiegende Verstöße entsprechen, die wiederum klar, notwendig und verhältnismäßig sein müssen.

Wenn Facebook beschließt, die Konten von Herrn Trump wiederherzustellen, sollte das Unternehmen seine Regeln bei dieser Entscheidung anwenden, einschließlich aller Änderungen, die als Reaktion auf die nachstehenden Richtlinienempfehlungen des Boards vorgenommen werden. In diesem Szenario muss Facebook alle weiteren Verstöße umgehend und in Übereinstimmung mit den bestehenden Inhaltsrichtlinien bestrafen.

Eine Minderheit des Boards betont, dass Facebook Maßnahmen ergreifen sollte, um die Wiederholung negativer Auswirkungen auf die Menschenrechte zu verhindern. Facebook sollte auch sicherstellen, dass Nutzer, die nach einer Sperrung eine Aufhebung der Sperrung beantragen, ihr Fehlverhalten anerkennen und sich verpflichten, die Regeln in Zukunft einzuhalten.

In der Weiterleitung dieser Angelegenheit an das Board bat Facebook ausdrücklich um „observations or recommendations from the board about suspensions when the user is a political leader“ (Beobachtungen oder Empfehlungen des Boards zu Sperrungen, wenn der Nutzer eine politische Führungsperson ist).

In einer Stellungnahme zu den Richtlinien gab das Board eine Reihe von Empfehlungen ab, um die Richtlinien von Facebook in Bezug auf ernsthafte Schadensrisiken, die von politischen Führungspersonen und anderen einflussreichen Personen ausgehen, zu ändern.

Das Board stellte fest, dass es nicht immer sinnvoll ist, eine klare Unterscheidung zwischen politischen Führungspersonen und anderen einflussreichen Nutzern zu treffen, da auch andere Nutzer mit einem großen Publikum zu ernsthaften Risiken beitragen können.

Zwar sollten für alle Nutzer dieselben Regeln gelten, doch bei der Beurteilung der Wahrscheinlichkeit und Unmittelbarkeit eines Schadens kommt es auch auf den Kontext an. Wenn Beiträge von einflussreichen Nutzern mit hoher Wahrscheinlichkeit einen drohenden Schaden darstellen, sollte Facebook schnell handeln, um seine Regeln durchzusetzen. Obwohl Facebook erklärte, dass es den Nachrichtenwertzuschlag in diesem Fall nicht angewandt hat, forderte das Board Facebook auf zu klären, wie Entscheidungen in Bezug auf einflussreiche Nutzer getroffen werden. Das Board betonte, dass Überlegungen zum Nachrichtenwert nicht im Vordergrund stehen sollten, wenn dringende Maßnahmen erforderlich sind, um erheblichen Schaden zu verhindern.

Facebook sollte die Regeln, die bei der Verhängung von Sanktionen auf Kontoebene gegen einflussreiche Nutzer herangezogen werden, öffentlich erläutern. Diese Regeln müssen Folgendes sicherstellen: Wenn Facebook eine zeitlich begrenzte Sperrung eines Kontos einer einflussreichen Person verhängt, um das Risiko eines erheblichen Schadens zu verringern, muss vor Ablauf der Sperrfrist geprüft werden, ob das Risiko weiterhin besteht. Wenn Facebook feststellt, dass von dem Nutzer zu diesem Zeitpunkt ein ernsthaftes Risiko ausgeht, zu unmittelbar drohender Gewalt, Diskriminierung oder anderen gesetzeswidrigen Handlungen anzustiften, sollte eine weitere zeitlich begrenzte Sperrung verhängt werden, wenn solche Maßnahmen zum Schutz der öffentlichen Sicherheit notwendig und dem Risiko angemessen sind.

Das Gremium merkte an, dass Staatsoberhäupter und andere hohe Regierungsbeamte mehr Schaden anrichten können als andere Personen. Hat das Staatsoberhaupt oder der hohe Regierungsbeamte wiederholt Nachrichten gepostet, die nach internationalen Menschenrechtskonventionen ein Risiko darstellen, sollte Facebook das Konto für einen bestimmten Zeitraum sperren, der ausreicht, um vor drohendem Schaden zu schützen. Die Dauer der Sperrung muss lang genug sein, um eine abschreckende Wirkung zu haben, und kann unter Umständen auch die Löschung des Kontos oder der Seite beinhalten.

In weiteren Empfehlungen schlug das Board Facebook vor, folgende Maßnahmen zu ergreifen:

• Schnelle Eskalation von Inhalten, die politische Äußerungen von höchst einflussreichen Nutzern enthalten, an spezialisierte Mitarbeiter, die mit dem sprachlichen und politischen Kontext vertraut sind. Diese Mitarbeiter sollten von politischer und wirtschaftlicher Einmischung sowie unzulässiger Beeinflussung abgeschirmt sein.
• Bereitstellung angemessener Ressourcen und Fachkenntnisse, um das Risiko von Schäden durch einflussreiche Nutzer weltweit zu bewerten.
• Bereitstellung weiterer Informationen, um den Nutzern zu helfen, den Prozess und die Kriterien für die Anwendung der Ausnahmeregelung für den Nachrichtenwert zu verstehen und zu bewerten, einschließlich der Frage, wie sie auf einflussreiche Nutzer angewendet wird. Das Unternehmen sollte auch die Gründe, Standards und Prozesse der Gegenprüfung klar darlegen und über die relativen Fehlerquoten der durch die Gegenprüfung getroffenen Feststellungen im Vergleich zu den normalen Durchsetzungsverfahren informieren.
• Umfassende Überprüfung des potenziellen Beitrags von Facebook zum Narrativ des Wahlbetrugs und der verschärften Spannungen, die in der Gewalt am 6. Januar in den Vereinigten Staaten gipfelten. Dies sollte eine offene Reflexion über die Design- und Richtlinienentscheidungen sein, die Facebook getroffen hat und die möglicherweise den Missbrauch seiner Plattform ermöglicht haben.
• Klarstellung in seiner Unternehmensrichtlinie zu Menschenrechten, wie Facebook Informationen sammelt, aufbewahrt und gegebenenfalls weitergibt, um die Untersuchung und mögliche Verfolgung von schweren Verstößen gegen internationales Strafrecht, Menschenrechte und humanitäres Recht zu unterstützen.
• Erläuterung das Verfahrens für Verwarnungen und Sanktionen zur Einschränkung von Profilen, Seiten, Gruppen und Konten in den Facebook-Gemeinschaftsstandards und in den Gemeinschaftsrichtlinien von Instagram.
• Aufnahme der Anzahl der Profil-, Seiten- und Kontobeschränkungen in die Transparenzberichte, wobei die Informationen nach Regionen und Ländern aufgeschlüsselt werden.
• Die betroffenen Nutzer sollten einfach zugängliche Informationen darüber erhalten, wie viele Verstöße festgestellt und Verwarnungen und Strafen gegen sie verhängt wurden und welche Konsequenzen zukünftige Verstöße haben werden.
• Entwicklung und Veröffentlichung einer Richtlinie, die die Reaktion von Facebook auf Krisen oder neuartige Situationen regelt, in denen seine üblichen Prozesse einen drohenden Schaden nicht verhindern oder vermeiden würden. Diese neue Richtlinie sollte geeignete Parameter für solche Maßnahmen festlegen, einschließlich der Verpflichtung, Entscheidungen innerhalb einer bestimmten Zeit zu überprüfen.

* Fallzusammenfassungen bieten einen Überblick über den Fall und haben keinen Präzedenzwert.

In diesem Fall bat Facebook das Board, zwei Fragen zu beantworten:

Hat Facebook – unter Berücksichtigung der Werte von Facebook, insbesondere seiner Verpflichtung zur freien Meinungsäußerung und zu Sicherheit – die richtige Entscheidung getroffen, als es am 7. Januar 2021 Donald J. Trumps Zugriff auf das Posten von Inhalten auf Facebook und Instagram auf unbestimmte Zeit sperrte?

Zusätzlich zu der Entscheidung des Boards, ob die unbefristete Sperrung aufrechterhalten oder aufgehoben wird, begrüßt Facebook Beobachtungen oder Empfehlungen des Boards zu Sperrungen, wenn der Nutzer eine politische Führungsperson ist.

1. Zusammenfassung der Entscheidung

Das Board bestätigt die am 7. Januar 2021 von Facebook getroffene Entscheidung, die Berechtigung des damaligen US-Präsidenten Donald Trump zur Veröffentlichung von Inhalten auf seiner Facebook-Seite und seinem Instagram-Konto einzuschränken.

Es war jedoch ein unangemessener Schritt seitens Facebook, die unbestimmte und nicht auf Standards und Richtlinien basierende Strafe einer unbefristeten Sperrung zu verhängen. Zu den üblichen Sanktionen von Facebook gehören die Entfernung unzulässiger Inhalte, die Verhängung einer zeitlich begrenzten Sperrung oder die dauerhafte Deaktivierung der Seite und des Kontos.

Das Board verlangt, dass Facebook diese Angelegenheit überprüft, um eine verhältnismäßige Reaktion zu bestimmen und zu begründen, die mit den Regeln übereinstimmen, die für andere Nutzer der Plattform gelten. Facebook ist verpflichtet, die Überprüfung dieser Angelegenheit innerhalb von sechs Monaten nach dem Datum dieser Entscheidung abzuschließen. Das Board formulierte darüber hinaus Richtlinienempfehlungen für Facebook, die das Unternehmen zwecks Entwicklung klarer, notwendiger und verhältnismäßiger Richtlinien, die die öffentliche Sicherheit fördern und das Recht auf freie Meinungsäußerung respektieren, einhalten muss.

2. Beschreibung des Falls

Wahlen sind ein wesentlicher Bestandteil jeder Demokratie. Sie ermöglichen es den Menschen auf der ganzen Welt, soziale Konflikte friedlich zu regeln und zu lösen. Der Präsident der Vereinigten Staaten wird laut Verfassung durch Auszählung der Wahlmännerstimmen gewählt. Am 6. Januar 2021, während die Wahlmännerstimmen der Wahlen im November 2020 ausgezählt wurden, drangen mehrere Personen gewaltsam in das Kapitol ein und versuchten, den verfassungsmäßigen Wahlprozess zu stören. Bei den Ausschreitungen kamen fünf Menschen ums Leben, viele weitere wurden verletzt.

Vor dem 6. Januar 2021 hatte der damalige US-Präsident Donald Trump ohne Beweise von einer Manipulation der Präsidentschaftswahlen im November 2020 gesprochen. Von Präsident Trump und seinen Unterstützern vorgebrachte Wahlbetrugsklagen wurden in über 70 Fällen abgewiesen und der damalige Generalstaatsanwalt sagte nach einer Untersuchung aus, es habe keinen Betrug „in einem Ausmaß [gegeben], das einen anderen Wahlausgang hätte bewirken können“ (on a scale that could have effected a different outcome in the election). Dessen ungeachtet äußerte Präsident Trump weiterhin unbegründete Behauptungen dieser Art, u. a. über Facebook, und verwies auf eine für den 6. Januar geplante Protestveranstaltung:

1. Am 19. Dezember 2020 wurde auf der Facebook-Seite von Donald Trump folgender Beitrag veröffentlicht: „Peter Navarro releases 36-page report alleging election fraud 'more than sufficient' to swing victory to Trump - A great report by Peter. Statistically impossible to have lost the 2020 Election. Big protest in D.C. on January 6th. Be there, will be wild!“ („Peter Navarro veröffentlicht einen 36-seitigen Bericht, in dem er den Wahlbetrug als ,mehr als weitreichend‘ bezeichnet. Er beweist damit den Sieg von Trump. Ein großer Bericht von Peter. Statistisch unmöglich, dass wir die Wahl 2020 verloren haben. Großer Protest in D.C. am 6. Januar. Nicht verpassen, wird wild sein!“)
2. Am 1. Januar 2021 wurde auf der Facebook-Seite von Donald Trump folgender Beitrag veröffentlicht: „The BIG Protest Rally in Washington, D.C., will take place at 11.00 A.M. on January 6th. Locational details to follow. StopTheSteal!“ („Die GROSSE Protestaktion in Washington, D.C., findet am 6. Januar um 11:00 Uhr statt. Der Veranstaltungsort wird zuvor bekannt gegeben. Stoppt den Betrug!“)

Am Morgen des 6. Januar 2021 hielt Herr Trump im Rahmen einer Protestveranstaltung in der Nähe des Weißen Hauses eine Rede. Darin stellte er weiterhin unbegründete Behauptungen auf, er habe die Wahl gewonnen, und schlug vor, Vizepräsident Mike Pence, der hierzu nicht befugt war, solle dem gewählten Präsidenten Joe Biden seinen Sieg aberkennen. Des Weiteren gab Herr Trump unter dem Motto „Stop the Steal“ (Stoppt den Betrug) bekannt, er und seine Anhänger würden den vermeintlichen Wahlbetrug aufhalten. So schrieb er wörtlich: „[W]e’re going to the Capitol.“ (Wir werden das Kapitol aufsuchen.)

Viele Teilnehmer der Protestaktion marschierten daraufhin zum Kapitolgebäude, wo sich bereits zahlreiche Demonstranten versammelt hatten. Viele von ihnen griffen das Sicherheitspersonal vor Ort an, drangen gewaltsam in das Kapitol ein und randalierten im Inneren des Gebäudes. Mike Pence und andere Kongressabgeordnete wurden einer ernsthaften Bedrohung ausgesetzt, Opfer gezielter Angriffe zu werden. Fünf Menschen kamen ums Leben, viele weitere wurden verletzt.

Während sich diese Ereignisse zutrugen, veröffentlichte Präsident Trump auf seiner Facebook-Seite (die zu dieser Zeit mindestens 35 Millionen Follower zählte) ein Video mitsamt einer Stellungnahme. Das Video wurde auch auf seinem Instagram-Konto geteilt (das mindestens 24 Millionen Follower zählte). In den Beiträgen äußerte Herr Trump erneut Wahlbetrugsanschuldigungen und behauptete, ihm seien Stimmen gestohlen wurden. Gleichzeitig sprach er denjenigen Personen, die zu dieser Zeit im Kapitol randalierten, sein Lob und seine Unterstützung aus, rief sie aber auch dazu auf, friedlich zu bleiben. Sowohl die betreffende Facebook-Seite als auch das betreffende Instagram-Konto sind mit einem blauen Häkchen gekennzeichnet. Dies bedeutet, dass Facebook bestätigt hat, dass das Konto die „authentische Präsenz der öffentlichen Person“ ist, die es repräsentiert.

In dem einminütigen Video, das um 16:21 Uhr Eastern Standard Time (EST) gepostet wurde, als der Aufruhr noch in vollem Gange war, sprach Präsident Trump:

I know your pain. I know you’re hurt. We had an election that was stolen from us. It was a landslide election, and everyone knows it, especially the other side, but you have to go home now. We have to have peace. We have to have law and order. We have to respect our great people in law and order. We don’t want anybody hurt. It’s a very tough period of time. There’s never been a time like this where such a thing happened, where they could take it away from all of us, from me, from you, from our country. This was a fraudulent election, but we can't play into the hands of these people. We have to have peace. So go home. We love you. You're very special. You've seen what happens. You see the way others are treated that are so bad and so evil. I know how you feel. But go home and go home in peace. (Ich verstehe euren Schmerz. Ich weiß, dass ihr verletzt seid. Uns wurde eine Wahl gestohlen. Es war ein Erdrutschsieg und jeder weiß es, vor allem die andere Seite, doch ihr müsst jetzt nach Hause gehen. Wir brauchen Frieden. Wir brauchen Gesetz und Ordnung. Wir müssen unsere großartigen Gesetzeshüter schützen. Wir wollen keine Verletzten. Dies ist eine sehr schwere Zeit. So eine Zeit gab es noch nie, in der so etwas passiert ist, in der sie uns alles wegnehmen konnten – mir, euch und unserem Land. Diese Wahl war ein Betrug, aber wir dürfen diesen Leuten nicht in die Hände spielen. Wir brauchen Frieden. Also geht nach Hause. Wir lieben euch. Ihr seid etwas ganz Besonderes. Ihr habt gesehen, was passiert. Ihr seht, wie andere behandelt werden, die so schlecht und böse sind. Ich weiß, wie ihr euch fühlt. Aber geht heim und geht friedlich heim.)

Um 17:41 Uhr EST entfernte Facebook den Beitrag, da er einen Verstoß gegen den Facebook-Gemeinschaftsstandard zu gefährlichen Personen und Organisationen darstellte.

Herr Trump veröffentlichte um 18:07 Uhr EST, als die Polizei das Kapitol wieder unter Kontrolle brachte, folgende schriftliche Stellungnahme:

These are the things and events that happen when a sacred landslide election victory is so unceremoniously viciously stripped away from great patriots who have been badly unfairly treated for so long. Go home with love in peace. Remember this day forever! (Solche Dinge und Ereignisse passieren, wenn ein unantastbarer erdrutschartiger Wahlsieg großen Patrioten, die lange schrecklich unfair behandelt wurden, kurzerhand und brutal weggenommen wird. Geht in Liebe und Frieden nach Hause. Erinnert euch für immer an diesen Tag!)

Um 18:15 Uhr EST entfernte Facebook diesen Beitrag mit der Begründung, dass er einen Verstoß gegen den Gemeinschaftsstandard zu gefährlichen Personen und Organisationen darstelle, und verhängte eine 24-stündige Sperre gegen Herrn Trump, die es dem damaligen Präsidenten unmöglich machte, während dieser Zeit auf Facebook oder Instagram zu posten.

Nach der weiteren Prüfung von Präsident Trumps Beiträgen, seinen jüngsten Äußerungen außerhalb von Facebook und zusätzlichen Informationen zur Schwere der Gewalt am Kapitol verlängerte Facebook am 7. Januar 2021die Sperrung seiner Konten „indefinitely and for at least the next two weeks until the peaceful transition of power is complete“ (auf unbestimmte Zeit und für mindestens zwei weitere Wochen, bis die friedliche Machtübergabe abgeschlossen ist). Facebook berief sich dabei öffentlich auf Herrn Trumps „use of our platform to incite violent insurrection against a democratically elected government“ (Nutzung unserer Plattform, um einen gewalttätigen Aufstand gegen eine demokratisch gewählte Regierung anzuzetteln).

Im Anschluss an die Ereignisse des 6. Januar erklärten einige der Teilnehmer des Aufstandes öffentlich, auf Geheiß des Präsidenten gehandelt zu haben. In der Washington Post vom 16. Januar 2021 war folgendes Zitat eines Demonstranten zu lesen: „I thought I was following my president. . . . He asked us to fly there. He asked us to be there. So I was doing what he asked us to do.“ (Ich dachte, ich käme der Aufforderung meines Präsidenten nach. Er bat uns, hierhin zu fliegen. Er bat um unsere Teilnahme. Ich tat nichts anderes als das, was er von uns verlangt hatte.) In einem Video war ein Randalierer auf den Stufen des Kapitols dabei zu sehen, wie er einen Polizisten anschrie: „We were invited here! We were invited by the president of the United States!“ (Wir sind auf Einladung hier! Wir wurden vom Präsidenten der Vereinigten Staaten eingeladen!).

Der District of Columbia rief am 6. Januar den öffentlichen Notstand aus und verlängerte diesen noch am selben Tag bis zum 21. Januar. Am 27. Januar warnte das Ministerium für Innere Sicherheit (Department of Homeland Security; DHS) in einem sogenannten National Terrorism Advisory System Bulletin vor einer „heightened threat environment across the United States, which DHS believes will persist in the weeks following the successful Presidential Inauguration“ (erhöhten Bedrohungslage in den gesamten Vereinigten Staaten, die nach Ansicht des Ministeriums für Innere Sicherheit auch in den Wochen nach der erfolgreichen Amtseinführung des Präsidenten anhalten wird). Weiter hieß es: „[The] drivers to violence will remain through early 2021 and some [Domestic Violent Extremists] may be emboldened by the January 6, 2021 breach of the U.S. Capitol Building in Washington, D.C. to target elected officials and government facilities.“ (Die Triebkräfte hinter den gewalttätigen Ausschreitungen werden noch bis Anfang 2021 anhalten und einige [gewalttätige nationale Extremisten] könnten durch den Einbruch in das Kapitolgebäude in Washington, D.C., am 6. Januar 2021 unter Umständen dazu ermutigt werden, gewählte Amtsträger und Regierungseinrichtungen ins Visier zu nehmen.)

Während die Beiträge, die nach Ansicht von Facebook gegen die Inhaltsrichtlinien des sozialen Netzwerks verstießen, entfernt wurden, sind die Facebook-Seite und das Instagram-Konto von Herrn Trump nach wie vor öffentlich auf Facebook und Instagram zugänglich. Weder die Facebook-Seite noch das Instagram-Konto enthalten einen Hinweis auf die von Facebook auferlegten Einschränkungen. Am 21. Januar 2021 gab Facebook bekannt, dass es den Fall an das Oversight Board übergeben habe.

Zusätzlich zu den beiden Beiträgen vom 6. Januar 2021 hatte Facebook zuvor fünf Verstöße gegen seine Gemeinschaftsstandards in Zusammenhang mit organischen Inhalten festgestellt, die auf der Facebook-Seite von Donald J. Trump gepostet wurden, drei davon innerhalb des letzten Jahres. Zwar wurden die fünf betreffenden Beiträge entfernt, jedoch blieben Sanktionen auf Kontoebene aus. Als Antwort auf die Frage des Boards, ob Verwarnungen verhängt worden seien, gab Facebook an, die Seite habe eine Verwarnung für einen im August 2020 veröffentlichten Beitrag erhalten, da dieser gegen die Richtlinie zu Fehlinformationen und schädlichen Inhalte in Zusammenhang mit COVID-19 verstoßen habe. Facebook machte keine Angaben dazu, warum andere richtlinienwidrige Inhalte, die zuvor entfernt worden waren, keine Verwarnungen nach sich zogen.

Facebook hat eine „Newsworthiness Allowance“. Laut dieser Ausnahmeregelung werden Inhalte, die gegen die Facebook-Richtlinien verstoßen, nicht von der Plattform entfernt, wenn Facebook der Meinung ist, dass „diese Inhalte berichtenswert sind und ihre Veröffentlichung im öffentlichen Interesse liegt“. Facebook versicherte: „[Facebook] has never applied the newsworthiness allowance to content posted by the Trump Facebook page or Instagram account“ (Facebook hat zu keinem Zeitpunkt die Ausnahmeregelung für Beiträge mit Nachrichtenwert auf Inhalte angewendet, die auf der Facebook-Seite oder dem Instagram-Konto von Donald Trump veröffentlicht wurden.).

Auf Nachfrage des Boards hin teilte Facebook mit: „[T]here were 20 pieces of content from Trump’s Facebook Page and Instagram Account that content reviewers or automation initially marked as violating Facebook’s Community Standards but were ultimately determined to not be violations.“ (Insgesamt wurden 20 Inhalte, die auf der Facebook-Seite und dem Instagram-Konto von Herrn Trump veröffentlicht wurden, von Inhaltsprüfern oder Algorithmen zunächst als Verstoß gegen die Facebook-Gemeinschaftsstandards markiert. Bei näherer Prüfung wurde jedoch festgestellt, dass kein Verstoß vorlag.).

Facebook teilte dem Board mit, dass bei einigen als „hochkarätig“ eingestuften Konten ein sogenanntes „Cross Check“-System (Gegenprüfung) verwendet wird, um das Risiko von Fehlern bei der Anwendung der Richtlinien zu minimieren. Im Falle dieser Konten leitet Facebook Inhalte, die gegen die Gemeinschaftsstandards verstoßen, zur weiteren internen Überprüfung weiter. Anschließend wird ermittelt, ob tatsächlich ein Verstoß vorliegt. Gegenüber dem Board sagte Facebook aus: „[Facebook] has never had a general rule that is more permissive for content posted by political leaders.“ (Facebook hat politischen Amtsträgern noch nie größere Freiheiten bei der Veröffentlichung von Inhalten eingeräumt als in der allgemeingültigen Richtlinie vorgesehen.). Während die gleichen allgemeinen Regeln gelten, bedeutet das Gegenprüfungssystem, dass bei einigen „hochkarätigen“ Nutzern andere Entscheidungsprozesse angewendet werden.

3. Befugnis und Umfang

Das Oversight Board ist befugt, eine breite Palette von Fragen zu prüfen, die von Facebook vorgelegt werden (Artikel 2 der Satzung, Abschnitt 1; Artikel 2 der Geschäftsordnung, Abschnitt 2.1). Entscheidungen in Zusammenhang mit Angelegenheiten dieser Art sind verbindlich und können Stellungnahmen zu Richtlinien, einschließlich Empfehlungen, beinhalten. Diese Empfehlungen sind unverbindlich, Facebook ist jedoch verpflichtet, darauf zu reagieren (Artikel 3 der Satzung, Abschnitt 4). Das Board ist ein unabhängiger Beschwerdemechanismus, der es ermöglichen soll, Streitigkeiten auf transparente und prinzipientreue Art und Weise beizulegen.

4. Relevante Standards

Laut Satzung des Oversight Boards muss das Gremium sämtliche Fälle im Hinblick auf folgende Standards prüfen:

I. Die Inhaltsrichtlinien von Facebook:

Facebook und Instagram haben jeweils Gemeinschaftsstandards bzw. Gemeinschaftsrichtlinien, die beschreiben, welche Inhalte Nutzer nicht auf der jeweiligen Plattform posten dürfen.

Der Facebook-Gemeinschaftsstandard zu gefährlichen Personen und Organisationen verbietet „Inhalte, die Ereignisse gutheißen, unterstützen oder repräsentieren, die Facebook als Terroranschläge, Hassveranstaltungen, tatsächliche und versuchte Massenmorde, Serienmorde, Hassverbrechen und Gewaltereignisse bezeichnet“. Der Standard untersagt darüber hinaus „Inhalte, die die oben genannten Organisationen oder Einzelpersonen oder jegliche ihrer Handlungen gutheißen“. Damit sind unter anderem jegliche von Hass getriebene oder kriminelle Gruppierungen gemeint.

In den Gemeinschaftsrichtlinien von Instagram ist vermerkt: „Instagram ist kein Ort, um Terrorismus, organisiertes Verbrechen oder Hassgruppen zu befürworten oder zu verherrlichen“. Darüber hinaus enthalten die Richtlinien einen Link zum Gemeinschaftsstandard zu gefährlichen Personen und Organisationen.

In seinem Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt gibt Facebook an: „Wir entfernen entsprechende Inhalte, deaktivieren Konten und arbeiten mit den Strafverfolgungsbehörden zusammen, wenn wir der Ansicht sind, dass eine echte Gefahr von Körperverletzung oder eine unmittelbare Gefährdung der öffentlichen Sicherheit besteht.“ Der Standard verbietet ausdrücklich folgende Inhalte: „Äußerungen, die schwere Gewalt befürworten“ sowie „Jedwede Inhalte mit Absichtserklärungen, Handlungsaufrufen, bedingten oder ambitionierten Anweisungen, Unterstützung oder Befürwortung von Gewalt rund um Wahlen, Wählerregistrierung oder die Verwaltung oder der Ausgang einer Wahl“. Ebenso verboten sind „Fehlinformationen und nicht nachprüfbare Gerüchte, die das Risiko von unmittelbar drohender Gewalt oder Körperverletzung erhöhen“.

Laut den Gemeinschaftsrichtlinien von Instagram entfernt Facebook „Inhalte, die glaubhafte Drohungen enthalten“ und verbietet „[e]rnsthafte Androhungen von Gewalt oder Bedrohungen gegen die öffentliche oder persönliche Sicherheit“. Beide Abschnitte enthalten Links zum Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt.

Den Nutzungsbedingungen von Facebook ist zu entnehmen, dass das Unternehmen sich das Recht vorbehält, das Konto eines Nutzers vorübergehend oder dauerhaft zu sperren, sofern ermittelt wird, dass ein „erheblich[er] oder wiederholt[er]“ Verstoß gegen die Nutzungsbedingungen oder Richtlinien von Facebook vorliegt. In der Einleitung der Gemeinschaftsstandards ist Folgendes vermerkt: „Verstöße gegen unsere Gemeinschaftsstandards haben Folgen. Wie diese Folgen konkret aussehen, hängt von der Schwere des Verstoßes und dem bisherigen Verhalten der jeweiligen Person auf unserer Plattform ab.“

Den Nutzungsbedingungen für Instagram von Facebook ist zu entnehmen: „Wir können zum Schutz unserer Gemeinschaft oder Dienste unverzüglich die vollständige oder teilweise Bereitstellung des Dienstes für dich verweigern oder einstellen (einschließlich der Sperrung oder Deaktivierung deines Zugriffs auf die Facebook-Produkte und Produkte der Facebook-Unternehmen). Dies gilt auch, wenn du für uns eine Gefahr oder ein rechtliches Risiko darstellst, gegen diese Nutzungsbedingungen oder unsere Richtlinien (einschließlich unserer Instagram-Gemeinschaftsrichtlinien) verstößt […]“. Die Gemeinschaftsrichtlinien von Instagram enthalten folgende Aussage: „Verletzungen der Richtlinien können dazu führen, dass wir Inhalte löschen, Konten sperren oder andere Beschränkungen vornehmen.“

II. Werte von Facebook:

In der Einleitung zu seinen Gemeinschaftsstandards beschreibt Facebook fünf Werte, die eigenen Angaben zufolge bestimmen, welche Inhalte auf den Plattformen des Unternehmens erlaubt sind. Zu diesen Werten gehören unter anderem „freie Meinungsäußerung“, „Sicherheit“ und „Würde“.

Was das Thema „Meinungsfreiheit“ betrifft, schreibt Facebook: „Wir möchten, dass die Nutzerinnen und Nutzer offen über die Themen sprechen können, die ihnen wichtig sind. Das gilt auch dann, wenn einige Personen möglicherweise unterschiedlicher Meinung sind oder Inhalte anstößig finden. […] Unsere Verpflichtung zur Meinungsfreiheit hat zwar höchste Priorität, aber uns ist bewusst, dass das Internet neue und vermehrte Möglichkeiten für Missbrauch bietet.“

Den Wert „Sicherheit“ beschreibt Facebook als die Verpflichtung des Unternehmens, Facebook zu einem sicheren Ort zu machen. Diesbezüglich heißt es: „Äußerungen, die Nutzerinnen und Nutzer bedrohen, haben das Potenzial, andere einzuschüchtern, auszugrenzen oder mundtot zu machen. Deshalb sind sie auf Facebook nicht gestattet.“

Als „Würde“ bezeichnet Facebook die Überzeugung des Unternehmens, dass alle Menschen „gleich an Würde und Rechten sind“. Deshalb erwartet das Unternehmen, „dass [Nutzer] die Würde anderer achten und andere nicht belästigen oder erniedrigen“.

III. Menschenrechtsstandards:

Am 16. März 2021 gab Facebook seine Unternehmensrichtlinie für Menschenrechte bekannt. Darin bekundete das Unternehmen, es habe sich zur Einhaltung der in den UN-Leitprinzipien für Wirtschaft und Menschenrechte (UN Guiding Principles on Business and Human Rights; UNGPs) verpflichtet. Die UNGPs, die 2011 vom UN-Menschenrechtsrat verabschiedet wurden, geben einen freiwilligen Rahmen für die Menschenrechtspflichten von Privatunternehmen vor. Als globales Unternehmen, das sich zur Einhaltung der UNGPs verpflichtet hat, muss Facebook überall dort, wo das Unternehmen tätig ist, internationale Menschenrechtsstandards einhalten. Das Oversight Board wurde damit beauftragt, die Entscheidung von Facebook im Hinblick auf die für Facebook geltenden internationalen Menschenrechtsstandards zu beurteilen.

Das Board analysierte die in diesem Fall menschenrechtsrelevanten Pflichten von Facebook unter Berücksichtigung geltender Menschenrechtsstandards, darunter etwa:

• Das Recht auf Meinungsfreiheit: Internationaler Pakt über bürgerliche und politische Rechte (ICCPR), Artikel 19 und 20; nach der Auslegung in der Allgemeinen Bemerkung Nr. 34, Menschenrechtsausschuss (2011) (Allgemeine Bemerkung 34); der Aktionsplan von Rabat, OHCHR, (2012); Bericht des UN-Sonderberichterstatters für Meinungsfreiheit und freie Meinungsäußerung A/HRC/38/35 (2018); Erklärung der internationalen Überwachungsinstanzen des Rechts auf freie Meinungsäußerung zu COVID-19 (März 2020).
• Das Recht auf Leben: ICCPR, Artikel 6;
• Das Recht auf Sicherheit der Person: ICCPR Artikel 9, Absatz 1.
• Das Recht auf Nichtdiskriminierung: ICCPR Artikel 2 und 26; Internationales Übereinkommen zur Beseitigung jeder Form von Rassendiskriminierung (International Convention on the Elimination of All Forms of Racial Discrimination, ICERD), Artikel 1 und 4.
• Teilnahme an öffentlichen Angelegenheiten und Wahlrecht: ICCPR, Artikel 25.
• Recht auf Beschwerde: ICCPR, Artikel 2; Allgemeine Bemerkung Nr. 31 des Menschenrechtsausschusses zum Recht auf Meinungsfreiheit und freie Meinungsäußerung (2004) (Allgemeine Bemerkung Nr. 31); UNGPs, Prinzip 22.

5. Stellungnahme des Content-Creators

Wenn Facebook einen Fall an das Board weiterleitet, gibt das Board der Person, die für den Inhalt verantwortlich ist, die Möglichkeit, zu diesem Stellung zu beziehen. In diesem Fall wurde über das American Center for Law and Justice und einen Seitenadministrator im Namen von Herrn Trump eine Stellungnahme an das Board übermittelt. In dieser Stellungnahme wird das Board aufgefordert, die unbefristete Sperrung des Facebook-Kontos des ehemaligen US-Präsidenten Donald Trump aufheben.

Des Weiteren wird auf die Beiträge eingegangen, die am 6. Januar 2021 von Facebook und Instagram entfernt wurden, sowie auf die an diesem Tag von Herrn Trump gehaltene Rede. In der Stellungnahme heißt es: „[The posts] called for those present at and around the Capitol that day to be peaceful and law abiding, and to respect the police.“ (In den Beiträgen wurden die an diesem Tag im und um das Kapitol herum anwesenden Personen dazu aufgerufen, friedlich und gesetzestreu zu handeln und die Polizei zu respektieren.) Weiter ist zu lesen, es sei: „inconceivable that either of those two posts can be viewed as a threat to public safety, or an incitement to violence“ (unvorstellbar, dass einer dieser beiden Beiträge als Bedrohung der öffentlichen Sicherheit oder als Aufforderung zur Gewalt ausgelegt werden könnte). Weiter ist zu lesen: „It is stunningly clear that in his speech there was no call to insurrection, no incitement to violence, and no threat to public safety in any manner“ (Es ist überaus deutlich, dass seine Rede in keinster Weise einen Aufruf zum Aufstand, eine Anstiftung zur Gewalt oder eine Bedrohung der öffentlichen Sicherheit beinhaltete). Es ließe sich „a total absence of any serious linkage between the Trump speech and the Capitol building incursion“ (ein Mangel jeglicher handfester Zusammenhänge zwischen Herrn Trumps Rede und der Erstürmung des Kapitols) feststellen.

In der Stellungnahme wird darüber hinaus auf die Gründe von Facebook für das Verhängen der Einschränkungen eingegangen. So ist zu lesen: „[N]othing Mr. Trump said to the rally attendees could reasonably be interpreted as a threat to public safety.“ (Keine der Aussagen, die Herr Trump gegenüber den Teilnehmern der Aufstände äußerte, kann als Bedrohung der öffentlichen Sicherheit ausgelegt werden.). Demzufolge kann es keine sicherheitsbedingten Gründe für die von Facebook verhängten Einschränkungen geben. Des Weiteren wird betont: „[A]ny content suspected of impacting safety must have a direct and obvious link to actual risk of violence.“ (Jeder Inhalt, der den Verdacht weckt, ein Sicherheitsrisiko darzustellen, muss eine direkte und offensichtliche Verbindung zu einem tatsächlichen Risiko von Gewalt aufweisen.) Letztlich wird in der Stellungnahme die Auffassung vertreten, die in der Rede verwendeten Begriffe „fight“ bzw. „fighting“ (Kampf bzw. Kämpfen), seien „linked to a call for lawful political and civic engagement“ (mit einem Aufruf zu rechtmäßigem politischem und bürgerschaftlichem Engagement verbunden). So wird folgendermaßen geschlussfolgert: „[T]hose words were neither intended, nor would be believed by any reasonable observer or listener to be a call for violent insurrection or lawlessness.“ (Diese Worte waren weder beabsichtigt noch könnten sie von einem vernünftigen Beobachter oder Zuhörer als Aufruf zu gewaltsamem Aufstand oder Gesetzlosigkeit aufgefasst werden.)

In der Erklärung wird auch der Angriff auf das Kapitol thematisiert. Darin wird erklärt, dass „all genuine Trump political supporters were law-abiding“ (alle wahren Anhänger der Trump-Politik gesetzestreu waren) und dass der Angriff „certainly influenced, and most probably ignited by outside forces“ (sicherlich von äußeren Kräften beeinflusst und höchstwahrscheinlich angefacht) wurde. Darin wird eine Bundesbeschwerde gegen Mitglieder der Oath Keepers beschrieben und es heißt, die Gruppe sei „in no way associated with Mr. Trump or his political organization“ (in keinster Weise mit Herrn Trump oder seiner politischen Organisation verbunden). Weiter heißt es, die Oath Keepers würden „parasitically using the Trump rally and co-opting the issue of the Electoral College debate for their own purposes“ (die Kundgebung von Trump auf parasitäre Weise nutzen und das Thema der Debatte um das Wahlmännerkollegium für ihre eigenen Zwecke instrumentalisieren).

Außerdem heißt es, dass der Gemeinschaftsstandard zu Gewalt und Anstiftung zu Gewalt „fail[s] to support the suspension of the Trump Facebook account“ (die Sperrung des Trump-Facebook-Kontos nicht rechtfertigt[e]), da die beiden Beiträge „merely called for peace and safety“ (lediglich zu Frieden und Sicherheit aufriefen) und „none of the words in Mr. Trump’s speech, when considered in their true context, could reasonably be construed as incitement to violence or lawlessness“ (keines der Worte in Mr. Trumps Rede, wenn man sie in ihrem tatsächlichen Zusammenhang betrachtet, begründet als Anstiftung zu Gewalt oder Gesetzlosigkeit ausgelegt werden könnte). Zudem wird der Verweis von Facebook an das Board zitiert, in dem die „peaceful transfer of power“ (friedliche Machtübergabe) erwähnt wird, und es wird festgestellt, dass diese „new ad hoc rule on insuring [sic] peaceful governmental transitions is not just overly vague, it was non-existent until after the events that Facebook used to justify it“ (neue Ad-hoc-Regel zur Sicherstellung friedlicher Regierungsübergänge nicht nur äußerst vage ist, sondern dass sie bis nach den Ereignissen, die Facebook zu ihrer Rechtfertigung genutzt hat, nicht existierte).

In der Erklärung wird auch argumentiert, dass das Board „defer to American law in this appeal“ (in dieser Berufung auf das amerikanische Recht verweisen) sollte, und es werden die völkerrechtlichen Standards für die Einschränkung des Rechts auf freie Meinungsäußerung, der Gesetzmäßigkeit, des legitimen Ziels und der Notwendigkeit und Verhältnismäßigkeit erörtert, wobei jedes Element unter Bezugnahme auf das Verfassungsrecht der Vereinigten Staaten ausgelegt wird. Zur Gesetzmäßigkeit beruft sich die Erklärung auf den Schutz vor Übertreibungen und Falschaussagen sowie auf die Bedeutung von Facebook für den öffentlichen Diskurs. Sie vermerkt, dass „employing content decisions based on what seems ‘reasonable,’ or how a ‘reasonable person’ would react to that content is not enough“ (Entscheidungen über Inhalte auf der Grundlage dessen zu treffen, was 'vernünftig' erscheint oder wie eine 'vernünftige Person' auf diesen Inhalt reagieren würde, nicht ausreicht) und Facebook „consider a much higher bar“ (eine viel höhere Messlatte in Betracht ziehen) sollte. Darin heißt es, dass der Oberste Gerichtshof eine strenge Prüfung für Gesetze verlangt, die politische Äußerungen erschweren, und dass Facebook den Markt beherrscht. Ferner werden die verfassungsrechtlichen Standards für die Anstiftung zur Gewalt erörtert. Zum legitimen Ziel heißt es, dass die Wahrung der öffentlichen Sicherheit ein legitimes Ziel ist, aber die Rede von Herrn Trump keine sicherheitsrelevanten Äußerungen enthielt. Zum Thema Notwendigkeit und Verhältnismäßigkeit bestreitet sie die Gültigkeit der Beschränkungen und erklärt die Strafe für unverhältnismäßig.

Die Erklärung schließt mit Vorschlägen für die Richtlinienempfehlungen des Boards zu Sperrungen, wenn der Nutzer eine politische Führungsperson ist. Es wird argumentiert, das Board solle „defer to the legal principles of the nation state in which the leader is, or was governing“ (die Rechtsprinzipien des Nationalstaates, in dem das Oberhaupt regiert oder regiert hat, beachten). Anschließend wurden zahlreiche Ausnahmen von dieser Beachtung beschrieben, die sich auf die Beurteilung der Rechtsstaatlichkeit, der Rechtsgarantien, der Verfahren zur Rechtsetzung, der Verfahren der gerichtlichen Überprüfung und der Existenz relevanter Rechtsgrundsätze in bestimmten Ländern stützen.

6. Die Erklärung von Facebook zu seiner Entscheidung

Für jeden Fall liefert Facebook dem Board eine Erklärung seiner Maßnahmen und das Board befragt Facebook, um weitere Informationen zu klären, die es für seine Entscheidung benötigt. In diesem Fall gibt Facebook an, dass es die beiden am 6. Januar 2021 veröffentlichten Inhalte entfernt hat, weil diese gegen den Gemeinschaftsstandard für gefährliche Personen und Organisationen verstoßen haben. Konkret wurde der Inhalt entfernt, denn er verstoße gegen „its policy prohibiting praise, support, and representation of designated Violent Events“ (seine Richtlinie, in der die Gutheißung, Unterstützung und Darstellung von ausgewiesenen gewalttätigen Ereignissen verboten wird). Facebook erklärte außerdem, es handle sich um „a violation of its Dangerous Individuals and Organizations policy prohibiting praise of individuals who have engaged in acts of organized violence“ (einen Verstoß gegen seine Richtlinie für gefährliche Personen und Organisationen, die das Gutheißen von Personen verbietet, die an Handlungen organisierter Gewalt beteiligt waren). Das Unternehmen stellt fest, dass seine Gemeinschaftsstandards eindeutig „content that expresses support or praise for groups, leaders or individuals involved in“ (Inhalte, die Gruppen, Anführer oder Personen unterstützen oder verherrlichen, die an) Handlungen wie Terrorismus, organisierter Gewalt oder kriminellen Aktivitäten beteiligt sind, verbieten, und dass dies organisierte Übergriffe wie auch geplante Gewalttaten einschließt, die darauf abzielen, eine Person mit der Absicht zu verletzen, eine Regierung einzuschüchtern, um ein politisches Ziel zu erreichen.

Facebook merkt an, dass seine Beurteilung sowohl den Wortlaut seiner Richtlinie als auch den Kontext der gemachten Aussage widerspiegelt, einschließlich der anhaltenden Gewalt im Kapitol. Darin heißt es, dass Mr. Trump in seinem Video die Menschen zwar aufforderte, „go home in peace“ (in Frieden nach Hause zu gehen), aber auch wiederholt behauptete, die Wahl sei gefälscht worden, und ein gemeinsames Anliegen unterstellte, indem er sagte: „I know how you feel“ (Ich weiß, wie Sie sich fühlen). In Anbetracht der anhaltenden Instabilität zum Zeitpunkt seiner Äußerungen und des allgemeinen Tenors seiner Worte kommt Facebook zu dem Schluss, dass „Wir lieben dich. Du bist etwas ganz Besonderes“ als Lob für die Personen gedacht war, die das Gesetz gebrochen haben, indem sie das Kapitol gestürmt haben. Es wird ferner angenommen, dass der zweite Beitrag Lob für das Ereignis enthält, da Mr. Trump diejenigen, die das Kapitol stürmten, als „große Patrioten“ bezeichnete und die Menschen aufforderte, „diesen Tag für immer in Erinnerung zu behalten“.

Facebook weist darauf hin, dass es regelmäßig die Funktionen von Facebook-Seiten und -Profilen sowie Instagram-Konten einschränkt, die wiederholt oder schwerwiegend gegen seine Richtlinien verstoßen. Sofern Facebook zu dem Schluss kommt, dass ein „urgent and serious safety risk“ (dringendes und ernsthaftes Sicherheitsrisiko) besteht, geht Facebook „beyond its standard enforcement protocols to take stronger actions against users and pages engaged in violating behavior“ (über seine Standard-Durchsetzungsprotokolle hinaus, um schärfere Maßnahmen gegen Nutzer und Seiten mit verletzendem Verhalten zu ergreifen). Facebook merkt an, dass seine Durchsetzungsmaßnahmen in solchen Fällen weiterhin auf seinen eigenen Gemeinschaftsstandards sowie auf jenen von Instagram gründen. Es gibt an, dass es „alle verfügbaren Durchsetzungsmittel prüft, einschließlich dauerhafter Verbote, bevor es entscheidet, welches unter den jeweiligen Umständen am besten geeignet ist. Wenn Facebook eine dringende Entscheidung von allgemeinem Interesse treffen muss, bemüht sich das Unternehmen darum, seine Entscheidung und die Gründe dafür der Öffentlichkeit mitzuteilen, häufig durch einen Beitrag im Newsroom.“

Facebook gibt an, dass es normalerweise Seiten nicht daran hindert, Inhalte zu posten oder mit diesen zu interagieren, sondern dass es Seiten entfernt, die schwerwiegend oder wiederholt gegen die Richtlinien von Facebook verstoßen. Facebook weist jedoch darauf hin, dass seine Durchsetzungsprotokolle für Profile, einschließlich der Sperrung von Funktionen, auch auf Facebook-Seiten angewendet werden können, wenn sie mit der Stimme einer Einzelperson verwendet werden, wie bei der Seite von Donald J. Trump. In diesem Fall gibt Facebook an, dass es im Rahmen seiner Standard-Durchsetzungsprotokolle zunächst eine 24-stündige Sperre für das Posten von Beiträgen auf der Facebook-Seite und im Instagram-Konto verhängt hat. Nach einer weiteren Bewertung der sich verändernden Lage und der aufgetauchten Details zur Gewalt im Kapitol kam Facebook zu dem Schluss, dass das 24-stündige Verbot nicht ausreichte, um das Risiko einzudämmen, „that Trump would use his Facebook and Instagram presence to contribute to a risk of further violence“ (dass Trump seine Facebook- und Instagram-Präsenz nutzen würde, um das Risiko weiterer Gewalt zu steigern).

Facebook weist darauf hin, dass es die unbefristete Sperrung nach der Amtseinführung von Herrn Biden aufrechterhalten hat, zum Teil aufgrund der Einschätzung, dass die mit Herrn Trump verbundene Gewalt noch nicht vorüber ist. Es zitiert die Bekanntmachung des National Terrorism Advisory System, die am 27. Januar vom Ministerium für Innere Sicherheit (Department of Homeland Security, DHS) herausgegeben wurde und in dem eine „heightened threat environment across the United States“ (erhöhte Bedrohungslage in den gesamten Vereinigten Staaten) beschrieben wird, „which DHS believes will persist in the weeks following the successful Presidential Inauguration“ (die nach Ansicht des Ministeriums für Innere Sicherheit auch in den Wochen nach der erfolgreichen Amtseinführung des Präsidenten anhalten wird), und dass „drivers to violence will remain through early 2021 and some [Domestic Violent Extremists] may be emboldened by the January 6, 2021, breach of the U.S. Capitol Building in Washington, D.C. to target elected officials and government facilities.“ (Die Triebkräfte hinter den gewalttätigen Ausschreitungen werden noch bis Anfang 2021 anhalten und einige [gewalttätige nationale Extremisten] könnten durch den Einbruch in das Kapitolgebäude in Washington, D.C., am 6. Januar 2021 unter Umständen dazu ermutigt werden, gewählte Amtsträger und Regierungseinrichtungen ins Visier zu nehmen.) Facebook merkt an, dass es angesichts der Schwere seiner Verstöße am 6. Januar, des fortwährenden Beharrens auf Betrug bei der Wahl von Herrn Biden, des Verbreitens anderer Fehlinformationen und der Tatsache, dass er nicht mehr Präsident ist, angemessen sein kann, Herrn Trump für das Posten von Beiträgen dauerhaft zu sperren, selbst dann, wenn das Gewaltrisiko gesunken ist.

Facebook erklärt, dass seine Entscheidung „von Artikel 19 des ICCPR und von der Allgemeinen Bemerkung Nr. 34 der U.N. zur freien Meinungsäußerung geleitet wurde, die notwendige und verhältnismäßige Einschränkungen der freien Meinungsäußerung in Situationen des öffentlichen Notstands erlaubt, die das Leben der Nation bedrohen. In diesem Fall agierte der Distrikt von Columbia unter einem Ausnahmezustand, der zum Schutz des US-Kapitol-Komplexes erklärt worden war.“ Facebook weist darauf hin, dass es auch die sechs kontextbezogenen Faktoren aus dem Aktionsplan von Rabat zum Verbot der Förderung von nationalem, rassistischem oder religiösem Hass berücksichtigt hat. Der Aktionsplan von Rabat wurde von Experten mit Unterstützung der Vereinten Nationen entwickelt. Er ist eine Handreichung für Staaten, wenn das Schüren von rassistischem, religiösem oder nationalem Hass, der zu Diskriminierung, Feindseligkeit oder Gewalt anstiftet, so schwerwiegend ist, dass der Rückgriff auf staatliche strafrechtliche Sanktionen angemessen ist, während gleichzeitig die freie Meinungsäußerung im Einklang mit den Verpflichtungen der Staaten nach Artikel 19 und Artikel 20, Absatz 2 des ICCPR geschützt wird.

Facebook argumentiert, dass die Ereignisse vom 6. Januar eine noch nie dagewesene Bedrohung für die demokratischen Prozesse und das Verfassungssystem der Vereinigten Staaten darstellen. Facebook versichert zwar, dass es bestrebt ist, bei der Einschränkung öffentlicher Äußerungen verhältnismäßig und verantwortungsbewusst zu handeln, aber angesichts der beispiellosen und brisanten Umstände ist das Unternehmen der Ansicht, dass es sich die Flexibilität bewahren sollte, weitere Maßnahmen zu ergreifen, einschließlich eines dauerhaften Verbots.

In diesem Fall stellte das Board Facebook 46 Fragen, und Facebook lehnte die Beantwortung von sieben Fragen vollständig und die Beantwortung von zwei Fragen teilweise ab. Zu den Fragen, die Facebook nicht beantwortete, gehörten Fragen dazu, wie der News Feed und andere Funktionen von Facebook die Sichtbarkeit von Herrn Trumps Inhalten beeinflusst haben; ob Facebook diese Designentscheidungen in Bezug auf die Ereignisse vom 6. Januar 2021 untersucht hat oder dies plant; und Informationen über die Richtlinien verletzende Inhalte von Followern der Konten von Herrn Trump. Das Board stellte auch Fragen bezüglich der Sperrung anderer politischer Persönlichkeiten und der Entfernung anderer Inhalte; ob Facebook von politischen Amtsinhabern oder deren Mitarbeitern wegen der Sperrung von Herrn Trumps Konten kontaktiert wurde; und ob die Sperrung oder Löschung von Konten die Möglichkeit von Werbetreibenden beeinflusst, die Konten von Followern zu erreichen. Facebook erklärte, dass diese Informationen für die Entscheidungsfindung in Übereinstimmung mit der Absicht der Satzung nicht ausreichend erforderlich seien, dass es technisch nicht möglich sei, sie zur Verfügung zu stellen, dass sie unter das Anwalts-/Mandantengeheimnis fielen und/oder dass sie aufgrund von rechtlichen, sicherheitsrelevanten oder datenschutzrechtlichen Bedenken nicht zur Verfügung gestellt werden könnten oder sollten.

7. Einreichungen Dritter

Das Oversight Board hat 9.666 öffentliche Kommentare im Zusammenhang mit diesem Fall erhalten. Achtzig der Kommentare kamen aus dem asiatisch-pazifischen Raum und Ozeanien, sieben aus Zentral- und Südasien, 136 aus Europa, 23 aus Lateinamerika und der Karibik, 13 aus dem Nahen Osten und Nordafrika, 19 aus Afrika südlich der Sahara und 9.388 aus den Vereinigten Staaten und Kanada.

Die Stellungnahmen decken die folgenden Themen ab, darunter auch solche, die das Board in seiner Aufforderung zur Abgabe von Kommentaren ausdrücklich angesprochen hat:

• Die unbefristete Sperrung der Konten von Herrn Trump durch Facebook, die mögliche Erfüllung der Pflichten des Unternehmens zur Achtung des Rechts auf freie Meinungsäußerung und der Menschenrechte und ob alternative Maßnahmen hätten ergriffen werden müssen.
• Die Richtlinien und Vorgehensweisen von Facebook zur Bewertung des Kontexts außerhalb von Facebook bei der Durchsetzung der Gemeinschaftsstandards, insbesondere wenn diese Inhalte zu Gewalt anstiften können.
• Unklarheiten in den Facebook-Regeln zur Sperrung von Konten.
• Die globalen Inhaltsrichtlinien von Facebook im Hinblick auf politische Kandidaten, Amtsinhaber und ehemalige Amtsinhaber, einschließlich der Relevanz der Ausnahmeregelung von Facebook für den Nachrichtenwert und des Rechts der Öffentlichkeit auf Information.
• Bedenken hinsichtlich der einheitlichen Durchsetzung der Facebook-Gemeinschaftsstandards aufgrund politischer Voreingenommenheit.
• Bedenken hinsichtlich der Durchsetzung der Facebook-Gemeinschaftsstandards in Bezug auf frühere Beiträge von Herrn Trump, einschließlich solcher, die möglicherweise zur Schädigung bestimmter Personengruppen und zur Verbreitung von Fehlinformationen beigetragen haben.
• Ob die Äußerungen von Herrn Trump, sowohl vor dem und am 6. Januar, eine Anstiftung zur Gewalt darstellen oder nicht.
• Der Ausgang der US-Wahl und die Präsidentschaft von Trump.

Um die öffentlichen Kommentare zu lesen, die zu diesem Fall eingereicht wurden, bitte hier klicken.

8. Analyse des Oversight Boards

8.1 Einhaltung von Inhaltsrichtlinien

Das Board stimmt der Entscheidung von Facebook zu, dass die beiden Beiträge von Herrn Trump am 6. Januar gegen die Gemeinschaftsstandards von Facebook und die Gemeinschaftsrichtlinien von Instagram verstoßen haben. Der Gemeinschaftsstandard von Facebook zu gefährlichen Personen und Organisationen besagt, dass Nutzer keine Inhalte posten sollten, die „Gruppen, Anführer oder Personen unterstützen oder verherrlichen, die an“ verletzenden Ereignissen beteiligt sind. Facebook bezeichnete die Stürmung des Kapitols als „violating event“ (verletzendes Ereignis) und merkte an, dass die Interpretation von verletzenden Ereignissen auch „violent“ (gewalttätige) Ereignisse mit einschließt.

Zu dem Zeitpunkt, als die Beiträge verfasst wurden, waren die Ausschreitungen im Kapitol im vollem Gange. Beide Beiträge lobten oder unterstützten Personen, die Gewalt ausübten. Die Worte "Wir lieben dich. Du bist etwas ganz Besonderes" im ersten Beitrag und "große Patrioten" und "behaltet diesen Tag für immer in Erinnerung" im zweiten Beitrag kamen einer Lobpreisung oder Unterstützung der Personen gleich, die an der Gewalt und den Ereignissen im Kapitol an diesem Tag beteiligt waren.

Das Board stellt fest, dass in diesem Fall möglicherweise auch andere Gemeinschaftsstandards verletzt wurden, darunter der Standard zu Gewalt und Anstiftung. Da die Entscheidung von Facebook nicht auf diesem Standard beruhte und eine zusätzliche Feststellung eines Verstoßes den Ausgang dieses Verfahrens nicht beeinflussen würde, verzichtet die Mehrheit des Boards auf ein entsprechendes Urteil. Die Entscheidung zur Aufrechterhaltung der von Facebook verhängten Beschränkungen für die Konten von Herrn Trump basiert auf der Verletzung des Gemeinschaftsstandards für gefährliche Personen und Organisationen.

Eine Minderheit des Boards würde den zusätzlichen Grund berücksichtigen und feststellen, dass der Gewalt- und Anstiftungsstandard verletzt wurde. Die Minderheit ist der Meinung, dass die Beiträge, in denen es heißt, die Wahl werde „stolen from us“ (uns gestohlen) und „so unceremoniously viciously stripped“ (uns kurzerhand und brutal weggenommen), verbunden mit einem Lob an die Unruhestifter, als „calls for actions“ (Aufrufe zu Handlungen), „advocating for violence“ (Befürwortung von Gewalt) und „misinformation and unverifiable rumors that contribute[d] to the risk of imminent violence or physical harm“ (Fehlinformationen und nicht nachprüfbare Gerüchte, die zur Gefahr drohender Gewalt oder körperlicher Schäden beitragen) zu bewerten sind, die nach dem Gemeinschaftsstandard für Gewalt und Anstiftung verboten sind, wenn sie im Zusammenhang betrachtet werden.

Das Board ist der Meinung, dass die beiden Beiträge erheblich gegen die Facebook-Richtlinien verstoßen haben, und kommt zu dem Schluss, dass die Sperrung des Kontos und der Seite durch Facebook am 6. und 7. Januar gerechtfertigt war. Der Nutzer verherrlichte und unterstützte Personen, die an anhaltenden Ausschreitungen beteiligt waren, bei denen Menschen ums Leben kamen, Gesetzesvertreter in ernsthafte Gefahr gerieten und ein wichtiger demokratischer Prozess beeinträchtigt wurde. Außerdem war die Situation zu dem Zeitpunkt der Verlängerung dieser Beschränkungen am 7. Januar noch ungewiss und es bestanden weiterhin ernsthafte Sicherheitsbedenken. In Anbetracht des anhaltenden Risikos von Gewalt und Ausschreitungen war die Beschränkung von Herrn Trumps Zugang zu Facebook und Instagram über den 6. und 7. Januar hinaus ein angemessenes Mittel. Wie im Folgenden ausführlicher erörtert wird, verstößt die Entscheidung von Facebook, diese Beschränkungen „indefinite“ (auf unbestimmte Zeit) aufzuerlegen, sowohl gegen die Gemeinschaftsstandards als auch gegen Grundsätze der freien Meinungsäußerung.

Das Board merkt an, dass es nur wenige detaillierte Informationen für die Öffentlichkeit über das Gegenprüfungssystem und die Ausnahmeregelung für den Nachrichtenwert gibt. Obwohl Facebook anmerkt, dass für hochrangige Konten und reguläre Konten die gleichen Regeln gelten, können unterschiedliche Prozesse zu unterschiedlichen inhaltlichen Ergebnissen führen. Facebook teilte dem Board mit, dass es die Ausnahmeregelung für den Nachrichtenwert nicht auf die in diesem Fall in Rede stehenden Beiträge angewendet hat. Leider scheint die mangelnde Transparenz dieser Entscheidungsprozesse zu der Wahrnehmung beizutragen, dass das Unternehmen durch politische oder wirtschaftliche Erwägungen unangemessen beeinflusst werden könnte.

8.2 Einhaltung der Werte von Facebook

Die obige Bewertung steht im Einklang mit den von Facebook angegebenen Werten „freien Meinungsäußerung“ und „Sicherheit“. Aus den in dieser Stellungnahme genannten Gründen rechtfertigte in diesem Fall der Schutz der öffentlichen Ordnung die Einschränkung der freien Meinungsäußerung.

Eine Minderheit findet es besonders wichtig zu betonen, dass auch „Dignity“ (Würde) eine Rolle spielte. Facebook verbindet „Würde“ mit Gleichheit und damit, dass Menschen andere nicht „belästigen oder erniedrigen“ sollen. Die Minderheit ist im Folgenden der Ansicht, dass frühere Beiträge von Herrn Trump auf der Plattform zu rassistisch motivierten Spannungen und Ausgrenzungen beigetragen haben und dass dieser Kontext der Schlüssel zum Verständnis der Auswirkungen von Herrn Trumps Äußerungen war. Da sich die Mehrheit aus anderen Gründen mit diesem Fall befasst hat, geht sie auf diese Beiträge nicht ein.

8.3. Erfüllung der menschenrechtlichen Verantwortung von Facebook

Die Entscheidungen des Boards betreffen nicht die Menschenrechtsverpflichtungen von Staaten oder die Anwendung von nationalen Gesetzen, sondern konzentrieren sich auf die Inhaltsrichtlinien von Facebook, seine Werte und seine menschenrechtliche Verantwortung als Unternehmen. Die UN-Leitprinzipien für Wirtschaft und Menschenrechte, denen Facebook zugestimmt hat (siehe Abschnitt 4), legen fest, was Unternehmen auf freiwilliger Basis tun sollten, um dieser Verantwortung gerecht zu werden. Dazu gehört auch, dass vermieden wird, Menschenrechtsverletzungen zu verursachen oder zu ihnen beizutragen, indem mögliche und tatsächliche Verletzungen identifiziert werden und darauf hingearbeitet wird, sie zu verhindern oder zu beheben (UNGP-Prinzipien 11, 13, 15, 18). Diese Verantwortung umfasst auch Schäden, die durch Dritte verursacht werden (UNGP-Prinzip 19).

Facebook ist zu einem geradezu unverzichtbaren Medium für den politischen Diskurs geworden, insbesondere in Wahlkampfzeiten. Es trägt die Verantwortung dafür, sowohl politische Äußerungen zuzulassen als auch ernsthafte Gefährdungen anderer Menschenrechte zu vermeiden. Wie auch andere digitale Plattformen und Medienunternehmen wurde Facebook stark dafür kritisiert, dass es Fehlinformationen verbreitet und kontroverses und hetzerisches Material unterstützt. Die menschenrechtliche Verantwortung von Facebook muss im Lichte dieser mitunter konkurrierenden Überlegungen verstanden werden.

Das Board analysiert die menschenrechtliche Verantwortung von Facebook anhand internationaler Standards zum Recht auf freie Meinungsäußerung und zum Recht auf Leben, Sicherheit und politische Teilhabe. In Artikel 19 des ICCPR ist das Recht auf freie Meinungsäußerung verankert. In Artikel 19 heißt es: „Jeder hat das Recht auf freie Meinungsäußerung; dieses Recht schließt die Freiheit ein, über Grenzen hinweg Informationen und Gedankengut jeder Art zu suchen, zu empfangen und zu verbreiten, sei es mündlich, schriftlich oder in gedruckter Form, durch Kunst oder durch ein anderes Medium seiner Wahl.“ Das Board wendet den ersten Zusatzartikel zur Verfassung der Vereinigten Staaten nicht an, da er nicht das Verhalten privater Unternehmen betrifft. Das Board stellt jedoch fest, dass die Grundsätze der freien Meinungsäußerung, die im ersten Zusatzartikel festgesetzt werden, in vielen relevanten Punkten den Grundsätzen der freien Meinungsäußerung in Artikel 19 ICCPR ähnlich oder analog dazu sind.

Politische Äußerungen genießen aufgrund ihrer Bedeutung für die demokratische Debatte einen hohen Schutz unter den Menschenrechtsgesetzen. Der UN-Menschenrechtsausschuss hat in der Allgemeinen Bemerkung Nr. 34 eine maßgebliche Empfehlung zu Artikel 19 ICCPR gegeben, in der er feststellt, dass „die freie Weitergabe von Informationen und Gedanken über öffentliche und politische Fragen zwischen Bürgern, Kandidaten und gewählten Vertretern von wesentlicher Bedeutung ist“ (Absatz 20).

Die Entscheidung von Facebook, die Facebook-Seite und das Instagram-Konto von Herrn Trump zu sperren, hat Auswirkungen auf das Recht auf freie Meinungsäußerung, nicht nur für Herrn Trump, sondern auch auf die Rechte der Menschen, von politischen Führungspersonen etwas zu hören, unabhängig davon, ob sie diese unterstützen oder nicht. Obwohl politische Persönlichkeiten kein größeres Recht auf freie Meinungsäußerung haben als andere Menschen, kann die Einschränkung ihrer Redefreiheit die Rechte anderer Menschen auf Information und Teilhabe an politischen Angelegenheiten beeinträchtigen. Internationale Menschenrechtsstandards erwarten jedoch von staatlichen Akteuren, dass diese Gewalt verurteilen (Aktionsplan von Rabat) und die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse korrekt informieren, aber auch Fehlinformationen korrigieren (Gemeinsame Erklärung der internationalen Überwachungsinstanzen des Rechts auf freie Meinungsäußerung zu COVID-19 von 2020).

Unter bestimmten Voraussetzungen lässt das Völkerrecht die Einschränkung der freien Meinungsäußerung zu. Solche Einschränkungen müssen stets drei Kriterien erfüllen – die Regeln müssen eindeutig und zugänglich sein, sie müssen einem legitimen Ziel dienen, sie müssen notwendig sein und in einem angemessenen Verhältnis zum Schadensrisiko stehen. Wenn Facebook Inhalte oder Konten einschränkt, verwendet das Board diesen dreiteiligen Test, um dieses Vorgehen von Facebook zu bewerten. Die Grundsätze des ersten Verfassungszusatzes nach US-Recht besagen, dass Einschränkungen der freien Meinungsäußerung aufgrund von staatlichen Maßnahmen nicht vage sein dürfen, aus wichtigen staatlichen Gründen erfolgen und genau auf das Schadensrisiko abgestimmt sein müssen.

I. Gesetzmäßigkeit (Klarheit und Zugänglichkeit der Regeln)

Im Völkerrecht zur Meinungsfreiheit besagt der Grundsatz der Gesetzmäßigkeit, dass jede Regelung, die zur Einschränkung der freien Meinungsäußerung verwendet wird, eindeutig und zugänglich sein muss. Es muss für jeden verständlich sein, was gestattet ist und was nicht. Ebenso wichtig ist, dass die Regeln hinreichend eindeutig sind, um denjenigen, die Entscheidungen über die Einschränkung der Meinungsäußerung treffen, eine Orientierungshilfe zu geben, sodass diese Regeln keinen uneingeschränkten Ermessensspielraum gewähren, der zu einer selektiven Anwendung der Regeln führen könnte. Im vorliegenden Fall sind solche Regeln die Facebook-Gemeinschaftsstandards und die Gemeinschaftsrichtlinien von Instagram. Mit diesen Richtlinien soll festgelegt werden, was nicht gepostet werden darf und wann der Zugang zu Facebook- und Instagram-Konten eingeschränkt werden kann.

Die Eindeutigkeit des Standards in Bezug auf Gutheißung und Unterstützung von gefährlichen Personen und Organisationen lässt zu wünschen übrig, wie das Board in einer früheren Entscheidung (Fall 2020-005-FB-UA) feststellte. Der UN-Sonderberichterstatter für freie Meinungsäußerung hat ebenfalls Bedenken hinsichtlich der Unbestimmtheit des Standards zu gefährlichen Personen und Organisationen geäußert (A/HRC/38/35, Abs. 26, Fußnote 67). Wie das Board bereits im Fall 2020-003-FB-UA festgestellt hat, kann es Situationen geben, in denen bestimmte Formulierungen Bedenken hinsichtlich der Gesetzmäßigkeit aufwerfen, die jedoch bei Anwendung auf einen bestimmten Fall nicht gerechtfertigt sind. Eine etwaige Ungenauigkeit nach dem Wortlaut des Standards macht seine Anwendung auf die Umstände des vorliegenden Falles nicht zweifelhaft. Der Aufruhr im Kapitol am 6. Januar fällt genau unter diese Art von schädigenden Ereignissen, die in den Facebook-Richtlinien definiert sind. Mit seinen Beiträgen hat Herr Trump die Beteiligten genau zu dem Zeitpunkt gelobt und unterstützt, als die Gewalt verübt wurde und während Kongressabgeordnete ihn um Hilfe baten. In Bezug auf diese Tatsachen haben die Richtlinien von Facebook dem Nutzer ausreichende Informationen und denjenigen, die für die Durchsetzung der Regeln zuständig sind, eine Orientierungshilfe bereitgestellt.

Hinsichtlich der Sanktionen bei Verstößen werden die Gemeinschaftsstandards und ähnliche Informationen über Kontobeschränkungen in verschiedenen Quellen veröffentlicht, darunter die Nutzungsbedingungen, die Einleitung zu den Gemeinschaftsstandards, der Gemeinschaftsstandard zu Kontointegrität und authentischer Identität, der Facebook-Newsroom und der Facebook-Hilfebereich. Wie im Fall 2020-006-FB-FBR angemerkt, wiederholt das Board, dass es aufgrund der Vielzahl an anwendbaren Regeln für Nutzer schwierig zu verstehen ist, warum und wann Facebook Konten einschränkt, was Fragen hinsichtlich der Gesetzmäßigkeit aufwirft.

Während das Board davon überzeugt ist, dass der Standard zu gefährlichen Personen und Organisationen in diesem Fall hinreichend klar ist, um die Vorgaben zu Klarheit und Unbestimmtheit der freien Meinungsäußerung zu erfüllen, hält es die Auferlegung einer unbefristeten Beschränkung durch Facebook für vage und unbestimmt. „Unbefristete“ Einschränkungen werden in den Gemeinschaftsstandards nicht beschrieben, und es ist unklar, welche Standards diese Maßnahme auslösen oder welche Standards zur Aufrechterhaltung oder Aufhebung herangezogen werden. Facebook hat keine Informationen über die vorherige Verhängung von unbefristeten Beschränkungen in anderen Fällen bereitgestellt. Das Board erkennt an, dass ein gewisser Ermessensspielraum auf Seiten von Facebook notwendig ist, damit Facebook die Konten in dringenden Situationen wie der im Januar sperren kann, jedoch dürfen die Nutzer nicht auf unbestimmte Zeit in einem Zustand der Ungewissheit gelassen werden.

Das Board lehnt den Antrag von Facebook ab, unbefristete Beschränkungen, die ohne klare Kriterien auferlegt und wieder aufgehoben werden, zu billigen. Es müssen angemessene Grenzen für den Ermessensspielraum vorhanden sein, damit die legitime Nutzung des Ermessensspielraums von möglichen Szenarien unterschieden werden kann, in denen Facebook unberechtigterweise Meinungsäußerungen bestraft, die keinen Schaden anrichten, oder Maßnahmen hinauszögert, die für den Schutz von Menschen wichtig sind.

II. Legitimes Ziel

Das Erfordernis eines legitimen Ziels bedeutet, dass jede Maßnahme, die die Meinungsäußerung einschränkt, einem in Art. 19, Absatz 3 des ICCPR aufgeführten Ziel dienen muss, wobei diese Liste von Zielen vollständig ist. Zu diesen legitimen Zielen gehören der Schutz der öffentlichen Ordnung sowie die Achtung der Rechte anderer, einschließlich des Rechts auf Leben, Sicherheit und die Teilnahme an Wahlen sowie die Anerkennung und Umsetzung von Wahlergebnissen. Ein Ziel wäre nicht legitim, wenn es als Vorwand für die Unterdrückung der Meinungsäußerung benutzt würde, z. B. um sich auf die Ziele des Schutzes der Sicherheit oder der Rechte anderer zu berufen, um Meinungen zu zensieren, nur weil sie unbequem oder beleidigend sind (Allgemeine Bemerkung Nr. 34, Abs. 11, 30, 46, 48). Die Richtlinie von Facebook zur Gutheißung und Unterstützung von Personen, die an gewalttätigen Ereignissen, Gewalt oder kriminellen Aktivitäten beteiligt sind, entspricht den oben genannten Zielen.

III. Notwendigkeit und Verhältnismäßigkeit

Das Kriterium der Notwendigkeit und Verhältnismäßigkeit bedeutet unter anderem, dass bei einer Einschränkung der Meinungsäußerung die Maßnahme gewählt werden muss, die am wenigsten einschneidend ist, um ein legitimes Ziel zu erreichen (Allgemeine Bemerkung Nr. 34, Absatz 34).

Das Board ist der Ansicht, dass Facebook nach Möglichkeit weniger restriktive Maßnahmen einsetzen muss, um gegen potenziell verletzende Äußerungen vorzugehen und die Rechte anderer zu schützen, bevor auf die Entfernung von Inhalten und die Einschränkung von Konten zurückgegriffen wird. Dies würde bedeuten, effektive Mechanismen zu entwickeln, um die Verbreitung von Meinungsäußerungen zu vermeiden, von denen die Gefahr drohender Gewalt, Diskriminierung oder anderer gesetzeswidriger Handlungen ausgeht, soweit dies möglich und verhältnismäßig ist, anstatt die Äußerung gänzlich zu verbieten.

Facebook erklärte gegenüber dem Board, dass die wiederholte Nutzung von Facebook und anderen Plattformen durch Herrn Trump zur Untergrabung des Vertrauens in die Integrität der Wahl (was eine wiederholte Anwendung von verbindlichen Kennzeichnungen durch Facebook zur Korrektur der Fehlinformationen erforderlich machte) als außergewöhnlicher Missbrauch der Plattform angesehen wurde. Das Board bat Facebook um nähere Ausführungen dazu, inwieweit Designentscheidungen bezüglich der Plattform, einschließlich der Algorithmen, Richtlinien, Verfahren und technischen Funktionen, die Posts von Herrn Trump nach der Wahl verstärkt haben und ob Facebook eine interne Analyse durchgeführt hat, ob solche Designentscheidungen zu den Ereignissen des 6. Januar beigetragen haben könnten. Facebook lehnte es ab, diese Fragen zu beantworten. Dadurch konnte das Board nur schwer beurteilen, ob weniger strenge, jedoch früher ergriffene Maßnahmen möglicherweise ausgereicht hätten, um die Rechte anderer zu schützen.

Die entscheidende Frage ist, ob die Entscheidung von Facebook, den Zugriff auf die Konten von Herrn Trump am 6. und 7. Januar zu beschränken, notwendig und verhältnismäßig war, um die Rechte anderer zu schützen. Um das Risiko einzuschätzen, das von den Posts vom 6. Januar ausging, berücksichtigte das Board die Facebook- und Instagram-Posts sowie die Kommentare abseits dieser Plattformen von Herrn Trump seit der Wahl im November. Durch die Aufrechterhaltung haltloser Berichte über Wahlbetrug und beharrliche Aufrufe zum Handeln schuf Herr Trump eine Umgebung, in der ein ernsthaftes Risiko von Gewalt bestand. Am 6. Januar legitimierte Herr Trump die Gewalt mit seinen Worten der Unterstützung für die Beteiligten an den Ausschreitungen. Oberflächlich betrachtet schienen die Nachrichten zu friedlichem Verhalten aufzurufen. Das reichte jedoch nicht aus, um die Spannungen zu entschärfen und das Risiko zu senken, zu denen seine unterstützenden Aussagen beigetragen hatten. Es war angemessen, dass Facebook die Beiträge von Herrn Trump am 6. Januar im Kontext der eskalierenden Spannungen in den USA und der Äußerungen von Herrn Trump in anderen Medien und bei öffentlichen Veranstaltungen interpretierte.

Als Teil seiner Analyse stützte sich das Board auf die sechs Faktoren aus dem Aktionsplan von Rabat, um zu beurteilen, inwieweit eine Rede zu Diskriminierung, Gewalt oder anderen gesetzeswidrigen Handlungen anstiften kann:

• Kontext: Die Beiträge wurden in einer Zeit politischer Spannungen veröffentlicht, aufgrund der unbegründeten Behauptung, dass die Präsidentschaftswahlen im November 2020 gefälscht worden seien. Das Trump-Kampagnenteam hatte diese Behauptungen vor Gericht aufgestellt, mit wenig oder gar keinen Beweisen, weshalb sie abgelehnt wurden. Herr Trump fuhr dennoch fort, diese Behauptungen in den sozialen Medien, einschließlich Facebook und Instagram, zu veröffentlichen, und nutzte seinen Einfluss als Staatsoberhaupt, um ihnen Glaubwürdigkeit zu verleihen. Er ermutigte seine Anhänger, am 6. Januar mit dem Ziel „StoptheSteal“ (Stoppt den Betrug) in die Hauptstadt zu kommen, und deutete an, dass die Ereignisse „wild“ sein würden. Am 6. Januar forderte Herr Trump seine Anhänger auf, zum Kapitol zu marschieren, um die Auszählung der Wahlmännerstimmen zu erschweren. Zum Zeitpunkt der Beiträge herrschte noch immer schwere Gewalt. Als die Einschränkungen am 7. Januar verlängert wurden, war die Situation nach wie vor heikel. Auch die Tatsache, dass der District of Columbia vor einem erhöhten Risiko von Gewalt im Zusammenhang mit den Ereignissen im Kapitol warnte, beleuchtet den Kontext des Falls.
• Status des Sprechers: Aufgrund seiner Stellung als Präsident der USA und politische Führungsperson hatten die Beiträge von Herrn Trump auf Facebook und Instagram großen Einfluss. Das Board stellt fest, dass Herr Trump als Präsident Glaubwürdigkeit und Autorität bei der Öffentlichkeit besaß, was zu den Ereignissen vom 6. Januar beitrug. Der Status von Herrn Trump als Staatsoberhaupt mit einer hohen Vertrauensstellung verlieh seinen Worten nicht nur mehr Kraft und Glaubwürdigkeit, sondern führte auch dazu, dass seine Anhänger dachten, sie könnten ungestraft handeln.
• Absicht: Das Board kann die Absichten von Herrn Trump nicht abschließend beurteilen. Die Möglichkeit von Gewalt im Zusammenhang mit den Äußerungen von Herrn Trump war eindeutig, und das Board war der Ansicht, dass er wahrscheinlich wusste oder hätte wissen müssen, dass diese Beiträge das Risiko der Legitimierung oder Aufforderung zu Gewalt mit sich bringen würden.
• Inhalt und Form: Die beiden Beiträge vom 6. Januar lobten und unterstützten die Randalierer, obwohl sie sie dazu aufforderten, friedlich nach Hause zu gehen. Die Beiträge wiederholten auch die unbegründete Behauptung des Wahlbetrugs. Berichte legen nahe, dass einige der Randalierer diese Behauptung als Legitimation ihrer Handlungen verstanden haben. Offensichtlich hat Herr Trump die kommunikative Autorität der Präsidentschaft zur Unterstützung der Angreifer auf das Kapitol verwendet, um die rechtmäßige Auszählung der Wahlmännerstimmen zu verhindern.
• Ausmaß und Reichweite: Herr Trump hatte eine große Zielgruppe, mit einer Anhängerschaft von mindestens 35 Millionen Konten auf Facebook und mindestens 24 Millionen Konten auf Instagram. Hinzu kommt, dass solche Beiträge in den sozialen Medien häufig aufgegriffen und über Massenmedienkanäle sowie von prominenten Anhängern von Herrn Trump mit großem Publikum geteilt werden, was die Reichweite weiter erhöht.
• Unmittelbare Gefahr: Die Beiträge wurden während eines dynamischen und langen Zeitraums kontinuierlicher Gewalt veröffentlicht. Menschenleben, die Integrität der Wahlen und die politische Teilhabe waren eindeutig und unmittelbar gefährdet. Die Gewalt am Kapitol begann innerhalb einer Stunde nach einer Kundgebung, die über Facebook und andere soziale Medien verbreitet wurde. Während Herr Trump seinen Beitrag verfasste, zogen die Randalierer durch die Flure des Kongresses und verängstigte Kongressabgeordneten appellierten an das Weiße Haus und baten den Präsidenten, die Situation zu entschärfen. Durch die Unruhen wurde der Kongress daran gehindert, seine verfassungsmäßige Aufgabe der Auszählung der Wahlmännerstimmen zu erfüllen, und der Prozess verzögerte sich um mehrere Stunden.

Nach Analyse dieser Faktoren kommt das Board zu dem Schluss, dass der vorliegende Verstoß eine schwerwiegende Verletzung der Menschenrechte darstellte. Die Verhängung von Beschränkungen auf Kontoebene durch Facebook am 6. Januar und die Ausweitung dieser Beschränkungen am 7. Januar waren notwendig und verhältnismäßig.

Eine Minderheit des Boards hält eine längerfristige oder dauerhafte Deaktivierung allein auf der Grundlage der Ereignisse vom 6. Januar für gerechtfertigt. Sie weist jedoch auch darauf hin, dass bei der Beurteilung der Verhältnismäßigkeit die Nutzung der Facebook-Plattformen durch Herrn Trump vor der Präsidentschaftswahl im November 2020 berücksichtigt werden sollte. Diese Minderheit bezog sich vor allem auf einen Beitrag vom 28. Mai 2020 im Zusammenhang mit Protesten für soziale Gerechtigkeit, der den Satz enthielt „when the looting starts, the shooting starts“ (wenn die Plünderung beginnt, beginnt die Schießerei), sowie mehrere Beiträge, die sich auf das „China Virus“ bezogen. Facebook hat sich verpflichtet, das Recht auf Nicht-Diskriminierung (Art. 2 Absatz 1, ICCPR und Artikel 2 ICERD) und, in Übereinstimmung mit den Kriterien zur Einschränkung des Rechts auf freie Meinungsäußerung (Art. 19 Absatz 3 ICCPR), zu respektieren, um die Nutzung seiner Plattformen für die Unterstützung von Rassen- oder Fremdenhass sowie die Anstiftung zu Feindseligkeit, Diskriminierung oder Gewalt zu verhindern (Art. 20 ICCPR, Art. 4 ICERD). Häufigkeit, Menge und Ausmaß der entsprechenden Inhalte sollten in die Rabat-Analyse der Verhetzung einfließen (Aktionsplan von Rabat, Absatz 29), insbesondere die Faktoren zu Kontext und Absicht. Für die Minderheit wäre diese umfassendere Analyse wichtiger Bestandteil der Festlegung einer verhältnismäßigen Strafe, die sowohl als Abschreckung für andere politische Führungspersonen als auch gegebenenfalls als Chance zur Rehabilitierung dienen sollte. Wenn Facebook sich für eine zeitlich begrenzte Beschränkung entscheidet, sollten diese Faktoren in der Risikoanalyse berücksichtigt werden, die vor der Aufhebung der Beschränkung erforderlich ist. Da sich die Mehrheit aus anderen Gründen mit diesem Fall befasst hat, geht sie auf diese Fragen nicht ein.

9. Entscheidung des Oversight Boards

Am 6. Januar war die Entscheidung von Facebook, den Zugriff auf die Konten von Herrn Trump einzuschränken, gerechtfertigt. Die fraglichen Beiträge verstießen gegen die Regeln von Facebook und Instagram, die die Unterstützung oder die Gutheißung von verletzenden Ereignissen verbieten, einschließlich des Aufruhrs, der damals am US-Kapitol im Gange war. Angesichts der Schwere der Verstöße und des anhaltenden Gewaltrisikos war es für Facebook gerechtfertigt, Beschränkungen auf Kontoebene zu verhängen und diese Beschränkungen am 7. Januar zu verlängern.

Es war jedoch nicht angemessen, dass Facebook eine unbefristete Sperre verhängt hat.

Facebook ist in diesem Fall keinem klaren, veröffentlichten Verfahren gefolgt. Normalerweise verhängt Facebook bei Verstößen gegen seine Regeln entweder eine zeitlich begrenzte Sperrung oder eine dauerhafte Deaktivierung des Kontos. Laut Board darf Facebook einem Nutzer den Zugriff auf die Plattform nicht für einen unbestimmten Zeitraum verbietet, wenn es keine Kriterien gibt, wann oder ob das Konto wiederhergestellt wird.

Facebook muss erforderliche und verhältnismäßige Strafen erarbeiten und kommunizieren, die bei schwerwiegenden Verstößen gegen seine Inhaltsrichtlinien verhängt werden. Das Board muss sicherstellen, dass die Regeln und Prozesse von Facebook den Inhaltsrichtlinien, Werten und der Verpflichtung zur Achtung der Menschenrechte entsprechen. Durch die Anwendung einer unbestimmten und standardlosen Strafe und die anschließende Übergabe dieses Falls an das Board versucht Facebook, sich seiner Verantwortung zu entziehen. Das Board lehnt den Antrag von Facebook ab und besteht darauf, dass Facebook eine definierte Strafe anwendet und begründet.

Facebook muss innerhalb von sechs Monaten nach dieser Entscheidung die willkürliche Strafe, die am 7. Januar verhängt wurde, erneut prüfen und eine angemessene Strafe festlegen. Diese Strafe muss sich an der Schwere des Verstoßes und dem Risiko für zukünftigen Schaden orientieren. Zudem muss sie den Regeln von Facebook für schwerwiegende Verstöße entsprechen, die wiederum klar, notwendig und verhältnismäßig sein müssen.

Wenn Facebook entscheidet, die Konten von Herrn Trump wiederherzustellen, muss Facebook seine Regeln auf diese Entscheidung anwenden, einschließlich aller Änderungen, die gemäß den nachstehenden Richtlinienempfehlungen vorgenommen werden. Außerdem muss Facebook, wenn es sich entschließt, wieder Zugriff auf die Plattform zu gewähren, alle weiteren Verstöße umgehend und in Übereinstimmung mit den bestehenden Inhaltsrichtlinien zu bestrafen.

Eine Minderheit ist der Ansicht, man müsse Mindestkriterien definieren, die die Einschätzung des Boards hinsichtlich der Menschenrechtsverantwortung von Facebook widerspiegeln. Die Mehrheit zieht es stattdessen vor, diese Orientierungshilfe als Richtlinienempfehlung zur Verfügung zu stellen. Laut der Minderheit bedeutet Facebooks Verantwortung für die Achtung der Menschenrechte ausdrücklich auch, dass es an der Wiedergutmachung negativer Auswirkungen auf die Menschenrechte mitwirkt (UNGPs, Prinzip 22). Eine solche Wiedergutmachung ist ein grundlegender Bestandteil des UNGP-Rahmenwerks „Protect, Respect, Remedy“ (Schutz, Achtung, Abhilfe), das die internationalen Menschenrechtsnormen im weiteren Sinne wiedergibt (Artikel 2, Absatz 3, ICCPR, in der Auslegung des Menschenrechtsausschusses in der Allgemeinen Bemerkung Nr. 31, Absätze 15–18). Um zu gewährleisten, dass sich diese negativen Auswirkungen nicht wiederholen, muss Facebook genau prüfen, ob die Wiederherstellung von Herrn Trumps Konten ein ernsthaftes Risiko der Anstiftung zu Diskriminierung, Gewalt oder anderen gesetzeswidrigen Handlungen darstellen würde. Diese Risikobewertung muss auf den Abwägungen basieren, die das Board in der Analyse der Notwendigkeit und Verhältnismäßigkeit in Abschnitt 8.3.III oben dargelegt hat, einschließlich Kontexts und Bedingungen auf und außerhalb von Facebook und Instagram. Facebook sollte beispielsweise hinreichend sicher sein, dass Herr Trump keine unbegründeten Behauptungen über Wahlbetrug mehr aufstellt, die die Sperrung am 6. Januar rechtfertigten. Die Durchsetzungsverfahren von Facebook sollen rehabilitierend wirken, und die Minderheit ist der Ansicht, dass dieses Ziel dem Grundsatz der Wiedergutmachung in den Menschenrechtsgesetzen entspricht. Eine Minderheit des Boards betont, dass die Regeln von Facebook sicherstellen müssen, dass Nutzer, die nach einer Sperrung eine Aufhebung der Sperrung beantragen, ihr Fehlverhalten erkennen und sich verpflichten müssen, die Regeln zukünftig einzuhalten. In diesem Fall schlägt die Minderheit vor, dass Facebook vor der Wiederherstellung des Kontos von Herrn Trump sicherstellt, dass keine Beiträge mehr enthalten sind, in denen die Beteiligten an den Unruhen gutgeheißen oder unterstützt werden.

10. Stellungnahme zu den Richtlinien

Das Board erkennt die schwierigen Themen an, die dieser Fall aufwirft, und ist dankbar für die vielen sinnvollen und durchdachten öffentlichen Kommentare, die es erhalten hat.

In der Übergabe dieser Angelegenheit an das Oversight Board bat Facebook ausdrücklich um „observations or recommendations from the board about suspensions when the user is a political leader“ (Beobachtungen oder Empfehlungen des Boards zu Sperrungen, wenn der Nutzer eine politische Führungsperson ist). Das Board bat Facebook, sein Verständnis des Begriffs „political leader“ (politische Führungsperson) zu erläutern. Facebook erklärte, dass damit „elected or appointed government officials and people who are actively running for office in an upcoming election, including a short period of time after the election if the candidate is not elected“ (gewählte oder ernannte Regierungsbeamte und Personen, die bei einer bevorstehenden Wahl aktiv für ein Amt kandidieren, einschließlich eines kurzen Zeitraums nach der Wahl, wenn der Kandidat nicht gewählt wird) abgedeckt sein sollen, aber nicht alle staatlichen Akteure. Aufgrund der Einschätzung des Boards zu diesem Fall beschränkt es seine Empfehlungen auf Angelegenheiten der öffentlichen Sicherheit.

Das Board ist der Ansicht, dass es nicht immer sinnvoll ist, strikt zwischen politischen Führungspersonen und anderen einflussreichen Nutzern zu unterscheiden. Es ist wichtig zu erkennen, dass auch andere Nutzer mit großem Publikum zu ernsthaften Schadensrisiken beitragen können. Für alle Nutzer der Plattform sollten dieselben Regeln gelten; bei der Einschätzung der Kausalität und der Wahrscheinlichkeit eines drohenden Schadens muss aber auch der Kontext berücksichtigt werden. Wichtig ist der Grad des Einflusses, den ein Nutzer auf andere Nutzer hat.

Wenn durch Beiträge einflussreicher Nutzer das Risiko eines unmittelbar bevorstehenden Schadens besteht, wie in den internationalen Menschenrechtsstandards dargelegt, muss Facebook Maßnahmen ergreifen, um seine Regeln schnell durchzusetzen. Facebook muss bei der Bewertung der Beiträge einflussreicher Nutzer berücksichtigen, wie sie wahrscheinlich verstanden werden, auch wenn ihre aufrührerische Nachricht so dargestellt wird, dass Verantwortung vermieden wird, wie z. B. eine oberflächliche Ermutigung zu friedlichem oder rechtmäßigem Handeln. Facebook hat in diesem Fall die sechs kontextbezogenen Faktoren des Aktionsplans von Rabat verwendet, und das Board hält dies für eine sinnvolle Bewertungsmethode der inhaltlichen Risiken potenziell schädlicher Äußerungen. Das Board betont, dass die Zeit in solchen Situationen von entscheidender Bedeutung ist. Die Ergreifung von Maßnahmen, bevor einflussreiche Nutzer erheblichen Schaden anrichten können, sollte Vorrang vor dem Nachrichtenwert und anderen Werten politischer Kommunikation haben.

Zwar müssen sich alle Nutzer an die gleichen Inhaltsrichtlinien halten, es gibt aber individuelle Faktoren, die bei der Beurteilung von Äußerungen von Politikern berücksichtigt werden müssen. Staatsoberhäupter und andere hohe Regierungsbeamte können mehr Schaden anrichten als andere Personen. Facebook muss berücksichtigen, dass Beiträge von Staatsoberhäuptern und anderen hohen Regierungsvertretern ein erhöhtes Risiko bergen, zu Gewalt anzustiften, sie zu legitimieren oder dazu aufzurufen – zum einen weil ihre hohe Position ihren Worten mehr Kraft und Glaubwürdigkeit verleiht, zum anderen weil ihre Anhänger daraus schließen, sie könnten ungestraft handeln. Gleichzeitig muss das Menschenrecht geschützt werden, politische Äußerungen zu hören. Wenn ein Staatsoberhaupt oder ein hoher Regierungsvertreter jedoch wiederholt Nachrichten veröffentlicht, die nach internationalen Menschenrechtsnormen ein Risiko darstellen, muss Facebook das Konto für einen bestimmten Zeitraum sperren, der ausreicht, um vor drohendem Schaden zu schützen. Die Dauer der Sperrung muss lang genug sein, um eine abschreckende Wirkung zu haben, und kann unter Umständen auch die Löschung des Kontos oder der Seite beinhalten.

Einschränkungen der Meinungsäußerung werden oft von oder auf Geheiß mächtiger staatlicher Akteure gegen abweichende Meinungen und Mitglieder der politischen Opposition verhängt. Facebook muss dem Druck von Regierungen widerstehen, ihre politische Opposition zum Schweigen zu bringen. Bei der Bewertung potenzieller Risiken muss Facebook besonders darauf achten, den jeweiligen politischen Kontext zu berücksichtigen. Bei der Bewertung politischer Äußerungen von besonders einflussreichen Nutzern muss Facebook die Inhaltsmoderation schnell an spezialisierte Mitarbeiter weitergeben, die mit dem sprachlichen und politischen Kontext vertraut sind sowie von politischer und wirtschaftlicher Einmischung und unzulässiger Beeinflussung abgeschirmt sind. Diese Analyse muss das Verhalten einflussreicher Nutzer außerhalb der Plattformen Facebook und Instagram untersuchen, um den gesamten relevanten Kontext potenziell schädlicher Äußerungen angemessen bewerten zu können. Darüber hinaus muss Facebook angemessene Ressourcen und Fachkenntnisse bereitstellen, um das Risiko von Schäden durch einflussreiche Nutzer weltweit zu bewerten.

Facebook sollte die Regeln, die bei der Verhängung von Sanktionen auf Kontoebene gegen einflussreiche Nutzer herangezogen werden, öffentlich erläutern. Diese Regeln müssen Folgendes sicherstellen: Wenn Facebook eine zeitlich begrenzte Sperrung eines Kontos einer einflussreichen Person verhängt, um das Risiko eines erheblichen Schadens zu verringern, muss vor Ablauf der Sperrung geprüft werden, ob das Risiko weiterhin besteht. Wenn Facebook feststellt, dass von dem Nutzer zu diesem Zeitpunkt ein ernsthaftes Risiko ausgeht, zu unmittelbar drohender Gewalt, Diskriminierung oder anderen gesetzeswidrigen Handlungen anzustiften, sollte eine weitere zeitlich begrenzte Sperrung verhängt werden, wenn solche Maßnahmen zum Schutz der öffentlichen Sicherheit notwendig und dem Risiko angemessen sind.

Wenn Facebook spezielle Verfahren für einflussreiche Nutzer umsetzt, müssen diese genau dokumentiert werden. Es war unklar, ob Facebook in diesem Fall andere Maßstäbe ansetzte, und das Board hörte viele Bedenken hinsichtlich der möglichen Anwendung der Ausnahme aufgrund des Nachrichtenwertes. Diesen Mangel an Transparenz und die dadurch entstandene Verwirrung muss Facebook beheben. Facebook sollte weitere Informationen zur Verfügung stellen, damit die Nutzer den Prozess und die Kriterien für die Anwendung der Ausnahmeregelung für den Nachrichtenwert verstehen und einschätzen können. Facebook sollte klar erklären, wie die Ausnahme für den Nachrichtenwert für einflussreiche Konten, einschließlich politische Führungspersonen und andere Personen des öffentlichen Lebens, funktioniert. Hinsichtlich der Gegenprüfung sollte Facebook die Gründe, Standards und Prozesse der Überprüfung klar erläutern, einschließlich der Kriterien für die Aufnahme bestimmter Seiten und Konten. Facebook sollte über die relativen Fehlerquoten und die thematische Konsistenz der durch den Prozess der Gegenprüfung getroffenen Feststellungen im Vergleich zu den gewöhnlichen Durchsetzungsverfahren Bericht erstatten.

Wenn die Facebook-Plattform von einflussreichen Nutzern in einer Weise missbraucht wurde, die zu schwerwiegenden negativen Auswirkungen auf die Menschenrechte führt, muss Facebook den Vorfall gründlich untersuchen. Facebook sollte prüfen, welchen Einfluss das Unternehmen hatte und welche Änderungen es vornehmen kann, um negative Auswirkungen in Zukunft zu erkennen, zu verhindern, abzumildern und zu berücksichtigen. Bei diesem Fall sollte Facebook seinen potenziellen Beitrag zur Behauptung des Wahlbetrugs und zu den verschärften Spannungen, die am 6. Januar 2021 in der Gewalt in den USA gipfelten, genau überprüfen. Es sollte sich dabei um eine offene Reflexion über die Design- und Richtlinienentscheidungen handeln, die Facebook getroffen hat und die möglicherweise den Missbrauch der Plattform ermöglicht haben. Facebook sollte diese genaue Prüfung durchführen und entsprechend der Ergebnisse geeignete Maßnahmen ergreifen. Das Unternehmen sollte offen kommunizieren, wie es mit negativen Auswirkungen auf die Menschenrechte umgeht.

In Fällen, in denen Facebook- oder Instagram-Nutzer möglicherweise an Gräueltaten oder schwerwiegenden Menschenrechtsverletzungen beteiligt waren, sowie bei Aufwiegelung gemäß Artikel 20 des ICCPR, kann die Entfernung von Inhalten und die Sperrung von Konten zwar potenziell das Risiko eines Schadens verringern, aber auch die Bemühungen untergraben, jemanden zur Rechenschaft zu ziehen, unter anderem indem Beweise beseitigt werden. Facebook ist dafür verantwortlich, Informationen zu sammeln, aufzubewahren und gegebenenfalls weiterzuleiten, um die Untersuchung und mögliche Verfolgung von schweren Verstößen gegen internationales Strafrecht, Menschenrechte und humanitäres Recht durch zuständige Behörden und Mechanismen der Rechenschaftspflicht zu unterstützen. Facebooks Unternehmensrichtlinien zu Menschenrechten sollten die Protokolle verdeutlichen, die das Unternehmen hierzu hat. Die Richtlinie sollte auch deutlich machen, wie Informationen, die zuvor auf der Plattform öffentlich waren, Personen zugänglich gemacht werden können, die Untersuchungen gemäß internationalen Standards und geltenden Datenschutzgesetzen durchführen.

Dieser Fall zeigt weitere Mängel in den Richtlinien von Facebook auf, die behoben werden müssen. Insbesondere stellt das Board fest, dass das Sanktionssystem von Facebook für Nutzer nicht hinreichend klar ist und keine angemessene Anleitung zur Regelung der Ermessensausübung von Facebook bietet. Facebook sollte in seinen Gemeinschaftsstandards und Richtlinien die Verfahren für Sanktionen zur Einschränkung von Profilen, Seiten, Gruppen und Konten auf Facebook und Instagram klar, umfassend und verständlich erklären. Diese Richtlinien sollten ausreichende Informationen enthalten, damit Nutzer verstehen, wann Strafen verhängt werden (einschließlich aller anwendbaren Ausnahmen oder Toleranzen) und wie sie berechnet werden. Facebook sollte den Nutzer auch verständliche Informationen darüber zur Verfügung stellen, wie viele Verstöße und Strafen gegen sie verhängt wurden und welche Konsequenzen das für zukünftige Verstöße hat. In seinem Bericht zu Transparenz sollte Facebook die Anzahl der Profil-, Seiten- und Kontobeschränkungen aufnehmen, einschließlich des Grundes und der Art und Weise, in der Durchsetzungsmaßnahmen ergriffen wurden, wobei die Informationen nach Region und Land aufgeschlüsselt werden sollten.

Schließlich fordert das Board Facebook auf, eine Richtlinie für Krisen und neuartige Situationen zu entwickeln und zu veröffentlichen, in denen die regulären Prozesse einen drohenden Schaden nicht verhindern oder vermeiden würden. Auch wenn diese Situationen nicht immer vorhersehbar sind, sollte Facebook in seinen Richtlinien angemessene Parameter für solche Aktionen festlegen, einschließlich der Anforderung, seine Entscheidung innerhalb einer bestimmten Zeit zu überprüfen.

* Anmerkung zur Vorgehensweise:

Die Entscheidungen des Oversight Boards werden von einem Panel aus fünf Mitgliedern vorbereitet und von einer Mehrheit des Boards bestätigt. Entscheidungen des Gremiums geben nicht zwangsläufig die persönliche Meinung aller Mitglieder wieder.