Werbung für Ketamin für nicht von der FDA zugelassene Behandlungen

Zusammenfassung des Falls

Das Oversight Board hat Metas Entscheidung rückgängig gemacht, den Beitrag eines*einer Nutzer*in veröffentlicht zu lassen, in dem er*sie über seine*ihre Erfahrung mit Ketamin zur Behandlung von Angststörungen und Depressionen spricht. Das Gremium stellt fest, dass der Inhalt gegen die Branded-Content-Richtlinien von Meta (diese Richtlinien gelten für Inhalte, für die Creator*innen von einem unabhängigen „Geschäftspartner“ Gegenleistungen erhalten, im Gegensatz zu Werbung, bei der Meta Anzeigen für Nutzer*innen schaltet und dafür Zahlungen erhält) und den Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen verstößt. Dieser Fall ist ein Indiz dafür, dass die strengen Einschränkungen der Befürwortung von Drogen und Medikamenten in Branded Content auf Meta-Plattformen sowie von Versuchen, Drogen und Medikamente auf Meta-Plattformen zu kaufen, zu verkaufen oder damit zu handeln, möglicherweise uneinheitlich durchgesetzt werden.

Über den Fall

Am 29. Dezember 2022 postete ein*e verifizierte*r Instagram-Nutzer*in einen Beitrag mit 10 Bildern und einer Bildunterschrift. Der Beitrag ist als „bezahlte Werbepartnerschaft“ gekennzeichnet, und ein bekannter Anbieter von Ketamintherapie wird darin als Co-Autor markiert. Gemäß Metas Richtlinien für Branded Content müssen Metas Geschäftspartner ihre Inhalte auf diese Weise markieren, um transparent auf geschäftliche Partnerschaften mit Dritten hinzuweisen.

In der Bildunterschrift sagt der*die Nutzer*in, dass ihm*ihr in zwei Praxen des Therapieanbieters in den USA zur Behandlung von Angststörungen und Depressionen Ketamin verabreicht worden war. Obwohl der*die Nutzer*in Ketamin als Medizin bezeichnet, wird im Beitrag keine professionelle Diagnose erwähnt, und es gibt keine eindeutigen Hinweise darauf, dass die Behandlung in einer lizenzierten Klinik oder unter ärztlicher Aufsicht erfolgt ist. Der*die Nutzer*in beschreibt die Behandlung als „magical entry into another dimension“ (eine magische Reise in eine andere Dimension). Er*sie äußert auch eine Überzeugung, dass „psychedelics“ (psychedelische Substanzen; der Beitrag deutet an, dass Ketamin zu dieser Kategorie gehört) ein wichtiges neues Medikament für psychiatrische Behandlungen darstellen. Der*die Nutzer*in stellt seine*ihre Erfahrungen in zehn Zeichnungen im Storyboard-Stil dar, von denen einige psychedelische Elemente enthalten. Darin wird angedeutet, dass sich der*die Nutzer*in mehreren „therapy sessions“ (Therapiesitzungen) für „treatment-resistant depression and anxiety“ (therapieresistente Depressionen und Angststörungen) unterzogen hat. Das Konto des*der Nutzer*in hat etwa 200.000 Abonnent*innen. Der Beitrag wurde etwa 85.000 Mal aufgerufen.

Drei Nutzer*innen haben ein Bild oder mehrere der Bilder aus dem Beitrag gemeldet. Der Inhalt wurde dreimal unter Berufung auf den Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen entfernt und anschließend jeweils wiederhergestellt. Nach der dritten Entfernung machte der*die Content-Creator*in Meta auf den Beitrag aufmerksam. Der Inhalt wurde daraufhin für eine zusätzliche Überprüfung an Richtlinien- oder Fachexpert*innen weitergeleitet und erneut wiederhergestellt. Dies fand sechs Monate nach der ursprünglichen Veröffentlichung statt. Anschließend verwies Meta den Fall an das Oversight Board. Der Status des*der Content-Creator*in als „Managed Partner“ war ein Faktor bei der Eskalation des Falls. Zu „Managed Partners“ zählen Entitäten aus verschiedenen Branchen, darunter Einzelpersonen wie Prominente und Organisationen wie Unternehmen und wohltätige Organisationen. Sie erhalten erweiterte Unterstützung, darunter Kontakt mit einem speziellen Partner Manager; das Ausmaß dieser Unterstützung kann dabei variieren.

Wichtige Erkenntnisse

Wie im Folgenden ausführlicher erklärt, ist dieser Fall ein Indiz dafür, dass die strengen Einschränkungen der Befürwortung von Drogen und Medikamenten in Branded Content auf Meta-Plattformen sowie von Versuchen, Drogen und Medikamente auf Meta-Plattformen zu kaufen, zu verkaufen oder damit zu handeln, möglicherweise uneinheitlich durchgesetzt werden.

Da der betreffende Inhalt im Rahmen einer bezahlten Werbepartnerschaft veröffentlicht wurde, sollten die Branded-Content-Richtlinien angewandt werden. Das Gremium findet es bedenklich, dass Meta diesen Aspekt des Falles nicht erwähnt hat, als es ihn an das Gremium weiterleitete. Stattdessen erfuhr das Gremium erst davon, als es Meta über den Fall befragte. Die Branded-Content-Richtlinien von Meta besagen, dass „[m]anche Waren, Dienstleistungen und Marken [...] nicht für das Bewerben durch Branded Content zugelassen“ sind, darunter „Drogen und drogenähnliche Substanzen, einschließlich illegaler Drogen und Partydrogen“. Da der Inhalt in diesem Fall im Rahmen einer „bezahlten Werbepartnerschaft“ veröffentlicht wurde, eindeutig für den Konsum von Ketamin warb und keine Ausnahmeregelung darauf anwendbar ist, verstößt er gegen diese Richtlinien. Auf die Fragen des Gremiums hin erkannte Meta an, dass nicht alle Inhalte mit dem Hinweis „Bezahlte Werbepartnerschaft“ auf die Branded-Content-Richtlinien hin geprüft werden. Außerdem sei dieser Hinweis für Moderator*innen, die Inhalte massenhaft prüfen, nicht sichtbar, und diese Moderator*innen seien nicht in der Lage, Inhalte an das spezialisierte Team weiterzuleiten, das für die Durchsetzung der Branded-Content-Richtlinien zuständig ist. Diese Umstände tragen stark zum Risiko bei, dass die Richtlinien nicht ausreichend auf derartige Beiträge angewandt werden. Das Gremium ruft Meta deshalb auf, sicherzustellen, dass Inhalte auf alle relevanten Richtlinien hin geprüft werden, einschließlich der Branded-Content-Richtlinien.

Das Gremium stellt außerdem fest, dass der Beitrag gegen den Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen verstößt. Laut diesem Gemeinschaftsstandard ist die Promotion von „Medikamente[n]“ zulässig („Medikamente, die verschreibungspflichtig sind oder von einer medizinischen Fachkraft verabreicht werden müssen“), nicht aber die Promotion „[n]icht medizinisch eingesetzte[r] Drogen“ („Drogen oder Substanzen, die nicht zu medizinischen Zwecken verwendet werden bzw. zur Erzielung eines Rausches verwendet werden“). Wie dieser Fall jedoch zeigt, lassen sich bestimmte Substanzen beiden Kategorien zuordnen. Die beste Lösung für dieses Problem wäre es, die unabdingbare Rolle medizinischer Fachkräfte bei der Verschreibung oder Verabreichung der Medikamente zu betonen. Wie im vorstehenden Absatz angemerkt, gelten für bezahlte Inhalte noch strengere Richtlinien. Da der betreffende Inhalt Aussagen enthält, die stark darauf hindeuten, dass die Substanz verwendet wurde, um einen Rausch zu erzielen, aber keinen direkten Bezug auf eine medizinische Diagnose oder medizinisches Personal enthält (z. B. „Ärzt*in“, „Pfleger*in“, „Psychiater*in“), ist das Gremium der Ansicht, dass der*die Nutzer*in in diesem Fall nicht ausreichend belegt hat, dass der Konsum von Ketamin unter ärztlicher Aufsicht erfolgt ist. Der Inhalt verstößt damit gegen diesen Gemeinschaftsstandard und muss entfernt werden.

Außerdem äußert das Gremium Bedenken, dass Metas Richtlinien in Bezug auf Drogen möglicherweise uneinheitlich durchgesetzt werden. Bei einer kürzlichen Untersuchung des Wall Street Journal von Werbeanzeigen, die Ende 2022 über einen vierwöchigen Zeitraum sichtbar waren, wurde festgestellt, dass „über 2.100 Werbeanzeigen auf Facebook und Instagram Vorteile verschreibungspflichtiger Medikamente nannten, ohne auf Risiken hinzuweisen, für nicht genehmigte Anwendungen von Medikamenten warben oder Aussagen vorgeblicher Kund*innen enthielten, ohne eine Offenlegung, ob es sich dabei um Schauspieler*innen oder Mitarbeiter*innen des Unternehmens handelte“. Weiterhin merkt die National Association of Boards of Pharmacy (NABP, Nationale Gesellschaft der Apothekenverbände) in einem öffentlichen Kommentar an das Gremium an, dass auf den Meta-Plattformen häufig Inhalte zu finden sind, die eindeutig gegen den Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen verstoßen. Die NABP gibt an, sie habe mit einer oberflächlichen Suche unter einer Minute mehrere Beiträge gefunden, in denen auf Ketamin als Freizeitdroge Bezug genommen wird.

Die Entscheidung des Oversight Boards

Das Oversight Board hebt die Entscheidung von Meta auf, diesen Inhalt veröffentlicht zu lassen, und verlangt, dass der Beitrag entfernt wird.

Das Gremium empfiehlt Meta folgende Maßnahmen:

• Meta sollte die Bedeutung des Hinweises „Bezahlte Werbepartnerschaft“ an allen Stellen, wo er erscheint, klarstellen, einschließlich im Rahmen der Prüfung von Branded Content. Das bedeutet unter anderem, dass Meta die Rolle von Geschäftspartnern bei der Genehmigung bezahlter Inhalte und beim Hinzufügen des Hinweises „Bezahlte Werbepartnerschaft“ erklären sollte.
• Meta sollte im Text des Gemeinschaftsstandards zu eingeschränkten Waren und Dienstleistungen klarstellen, dass Inhalte, in denen der Konsum von Medikamenten eingestanden oder befürwortet wird und dieser Konsum einen Rausch hervorrufen kann, nur zulässig sind, wenn dieser Konsum unter ärztlicher Aufsicht erfolgt.
• Meta sollte sicherstellen, dass Inhalte, die im Rahmen einer bezahlten Werbepartnerschaft erstellt wurden, im Rahmen seines Prüfungsverfahrens auf alle anwendbaren Richtlinien hin geprüft werden (d. h. Gemeinschaftsstandards und Branded-Content-Richtlinien). Meta sollte sicherstellen, dass Inhalte, die möglicherweise gegen die Branded-Content-Richtlinien verstoßen, an Prüfer*innen oder automatische Systeme weitergeleitet werden, die in der Lage sind, diese Richtlinien durchzusetzen, und entsprechend geschult sind.
• Meta sollte die Durchsetzung der Teile der Branded-Content-Richtlinien und des Gemeinschaftsstandards zu eingeschränkten Waren und Dienstleistungen überprüfen, die sich auf den Verkauf und/oder die bezahlte Werbung für Medikamente und Drogen beziehen. Anschließend sollte Meta jegliche Lücken bei der Durchsetzung schließen.

* Fallzusammenfassungen bieten einen Überblick über den Fall und haben keinen Präzedenzwert.

Ausführliche Fallentscheidung

1. Zusammenfassung der Entscheidung

Das Oversight Board macht Metas Entscheidung rückgängig, den Beitrag eines*einer Nutzer*in veröffentlicht zu lassen, in dem er*sie über seine*ihre Erfahrung mit Ketamin zur Behandlung von Angststörungen und Depressionen spricht. Diese Behandlung ist in den Praxen eines Anbieters für Ketamintherapie in den USA erfolgt. Der Beitrag enthält den Hinweis „Bezahlte Werbepartnerschaft“, was darauf hindeutet, dass der*die Nutzer*in von einem unabhängigen „Geschäftspartner“ eine Entschädigung für den Beitrag erhalten hat. Solche Beiträge unterliegen den Branded-Content-Richtlinien von Meta. Diese Richtlinien untersagen das Bewerben von „Drogen und drogenähnliche[n] Substanzen, einschließlich illegaler Drogen und Partydrogen“. Davon ausgenommen sind Apotheken und verschreibungspflichtige Medikamente, wobei jeweils strenge Anforderungen gelten. Das Gremium stellt fest, dass diese Anforderungen in diesem Fall nicht erfüllt sind. Aus diesem Grund entscheidet das Gremium, dass der Beitrag gegen die Branded-Content-Richtlinien verstößt.

Auch ungeachtet der bezahlten Werbepartnerschaft verstößt der Beitrag nach Ansicht des Gremiums gegen den Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen. Laut diesem Standard dürfen Personen für Medikamente werben, aber nicht für Substanzen, die zur Erzielung eines Rausches verwendet werden. Ketamin wird als Medikament eingesetzt, kann jedoch auch einen Rausch herbeiführen. Es hat große therapeutische Bedeutung, ist aber auch eine gängige Freizeitdroge. Das Gremium befindet, dass der Gemeinschaftsstandard dahingehend auszulegen ist, dass Beiträge zulässig sind, die den Konsum von Ketamin befürworten, selbst wenn es einen Rausch verursacht, jedoch nur dann, wenn offensichtlich ist, dass das Medikament unter ärztlicher Aufsicht verabreicht wurde. Das Gremium stellt fest, dass es in diesem Fall nicht genügend Hinweise auf eine solche ärztliche Aufsicht gibt.

Neben der Aufhebung der Entscheidung von Meta empfiehlt das Gremium dem Unternehmen, die Branded-Content-Richtlinien zu überarbeiten, die Bedeutung des Hinweises „Bezahlte Werbepartnerschaft“ klarzustellen und sicherzustellen, dass Inhaltsprüfer*innen in der Lage sind, die Branded-Content-Richtlinien bei Bedarf durchzusetzen. Außerdem empfiehlt das Gremium Meta, die Definition nicht medizinisch eingesetzter Drogen in seinem Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen zu aktualisieren und dabei klarzustellen, dass die Befürwortung von Substanzen, die bei medizinischer Anwendung einen Rausch verursachen, nur zulässig ist, wenn es deutliche Hinweise auf ärztliche Aufsicht gibt. Schließlich äußert das Board Interesse an den Branded-Content-Richtlinien von Meta abseits dieses Falls und bittet Meta, weitere Informationen zur Durchsetzung dieser Richtlinien und/oder zu Geschäftspartnern an das Board weiterzugeben, wenn diese Informationen relevant sind.

2. Beschreibung des Falls und Hintergrundinformationen

Am 29. Dezember 2022 postete ein*e verifizierte*r Instagram-Nutzer*in einen Beitrag mit 10 zusammenhängenden Bildern und einer Bildunterschrift. Ein bekannter Anbieter von Ketamintherapie wird im Beitrag als Co-Autor markiert. Der Beitrag wurde also mit Abonnent*innen beider Konten geteilt und ist in beiden Konten dauerhaft sichtbar. Der Beitrag wurde als „bezahlte Werbepartnerschaft“ gekennzeichnet. Gemäß Metas Richtlinien für Branded Content müssen Metas Geschäftspartner ihre Inhalte auf diese Weise markieren, um transparent auf geschäftliche Partnerschaften mit Dritten hinzuweisen. Diese Hinweise erscheinen direkt unter dem Nutzernamen des*der Nutzer*in, der*die den Inhalt gepostet hat, in der Form „Bezahlte Werbepartnerschaft mit“, gefolgt vom Namen des Geschäftspartners.

In einer Bildunterschrift unter der Bilderreihe sagt der*die Nutzer*in, dass ihm*ihr in zwei Praxen des Therapieanbieters in den USA zur Behandlung von Angststörungen und Depressionen Ketamin verabreicht wurde. Das Instagram-Konto dieses Anbieters wird in der Bildunterschrift erneut markiert, sodass Nutzer*innen mit einem Klick dieses Konto aufrufen können. Obwohl der*die Nutzer*in Ketamin als Medizin bezeichnet, wird im Beitrag keine professionelle Diagnose erwähnt, und es gibt keine eindeutigen Hinweise darauf, dass die Behandlung in einer lizenzierten Klinik oder unter ärztlicher Aufsicht erfolgt ist. Der*die Nutzer*in beschreibt die Behandlung als „magical entry into another dimension“ (eine magische Reise in eine andere Dimension). Er*sie äußert auch eine Überzeugung, dass „psychedelics“ (psychedelische Substanzen; der Beitrag deutet an, dass Ketamin zu dieser Kategorie gehört) wichtige neue Medikamente für psychiatrische Behandlungen darstellen.

Die 10 Bilder im Beitrag sind Zeichnungen von professioneller Qualität und enthalten jeweils Text-Overlays, die die Erfahrung des*der Nutzer*in mit dem Anbieter beschreiben. Die Zeichnungen stellen die Erfahrungen chronologisch im Storyboard-Stil dar. Darin wird angedeutet, dass sich der*die Nutzer*in mehreren „therapy sessions“ (Therapiesitzungen) für „treatment-resistant depression and anxiety“ (therapieresistente Depressionen und Angststörungen) unterzogen hat. Einige Zeichnungen enthalten psychedelische Elemente, wie etwa Regenbogen, Sterne und andere Objekte, die aus Köpfen aufsteigen, sowie alltägliche Gegenstände vor einem Weltraumhintergrund. In einem Teil der Bilderreihe reflektiert der*die Nutzer*in über den schwierigen Zeitraum in seinem*ihrem Leben, in dem er*sie den Therapieanbieter aufsuchte. Andere Bilder stellen die Vorbereitung auf die Behandlung dar (wozu eine Entspannungsübung gehörte), die Behandlung selbst (die aus zwei Dosen Ketamin bestand) und die „reintegration“ (Reintegration) (wozu eine Reflexionsübung nach der Behandlung gehörte). In einem anderen Teil der Bilderreihe lobt der*die Nutzer*in die Behandlung und beschreibt „[t]he feeling of both being pulled out of myself while being brought closer to my inner essential core“ (ein Gefühl, aus meinem Ich herausgezogen zu werden, aber gleichzeitig meinem wahren inneren Kern näherzukommen). Der*die Nutzer*in vergleicht die Behandlung mit „any good trip“ (einem beliebigen guten Drogentrip). In einem Bild, auf das Meta bei seiner Weiterleitung an das Gremium besonders hinwies, wird die Niederlassung positiv dargestellt und schriftlich beschrieben. Dabei erwähnt der*die Nutzer*in auch die „extraordinary staff“ (außergewöhnlichen Mitarbeiter*innen), die ihn*sie betreut haben. In der Bilderreihe wird jedoch keine formelle ärztliche Aufsicht erwähnt. Beispielsweise enthält sie keinen direkten Bezug auf eine medizinische Diagnose von Depressionen oder Angststörungen oder auf Behandlungen, die von medizinischem Fachpersonal durchgeführt wurden. Außerdem wird nicht angegeben, ob es sich beim Therapieanbieter um eine lizenzierte Klinik handelt.

Der Post hatte etwa 10.000 „Gefällt mir“-Angaben, weniger als 1.000 Kommentare und wurde etwa 85.000-mal aufgerufen. Das Konto des*der Nutzer*in hat etwa 200.000 Abonnent*innen.

Insgesamt haben drei Nutzer*innen eines oder mehrere der 10 Bilder aus dem Beitrag gemeldet. Der Inhalt wurde dreimal unter Berufung auf den Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen entfernt und anschließend jeweils wiederhergestellt. Weniger als 30 Minuten nach der ersten Meldung wurde der Inhalt infolge einer Überprüfung durch Mitarbeiter*innen entfernt. Der*die Urheber*in des Inhalts legte Einspruch gegen diese Entfernung ein. Auf diesen Einspruch hin stellte ein*e Mitarbeiter*in den Inhalt wieder her. Dies geschah weniger als fünf Stunden nach der ursprünglichen Entfernung. Der Inhalt wurde etwa eine Stunde später ein zweites Mal gemeldet, fast sofort entfernt, und nach weniger als einer halben Stunde wiederhergestellt, jeweils infolge einer Prüfung durch Mitarbeiter*innen. Einige Wochen später wurde der Inhalt erneut gemeldet. Diese dritte Meldung wurde von einem automatischen System bearbeitet, das auf Basis vorheriger Entscheidungen durch Inhaltsmoderator*innen handelt. Das System stellte fest, dass der Inhalt gegen die Instagram-Gemeinschaftsrichtlinien verstieß, speziell gegen den Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen, und entfernte ihn.

Die Entfernungen basierten ausschließlich auf dem Meta-Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen. Das Gremium fragte Meta, warum der Inhalt nicht als Verstoß gegen die Branded-Content-Richtlinien entfernt wurde, die bezahlte Werbung für Drogen verbietet. Die öffentlich verfügbaren Informationen zu diesen Richtlinien besagen, dass sie für alle Inhalte mit dem Hinweis „Bezahlte Werbepartnerschaft“ gelten. Meta antwortete, dass diese Richtlinien nicht angewandt wurden, weil sie nur für Branded Content mit dem Hinweis „Bezahlte Werbepartnerschaft“ gelten, die der Markenpartner tatsächlich geprüft und genehmigt hat. Außerdem erklärte Meta, dass Marken bestimmten Creator*innen kontoweite Berechtigungen gewähren, sie in Branded Content zu markieren, sodass die Markierung nicht für jeden Beitrag einzeln genehmigt werden muss. Das bedeutet, dass Markierungen automatisch genehmigt werden können, ohne dass sie der entsprechende Markenpartner tatsächlich geprüft hat. In diesen Fällen werden die Inhalte nicht von spezialisierten Teams auf die Branded-Content-Richtlinien hin geprüft. Außerdem ist der Hinweis „Bezahlte Werbepartnerschaft“ für Mitarbeiter*innen, die Inhalte massenhaft prüfen, nicht sichtbar. Diese Mitarbeiter*innen können Inhalte außerdem nicht an spezialisierte Teams weiterleiten und sind damit nicht an der Durchsetzung der Branded-Content-Richtlinien beteiligt.

Nach der dritten Entfernung des Beitragsmachte der*die Nutzer*in Meta darauf aufmerksam. Der Inhalt wurde daraufhin für eine zusätzliche Überprüfung an Richtlinien- oder Fachexpert*innen weitergeleitet. Anschließend wurde er wiederhergestellt und an das Gremium weitergeleitet. Die dritte Wiederherstellung fand etwa sechs Monate nach der ursprünglichen Veröffentlichung des Inhalts statt.

Der Status des*der Creator*in als „Managed Partner“ war ein Faktor bei der Eskalation des Falls. Zu „Managed Partners“ zählen Entitäten aus verschiedenen Branchen, darunter Einzelpersonen wie Prominente und Organisationen wie Unternehmen und wohltätige Organisationen. Diese Entitäten erhalten erweiterte Unterstützung von Meta, wobei das Ausmaß dieser Unterstützung variieren kann. Sie umfasst beispielsweise Schulungen zur Verwendung von Meta-Produkten und eine*n spezielle*n Partner Manager*in, der*die sie dabei unterstützt, „ihre Präsenz zu optimieren und den Wert zu maximieren, den sie durch Meta-Plattformen und -Dienste gewinnen, um sicherzustellen, dass bei diesen Beziehungen sowohl die Managed Partners als auch Meta ihre strategischen Ziele erreichen“.

Bei der Weiterleitung des Falls an Meta gab das Unternehmen an, der Fall sei bedeutend, da Freizeitdrogen in den USA breit diskutiert werden und ihr Konsum zunimmt, wobei die Grenzen zwischen medizinischer Therapie, Selbsthilfe und Freizeitkonsum verschwimmen. Laut Meta macht es dieser Umstand schwierig, zu bestimmen, ob dieser Inhalt für Medikamente wirbt (was auf Meta-Plattformen allgemein erlaubt ist) oder den Konsum von Drogen für nichtmedizinische Zwecke oder zum Erzielen eines Rausches beschreibt (was allgemein verboten ist).

Das Oversight Board verweist auf den folgenden Kontext, der zu seiner Entscheidung in diesem Fall beigetragen hat:

• Vom Gremium befragte Expert*innen haben erklärt, dass die Food and Drug Administration (FDA, Behörde für Lebens- und Arzneimittel) in den USA Ketamin nur als Narkosemittel zugelassen hat. Wie viele andere Drogen können Ärzt*innen und andere medizinische Fachleute die Substanz jedoch legal für verschiedene Off-Label-Anwendungen verabreichen, wobei nationale und bundesstaatliche Vorschriften bestimmte Einschränkungen vorgeben.
• Eine intranasal einzunehmende Form von Ketamin mit der Bezeichnung Esketamin (auch bekannt unter dem Markennamen „Spravato“) wurde von der FDA für die Behandlung von Depressionen zugelassen. Im Gegensatz zu Werbung für herkömmliches Ketamin wird Werbung für Spravato direkt von der FDA reglementiert und unterliegt somit verschiedenen Anforderungen. Beispielsweise erfordert die FDA, dass in Werbung für verschreibungspflichtige Medikamente wie Spravato alle Risiken der Verwendung des Medikaments aufgelistet werden. Auf der Spravato-Website ist unten ein Pop-Up-Fenster zu sehen, das nicht geschlossen werden kann. Es enthält eine Liste mit Warnungen, unter anderem Missbrauchswarnungen. Die FDA hat diese Anforderungen aufgrund ihrer Bedenken bezüglich der Werbung für Medikamente festgesetzt. Das Gremium stützt sich beim Umgang mit Beiträgen, die gleichbedeutend mit Werbung für Medikamente sind, ebenfalls auf diese Bedenken.
• In der medizinischen Fachwelt wird die Off-Label-Verwendung von Ketamin als vielversprechende Therapiemethode für Depressionen und andere affektive Störungen rege diskutiert. Es finden viele wissenschaftliche Untersuchungen statt, um das Potenzial von Ketamin als Medikament für affektive Störungen zu testen. Gleichzeitig hält die psychische Gesundheitskrise in den USA weiter an. Laut der Weltgesundheitsorganisation (WHO) sind Depressionen weltweit die häufigste Ursache für Erwerbsunfähigkeit. Das von der WHO herausgegebene Datenblatt über Suizid besagt, dass weltweit über 700.000 Menschen pro Jahr an Suizid sterben. Er ist die vierthäufigste Todesursache bei Menschen im Alter von 15 bis 29 Jahren; unbehandelte Depressionen sind ein großer Risikofaktor für Suizid.
• Die medizinische Fachwelt macht jedoch auch auf die Risiken aufmerksam, die der therapeutische Einsatz von Ketamin mit sich bringt. Eine Konsenserklärung, die 2017 im Journal of the American Medicine Association (JAMA) veröffentlicht wurde, betonte, dass Ketaminmissbrauch kognitive Störungen und Schädigungen des Harntrakts verursachen kann. Eine 2022 veröffentlichte Literaturstudie besagt, dass die Risiken des Ketaminmissbrauchs denen des Missbrauchs anderer gängiger Substanzen ähneln, die häufig verschrieben werden und von denen Missbrauchspotenzial ausgeht; Beispiele dafür sind Stimulanzien und Benzodiazepine. In der Studie wird jedoch auch angemerkt, dass dieser Umstand Ärzt*innen nicht davon abschrecken sollte, Ketamin zu verschreiben, wenn es angebracht ist; sie sollten damit jedoch ähnlich vorsichtig umgehen wie mit besagten anderen Substanzen. Laut einer 2023 veröffentlichten Expert*innenbewertung der Toxizität von Ketamin scheinen Überdosierungen relativ selten zu sein. In einer weiteren Studie sind in den USA keine Überdosierungen oder Todesfälle bekannt, die durch eine Behandlung von Depressionen mit Ketamin in einem therapeutischen Umfeld verursacht wurden.
• Vom Board befragte Expert*innen wiesen auf die Risiken durch den nichtmedizinischen Konsum von Ketamin hin. Die Expert*innen merkten an, dass Ketamin (von Freizeitkonsument*innen auch „Special K“ genannt) seit Jahrzehnten eine beliebte Partydroge in Nachtklubs und Bars ist. Sie erwähnten, dass der Missbrauch von Ketamin laut Berichten relativ wenig verbreitet ist, möglicherweise jedoch zunimmt. In einer im Mai 2023 veröffentlichten Studie der New York University wurde festgestellt, dass die Anzahl der Beschlagnahmungen von illegalem Ketamin durch die Drogenbehörde der USA von 2017 bis 2022 um 349 % zugenommen hatte, was auf eine Zunahme des nichtmedizinischen und Freizeitkonsums hindeuten könnte. Die Studie warnt außerdem, dass die Werbung für verschreibungspflichtiges Ketamin in den Medien und durch medizinisches Fachpersonal in den letzten Jahren den Umlauf und die Verfügbarkeit von Ketamin auf dem Schwarzmarkt gefördert hat.
• Seit einigen Jahren nimmt die Zahl der Ketaminkliniken stark zu. Ein*e Expert*in merkte gegenüber dem Gremium an, dass eine große Anzahl an Kliniken online und offline Ketamin als wirksames Medikament für diverse Erkrankungen bewerben, darunter Zwangsstörungen, Sucht und Essstörungen. Bei der großen Mehrheit der bisher durchgeführten Studien standen jedoch Patient*innen mit Depressionen im Mittelpunkt.
• Ein*e weitere*r Expert*in merkte an, dass einige Ketaminkliniken Telemedizin anbieten und während der COVID-19-Pandemie dazu autorisiert wurden. Diese Kliniken können ihren Patient*innen Ketamin per Post schicken. Angesichts der jüngsten Entwicklung der COVID-19-Pandemie ist es jedoch wahrscheinlich, dass diese Autorisierungen für Telemedizin bald erlöschen werden. 2023 hat die US-Drogenbehörde bisher mindestens einen Anbieter für Ketamintherapie stillgelegt, wahrscheinlich in Verbindung mit Versandhandel.
• Im Juli 2021 kündigte Meta eine Aktualisierung seiner Werberichtlinien in Bezug auf verschreibungspflichtige Medikamente an, um sie besser verständlich zu machen und die Durchsetzung zu verbessern. Meta sagte, dass in den neuen Richtlinien „streng unterschieden werde zwischen der Werbung für illegale Drogen und andere bedenkliche Substanzen und der eingeschränkten Werbung für verschreibungspflichtige Medikamente durch zugelassene Werbetreibende“. Zu diesem Zweck würde das Unternehmen neue, getrennte Richtlinien zur „Werbung für Online-Apotheken, verschreibungspflichtige Medikamente und unsichere Substanzen“ erstellen. Außerdem kündigte Meta eine neue Partnerschaft mit LegitScript als Anbieter für die Zertifizierung an, die unter den neuen Richtlinien für die Werbung für verschreibungspflichtige Medikamente im Rahmen von Telemedizin und Online-Apotheken erforderlich ist.
• Ein Artikel, der im März 2022 im Journal of Medical Internet Research veröffentlicht wurde, beschreibt die zunehmende Beliebtheit von „Patient*innen-Influencer*innen“. Dabei handelt es sich um Social-Media-Nutzer*innen mit treuen Anhänger*innen, die versuchen, eine emotionale Bindung mit diesen Anhänger*innen herzustellen, indem sie über gezielt ausgewählte Aspekte ihrer Erfahrung mit einer Krankheit sprechen. Diese Influencer*innen werden oft von Pharma- oder Medizinunternehmen bezahlt, was für Betrachter*innen dieser Inhalte nicht immer offensichtlich ist. Im Artikel wurde betont, dass beim Influencer*innen-Marketing ethische Probleme und das Potenzial für Fehlinformationen bedacht werden müssen. Eine im März 2023 veröffentlichte Studie, bei der Gespräche mit Patient*innen-Influencer*innen geführt wurden, betonte erneut die Dringlichkeit dieser möglichen ethischen Probleme.
• Aufsichtsbehörden werden außerdem zunehmend auf die Unterscheidung zwischen bezahlten und unbezahlten Inhalten aufmerksam. Die Handelskommission der USA, wo dieser Fall stattfand, hat kürzlich ihre Richtlinien für Social-Media-Influencer*innen angepasst und strengere Anforderungen für Influencer*innen verhängt, unter anderem hinsichtlich Offenlegungen. Solche Richtlinien unterstreichen die Ansicht, dass finanzielle Vergütungen den Charakter von Äußerungen maßgeblich ändern und dass Verbraucher*innen folglich das Recht haben sollten, zu wissen, ob diese Äußerungen im Rahmen einer „bezahlten Werbepartnerschaft“ getätigt wurden.

3. Befugnis und Wirkungsbereich des Oversight Boards

Das Gremium hat die Befugnis, Entscheidungen zu überprüfen, die Meta zur Überprüfung vorlegt (Satzung Artikel 2, Abschnitt 1; Artikel 2 der Geschäftsordnung, Abschnitt 2.1.1). Das Gremium überprüft die Inhalte und trifft Entscheidungen im Einklang mit den Inhaltsrichtlinien und Werten von Meta (Artikel 2 der Satzung). Die Geschäftsordnung definiert „Meta-Richtlinien“ als „Metas Inhaltsrichtlinien und Abläufe, die Inhalte auf der Plattform regeln (z. B. Gemeinschaftsstandards oder Gemeinschaftsrichtlinien)“. Das Gremium stellt fest, dass Metas Branded-Content-Richtlinien unter die Definition von „Meta-Richtlinien“ fallen.

Das Gremium kann die Entscheidung von Meta bestätigen oder aufheben (Artikel 3 der Satzung, Abschnitt 5), und seine Entscheidung ist für das Unternehmen verbindlich (Artikel 4 der Satzung). Meta muss außerdem die Umsetzbarkeit seiner Entscheidung in Bezug auf identische Inhalte mit parallelem Kontext auswerten (Artikel 4 der Satzung). Die Entscheidungen des Oversight Boards können unverbindliche Empfehlungen umfassen, auf die Meta antworten muss (Artikel 3 der Satzung, Abschnitt 4; Artikel 4). Wo Meta sich verpflichtet, auf Grundlage von Empfehlungen zu handeln, überwacht das Oversight Board die Umsetzung.

4. Quellen der Befugnis und Leitfäden

Das Gremium hat bei seiner Analyse dieses Falls folgende Standards und Präzedenzfälle berücksichtigt:

I. Entscheidungen des Oversight Boards

Zu den relevantesten bisherigen Entscheidungen des Oversight Boards gehören:

• Arzneimittelspenden Sri Lanka (Fallentscheidung 2022-014-FB-MR)
• Frage nach Adderall® (Fallentscheidung 2021-015-FB-UA)
• Pflanzensud Ayahuasca (Fallentscheidung 2021-013-IG-UA)

II. Die Inhaltsrichtlinien von Meta

Dieser Fall betrifft die Instagram-Gemeinschaftsrichtlinien und die Facebook-Gemeinschaftsstandards sowie Metas Branded-Content-Richtlinien. Im Bericht zur Durchsetzung der Gemeinschaftsstandards zum 1. Quartal 2023 erklärt Meta: „Facebook und Instagram haben gemeinsame Inhaltsrichtlinien. Das bedeutet, dass Inhalte, die auf Facebook einen Regelverstoß darstellen, dies auch auf Instagram tun.“

Die Instagram-Gemeinschaftsrichtlinien untersagen den „Kauf oder Verkauf nichtmedizinischer oder pharmazeutischer Drogen“. Weiterhin besagen sie: „Wir entfernen außerdem Inhalte, mit denen versucht wird, Handel mit nichtmedizinischen Drogen zu betreiben, einen solchen Handel zu koordinieren, nichtmedizinische Drogen zu spenden, zu verschenken oder anzufragen sowie Inhalte, in denen entweder der persönliche Gebrauch eingeräumt wird (außer im Kontext der Genesung) oder in denen der Gebrauch nichtmedizinischer Drogen koordiniert oder beworben wird.“ Die Richtlinien besagen weiterhin: „Achte darauf, dich immer an Recht und Gesetz zu halten, wenn du andere reglementierte Güter zum Verkauf oder Kauf anbietest.“ Die Richtlinien verweisen auf den Facebook-Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen.

Der Facebook-Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen verbietet „Versuche von Einzelpersonen, Herstellern und Händlern, bestimmte Waren und Dienstleistungen auf unserer Plattform zu kaufen, zu verkaufen, zu verlosen, zu verschenken, zu übertragen oder damit zu handeln“. Zu eingeschränkten Waren gehören dabei „Medikamente (Medikamente, die verschreibungspflichtig sind oder von einer medizinischen Fachkraft verabreicht werden müssen)“ und „[n]icht medizinisch eingesetzte Drogen (Drogen oder Substanzen, die nicht zu medizinischen Zwecken verwendet werden bzw. zur Erzielung eines Rausches verwendet werden)“. Meta entfernt Inhalte, die sich auf „[n]icht medizinisch eingesetzte Drogen“ beziehen, „in denen die eigene Verwendung von Drogen eingestanden wird, ohne die Genesung, Behandlung oder sonstige Hilfestellung zur Bekämpfung der Verwendung anzuerkennen oder auf sie hinzuweisen. Diese Inhalte dürfen sich nicht positiv zu Drogen äußern, deren Konsum unterstützen oder Anleitungen zur Herstellung und dem Konsum von Drogen koordinieren oder zur Verfügung stellen.“ Laut dem Grundgedanken dieses Gemeinschaftsstandards besteht dessen Ziel darin, „die Sicherheit zu fördern und potenziell schädliche Aktivitäten zu verhindern“.

Metas Branded-Content-Richtlinien verbieten „Verstöße gegen unsere Gemeinschaftsstandards oder die Gemeinschaftsrichtlinien“. Die Liste von „[u]nzulässige[m] Content“ enthält „Drogen und drogenähnliche Substanzen, einschließlich illegaler Drogen und Partydrogen“ sowie „[u]nsichere Produkte und Nahrungsergänzungsmittel“. Weiterhin ist bei Branded Content, der „Apotheken“ oder „[v]erschreibungspflichtige Medikamente“ bewirbt, erforderlich, dass „Geschäftspartner, die Branded Content bezahlen, [...] eine Genehmigung erhalten, um ihre Dienstleistungen zu bewerben“. Die entsprechende Anforderung in Bezug auf „Apotheken“ lautet: „Der Geschäftspartner muss mit LegitScript verifiziert sein und eine schriftliche Genehmigung von Facebook erhalten, um Apotheken bewerben zu dürfen.“ Die Anforderung in Bezug auf „[v]erschreibungspflichtige Medikamente“ besagt: „Der Geschäftspartner muss bei Facebook die Erlaubnis beantragen, verschreibungspflichtige Medikamente bewerben zu dürfen.“ Nur „Onlineapotheken, Telemedizin-Anbieter und Pharmahersteller“ dürfen diese Erlaubnis bei Facebook beantragen. Weiterhin dürfen Branded-Content-Beiträge, die verschreibungspflichtige Medikamente bewerben, „nur in den USA, Neuseeland oder Kanada und nur an Personen über 18 Jahren ausgeliefert werden. Außerhalb dieser Standorte ist das Bewerben von verschreibungspflichtigen Medikamenten untersagt.“ Hierbei wird darauf hingewiesen, dass die Branded-Content-Richtlinien für Inhalte gelten, dessen Urheber*innen von einem externen „Geschäftspartner“ eine Gegenleistung „in Form einer Zahlung oder auch kostenloser Geschenke“ erhält. Im Gegensatz dazu stehen die Meta-Werbestandards, die für Inhalte gelten, die Meta Nutzer*innen zeigt und dafür von Werbetreibenden Zahlungen erhält.

Die Analyse der Inhaltsrichtlinien durch das Gremium gründete auf Metas Verpflichtung zu freier Meinungsäußerung, die das Unternehmen als „höchste Priorität“ beschreibt, sowie seinen Werten „Sicherheit“ und „Würde“.

III. Menschenrechtliche Verantwortung von Meta

Die UN-Leitprinzipien für Wirtschaft und Menschenrechte (United Nations Guiding Principles on Business and Human Rights, UNGPs), die 2011 vom UN-Menschenrechtsrat verabschiedet wurden, geben einen freiwilligen Rahmen für die menschenrechtliche Verantwortung von Privatunternehmen vor. Im Jahr 2021 veröffentlichte Meta seine Unternehmensrichtlinie zu Menschenrechten, in der das Unternehmen seine Verpflichtung zur Achtung der Menschenrechte gemäß den UN-Leitprinzipien bekräftigte. Das Oversight Board hat bei seiner Analyse der menschenrechtlichen Verantwortung von Meta im vorliegenden Fall folgende internationale Standards berücksichtigt:

• Das Recht auf Meinungsfreiheit und freie Meinungsäußerung: Artikel 19, Internationaler Pakt über bürgerliche und politische Rechte (ICCPR), Allgemeine Bemerkung Nr. 34, Menschenrechtsausschuss, 2011; Artikel 21, Übereinkommen über die Rechte von Menschen mit Behinderungen (CRPD).
• Das Recht auf Gesundheit: Artikel 12, Internationaler Pakt über wirtschaftliche, soziale und kulturelle Rechte (ICESCR); Allgemeine Bemerkung Nr. 14 des Ausschusses für wirtschaftliche, soziale und kulturelle Rechte (2000).

5. Einreichungen der Nutzer

Der Verfasser des Beitrags wurde über die Überprüfung durch das Oversight Board informiert und erhielt die Möglichkeit, eine Stellungnahme für das Gremium einzureichen. Der Nutzer reichte keine Stellungnahme ein.

6. Einreichungen von Meta

Bei der Weiterleitung des Falls an das Gremium gab Meta an, dass mit der zunehmenden Verwendung bewusstseinsverändernder Substanzen unter medizinischer Aufsicht seine Richtlinien möglicherweise weniger haltbar werden können, da immer mehr Menschen auf den Meta-Plattformen über ihre Erfahrungen mit legalen Medikamenten sprechen möchten. Meta bat das Gremium um Hilfe, „in diesem Bereich den richtigen Weg zu finden“, da das Unternehmen in Zukunft mehr Fälle zu ähnlichen Themen erwarte.

Meta erklärte, dass in seinem Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen ein Konflikt zwischen den Definitionen von „nicht medizinisch eingesetzten Drogen“ und „Medikamenten“ bestehe, wenn eine Substanz auf legale Weise von medizinischem Fachpersonal zur Behandlung psychischer Krankheiten verabreicht wird, dabei aber eine Veränderung des Bewusstseinszustands ein Ziel sein kann. Die internen Richtlinien zur Anwendung des Gemeinschaftsstandards zu eingeschränkten Waren und Dienstleistungen enthalten eine Erlaubnis für Inhalte, in denen der Konsum von Medikamenten eingestanden oder befürwortet wird und dieser Konsum unter ärztlicher Aufsicht erfolgt. Laut Meta hat der*die Nutzer*in in diesem Fall über eine Erfahrung „mit einer sicheren, legalen, medizinischen Behandlung von Depressionen und Angststörungen“ berichtet. Laut Meta deuten drei Elemente des Beitrags darauf hin, dass die Substanz verwendet wurde, um einen Rausch oder eine Veränderung des Bewusstseinszustands herbeizuführen: 1) die Beschreibung der Behandlung mit Ketamin als „magical entry into another dimension“ (eine magische Reise in eine andere Dimension); 2) die Beschreibung eines Gefühls „of both being pulled out of myself while being brought closer to my inner essential core“ (eines Gefühls, aus meinem Ich herausgezogen zu werden, aber gleichzeitig meinem wahren inneren Kern näherzukommen) und 3) die Beschreibung der Behandlung als „good trip“ (guter Drogentrip).

Meta ist der Ansicht, die von dem*der Nutzer*in beschriebene Erfahrung sei beispielhaft für den oben erwähnten Konflikt zwischen den Definitionen von „nicht medizinisch eingesetzten Drogen“ und „Medikamenten“. Meta betonte die Bedeutung von Inhalten, in denen neue Behandlungen besprochen werden, angesichts der zunehmenden weltweiten Verbreitung von Depressionen und Angststörungen, insbesondere im Zuge der COVID-19-Pandemie. Außerdem verwies Meta auf die schnellen Fortschritte der Wissenschaft und der Gesetzgebung in Hinblick auf die Verwendung von Halluzinogenen, einschließlich Ketamin, zur Behandlung von Depressionen. Laut einer 2022 veröffentlichten Studie, die Meta zitierte, sind in den USA keine Überdosierungen oder Todesfälle bekannt, die durch die Verwendung von Ketamin als Antidepressivum in einem therapeutischen Umfeld verursacht wurden. Nach Ansicht von Meta ist der betreffende Inhalt eindeutig der Kategorie von Inhalten zuzuordnen, die gemäß den Richtlinien zulässig sein sollten. Das Unternehmen erkennt jedoch an, dass die Befürwortung der legalen Verwendung von Ketamin einige Menschen dazu verleiten könnte, die Substanz illegal zu konsumieren.

Meta entschied, dass der Bericht des*der Nutzer*in über eine Erfahrung mit „medizinisch verabreichtem Ketamin“ keine Bedrohung für die Sicherheit des*der Nutzer*in oder anderer Personen darstellt. Aus diesem Grund entschied Meta, dass der Beitrag nicht gegen den Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen verstößt. Meta erkannte an, dass seine Entscheidung in Konflikt mit dem Teil des Standards stand, der Inhalte allgemein verbietet, die den Konsum sowohl von Medikamenten als auch von nicht medizinisch eingesetzten Drogen zum Erzielen eines Rausches oder veränderten Bewusstseinszustands bewerben. Dennoch war Meta der Ansicht, seine Entscheidung entspreche dem Zweck des Standards. Meta erklärte weiterhin, die Erwähnung oder Bewerbung von Ketamin als ärztlich verabreichtes Medikament sei zulässig, da sie der allgemeinen Richtlinie des Unternehmens entspreche, Diskussionen über medizinische Behandlungen zu fördern. Laut Meta handelt es sich bei der Entscheidung, den Inhalt auf Instagram bestehen zu lassen, nicht um eine Ausnahme, Aufhebung oder Widerspruch zur Richtlinie. Weiterhin gibt das Unternehmen an, es erwarte, dass alle Prüfer*innen zum selben Schluss kommen würden, ob bei der massenhaften Prüfung von Inhalten oder im Rahmen einer Eskalation.

Das Oversight Board stellte Meta zu diesem Fall 22 schriftliche Fragen. Die Fragen bezogen sich auf den Status „Managed Partner“, die Möglichkeiten, gegen Moderationsentscheidungen Einspruch zu erheben, die Art der Zusammenarbeit zwischen dem*der Nutzer*in und der Ketaminklinik, die Rolle automatisierter Systeme bei der Durchsetzung relevanter Inhaltsrichtlinien, Metas Bewertung des Inhalts und des Kontexts im Hinblick auf relevante Inhaltsrichtlinien, die Ausnahmeregelung in Bezug auf „Sinn und Zweck der Richtlinie“ und Metas Branded-Content-Richtlinien. Meta beantwortete alle Fragen.

7. Öffentliche Kommentare

Das Oversight Board hat zu diesem Fall fünf öffentliche Kommentare erhalten. Alle Kommentare stammen aus den USA und Kanada. Drei Kommentare bezogen sich auf den medizinischen Nutzen einer Ketamintherapie und die Bedeutung davon, dass Diskussionen darüber auf Meta-Plattformen zulässig sind. Zwei Kommentare wiesen auf die Gefahren des Konsums von Ketamin als Freizeitdroge hin.

Das Gremium erhielt einen Kommentar von der National Association of Boards of Pharmacy (NABP), einer gemeinnützigen Organisation mit Sitz in den USA, deren Mitglieder Arzneimittelkommissionen aus den 50 US-Bundesstaaten umfassen sowie Regulierungsbehörden für Arzneimittel im District of Columbia, in Guam, auf den US-Jungferninseln, auf den Bahamas und in 10 kanadischen Provinzen. Die Organisation betonte, sie habe mit einer oberflächlichen Suche unter einer Minute mehrere Beiträge gefunden, in denen auf Ketamin als Freizeitdroge Bezug genommen wird. Zum Fall „Frage nach Adderall“ hatte die NABP bereits ähnlich argumentiert, wie wichtig es sei, gegen eindeutige Verstöße gegen den Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen vorzugehen (PC-11235). Zu diesem älteren Fall hatte die Organisation auf Fälle hingewiesen, bei denen Inhalte, in denen versucht wurde, Adderall und Xanax zu verkaufen, nicht von Facebook entfernt wurden. Im vorliegenden Fall drängte die Organisation Meta, Maßnahmen gegen eindeutige Verstöße zu priorisieren, anstatt Ressourcen für unklare Fälle wie diesen Fall aufzuwenden.

Außerdem erhielt das Gremium einen Kommentar von Mindbloom, einem Anbieter für Ketamintherapie, über das Ausmaß der psychischen Gesundheitskrise in den USA (PC-11234). Mindbloom wies darin auf wissenschaftliche Studien hin, die die mangelnde Wirksamkeit gängiger Behandlungsmethoden für Depressionen untersuchen. Außerdem merkte Mindbloom an, es sei äußerst wichtig, Informationen über neue Behandlungsmethoden wie Ketamin teilen zu können, da trotz einer erheblichen Zahl veröffentlichter Studien viele Menschen nicht wissen, dass eine Ketamintherapie möglich ist.

Die öffentlichen Kommentare, die zu diesem Fall eingereicht wurden, können hier eingesehen werden.

8. Analyse des Oversight Boards

Das Gremium hat diesen von Meta weitergeleiteten Fall ausgewählt, weil er eine Gelegenheit darstellt, Metas Richtlinie zu eingeschränkten Waren und Dienstleistungen im Kontext der Legalisierung und Normalisierung bestimmter Substanzen, insbesondere zu medizinischen Zwecken, zu prüfen und Klärungen anzustreben. Nach einer weiteren Prüfung stellte das Gremium fest, dass der Fall außerdem wichtige Fragen in Bezug auf „bezahlte Werbepartnerschaften“ aufwirft, bei denen Medikamente beworben werden.

Um festzustellen, ob dieser Inhalt entfernt werden sollte, analysierte das Gremium Metas Inhaltsrichtlinien, zu denen die Branded-Content-Richtlinien, die Instagram-Gemeinschaftsrichtlinien und die Facebook-Gemeinschaftsstandards zählen, sowie Metas erklärte Werte und menschenrechtliche Verantwortung.

8.1 Einhaltung der Content-Richtlinien von Meta

I. Inhaltsregeln

Das Gremium stellt fest, dass der Inhalt gegen Metas Branded-Content-Richtlinien verstößt. Diese Richtlinien gelten für Inhalte, die im Rahmen einer „bezahlten Werbepartnerschaft“ veröffentlicht werden.

Auch ungeachtet der bezahlten Werbepartnerschaft verstößt der Beitrag nach Feststellung des Boards gegen den Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen.

Branded-Content-Richtlinien

Da der betreffende Inhalt im Rahmen einer bezahlten Werbepartnerschaft veröffentlicht wurde, hätten die Branded-Content-Richtlinien angewandt werden sollen. Das Gremium findet es bedenklich, dass Meta diesen Aspekt des Falles nicht erwähnt hat, als es ihn an das Gremium weiterleitete. Stattdessen erhielt das Gremium erst dann Informationen über den vollen Umfang des Falls, als Meta nach mehreren Fragen Details über die bezahlte Werbepartnerschaft offenlegte. Das Gremium bedankt sich bei Meta für die Informationen und begrüßt die Gelegenheit, auf Managed Partners einzugehen, die auf Instagram gegen Bezahlung medizinische Behandlungen bewerben. Wie oben in Abschnitt 2 erwähnt, hat die besondere Problematik bezahlter Werbung für Arzneimittel in medizinischen sowie juristischen Fachkreisen Aufmerksamkeit erregt. Das Gremium äußert Interesse an weiteren Fällen zu diesen Themen und bittet Meta, alle relevanten Informationen über Fälle zu teilen, die dem Gremium vorgelegt worden sind, einschließlich Informationen zu Branded-Content-Richtlinien und/oder Geschäftspartnern, soweit relevant.

Laut Metas Branded-Content-Richtlinien sind „[m]anche Waren, Dienstleistungen und Marken [...] nicht für das Bewerben durch Branded Content zugelassen“. Als verbotene Waren werden unter anderem „Drogen und drogenähnliche Substanzen, einschließlich illegaler Drogen und Partydrogen“ aufgelistet. Der fragliche Inhalt in diesem Fall bewarb eindeutig den Konsum von Ketamin. Obwohl die Erfahrung und die Behandlung, die der*die Nutzer*in beschreibt, offenbar in den USA legal sind, ist es gemäß Metas Richtlinien eindeutig verboten, solche Inhalte auf Instagram im Rahmen einer bezahlten Werbepartnerschaft zu bewerben. Im Kontext der Branded-Content-Richtlinien ist irrelevant, ob Ketamin als Medizin oder nichtmedizinische Droge eingestuft wird. Meta hätte also diesen Inhalt entfernen sollen, ohne sich in diesem Fall mit den Konflikten im Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen auseinandersetzen zu müssen.

Laut den Branded-Content-Richtlinien ist es bei einigen Inhaltskategorien erforderlich, dass der Geschäftspartner, der den Branded Content bezahlt, von Meta eine „Genehmigung“ dafür erhält. Zu diesen Kategorien zählen unter anderem „Apotheken“ und „[v]erschreibungspflichtige Medikamente“. Diese Regelung gilt nur in bestimmten Rechtsordnungen, einschließlich der USA, und nur Online-Apotheken, Telemedizinanbieter und Pharmahersteller dürfen eine solche Genehmigung beantragen. In diesem Fall hat Meta bestätigt, dass der Geschäftspartner, der den Branded Content bezahlt hatte, nicht über diese Genehmigung verfügte. Der Beitrag verstößt also gegen die Richtlinien, da keine Genehmigung vorlag, die gemäß den Branded-Content-Richtlinien nötig ist, um „Apotheken“ und „[v]erschreibungspflichtige Medikamente“ bewerben zu dürfen.

Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen

Wie Meta anerkennt, besteht ein Konflikt innerhalb des Meta-Gemeinschaftsstandards zu eingeschränkten Waren und Dienstleistungen. Einerseits gestattet der Gemeinschaftsstandard Werbung für Medikamente. Andererseits ist Werbung für Drogen verboten, mit denen ein Rausch oder eine Veränderung des Bewusstseinszustands hervorgerufen wird. Im Falle von Medikamenten, die einen Rausch verursachen, widersprechen sich diese Regeln. In diesem Fall (abgesehen von der Tatsache, dass der Inhalt im Rahmen einer bezahlten Werbepartnerschaft erstellt wurde) hat Meta erklärt, sein Wert „Mitsprache“ sowie die geringe Wahrscheinlichkeit eines Schadens sprächen dafür, den Beitrag als zulässige Diskussion über Medikamente zu behandeln.

Das Gremium stellt fest, dass die beste Lösung für diesen Konflikt darin bestünde, einen Bezug auf „ärztliche Aufsicht“ in die Regeln aufzunehmen, wie ihn die internen Richtlinien für Inhaltsprüfer*innen bereits enthalten. In dem Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen werden Medikamente beschrieben als „Medikamente, die verschreibungspflichtig sind oder von einer medizinischen Fachkraft verabreicht werden müssen“. „Nicht medizinisch eingesetzte Drogen“ werden definiert als „Drogen oder Substanzen, die nicht zu medizinischen Zwecken verwendet werden bzw. zur Erzielung eines Rausches verwendet werden“. Laut diesen Definitionen besteht das Unterscheidungsmerkmal also in der Aufsicht einer medizinischen Fachkraft, die die Substanz vor Ort verabreicht oder verschreibt. Die Verwendung von „bzw.“ in der Definition von „[n]icht medizinisch eingesetzte[n] Drogen“ bedeutet, dass jede Substanz, die zum Erzielen eines Rausches verwendet werden kann, unter „[n]icht medizinisch eingesetzte Drogen“ fällt, selbst wenn es sich dabei auch um ein Medikament handelt. Das Gremium stellt jedoch fest, dass die Absicht darin bestand, die beiden Kategorien zu trennen, und dass die Aufsicht durch medizinisches Fachpersonal das Unterscheidungsmerkmal ist. Die logische Schlussfolgerung ist also, dass Substanzen, die einen Rausch herbeiführen können, dennoch als „Medikamente“ einzustufen sind, wenn die Verwendung unter Aufsicht einer medizinischen Fachkraft stattfindet.

Meta sollte den Konflikt im Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen beheben, indem es den Text entsprechend dieser Entscheidung anpasst. Der Standard sollte ausdrücklich unbezahlte Inhalte zulassen, in der die Verwendung von Substanzen, die einen Rausch herbeiführen, eingestanden wird, sofern die Substanz unter ärztlicher Aufsicht verabreicht wurde. Der Standard sollte erklären, dass diese ärztliche Aufsicht beispielsweise durch direkte Erwähnung einer ärztlichen Diagnose, einen Bezug auf die Lizenz des Therapieanbieters oder auf medizinisches Fachpersonal demonstriert werden kann.

Das Gremium ist der Meinung, dass der Inhalt entsprechend diesem neuen Standard entfernt werden sollte. Dies stünde in Einklang mit Metas internen Richtlinien für Inhaltsprüfer*innen. Laut diesen Richtlinien sind nur Inhalte erlaubt, in denen Nutzer*innen den Gebrauch von Medikamenten unter ärztlicher Aufsicht eingestehen oder befürworten; Substanzen, die einen Rausch oder eine Veränderung des Bewusstseinszustands hervorrufen, sind als nicht medizinische Drogen zu behandeln. In seiner Einreichung an das Gremium behauptete Meta, der*die Nutzer*in habe eine Erfahrung mit „medizinisch verabreichtem Ketamin“ beschrieben. Das Gremium widerspricht dieser Bewertung jedoch, da der Beitrag nicht genügend Anzeichen dafür enthält, dass der Konsum von Ketamin in diesem Fall tatsächlich unter ärztlicher Aufsicht erfolgt ist, d. h. dass die Substanz von einer medizinischen Fachkraft verabreicht wurde. Speziell gibt es im eigentlichen Beitrag nicht genügend Anzeichen dafür, dass bei dem*der Nutzer*in Depressionen diagnostiziert wurden, dass es sich bei der Niederlassung um eine lizenzierte Klinik für die Behandlung von Depressionen mit Ketamin handelte oder dass die Behandlung von medizinischem Fachpersonal durchgeführt wurde (der Beitrag enthielt keine direkten Bezüge auf „Ärzt*innen“, „Pfleger*innen“ oder „Psychiater*innen“, sondern nur auf „staff“ (Mitarbeiter*innen)). Das Gremium hält es für wichtig, dass Meta für seine Inhaltsprüfer*innen, die den Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen durchsetzen, diese zusätzlichen Richtlinien festlegt.

II. Durchsetzung

Am 15. Januar 2023 wurde der Inhalt nach einer dritten Meldung von einem automatischen Tool geprüft und als Verstoß gegen den Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen bewertet. Laut Meta erfolgte diese Bewertung auf Basis vorheriger Durchsetzungsmaßnahmen zu diesem Inhalt. Meta gab an, dass dieses automatisierte System zur Klassifizierung von Inhalten als „Eingeschränkte und reglementierte Güter“ dient. Maschinelle Lernsysteme zur Klassifizierung von Inhalten sind dafür ausgelegt, Verstöße gegen Metas Gemeinschaftsstandards zu ermitteln.

Meta erklärte dem Gremium, die Systeme zur Klassifizierung als „Eingeschränkte und reglementierte Güter“ werden alle sechs Monate mithilfe aktueller Datensätze neu geschult, wobei die Ergebnisse von Einsprüchen in Betracht gezogen werden. In diesem Fall waren die Ergebnisse der Einsprüche, laut denen der Fall nicht als Verstoß galt, noch nicht eingespeist worden. Laut Meta wurden aus diesem Grund bei der automatisierten Entscheidung, den Inhalt zu entfernen, nur die früheren Entscheidungen zur Entfernung des Inhalts berücksichtigt, nicht aber die erfolgreichen Einsprüche.

Das Gremium äußert Bedenken hinsichtlich der sechsmonatigen Verzögerung und fordert Meta auf, sicherzustellen, dass bei seinen automatisierten Abläufen erfolgreiche Einsprüche so schnell wie möglich berücksichtigt werden, ohne die Integrität der Datensätze zu beeinträchtigen. Obwohl die Entscheidung des automatisierten Systems der Analyse des Gemeinschaftsstandards zu eingeschränkten Waren und Dienstleistungen durch das Gremium entsprach, ist diese Entscheidung nicht in Einklang mit Metas damaliger Auslegung der Richtlinie erfolgt.

Auf die Fragen des Gremiums hin, inwieweit die Branded-Content-Richtlinien anwendbar seien, erkannte Meta an, dass nicht alle Inhalte mit dem Hinweis „Bezahlte Werbepartnerschaft“ auf diese Richtlinien hin geprüft werden. Außerdem sei dieser Hinweis für Moderator*innen, die Inhalte massenhaft prüfen, nicht sichtbar, und diese Moderator*innen seien nicht in der Lage, Inhalte an das spezialisierte Team weiterzuleiten, das für die Durchsetzung der Branded-Content-Richtlinien zuständig ist. Meta erklärte, dass Inhalte mit dem Hinweis „Bezahlte Werbepartnerschaft“, die nicht vom Markenpartner geprüft und genehmigt wurden, nicht auf die Branded-Content-Richtlinien hin geprüft werden. Das Gremium fordert Meta auf, seine Inhaltprüfer*innen und automatisierten Moderationssysteme in die Lage zu versetzen, Inhalte auf alle relevanten Richtlinien hin zu prüfen, einschließlich ggf. der Branded-Content-Richtlinien.

In diesem Fall wurden die Branded-Content-Richtlinien bei einem bezahlten Beitrag, der für Ketamin warb, nicht korrekt durchgesetzt. Allgemeiner betrachtet ist dieser Fall jedoch nach Ansicht des Gremiums ein Beispiel dafür, dass Meta seine Drogenrichtlinien nicht ausreichend durchsetzt. Bei einer kürzlichen Untersuchung des Wall Street Journal von Werbeanzeigen, die Ende 2022 über einen vierwöchigen Zeitraum sichtbar waren, wurde festgestellt, dass „über 2.100 Werbeanzeigen auf Facebook und Instagram Vorteile verschreibungspflichtiger Medikamente nannten, ohne auf Risiken hinzuweisen, für nicht genehmigte Anwendungen von Medikamenten warben oder Aussagen vorgeblicher Kund*innen enthielten, ohne eine Offenlegung, ob es sich dabei um Schauspieler*innen oder Mitarbeiter*innen des Unternehmens handelte“. Weiterhin merkt die National Association of Boards of Pharmacy (NABP, Nationale Gesellschaft der Apothekenverbände) in ihrem Kommentar an das Gremium an, dass auf den Meta-Plattformen häufig Inhalte zu finden sind, die eindeutig gegen den Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen verstoßen. In diesem Fall wies die NABP darauf hin, dass Ketamin, das eindeutig für den Freizeitkonsum vorgesehen ist, weiterhin allgemein auf Instagram zum Verkauf angeboten wird. Die NABP hat bereits in der Vergangenheit Bedenken über dieses Problem geäußert. Im Fall „Frage nach Adderall“ 2021 hatte die Organisation auf Inhalte hingewiesen, in denen versucht wurde, Adderall und Xanax zu verkaufen, die aber nicht von Facebook entfernt wurden. Schließlich hat die Drogenbehörde der USA kürzlich bekanntgegeben, dass Drogenkartelle soziale Plattformen zum Verkauf ihrer Waren nutzen. Hier zeigt sich erneut, dass Meta die Durchsetzung seiner Richtlinien in Bezug auf den Verkauf oder die Werbung für Drogen genau prüfen sollte.

III. Transparenz

Um zu ermitteln, ob es sich beim fraglichen Beitrag um Branded Content handelte, stellte das Gremium mehrere Fragen an Meta und stellte fest, dass der Beitrag im Rahmen einer „bezahlten Werbepartnerschaft“ gepostet worden war. Meta erklärte, dass der Hinweis „Bezahlte Werbepartnerschaft“ bedeutet, dass es sich beim Beitrag um Branded Content hält, den der Geschäftspartner entweder mit einer Geldzahlung an den*die Creator*in oder einem anderen Gegenwert vergütet hat. Wenn Creator*innen Branded Content posten, müssen sie den entsprechenden Marken- oder Geschäftspartner markieren. Dies gilt unabhängig davon, ob sie über ein Creator*innen-, Geschäfts- oder persönliches Konto posten.

Nach weiteren Fragen erklärte Meta jedoch, dass der Hinweis „Bezahlte Werbepartnerschaft“ nicht unbedingt bedeutet, dass der markierte Geschäftspartner diesen Hinweis genehmigt hat, da Geschäftspartner bestimmten Creator*innen kontoweite Berechtigungen geben können, sie in Branded Content zu markieren (sodass die Markierung nicht für jeden Beitrag einzeln genehmigt werden muss). Dies kann bei Nutzer*innen zu Verwirrung führen. Meta verwies das Gremium an einen Artikel im Meta-Hilfebereich für Unternehmen zu diesem Thema. Um von den Instagram-Richtlinien zu diesem Artikel zu gelangen, sind jedoch mehrere Schritte nötig, und die Erklärung zur Verwendung des Hinweises „Bezahlte Werbepartnerschaft“ im Instagram-Hilfebereich impliziert, dass diese Hinweise in allen Fällen genehmigt wurden. Das Gremium empfiehlt Meta, die Bedeutung des Hinweises „Bezahlte Werbepartnerschaft“ an verschiedenen Stellen klarzustellen: im Transparency Center, den Artikeln im Hilfebereich und an anderen Orten, wo die Meta-Richtlinien in klarer, leicht verständlicher Sprache öffentlich erklärt werden.

8.2Erfüllung der menschenrechtlichen Verantwortung von Meta

Meta hat strenge Einschränkungen für Branded Content verhängt, der Drogen bewirbt, und für Inhalte, mit denen Personen versuchen, nichtmedizinische Drogen zu kaufen, zu verkaufen, damit zu handeln, den Handel damit zu organisieren, zu spenden, zu verschenken oder anzufragen. Das Gremium stellt fest, dass diese Einschränkungen mit der menschenrechtlichen Verantwortung des Unternehmens gemäß den UN-Leitprinzipien, „zu vermeiden, Beeinträchtigungen der Menschenrechte anderer zu verursachen oder dazu beizutragen“ und „negative Auswirkungen auf die Menschenrechte zu ver­hüten oder zu mindern“ (Leitprinzip 13) in Einklang stehen. Dies ist besonders relevant angesichts der Risiken für das Recht auf Gesundheit und das Recht auf Informationen zu gesundheitsbezogenen Themen, die von Beiträgen wie dem vorliegenden ausgehen. In der folgenden Analyse bewertet das Gremium diese Einschränkung angesichts Metas Verantwortung, die Meinungsfreiheit zu schützen (ICCPR, Artikel 19).

Meinungsfreiheit (Artikel 19 ICCPR)

Artikel 19, Absatz 2 der ICCPR sieht einen umfassenden Schutz der freien Meinungsäußerung vor. Dieses Recht umfasst „die Freiheit, Informationen und Meinungen jeglicher Art einzuholen, zu erhalten und zu vermitteln.“ In der allgemeinen Bemerkung Nr. 34 führt der Menschenrechtsausschuss bestimmte von Artikel 19 abgedeckte Äußerungsformen auf und merkt an, dass das Recht auf freie Meinungsäußerung „auch kommerzielle Werbung einbeziehen kann“ (Abs. 11, Hervorhebung hinzugefügt). Das Gremium stellt fest, dass der Beitrag mit Werbung gleichbedeutend ist, da es sich um einen bezahlten Beitrag handelt, und dass Meta Respekt für bezahlte Inhalte (einschließlich Werbung und Branded Content) als Teil seiner menschenrechtlichen Verantwortung betrachten sollte.

Artikel 21 des CRPD schützt das Recht auf freie Meinungsäußerung für Personen mit Behinderungen. Diese umfassen laut Artikel 1 Personen, die „langfristige körperliche, psychische, geistige oder sensorische Beeinträchtigungen haben, die im Zusammenspiel mit verschiedenen Barrieren ihre vollständige, effektive und gleichberechtigte Teilhabe an der Gesellschaft behindern können“. Das CRPD gewährleistet, dass sie diese Freiheit „gleichberechtigt und über alle Formen der Kommunikation ihrer Wahl“ (Artikel 21, CRPD) ausüben können. Der UN-Ausschuss für wirtschaftliche, soziale und kulturelle Rechte betont, dass der „Zugriff auf gesundheitsbezogene(s) Wissen und Informationen“ ein zentraler Bestandteil des in Artikel 12 des ICESCR (Allgemeine Bemerkung Nr. 14, Abs. 11) verankerten Rechts auf Gesundheit sei. Angesichts der zunehmenden weltweiten Verbreitung von Depressionen und anderen psychischen Erkrankungen ist dieses Recht besonders wichtig. Wie das Gremium in vorherigen Entscheidungen angemerkt hat, müssen Social-Media-Unternehmen das Recht auf freie Meinungsäußerung in Bezug auf Medikamente und nichtmedizinische Drogen achten (siehe Fälle „Arzneimittelspenden Sri Lanka“, „Frage nach Adderall®“, „Pflanzensud Ayahuasca“).

In Fällen, in denen Regierungen das Recht auf freie Meinungsäußerung einschränken, müssen die Anforderungen der Gesetzmäßigkeit, des rechtmäßigen Ziels und der Notwendigkeit und Verhältnismäßigkeit erfüllt werden (Artikel 19 Absatz 3, ICCPR). Diese Anforderungen werden häufig als „dreiteilige Prüfung“ bezeichnet und gelten ebenfalls für Einschränkungen für kommerzielle Äußerungen und Werbung. Das Gremium nutzt diesen Ansatz, um Metas freiwillige Verpflichtung zu den Menschenrechten zu bewerten, sowohl in Bezug auf die jeweilige Inhaltsentscheidung als auch auf die grundsätzliche Herangehensweise von Meta an Content-Governance. Der UN-Sonderberichterstatter zur Meinungsfreiheit hat festgestellt, dass Unternehmen, obgleich sie „nicht dieselben Verpflichtungen wie Regierungen haben, [...] dennoch eine derartige Wirkung haben, dass sie dieselben Arten von Fragen im Zusammenhang mit dem Schutz des Rechts auf Meinungsfreiheit ihrer Nutzer prüfen müssen“ (A/74/486, Abs. 41).

I. Gesetzmäßigkeit (Klarheit und Zugänglichkeit der Regeln)

Das Prinzip der Gesetzmäßigkeit der internationalen Menschenrechtsgesetze erfordert, dass Regeln, die die freie Meinungsäußerung einschränken, klar verständlich und öffentlich einsehbar sein müssen (Allgemeine Bemerkung Nr. 34, Absatz 25). Regeln zur Einschränkung der freien Meinungsäußerung dürfen „den mit [ihrer] Durchführung Beauftragten keine uneingeschränkte Freiheit zur willkürlichen Einschränkung der freien Meinungsäußerung ermöglichen“ und müssen „den mit ihrer Durchführung Beauftragten ausreichend Anleitung dafür bieten, dass sie herausfinden können, welche Arten der freien Meinungsäußerung ordnungsgemäß eingeschränkt werden und welche nicht“ (ebd.). Hinsichtlich der Regeln für Online-Sprache erklärte der UN-Sonderberichterstatter für Meinungsfreiheit, dass diese klar und spezifisch sein sollten (A/HRC/38/35, Absatz 46). Personen, die die Meta-Plattformen verwenden, sollten die Regeln einsehen und verstehen können. Inhaltsprüfer*innen sollten über klare Anweisungen zu ihrer Durchsetzung verfügen.

Branded-Content-Richtlinien

Das Gremium stellt fest, dass Metas Branded-Content-Richtlinien für Nutzer*innen, die an „bezahlten Werbepartnerschaften“ teilnehmen möchten, ausreichend klar verständlich und zugänglich sind. Diese Nutzer*innen können somit verstehen, unter welchen Bedingungen solche Partnerschaften zulässig sind. Es ist für das Gremium offensichtlich, dass ein Verbot von Branded Content, der „Drogen und drogenähnliche Substanzen“ verbietet, auch für Dienste gilt, die Drogen verabreichen. Angesichts der Verbreitung von Ketaminbehandlungen für Depressionen könnte Meta Klarheit schaffen, indem es angibt, dass Inhalte, die drogenbasierte Behandlungen und Therapien bewerben, nicht im Rahmen von „bezahlten Werbepartnerschaften“ gepostet werden können.

Die Richtlinie macht außerdem deutlich, dass der „Geschäftspartner [...] die Erlaubnis beantragen“ muss, um verschreibungspflichtige Medikamente und Apotheken mit Branded Content bewerben zu lassen. Die Regeln sind eng gefasst und klar verständlich. Die Beziehung zwischen der allgemeinen Regel und dieser augenscheinlichen Ausnahme sollte jedoch besser erklärt werden. Das Gremium merkt an, dass zwei Versionen der Branded-Content-Richtlinien online verfügbar sind: eine im „Meta-Hilfebereich für Unternehmen“, die offenbar für Facebook und Instagram gilt und in den Inhaltsrichtlinien im Transparency Center verlinkt wird, sowie eine zweite im Instagram-Hilfebereich, die offenbar nur für Instagram gilt. Diese Regeln scheinen zwar einheitlich zu sein, aber es würde Klarheit schaffen, diese doppelte Version zu entfernen.

Das Gremium findet es äußerst bedenklich, dass Mitarbeiter*innen, die Inhalte massenhaft prüfen, bei der Prüfung von Inhalten aus „bezahlten Werbepartnerschaften“ diesen Status nicht sehen können. Diese Prüfer*innen können deshalb nicht entscheiden, ob Inhalte neben den Gemeinschaftsstandards auch auf die Branded-Content-Richtlinien hin geprüft werden müssen. Dadurch ist es erheblich wahrscheinlicher, dass Metas Branded-Content-Richtlinien nicht ausreichend durchgesetzt werden. Die mehrere Monate lange Unklarheit für den*die Creator*in in diesem Fall hätte sich vermeiden lassen, wenn der Inhalt bei der ersten Meldung im Dezember 2022 korrekt auf die Branded-Content-Richtlinien hin geprüft worden wäre. Sämtlicher Branded Content, der Medikamente bewirbt, sollte vor oder kurz nach der Veröffentlichung proaktiv geprüft werden.

Richtlinie zu eingeschränkten Waren und Dienstleistungen

Das Gremium stellt fest, dass die Definitionen der Begriffe „Drogen“ und „Medikamente“ in der Richtlinie zu eingeschränkten Waren und Dienstleistungen nicht die Anforderung der Gesetzmäßigkeit erfüllen. Wie oben dargelegt scheinen sich zwei Regeln zu widersprechen, wenn Inhalte über die Verwendung verschreibungspflichtiger Medikamente sprechen und diese Medikamente einen Rausch oder veränderten Bewusstseinszustand hervorrufen können. Laut den Regeln zu Medikamenten sind solche Inhalte offenbar erlaubt, doch die Regeln zu „nicht medizinisch verwendeten Drogen“ scheinen sie zu verbieten.

Das Gremium stellt fest, dass die Regeln unklar sind und bessere Richtlinien für Prüfer*innen benötigt werden. Klare Regeln sind besonders wichtig für Personen, dessen Äußerungen eingeschränkt werden können, aber auch für die Personen, die diese Regeln durchsetzen müssen. Prüfer*innen müssen schnell Entscheidungen treffen. Deshalb benötigen sie Regeln, die sie zuversichtlich anwenden können.

Das Gremium findet es außerdem sehr bedenklich, dass Metas Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen, der allgemein den Kauf und Verkauf von Medikamenten und nichtmedizinischen Drogen verbietet, möglicherweise uneinheitlich durchgesetzt wird. Wie das Gremium im Fall „Frage nach Adderall“ betont hat, kann die nicht einheitliche Durchsetzung der Regeln für eingeschränkte Waren und Dienstleistungen bei Nutzern, die derartige Inhalte sehen, zu Verunsicherungen hinsichtlich der auf Facebook zulässigen Inhalte führen.

II. Legitimes Ziel

Gemäß Artikel 19, Abs. 3 des ICCPR darf die freie Meinungsäußerung unter bestimmten festgelegten Umständen eingeschränkt werden. In diesem Fall stellt das Gremium fest, dass die Bestimmungen zur Werbung für nichtmedizinische Drogen und zu Versuchen, nichtmedizinische Drogen oder Medikamente zu kaufen, zu verkaufen oder damit zu handeln, sowohl in den Branded-Content-Richtlinien und im Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen, dem legitimen Ziel dienen, die öffentliche Gesundheit zu schützen. Sie schützen außerdem die Rechte anderer, darunter das Recht auf Gesundheit und das Recht auf Informationen zu gesundheitsbezogenen Themen (siehe Fall „Arzneimittelspenden Sri Lanka“).

III. Notwendigkeit und Verhältnismäßigkeit

Der Grundsatz der Notwendigkeit und Verhältnismäßigkeit verlangt, dass Einschränkungen der Meinungsfreiheit „geeignet sein müssen, ihre Schutzfunktion zu erfüllen; sie müssen das am wenigsten einschneidende Instrument unter denjenigen sein, die ihre Schutzfunktion erfüllen können“, und „sie müssen in einem angemessenen Verhältnis zu dem zu schützenden Interesse stehen“ (Allgemeine Bemerkung Nr. 34, Abs. 34).

Wie unter Abschnitt 2 oben erklärt, nimmt die Verbreitung von Depressionen weltweit zu. Die Verwendung von Ketamin zur Behandlung von Depressionen nimmt ebenfalls zu, teilweise aus diesem Grund. Diese Behandlungen sind zwar vielversprechend, aber noch unausgereift. Darüber hinaus wird Ketamin offenbar auch immer häufiger als Freizeitdroge missbraucht. In diesem Zusammenhang stellt die Entfernung des Inhalts eine notwendige und verhältnismäßige Einschränkung der freien Meinungsäußerung dar, die dazu dient, die öffentliche Gesundheit sowie das Recht der Menschen auf Gesundheit und auf Informationen zu gesundheitsbezogenen Themen zu schützen.

Branded-Content-Richtlinien

Die Ethikkriterien der WHO für die Werbung für Arzneimittel waren nach Ansicht des Boards für diesen Fall sehr aufschlussreich. Diese Kriterien besagen, dass zur Bekämpfung von Drogensucht und Abhängigkeit keine Drogen (insbesondere keine Betäubungsmittel oder Psychopharmaka) für die Allgemeinheit beworben werden sollten (Abs. 14). Obwohl diese Kriterien mehrere Jahrzehnte älter sind als soziale Medien, scheinen sie heute relevanter zu sein denn je. Zusätzliche Inhalte aus den USA waren hilfreich bei der Abwägung der Notwendigkeit und Verhältnismäßigkeit des Verbots von Werbung für Drogen gemäß den Branded-Content-Richtlinien. Laut einem Bericht im Wall Street Journal werden zwei Telemedizinanbieter, die in der Vergangenheit häufig Werbung auf Meta-Plattformen geschaltet haben, vom US-Justizministerium untersucht. Diese Untersuchungen wurden infolge von Berichten des WSJ gestartet, laut denen einige Kliniker*innen sich dazu gedrängt fühlen, Aufputschmittel zu verschreiben, und einige Patient*innen und Mitarbeiter*innen angegeben haben, die Marketingmethoden leisten dem Missbrauch von Suchtmitteln Vorschub.

Deshalb ist das Gremium der Ansicht, dass eine Einschränkung der Bewerbung von Ketamintherapie im Rahmen von „bezahlten Werbepartnerschaften“ notwendig ist, um das Risiko der Werbung für Ketamin als Freizeitdroge auf Facebook und Instagram zu reduzieren. Inhalte aus bezahlten Werbepartnerschaften, die Gesundheitsinformationen enthalten – insbesondere in Bezug auf Medikamente, von denen ein hohes Missbrauchsrisiko ausgeht – können das Recht der Nutzer*innen auf Gesundheit und auf Zugang zu Gesundheitsinformationen beeinträchtigen. Diese Risiken sind besonders hoch im Falle von Influencer*innen in sozialen Medien, denen bedeutende Anreize angeboten werden, um Unternehmen mit ihren großen Zielgruppen zu verbinden. Viele Mitglieder dieser Zielgruppen können sich außerdem in einer prekären gesundheitlichen Situation befinden. Wenn bezahlte Inhalte für notwendige medizinische Behandlungen oder den illegalen Konsum von Freizeitdrogen werben, muss Meta das Missbrauchspotenzial auf seinen Plattformen anerkennen. Nach Ansicht des Boards sind kommerzielle Inhalte, die ein bestimmtes Medikament oder eine Dienstleistung bewerben, von nicht kommerziellen Äußerungen zu unterscheiden. Einschränkungen, die für nicht bezahlte Inhalte als unverhältnismäßig betrachtet werden können, in denen über Medikamente und nichtmedizinische Drogen gesprochen wird, können im Rahmen von bezahlten Inhalten, die für dieselben Produkte oder Dienstleiste werben, verhältnismäßig sein.

Das Gremium hat erwogen, ob es verhältnismäßiger wäre, solche bezahlten Inhalte durch weniger einschneidende Maßnahmen einzuschränken. Beispielsweise könnten sie nur für Nutzer*innen ab einem bestimmten Alter sichtbar gemacht werden, wie es aktuell auf Meta-Plattformen für Inhalte zu Alkohol und Tabak der Fall ist (Substanzen, die ebenfalls bewusstseinsverändernd wirken). Die Risiken in Verbindung mit solchen Inhalten betreffen jedoch nicht nur jüngere Zielgruppen. Auch Erwachsene können von Aussagen von „Patient*innen-Influencer*innen“ beeinflusst werden, insbesondere dann, wenn bestimmte medizinische Behandlungen verherrlicht werden, die möglicherweise nicht für alle Menschen angemessen sind, und wenn Risiken verharmlost werden oder die Inhalte keine angemessenen Sicherheitswarnungen enthalten. Entsprechend den Ethikkriterien der WHO stellt das Gremium fest, dass Metas strenge Einschränkungen in Bezug auf Inhalte wie in diesem Fall im Rahmen von „bezahlten Werbepartnerschaften“ verhältnismäßig sind.

Das Gremium ist zwar der Meinung, dass der Beitrag nicht als „bezahlte Werbepartnerschaft“ hätte zugelassen werden sollen, ist aber auch besorgt über den Umgang mit solchen Partnerschaften unter den strengen Bedingungen, unter denen das Bewerben verschreibungspflichtiger Medikamente zulässig ist. Insbesondere merkt das Gremium an, dass in diesem Kontext der Hinweis „Bezahlte Werbepartnerschaft“ nur dazu dient, eine kommerzielle Beziehung offenzulegen. Ein Influencer kann mit demselben Hinweis für ein neues Restaurant und für eine neue oder experimentelle medizinische Behandlungsmethode werben. Im letzteren Fall ist das Gremium besorgt, dass diese Hinweise nicht ausreichend hervorgehoben werden und dass keine individuellen Informationen angezeigt werden, die auf Risiken oder auf weitere Ressourcen zu diesen Risiken hinweisen.

Das Gremium stellt fest, dass sich der Ansatz zu „bezahlten Werbepartnerschaften“ stark vom Umgang mit bestimmten Arten von Gesundheitsfehlinformationen unterscheidet. Der Hinweis „Inform Treatment“ kann in diesen Fällen beispielsweise auf Ressourcen von Faktenprüfer*innen oder öffentlichen Gesundheitsbehörden verweisen (siehe beratende Stellungnahme zur Richtlinie zu COVID-19-Fehlinformationen). Das Gremium merkt weiterhin an, dass Nutzer*innen dadurch, dass sie solche Beiträge mit „Gefällt mir“ markieren und kommentieren können, gezielt von Personen angesprochen werden können, die illegales Ketamin oder andere Substanzen vermarkten. Einige dieser Personen leiden möglicherweise unter Depressionen und/oder haben begrenzten Zugriff auf wirksame Behandlungen. Dadurch sind sie für derartige Ausbeutung besonders anfällig.

Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen

Das Gremium stellt fest, dass nach seiner Auslegung der Gemeinschaftsstandard die freie Meinungsäußerung auf eine Weise einschränkt, die für das Ziel der Verhinderung von Drogenmissbrauch notwendig und verhältnismäßig ist. Für das Gremium ist dieser Fall vom vorherigen Fall „Frage nach Adderall“ zu unterscheiden. Dort stellte das Gremium keine direkte oder unmittelbare Verbindung zwischen dem Inhalt und möglichen Schäden fest. Im letzteren Fall suchte der*die Nutzer*in lediglich Ratschläge dazu, wie er*sie mit seinem*seiner Ärzt*in über eine Behandlung sprechen könnte, und hatte nicht die Absicht, Adderall zu verkaufen, es illegal zu beschaffen oder zu bewerben. In diesem Fall hingegen möchte der*die Nutzer*in aktiv den Gebrauch von Ketamin bewerben, ohne auf die Notwendigkeit ärztlicher Aufsicht hinzuweisen. Dadurch entsteht ein erhebliches Risiko für die Sicherheit von Nutzer*innen, insbesondere vor dem Hintergrund der Verbreitung ähnlicher Inhalte. Metas Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen sollte Inhalte zulassen, die den Konsum von Ketamin beschreiben, aber nur, wenn dieser Konsum unter ärztlicher Aufsicht erfolgt. Im Gegensatz zu Meta hat das Gremium im Beitrag nicht genügend Anzeichen dafür festgestellt, dass der Konsum von Ketamin in diesem Fall tatsächlich unter ärztlicher Aufsicht erfolgt ist.

Das Gremium hat erwogen, ob diese Einschränkung lockerer sein sollte, sodass Inhalte erlaubt sind, die den Konsum unter „therapeutischer“ Aufsicht beschreiben. Das Gremium nahm die von Meta zitierte Studie zur Kenntnis, laut der in den USA keine Überdosierungen oder Todesfälle bekannt sind, die durch die Verwendung von Ketamin als Antidepressivum in einem „therapeutischen Umfeld“ verursacht wurden. Das Gremium lehnt diese freizügigere Position jedoch aus verschiedenen Gründen ab. Erstens gibt es Hinweise darauf, dass der illegale Konsum von Ketamin zunimmt, sodass die Sachlage 2022 keine verlässliche Grundlage für die Missbrauchsbekämpfung mehr darstellt. Zweitens merkt das Gremium an, dass es die Mehrdeutigkeit des Worts „therapeutisch“ Prüfer*innen erschweren würde, die Richtlinie durchzusetzen. Schließlich stützt sich das Gremium darauf, dass bei Metas Definitionen von „Medikamente[n]“ und „[n]icht medizinisch eingesetzte[n] Drogen“ die ärztliche Aufsicht entscheidend ist, wie oben unter Abschnitt 8.1 erklärt.

Das Gremium hat auch erwogen, ob die Einschränkung in Bezug auf ärztliche Aufsicht im Widerspruch steht mit der vorherigen Entscheidung des Boards im Fall „Pflanzensud Ayahuasca“. In dieser Entscheidung empfahl das Gremium Meta, seine Regeln zu ändern, um positive Diskussionen der traditionellen und religiösen Anwendungen von nicht medizinisch eingesetzten Drogen zu gestatten. Das Gremium erforderte dabei keine ärztliche Aufsicht der Verwendung der Droge.

Wir stellen fest, dass die Einschränkung in Bezug auf ärztliche Aufsicht mit der Analyse des Falls „Pflanzensud Ayahuasca“ in Einklang steht. Bei der traditionellen und religiösen Verwendung von Drogen belegt meist die Tradition einen gewissen Schutz vor Schäden. Laut Expert*innen lässt sich bei traditionellen ethnobotanischen Stoffen die Sicherheit und Wirksamkeit anhand der langen Tradition belegen. Außerdem haben diese Rituale aufgrund ihrer Verbindung mit der spirituellen und traditionellen Identität bestimmter Gemeinschaften einen würdevollen Aspekt, wie das Gremium im Fall „Pflanzensud Ayahuasca“ erwähnt hat.

9. Entscheidung des Oversight Boards

Das Oversight Board hebt die Entscheidung von Meta auf, diesen Inhalt aus einer bezahlten Werbepartnerschaft veröffentlicht zu lassen, und verlangt, dass der Beitrag entfernt wird.

10. Empfehlungen

Content-Richtlinie

1. Meta sollte die Bedeutung des Hinweises „Bezahlte Werbepartnerschaft“ im Transparency Center und im Instagram-Hilfebereich klarstellen. Das bedeutet unter anderem, dass Meta die Rolle von Geschäftspartnern bei der Genehmigung des Hinweises „Bezahlte Werbepartnerschaft“ erklären sollte. Das Gremium betrachtet diese Empfehlung als umgesetzt, wenn Meta seine Branded-Content-Richtlinien aktualisiert hat, um diese Punkte klarzustellen.

2. Meta sollte im Text des Gemeinschaftsstandards zu eingeschränkten Waren und Dienstleistungen klarstellen, dass Inhalte, in denen der Konsum von Medikamenten eingestanden oder befürwortet wird, auch dann zulässig sind, wenn dieser Konsum einen Rausch hervorrufen kann, sofern der Konsum unter ärztlicher Aufsicht erfolgt. Meta sollte außerdem den Begriff „ärztliche Aufsicht“ definieren und unter dem Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen erklären, dass diese ärztliche Aufsicht beispielsweise durch direkte Erwähnung einer ärztlichen Diagnose, einen Bezug auf die Lizenz des Therapieanbieters oder auf medizinisches Fachpersonal demonstriert werden kann. Das Gremium betrachtet diese Empfehlung als umgesetzt, wenn Meta seinen Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen aktualisiert hat, um diese Punkte klarzustellen.

Durchsetzung

3. Meta sollte sicherstellen, dass Inhalte, die im Rahmen einer bezahlten Werbepartnerschaft erstellt wurden, im Rahmen seines Prüfungsverfahrens ordnungsgemäß auf alle anwendbaren Richtlinien hin geprüft werden (d. h. Gemeinschaftsstandards und Branded-Content-Richtlinien), da aktuell nicht alle Inhalte, die als „Branded Content“ gelten, auf die Branded-Content-Richtlinien hin geprüft werden. Insbesondere sollte Meta Mitarbeiter*innen, die Inhalte massenhaft prüfen, die Möglichkeit geben, potenzielle Verstöße gegen die Branded-Content-Richtlinien an spezialisierte Teams oder automatische Systeme weiterzuleiten, die in der Lage und dafür geschult sind, Metas Branded-Content-Richtlinien anzuwenden. Das Gremium betrachtet diese Empfehlung als umgesetzt, wenn Meta ihm die verbesserten Möglichkeiten zur Weiterleitung von Prüfungen mitteilt. Dabei sollte Meta nachweisen, wie bei Inhalten, die mit hoher Wahrscheinlichkeit gegen Plattform-/Inhaltsrichtlinien verstoßen, alle relevanten Richtlinien angewandt werden können.

4. Meta sollte die Durchsetzung einzelner Teile seiner Branded-Content-Richtlinien („In folgenden Fällen verbieten wir das Bewerben: [...] 4. Drogen und drogenähnliche Substanzen, einschließlich illegaler Drogen und Partydrogen“) und des Gemeinschaftsstandards zu eingeschränkten Waren und Dienstleistungen („Folgende Inhalte sind untersagt: [...] Inhalte, mit denen versucht wird, Drogen zu kaufen, zu verkaufen, zu spenden, zu verschenken oder anzufragen oder mit Drogen zu handeln oder den Handel von Drogen zu koordinieren“) überprüfen. Das Gremium stellt fest, dass Meta klare und vertretbare Ansätze verfolgt und dabei für die bezahlte Bewerbung von Drogen und Medikamenten (in den Branded-Content-Richtlinien) sowie für Versuche, Drogen oder Medikamente zu kaufen, zu verkaufen oder damit zu handeln (im Gemeinschaftsstandard zu eingeschränkten Waren und Dienstleistungen) strenge Einschränkungen verhängt. Das Gremium hat jedoch einige Anzeichen dafür festgestellt, dass diese Richtlinien möglicherweise uneinheitlich durchgesetzt werden. Um zu überprüfen, ob dies tatsächlich der Fall ist, sollte Meta veranlassen, dass die Durchsetzung seiner Branded-Content-Richtlinien und des Gemeinschaftsstandards zu eingeschränkten Waren und Dienstleistungen in Bezug auf Medikamente und nichtmedizinische Drogen überprüft wird. Anschließend sollte das Unternehmen jegliche Lücken bei der Durchsetzung schließen. Das Gremium betrachtet diese Empfehlung als umgesetzt, wenn Meta die Methodik und die Ergebnisse dieser Prüfung teilt und offenlegt, wie es sämtliche durch diese Prüfung aufgedeckten Lücken bei der Durchsetzung schließen wird.

* Anmerkung zur Vorgehensweise:

Die Entscheidungen des Oversight Boards werden von einem Panel aus fünf Mitgliedern vorbereitet und von einer Mehrheit des Boards bestätigt. Entscheidungen des Gremiums geben nicht zwangsläufig die persönliche Meinung aller Mitglieder wieder.

Für diese Fallentscheidung wurde eine unabhängige Studie vom Board in Auftrag gegeben. Das Gremium erhielt Unterstützung durch Duco Advisors, eine Beratungsfirma mit Schwerpunkt auf die Schnittstelle zwischen Geopolitik, Vertrauen, Sicherheit und Technologie. Memetica, eine Organisation, die Open-Source-Forschung zu Trends in sozialen Medien betreibt, führte ebenfalls Analysen durch.