Marknadsföring av ketamin för behandlingar som inte är godkända av FDA

Sammanfattning av ärendet

Tillsynsrådet har upphävt Metas beslut att lämna kvar ett Instagram-inlägg där användaren diskuterar sina upplevelser av att använda ketamin som behandling mot ångest och depression. Rådet finner att innehållet strider mot Metas branded content-policyer (som gäller innehåll där kreatörer får kompensation av externa ”affärspartner”, till skillnad från där Meta får kompensation för att visa innehåll för användarna) samt företagets communityregel om begränsade varor och tjänster. Det här ärendet indikerar att Metas strikta begränsningar kring branded content som gör reklam för läkemedel samt försök att köpa, sälja eller handla med läkemedel tillämpas inkonsekvent.

Om ärendet

Den 29 december 2022 publicerade en verifierad Instagram-användare 10 relaterade bilder i ett enda inlägg med en bildtext. En välkänd leverantör av ketaminbehandlingar är taggad som medförfattare till inlägget, som även angavs vara ett ”betalt partnersamarbete”. Enligt Metas branded content-policyer måste Metas affärspartner märka upp sitt innehåll med sådana etiketter för att tydligt indikera affärsrelationer med tredje part.

I bildtexten sade sig användaren ha fått ketamin som behandling mot ångest och depression på två av behandlingsleveratörens kontor i USA. Även om användaren beskriver ketamin som ett läkemedel hänvisade inte inlägget till någon professionell diagnos, det fanns inga tydliga tecken på att behandlingen utfördes på en licensierad klinik och ingen information om att behandlingen utfördes under överinseende av vårdpersonal. Inlägget beskriver användarens behandling som en ”magical entry into another dimension” (magisk resa till en annan dimension). Inlägget hävdar även att ”psychedelics” (psykedelika, en kategori substanser som ketamin enligt inlägget tillhör) är viktiga nya läkemedel mot psykisk ohälsa. Tio teckningar, vissa med psykedeliska mönster, beskriver användarens upplevelse i formen av ett bildmanus, och det framgår att användaren genomgått flera ”therapy sessions” (terapisessioner) mot ”treatment-resistant depression and anxiety” (depression och ångest som inte kunnat behandlas på annat sätt). Användarkontot som beskriver upplevelsen har omkring 200 000 följare och inlägget har visats ca 85 000 gånger.

Tre användare rapporterade en eller flera av bilderna i inlägget, och innehållet togs bort för att sedan återställas tre gånger i enlighet med Metas communityregel om begränsade varor och tjänster. Efter den tredje gången inlägget togs bort tog innehållskreatören kontakt med Meta. Innehållet eskalerades då till policy- och ämnesexperter för ytterligare granskning, och det återställdes ungefär sex månader efter den ursprungliga publiceringen. Meta hänsköt sedan ärendet till rådet. Innehållskreatörens status som ”hanterad partner” bidrog till att inlägget eskalerades internt på Meta. ”Hanterade partner” är entiteter inom olika branscher, bland annat kändisar, företag och välgörenhetsorganisationer. De får ett utökat stöd i varierande grad, inklusive tillgång till en dedikerad partneransvarig.

Viktiga noteringar

Som vi förklarar mer i detalj nedan indikerar det här ärendet att Metas strikta begränsningar kring branded content som gör reklam för läkemedel samt försök att köpa, sälja eller handla med läkemedel tillämpas inkonsekvent på företagets plattformar.

Eftersom innehållet i det här ärendet publicerades inom ramen för ett betalt partnersamarbete bör branded content-policyerna gälla. Rådet är bekymrat över att Meta inte beskrev den här aspekten av ärendet i hänskjutningen eller den inledande kommunikationen. Rådet blev medvetet om inläggets ekonomiska koppling först efter att ha ställt frågor till företaget. Metas branded content-policyer anger att ”vissa varor, tjänster eller varumärken får kanske inte marknadsföras med branded content”, bland annat ”droger eller drogrelaterade produkter, inklusive olagliga droger, receptbelagda droger eller partydroger”. Eftersom innehållet i det här ärendet ingick i ett ”betalt partnersamarbete”, tydligt marknadsförde användningen av ketamin och inte omfattades av ett undantag stred innehållet mot de här policyerna. Om svar på rådets frågor tillkännagav Meta att inte allt innehåll med etiketten ”betalt partnersamarbete” granskas mot branded content-policyerna, att moderatorerna som granskar innehåll brett inte ser den här etiketten och att de inte kan skicka vidare innehållet till specialistteamet som ansvarar för branded content-policyernas verkställighet. Det här ökar risken för att policyerna inte tillämpas på den här typen av innehåll betydligt. Rådet uppmanar därför Meta att se till att innehåll granskas mot alla relevanta policyer, även branded content-policyerna.

Rådet finner även att innehållet stred mot communityregeln om begränsade varor och tjänster. Den här regeln tillåter marknadsföring av läkemedel (”läkemedel som måste skrivas ut eller administreras av medicinsk personal”) men förbjuder marknadsföring av droger som inte är läkemedel (”droger eller substanser som inte används i avsett medicinskt syfte eller i syfte att bli hög”). Som det här fallet indikerar finns det dock en del läkemedel som hamnar i båda kategorierna. Den här konflikten löses bäst genom att trycka på den viktiga roll den medicinska personalen spelar i att förskriva eller administrera läkemedlet. Som vi noterade i föregående stycke så måste betalt innehåll leva upp till en ännu striktare standard. Eftersom innehållet i det här ärendet innehöll uttalanden som tydligt indikerade att läkemedlet användes i syfte att bli ”hög”, som inte refererade till någon medicinsk diagnos eller någon medicinsk personal (till exempel en läkare, sjuksköterska eller psykiatriker) finner rådet att den aktuella användaren inte tillräckligt demonstrerade att användningen av ketaminet skedde under medicinskt överinseende. Innehållet bryter därmed mot communityregeln och bör tas bort.

Rådet är dessutom bekymrat över att Metas policyer gällande läkemedel kan tillämpas inkonsekvent. I en undersökning av Wall Street Journal nyligen som baserades på en annonsgranskning under fyra veckor i slutet av 2022 hittade tidningen fler än 2 100 annonser på Facebook och Instagram som beskrev fördelarna med olika receptbelagda läkemedel utan hänvisning till risker, som marknadsförde en ej godkänd användning av läkemedlet eller innehöll uttalanden där det inte framgick om ursprunget var en skådespelare eller medarbetare på företaget. I en offentlig kommentar från NABP (National Association of Boards of Pharmacy) till rådet hävdas även att det är vanligt med otvetydiga överträdelser av Metas communityregel om begränsade varor och tjänster. NABP noterar att det räcker med en snabb sökning på mindre än en minut för att hitta en mängd inlägg där ketamin tydligt marknadsförs i rekreationellt syfte.

Tillsynsrådets beslut

Tillsynsrådet upphäver Metas beslut om att låta innehållet stå kvar och kräver att inlägget ska tas bort.

Rådet rekommenderar att Meta:

• Förtydligar innebörden i etiketten ”betalt partnersamarbete” när sådana etiketter nämns, bland annat när branded content granskas. I det här ingår att förklara vilken roll affärspartnern har när det betalda innehållet godkänns, utöver etiketten ”betalt partnersamarbete”.
• Förtydligar lydelsen av communityregeln om begränsade varor och tjänster, så att inlägg som beskriver bruk eller som marknadsför användningen av läkemedel endast är tillåtna om användaren blir ”hög” i en övervakad klinisk miljö.
• Förbättrar sina granskningsprocesser så att innehåll som publiceras inom ramen för ett betalt partnersamarbete granskas mot alla gällande policyer (till exempel communityregler och branded content-policyer). Meta bör se till att innehåll skickas till granskare eller automatiserade system som har utbildats i att tillämpa Metas branded content-policyer i förekommande fall.
• Granskar verkställigheten av företagets branded content-policyer och communityregeln om begränsade varor och tjänster i samband med försäljning eller betald marknadsföring av läkemedel. Meta bör sedan täppa till eventuella luckor i verkställigheten.

* En ärendesammanfattning ger en översikt över ärendet och har inget prejudikatvärde.

Fullständigt beslut i ärende

1. Sammanfattning av beslutet

Tillsynsrådet upphäver Metas beslut att lämna kvar ett Instagram-inlägg där användaren diskuterar sina upplevelser av att använda ketamin som behandling mot ångest och depression på behandlingsleverantörens kontor i USA. Inlägget hade etiketten ”betalt partnersamarbete”, som innebär att användaren fått betalt för inlägget av en extern ”affärspartner”. Sådana inlägg måste följa Metas branded content-policyer. De här policyerna förbjuder marknadsföring av ”droger och drogrelaterade produkter, inklusive illegala droger och partydroger”, förutom när det gäller marknadsföring av apotek eller receptbelagda läkemedel enligt strikta standarder som rådet inte anser vara uppfyllda i det här ärendet. Därför anser rådet att inlägget bröt mot branded content-policyerna.

Även om inlägget inte varit ett betalt partnersamarbete anser rådet att det skulle bryta mot Metas communityregel om begränsade varor och tjänster. Enligt den här standarden får användare göra reklam för läkemedel, men inte för droger som tas i syfte att göra användaren ”hög”. Ketamin är ett läkemedel som även kan göra användaren ”hög”, det har både viktiga medicinska användningsområden och används även rekreationellt. Rådet anser att standarden bör läsas som att inlägg som gör reklam för ketamin bör bara tillåtna även när läkemedlet gör brukaren ‘”hög”, men enbart när det tydligt framgår att läkemedlet administrerats under överinseende av vårdpersonal. När det gäller inlägget i ärendet anser inte rådet att det fanns tillräckliga bevis för att vårdpersonal fanns närvarande.

Förutom att upphäva Metas beslut rekommenderar även rådet att Meta granskar sina branded content-policyer och förtydligar innebörden av etiketten ”betalt partnersamarbete", och ser till att innehållsgranskare har tillräcklig kunskap för att tillämpa branded content-policyerna i förekommande fall. Rådet rekommenderar även att Meta förtydligar definitionen av droger utan medicinsk användning i communityregeln om begränsade varor och tjänster, så att inlägg med reklam för läkemedel som även gör användaren ”hög” bara är tillåtna när användningen tydligt sker under överinseende av vårdpersonal. Slutligen är rådet intresserat av Metas branded content-policyer även utanför det aktuella ärendet, och uppmanar Meta att delge ytterligare information till rådet om hur de här policyerna tillämpas för företagets affärspartner där det är relevant.

2. Beskrivning av och bakgrund till ärendet

Den 29 december 2022 publicerade en verifierad Instagram-användare en serie med 10 relaterade bilder i ett enda inlägg med en bildtext. En välkänd leverantör av ketaminbehandlingar är taggad som medförfattare till inlägget, vilket innebär att det visas som ett permanent inlägg för följare till båda kontona. Inlägget hade etiketten ”betalt partnersamarbete”. Enligt Metas branded content-policyer måste Metas affärspartner märka upp sitt innehåll med sådana etiketter för att tydligt indikera affärsrelationer med tredje part. De här etiketterna visas direkt under användarnamnet för den som publicerar innehållet, i en text som lyder ”betalt partnersamarbete med” följt av affärspartnerns namn.

I en bildtext under bildserien sade sig användaren ha fått ketamin som behandling mot ångest och depression på två av behandlingsleveratörens kontor i USA. Leverantörens Instagram-konto är återigen taggat i bildtexten så att användare kan klicka sig vidare till det kontot. Även om användaren beskriver ketamin som ett läkemedel hänvisade inte inlägget till någon professionell diagnos, det fanns inga tydliga tecken på att behandlingen utfördes på en licensierad klinik och ingen information om att behandlingen utfördes under överinseende av vårdpersonal. Inlägget beskriver användarens behandling som en ”magical entry into another dimension” (magisk resa till en annan dimension). Inlägget hävdar även att ”psychedelics” (psykedelika, en kategori substanser som ketamin enligt inlägget tillhör) är viktig ny kategori av läkemedel mot psykisk ohälsa.

De 10 bilderna i serien var högkvalitativa teckningar med enskilda textöverlägg som beskrev användarens upplevelse hos behandlingsleverantören. Teckningarna beskriver användarens upplevelse kronologiskt i formen av ett bildmanus, och det framgår att användaren genomgått flera ”therapy sessions” (terapisessioner) mot ”treatment-resistant depression and anxiety” (depression och ångest som inte kunnat behandlas på annat sätt). Flera teckningar innehöll psykedeliska bilder, som regnbågar, stjärnor och andra objekt som sträcker sig från huvuden samt vardagliga föremål med yttre rymden som bakgrund. En del av serien handlade om den svåra period i livet som fick personen att söka behandling. Andra bilder beskrev därefter förberedelserna inför behandlingen (bland annat avslappningsövningar), själva behandlingen (som bestod av två doser ketamin) och en återintegrering (bland annat reflektioner efter behandlingen). En annan del av serien hyllade behandlingen, användaren beskrev bland annat ”[t]he feeling of both being pulled out of myself while being brought closer to my inner essential core” (känslan av att dras ut ur mig själv samtidigt som jag kom närmare min innersta kärna). Användaren jämförde behandlingen med ”any good trip” (en bra tripp). En bild, som var den primära bilden i Metas hänskjutning av ärendet, var en positiv avbildning och textbeskrivning av kontoret, med beröm av den ”extraordinary staff” (fantastiska personal) som bistått användaren. Bildserien beskrev dock inget formellt överinseende av vårdpersonal, det förekom till exempel ingen hänvisning till en medicinsk diagnos av depression eller ångest, eller till någon behandling utförd av medicinsk personal. Det framgick inte heller om behandlingsleverantören är en licensierad vårdklinik.

Inlägget hade fått cirka 10 000 gilla-markeringar, färre än 1 000 kommentarer och visats cirka 85 000 gånger. Användarkontot där upplevelsen beskrevs har ungefär 200 000 följare.

Sammanlagt rapporterade tre användare en eller flera av de 10 bilderna i inlägget, och innehållet togs bort för att sedan återställas tre gånger i enlighet med Metas communityregel om begränsade varor och tjänster. Innehållet togs bort mindre än 30 minuter efter den första rapporteringen efter en mänsklig granskning. Användaren som publicerade innehållet överklagade borttagningen. Vid överklagan återställde en mänsklig granskare innehållet mindre än fem timmar från den ursprungliga borttagningen. Innehållet rapporterades en andra gång ungefär en timme senare, det togs bort nästan omedelbart och återställdes igen efter mindre än en halvtimme. Alla beslut togs efter mänsklig granskning. Flera veckor senare rapporterades innehållet igen. Den tredje rapporteringen hanterades av ett automatiserat system som baserar sina åtgärder på innehållsmoderatorers tidigare beslut. Det automatiserade systemet tog bort innehållet efter att ha slagit fast att det bröt mot Instagrams communityregler, i det här fallet communityregeln om begränsade varor och tjänster.

Borttagningarna var enbart baserade på Metas communityregel om begränsade varor och tjänster. Rådet frågade Meta varför innehållet inte togs bort på grund av brott mot branded content-policyerna som förbjuder betald marknadsföring av läkemedel, eftersom den offentliga informationen om de här policyerna indikerar att de bör gälla alla typer av innehåll med etiketten ”betalt partnersamarbete”. Meta svarade att de här policyerna inte tillämpades eftersom det bara görs ”för branded content som identifieras via vår betalt partnersamarbete-etikett som varumärkespartnern faktiskt har granskat och godkänt”. Meta förklarade även att varumärken ”kan ge vissa kreatörer behörighet på kontonivå att tagga dem i branded content (så att etiketten inte behöver godkännas i varje inlägg)”, vilket innebär att etiketter kan godkännas automatiskt utan granskning av relevant varumärkespartner. I sådana fall granskas inte innehållet mot branded content-policyerna av Metas specialistteam. Meta sade även att etiketten ”betalt partnersamarbete” inte visas för breda innehållsgranskare, som inte kan skicka innehållet till specialistteam för vidare granskning och som därmed inte är inblandade i verkställigheten av branded content-policyerna.

Efter den tredje gången inlägget togs bort tog innehållskreatören kontakt med Meta. Innehållet eskalerades då till policy- och ämnesexperter för ytterligare granskning, det återställdes och ärendet hänsköts till rådet. Innehållet återställdes för tredje gången ungefär sex månader efter den ursprungliga publiceringen.

Eskaleringen påskyndades av kreatörens status som ”hanterad partner”. ”Hanterade partner” är entiteter inom olika branscher, bland annat kändisar, företag och välgörenhetsorganisationer. Sådana entiteter får olika nivåer av utökat stöd från Meta, bland annat utbildning i användningen av Metas produkter och en dedikerad partneransvarig som kan hjälpa till med att ”optimera närvaron och maximera värdet som genereras från Metas plattformar och tjänster, så att relationen lever upp till både den hanterade partnerns och Metas strategiska mål”.

Meta hänsköt ärendet till rådet och angav att det var viktigt på grund av den aktuella debatten kring och användningen av psykedeliska läkemedel i USA som gör skiljelinjen mellan medicinsk behandling, självhjälp och rekreation otydlig. Enligt Meta gör den här tvetydigheten det svårt att avgöra om innehållet marknadsför läkemedel, vilket i allmänhet är tillåtet på Metas plattformar, eller om det beskriver användning av läkemedel i ej avsedda syften eller med avsikt att bli ”hög”, vilket i allmänhet inte är tillåtet.

Rådet angav följande kontext som grund för sitt beslut i ärendet.

• Experter som rådet tillfrågat förklarade att FDA (Food and Drug Administration) enbart har godkänt ketamin som ett anestesiläkemedel i USA. Som många andra läkemedel kan det dock administreras lagligt i andra syften av läkare och annan vårdpersonal, och för sådan användning gäller begränsningar och förordningar på både federal och delstatlig nivå.
• FDA har godkänt en intranasal form av ketamin, esketamin (kallas ofta för varumärkesnamnet Spravato) som behandling mot depression. Marknadsföring av Spravato är direkt reglerad av FDA och måste därmed följa ett antal regler, något som inte gäller marknadsföring av ketamin i allmänhet. FDA kräver exempelvis att marknadsföring av receptbelagda läkemedel som Spravato tar upp alla risker som är relaterade till läkemedlets användning. På webbsidan för Spravato finns en popup-ruta längst ned med ett antal varningar om bruk och missbruk som användaren inte kan klicka bort. Den här typen av krav är en indikation på hur FDA ser på farorna med marknadsföring av läkemedel. Den här inställningen låg till grund för rådets syn på inlägg som i praktiken är reklam för läkemedel.
• Den medicinska communityn har haft en omfattande debatt kring användning av ketamin som en lovande behandling mot depression och andra humörsjukdomar. Allt mer peergranskad forskning om ketaminets potential som behandling mot humörsjukdomar har bedrivits mot bakgrund av den pågående krisen kring psykisk ohälsa i USA. WHO (World Health Organization) har identifierat depression som en ledande orsak till funktionsnedsättning globalt. WHO:s faktablad om självmord förklarar att fler än 700 000 människor avlider efter självmord varje år i världen, vilket gör det till den fjärde vanligaste dödsorsaken i åldern 15 till 29 år, och obehandlad depression är en stor riskfaktor när det gäller självmord.
• Den medicinska communityn har även tagit upp riskerna med terapeutisk användning av ketamin. Ett gemensamt uttalande som publicerades 2017 i Journal of the American Medicine Association (JAMA) tog upp att missbruk av ketamin kan leda till nedsatt kognition och skador på urinvägssystemet. I en litteraturgranskning från 2022 fanns att riskerna med missbruk av ketamin inte är helt olika riskerna med missbruk av andra, väletablerade och normalt receptbelagda medel med missbrukspotential, som centralstimulanter eller bensodiazepiner, men studien fann även att det här inte bör utgöra ett hinder för läkare att förskriva ketamin när så är lämpligt och uppmanar till en försiktig hållning i förskrivningen snarare än att helt undvika förskrivning. Enligt en expertgranskning från 2023 av ketaminets toxicitet tycks ketaminöverdoser vara relativt ovanliga. En annan studie fann inga fall av överdoser eller dödsfall när ketamin använts som behandling mot depression i terapeutiska miljöer i USA.
• Experter som rådet pratat med tog upp riskerna med icke-medicinsk användning av ketamin. Experterna menade att ketamin, or ”Special K” som rekreationella användare brukar kalla drogen, har varit populärt på nattklubbar och barer i flera decennier. De sade att missbruket av ketamin sker i relativt liten skala, men att det kan vara på uppgång. I en studie i maj 2023 från New York University ökade antalet polisbeslag av olagligt ketamin ökat med 349 procent från 2017 till 2022, vilket kan vara ett tecken på större rekreationell användning. Studien varnade även för att media och den medicinska marknadsföringen av ketamin de senaste åren ökar både användningen och tillgängligheten på den svarta marknaden.
• De senaste åren har det startats allt fler ketaminkliniker. En expert som rådet pratade med sade att det dyker upp allt fler kliniker både offline och online som hävdar att ketamin är effektivt mot en mängd olika sjukdomstillstånd, som tvångssyndrom, beroenden och ätstörningar. En stor majoritet av forskningen hittills är dock inriktad på patienter med depression.
• En annan expert sade att vissa ketaminkliniker drevs som telefonläkarmottagningar, vilket tilläts i samband med covid-19. Sådana ketaminkliniker kan skicka ketamin till sina patienter med vanlig post. Tillståndet för kliniker att drivas som onlinemottagningar förväntas dock dras tillbaka snart, på grund av hur covid-19-pandemin har utvecklats. Hittills under 2023 har Drug Enforcement Agency stängt ned minst en leverantör av ketaminbehandlingar, troligen i samband med försäljning via postorder.
• I juli 2021 meddelade Meta att företaget gjord uppdateringar för att förtydliga och stärka verkställigheten av våra policyer gällande receptbelagda läkemedel. Meta sade att de här uppdateringarna tydligt skulle definiera skillnaden mellan marknadsföring av illegala droger och andra osäkra substanser å ena sidan, och å andra sidan den begränsade marknadsföringen av receptbelagda läkemedel från godkända marknadsförare, genom att företaget skulle skapa nya, separata policyer för marknadsföring av onlineapotek, receptbelagda läkemedel och osäkra substanser. Meta meddelade också att företaget skulle samarbeta med LegitScript om den nya, obligatoriska certifieringen för telehälsomottagningars och onlineapoteks marknadsföring av receptbelagda läkemedel.
• En artikel från mars 2022 som publicerades i Journal of Medical Internet Research tar upp att antalet ”patientinfluerare” ökar. Patientinfluerare är användare i sociala medier med hängivna följare som försöker skapa ett känslomässigt band till följarna genom att dela med sig av strategiska och utvalda delar av sin sjukdom och tillhörande upplevelser. De kan få betalt av företag inom läkemedelsbranschen eller media, och sådana ekonomiska relationer är inte alltid tydliga för de användare som konsumerar innehållet. Artikeln lyfte fram vikten av att beakta etiska frågor och potentialen för felaktig information i marknadsföring från influerare. I en studie från mars 2023 som består av intervjuer med patientinfluerare lyftes återigen fram hur viktigt det är att hantera de här potentiella etiska problemen.
• Myndigheterna har också fått upp ögonen för skillnaden mellan betalt och obetalt innehåll. I USA, där det här ärendet hade sitt ursprung, har Federal Trade Commission nyligen uppdaterat sina riktlinjer för influerare i sociala medier och infört striktare krav på att influerare ska vara tydliga och transparenta. Sådana regler stärker synen på att ekonomisk ersättning påverkar uttalanden på betydelsefulla sätt, och att konsumenterna därför har rätt att känna till om innehåll har producerats inom ramen för ett ”betalt partnersamarbete”.

3. Tillsynsrådet: behörighet och omfång

Rådet har behörighet att granska de beslut som Meta skickar in för granskning (stadgans artikel 2, avsnitt 1, artikel 2, avsnitt 2.1.1 i regelverket). Rådet granskar och fattar beslut angående innehåll i enlighet med Metas värderingar och riktlinjer för innehåll (stadgans artikel 2). I regelverket definieras Metas policyer som ”Metas innehållspolicyer och procedurer som reglerar innehåll på plattformen (till exempel communityregler eller riktlinjer för communityn)”. Rådet anser att Metas branded content-policyer omfattas av definitionen av Metas policyer.

Rådet kan fastställa eller upphäva Metas beslut (stadgans artikel 3, avsnitt 5) och deras beslut är bindande för företaget (stadgans artikel 4). Meta måste dessutom utvärdera om det går att tillämpa beslutet på identiskt innehåll med liknande sammanhang (stadgans artikel 4). Rådets beslut kan innefatta ej bindande rekommendationer som Meta måste svara på (stadgans artikel 3, avsnitt 4, artikel 4). Där Meta åtar sig att följa rekommendationer övervakar rådet deras implementering.

4. Källor och riktlinjer som ligger till grund för beslutet

Rådets analys i det här ärendet är baserad på följande standarder och prejudikat:

I. Tillsynsrådets beslut

Här är några av de mest relevanta beslut som Tillsynsrådet har fattat tidigare:

• Läkemedel i Sri Lanka (ärendebeslut 2022-014-FB-MR)
• Frågor om Adderall® (ärendebeslut 2021-015-FB-UA)
• Ayahuasca (ärendebeslut 2021-013-IG-UA)

II. Metas riktlinjer för innehåll

Det här ärendet gäller Instagrams riktlinjer för communityn, Facebooks communityregler och Metas branded content-policyer. I Metas verkställighetsrapport för communityregler för första kvartalet 2023 står att Facebook and Instagram delar samma innehållspolicyer. Det innebär att om innehåll anses bryta mot reglerna på Facebook, anses det även bryta mot reglerna på Instagram.

Instagrams riktlinjer för communityn anger att det ”inte är tillåtet att köpa eller sälja olagliga eller receptbelagda läkemedel”. Dessutom står det så här: ”Vi tar vidare bort innehåll som försöker handla med, byta, samordna handel eller byte av, ge bort eller be om droger samt innehåll som antingen erkänner personlig användning av droger (såvida det inte handlar om rehabilitering) eller samordnar eller förespråkar droganvändning”. Riktlinjerna fortsätter: ”Följ alltid lagen när du erbjuder dig att sälja eller köpa andra reglerade varor.” Riktlinjerna länkar sedan till Facebooks communityregel om begränsade varor och tjänster.

Enligt Facebooks communityregel om begränsade varor och tjänster förbjuder Meta ”försök av individer, tillverkare och återförsäljare att köpa, sälja, dela ut som vinst, ge bort, överföra eller handla med vissa varor och tjänster”. Begränsade varor är bland annat ”läkemedel (läkemedel som måste skrivas ut eller administreras av medicinsk personal)” och droger som inte är läkemedel (droger eller substanser som inte används i avsett medicinskt syfte eller i syfte att bli hög). Meta tar bort innehåll om icke-medicinska läkemedel som erkänner personlig användning utan bekräftelse av eller hänvisning till rehabilitering, behandling eller annan hjälp för att motverka användningen. Innehållet får inte tala positivt om, uppmuntra till användning av, samordna eller tillhandahålla anvisningar för hur man tillverkar eller använder droger. Enligt motiveringen för policyn är syftet med communityregeln om begränsade varor och tjänster att ”stärka säkerheten och motverka potentiellt skadlig aktivitet”.

Metas branded content-policyer förbjuder ”överträdelser av våra communityregler eller riktlinjer för communityn”. Listan med ”förbjudet innehåll” omfattar ”droger och drogrelaterade produkter, inklusive illegala och rekreationella droger” samt “osäkra produkter och tillbehör”. För branded content som marknadsför ”apotek” och ”receptbelagda läkemedel” krävs dessutom att den affärspartner som sponsrar branded content ges tillstånd att marknadsföra sina tjänster. I tillståndet för ”apotek” krävs att affärspartnern är certifierad enligt LegitScript och har skriftligt tillstånd från Facebook att marknadsföra apotek. I tillståndet för ”receptbelagda läkemedel” krävs att affärspartnern ansöker hos Facebook om att marknadsföra receptbelagda läkemedel. Onlineapotek, läkartjänster online samt läkemedelstillverkare kan ansöka om sådana tillstånd från Facebook. Inlägg med branded content som marknadsför receptbelagda läkemedel måste dessutom begränsas till personer över 18 år och bara visas i USA, Nya Zeeland och Kanada. Marknadsföring av receptbelagda läkemedel är inte tillåten utanför de här länderna. Det är viktigt att notera att branded content-policyerna gäller innehåll där innehållskreatörer får kompensation (”betalning i pengar eller kostnadsfria gåvor”) från en extern ”affärspartner”, till skillnad från Metas marknadsföringsstandarder som gäller innehåll som Meta visar för användare mot betalning från annonsörer.

Rådets analys av innehållspolicyerna bygger på Metas värdering röst, som enligt företaget är av yttersta vikt, samt företagets värderingar gällande säkerhet och värdighet.

III. Metas ansvar för de mänskliga rättigheterna

FN:s vägledande principer om företag och mänskliga rättigheter (UNGP), som bifölls av FN:s råd för mänskliga rättigheter 2011, utgör ett frivilligt ramverk för privata företags ansvar gällande mänskliga rättigheter. År 2021 presenterade Meta sin företagspolicy avseende mänskliga rättigheter som bekräftar företagets strävan att respektera de mänskliga rättigheterna i enlighet med UNGP-principerna. Rådets analys av Metas ansvar i fråga om de mänskliga rättigheterna i det här ärendet utgår ifrån följande internationella standarder:

• Rätten till åsikts- och yttrandefrihet: Artikel 19, FN:s konvention om medborgerliga och politiska rättigheter (ICCPR), allmän kommentar nr 34, FN:s kommitté för mänskliga rättigheter, 2011, Artikel 21, Konventionen om rättigheter för personer med funktionsnedsättning (CRPD).
• Rätten till hälsa: Artikel 12, Konventionen om ekonomiska, sociala och kulturella rättigheter (ICESCR). Allmän kommentar nr 14, FN:s kommitté för ekonomiska, sociala och kulturella rättigheter (2000).

5. Framställningar från användarna

Inläggets författare meddelades om rådets granskning och fick möjlighet att lämna ett uttalande till rådet. Användaren skickade inte in något uttalande.

6. Metas framställningar

När Meta hänsköt det här ärendet till rådet hävdade företaget att nuvarande policyer kan bli svåra att hantera när den medicinskt övervakade användningen av sinnesförändrande substanser ökar och fler personer vill diskutera sina upplevelser av legala droger på våra plattformar. Eftersom Meta förväntar sig fler liknande fall i framtiden bad företaget om rådets hjälp i att hitta rätt väg framåt.

Meta förklarade att definitionerna av icke-medicinska droger och läkemedel i communityregeln om begränsade varor och tjänster hamnar i konflikt när ett läkemedel administreras legalt av vårdpersonal i behandlingar mot psykisk ohälsa där ett förändrat sinnestillstånd är ett av målen. De interna riktlinjerna för att tillämpa communityregeln om begränsade varor och tjänster tillåter innehåll där en användare erkänner användning eller marknadsför användning av läkemedel i övervakade, kliniska miljöer. Enligt Meta handlar användarens innehåll i det här ärendet upplevelsen av en säker och legal behandling mot depression och ångest. Enligt Meta indikerade tre delar av inlägget användning av en drog för att uppnå ett förändrat sinnestillstånd, eller att bli ”hög”: 1) beskrivningen av ketaminbehandlingen som en ”magical entry into another dimension” (magisk resa till en annan dimension), 2) beskrivningen ”[t]he feeling of both being pulled out of myself while being brought closer to my inner essential core” (känslan av att dras ut ur mig själv samtidigt som jag kom närmare min innersta kärna) samt 3) beskrivningen av behandlingen som en ”good trip” (bra tripp).

Meta anser att upplevelsen som användaren beskriver är ett exempel på den konflikt mellan definitionerna av läkemedel och icke-medicinska droger och läkemedel som nämns ovan. Meta underströk hur viktigt det är med innehåll som diskuterar nya behandlingar givet hur många fler fall av depression och ångest som rapporteras i världen, särskilt i efterdyningarna av covid-19. Meta lyfte även fram hur snabbt forskarvärlden och olika myndigheter har reagerat på användningen av hallucinogener, däribland ketamin, i behandlingar mot depression. Enligt en genomgång från 2022 som Meta citerade fann man inga kända fall av överdoser eller dödsfall när ketamin använts antidepressivt i terapeutiska miljöer i USA. Enligt Meta är innehållet ”ett tydligt exempel på den sorts innehåll vi vill tillåta enligt vår policy”. Företaget inser dock att förespråkande av legalt ketamin kan fresta andra att prova ketamin illegalt.

Meta slutsats var att användarens beskrivning av sin upplevelse av ”medicinskt administrerat ketamin” inte utgjorde någon risk för användarens eller någon annans säkerhet. Därför slog Meta fast att innehållet inte bröt mot communityregeln om begränsade varor och tjänster. Meta vidhöll att företagets beslut i det här ärendet delvis går emot regelns allmänna förbud mot innehåll som marknadsför användning av droger (både läkemedel och rekreationella droger) i syfte att bli hög eller nå ett förändrat sinnestillstånd. Trots det ansåg företaget att beslutet överensstämde med regelns syfte. Meta förklarade vidare att erkännande av intag eller marknadsföring av ketamin som medicinskt administrerat läkemedel är tillåtet eftersom det ligger i linje med företagets övergripande policy att främja diskussion om medicinska behandlingar. Enligt Meta är inte beslutet att låta innehållet vara kvar på Instagram ett undantag till, en justering eller överträdelse av policyn. Det är dessutom ett beslut som företaget skulle förvänta sig från alla granskare, oavsett om det tas inom ramen för bred granskning eller vid en eskalering.

Rådet ställde 22 skriftliga frågor till Meta. Frågor relaterade till statusen som hanterad partner och vilka kanaler som är tillgängliga för att överklaga moderatorers beslut, hur samarbetet mellan användaren och ketaminkliniken ser ut, vilken roll automatiseringen har i verkställigheten av relevanta innehållspolicyer, Metas bedömning av innehållet och kontexten givet relevanta innehållspolicyer, undantag enligt ”policyns andemening” samt Metas branded content-policyer. Meta besvarade samtliga frågor.

7. Kommentarer från allmänheten

Tillsynsrådet har tagit emot fem kommentarer från allmänheten gällande ärendet. Samtliga kommentarer kom från USA och Kanada. Tre kommentarer handlade om ketaminbehandlingars medicinska fördelar och hur viktigt det är att de kan diskuteras på Metas plattformar. Två underströk hur farligt det kan vara med rekreationellt ketaminbruk.

Rådet fick en kommentar från NABP (National Association of Boards of Pharmacy), en ideell organisation baserad i USA vars medlemmar innefattar de 50 amerikanska delstaternas läkemedelsnämnder samt läkemedelsverk i District of Columbia, Guam, Puerto Rico, Jungfruöarna, Bahamas och 10 kanadensiska provinser. Organisationen framhöll att en snabb sökning på mindre än en minut returnerar många inlägg med uppenbar reklam för rekreationellt ketaminbruk. NABP förde fram en liknande poäng kring behovet av att hantera otvetydiga överträdelser av communityregeln om begränsade varor och tjänster i rådets ärende Frågor om Adderall (PC-11235). Där tog organisationen upp förekomster där innehåll som försöker sälja Adderall och Xanax fått stå kvar på Facebook. I det här ärendet uppmanade organisationen Meta att prioritera sina åtgärder gällande uppenbara fall snarare än att ägna resurser åt gränsfall som i det aktuella ärendet.

Rådet fick också en kommentar från en leverantör av ketaminbehandlingar, Mindbloom (PC-11234), gällande den epidemiska utbredningen av psykisk ohälsa i USA. Mindblooms kommentar nämnde forskning kring hur ineffektiva de befintliga behandlingarna mot depression är. Leverantören nämnde också att möjligheten att sprida information om nya behandlingar som ketamin är mycket viktigt eftersom många inte är medvetna om att ketaminterapi är ett alternativ, trots att det finns mycket publicerad forskning om behandlingen.

Klicka här om du vill läsa de kommentarer som har skickats in från allmänheten gällande ärendet.

8. Tillsynsrådets analys

Rådet valde ut det här hänskjutna ärendet från Meta eftersom det var en möjlighet att granska och förtydliga Metas communityregel om begränsade varor och tjänster mot bakgrund av legaliseringen och normaliseringen av vissa droger, särskilt sådana med medicinska användningsområden. Efter att ha granskat ärendet anser rådet att det även väcker viktiga frågor kring innehåll i ”betalda partnersamarbeten” som gör reklam för läkemedel.

Rådet undersökte om sådant innehåll bör tas bort genom att analysera Metas innehållspolicyer, bland annat företagets branded content-policyer, Instagrams riktlinjer för communityn och Facebooks communityregler samt Metas värderingar och åtaganden kring mänskliga rättigheter.

8.1 Efterlevnad av Metas innehållspolicyer

I. Regler för innehåll

Rådet finner att innehållet i det aktuella ärendet bryter mot Metas branded content-policyer, som gäller om innehållet ingår i ett ”betalt partnersamarbete”.

Rådet finner också att innehållet skulle bryta mot communityregeln om begränsade varor och tjänster, även om det inte ingick i ett ”betalt partnersamarbete”.

Policyer för branded content

Eftersom innehållet i det här ärendet publicerades inom ramen för ett betalt partnersamarbete skulle branded content-policyerna ha tillämpats. Rådet är bekymrat över att Meta inte beskrev den här aspekten av ärendet i hänskjutningen eller den inledande kommunikationen. I stället fick rådet information om det här först efter att ha ställt följdfrågor kring innehållet och om det var sponsrat. Rådet uppskattar Metas engagemang i relation till frågorna och ser positivt på möjligheten att ta upp hur hanterade partner använder Instagram för betald marknadsföring av medicinska behandlingar. Som nämndes tidigare i avsnitt 2 så har de komplicerade gränsdragningarna kring betalat innehåll som marknadsför läkemedel uppmärksammats i både medicinska och juridiska kretsar. Rådet vill gärna se fler ärenden inom de här ämnena och ber Meta att dela all relevant information om ärenden som rådet överväger att välja ut, inklusive information om branded content-policyerna och affärspartner i förekommande fall.

Metas branded content-policyer anger att ”vissa varor, tjänster eller varumärken får kanske inte marknadsföras i branded content”. I policyn anges ”droger och drogrelaterade produkter, inklusive olagliga eller rekreationella droger” som förbjudna varor. Innehållet i det här ärendet var uppenbar reklam för användningen av ketamin. Även om upplevelsen och behandlingen som användaren beskriver verkar vara laglig i USA så är Metas policyer tydliga kring att sådant innehåll inte får marknadsföras via betalda partnersamarbeten på Instagram. Ketaminets status som läkemedel eller icke-medicinsk drog i det här sammanhanget är inte relevant för tillämpningen av branded content-policyerna. Innehållet skulle därför ha tagits bort, och Meta skulle inte behövt bry sig om den svåra gränsdragningen i communityregeln om begränsade varor och tjänster.

Branded content-policyerna anger att vissa innehållskategorier, som marknadsföring av ”apotek” eller ”receptbelagda läkemedel” kräver att affärspartnern som sponsrar innehållet har tillstånd från Meta att marknadsföra sina tjänster. Den här bestämmelsen gäller bara i ett litet antal jurisdiktioner, bland annat USA, och det är bara onlineapotek, läkarmottagningar online och läkemedelstillverkare som kan ansöka om ett sådant tillstånd. I det aktuella ärendet bekräftade Meta att affärspartnern som sponsrade innehållet inte hade ett sådant tillstånd. Inlägget bryter därmed mot policyn eftersom det saknar det tillstånd som behövs för det begränsade undantaget till det allmänna förbjudet mot marknadsföring av ”apotek” eller ”receptbelagda läkemedel” i branded content-policyerna.

Communityregeln om begränsade varor och tjänster

Meta vidhåller att communityregeln om begränsade varor och tjänster innehåller tvetydigheter. Å ena sidan tillåts marknadsföring av läkemedel. Å andra sidan förbjuds marknadsföring av droger som används i syfte att bli ”hög” eller nå ett förändrat sinnestillstånd. När ett läkemedel får brukaren att bli ”hög” står de här reglerna i konflikt med varandra. Om vi bortser från problemen kring att innehållet i det aktuella ärendet skapades inom ramen för ett betalt partnersamarbete så menade Meta att företagets värdering om röst, samt den låga sannolikheten för skada, gjorde att ärendet skulle hanteras som en tillåten diskussion av läkemedel.

Rådet finner att tvetydigheterna i den aktuella situationen bäst skulle hanteras med hänvisning till en ”övervakad klinisk miljö”, som i Metas interna riktlinjer till innehållsgranskare. Metas communityregel om begränsade varor och tjänster definierar läkemedel som ”läkemedel som måste skrivas ut eller administreras av läkare eller sjukvårdspersonal”. Droger definieras som ”droger eller ämnen som inte används i medicinskt syfte eller som används som rekreation i syfte att bli hög”. Enligt de här definitionerna är det vårdpersonalens överinseende över läkemedelsanvändningen, antingen via förskrivning eller administration på plats, som är den viktigaste skillnaden mellan de två kategorierna. Som förtydligande gör användningen av disjunktionen ”eller” i definitionen av icke-medicinska droger att alla substanser som kan användas för att bli ”hög” karaktäriseras som icke-medicinska droger även om de också är läkemedel. Rådet finner trots det att kategorierna läkemedel och icke-medicinska droger var tänkta att vara begreppsmässigt separata, och att skillnaden är vårdpersonalens överinsyn. Den logiska konsekvensen av det här är att droger som kan användas i syfte att bli ”hög” fortfarande ska ses som läkemedel om användningen övervakas av vårdpersonal.

Meta bör lösa tvetydigheten i communityregeln om begränsade varor och tjänster genom att modifiera den i enlighet med det här beslutet. Regeln bör mer explicit tillåta obetalt innehåll som beskriver användning av läkemedel i syfte att bli ”hög” så länge läkemedlen administreras under överinseende av vårdpersonal. Regeln bör förtydliga att överinseende från vårdpersonal kan demonstreras via indikatorer som ett direkt omnämnande av en medicinsk diagnos, en referens till vårdgivarens licens eller till medicinsk personal.

När regeln tillämpas på det aktuella innehållet finner rådet att innehållet bör tas bort. Det skulle ligga i linje med Metas interna riktlinjer till granskare, som endast tillåter innehåll där en användare erkänner eller främjar användning av läkemedel om det sker i en övervakad klinisk miljö, och riktlinjer om att behandla droger som gör användaren ”hög” eller ger ett förändrat sinnestillstånd som icke-medicinska droger. I sina inlagor till rådet hävdade Meta att användaren i det aktuella ärendet beskrev sin upplevelse av medicinskt administrerat ketamin. Rådet håller dock inte med Meta, eftersom det inte finns tillräckligt mycket i inlägget som tyder på att den aktuella ketaminanvändningen skedde under överinseende av vårdpersonal, det vill säga att läkemedlet administrerats av vårdpersonal. Dessutom saknades tillräckliga tecken i själva inlägget på att användaren hade fått en medicinsk diagnos för depression, att kontoret var en klinik licensierad för att administrera ketamin som behandling för depression eller att behandlingen bedrevs av faktisk vårdpersonal (inlägget nämnde inte några läkare, sjuksköterskor eller psykiatriker, enbart ”staff” (personal). Rådet anser att det är viktigt att Meta ger ytterligare vägledning till innehållsgranskare kring tillämpningen av Metas communityregel om begränsade varor och tjänster.

II. Verkställighet

Enligt Meta bedömde det automatiserade verktyget innehållet och avgjorde att det bröt mot communityregeln om begränsade varor och tjänster den 15 januari 2023, efter att en tredje användare rapporterat innehållet, och gjorde bedömningen baserat på tidigare verkställighetsåtgärder på innehållet. Meta sade att den aktuella automatiseringen är en klassificerare för begränsade varor och tjänster. Klassificerare inom maskininlärning tränas i att identifiera överträdelser av Metas communityregler.

Meta förklarade för rådet att klassificerarna för begränsade varor och tjänster tränas om var sjätte månad med den senaste träningsdatamängden som även tar hänsyn till resultat från överklaganden. I det här ärendet hade inte Metas klassificerare tränats om med resultatet från överklagandet, där bedömningen var att innehållet följde reglerna. Den framgångsrika överklagan hade därför ingen inverkan i automatiseringens beslut att ta bort innehållet, vilket de tidigare besluten om borttagning hade enligt Meta.

Rådet är bekymrat över fördröjningen på sex månader och uppmanar Meta att se till att företagets automatiserade processer tar hänsyn till framgångsrika överklaganden så snabbt det är möjligt utan att kompromissa med datamängdens integritet. Även om automatiseringen i slutänden fattade samma beslut som rådets analys av tillämpningen av communityregeln om begränsade varor och tjänster så fattades inte beslutet i enlighet med Metas egen tolkning av policyn när beslutet fattades.

Som svar på frågor från rådet om tillämpningen av Metas branded content-policyer sade företaget att inte allt innehåll med etiketten ”betalt partnersamarbete” granskas mot policyerna, samt att de mänskliga moderatorerna som granskar innehåll brett inte ser den här etiketten eller kan skicka vidare innehållet till specialistteamet som ansvarar för branded content-policyernas verkställighet. Meta förklarade att innehållet inte utvärderas mot branded content-policyerna när en bifogad ”betalt partnersamarbete”-etikett inte har granskats och godkänts av varumärkespartnern i förväg. Rådet uppmanar Meta att se till att företagets verkställighetsprocesser modifieras så att automatiserade och mänskliga granskare utvärderar innehåll mot alla relevanta policyer, inklusive Metas branded content-policyer i förekommande fall.

I det här ärendet tillämpades inte branded content-policyerna på betalt innehåll som marknadsförde ketamin. I mer allmänna termer noterar dock rådet att ärendet verkar vara ett exempel på att Metas läkemedelspolicyer inte tillämpas tillräckligt ofta. I en undersökning av Wall Street Journal nyligen som baserades på en annonsgranskning under fyra veckor i slutet av 2022 hittade tidningen fler än 2 100 annonser på Facebook och Instagram som beskrev fördelarna med olika receptbelagda läkemedel utan hänvisning till risker, som marknadsförde en ej godkänd användning av läkemedlet eller innehöll uttalanden där det inte framgick om ursprunget var en skådespelare eller medarbetare på företaget. I kommentaren från NABP (National Association of Boards of Pharmacy) till rådet hävdas även att det är vanligt med överträdelser av Metas communityregel om begränsade varor och tjänster. I det här ärendet belyste NABP särskilt att ketamin som tydligt är marknadsfört för rekreationell användning finns till försäljning på Instagram. Det här är inte heller första gången som NABP har tagit upp samma farhågor. I ärendet Frågor om Adderall 2021 tog NABP upp att innehåll som försöker sälja Adderall och Xanax har fått stå kvar på Facebook. Slutligen noterade amerikanska Drug Enforcement Agency nyligen att drogkarteller använder sociala medieplattformar till att sälja sina varor. Ett framväxande tema är att Meta noga bör granska verkställigheten av sina policyer gällande försäljning och betald marknadsföring av läkemedel.

III. Transparens

I ett försök att förstå om innehållet i det aktuella ärendet var varumärkesanpassat ställde rådet ett antal följdfrågor till Meta, där svaren visade att innehållet ingick i ett ”betalt partnersamarbete”. Meta förklarade att etiketten ”betalt partnersamarbete” indikerar att inlägget är branded content som kreatören kompenseras för, antingen i kontanta pengar eller någonting annat av värde, av en affärspartner. Kreatörer måste tagga varumärket eller affärspartnern när sådant innehåll publiceras, oavsett om publiceringen sker från ett konto som tillhör en kreatör, ett företag eller en individ.

Efter att rådet ställt fler frågor förtydligade dock Meta att förekomsten av etiketten ”betalt partnersamarbete” inte indikerade att den taggade affärspartnern nödvändigtvis godkänt etiketten, eftersom sådana partner kan ge kreatörer behörighet på kontonivå att tagga dem i branded content (så att inte etiketten måste godkännas för varje inlägg). Det här kan vara förvirrande för användarna. Meta uppmärksammade rådet på en artikel i Meta Hjälpcenter för företag i det här ämnet, men det krävdes flera steg för att hitta den här artikeln från Instagrams policyer, och förklaringen av hur etiketten ”betalt partnersamarbete” används i Instagrams hjälpcenter antyder att alla etiketter har godkänts. Rådet rekommenderar att Meta förtydligar innebörden av etiketten ”betalt partnersamarbete” i termer som är enkla att förstå i Transparenscenter, i artiklar i Hjälpcenter samt på andra ställen där Metas policyer förklaras för användarna.

8.2Efterlevnad av Metas ansvar för de mänskliga rättigheterna

Rådet anser att Metas strikta begränsningar gällande branded content som marknadsför droger och innehåll som försöker köpa, sälja, handla med, koordinera handel med, donera, ge bort eller be om icke-medicinska droger är kompatibla med företagets ansvar för de mänskliga rättigheterna att ”undvika att orsaka eller bidra till att de mänskliga rättigheterna påverkas negativt” och att ”försöka förhindra eller motverka negativ påverkan på de mänskliga rättigheterna” enligt UNGP (princip 13). Det här är särskilt viktigt med tanke på risken för människors rätt till hälsa och rätt till information i hälsorelaterade frågor, givet det analyserade inläggets natur. I analysen nedan utvärderade rådet talet mot bakgrund av Metas ansvar för att skydda yttrandefriheten (ICCPR, artikel 19).

Yttrandefrihet (artikel 19 ICCPR)

Artikel 19, paragraf 2 i ICCPR ger ett brett skydd av yttrandefriheten. I den här rättigheten ingår ”friheten att söka efter, ta emot och kommunicera information och idéer av alla de slag”. I kommentar 34 anger FN:s kommitté för mänskliga rättigheter specifika former av uttryck som omfattas av artikel 19, och noterar att rätten till yttrandefrihet ”även kanomfatta kommersiell marknadsföring ” (paragraf 11, vår betoning). Eftersom innehållet i det aktuella ärendet var betalt anser rådet att det kan likställas med marknadsföring, och att Meta bör väga in respekten för betalt innehåll, både marknadsföring och branded content, i sitt ansvar för de mänskliga rättigheterna.

I artikel 21 i CRPD anges skydd av yttrandefriheten för personer med funktionsnedsättning, vilket enligt artikel 1 omfattar ”personer med varaktiga fysiska, psykiska, intellektuella eller sensoriska funktionsnedsättningar, vilka i samspel med olika hinder kan motverka deras fulla och verkliga deltagande i samhället på lika villkor som andra”. CRPD säkerställer att de kan utöva den här friheten ”på lika villkor som andra och genom alla former av kommunikation som de själva väljer” (artikel 21, CRPD). FN:s kommitté för ekonomiska, sociala och kulturella rättigheter förklarar tydligt att ”tillgång till hälsorelaterad utbildning och information” är en mycket viktig del av rätten till hälsa enligt artikel 12 i ICESCR (allmän kommentar nr. 14, par. 11). Det här är särskilt viktigt eftersom antalet diagnostiserade fall av depression och annan psykisk ohälsa ökar i världen. Som rådet har noterat i tidigare beslut bör sociala medieföretag respektera yttrandefriheten kring läkemedel och icke-medicinska droger (se Läkemedel i Sri Lanka, Frågor om Adderall® och Ayahuasca).

När en stat begränsar yttrandefriheten måste den uppfylla kraven på laglighet, berättigat ändamål, nödvändighet och proportionalitet (artikel 19, paragraf 3, ICCPR). De här kraven kallas ofta för de ”tre villkoren” och gäller även begränsningar av kommersiellt tal eller marknadsföring. Rådet använder det här ramverket till att tolka Metas frivilliga åtaganden kring mänskliga rättigheter, både i relation till det enskilda innehållsbeslutet och i relation till Metas generella hållning gällande innehållsstyrning. Som FN:s specialrapportör om främjande och skydd av rätten till åsikts- och yttrandefrihet har beskrivit det ”har företag visserligen inte samma skyldigheter som myndigheter, men deras inverkan är av ett slag som gör det nödvändigt för dem att ta ställning till samma typer av frågor om att skydda sina användares rättigheter till yttrandefrihet” (A/74/486, paragraf 41).

I. Laglighet (reglernas tydlighet och tillgänglighet)

Laglighetsprincipen i internationell människorättslagstiftning kräver att regler som används till att begränsa yttrandefriheten ska vara tydliga och allmänt tillgängliga (allmän kommentar nr 34, paragraf 25). Regler som begränsar yttrandefriheten ”får inte ge de personer som ska tillämpa reglerna obehindrad möjlighet att begränsa rätten att uttrycka sig”. Reglerna måste vidare ”ge tillräcklig vägledning åt de personer som har till uppgift att verkställa dem, så att de kan säkerställa vilken typ av uttryck som bör begränsas och vilken typ som inte bör det” (Ibid). FN:s specialrapportör om främjande och skydd av rätten till åsikts- och yttrandefrihet har sagt att reglerna för uttalanden online bör vara tydliga och specifika (A/HRC/38/35, paragraf 46). De som använder Metas plattformar bör kunna få tillgång till och förstå reglerna, och innehållsgranskare bör få tydliga riktlinjer kring deras verkställighet.

Policyer för branded content

Rådet anser att Metas branded content-policyer är tillräckligt tydliga och tillgängliga för användare som vill delta i ”betalda partnersamarbeten”, så att de bör förstå i vilka sammanhang sådant innehåll är tillåtet. Det är tydligt för rådet att förbudet mot branded content för ”droger och drogrelaterade produkter” även omfattar tjänster där droger administreras. Givet att det blir allt vanligare med ketaminbehandling mot depression kan policyn göras tydligare genom att ange att läkemedelsbaserade behandlingar är förbjudna i innehåll med etiketten ”betalt partnersamarbete”.

Enligt policyn är det även tydligt att receptbelagda läkemedel och apotek bara får förekomma i betalda partnersamarbeten om ”affärspartnern har tillstånd att marknadsföra sina tjänster”. Posten är smal och tydlig, men relationen mellan den allmänna regeln och det här undantaget kan förklaras bättre. Rådet noterar att det finns två versioner av branded content-policyerna online, en i Metas ”Hjälpcenter för företag” som verkar gälla för både Facebook och Instagram (länkas från listan med innehållspolicyer i Transparenscenter) och en andra version på Instagrams hjälpsida, som bara verkar gälla Instagram. Även om de här reglerna verkar matcha så skulle situationen bli tydligare om dubbletten togs bort.

Rådet är mycket bekymrat över att breda innehållsgranskare inte kan se om innehåll som granskas ingår i ett ”betalt partnersamarbete” Granskarna kan därför inte heller avgöra om innehåll måste utvärderas mot branded content-policyerna förutom aktuella communityregler. Det här gör det mycket troligare att Metas branded content-policyer tillämpas för sällan. Innehållskreatören i det här ärendet kunde ha sluppit handläggningstiden på flera månader om innehållet hade granskats korrekt mot branded content-policyerna när det först rapporterades i december 2022. Allt branded content i samband med marknadsföring av läkemedel bör utvärderas proaktivt innan eller direkt efter publiceringen.

Policyn om begränsade varor och tjänster

Rådet anser att definitionerna av icke-medicinska droger och läkemedel som används i policyn om begränsade varor och tjänster inte lever upp till kravet på laglighet. Som vi noterat ovan tycks två regler stå i konflikt med varandra när de tillämpas på medicinskt övervakad användning av receptbelagda läkemedel där läkemedlen får användaren att bli ”hög” eller nå ett förändrat sinnestillstånd. Reglerna kring läkemedel tycks tillåta sådant innehåll medan reglerna om icke-medicinska droger förbjuder samma innehåll.

Rådet anser att reglerna är otydliga och att granskarna behöver bättre vägledning. Det är särskilt viktigt med tydliga regler för alla vars yttrandefrihet begränsas, men även för alla som ska tillämpa reglerna. Granskare som måste fatta snabba beslut måste få tillgång till tydliga regler som är enkla att tillämpa.

Rådet är även mycket bekymrat över möjligheten att Metas communityregel om begränsade varor och tjänster kan tillämpas inkonsekvent, en regel som i allmänhet förbjuder försök att köpa, sälja eller handla med icke-medicinska droger. Som rådet lyfte fram i ärendet Frågor om Adderall kan inkonsekvensen när regelvidrigt innehåll lämnas kvar online leda till förvirring kring vad som är tillåtet på Facebook.

II. Berättigat ändamål

Enligt artikel 19, paragraf 3 i ICCPR, kan yttrandefriheten begränsas enligt en definierad och begränsad lista med orsaker. I det här ärendet anser rådet att både branded content-policyerna och communityregeln om begränsade varor och tjänster kring marknadsföring av icke-medicinska droger och försök att köpa, sälja eller handla med icke-medicinska droger fungerar som berättigat ändamål i skyddet av den allmänna hälsan. De skyddar även andras rättigheter, bland annat rätten till hälsa och rätten till information om hälsorelaterade frågor (se ärendet Läkemedel i Sri Lanka).

III. Nödvändighet och proportionalitet

Enligt principen om nödvändighet och proportionalitet gäller att begränsningar av yttrandefriheten måste vara lämpliga för att uppnå sin skyddande funktion. De måste vara det minst inskränkande av de alternativ som skulle kunna användas för att uppnå den skyddande funktionen och de måste vara proportionerliga i förhållande till det intresse som ska skyddas (allmän kommentar nr 34, paragraf 34).

Som vi förklarade i avsnitt 2 ovan har antalet dokumenterade fall av depression ökat i världen. Delvis som svar på det här ökar även användningen av ketamin i behandling mot depression. Även om de verkar lovande så har vi inte någon lång erfarenhet av sådana behandlingar. Dessutom verkar missbruket av ketamin i rekreationella syften också vara på uppgång. I det här sammanhanget är borttagningen av innehållet en nödvändig och proportionell begränsning av yttrandefriheten med syfte att skydda den allmänna hälsan, människors rätt till hälsa och till information om hälsorelaterade frågor.

Policyer för branded content

Rådet finner WHO:s etiska kriterier för marknadsföring av läkemedel särskilt informativa. Enligt de här kriterierna bör inte läkemedel (i synnerhet narkotiska och psykotropiska läkemedel) marknadsföras till allmänheten, för att motverka beroendet (paragraf 14). Även om de skrevs flera årtionden innan sociala medier slog igenom ter de sig ännu mer relevanta i dag. Ytterligare kontext från USA hjälpte rådet att reflektera kring nödvändigheten och proportionaliteten för branded content-policyernas förbud mot marknadsföring av läkemedel. Enligt en rapport i Wall Street Journal utreds nu två onlinemottagningar som brukade göra reklam på Metas plattformar av amerikanska justitiedepartementet, efter att tidningen rapporterat att vissa läkare kände sig pressade att skriva ut centralstimulerande medel, och att vissa patienter och medarbetare ansåg att marknadsföringen bidrog till missbruk av narkotikaklassade läkemedel.

Rådet anser det därför nödvändigt att begränsa marknadsföringen av ketaminbehandling via ”betalda partnersamarbeten” på grund av risken för att marknadsföra rekreationell användning av ketamin bland användarna på Facebook and Instagram. Innehåll om hälsoinformation i betalda partnersamarbeten, i synnerhet i relation till läkemedel med missbrukspotential, kan strida mot användarnas rätt till hälsa och information om hälsorelaterade ämnen. De här riskerna blir större när influerare på sociala medier erbjuds starka incitament för att ge företag åtkomst till målgrupper vars hälsosituation kan vara sårbar. När betald marknadsföring berör antingen nödvändig medicinsk behandling eller olaglig rekreationell användning har Meta ett ansvar för att inse hur den egna plattformen kan missbrukas. Rådet anser att kommersiella påståenden som marknadsför ett visst läkemedel eller en tjänst bör separeras från budskap som inte är kommersiella. Begränsningar som kan vara oproportionella för obetalt innehåll som diskuterar läkemedel och icke-medicinska droger kan vara proportionella för betalt innehåll som gör reklam för samma produkter eller tjänster.

Rådet övervägde om det vore mer proportionellt att begränsa den här typen av betalt innehåll via mindre invasiva åtgärder, som att begränsa visningen till användare över en viss ålder, som Meta gör för alkohol och tobak (substanser som också förändrar användarens sinnestillstånd). Riskerna med den här typen av innehåll är dock inte begränsat till unga tittare. Vuxna kan också påverkas av vittnesmål från patientinfluerare, i synnerhet när de glamoriserar medicinska behandlingar som inte kanske är lämpliga för alla, utelämnar lämpliga säkerhetsvarningar och tonar ner eventuella risker. I enlighet med WHO:s etiska kriterier anser rådet att Metas strikta begränsningar gällande ”betalt partnersamarbete” för innehållet i det aktuella ärendet är proportionella.

Även om rådet anser att inlägget inte skulle ha tillåtits som ett ”betalt partnersamarbete” så är det också bekymrat över hur sådana samarbeten behandlas i de fall där innehåll kan anses marknadsföra receptbelagda läkemedel. Rådet noterar i synnerhet att allt etiketten ”betalt partnersamarbete” behöver göra i det här sammanhanget är att informera om en ekonomisk relation. En influerare kan använda samma etikett för ett inlägg som marknadsför en ny restaurang som för en ny eller experimentell medicinsk behandling. I den senare situationen är rådet bekymrat över hur dåligt framträdande etiketterna är, och att det saknas skräddarsydd information som antingen lyfter fram risker eller pekar på ytterligare resurser som behandlar riskerna.

Rådet noterar att hanteringen av ”betalda samarbeten” står i kontrast till Metas ”informationsbehandling” gällande vissa kategorier av felaktig hälsoinformation. De etiketterna länkar exempelvis till ytterligare resurser från faktagranskare och offentliga hälsomyndigheter (se Rådgivande policyyttrande rörande borttagning av felaktig information om covid-19). Rådet noterar vidare att användare som tillåts gilla och kommentera sådana inlägg riskerar att drabbas av personer som marknadsför olagligt ketamin eller andra substanser på Metas plattformar. En del sådana personer kan lida av depression och ha begränsad tillgång till effektiv behandling. De kan därför vara särskilt sårbara för den här typen av exploatering.

Communityregeln om begränsade varor och tjänster

Rådet finner att tolkningen av communityregeln utgör en begränsning av yttrandefriheten som är nödvändig och proportionell sett till syftet att förhindra drogmissbruk. Rådet skiljer det här ärendet från det tidigare ärendet Frågor om Adderall, där rådet inte fann någon direkt eller omedelbar koppling mellan innehållet och någon potentiell fara. I det senare ärendet ville användaren helt enkelt ha råd kring kommunikationen med sin läkare, och hade inte för avsikt att sälja, illegalt införskaffa eller marknadsföra Adderall. I det här ärendet försöker användaren å andra sidan aktivt göra reklam för användningen av ketamin utan att trycka på behovet av medicinskt överinseende, vilket medför betydande risker för användarnas säkerhet, särskilt i kombination med liknande innehåll i stor skala. Metas communityregel om begränsade varor och tjänster bör tillåta innehåll som beskriver användning av ketamin, men bara när det sker under överinseende av vårdpersonal. Till skillnad från Meta finner inte rådet tillräckliga tecken på att intaget av ketamin skedde under medicinskt överinseende i själva innehållet.

Rådet övervägde om begränsningen bör vara mer tillåtande och godkänna innehåll som beskriver användning under ”terapeutiskt” överinseende. Rådet beaktade den genomgång som Meta citerade, där inga kända fall av överdoser eller dödsfall hittades när ketamin använts antidepressivt i terapeutiska miljöer i USA. Rådet förkastar dock den mer tillåtande hållningen av flera skäl. För det första finns det evidens för att den olagliga användningen av ketamin också ökar, vilket gör situationen 2022 till en dålig baslinje för resonemang kring att motverka missbruk. För det andra noterar rådet att termen ”terapeutisk” är relativt vag, så att det blir svårt för granskare att tillämpa regeln. Slutligen ger rådet större vikt åt hänvisningen till läkaryrket som är implicit i Metas definition av läkemedel och icke-medicinska droger, som vi förklarade i avsnitt 8.1 ovan.

Rådet övervägde även om begränsningen med medicinskt överinseende stod i konflikt med rådets tidigare beslut i ärendet Ayahuasca. I det beslutet rekommenderade rådet att Meta skulle ändra sina regler så att användare tillåts diskutera traditionell och religiös användning av icke-medicinska droger på ett positivt sätt. Där krävde inte rådet att droganvändningen behövde ske under medicinskt överinseende.

Vi anser att begränsningen med medicinskt överinseende ligger i linje med analysen i ärendet Ayahuasca. Traditionell och religiös droganvändning har vanligtvis en lång historia som i sig fungerar skademinimerande. Enligt experter på traditionell etnobotanik visar den långa historiska användningen på drogens säkerhet och effekt. Som rådet fann i ärendet Ayahuasca har de här ritualerna dessutom en viss dignitet tack vare kopplingen till vissa samhällens spirituella och traditionella identitet.

9. Tillsynsrådets beslut

Tillsynsrådet upphäver Metas beslut om att låta det här betalda innehållet stå kvar och kräver att inlägget ska tas bort.

10. Rekommendationer

Innehållspolicy

1. Meta bör förtydliga innebörden i etiketten ”betalt partnersamarbete” i Transparenscenter och Instagrams Hjälpcenter. I det här ingår att förklara vilken roll affärspartnern har när etiketten ”betalt partnersamarbete” godkänns. Rådet anser den här rekommendationen vara implementerad när Metas branded content-policyer uppdateras med de här förtydligandena.

2. Meta bör förtydliga lydelsen av communityregeln om begränsade varor och tjänster, så att inlägg som beskriver bruk eller som marknadsför användningen av läkemedel även är tillåtna om användaren blir ”hög” i en övervakad klinisk miljö. Meta bör även definiera vad en övervakad klinisk miljö är och förklara i communityregeln om begränsade varor och tjänster att överinseende från vårdpersonal kan demonstreras via indikatorer som ett direkt omnämnande av en medicinsk diagnos, en referens till vårdgivarens licens eller till medicinsk personal. Rådet anser den här rekommendationen vara implementerad när Metas communityregel om begränsade varor och tjänster uppdateras med de här förtydligandena.

Verkställighet

3. Meta bör förbättra sina granskningsprocesser så att innehåll som publiceras inom ramen för ett betalt partnersamarbete granskas ordentligt mot alla gällande policyer (till exempel communityregler och branded content-policyer). I synnerhet bör meta etablera ett sätt för breda innehållsgranskare att skicka vidare innehåll som kan bryta mot branded content-policyerna till Metas specialistteam eller automatiserade system som är tränade i att tillämpa Metas branded content-policyer i förekommande fall. Rådet anser den här rekommendationen vara implementerad när Meta delar sin förbättrade granskningslogik och visar hur den gör att alla relevanta plattformsregler och innehållspolicyer tillämpas när sannolikheten är hög för att någon sådan policy överträds.

4. Meta bör granska verkställigheten av policyrader i branded content-policyerna (”vi förbjuder marknadsföring av följande [...] 4. Droger och drogrelaterade produkter, inklusive olagliga och rekreationella droger”) och communityregeln om begränsade varor och tjänster (”publicera inte innehåll som försöker köpa, sälja, handla, koordinera handel av, donera, ge bort eller be om icke-medicinska droger”). Rådet anser att Meta har tydliga och försvarbara metoder som inför strikta begränsningar på betald marknadsföring av läkemedel (enligt branded content-policyerna) och försök att köpa, sälja eller handla med droger (enligt communityregeln om begränsade varor och tjänster). Rådet ser dock vissa tecken på att policyerna kanske tillämpas inkonsekvent. För att förtydliga om så är fallet bör Meta granska hur branded content-policyerna och communityregeln om begränsade varor och tjänster tillämpas med avseende på läkemedel och icke-medicinska droger. Företaget bör sedan täppa till eventuella luckor i verkställigheten. Rådet anser den här rekommendationen vara implementerad när Meta delar metoder och resultat i sin granskning och meddelar hur eventuella luckor i verkställigheten som framkommit i granskningen ska täppas till.

* Procedurmässig notering:

Tillsynsrådets beslut utarbetas av en panel bestående av fem medlemmar och godkänns av en majoritet av rådet. Rådets beslut återspeglar inte nödvändigtvis alla medlemmars personliga åsikter.

Inför beslutet i det här ärendet genomfördes oberoende efterforskningar på uppdrag av rådet. Rådet bistods av Duco Advisors, en konsultfirma med inriktning på skärningspunkten mellan geopolitik, förtroende och säkerhet och teknik. Memetica, en organisation som bedriver offentlig forskning kring trender i sociala medier, bidrog också med analyser.