แถบลูกปัดวัมพุม

ข้อมูลโดยสรุปของกรณี

หมายเหตุ: เมื่อวันที่ 28 ตุลาคม 2564 Facebook ได้ประกาศเปลี่ยนชื่อบริษัทเป็น Meta ในเนื้อหานี้ Meta หมายถึงบริษัท และ Facebook จะยังคงหมายถึงผลิตภัณฑ์และนโยบายที่มาพร้อมกับแอพดังกล่าวต่อไป

คณะกรรมการกำกับดูแลได้กลับคำตัดสินเดิมของ Meta ที่จะลบโพสต์บน Facebook ซึ่งเผยแพร่โดยศิลปินชนพื้นเมืองของทวีปอเมริกาเหนือ โดยบริษัทได้ลบโพสต์ดังกล่าวออกภายใต้มาตรฐานชุมชนว่าด้วยคำพูดที่แสดงความเกลียดชังของ Facebook ทั้งนี้ คณะกรรมการเห็นว่าเนื้อหาของโพสต์ดังกล่าวอยู่ภายในขอบเขตของข้ออนุญาตที่ให้ไว้ในนโยบายว่าด้วยคำพูดที่แสดงความเกลียดชัง เนื่องจากเนื้อหาดังกล่าวมีเจตนาที่จะสร้างการตระหนักรู้ถึงอาชญากรรมในอดีตที่เกิดขึ้นกับชนพื้นเมืองในทวีปอเมริกาเหนือ

เกี่ยวกับกรณี

เมื่อเดือนสิงหาคม พ.ศ. 2564 ผู้ใช้ Facebook รายหนึ่งได้โพสต์รูปภาพของแถบลูกปัดวัมพุม (Wampum belt) พร้อมข้อความอธิบายประกอบเป็นภาษาอังกฤษ แถบลูกปัดวัมพุมคือศิลปะรูปแบบหนึ่งของชนพื้นเมืองในทวีปอเมริกาเหนือที่เกิดจากการนำเปลือกหอยมาเรียงร้อยเข้าด้วยกันเพื่อก่อให้เกิดเป็นภาพ ซึ่งใช้ในการบันทึกเรื่องราวและข้อตกลงต่างๆ ทั้งนี้ แถบลูกปัดดังกล่าวประกอบไปด้วยลวดลายชุดหนึ่งซึ่งผู้ใช้กล่าวว่าได้รับแรงบันดาลใจมาจาก “the Kamloops story” (เรื่องราวที่แคมลูปส์) โดยเป็นการอ้างถึงการค้นพบหลุมศพไร้ป้ายที่อดีตโรงเรียนประจำสำหรับเด็กชนพื้นเมืองในรัฐบริติชโคลัมเบีย ประเทศแคนาดาเมื่อเดือนพฤษภาคม พ.ศ. 2564

ข้อความในโพสต์ระบุว่าชื่อของงานศิลปะคือ “Kill the Indian/ Save the Man” (ฆ่าความเป็นชนพื้นเมือง/ช่วยชีวิตคน) และระบุว่าผู้ใช้คือผู้สร้างสรรค์ผลงานดังกล่าว โดยผู้ใช้ได้อธิบายถึงชุดภาพที่แสดงบนแถบลูกปัดไว้ดังนี้ “Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home.” (การช่วงชิงผู้บริสุทธิ์, ความชั่วร้ายในคราบนักบุญ, โรงเรียนประจำ/ค่ายกักกัน, รอคอยการค้นพบ และพาลูกหลานของเรากลับบ้าน) ในโพสต์ ผู้ใช้ได้อธิบายความหมายของงานศิลปะของตน รวมถึงประวัติของแถบลูกปัดวัมพุม และวัตถุประสงค์การใช้งานแถบลูกปัดดังกล่าวในฐานะสื่อการเรียนรู้ ผู้ใช้ยังกล่าวอีกว่าการทำแถบลูกปัดเส้นดังกล่าวมิใช่เรื่องง่าย และการบอกเล่าเรื่องราวที่เกิดขึ้นที่แคมลูปส์ก็สะเทือนอารมณ์อย่างยิ่ง นอกจากนี้ เขายังได้ขออภัยหากงานศิลปะของตนสร้างความเจ็บปวดให้ผู้ที่รอดชีวิตจากเหตุการณ์ที่แคมลูปส์ โดยเน้นย้ำว่า “sole purpose is to bring awareness to this horrific story.” (วัตถุประสงค์เพียงหนึ่งเดียวของตนคือสร้างการตระหนักรู้เกี่ยวกับเรื่องราวสะเทือนขวัญนี้)

ระบบอัตโนมัติของ Meta ได้ระบุว่าเนื้อหาดังกล่าวละเมิดมาตรฐานชุมชนว่าด้วยคำพูดที่แสดงความเกลียดชังของ Facebook หลังจากผู้ใช้โพสต์เนื้อหาได้หนึ่งวัน นอกจากนี้ เจ้าหน้าที่ตรวจสอบก็ได้ประเมินว่าเนื้อหาดังกล่าวละเมิดมาตรฐานชุมชนเช่นกัน และได้ลบเนื้อหาออกในวันเดียวกัน ต่อมา ผู้ใช้ได้ยื่นอุทธรณ์ต่อ Meta เพื่อโต้แย้งคำตัดสินและขอให้มีการตรวจสอบโดยเจ้าหน้าที่ตรวจสอบเป็นครั้งที่สอง ซึ่งเจ้าหน้าที่ก็ได้ประเมินว่าเนื้อหาละเมิดมาตรฐานชุมชนอีกครั้ง ในตอนที่ Meta ลบเนื้อหาออก มีผู้รับชมเนื้อหาไปแล้วมากกว่า 4,000 ครั้ง และมีการแชร์เนื้อหาไปแล้วมากกว่า 50 ครั้ง ไม่มีผู้ใช้รายใดรายงานเนื้อหาดังกล่าว

เนื่องจากคณะกรรมการเลือกกรณีนี้เพื่อการพิจารณา Meta จึงได้ระบุว่าการลบโพสต์ออกเป็น “ข้อผิดพลาดในการบังคับใช้” และได้กู้คืนเนื้อหาในวันที่ 27 สิงหาคม อย่างไรก็ตาม Meta ไม่ได้แจ้งผู้ใช้เกี่ยวกับการกู้คืนเนื้อหาดังกล่าวจนถึงวันที่ 30 กันยายน ซึ่งนับเป็นเวลาสองวันหลังจากที่คณะกรรมการขอข้อความที่ Meta ส่งไปหาผู้ใช้ Meta ได้อธิบายว่าการส่งข้อความล่าช้านั้นเป็นข้อผิดพลาดที่เกิดจากมนุษย์

ข้อมูลสำคัญที่พบ

Meta ยอมรับว่าคำตัดสินเดิมของบริษัทที่จะลบเนื้อหานี้ออกนั้นขัดแย้งต่อมาตรฐานชุมชนของ Facebook และเป็น “ข้อผิดพลาดในการบังคับใช้” ทั้งนี้ คณะกรรมการเห็นว่าเนื้อหานี้เป็นตัวอย่างที่เด่นชัดของ “การให้ความเห็นโต้แย้ง” ซึ่งเป็นการอ้างถึงคำพูดที่แสดงความเกลียดชังเพื่อต่อต้านการกดขี่และการเลือกปฏิบัติ

บทนำของนโยบายว่าด้วยคำพูดที่แสดงความเกลียดชังของ Facebook อธิบายว่าบริษัทอนุญาตให้มีการให้ความเห็นโต้แย้งในกรณีที่มีการระบุถึงเจตนาของผู้ใช้อย่างชัดเจน คณะกรรมการเห็นได้ชัดเจนจากเนื้อหาของโพสต์ว่าเนื้อหาดังกล่าวไม่ได้เป็นคำพูดที่แสดงความเกลียดชังแต่อย่างใด งานศิลปะในโพสต์บอกเล่าเรื่องราวเกี่ยวกับเหตุการณ์ที่เกิดขึ้นที่แคมลูปส์ และคำบรรยายประกอบก็อธิบายถึงความสำคัญของเหตุการณ์ดังกล่าว แม้คำว่า “Kill the Indian” (ฆ่าความเป็นชนพื้นเมือง) อาจเป็นคำพูดที่แสดงความเกลียดชังได้หากใช้เดี่ยวๆ แต่ในบริบทนี้ วลีดังกล่าวได้ชักนำความสนใจของผู้อ่านไปที่การกระทำด้วยความเกลียดชังและการเลือกปฏิบัติ ทั้งยังประณามพฤติกรรมดังกล่าว

คณะกรรมการนึกย้อนถึงคำตัดสิน 2020-005-FB-UA ของกรณีซึ่งเกี่ยวเนื่องกับคำพูดอ้างอิงจากเจ้าหน้าที่คนหนึ่งของพรรคนาซี กรณีดังกล่าวให้บทเรียนที่คล้ายกันเกี่ยวกับวิธีการประเมินเจตนาโดยใช้ตัวบ่งชี้อื่นนอกเหนือจากข้อความตรงๆ เช่น เนื้อหาและความหมายของคำพูดอ้างอิง ช่วงเวลาและประเทศที่โพสต์ถูกเผยแพร่ รวมถึงสาระสำคัญของปฏิกิริยาและความคิดเห็นของผู้อื่นที่มีต่อโพสต์

ในกรณีนี้ คณะกรรมการเห็นว่าผู้ใช้ไม่จำเป็นต้องกล่าวโดยชัดแจ้งว่าตนกำลังสร้างการตระหนักรู้เพื่อให้ผู้รับสารทราบว่าโพสต์ดังกล่าวเป็นการให้ความเห็นโต้แย้งแต่อย่างใด คณะกรรมการได้ตั้งข้อสังเกตถึง “คำถามที่ทราบ” ที่บริษัทส่งเป็นการภายในไปยังผู้ควบคุมซึ่งระบุว่าการกล่าวถึงเจตนาที่ชัดเจนนั้นไม่เพียงพอที่จะเปลี่ยนนัยสำคัญของโพสต์ที่มีคำพูดที่แสดงความเกลียดชังเสมอไป โดยผู้ควบคุมควรตีความเนื้อหาเพื่อประเมินเจตนา และไม่พึ่งพิงข้อความที่ชัดเจนแต่เพียงอย่างเดียว

ผู้ควบคุมสองรายได้สรุปว่าโพสต์นี้มีคำพูดที่แสดงความเกลียดชัง แต่ Meta ไม่สามารถให้เหตุผลที่เจาะจงได้ว่าเพราะเหตุใดข้อผิดพลาดเช่นนี้จึงเกิดขึ้นซ้ำสองครั้ง

คำตัดสินของคณะกรรมการกำกับดูแล

คณะกรรมการกำกับดูแลกลับคำตัดสินเดิมของ Meta ที่ลบเนื้อหาออก

ในคำแถลงเพื่อให้คำแนะนำด้านนโยบาย คณะกรรมการแนะนำให้ Meta ดำเนินการดังนี้

• แจ้งเตือนผู้ใช้เกี่ยวกับการดำเนินการใดๆ ของบริษัทที่กระทำกับเนื้อหาที่เกี่ยวข้องกับการอุทธรณ์อย่างตรงเวลาและถูกต้อง ทั้งนี้ บริษัทควรระบุในการแจ้งเตือนที่ส่งไปให้ผู้ใช้ว่าการดำเนินการดังกล่าวเป็นผลเนื่องมาจากกระบวนการทบทวนของคณะกรรมการกำกับดูแลเมื่อสามารถทำได้ รวมทั้งในกรณีที่เกิดข้อผิดพลาดในการบังคับใช้เช่นนี้
• ศึกษาเกี่ยวกับผลกระทบที่มีต่อความแม่นยำของเจ้าหน้าที่ตรวจสอบเมื่อผู้ควบคุมเนื้อหาได้รับแจ้งว่าพวกเขากำลังดำเนินการทบทวนเป็นครั้งที่สองอยู่ เพื่อที่พวกเขาจะได้ทราบว่าคำตัดสินในครั้งแรกได้ถูกโต้แย้ง
• ทำการประเมินความแม่นยำของเจ้าหน้าที่ตรวจสอบโดยเน้นไปที่ข้ออนุญาตของนโยบายว่าด้วยคำพูดที่แสดงความเกลียดชัง ซึ่งครอบคลุมถึงการแสดงออกในเชิงศิลปะและการแสดงออกเกี่ยวกับการละเมิดสิทธิมนุษยชน (ได้แก่ การประณาม การสร้างการตระหนักรู้ การใช้เพื่ออ้างอิงถึงตนเอง และการใช้เพื่อสร้างแรงผลักดัน) การประเมินนี้ควรมีการสืบหาอย่างเจาะจงว่าตำแหน่งที่ตั้งของเจ้าหน้าที่ตรวจสอบส่งผลกระทบอย่างไรต่อความสามารถของผู้ควบคุมในการประเมินคำพูดที่แสดงความเกลียดชังและการให้ความเห็นโต้แย้งจากผู้ที่อยู่ในภูมิภาคเดียวกันหรือภูมิภาคอื่นอย่างถูกต้อง ทั้งนี้ Meta ควรแจ้งเกี่ยวกับผลลัพธ์ของการประเมินนี้กับคณะกรรมการ ซึ่งรวมถึงการแจ้งว่าผลลัพธ์ดังกล่าวจะช่วยปรับปรุงการบังคับใช้และการพัฒนานโยบายอย่างไร และบริษัทมีแผนที่จะจัดทำการประเมินความแม่นยำของเจ้าหน้าที่ตรวจสอบเกี่ยวกับข้ออนุญาตเหล่านี้เป็นประจำหรือไม่ นอกจากนี้ คณะกรรมการยังขอให้ Meta แบ่งปันข้อมูลสรุปของผลลัพธ์ของการประเมินดังกล่าวอย่างเป็นสาธารณะในรายงานความโปร่งใสรายไตรมาสของคณะกรรมการเพื่อเป็นการแสดงให้เห็นว่าบริษัทได้ปฏิบัติตามคำแนะนำนี้ด้วย

*ข้อมูลสรุปของกรณีจะกล่าวถึงภาพรวมของกรณีนี้และไม่อาจถือเป็นบรรทัดฐาน

คำตัดสินฉบับสมบูรณ์ของกรณี

1. ข้อมูลโดยสรุปของคำตัดสิน

คณะกรรมการกำกับดูแลกลับคำตัดสินเดิมของ Meta ที่จะลบโพสต์ซึ่งเผยแพร่โดยศิลปินชนพื้นเมืองในทวีปอเมริกาเหนือ ซึ่งประกอบด้วยรูปภาพของผลงานศิลปะของตนพร้อมชื่อของผลงานดังกล่าว โดยมีการอ้างถึงเหตุการณ์การใช้คำพูดที่แสดงความเกลียดชังในอดีต Meta ยอมรับว่าโพสต์ดังกล่าวอยู่ภายในขอบเขตของข้ออนุญาตที่ระบุไว้ในมาตรฐานชุมชนว่าด้วยคำพูดที่แสดงความเกลียดชัง เนื่องจากเนื้อหามีเจตนาที่จะสร้างการตระหนักรู้ถึงอาชญากรรมในอดีตที่เกิดขึ้นกับชนพื้นเมืองในทวีปอเมริกาเหนืออย่างชัดเจน

2. คำอธิบายกรณี

เมื่อต้นเดือนสิงหาคม พ.ศ. 2564 ผู้ใช้ Facebook รายหนึ่งได้โพสต์รูปภาพของแถบลูกปัดวัมพุม พร้อมข้อความอธิบายประกอบเป็นภาษาอังกฤษ แถบลูกปัดวัมพุมคือศิลปะรูปแบบหนึ่งของชนพื้นเมืองในทวีปอเมริกาเหนือที่เกิดจากการนำเปลือกหอยมาเรียงร้อยเข้าด้วยกันเพื่อก่อให้เกิดเป็นภาพ ซึ่งใช้ในการบันทึกเรื่องราวและข้อตกลงต่างๆ ทั้งนี้ แถบลูกปัดดังกล่าวประกอบไปด้วยลวดลายชุดหนึ่งซึ่งผู้ใช้กล่าวว่าได้รับแรงบันดาลใจมาจาก “the Kamloops story” (เรื่องราวที่แคมลูปส์) โดยเป็นการอ้างถึงการค้นพบหลุมศพไร้ป้ายที่อดีตโรงเรียนประจำสำหรับเด็กชนพื้นเมืองในรัฐบริติชโคลัมเบีย ประเทศแคนาดาเมื่อเดือนพฤษภาคม พ.ศ. 2564

ข้อความในโพสต์ระบุว่าชื่อของงานศิลปะคือ “Kill the Indian/ Save the Man” (ฆ่าความเป็นชนพื้นเมือง/ช่วยชีวิตคน) และระบุว่าผู้ใช้คือผู้สร้างสรรค์ผลงานดังกล่าว จากนั้น ผู้ใช้ก็ได้ให้รายการของวลีที่เกี่ยวเนื่องกับชุดรูปภาพที่ปรากฏบนแถบลูกปัด ซึ่งมีความว่า “Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home.” (การช่วงชิงผู้บริสุทธิ์, ความชั่วร้ายในคราบนักบุญ, โรงเรียนประจำ/ค่ายกักกัน, รอคอยการค้นพบ และพาลูกหลานของเรากลับบ้าน) ในโพสต์ ผู้ใช้ได้อธิบายความหมายของงานศิลปะของตน รวมถึงประวัติของแถบลูกปัดวัมพุม และวัตถุประสงค์การใช้งานแถบลูกปัดดังกล่าวในฐานะสื่อการเรียนรู้ ผู้ใช้ยังกล่าวอีกว่าการทำแถบลูกปัดเส้นดังกล่าวมิใช่เรื่องง่าย และการบอกเล่าเรื่องราวที่เกิดขึ้นที่แคมลูปส์ก็สะเทือนอารมณ์อย่างมาก จากนั้น เขายังกล่าวต่ออีกว่าเรื่องราวดังกล่าวไม่ควรถูกปกปิดเพื่อไม่ให้สาธารณชนทราบอีก และเขาหวังว่าแถบลูกปัดนี้จะช่วยป้องกันไม่ให้เหตุการณ์ดังกล่าวเกิดขึ้น ผู้ใช้สรุปโพสต์ของตนโดยการกล่าวขออภัยหากงานศิลปะของตนได้สร้างความเจ็บปวดให้ผู้ที่รอดชีวิตจากระบบโรงเรียนประจำ โดยระบุว่า “sole purpose is to bring awareness to this horrific story.” (วัตถุประสงค์เพียงหนึ่งเดียวของตนคือสร้างการตระหนักรู้เกี่ยวกับเรื่องราวสะเทือนขวัญนี้)

ระบบอัตโนมัติของ Meta ได้ระบุว่าเนื้อหาดังกล่าวละเมิดมาตรฐานชุมชนว่าด้วยคำพูดที่แสดงความเกลียดชังของ Facebook หลังจากผู้ใช้โพสต์เนื้อหาได้หนึ่งวัน นอกจากนี้ เจ้าหน้าที่ตรวจสอบก็ได้ประเมินว่าเนื้อหาดังกล่าวละเมิดมาตรฐานชุมชนเช่นกัน และได้ลบเนื้อหาออกในวันเดียวกัน ต่อมา ผู้ใช้ได้ยื่นอุทธรณ์ต่อ Meta เพื่อโต้แย้งคำตัดสินและขอให้มีการตรวจสอบโดยเจ้าหน้าที่ตรวจสอบเป็นครั้งที่สอง ซึ่งเจ้าหน้าที่ก็ได้ประเมินว่าเนื้อหาละเมิดมาตรฐานชุมชนอีกครั้ง ในตอนที่ Meta ลบเนื้อหาออก มีผู้รับชมเนื้อหาไปแล้วมากกว่า 4,000 ครั้ง และมีการแชร์เนื้อหาไปแล้วมากกว่า 50 ครั้ง ไม่มีผู้ใช้รายใดรายงานเนื้อหาดังกล่าว เนื่องจากคณะกรรมการเลือกกรณีนี้เพื่อการพิจารณา Meta จึงได้ระบุว่าการลบโพสต์ออกเป็น “ข้อผิดพลาดในการบังคับใช้” และได้กู้คืนเนื้อหาในวันที่ 27 สิงหาคม อย่างไรก็ตาม Meta ไม่ได้แจ้งผู้ใช้เกี่ยวกับการกู้คืนเนื้อหาดังกล่าวจนถึงวันที่ 30 กันยายน ซึ่งนับเป็นเวลาสองวันหลังจากที่คณะกรรมการขอข้อความที่ Meta ส่งไปหาผู้ใช้ Meta ได้อธิบายว่าการส่งข้อความล่าช้านั้นเป็นข้อผิดพลาดที่เกิดจากมนุษย์ ทั้งนี้ ข้อความดังกล่าวไม่ได้แจ้งให้ผู้ใช้ทราบว่าบริษัทได้กู้คืนเนื้อหาของผู้ใช้แล้ว ซึ่งเป็นผลสืบเนื่องจากการที่ผู้ใช้ยื่นอุทธรณ์ต่อคณะกรรมการและการเลือกที่จะพิจารณากรณีนี้ของคณะกรรมการ

ความคิดเห็นสาธารณะของสมาคมกิจการอเมริกันอินเดียน (ความคิดเห็นสาธารณะที่ 10208) ได้ชี้แจงว่าคำพูดอ้างอิงที่ใช้เป็นชื่อของผลงานศิลปะคือคำพูดของ Richard Henry Pratt ซึ่งเป็นนายทหารที่ก่อตั้งโรงเรียนประจำสำหรับชนพื้นเมืองของรัฐบาลกลางแห่งแรกในสหรัฐอเมริกา โดยวลีดังกล่าวคือข้อสรุปของนโยบายที่อยู่เบื้องหลังการก่อตั้งโรงเรียนประจำเหล่านี้ ซึ่งมีเจตนาคือการบังคับ “สร้างอารยธรรม” ให้แก่ชนพื้นเมือง และ “ขจัดร่องรอยทั้งหมดของวัฒนธรรมของชนพื้นเมือง” นโยบายที่คล้ายกันนี้ก็ได้ถูกนำไปใช้ในแคนาดาเช่นกัน โดย คณะกรรมการตรวจสอบและค้นหาความจริงเพื่อการปรองดองแห่งชาติของแคนาดาเห็นว่านโยบายดังกล่าวเทียบเท่ากับการฆ่าล้างเผ่าพันธุ์ทางวัฒนธรรม

การอ้างอิงของผู้ใช้ถึงเหตุการณ์ที่เกิดขึ้นที่ “แคมลูปส์” คือการอ้างอิงถึงโรงเรียนประจำอินเดียนแคมลูปส์ ซึ่งเป็นโรงเรียนประจำสำหรับเด็กชนพื้นเมืองที่รัฐบริติชโคลัมเบีย ประเทศแคนาดา เมื่อเดือนพฤษภาคม พ.ศ. 2564 หัวหน้าของกลุ่มชนพื้นเมืองเทอห์แคมลูบส์ เทอห์ เซอห์เคว็บเมอห์ ได้ประกาศถึงการค้นพบหลุมศพไร้ป้ายที่แคมลูปส์ โดยเจ้าหน้าที่ได้ยืนยันว่ามีสถานที่ซึ่งน่าจะเป็นที่ฝังศพ 200 แห่งในพื้นที่

รัฐบาลของแคนาดาคาดว่าน่าจะมีเด็กชนพื้นเมืองจำนวน 150,000 คนที่ผ่านระบบโรงเรียนประจำก่อนที่โรงเรียนแห่งสุดท้ายจะปิดตัวไปในปีพ.ศ. 2540 โดยเด็กชนพื้นเมืองมักจะถูกบังคับให้จากครอบครัวของตนและถูกห้ามไม่ให้แสดงออกซึ่งวัฒนธรรมของชนพื้นเมืองใดๆ นอกจากนี้ ทางโรงเรียนก็ยังใช้การลงโทษทางร่างกายที่ทั้งรุนแรงและไม่เหมาะสม และเจ้าหน้าที่ของโรงเรียนก็มักกระทำหรือต้องทนกับการข่มเหงทางเพศและการใช้ความรุนแรงที่หนักหน่วงกับนักเรียนหลายคน นักเรียนเหล่านั้นล้วนขาดสารอาหาร โรงเรียนไม่ได้มีแหล่งทำความร้อนหรือสุขอนามัยที่ดี และนักเรียนหลายคนก็เสียชีวิตลงเพราะวัณโรคหรือโรคอื่นๆ โดยแทบไม่ได้รับการรักษาทางการแพทย์ คณะกรรมการตรวจสอบและค้นหาความจริงเพื่อการปรองดองแห่งชาติได้สรุปว่ามีนักเรียนอย่างน้อย 4,100 คนที่เสียชีวิตขณะที่เรียนที่โรงเรียนเหล่านี้ โดยหลายคนก็เสียชีวิตลงจากการปฏิบัติที่ไม่ดีหรือการขาดความเอาใจใส่ และหลายคนก็เสียชีวิตลงด้วยโรคหรืออุบัติเหตุ

3. อำนาจดำเนินการและขอบเขต

คณะกรรมการมีอำนาจในการทบทวนคำตัดสินของ Meta หลังจากได้รับอุทธรณ์จากผู้ใช้ซึ่งเป็นเจ้าของเนื้อหาที่ถูกลบออก (กฎบัตรข้อที่ 2 ส่วนที่ 1 และกฎข้อบังคับข้อที่ 3 ส่วนที่ 1) คณะกรรมการอาจยืนตามหรือกลับคำตัดสินของ Meta ก็ได้ โดยคำตัดสินของคณะกรรมการจะมีผลผูกพันกับบริษัท (กฎบัตรข้อที่ 4 และข้อที่ 3 ส่วนที่ 5) คำตัดสินของคณะกรรมการอาจมีคำแถลงเพื่อให้คำแนะนำด้านนโยบาย ซึ่งประกอบด้วยคำแนะนำที่ไม่มีผลผูกพันซึ่ง Meta จำเป็นต้องตอบกลับ (กฎบัตรข้อที่ 4 และข้อที่ 3 ส่วนที่ 4)

เมื่อคณะกรรมการเลือกกรณีเช่นนี้ ที่ซึ่ง Meta ยอมรับในเวลาต่อมาว่าบริษัทได้ก่อข้อผิดพลาด คณะกรรมการจะทบทวนคำตัดสินเดิมเพื่อช่วยให้เข้าใจมากยิ่งขึ้นว่าทำไมข้อผิดพลาดจึงเกิดขึ้น และเพื่อให้ข้อสังเกตหรือข้อเสนอแนะที่อาจช่วยลดข้อผิดพลาดและปรับปรุงกระบวนการให้ดีขึ้นได้ หลังจากที่คณะกรรมการให้คำตัดสินในกรณีเกี่ยวกับอาการของมะเร็งเต้านมและภาพโป๊เปลือย ( 2020-004-IG-UA ส่วนที่ 3) คณะกรรมการก็ได้เริ่มปรับใช้กระบวนการซึ่งทำให้ Meta สามารถระบุหาข้อผิดพลาดในการบังคับใช้ก่อนที่กรณีจะถูกมอบหมายให้กรรมการได้ (ดูที่ รายงานความโปร่งใส หน้าที่ 30) ในกรณีเหล่านี้ Meta จะชี้แจงเหตุผลทั้งหมดโดยเน้นไปที่คำตัดสินซึ่งผ่านการแก้ไขแล้วของบริษัท โดยอธิบายว่าเหตุการณ์ใดควรที่จะเกิดขึ้นกับเนื้อหาของผู้ใช้ และเชิญให้คณะกรรมการยืนตามว่าคำตัดสินดังกล่าวคือคำตัดสินที่ “ดีที่สุด” ของบริษัท ซึ่งคณะกรรมการเห็นว่าไม่เป็นประโยชน์แต่อย่างใด นอกเหนือไปจากการอธิบายว่าเพราะเหตุใดคำตัดสินที่ผู้ใช้อุทธรณ์จึงผิด คณะกรรมการเสนอว่า Meta ควรอธิบายด้วยว่าข้อผิดพลาดดังกล่าวเกิดขึ้นได้อย่างไร และเพราะเหตุใดกระบวนการตรวจสอบภายในของบริษัทจึงไม่สามารถระบุหาหรือแก้ไขข้อผิดพลาดดังกล่าวได้ ทั้งนี้ คณะกรรมการจะดำเนินการทบทวนโดยอิงจากคำตัดสินที่ผู้ใช้อุทธรณ์ต่อไป

4. มาตรฐานที่เกี่ยวข้อง

คณะกรรมการได้พิจารณามาตรฐานต่อไปนี้ในการบรรลุคำตัดสินของคณะกรรมการ

I.มาตรฐานชุมชนของ Facebook:

มาตรฐานชุมชนของ Facebook ได้นิยามคำพูดที่แสดงความเกลียดชังไว้ว่าเป็น “การโจมตีบุคคลโดยตรงโดยนำสิ่งที่เราเรียกว่าลักษณะที่ได้รับการคุ้มครองของบุคคลนั้นมาใช้เป็นเป้าในการโจมตี อันได้แก่ เชื้อชาติ, ชาติพันธุ์, ถิ่นกำเนิด, การนับถือศาสนา, รสนิยมทางเพศ, วรรณะ, เพศสรีระ, เพศสภาวะ, อัตลักษณ์ทางเพศ และโรคร้ายแรงหรือความทุพพลภาพ” ทั้งนี้ เนื้อหาต้องห้ามภายใต้ “ระดับ 1” ประกอบด้วย “คำพูดที่แสดงความรุนแรงหรือการสนับสนุนความรุนแรงในรูปแบบที่เป็นลายลักษณ์อักษรหรือภาพ” นอกจากนี้ มาตรฐานชุมชนยังประกอบด้วยข้ออนุญาตสำหรับใช้แยกแยะเนื้อหาที่ไม่ละเมิดข้อกำหนด ซึ่งมีความดังนี้

เราทราบดีว่าบางครั้งผู้คนจะแชร์เนื้อหาที่มีคำพูดที่แสดงความเกลียดชังของผู้อื่นเพื่อประณามหรือสร้างความตระหนักรู้เกี่ยวกับคำพูดดังกล่าว และในบางกรณี อาจมีการใช้คำพูดที่ปกติแล้วเป็นการละเมิดมาตรฐานของเราในเชิงอ้างอิงถึงตนเองหรือเพื่อสร้างแรงผลักดัน นโยบายของเราออกแบบมาเพื่อเอื้อให้มีพื้นที่สำหรับคำพูดประเภทเหล่านี้ แต่เราก็กำหนดให้ผู้คนระบุเจตนาของตนอย่างชัดเจน โดยหากเจตนาไม่ชัดเจน เราอาจลบเนื้อหาออก

II. ค่านิยมของ Meta:

ค่านิยมของ Meta ระบุอยู่ในบทนำของมาตรฐานชุมชนของ Facebook โดยมีการระบุให้ค่านิยมด้าน “ความคิดเห็น” เป็น “สิ่งสำคัญสูงสุด” ดังนี้

เป้าหมายของมาตรฐานชุมชนของเราคือการสร้างพื้นที่ในการแสดงออกและทำให้ผู้คนมีโอกาสแสดงความคิดเห็นของตัวเองได้ […] เราต้องการให้ผู้คนสามารถพูดคุยกันถึงประเด็นปัญหาที่เป็นเรื่องสำคัญสำหรับตนได้อย่างเปิดกว้าง แม้ว่าอาจมีผู้คนบางส่วนไม่เห็นด้วยหรือคัดค้านก็ตาม

Meta จำกัด “ความคิดเห็น” เพื่อรักษาค่านิยมสี่ประการ และค่านิยมสองประการที่เกี่ยวข้องกับกรณีนี้ ได้แก่

“ความปลอดภัย”: เรามุ่งมั่นที่จะทำให้ Facebook เป็นสถานที่ที่ปลอดภัย เราจึงไม่อนุญาตให้มีการแสดงความคิดเห็นที่เป็นการคุกคามผู้คนบน Facebook เนื่องจากมีความเป็นไปได้ที่เนื้อหานั้นจะข่มขู่ กีดกัน หรือปิดกั้นการแสดงความคิดเห็นของผู้อื่น

“ศักดิ์ศรี”: เราเชื่อว่าทุกคนมีศักดิ์ศรีและสิทธิเท่าเทียมกัน เราคาดหวังว่าผู้คนจะเคารพศักดิ์ศรีของผู้อื่นและไม่คุกคามหรือสร้างความเสื่อมเสียให้แก่ผู้อื่น

III. มาตรฐานสิทธิมนุษยชน

หลักการชี้แนะว่าด้วยธุรกิจและสิทธิมนุษยชนแห่งสหประชาชาติ (UNGP) ที่ได้รับการสนับสนุนโดยคณะกรรมการสิทธิมนุษยชนแห่งสหประชาชาติในปี 2554 กำหนดกรอบการทำงานตามความสมัครใจสำหรับภาระหน้าที่ด้านสิทธิมนุษยชนของธุรกิจเอกชน ในปีพ.ศ. 2564 Meta ได้ประกาศนโยบายด้านสิทธิมนุษยชนของบริษัท โดยเน้นย้ำคำมั่นของตนในการเคารพสิทธิมนุษยชนตาม UNGP การวิเคราะห์ของคณะกรรมการในกรณีนี้พิจารณาตามมาตรฐานสิทธิมนุษยชนในด้านต่างๆ ดังต่อไปนี้

• เสรีภาพในการแสดงออก: กติการะหว่างประเทศว่าด้วยสิทธิพลเมืองและสิทธิทางการเมือง (ICCPR) ข้อที่ 19; ความคิดเห็นทั่วไปหมายเลข 34 ของคณะกรรมการสิทธิมนุษยชน ปี 2554; อนุสัญญาระหว่างประเทศว่าด้วยการขจัดการเลือกปฏิบัติทางเชื้อชาติในทุกรูปแบบ (ICERD) ข้อที่ 5; รายงานของผู้รายงานพิเศษแห่งสหประชาชาติว่าด้วยคำพูดที่แสดงความเกลียดชัง เลขที่ A/74/486 ปี 2562; รายงานของผู้รายงานพิเศษแห่งสหประชาชาติว่าด้วยการควบคุมเนื้อหาออนไลน์ เลขที่ A/HRC/38/35 ปี 2561;
• ความเท่าเทียมและการไม่เลือกปฏิบัติ: ICCPR ข้อ 2 ย่อหน้าที่ 1 และข้อ 26; ICERD ข้อ 2; ข้อเสนอแนะทั่วไปฉบับที่ 35 ของคณะกรรมการว่าด้วยการขจัดการเลือกปฏิบัติทางเชื้อชาติ ปี 2556;
• สิทธิในวัฒนธรรม: ICCPR ข้อที่ 27; กติการะหว่างประเทศว่าด้วยสิทธิทางเศรษฐกิจ สังคม และวัฒนธรรม (ICESCR) ข้อที่ 15; รายงานว่าด้วยเสรีภาพทางศิลปะของผู้รายงานพิเศษแห่งสหประชาชาติในสาขาสิทธิในวัฒนธรรม เลขที่ A/HRC/23/34 ปี 2556
• สิทธิของชนพื้นเมือง: ปฏิญญาสหประชาชาติว่าด้วยสิทธิของชนเผ่าพื้นเมือง ข้อที่ 7 ย่อหน้าที่ 2; ข้อที่ 8 ย่อหน้าที่ 1 และข้อที่ 19;

5. คำแถลงของผู้ใช้

ผู้ใช้ได้ระบุไว้ในอุทธรณ์ที่ยื่นต่อคณะกรรมการว่าโพสต์ของผู้ใช้นำเสนอชิ้นงานศิลปะพื้นเมืองซึ่งเก็บบันทึกประวัติศาสตร์ และชิ้นงานดังกล่าวไม่ได้เกี่ยวเนื่องกับคำพูดที่แสดงความเกลียดชังแต่อย่างใด นอกจากนี้ ผู้ใช้ยังได้ระบุอีกว่าประวัติศาสตร์ดังกล่าว “needed to be seen” (จะต้องถูกพบเห็น) และกล่าวเกี่ยวกับการลบเนื้อหาออกของ Meta ว่า “this is censorship.” (นี่คือการปิดกั้นเนื้อหา)

6. คำอธิบายคำตัดสินของ Meta

Meta แจ้งคณะกรรมการว่าวลี “Kill the Indian” (ฆ่าความเป็นชนพื้นเมือง) เข้าข่ายการกล่าวโจมตีระดับ 1 ภายใต้มาตรฐานชุมชนว่าด้วยคำพูดที่แสดงความเกลียดชังของ Facebook ซึ่งห้ามไม่ให้ใช้ “คำพูดแสดงความรุนแรง” ที่มุ่งเป้าโจมตีบุคคลตามลักษณะที่ได้รับความคุ้มครองของบุคคลนั้น ซึ่งรวมถึงเชื้อชาติหรือชาติพันธุ์ อย่างไรก็ตาม Meta ตระหนักว่าการลบเนื้อหาออกเป็นข้อผิดพลาดเพราะนโยบายดังกล่าวอนุญาตให้ผู้ใช้แชร์คำพูดที่แสดงความเกลียดชังของบุคคลอื่นเพื่อ “ประณามคำพูดดังกล่าวหรือสร้างการตระหนักรู้” ได้ Meta ตั้งข้อสังเกตว่าผู้ใช้ได้ระบุไว้ในโพสต์ว่าวัตถุประสงค์ของเขาคือการสร้างความตระหนักรู้เกี่ยวกับเรื่องราวสะเทือนขวัญซึ่งเกิดขึ้นที่แคมลูปส์

Meta ตั้งข้อสังเกตว่าวลี “Kill the Indian/Save the Man” (ฆ่าความเป็นชนพื้นเมือง/ช่วยชีวิตคน) มีต้นกำเนิดจากการบังคับให้เด็กชนพื้นเมืองถูกกลืนกลายทางวัฒนธรรม การที่ผู้ใช้สร้างการตระหนักรู้เกี่ยวกับเรื่องราวที่แคมลูปส์ถือเป็นการสร้างการตระหนักรู้เกี่ยวกับการกลืนกลายทางวัฒนธรรมแบบบังคับผ่านโรงเรียนประจำเช่นกัน เพื่อตอบคำถามจากคณะกรรมการ Meta ได้ชี้แจงว่าเจ้าหน้าที่ตรวจสอบเนื้อหานั้นไม่จำเป็นต้องทราบเกี่ยวกับประวัติศาสตร์ดังกล่าวก็สามารถบังคับใช้นโยบายนี้ได้อย่างถูกต้อง ผู้ใช้ได้ระบุไว้ในโพสต์ว่าเขากำลังสร้างการตระหนักรู้เกี่ยวกับเรื่องราวสะเทือนขวัญ ดังนั้น เจ้าหน้าที่ตรวจสอบจึงควรที่จะสรุปได้อย่างสมเหตุผลว่าโพสต์ดังกล่าวกำลังสร้างการตระหนักรู้เกี่ยวกับคำพูดที่แสดงความเกลียดชังที่โพสต์อ้างถึง

Meta ได้แจ้งคณะกรรมการว่าไม่มีผู้ใช้รายใดรายงานเนื้อหาในกรณีนี้ Meta ใช้ตัวแยกประเภทแบบแมชชีนเลิร์นนิ่งซึ่งได้รับการฝึกมาให้ตรวจจับเนื้อหาที่อาจละเมิดมาตรฐานชุมชนของ Facebook โดยอัตโนมัติ ในกรณีนี้ ตัวแยกประเภทสองตัวได้ระบุว่าโพสต์อาจมีคำพูดที่แสดงความเกลียดชังโดยอัตโนมัติ ตัวแยกประเภทตัวแรกซึ่งทำหน้าที่วิเคราะห์เนื้อหาไม่ค่อยมั่นใจเท่าไรนักว่าโพสต์ดังกล่าวละเมิดมาตรฐานชุมชน อย่างไรก็ตาม ตัวแยกประเภทอีกตัวหนึ่งได้ตัดสินโดยอิงจากสัญญาณด้านบริบทจำนวนหนึ่งว่าโพสต์ดังกล่าวอาจถูกแชร์และพบเห็นโดยผู้คนจำนวนมาก เมื่อคำนึงถึงอันตรายที่อาจเกิดขึ้นจากการเผยแพร่คำพูดที่แสดงความเกลียดชังในวงกว้าง ระบบของ Meta จึงได้ส่งโพสต์ดังกล่าวไปรับการตรวจสอบโดยเจ้าหน้าที่โดยอัตโนมัติ

Meta ได้ชี้แจงเพื่อเป็นการตอบคำถามของคณะกรรมการว่าเจ้าหน้าที่ตรวจสอบซึ่งปฏิบัติงานอยู่ในภูมิภาคเอเชียแปซิฟิกได้ตัดสินว่าโพสต์ดังกล่าวมีคำพูดที่แสดงความเกลียดชังและได้ลบโพสต์ออกจากแพลตฟอร์ม จากนั้น ผู้ใช้ได้ยื่นอุทธรณ์ต่อคณะกรรมการ และเจ้าหน้าที่ตรวจสอบรายที่สองซึ่งปฏิบัติงานอยู่ในภูมิภาคเอเชียแปซิฟิกเช่นกันก็ได้ตรวจสอบเนื้อหา โดยเจ้าหน้าที่รายดังกล่าวก็ได้ตัดสินว่าโพสต์มีคำพูดที่แสดงความเกลียดชังเช่นกัน Meta ได้ยืนยันกับคณะกรรมการว่าผู้ควบคุมไม่ได้บันทึกเหตุผลของการตัดสินใจของแต่ละบุคคลไว้

7.ข้อมูลที่ส่งโดยบุคคลที่สาม

คณะกรรมการกำกับดูแลได้รับความคิดเห็นสาธารณะเกี่ยวกับกรณีนี้จำนวนแปดรายการ โดย สี่รายการมาจากสหรัฐอเมริกาและแคนาดา, สองรายการมาจากยุโรป, หนึ่งรายการมาจากแอฟริกาแถบตอนใต้สะฮารา และอีก หนึ่งรายการมาจากเอเชียแปซิฟิกและโอเชียเนีย ความคิดเห็นที่ส่งเข้ามานั้นมีเนื้อหาครอบคลุมเกี่ยวกับประเด็นต่างๆ ซึ่งรวมถึงความสำคัญของคำพูดอ้างอิงที่ถูกใช้เป็นชื่อของผลงานศิลปะ บริบทเกี่ยวกับการใช้โรงเรียนประจำในทวีปอเมริกาเหนือ และประเด็นที่ว่าการควบคุมเนื้อหาของ Meta ส่งผลต่อเสรีภาพทางศิลปะและสิทธิในการแสดงออกของผู้มีอัตลักษณ์หรือเชื้อชาติเป็นชนพื้นเมืองอย่างไร

หากต้องการอ่านความคิดเห็นสาธารณะที่ส่งมาสำหรับกรณีนี้ โปรดคลิกที่นี่

8.การวิเคราะห์ของคณะกรรมการกำกับดูแล

คณะกรรมการได้พิจารณาคำถามที่ว่าบริษัทควรกู้คืนเนื้อหานี้หรือไม่ผ่านมุมมองสามประการ ซึ่งได้แก่ มาตรฐานชุมชนของ Facebook, ค่านิยมของ Meta และความรับผิดชอบด้านสิทธิมนุยชนของ Meta

8.1 การปฏิบัติตามมาตรฐานชุมชน

Meta ได้ยอมรับว่าคำตัดสินเดิมของบริษัทที่จะลบเนื้อหานี้ออกขัดแย้งต่อมาตรฐานชุมชนของ Facebook และเป็น “ข้อผิดพลาดในการบังคับใช้” คณะกรรมการเห็นว่าเนื้อหาในกรณีนี้ไม่ใช่คำพูดที่แสดงความเกลียดชังอย่างเห็นได้ชัด เนื้อหานี้เป็นตัวอย่างที่เด่นชัดของ “การให้ความเห็นโต้แย้ง” ซึ่งเป็นการอ้างถึงหรือเรียบเรียงคำพูดที่แสดงความเกลียดชังขึ้นใหม่เพื่อต่อต้านการกดขี่และการเลือกปฏิบัติ

มาตรฐานชุมชนของ Facebook อนุญาตให้มี “เนื้อหาที่มีคำพูดที่แสดงความเกลียดชังของผู้อื่นเพื่อประณามหรือสร้างความตระหนักรู้เกี่ยวกับคำพูดดังกล่าว” อย่างชัดเจน อย่างไรก็ตาม ผู้ควบคุมสองรายได้สรุปว่าโพสต์นี้มีคำพูดที่แสดงความเกลียดชัง และ Meta ไม่สามารถให้เหตุผลที่เจาะจงได้ว่าเพราะเหตุใดข้อผิดพลาดเช่นนี้จึงเกิดขึ้นซ้ำสองครั้ง

ในกรณีของคำพูดอ้างอิงจากพรรคนาซี ( 2020-005-FB-UA) คณะกรรมการตั้งข้อสังเกตว่าบริบทในการใช้คำพูดอ้างอิงนั้นมีความสำคัญต่อการทำความเข้าใจคำพูดอ้างอิง ในกรณีดังกล่าว เนื้อหาและความหมายของคำพูดอ้างอิง ช่วงเวลาและประเทศที่โพสต์ถูกเผยแพร่ รวมถึงสาระสำคัญของปฏิกิริยาและความคิดเห็นของผู้อื่นที่มีต่อโพสต์ ล้วนเป็นตัวบ่งชี้ที่ชัดเจนว่าผู้ใช้มิได้มีเจตนาที่จะยกย่องบุคคลซึ่งเป็นที่เกลียดชังของสาธารณชน

คณะกรรมการเห็นว่าผู้ใช้ไม่จำเป็นต้องกล่าวโดยชัดแจ้งว่าตนกำลังสร้างการตระหนักรู้เพื่อชี้แจงถึงเจตนาและความหมายของโพสต์ให้ชัดเจนแต่อย่างใด ภาพงานศิลปะในโพสต์บอกเล่าเรื่องราวเกี่ยวกับเหตุการณ์ที่เกิดขึ้นที่แคมลูปส์ และคำบรรยายประกอบก็อธิบายถึงความสำคัญของเหตุการณ์ดังกล่าว แม้คำว่า “Kill the Indian” (ฆ่าความเป็นชนพื้นเมือง) อาจเป็นคำพูดที่แสดงความเกลียดชังได้หากใช้เดี่ยวๆ แต่เมื่อประเมินบริบทโดยรวมแล้วก็เป็นที่ชัดเจนว่าวลีดังกล่าวถูกใช้เพื่อสร้างการตระหนักรู้และใช้เพื่อประณามการเลือกปฏิบัติ นอกจากนี้ ผู้ใช้ยังได้ใช้เครื่องหมายอัญประกาศในเนื้อหาเพื่อแยกแยะวลีที่มีคำพูดแสดงความเกลียดชังในชื่อของผลงาน ซึ่งมีใจความเต็มๆ ว่า “Kill the Indian / Save the Man.” (ฆ่าความเป็นชนพื้นเมือง/ช่วยชีวิตคน) การกระทำเช่นที่กล่าวไปควรทำให้เจ้าหน้าที่ตรวจสอบหยุดเพื่อไตร่ตรองให้ลึกซึ้งยิ่งขึ้น วิธีที่ผู้ใช้บอกเล่าเรื่องราวที่แคมลูปส์และอธิบายเกี่ยวกับความสำคัญทางวัฒนธรรมของแถบลูกปัดวัมพุมก็แสดงให้เห็นอย่างชัดเจนว่าผู้ใช้มีความเห็นอกเห็นใจเหยื่อของการเลือกปฏิบัติและความรุนแรง มิได้สนับสนุนผู้กระทำแต่อย่างใด คำบรรยายของผู้ใช้ได้ประณามเหตุการณ์ที่เกิดขึ้นที่แคมลูปส์อย่างชัดเจน นอกจากนี้ คณะกรรมการยังเห็นได้ชัดเจนจากความคิดเห็นและปฏิกิริยาของผู้อื่นที่มีต่อโพสต์ว่ากลุ่มเป้าหมายของผู้ใช้ต่างก็เข้าใจเจตนาของผู้ใช้ในการประณามและสร้างการตระหนักรู้เกี่ยวกับเหตุการณ์เป็นอย่างดี

คณะกรรมการตั้งข้อสังเกตว่า “คำถามที่ทราบ” ซึ่งใช้เป็นการภายในของ Facebook และเป็นส่วนหนึ่งของแนวทางที่แจกจ่ายให้แก่ผู้ควบคุมนั้นแนะนำให้ผู้ควบคุมเลือกที่จะลบเนื้อหาที่มีคำพูดที่แสดงความเกลียดชังไว้ก่อนเมื่อเจตนาของผู้ใช้ไม่ชัดเจน นอกจากนี้ “คำถามที่ทราบ” ยังระบุอีกว่าการกล่าวถึงเจตนาที่ชัดเจนนั้นไม่เพียงพอที่จะเปลี่ยนนัยสำคัญของโพสต์ที่มีคำพูดที่แสดงความเกลียดชังเสมอไป แนวทางภายในฉบับดังกล่าวให้คำแนะนำอย่างจำกัดแก่ผู้ควบคุมเกี่ยวกับวิธีที่ถูกต้องในการแยกแยะระหว่างคำพูดที่แสดงความเกลียดชังที่ระบบห้ามใช้กับการให้ความเห็นโต้แย้งซึ่งอ้างถึงคำพูดที่แสดงความเกลียดชังเพื่อประณามหรือสร้างการตระหนักรู้ เท่าที่คณะกรรมการทราบ บริษัทยังไม่มีแนวทางเกี่ยวกับวิธีประเมินหาหลักฐานที่แสดงถึงเจตนาในเนื้อหาศิลปะซึ่งมีการอ้างถึงคำพูดหรือมีการใช้ถ้อยคำที่แสดงความเกลียดชัง หรือในเนื้อหาที่มีการอภิปรายถึงการละเมิดสิทธิมนุษยชนแต่อย่างใด โดยเนื้อหาเช่นที่ว่าไปอยู่ภายในขอบเขตของข้ออนุญาตของนโยบาย

8.2 การปฏิบัติตามค่านิยมของ Meta

คณะกรรมการเห็นว่าคำตัดสินเดิมที่จะลบเนื้อหานี้ออกไม่สอดคล้องกับค่านิยมด้าน “ความคิดเห็น” และ “ศักดิ์ศรี” ของ Meta ทั้งยังไม่สอดคล้องกับค่านิยมด้าน “ความปลอดภัย” อีกด้วย แม้คำตัดสินดังกล่าวจะสอดคล้องกับค่านิยมของ Meta ที่จะจำกัดการเผยแพร่คำพูดที่แสดงความเกลียดชังบนแพลตฟอร์ม แต่คณะกรรมการก็มีความกังวลว่ากระบวนการควบคุมของ Meta จะไม่สามารถแยกแยะและปกป้องสิทธิของผู้คนที่กำลังเผชิญกับการกีดกันทางสังคมหรือการเลือกปฏิบัติในการแสดงความคิดเห็นของตนผ่านการให้ความเห็นโต้แย้งได้อย่างถูกต้อง

Meta ได้กล่าวคำมั่นสัญญาที่จะสนับสนุนการให้ความเห็นโต้แย้งไว้ดังนี้

ในฐานะของชุมชน แพลตฟอร์มโซเชียล และพื้นที่รวบรวมประสบการณ์ที่ผู้คนแบ่งปัน Facebook จะสนับสนุนโครงการริเริ่มในการแสดงความคิดเห็นโต้แย้งที่สำคัญโดยการบังคับใช้นโยบายด้านเนื้อหาที่เข้มงวดและทำงานร่วมกับชุมชนท้องถิ่น, ผู้กำหนดนโยบาย, ผู้เชี่ยวชาญ และผู้สร้างการเปลี่ยนแปลงต่างๆ เพื่อเปิดตัวโครงการริเริ่มในการแสดงความคิดเห็นโต้แย้งทั่วโลก

Meta อ้างว่า “ความคิดเห็น” คือค่านิยมที่สำคัญที่สุดของบริษัท งานศิลปะซึ่งมีเจตนาที่จะเปิดเผยความน่าสะพรึงกลัวของความโหดร้ายในอดีตและให้ข้อมูลแก่ผู้คนเกี่ยวกับผลกระทบที่คงเหลืออยู่คือหนึ่งในการแสดงออกซึ่งค่านิยมด้าน “ความคิดเห็น” ที่ทรงพลังและสำคัญมากที่สุด โดยเฉพาะอย่างยิ่งสำหรับกลุ่มคนชายขอบซึ่งต้องการนำเสนอวัฒนธรรมของตนเองและพยายามทำให้ผู้คนตระหนักรู้ถึงประวัติศาสตร์ของตน การให้ความเห็นโต้แย้งไม่เพียงแต่เป็นวิธีการแสดงออกซึ่ง “ความคิดเห็น” เท่านั้น แต่ยังเป็นเครื่องมือที่สำคัญสำหรับกลุ่มคนที่ตกเป็นเป้าของคำพูดที่แสดงความเกลียดชังในการปกป้องศักดิ์ศรีของตนเองและต่อต้านการกดขี่ การเลือกปฏิบัติ และความประพฤติที่เสื่อมเสียอีกด้วย Meta ต้องสร้างความมั่นใจว่านโยบายด้านเนื้อหาและวิธีการควบคุมดูแลของบริษัทจะคำนึงถึงและปกป้องการแสดงออกในรูปแบบเช่นที่ว่าไป

สำหรับผู้ใช้ซึ่งกำลังสร้างการตระหนักรู้เกี่ยวกับความโหดร้ายที่ส่งผลในวงกว้างแล้ว การบอกว่าคำพูดของเขาถูกระงับเนื่องจากเป็นคำพูดที่แสดงความเกลียดชังนั้นถือเป็นการดูหมิ่นศักดิ์ศรีของเขา ข้อกล่าวหานี้อาจนำไปสู่การเซ็นเซอร์ตัวเองได้ โดยเฉพาะอย่างยิ่งหากได้รับการยืนยันโดย Meta ในการอุทธรณ์

8.3 การปฏิบัติตามความรับผิดชอบด้านสิทธิมนุษยชนของ Meta

คณะกรรมการสรุปว่าการลบโพสต์นี้ออกขัดแย้งต่อความรับผิดชอบด้านสิทธิมนุษยชนในฐานะธุรกิจของ Meta ทั้งนี้ Meta มีปณิธานที่จะเคารพต่อสิทธิมนุษยชนภายใต้หลักการชี้แนะว่าด้วยธุรกิจและสิทธิมนุษยชนแห่งสหประชาชาติ ( UNGP) โดยนโยบายด้านสิทธิมนุษยชนของบริษัทระบุไว้ว่าสิทธิมนุษยชนนี้รวมถึงสิทธิภายใต้กติการะหว่างประเทศว่าด้วยสิทธิพลเมืองและสิทธิทางการเมือง (ICCPR)

กรณีนี้เป็นกรณีแรกของคณะกรรมการซึ่งเกี่ยวเนื่องกับการแสดงออกเชิงศิลปะ ทั้งยังเป็นกรณีแรกซึ่งเกี่ยวเนื่องกับการแสดงออกของผู้ใช้ที่ระบุอัตลักษณ์ว่าเป็นชนพื้นเมืองอเมริกันอีกด้วย นอกจากนี้ กรณีนี้ยังเป็นหนึ่งในกรณีที่คณะกรรมการได้คัดเลือกไว้ซึ่งผู้ใช้ต้องการสร้างการตระหนักรู้เกี่ยวกับการละเมิดสิทธิมนุษยชนขั้นร้ายแรง

เสรีภาพในการแสดงออก (ICCPR ข้อ 19)

มาตรฐานสิทธิมนุษยชนระดับสากลให้ความสำคัญกับคุณค่าของการแสดงออกในด้านการเมือง (ความคิดเห็นทั่วไปหมายเลข 34 ของคณะกรรมการสิทธิมนุษยชน ย่อหน้าที่ 38) ทั้งนี้ ขอบเขตของการคุ้มครองสำหรับสิทธิดังกล่าวได้ถูกระบุไว้ใน ICCPR ข้อที่ 19 ย่อหน้าที่ 2 ซึ่งมีการกล่าวเป็นพิเศษถึงการแสดงออก “ในรูปแบบของศิลปะ” นอกจากนี้ อนุสัญญาระหว่างประเทศว่าด้วยการขจัดการเลือกปฏิบัติทางเชื้อชาติในทุกรูปแบบ (ICERD) ยังให้การคุ้มครองผู้คนจากการเลือกปฏิบัติเมื่อใช้สิทธิในการแสดงออกอย่างเสรี (ข้อที่ 5) และคณะกรรมการซึ่งมีหน้าที่ในการตรวจสอบการปฏิบัติตามของรัฐต่างๆ ก็ได้เน้นย้ำถึงความสำคัญของสิทธิดังกล่าวในการช่วยเหลือ “กลุ่มเปราะบางในการแก้ไขสมดุลอำนาจในองค์ประกอบต่างๆ ของสังคม” และการเสนอ “มุมมองและข้อโต้แย้งที่ต่างออกไป” ในการอภิปราย (คำแนะนำทั่วไปที่ 35 ของคณะกรรมการ CERD ย่อหน้าที่ 29)

งานศิลปะมักจะมีเนื้อหาในเชิงการเมือง และมาตรฐานระดับสากลต่างก็ยอมรับบทบาทอันเป็นเอกลักษณ์และทรงพลังของการสื่อสารในรูปแบบนี้ในการท้าทายสภาพการณ์ปัจจุบัน (ผู้รายงานพิเศษแห่งสหประชาชาติในสาขาสิทธิในวัฒนธรรม เลขที่ A/HRC/23/34 ย่อหน้าที่ 3 – 4) ทั้งนี้ โลกอินเทอร์เน็ต โดยเฉพาะอย่างยิ่งแพลตฟอร์มโซเชียลมีเดียเช่น Facebook และ Instagram ต่างก็มีคุณค่าเป็นพิเศษสำหรับศิลปินซึ่งใช้ช่องทางดังกล่าวในการเข้าถึงกลุ่มเป้าหมายใหม่หรือเข้าถึงกลุ่มเป้าหมายในวงที่กว้างขึ้น ชีวิตความเป็นอยู่ของพวกเขาอาจขึ้นอยู่กับการเข้าถึงแพลตฟอร์มโซเชียลยอดนิยมบนอินเทอร์เน็ต

ผู้คนทั้งหมดต้องมีสิทธิในการแสดงออกอย่างเสรีโดยไม่มีการเลือกปฏิบัติ (ICCPR ข้อที่ 19 ย่อหน้าที่ 2) คณะกรรมการได้รับความคิดเห็นที่ส่งเข้ามาโดยบุคคลที่สามว่าการที่ชนพื้นเมืองมีสิทธิในการให้ความยินยอมล่วงหน้าโดยไม่ได้ถูกบังคับขู่เข็ญและมีการรับทราบข้อมูลเมื่อรัฐปรับใช้มาตรการทางกฎหมายหรือการบริหารที่ส่งผลกระทบต่อชุมชนดังกล่าวนั้น หมายความโดยนัยว่า Meta ต้องมีความรับผิดชอบในการหารือกับชุมชนกลุ่มดังกล่าวขณะที่บริษัทพัฒนานโยบายด้านเนื้อหาขึ้นมา (ความคิดเห็นสาธารณะหมายเลข 10240 ของกลุ่มเพื่อสิทธิของชนกลุ่มน้อย นอกจากนี้ โปรดดู ปฏิญญาสหประชาชาติว่าด้วยสิทธิชนเผ่าพื้นเมือง ข้อที่ 19) ทั้งนี้ ผู้รายงานพิเศษแห่งสหประชาชาติว่าด้วยเสรีภาพในการแสดงออกก็มีข้อกังวลที่คล้ายกันในแง่ของความรับผิดชอบของแพลตฟอร์มโซเชียลมีเดียที่มีต่อสิทธิดังกล่าว ( A/HRC/38/35 ย่อหน้าที่ 54)

เนื้อหาในกรณีนี้เกี่ยวเนื่องกับสิทธิด้านอื่นๆ อีกจำนวนหนึ่งเช่นกัน ซึ่งรวมถึงสิทธิของบุคคลที่เป็นส่วนหนึ่งของชนกลุ่มน้อยในแง่ของชาติ ชาติพันธุ์ หรือภาษา ในการชื่นชมวัฒนธรรมของตนเองร่วมกับชุมชนหรือสมาชิกคนอื่นในกลุ่มของตน (ICCPR ข้อที่ 27) และสิทธิในการมีส่วนร่วมในวิถีชีวิตทางวัฒนธรรมและเพลิดเพลินกับศิลปะของกลุ่มตน (ICESCR ข้อที่ 15) ศิลปะในการถักแถบลูกปัดวัมพุมเพื่อบันทึกและสร้างการตระหนักรู้เกี่ยวกับความโหดร้ายด้านสิทธิมนุษยชนและมรดกที่สืบเนื่องมาของชนพื้นเมืองนั้นได้รับการคุ้มครองภายใต้ปฏิญญาสหประชาชาติว่าด้วยนักปกป้องสิทธิมนุษยชน ย่อหน้าที่ 6 (c) รวมถึงสิทธิในการรับรู้ข้อเท็จจริงเกี่ยวกับความโหดร้าย (หลักการต่อต้านการยกเว้นโทษของสหประชาชาติ) ปฏิญญาสหประชาชาติว่าด้วยสิทธิของชนเผ่าพื้นเมือง ยอมรับโดยชัดแจ้งว่าการเคลื่อนย้ายถิ่นฐานเด็กโดยบังคับอาจถือเป็นการกระทำที่รุนแรงและการฆ่าล้างเผ่าพันธุ์ได้ (ข้อที่ 7 ย่อหน้าที่ 2) และปฏิญญาดังกล่าวก็ให้การคุ้มครองเป็นการเฉพาะจากการกลืนกลายทางวัฒนธรรมแบบบังคับหรือการทำลายวัฒนธรรม (ข้อที่ 8 ย่อหน้าที่ 1)

ICCPR ข้อที่ 19 กำหนดว่าเมื่อรัฐบังคับใช้ข้อจำกัดในการแสดงออก รัฐจะต้องปฏิบัติตามข้อกำหนดในด้านความชอบด้วยกฎหมาย วัตถุประสงค์อันชอบธรรม รวมถึงความจำเป็นและความเหมาะสม (ICCPR ข้อที่ 19 ย่อหน้าที่ 3) นอกจากนี้ ผู้รายงานพิเศษแห่งสหประชาชาติว่าด้วยเสรีภาพในการแสดงออกก็ได้ส่งเสริมให้บริษัทโซเชียลมีเดียดำเนินการตามหลักการนี้เมื่อควบคุมการแสดงออกในโลกออนไลน์ และพึงระลึกว่าการที่บริษัทเอกชนออกกฎระเบียบเพื่อควบคุมการแสดงออกในวงกว้างนั้นอาจก่อให้เกิดข้อกังวลเฉพาะในบริบทนั้นๆ ได้ (A/HRC/38/35 ย่อหน้าที่ 45 และ 70) ทั้งนี้ คณะกรรมการได้ใช้การทดสอบแบบสามส่วนที่อิงตาม ICCPR ข้อที่ 19 กับการตัดสินใจทั้งหมดของบริษัทจนถึงปัจจุบัน

I. ความชอบด้วยกฎหมาย (ความชัดเจนและการเข้าถึงกฎ)

มาตรฐานชุมชนว่าด้วยคำพูดที่แสดงความเกลียดชังอนุญาตให้เผยแพร่เนื้อหาที่ประณามคำพูดที่แสดงความเกลียดชังหรือสร้างการตระหนักรู้อย่างชัดเจน องค์ประกอบนี้ของนโยบายมีความชัดเจนเพียงพอ และผู้ใช้สามารถเข้าถึงองค์ประกอบดังกล่าวเพื่อทำความเข้าใจกฎและปฏิบัติตามนั้นได้อย่างเหมาะสม ( ความคิดเห็นทั่วไปที่ 34 ย่อหน้าที่ 25) ทั้งนี้ มาตรฐานว่าด้วยความชอบด้วยกฎหมายกำหนดไว้ว่ากฎที่จำกัดการแสดงออกต้อง “แจ้งแนวทางอย่างเพียงพอแก่ผู้ที่ถูกจำกัดการแสดงออก เพื่อให้บุคคลเหล่านั้นสามารถตรวจสอบได้ว่าการแสดงออกประเภทใดมีการจำกัดอย่างเหมาะสมและประเภทใดที่ไม่เหมาะสม” (แหล่งที่มาเดียวกัน) ความผิดพลาดของผู้ควบคุมทั้งสองในการประเมินความเกี่ยวเนื่องระหว่างเนื้อหาในโพสต์กับข้ออนุญาตของนโยบายอย่างถูกต้องนั้นชี้ให้คณะกรรมการเห็นว่าบริษัทต้องให้แนวทางเพิ่มเติมแก่ผู้ควบคุมเป็นการภายใน

II. วัตถุประสงค์อันชอบธรรม

การจำกัดเสรีภาพในการแสดงออกใดๆ ของรัฐควรเป็นไปตามหนึ่งในวัตถุประสงค์อันชอบธรรมที่ระบุไว้ใน ICCPR ข้อที่ 19 ย่อหน้าที่ 3 ในข้อมูลที่ Meta ส่งให้คณะกรรมการ บริษัทได้อ้างถึงวัตถุประสงค์จากรายการดังกล่าวเป็นประจำเมื่อต้องให้เหตุผลอันสมควรสำหรับการดำเนินการใดๆ ที่บริษัททำเพื่อระงับคำพูดของผู้ใช้ ก่อนหน้านี้ คณะกรรมการได้ตระหนักว่ามาตรฐานชุมชนว่าด้วยคำพูดที่แสดงความเกลียดชังของ Facebook ถูกจัดทำขึ้นโดยมีวัตถุประสงค์อันชอบธรรมคือการปกป้องสิทธิของผู้อื่น ทั้งนี้ สิทธิเหล่านั้นประกอบด้วย สิทธิในความเสมอภาคและการไม่เลือกปฏิบัติ เสรีภาพในการแสดงออก และสิทธิในความสมบูรณ์ของร่างกายตน

III. ความจำเป็นและความเหมาะสม

ข้อผิดพลาดที่ชัดเจนในกรณีนี้แสดงให้เห็นว่าบริษัทไม่มีความจำเป็นที่จะต้องลบเนื้อหาออกแต่อย่างใด โดย Meta ก็ได้ยอมรับเช่นนั้น ทั้งนี้ คณะกรรมการกังวลว่าข้อผิดพลาดที่ชัดเจนเช่นที่กล่าวไปอาจบ่งชี้ถึงปัญหาที่ลึกยิ่งกว่าในแง่ของความเหมาะสมของกระบวนการตรวจสอบทั้งโดยระบบอัตโนมัติและโดยเจ้าหน้าที่ของ Meta การจำกัดเสรีภาพในการแสดงออกใดๆ ควรมีความเหมาะสมตามวัตถุประสงค์เพื่อการคุ้มครอง และควรเป็นเครื่องมือที่ล่วงล้ำน้อยที่สุดในหมู่เครื่องมือที่สามารถใช้เพื่อการคุ้มครองได้ทั้งหมด (ความคิดเห็นทั่วไปที่ 34 ย่อหน้าที่ 34) ทั้งนี้ การตัดสินว่าระบบการควบคุมเนื้อหาของ Meta เป็นไปตามตามข้อกำหนดในด้านความจำเป็นและความเหมาะสมหรือไม่นั้น จะขึ้นอยู่โดยมากกับข้อเท็จจริงที่ว่าระบบดังกล่าวมีประสิทธิภาพมากเพียงไรในการลบคำพูดที่แสดงความเกลียดชังจริงๆ ขณะที่ก่อให้เกิดข้อผิดพลาดในการตรวจหาและการลบเนื้อหาออกน้อยที่สุด

ทุกๆ การตัดสินใจลบเนื้อหาออกที่ผิดพลาดจะลดทอนเสรีภาพในการแสดงออกของผู้ใช้ คณะกรรมการเข้าใจดีว่าความผิดพลาดเป็นสิ่งที่ทั้งมนุษย์และระบบอัตโนมัติไม่สามารถหลีกเลี่ยงได้ คำพูดที่แสดงความเกลียดชังและความคิดเห็นโต้ตอบจะมีบริบทเฉพาะเสมอ และขอบเขตของคำพูดที่แสดงความเกลียดชังนั้นก็ไม่ชัดเจนเสมอไป อย่างไรก็ตาม ประเภทของข้อผิดพลาดที่เกิดขึ้นและผู้คนหรือชุมชนที่จะต้องรับผลจากความผิดพลาดเหล่านั้นคือสิ่งที่สะท้อนถึงทางเลือกในการออกแบบ ซึ่งต้องได้รับการประเมินและตรวจสอบอย่างต่อเนื่อง การจะทำเช่นที่กล่าวไปต้องอาศัยการสืบหาสาเหตุที่เป็นรากฐานของข้อผิดพลาดในกรณีนี้ และต้องอาศัยการประเมินที่ครอบคลุมมากขึ้นว่าการควบคุมดูแลการให้ความเห็นโต้แย้งของบริษัทนั้นมีประสิทธิภาพเพียงไร

เมื่อคำนึงถึงความสำคัญของงานศิลปะจากศิลปินชนพื้นเมืองในการช่วยต่อต้านความเกลียดชังและการกดขี่แล้ว คณะกรรมการคาดหวังว่า Meta จะคำนึงอย่างระมัดระวังเป็นพิเศษถึงความเป็นไปได้ที่จะเกิดข้อผิดพลาดในการลบเนื้อหาในกรณีนี้ หรือเนื้อหาอื่นที่คล้ายกันทั้งบน Facebook และ Instagram การประเมินเฉพาะประสิทธิภาพของ Meta ในการบังคับใช้นโยบายว่าด้วยคำพูดที่แสดงความเกลียดชังของ Facebook แบบองก์รวมนั้นยังไม่ถือว่าเพียงพอ ระบบที่มีประสิทธิภาพดีโดยเฉลี่ยอาจสามารถทำงานได้ไม่ค่อยดีนักกับเนื้อหาในหมวดหมู่ย่อย ซึ่งการตัดสินใจที่ผิดพลาดนั้นอาจส่งผลกระทบอย่างใหญ่หลวงต่อสิทธิมนุษยชนได้ คณะกรรมการตั้งข้อสังเกตว่าข้อผิดพลาดประเภทที่พบในกรณีนี้อาจเกิดขึ้นได้ไม่บ่อยนัก อย่างไรก็ตาม สมาชิกของกลุ่มคนชายขอบดังกล่าวก็มีข้อกังวลเกี่ยวกับอัตราและผลกระทบของการลบเนื้อหาออกอย่างไม่ถูกต้องมาหลายปีแล้ว ข้อผิดพลาดในกรณีนี้แสดงให้เห็นว่า Meta มีหน้าที่ที่จะต้องตรวจสอบผลกระทบด้านสิทธิมนุษยชนเพื่อให้แน่ใจว่าระบบของบริษัททำงานอย่างเป็นธรรม ทั้งยังไม่ส่งเสริมการกดขี่ในอดีตและการกดขี่ที่ดำเนินอยู่ (หลักข้อที่ 17 ของ UNGP)

Meta ตรวจสอบความแม่นยำของระบบบังคับใช้ของบริษัทที่ใช้ในการจัดการคำพูดที่แสดงความเกลียดชังอยู่เสมอ อย่างไรก็ตาม การประเมินนี้ไม่ได้มีการแยกย่อยเป็นการประเมินความแม่นยำที่วัดความสามารถของ Meta ในการแยกแยะระหว่างคำพูดที่แสดงความเกลียดชังกับเนื้อหาที่ประณามคำพูดที่แสดงความเกลียดชังหรือเนื้อหาที่สร้างการตระหนักรู้โดยเฉพาะ

นอกจากนี้ กระบวนการที่มีอยู่ของ Meta ยังประกอบด้วยกลไกเฉพาะกิจสำหรับระบุแนวโน้มของข้อผิดพลาดและสืบหาสาเหตุที่เป็นรากฐานของปัญหา แต่การวิเคราะห์ประสิทธิภาพของระบบจะต้องอาศัยตัวอย่างเนื้อหาจำนวนมาก คณะกรรมการได้สอบถามว่า Meta ได้ประเมินประสิทธิภาพของระบบการตรวจสอบ โดยเฉพาะความแม่นยำของระบบในการประเมินการให้ความเห็นโต้แย้งที่เป็นการแสดงออกทางศิลปะและการให้ความเห็นโต้แย้งเพื่อสร้างการตระหนักรู้เกี่ยวกับการละเมิดสิทธิมนุษยชนหรือไม่ Meta ได้แจ้งต่อคณะกรรมการว่าบริษัทไม่ได้ทำการวิจัยอย่างเจาะจงเพื่อหาว่าการลบเนื้อหาออกอย่างไม่ถูกต้องจะส่งผลกระทบต่อการแสดงออกทางศิลปะหรือการแสดงออกของผู้คนที่มีอัตลักษณ์หรือเชื้อชาติเป็นชนพื้นเมืองอย่างไร

Meta ได้แจ้งต่อคณะกรรมการถึงอุปสรรคต่างๆ ในการเริ่มทำการประเมินเช่นที่ว่าไป ซึ่งรวมถึงการขาดระบบสำหรับเปรียบเทียบตัวอย่างของเนื้อหาที่ได้รับประโยชน์จากข้ออนุญาตของนโนบายโดยอัตโนมัติ ทั้งนี้เนื่องจากเจ้าหน้าที่ตรวจสอบจะระบุว่าเนื้อหาละเมิดนโยบายหรือไม่เท่านั้น และไม่ได้รับมอบหมายให้บ่งชี้ว่าเนื้อหาที่ไม่ละเมิดนโยบายนั้นตรงกับข้ออนุญาตของนโยบายอย่างไร บริษัทจะต้องรวบรวมตัวอย่างของการให้ความเห็นโต้แย้งที่อยู่ภายในขอบเขตของข้ออนุญาตของนโยบายด้วยตนเอง

แม้คณะกรรมการจะวางใจจากระดับของรายละเอียดที่ Meta ได้ให้ไว้เกี่ยวกับวิธีการประเมินประสิทธิภาพของระบบในระหว่างเซสชั่นการถามตอบซึ่งคณะกรรมการร้องขอให้จัดขึ้น แต่คณะกรรมการก็เห็นได้อย่างชัดเจนว่าบริษัทจะต้องทุ่มเทมากขึ้นในการประเมินความแม่นยำของการบังคับใช้ข้ออนุญาตของนโยบายว่าด้วยคำพูดที่แสดงความเกลียดชังและเรียนรู้จากแนวโน้มของข้อผิดพลาด หากปราศจากข้อมูลเพิ่มเติมเกี่ยวกับทางเลือกในการออกแบบของ Meta และประสิทธิภาพการทำงานของบุคลากรและระบบอัตโนมัติของบริษัท คณะกรรมการหรือ Meta จะสามารถประเมินความเหมาะสมของวิธีการดำเนินการเกี่ยวกับคำพูดที่แสดงความเกลียดชังในปัจจุบันของ Meta ได้อย่างยากลำบาก

เมื่อทำการประเมินว่าการใช้เครื่องมือแบบแมชชีนเลิร์นนิ่งหนึ่งๆ ในกรณีนี้เพื่อตรวจหาคำพูดที่แสดงความเกลียดชังโดยอัตโนมัติถือเป็นการดำเนินการที่เหมาะสมและมีความจำเป็นหรือไม่ การทำความเข้าใจเกี่ยวกับความแม่นยำของเครื่องมือเหล่านั้นถือเป็นสิ่งสำคัญ ตัวแยกประเภทแบบแมชชีนเลิร์นนิ่งมักมีความเกี่ยวข้องกับการเลือกอย่างใดอย่างหนึ่งระหว่างการลบเนื้อหาออกอย่างไม่ถูกต้อง (False Positive) และการตรวจไม่พบเนื้อหาที่ควรถูกลบ (False Negative) เสมอ กล่าวคือ ยิ่งตัวแยกประเภทมีความละเอียดอ่อนมากเท่าไร เครื่องมือดังกล่าวก็จะสามารถระบุเหตุการณ์ที่มีการใช้คำพูดที่แสดงความเกลียดชังได้อย่างถูกต้องมากขึ้นเท่านั้น แต่ก็มีแนวโน้มที่จะตรวจจับเนื้อหาที่ไม่ใช่คำพูดที่แสดงความเกลียดชังโดยผิดพลาดได้มากขึ้นเช่นกัน ตัวแยกประเภทแต่ละรูปแบบซึ่งได้รับการฝึกมาอย่างแตกต่างกันจะมีประโยชน์ใช้สอยและให้ประสิทธิผลที่แตกต่างกันออกไปสำหรับการทำงานแต่ละอย่าง ทั้งนี้ บริษัทสามารถใช้เกณฑ์ที่แตกต่างกันออกไปสำหรับตัวแยกประเภทแต่ละรูปแบบได้ โดยเกณฑ์ดังกล่าวจะสะท้อนถึงการตัดสินใจเกี่ยวกับความสำคัญสัมพัทธ์ในการหลีกเลี่ยงข้อผิดพลาดประเภทต่างๆ โอกาสในการเกิดข้อผิดพลาดและความรุนแรงของข้อผิดพลาดต่างๆ ควรส่งผลต่อการตัดสินใจเกี่ยวกับวิธีการนำตัวแยกประเภทแต่ละรูปแบบไปใช้ รวมถึงการตัดสินใจว่าเครื่องมือดังกล่าวควรจะทำงานได้ทันทีหรือต้องได้รับการอนุมัติจากมนุษย์ก่อน และควรมีการวางมาตรการป้องกันแบบใดไว้บ้าง

Meta ได้อธิบายว่าระบบอัตโนมัติของบริษัทได้ส่งโพสต์ที่เป็นปัญหาในกรณีนี้ไปรับการทบทวนเนื่องจากมีแนวโน้มว่าจะมีผู้พบเห็นโพสต์เป็นจำนวนมาก วิธีการนี้สามารถจำกัดการแพร่กระจายของเนื้อหาที่เป็นภัยได้ แต่ก็มีแนวโน้มที่จะเพิ่มความเสี่ยงที่งานศิลปะซึ่งมีพลังในการต่อต้านความเกลียดชังจะถูกลบออกอย่างไม่ถูกต้องเช่นกัน Meta ได้แจ้งต่อคณะกรรมการว่าบริษัทจะประเมินอัตราของการลบเนื้อหาออกอย่างไม่ถูกต้องในช่วงระยะเวลาหนึ่งอย่างสม่ำเสมอ โดยเปรียบเทียบกับชุดการตัดสินใจของเจ้าหน้าที่ตรวจสอบที่เชี่ยวชาญ นอกจากนี้ Meta ยังได้แจ้งอีกว่าบริษัทสามารถประเมินความแม่นยำของรูปแบบแมชชีนเลิร์นนิ่งที่เกี่ยวข้องในกรณีนี้ได้ และบริษัทจะเก็บข้อมูลเกี่ยวกับการคาดการณ์ของตัวแยกประเภทไว้อย่างน้อย 90 วัน ทั้งนี้ คณะกรรมการได้ขอข้อมูลที่จะทำให้เราสามารถประเมินประสิทธิภาพของตัวแยกประเภทและความเหมาะสมของเกณฑ์ที่ Meta ใช้ในกรณีนี้ได้ Meta ได้แจ้งต่อคณะกรรมการว่าบริษัทไม่สามารถให้ข้อมูลที่คณะกรรมการร้องขอได้เนื่องจากบริษัทไม่มีเวลามากเพียงพอที่จะเตรียมข้อมูลดังกล่าวไว้ให้เรา อย่างไรก็ตาม Meta ได้แจ้งเพิ่มเติมว่าบริษัทกำลังพิจารณาถึงความเป็นไปได้ที่จะให้ข้อมูลดังกล่าวในกรณีอื่นๆ ในอนาคต

การตรวจสอบโดยเจ้าหน้าที่ถือเป็นมาตรการป้องกันที่สำคัญสำหรับการดำเนินการของตัวแยกประเภทของ Meta โดยจะเกิดขึ้นสองครั้ง คือ ครั้งแรกก่อนที่โพสต์จะถูกลบออก และอีกครั้งหนึ่งก่อนที่จะเกิดการอุทธรณ์ ข้อผิดพลาดในกรณีนี้บ่งชี้ว่าแนวทางที่ Meta ให้แก่ผู้ควบคุมสำหรับประเมินคำพูดที่แสดงความเกลียดชังนั้นอาจไม่เพียงพอ มีเหตุผลอยู่หลายประการซึ่งอาจทำให้ผู้ควบคุมที่เป็นมนุษย์ทำการตัดสินใจที่ผิดพลาดในกรณีนี้ถึงสองครั้ง คณะกรรมการกังวลว่าเจ้าหน้าที่ตรวจสอบอาจไม่ได้รับทรัพยากรอย่างเพียงพอในแง่ของเวลาหรือการฝึกอบรมเพื่อป้องกันไม่ให้เกิดข้อผิดพลาดประเภทที่พบในกรณีนี้ขึ้น โดยเฉพาะอย่างยิ่งในส่วนที่เกี่ยวข้องกับเนื้อหาที่ได้รับอนุญาตภายใต้ข้ออนุญาตของนโยบาย (ซึ่งรวมถึง “การประณาม” คำพูดที่แสดงความเกลียดชังและ “การสร้างการตระหนักรู้” เป็นต้น)

ในกรณีนี้ เจ้าหน้าที่ตรวจสอบทั้งสองต่างก็ปฏิบัติงานอยู่ในภูมิภาคเอเชียแปซิฟิก Meta ไม่สามารถแจ้งต่อคณะกรรมการได้ว่าอัตราความแม่นยำของเจ้าหน้าที่ตรวจสอบจะต่างออกไปหรือไม่หากผู้ควบคุมที่ประเมินเนื้อหาที่อาจมีคำพูดที่แสดงความเกลียดชังไม่ได้ปฏิบัติงานอยู่ในภูมิภาคที่เป็นต้นกำเนิดของเนื้อหา คณะกรรมการตระหนักดีถึงความซับซ้อนในการประเมินคำพูดที่แสดงความเกลียดชัด และความยากลำบากในการทำความเข้าใจบริบทและประวัติศาสตร์ของท้องถิ่น โดยเฉพาะอย่างยิ่งเมื่อพิจารณาถึงปริมาณของเนื้อหาที่ผู้ควบคุมต้องตรวจสอบในแต่ละวัน ทั้งนี้ มีความเป็นไปได้ว่าผู้ควบคุมที่ประเมินเนื้อหาในกรณีนี้อาจมีประสบการณ์เกี่ยวกับการกดขี่ชนพื้นเมืองในทวีปอเมริกาเหนือที่ไม่มากนัก ดังนั้น แนวทางที่ให้แก่ผู้ควบคุมควรประกอบด้วยคำแนะนำที่ชัดเจนเกี่ยวกับการประเมินเนื้อหาโดยรวมและควรสนับสนุนผู้ควบคุมให้สามารถประเมินบริบทเพื่อระบุหาหลักฐานรวมถึงเจตนาและความหมายของเนื้อหาได้อย่างถูกต้องมากยิ่งขึ้น

คณะกรรมการได้ให้คำแนะนำไว้ในคำตัดสินของกรณีมีมปุ่มสองปุ่ม ( 2021-005-FB-UA) ว่า Meta ควรอนุญาตให้ผู้ใช้ระบุในอุทธรณ์ได้ว่าเนื้อหาของตนอยู่ภายใต้หนึ่งในข้ออนุญาตของมาตรฐานชุมชนว่าด้วยคำพูดที่แสดงความเกลียดชังของ Facebook ในขณะนี้ เมื่อผู้ใช้อุทธรณ์หนึ่งในคำตัดสินของ Meta ที่ส่งไปรับการตรวจสอบจากเจ้าหน้าที่ เจ้าหน้าที่ตรวจสอบจะไม่ได้รับแจ้งว่าผู้ใช้ได้โต้แย้งคำตัดสินก่อนหน้าและไม่ทราบผลของการตรวจสอบก่อนหน้า ในขณะที่ Meta ได้แจ้งคณะกรรมการว่าบริษัทเชื่อว่าข้อมูลนี้จะทำให้เกิดอคติในการทบทวน คณะกรรมการเองก็สนใจว่าข้อมูลนี้จะช่วยเพิ่มโอกาสให้เกิดการตัดสินใจที่เหมาะสมยิ่งขึ้นหรือไม่ นี่เป็นคำถามที่ Meta สามารถทดสอบเชิงประจักษ์ได้ ทั้งนี้ ผลลัพธ์ของการทดสอบดังกล่าวจะเป็นประโยชน์ในการประเมินความเหมาะสมของมาตรการเฉพาะที่ Meta เลือกใช้

Meta มีหน้าที่ที่จะต้องประเมินผลกระทบด้านสิทธิมนุษยชนภายใต้ UNGP (หลักข้อที่ 17) ซึ่งหน้าที่ดังกล่าวรวมถึงการระบุผลกระทบในเชิงลบใดๆ ของการควบคุมเนื้อหาที่มีต่อการแสดงออกเชิงศิลปะหรือการแสดงออกในด้านการเมืองของผู้คนที่เป็นชนพื้นเมืองเพื่อการต่อต้านการเลือกปฏิบัติ นอกจากนี้ Meta ควรระบุเพิ่มเติมว่าบริษัทจะป้องกัน บรรเทา และพยายามแก้ไขผลกระทบในเชิงลบเหล่านั้นอย่างไร คณะกรรมการมุ่งมั่นที่จะติดตามผลการดำเนินงานของ Meta รวมถึงคาดหวังที่จะเห็นบริษัทให้ความสำคัญกับความเสี่ยงที่เกิดขึ้นกับกลุ่มคนชายขอบ และแสดงหลักฐานของพัฒนาการอย่างต่อเนื่อง

9.คำตัดสินของคณะกรรมการกำกับดูแล

คณะกรรมการกำกับดูแลกลับคำตัดสินเดิมของ Meta ที่ลบเนื้อหาออก

10. คำแถลงเพื่อให้คำแนะนำด้านนโยบาย

การบังคับใช้

1. แจ้งเตือนผู้ใช้เกี่ยวกับการดำเนินการใดๆ ของบริษัทที่กระทำกับเนื้อหาที่เกี่ยวข้องกับการอุทธรณ์อย่างตรงเวลาและถูกต้อง ทั้งนี้ บริษัทควรระบุในการแจ้งเตือนที่ส่งไปให้ผู้ใช้ว่าการดำเนินการดังกล่าวเป็นผลเนื่องมาจากกระบวนการทบทวนของคณะกรรมการกำกับดูแลเมื่อสามารถทำได้ รวมทั้งในกรณีที่เกิดข้อผิดพลาดในการบังคับใช้เช่นนี้ Meta ควรแชร์ข้อความที่ส่งไปให้ผู้ใช้เมื่อการดำเนินการของคณะกรรมการส่งผลต่อการตัดสินเกี่ยวกับเนื้อหาที่ผู้ใช้อุทธรณ์เพื่อแสดงให้เห็นว่าบริษัทปฏิบัติตามคำแนะนำนี้ โดยบริษัทควรจะดำเนินการเช่นที่กล่าวไปกับกรณีทั้งหมดซึ่งได้รับการแก้ไขในขั้นตอนการคัดเลือกกรณีในกระบวนการของคณะกรรมการ

2. ศึกษาว่าวิธีการที่ผ่านการปรับปรุงแล้วสำหรับการตรวจสอบในขั้นที่สองส่งผลกระทบอย่างไรต่อความแม่นยำและปริมาณงานของเจ้าหน้าที่ตรวจสอบ ทั้งนี้ คณะกรรมการได้ขอเป็นการเฉพาะให้มีการประเมินอัตราความแม่นยำในการตรวจสอบเมื่อผู้ควบคุมเนื้อหาได้รับแจ้งว่าพวกเขากำลังดำเนินการตรวจสอบเป็นครั้งที่สองอยู่ เพื่อที่พวกเขาจะได้ทราบว่าคำตัดสินในครั้งแรกได้ถูกโต้แย้ง ทางที่ดีที่สุด การทดลองนี้ควรมีโอกาสให้ผู้ใช้ได้ให้บริบทที่เกี่ยวข้องซึ่งอาจช่วยเจ้าหน้าที่ตรวจสอบในการประเมินเนื้อหาของตนตามคำแนะนำก่อนหน้าของคณะกรรมการ นอกจากนี้ Meta ควรแชร์ผลลัพธ์ของการประเมินความแม่นยำเหล่านี้กับคณะกรรมการ และสรุปผลลัพธ์ของการประเมินดังกล่าวไว้ในรายงานความโปร่งใสรายไตรมาสของคณะกรรมการเพื่อแสดงให้เห็นว่าบริษัทได้ปฏิบัติตามคำแนะนำนี้ด้วย

3. จัดทำการประเมินความแม่นยำของการตรวจสอบโดยเน้นไปที่ข้ออนุญาตของนโยบายว่าด้วยคำพูดที่แสดงความเกลียดชัง ซึ่งครอบคลุมถึงการแสดงออกในเชิงศิลปะและการแสดงออกเกี่ยวกับการละเมิดสิทธิมนุษยชน (ได้แก่ การประณาม การสร้างการตระหนักรู้ การใช้เพื่ออ้างอิงถึงตนเอง และการใช้เพื่อสร้างแรงผลักดัน) การประเมินนี้ควรมีการสืบหาอย่างเจาะจงว่าตำแหน่งที่ตั้งของเจ้าหน้าที่ตรวจสอบส่งผลกระทบอย่างไรต่อความสามารถของผู้ควบคุมในการประเมินคำพูดที่แสดงความเกลียดชังและการให้ความเห็นโต้แย้งจากผู้ที่อยู่ในภูมิภาคเดียวกันหรือภูมิภาคอื่นอย่างถูกต้อง คณะกรรมการเข้าใจเป็นอย่างดีว่าการวิเคราะห์เช่นนี้ต้องอาศัยการพัฒนากลุ่มตัวอย่างของเนื้อหาที่เกี่ยวข้องซึ่งมีความเหมาะสมและมีการระบุกำกับอย่างถูกต้อง ทั้งนี้ Meta ควรแจ้งเกี่ยวกับผลลัพธ์ของการประเมินนี้กับคณะกรรมการ ซึ่งรวมถึงการแจ้งว่าผลลัพธ์ดังกล่าวจะช่วยปรับปรุงการบังคับใช้และการพัฒนานโยบายอย่างไร และบริษัทมีแผนที่จะจัดทำการประเมินความแม่นยำของเจ้าหน้าที่ตรวจสอบเกี่ยวกับข้ออนุญาตเหล่านี้เป็นประจำหรือไม่ และสรุปผลลัพธ์ที่ได้ไว้ในรายงานความโปร่งใสรายไตรมาสของคณะกรรมการเพื่อแสดงให้เห็นว่าบริษัทได้ปฏิบัติตามคำแนะนำนี้

*หมายเหตุตามกระบวนการ:

คำตัดสินของคณะกรรมการกำกับดูแลจัดทำขึ้นโดยกรรมการสมาชิกห้าคนและได้รับการอนุมัติจากเสียงส่วนใหญ่ในคณะกรรมการแล้ว คำตัดสินของคณะกรรมการไม่ได้แสดงถึงมุมมองส่วนบุคคลของสมาชิกทั้งหมดเสมอไป

ในการพิจารณาคำตัดสินนี้ คณะกรรมการได้มอบหมายให้มีการดำเนินการศึกษาวิจัยโดยอิสระในนามของคณะกรรมการ โดยได้รับข้อมูลบริบททางสังคม การเมือง และวัฒนธรรมจากสถาบันวิจัยอิสระซึ่งมีสำนักงานใหญ่อยู่ที่มหาวิทยาลัยโกเธนเบิร์ก (University of Gothenburg) และได้ระดมทีมนักสังคมศาสตร์กว่า 50 คนในหกทวีป ตลอดจนผู้เชี่ยวชาญจากประเทศต่างๆ มากกว่า 3,200 คนจากทั่วโลกและ Duco Advisers ซึ่งเป็นบริษัทให้คำปรึกษาด้านภูมิศาสตร์การเมือง, ความไว้วางใจ, ความปลอดภัย และเทคโนโลยี

मामले के निर्णयों और नीति सलाहकार राय पर लौटें