Thắt lưng wampum

Tóm tắt trường hợp

Lưu ý: Vào ngày 28/10/2021, Facebook đã thông báo đổi tên công ty thành Meta. Trong văn bản này, Meta là tên công ty, còn Facebook vẫn được dùng để nói đến sản phẩm và các chính sách gắn với ứng dụng cụ thể.

Ủy ban Giám sát đã hủy bỏ quyết định ban đầu mà Meta đưa ra khi gỡ bài viết trên Facebook của một nghệ sĩ Bản địa ở Bắc Mỹ do vi phạm Tiêu chuẩn cộng đồng của Facebook về Ngôn từ gây thù ghét. Ủy ban nhận thấy nội dung này thuộc trường hợp cho phép của chính sách Ngôn từ gây thù ghét do có mục đích là nâng cao nhận thức về các tội ác lịch sử chống lại người Bản địa ở Bắc Mỹ.

Giới thiệu về trường hợp

Vào tháng 08/2021, một người dùng Facebook đã đăng bức ảnh chụp một chiếc thắt lưng wampum, kèm theo phần văn bản mô tả bằng tiếng Anh. Chiếc thắt lưng wampum là một hình thức nghệ thuật của người Bản địa ở Bắc Mỹ, trong đó vỏ sò được kết lại với nhau để tạo thành các hình, kể lại những câu chuyện và ghi lại các giao kèo. Trên chiếc thắt lưng này có một loạt hình mô tả mà người dùng cho biết là lấy cảm hứng từ "the Kamloops story" (câu chuyện trường Kamloops) – vụ việc vào tháng 05/2021, trong đó nhiều ngôi mộ không có bia đánh dấu được phát hiện tại một trường nội trú từng dành cho trẻ em người Bản địa ở British Columbia, Canada.

Theo phần văn bản mô tả, tác phẩm này có tên "Kill the Indian/Save the Man" (Giết thổ dân/Cứu con người) và do chính người dùng sáng tạo nên. Người dùng mô tả loạt hình trên thắt lưng như sau: "Theft of the Innocent, Evil Posing as Saviours, Residential School/Concentration Camp, Waiting for Discovery, Bring Our Children Home" (Kẻ đánh cắp sự ngây thơ, Quỷ ác đội lốt cứu tinh, Trường nội trú/Trại tập trung, Chờ phát hiện, Đưa bọn trẻ của chúng ta về nhà). Trong bài viết, người dùng mô tả ý nghĩa tác phẩm của mình, cũng như lịch sử của chiếc thắt lưng wampum và mục đích của chúng trong vai trò như một phương tiện giáo dục. Người dùng cho biết việc chế tác không hề đơn giản và chiếc thắt lưng này thể hiện câu chuyện diễn ra ở trường Kamloops một cách giàu cảm xúc. Người dùng gửi lời xin lỗi nếu tác phẩm nghệ thuật này gợi lại bất kỳ nỗi đau nào cho những người sống sót sau các sự kiện ở trường Kamloops, chú thích rằng "sole purpose is to bring awareness to this horrific story" (mục đích duy nhất là nâng cao nhận thức về câu chuyện gây rúng động này).

Một ngày sau khi người dùng đăng, các hệ thống tự động của Meta xác định nội dung đó có khả năng vi phạm Tiêu chuẩn cộng đồng của Facebook về Ngôn từ gây thù ghét. Cùng ngày, một chuyên viên xét duyệt đã đánh giá nội dung là vi phạm và gỡ nội dung. Người dùng đã kháng nghị với Meta về quyết định đó, gợi ý nên có một chuyên viên thứ hai xét duyệt. Tuy nhiên, người xét duyệt thứ hai này cũng đánh giá nội dung là vi phạm. Tại thời điểm bị gỡ, nội dung có hơn 4.000 lượt xem và hơn 50 lượt chia sẻ. Không có người dùng nào báo cáo nội dung.

Do Ủy ban chọn trường hợp này để xem xét nên Meta nhận thấy quyết định gỡ mà mình đưa ra là "lỗi thực thi" và đã khôi phục nội dung vào ngày 27/08. Tuy nhiên, Meta không thông báo cho người dùng về việc khôi phục này cho đến ngày 30/09 – hai ngày sau khi Ủy ban đề nghị Meta cung cấp nội dung của thông báo mà công ty gửi đến người dùng. Meta đã giải thích rằng việc thông báo muộn cho người dùng là do lỗi của con người.

Kết luận chính

Meta đồng ý rằng quyết định gỡ nội dung mà công ty đưa ra ban đầu không phù hợp với Tiêu chuẩn cộng đồng của Facebook và là "lỗi thực thi". Ủy ban nhận thấy nội dung này là một ví dụ rõ ràng về "lời phản bác", trong đó nhắc đến ngôn từ gây thù ghét nhằm chống lại sự áp bức và phân biệt đối xử.

Phần giới thiệu trong chính sách về Ngôn từ gây thù ghét của Facebook giải thích rằng lời phản bác được phép trong trường hợp ý định của người dùng được chỉ ra rõ ràng. Xét từ nội dung bài viết, đây rõ ràng không phải là ngôn từ gây thù ghét. Tác phẩm nghệ thuật này thể hiện câu chuyện đã diễn ra ở trường Kamloops và phần văn bản đi kèm giải thích ý nghĩa của tác phẩm. Mặc dù các từ "Kill the Indian", nếu đứng một mình, có thể được xem là ngôn từ gây thù ghét, nhưng đặt trong ngữ cảnh, cụm này thu hút sự chú ý, đồng thời lên án những hành động thù ghét và phân biệt đối xử cụ thể.

Ủy ban nhắc lại quyết định 2020-005-FB-UA của mình trong một trường hợp liên quan đến câu trích dẫn lời của một Đảng viên Đức Quốc xã. Trường hợp đó cung cấp bài học tương tự về cách đánh giá ý định thông qua các chỉ dấu thay vì lời lẽ trực tiếp, chẳng hạn như qua nội dung và ý nghĩa của câu trích dẫn, thời điểm đăng bài và quốc gia nơi đăng bài, cũng như nội dung của các lượt bình luận và bày tỏ cảm xúc về bài viết.

Trong trường hợp này, Ủy ban thấy người dùng không cần phải nêu rõ ý định của họ là nâng cao nhận thức thì bài viết mới được công nhận là lời phản bác. Ủy ban lưu ý "Các câu hỏi đã biết" – hướng dẫn nội bộ dành cho người xét duyệt – có nêu rằng việc đưa ra tuyên bố rõ ràng về ý định không phải lúc nào cũng đủ để thay đổi ý nghĩa của bài viết được xem là ngôn từ gây thù ghét. Khi đánh giá ý định, người xét duyệt được trông đợi là sẽ suy ra từ nội dung, chứ không chỉ dựa vào các tuyên bố rõ ràng.

Hai người xét duyệt riêng biệt đều đi đến kết luận rằng bài viết này cấu thành ngôn từ gây thù ghét. Meta đã không thể đưa ra lý do cụ thể giải thích tại sao lỗi này lặp lại 2 lần.

Quyết định của Ủy ban Giám sát

Ủy ban Giám sát hủy bỏ quyết định gỡ nội dung mà Meta đưa ra ban đầu.

Trong phần nội dung tư vấn về chính sách, Ủy ban đề xuất Meta nên:

• Thông báo cho người dùng một cách kịp thời, chính xác mọi biện pháp xử lý của công ty đối với nội dung mà người dùng kháng nghị. Trong trường hợp áp dụng, kể cả trường hợp lỗi thực thi như ở đây, thông báo gửi cho người dùng phải cho biết biện pháp xử lý đó đến từ quá trình xem xét của Ủy ban Giám sát.
• Nghiên cứu các tác động lên độ chính xác của người xét duyệt khi người xét duyệt nội dung được thông báo đây là lần xét duyệt thứ hai (do đó họ biết được quyết định ban đầu bị kháng nghị).
• Tiến hành việc đánh giá độ chính xác của người xét duyệt, chú trọng vào các trường hợp cho phép của chính sách về Ngôn từ gây thù ghét áp dụng cho lời lẽ biểu đạt và hình thức biểu đạt nghệ thuật đề cập đến các hành vi vi phạm nhân quyền (ví dụ: lên án, nâng cao nhận thức, sử dụng để tự nói về mình, sử dụng để truyền sức mạnh tinh thần). Việc đánh giá này cũng nên xem xét cụ thể mức độ tác động của vị trí người xét duyệt sinh sống đến khả năng họ đánh giá chính xác ngôn từ gây thù ghét và lời phản bác ở cùng khu vực hoặc khác khu vực. Meta nên chia sẻ các kết quả đánh giá này với Ủy ban, bao gồm cả mức đóng góp của kết quả trong việc cải tiến các hoạt động thực thi và việc xây dựng chính sách, cũng như liệu Meta có định tiến hành các lượt đánh giá thường xuyên về độ chính xác của người xét duyệt khi xem xét các trường hợp cho phép này không. Ủy ban cũng kêu gọi Meta chia sẻ công khai nội dung tóm tắt kết quả của các đánh giá này trong báo cáo minh bạch cập nhật hàng quý về Ủy ban để cho thấy công ty tuân thủ đề xuất này.

*Phần tóm tắt trường hợp cung cấp thông tin tổng quan về trường hợp và không có giá trị tiền lệ.

Toàn bộ quyết định cuối cùng

1. Tóm tắt quyết định

Ủy ban Giám sát hủy bỏ quyết định mà Meta đưa ra ban đầu là gỡ bài viết của một nghệ sĩ Bản địa ở Bắc Mỹ. Bài viết này có ảnh chụp một tác phẩm nghệ thuật của nghệ sĩ đó, cùng với tiêu đề trích dẫn một trường hợp về ngôn từ gây thù ghét đã xảy ra. Meta đồng ý rằng bài viết này thuộc một trong các trường hợp cho phép trong Tiêu chuẩn cộng đồng của Facebook về Ngôn từ gây thù ghét vì thể hiện rõ ý định nâng cao nhận thức về các tội ác trong lịch sử chống lại người Bản địa ở Bắc Mỹ.

2. Mô tả trường hợp

Vào đầu tháng 08/2021, một người dùng Facebook đã đăng bức ảnh chụp một chiếc thắt lưng wampum, kèm theo phần văn bản mô tả bằng tiếng Anh. Chiếc thắt lưng wampum là một hình thức nghệ thuật của người Bản địa ở Bắc Mỹ, trong đó vỏ sò được kết lại với nhau để tạo thành các hình, kể lại những câu chuyện và ghi lại các giao kèo. Trên chiếc thắt lưng này có một loạt hình mô tả mà người dùng cho biết là lấy cảm hứng từ "the Kamloops story" (câu chuyện trường Kamloops) – vụ việc vào tháng 05/2021, trong đó nhiều ngôi mộ không có bia đánh dấu được phát hiện tại một trường nội trú từng dành cho trẻ em người Bản địa ở British Columbia, Canada.

Theo phần văn bản mô tả, tác phẩm này có tên "Kill the Indian/Save the Man" (Giết thổ dân/Cứu con người) và do chính người dùng sáng tạo nên. Sau đó, người dùng đưa ra một danh sách các cụm từ dùng để mô tả loạt hình có trên chiếc thắt lưng: "Theft of the Innocent, Evil Posing as Saviours, Residential School/Concentration Camp, Waiting for Discovery, Bring Our Children Home" (Kẻ đánh cắp sự ngây thơ, Quỷ ác đội lốt cứu tinh, Trường nội trú/Trại tập trung, Chờ phát hiện, Đưa bọn trẻ của chúng ta về nhà). Trong bài viết, người dùng mô tả ý nghĩa tác phẩm của mình, cũng như lịch sử của chiếc thắt lưng wampum và mục đích của chúng trong vai trò như một phương tiện giáo dục. Người dùng cho biết việc chế tác không hề đơn giản và chiếc thắt lưng này thể hiện câu chuyện đã diễn ra ở trường Kamloops một cách rất giàu cảm xúc. Người dùng liên tục cho rằng không được che giấu công chúng lần nữa và hy vọng chiếc thắt lưng sẽ góp phần ngăn chặn điều đó xảy ra. Cuối bài viết, người dùng gửi lời xin lỗi nếu tác phẩm nghệ thuật này gợi lại bất kỳ nỗi đau nào cho những người còn sống rời khỏi hệ thống trường nội trú đó, đồng thời chia sẻ rằng họ có "sole purpose is to bring awareness to this horrific story" (mục đích duy nhất là nâng cao nhận thức về câu chuyện gây rúng động này).

Một ngày sau khi người dùng đăng, các hệ thống tự động của Meta xác định nội dung đó có khả năng vi phạm Tiêu chuẩn cộng đồng của Facebook về Ngôn từ gây thù ghét. Cùng ngày, một chuyên viên xét duyệt đã đánh giá nội dung là vi phạm và gỡ nội dung. Người dùng đã kháng nghị với Meta về quyết định đó, gợi ý nên có một chuyên viên thứ hai xét duyệt. Tuy nhiên, người xét duyệt thứ hai này cũng đánh giá nội dung là vi phạm. Tại thời điểm bị gỡ, nội dung có hơn 4.000 lượt xem và hơn 50 lượt chia sẻ. Không có người dùng nào báo cáo nội dung. Do Ủy ban chọn trường hợp này để xem xét nên Meta nhận thấy quyết định gỡ mà mình đưa ra là "lỗi thực thi" và đã khôi phục nội dung vào ngày 27/08. Tuy nhiên, Meta không thông báo cho người dùng về việc khôi phục này cho đến ngày 30/09 – hai ngày sau khi Ủy ban đề nghị Meta cung cấp nội dung của thông báo mà công ty gửi đến người dùng. Meta đã giải thích rằng việc thông báo muộn cho người dùng là do lỗi của con người. Bản thân thông báo đó không cho người dùng biết rằng nội dung của họ đã được khôi phục do họ kháng nghị với Ủy ban và Ủy ban đã chọn trường hợp này.

Một bình luận công khai của Hiệp hội Thổ dân Châu Mỹ (Association on American Indian Affairs) (Bình luận công khai-10208) chỉ ra rằng lời trích dẫn dùng làm tên của tác phẩm nghệ thuật là của Richard Henry Pratt – một sĩ quan quân đội đã thiết lập trường nội trú liên bang đầu tiên dành cho người Da đỏ ở Hợp chúng quốc Hoa Kỳ. Cụm từ này tóm tắt những chính sách đằng sau việc sáng lập ra các trường nội trú nhằm "khai hóa" cho người Bản địa và "tiệt trừ tận gốc mọi dấu tích của nền văn hóa Thổ dân" bằng vũ lực. Các chính sách tương tự đã được áp dụng ở Canada và được Ủy ban Sự thật và Hòa giải của Canada (Truth and Reconciliation Commission of Canada) nhận định là chẳng khác nào một cuộc diệt chủng văn hóa.

Việc người dùng nhắc đến những gì xảy ra ở "Kamloops" là nhắc đến Trường nội trú Kamloops dành cho người Bản địa – một ngôi trường nội trú từng dành cho trẻ em thuộc Những Bộ tộc Đầu tiên của Canada ở British Columbia, Canada. Vào tháng 05/2021, các lãnh đạo của một trong Những Bộ tộc Đầu tiên có tên Tk’emlúps te Secwépemc đã công bố phát hiện thấy những ngôi mộ không có bia đánh dấu ở Kamloops. Nhà chức trách đã xác nhận 200 vị trí có thể là nơi chôn cất thi thể ở khu vực này.

Chính phủ Canada ước tính ít nhất đã có 150.000 trẻ em người Bản địa học tại hệ thống trường nội trú này trước khi ngôi trường cuối cùng bị đóng cửa vào năm 1997. Trẻ em người Bản địa thường bị ép phải rời khỏi gia đình và bị cấm thể hiện bất kỳ khía cạnh nào của văn hóa Bản địa. Các trường học này áp dụng những hình phạt tàn nhẫn, mang tính nhục hình và ngược đãi. Đội ngũ giáo viên cũng như nhân viên lạm dụng tình dục và có hành vi bạo lực nghiêm trọng với nhiều học sinh hoặc dung thứ cho những hành vi này. Học sinh bị suy dinh dưỡng, trường không có đủ hệ thống sưởi và ít được lau dọn, nhiều trẻ đã chết vì bị lao hoặc các bệnh khác mà hầu như không được chăm sóc y tế. Ủy ban Sự thật và Hòa giải của Canada kết luận có ít nhất 4.100 học sinh đã chết khi còn học ở các trường này, nhiều trong số đó là do bị ngược đãi hoặc bỏ mặc, số khác do bị bệnh hoặc tai nạn.

3. Thẩm quyền và phạm vi

Ủy ban có thẩm quyền xem xét quyết định của Meta theo đơn kháng nghị của người dùng có nội dung bị gỡ (Mục 1, Điều 2 trong Điều lệ; Mục 1, Điều 3 trong Quy chế). Ủy ban có thể tán thành hoặc hủy bỏ quyết định của Meta, đồng thời quyết định của Ủy ban mang tính ràng buộc đối với công ty này (Điều 4; Mục 5, Điều 3 trong Điều lệ). Quyết định của Ủy ban có thể bao gồm nội dung tư vấn chính sách với các đề xuất tuy không mang tính ràng buộc nhưng Meta phải phản hồi (Điều 4; Mục 4, Điều 3 trong Điều lệ).

Khi lựa chọn các trường hợp giống như trường hợp này (trường hợp mà Meta sau đó đồng ý rằng công ty có sai sót), Ủy ban sẽ xem xét quyết định ban đầu để hiểu thêm về lý do xảy ra sai sót, cũng như để đưa ra nhận xét hoặc đề xuất có thể góp phần giảm thiểu lỗi và tăng cường sự công bằng. Sau quyết định đưa ra liên quan đến Triệu chứng của bệnh ung thư vú và ảnh khỏa thân (Mục 3, 2020-004-IG-UA), Ủy ban đã áp dụng quy trình cho phép Meta xác định lỗi thực thi trước khi một trường hợp được giao cho ban hội thẩm (xem trang 30 của báo cáo minh bạch). Trong các trường hợp này, sẽ không ích gì nếu Meta chỉ tập trung vào lý do đưa ra cho quyết định đã sửa đổi của công ty, giải thích điều gì đáng lẽ nên xảy ra với nội dung của người dùng, trong khi kêu gọi Ủy ban tán thành quyết định đã sửa đổi như là quyết định "cuối cùng" của công ty. Ngoài giải thích lý do tại sao quyết định mà người dùng kháng nghị là sai, Ủy ban gợi ý Meta nên giải thích lỗi đã xảy ra như thế nào và lý do quy trình xét duyệt nội bộ của công ty không xác định hoặc khắc phục được lỗi đó. Ủy ban sẽ tiếp tục xem xét dựa trên quyết định mà người dùng đã kháng nghị.

4. Các tiêu chuẩn có liên quan

Ủy ban Giám sát xem xét các tiêu chuẩn sau đây khi đưa ra quyết định:

I.Tiêu chuẩn cộng đồng của Facebook:

Tiêu chuẩn cộng đồng của Facebook định nghĩa ngôn từ gây thù ghét là "sự công kích trực tiếp vào mọi người dựa trên những gì mà chúng tôi gọi là đặc điểm được bảo vệ – chủng tộc, dân tộc, nguồn gốc quốc gia, tình trạng khuyết tật, thành phần tôn giáo, đẳng cấp, thiên hướng tính dục, giới tính, bản dạng giới và căn bệnh nghiêm trọng". Ở "Cấp độ 1", nội dung bị cấm gồm có "lời nói hoặc thái độ ủng hộ bạo lực dưới dạng văn bản hoặc hình ảnh". Tiêu chuẩn cộng đồng cũng bao gồm các trường hợp cho phép nhằm phân định rõ nội dung không vi phạm:

Chúng tôi nhận thấy rằng đôi khi, mọi người chia sẻ nội dung có ngôn từ gây thù ghét của người khác nhằm mục đích lên án hoặc nâng cao nhận thức. Trong những trường hợp khác, mọi người lại dùng ngôn từ có thể vi phạm tiêu chuẩn của chúng tôi để tự nói về mình hoặc để truyền sức mạnh tinh thần. Chính sách của chúng tôi cho phép những loại ngôn từ này. Tuy nhiên, mọi người phải thể hiện rõ ý định của mình. Nếu ý định không rõ ràng thì chúng tôi có thể gỡ nội dung.

II. Các giá trị của Meta:

Các giá trị của Meta được trình bày trong phần giới thiệu về Tiêu chuẩn cộng đồng của Facebook. Giá trị "Bày tỏ ý kiến" được mô tả là giá trị "quan trọng nhất":

Từ trước đến nay, Tiêu chuẩn cộng đồng của chúng tôi luôn có mục tiêu là tạo ra một nơi để mọi người tự do biểu đạt và bày tỏ ý kiến. […] Chúng tôi muốn mọi người được tự do bàn luận về những vấn đề quan trọng với họ, kể cả khi ai đó có thể không đồng ý hoặc phản đối họ.

Meta hạn chế khả năng "Bày tỏ ý kiến" để phục vụ cho 4 giá trị. Trong trường hợp này, 2 giá trị có liên quan là:

"An toàn": Chúng tôi cam kết biến Facebook thành một nơi an toàn. Những lời lẽ đe dọa mà có khả năng bài trừ, hăm dọa người khác hoặc khiến họ phải im lặng sẽ không được phép xuất hiện trên Facebook.

"Phẩm giá": Chúng tôi tin rằng mọi người đều bình đẳng về phẩm giá và các quyền. Chúng tôi muốn mọi người tôn trọng phẩm giá của người khác đồng thời không quấy rối hoặc làm mất thể diện của họ.

III. Các tiêu chuẩn về nhân quyền:

Nguyên tắc chỉ đạo của Liên Hiệp Quốc về kinh doanh và nhân quyền (UNGP), do Hội đồng Nhân quyền của Liên Hiệp Quốc phê chuẩn vào năm 2011, thiết lập một khung tự nguyện cho các trách nhiệm của doanh nghiệp tư nhân về nhân quyền. Năm 2021, Meta công bốChính sách về nhân quyền của công ty, trong đó tái khẳng định cam kết rằng công ty sẽ tôn trọng các quyền con người theo UNGP. Ủy ban đã phân tích các trách nhiệm của Meta về nhân quyền trong trường hợp này dựa trên các tiêu chuẩn sau đây về nhân quyền:

• Quyền tự do biểu đạt: Điều 19 trong Công ước quốc tế về các quyền dân sự và chính trị (ICCPR); Chú giải chung số 34, Ủy ban Nhân quyền, 2011; Điều 5, Công ước quốc tế về việc xóa bỏ tất cả các hình thức phân biệt chủng tộc (ICERD); Báo cáo về ngôn từ gây thù ghét do Báo cáo viên đặc biệt của Liên Hiệp Quốc thực hiện, A/74/486, 2019; Báo cáo về việc kiểm duyệt nội dung trên mạng do Báo cáo viên đặc biệt của Liên Hiệp Quốc thực hiện, A/HRC/38/35, 2018.
• Quyền bình đẳng và không bị phân biệt đối xử: Đoạn 1 trong Điều 2 và Điều 26 (ICCPR); Điều 2 trong ICERD; Đề xuất chung số 35 của Ủy ban Xóa bỏ Phân biệt Chủng tộc, 2013.
• Các quyền về văn hóa: Điều 27 trong ICCPR; Điều 15, Công ước quốc tế về các quyền kinh tế, xã hội và văn hóa (ICESCR); Báo cáo về quyền tự do biểu đạt và sáng tạo nghệ thuật do Báo cáo viên đặc biệt của Liên Hiệp Quốc phụ trách các quyền về văn hóa thực hiện, A/HRC/23/34, 2013.
• Các quyền của người bản địa: Tuyên bố của Liên Hiệp Quốc về các quyền của người bản địa, đoạn 2, Điều 7; đoạn 1, Điều 8 và Điều 19.

5. Phần trình bày của người dùng

Trong đơn kháng nghị gửi đến Ủy ban, người dùng cho biết bài viết của họ giới thiệu về một câu chuyện lịch sử được ghi lại dưới dạng tác phẩm nghệ thuật truyền thống và không dính dáng gì đến ngôn từ gây thù ghét cả. Người dùng nêu thêm rằng câu chuyện lịch sử này "needed to be seen" (cần được biết đến) và khi nói đến việc Meta gỡ bài viết, người dùng cho rằng "this is censorship" (đó là sự kiểm duyệt).

6. Lời giải thích Meta đưa ra cho quyết định của mình

Meta cho Ủy ban biết rằng cụm từ "Kill the Indian" (Giết thổ dân) là nội dung công kích Cấp độ 1 theo Tiêu chuẩn cộng đồng về Ngôn từ gây thù ghét. Tiêu chuẩn này nghiêm cấm "ngôn từ cổ xúy bạo lực " nhắm đến mọi người dựa trên một đặc điểm được bảo vệ, trong đó có chủng tộc hoặc dân tộc. Tuy nhiên, Meta xác nhận rằng quyết định gỡ nội dung là sai vì chính sách cho phép chia sẻ ngôn từ gây thù ghét của người khác nhằm mục đích "lên án hoặc nâng cao nhận thức". Meta nhận thấy người dùng có nêu trong bài viết rằng mục đích của họ là nâng cao nhận thức về câu chuyện gây rúng động đã xảy ra tại trường Kamloops.

Meta chú thích rằng cụm từ "Kill the Indian/Save the Man" (Giết thổ dân/Cứu con người) bắt nguồn từ chiến dịch ép buộc đồng hóa trẻ em người Bản địa. Qua câu chuyện về trường Kamloops, người dùng còn nâng cao nhận thức về chiến lược ép buộc đồng hóa thông qua hệ thống trường nội trú. Để trả lời câu hỏi của Ủy ban, Meta nêu rõ người xét duyệt nội dung không cần phải biết về câu chuyện lịch sử này mới có thể thực thi chính sách một cách chính xác. Bài viết của người dùng cho biết họ muốn nâng cao nhận thức về một câu chuyện gây rúng động, do đó người xét duyệt có thể kết luận một cách hợp lý rằng bài viết trích dẫn ngôn từ gây thù ghét với mục đích nâng cao nhận thức.

Meta đã cho Ủy ban biết là trong trường hợp này, không có người dùng nào báo cáo nội dung. Meta vận hành các công nghệ phân loại máy học đã qua đào tạo để tự động phát hiện các nội dung có khả năng vi phạm Tiêu chuẩn cộng đồng của Facebook. Trong trường hợp này, hai công nghệ phân loại đã tự động xác định bài viết là có thể chứa ngôn từ gây thù ghét. Công nghệ phân loại thứ nhất (phân tích nội dung) không tự tin lắm là bài viết vi phạm Tiêu chuẩn cộng đồng. Tuy nhiên, công nghệ phân loại còn lại, dựa trên một loạt các tín hiệu theo ngữ cảnh, đã xác định bài viết có thể được chia sẻ rộng rãi và nhiều người đã xem bài viết. Do khả năng gây hại có thể phát sinh từ việc phát tán rộng rãi ngôn từ gây thù ghét, hệ thống của Meta đã tự động gửi bài viết cho chuyên viên xét duyệt.

Meta giải thích rõ trong phần trả lời câu hỏi của Ủy ban rằng một chuyên viên xét duyệt ở khu vực châu Á Thái Bình Dương đã xác định bài viết có ngôn từ gây thù ghét và đã gỡ bài viết khỏi nền tảng. Người dùng kháng nghị và một chuyên viên xét duyệt thứ hai ở khu vực châu Á Thái Bình Dương đã xem xét nội dung và cũng xác định nội dung có ngôn từ gây thù ghét. Meta xác nhận với Ủy ban rằng người xét duyệt không ghi lại lý do đưa ra quyết định liên quan đến từng nội dung.

7.Bình luận do bên thứ ba gửi đến

Ủy ban Giám sát đã xem xét 8 bình luận công khai liên quan đến trường hợp này: 4 từ Hoa Kỳ và Canada, 2 từ châu Âu, 1 từ châu Phi hạ Sahara, 1 từ châu Á Thái Bình Dương và châu Đại Dương. Các bình luận gửi đến đề cập về các chủ đề sau: ý nghĩa của lời trích dẫn mà người dùng dựa vào làm tiêu đề của tác phẩm nghệ thuật, ngữ cảnh liên quan đến việc sử dụng các trường nội trú ở Bắc Mỹ và cách kiểm duyệt nội dung của Meta tác động như thế nào đến quyền tự do nghệ thuật và quyền biểu đạt của những người Bản địa hoặc có nguồn gốc Bản địa.

Để đọc các bình luận công khai gửi đến cho trường hợp này, vui lòng nhấp vào đây.

8.Phân tích của Ủy ban Giám sát

Ủy ban đã xem xét câu hỏi liệu có nên khôi phục nội dung này hay không dựa trên 3 góc độ: Tiêu chuẩn cộng đồng của Facebook, các giá trị của Meta và các trách nhiệm của Meta về nhân quyền.

8.1 Sự tuân thủ Tiêu chuẩn cộng đồng

Meta đồng ý rằng quyết định gỡ nội dung mà công ty đưa ra ban đầu không phù hợp với Tiêu chuẩn cộng đồng của Facebook và là "lỗi thực thi". Ủy ban thấy rằng trong trường hợp này, nội dung rõ ràng không phải là ngôn từ gây thù ghét. Nội dung này là một ví dụ rõ ràng về "lời phản bác", trong đó nhắc đến hoặc vận dụng ngôn từ gây thù ghét theo hướng chống lại sự áp bức và phân biệt đối xử.

Một cách rõ ràng, Tiêu chuẩn cộng đồng về Ngôn từ gây thù ghét cho phép "nội dung có ngôn từ gây thù ghét của người khác nhằm mục đích lên án hoặc nâng cao nhận thức". Tuy nhiên, hai người xét duyệt riêng biệt đều đi đến kết luận rằng bài viết này có chứa ngôn từ gây thù ghét. Meta đã không thể đưa ra lý do cụ thể về việc tại sao lỗi cá biệt này lặp lại 2 lần.

Trong trường hợp Câu trích dẫn lời của một nhân vật thuộc Đức Quốc xã (2020-005-FB-UA), Ủy ban lưu ý rằng ngữ cảnh trong đó câu trích dẫn được sử dụng rất quan trọng để hiểu được ý nghĩa của nó. Trong trường hợp đó, nội dung và ý nghĩa của câu trích dẫn, thời điểm đăng bài và quốc gia nơi đăng bài viết, cũng như nội dung của các lượt bình luận và bày tỏ cảm xúc về bài viết, là những chỉ dấu rõ ràng cho thấy rằng người dùng không có ý định ca ngợi một nhân vật được xác định là gây thù ghét.

Ủy ban nhận thấy không cần người dùng phải nêu rõ ý định của họ là nâng cao nhận thức vì mục đích và ý nghĩa của bài viết này là rất rõ ràng. Tác phẩm nghệ thuật trong hình thể hiện câu chuyện đã diễn ra ở trường Kamloops và phần văn bản đi kèm giải thích ý nghĩa của tác phẩm. Mặc dù các từ "Kill the Indian" (Giết thổ dân), nếu đứng một mình, có thể được xem là ngôn từ gây thù ghét, nhưng khi đặt trong toàn bộ nội dung, cụm này được dùng để nâng cao nhận thức và lên án những hành động thù ghét và phân biệt đối xử. Nội dung sử dụng dấu ngoặc kép để phân biệt cụm từ gây thù ghét trong tiêu đề, được viết đầy đủ là "Kill the Indian/Save the Man" (Giết thổ dân/Cứu con người). Việc này đáng lẽ phải khiến người xét duyệt xem xét sâu hơn. Cách người dùng kể câu chuyện ở trường Kamloops và giải thích ý nghĩa văn hóa của chiếc thắt lưng wampum cho thấy rõ là họ đồng cảm với các nạn nhân của hành vi bạo lực và phân biệt đối xử, chứ không phải là với thủ phạm. Nội dung câu chuyện rõ ràng là lên án các sự kiện đã được phát hiện tại trường Kamloops. Các lượt bình luận và bày tỏ cảm xúc về bài viết cho thấy rõ đối tượng của người dùng hiểu được mục đích lên án và nâng cao nhận thức này.

Ủy ban lưu ý "Các câu hỏi đã biết" – hướng dẫn nội bộ của Facebook dành cho người xét duyệt – chỉ dẫn người xét duyệt thận trọng với việc gỡ nội dung chứa ngôn từ gây thù ghét mà trong đó người dùng không thể hiện rõ ý định. Các câu hỏi đã biết cũng nêu rằng việc đưa ra tuyên bố rõ ràng về ý định không phải lúc nào cũng đủ để thay đổi ý nghĩa của bài viết được xem là ngôn từ gây thù ghét. Hướng dẫn nội bộ này cung cấp một chút chỉ dẫn cho người xét duyệt về cách phân biệt chính xác ngôn từ gây thù ghét bị nghiêm cấm với lời phản bác trích dẫn ngôn từ gây thù ghét để lên án hoặc nâng cao nhận thức. Như những gì Ủy ban biết, không có hướng dẫn nào về cách đánh giá bằng chứng cho ý định khi trích dẫn hoặc sử dụng ngôn từ gây thù ghét trong nội dung nghệ thuật hoặc trong nội dung thảo luận về các hành vi vi phạm nhân quyền. Trong những trường hợp như vậy, nội dung được cho phép theo chính sách.

8.2 Sự tuân thủ các giá trị của Meta

Ủy ban thấy quyết định gỡ nội dung mà Meta đưa ra ban đầu không tuân thủ các giá trị "Bày tỏ ý kiến" và "Phẩm giá" của công ty, cũng như không phục vụ cho giá trị "An toàn". Mặc dù quyết định này phù hợp với các giá trị của Meta là hạn chế tình trạng phát tán ngôn từ gây thù ghét trên nền tảng của công ty, Ủy ban lo ngại rằng quy trình xét duyệt của Meta không thể xác định chính xác và bảo vệ được quyền thể hiện bản thân thông qua lời phản bác của những người bị phân biệt đối xử hoặc bị gạt ra lề xã hội.

Meta đã đưa ra cam kết ủng hộ những lời phản bác như sau:

Với vai trò là một cộng đồng, một nền tảng xã hội và nơi để mọi người tập hợp chia sẻ kinh nghiệm, Facebook ủng hộ những sáng kiến truyền đi thông điệp Phản bác quan trọng bằng cách thực thi các chính sách mạnh mẽ về nội dung và đồng hành với các cộng đồng địa phương, các nhà hoạch định chính sách, các chuyên gia và những người tạo ra sự thay đổi để phát động các sáng kiến này trên toàn cầu.

Meta tuyên bố rằng "Bày tỏ ý kiến" là giá trị quan trọng nhất của công ty. Tác phẩm nghệ thuật nhằm giải thích sự man rợ của những hành động tàn bạo trong quá khứ và cho mọi người thấy tác động lâu dài của những hành động này là một trong những cách thể hiện hiệu quả và quan trọng nhất của giá trị "Bày tỏ ý kiến", nhất là đối với những nhóm người yếu thế đang thể hiện nền văn hóa của riêng họ và cố gắng đảm bảo rằng câu chuyện lịch sử của chính họ được lắng nghe. Lời phản bác không chỉ là cách thể hiện giá trị "Bày tỏ ý kiến" mà còn là công cụ quan trọng để những người là mục tiêu của ngôn từ gây thù ghét bảo vệ phẩm giá của mình, cũng như đẩy lùi hành vi đàn áp, phân biệt đối xử và làm mất thể diện. Meta phải đảm bảo các chính sách nội dung, cũng như cách thức xét duyệt của công ty tính đến và bảo vệ hình thức biểu đạt này.

Đối với một người dùng đăng bài nhằm nâng cao nhận thức về những hành động tàn bạo hàng loạt thì việc biết rằng nội dung của họ bị chặn do là ngôn từ gây thù ghét chính là một sự sỉ nhục phẩm giá của họ. Sự buộc tội này, đặc biệt là khi Meta lặp lại với kết quả đơn kháng nghị, có thể gây ra tâm lý tự kiểm duyệt.

8.3 Sự tuân thủ các trách nhiệm của Meta về nhân quyền

Ủy ban kết luận rằng việc gỡ nội dung này đi ngược lại với các trách nhiệm của Meta về nhân quyền trong vai trò là một doanh nghiệp. Chính Meta đã cam kết tôn trọng các quyền con người theo Nguyên tắc chỉ đạo của Liên Hiệp Quốc về kinh doanh và nhân quyền (UNGP). Chính sách của công ty về nhân quyền nêu rõ rằng cam kết này bao gồm cả Công ước quốc tế về các quyền dân sự và chính trị (ICCPR).

Đây là trường hợp đầu tiên mà Ủy ban xem xét liên quan đến hình thức biểu đạt bằng nghệ thuật, cũng như là trường hợp đầu tiên liên quan đến quyền biểu đạt mà người dùng tự nhận mình là người Bản địa. Đây là một trong nhiều trường hợp Ủy ban đã chọn, trong đó người dùng cố gắng tìm cách để mọi người chú ý đến các hành vi phạm nhân quyền nghiêm trọng.

Quyền tự do biểu đạt (Điều 19 trong ICCPR)

Các tiêu chuẩn quốc tế về nhân quyền nhấn mạnh giá trị của quyền biểu đạt quan điểm chính trị (đoạn 38 trong Chú giải chung số 34 của Ủy ban Nhân quyền). Phạm vi bảo vệ của quyền này được xác định trong đoạn 2, Điều 19 của ICCPR, trong đó đặc biệt đề cập đến quyền biểu đạt "dưới hình thức nghệ thuật". Công ước quốc tế về việc xóa bỏ tất cả các hình thức phân biệt chủng tộc (ICERD) cũng đặt ra mức bảo vệ trước hành vi phân biệt đối xử trong việc thực thi quyền tự do biểu đạt (Điều 5), đồng thời Ủy ban được giao nhiệm vụ giám sát tình hình tuân thủ của các quốc gia đã nhấn mạnh tầm quan trọng của quyền này đối với vấn đề hỗ trợ "các nhóm dễ bị tổn thương trong việc tái thiết sự cân bằng quyền lực giữa các thành phần xã hội" và đưa ra "những quan điểm khác cũng như ý kiến trái chiều" trong các cuộc thảo luận (đoạn 29 trong Đề xuất chung số 35, Ủy ban CERD).

Nghệ thuật thường mang tính chính trị và các tiêu chuẩn quốc tế công nhận vai trò to lớn và đáng chú ý của hình thức truyền đạt này trong việc phản đối các vấn nạn thực tại (đoạn 3 – 4 trong báo cáo A/HRC/23/34 do Báo cáo viên đặc biệt của Liên Hiệp Quốc phụ trách các quyền về văn hóa thực hiện). Internet và các nền tảng mạng xã hội, cụ thể như Facebook và Instagram có giá trị đặc biệt đối với các nghệ sĩ trong việc tiếp cận những đối tượng mới và ở quy mô lớn hơn. Sinh kế của họ có thể phụ thuộc vào khả năng tiếp cận các nền tảng xã hội chiếm ưu thế trên Internet.

Quyền tự do biểu đạt được đảm bảo cho tất cả mọi người mà không có sự phân biệt đối xử (đoạn 2, Điều 19 trong ICCPR). Ủy ban nhận được các bình luận gửi đến cho rằng để người Bản địa được đảm bảo quyền tự do đưa ra sự đồng ý trước, dựa trên hiểu biết trong trường hợp nhà nước áp dụng các biện pháp hành chính và pháp lý ảnh hưởng đến các cộng đồng đó, Meta phải có trách nhiệm thảo luận với các cộng đồng đó khi xây dựng chính sách nội dung (Bình luận công khai-10240, Nhóm ủng hộ Quyền của Người thiểu số (Minority Rights Group); xem thêm Điều 19 trong Tuyên bố của Liên Hiệp Quốc về các quyền của người Bản địa). Báo cáo viên đặc biệt của Liên Hiệp Quốc về quyền tự do biểu đạt và bày tỏ ý kiến đã nêu lên mối lo ngại tương tự trong ngữ cảnh về trách nhiệm của các nền tảng mạng xã hội (đoạn 54, A/HRC/38/35).

Nội dung trong trường hợp này cũng liên quan đến một số quyền khác, trong đó những người thuộc các nhóm quốc gia, ngôn ngữ hoặc dân tộc thiểu số có quyền tận hưởng nền văn hóa riêng của mình trong cộng đồng, cùng với các thành viên khác trong nhóm của họ (Điều 27, ICCPR), cũng như quyền tham gia vào đời sống văn hóa và thưởng thức nghệ thuật (Điều 15, ICESCR). Nghệ thuật chế tác thắt lưng wampum nhằm ghi lại và nâng cao nhận thức về những hành động tàn bạo đàn áp các quyền của con người và di sản tiếp nối của loại hình nghệ thuật này được bảo vệ theo Điều 6(c) trong Tuyên bố của Liên Hiệp Quốc về nhà hoạt động nhân quyền, cũng như theo quyền được biết sự thật về những hành động tàn bạo (Bộ nguyên tắc của Liên Hiệp Quốc nhằm chống vấn nạn tội ác không bị trừng phạt). Tuyên bố của Liên Hiệp Quốc về các quyền của người Bản địa công nhận một cách rõ ràng rằng việc cưỡng đoạt trẻ em có thể là một hành động bạo lực và là tội diệt chủng (đoạn 2, Điều 7) và đặt ra mức bảo vệ cụ thể chống lại hành vi hủy hoại văn hóa và ép buộc đồng hóa (đoạn 1, Điều 8).

Điều 19 yêu cầu rằng trong trường hợp nhà nước áp đặt các biện pháp hạn chế quyền biểu đạt thì các biện pháp đó phải đáp ứng những yêu cầu về tính hợp pháp, mục đích chính đáng, tính cần thiết và tương xứng (đoạn 3, Điều 19 trong ICCPR). Báo cáo viên đặc biệt của Liên Hiệp Quốc về quyền tự do biểu đạt đã khuyến khích các công ty mạng xã hội đi theo những nguyên tắc này khi kiểm duyệt nội dung biểu đạt trên mạng, lưu ý rằng các quy định về quyền biểu đạt được áp dụng trên quy mô lớn của các công ty tư nhân có thể làm dấy lên mối lo ngại, nhất là trong bối cảnh đó (đoạn 45 và 70, A/HRC/38/35 ). Tất cả các quyết định của Ủy ban cho đến nay đều dựa trên việc đánh giá xem 3 yêu cầu nêu trong Điều 19 của ICCPR có được thỏa mãn hay không.

I. Tính hợp pháp (sự rõ ràng và dễ hiểu của các quy tắc)

Tiêu chuẩn cộng đồng về Ngôn từ gây thù ghét rõ ràng cho phép nội dung có mục đích lên án ngôn từ gây thù ghét hoặc nâng cao nhận thức. Phần này của chính sách đủ rõ ràng và dễ hiểu nên người dùng có thể nắm được các quy tắc và hành động theo đó (đoạn 25 trong Chú giải chung số 34). Tiêu chuẩn về tính hợp pháp cũng yêu cầu các quy tắc hạn chế quyền biểu đạt phải "hướng dẫn đủ rõ ràng cho những người chịu trách nhiệm thực thi để họ có thể xác định hình thức biểu đạt nào cần hạn chế một cách thích đáng và hình thức nào thì không bị hạn chế" (cùng nguồn nêu trên) Việc 2 người xét duyệt không thể đánh giá chính xác cách áp dụng các trường hợp cho phép của chính sách đối với nội dung này cho thấy cần có thêm hướng dẫn nội bộ cho người xét duyệt.

II. Mục đích chính đáng

Mọi biện pháp hạn chế quyền tự do biểu đạt do nhà nước đặt ra đều phải phục vụ cho một trong những mục đích chính đáng nêu ở đoạn 3, Điều 19 trong ICCPR. Trong nội dung gửi đến Ủy ban, Meta thường xuyên viện dẫn các mục đích trong danh sách này khi đưa ra lý lẽ cho hành động mình đã thực hiện để ngăn chặn quyền ngôn luận. Ủy ban trước đó đã công nhận rằng mục đích bảo vệ quyền của người khác mà Tiêu chuẩn cộng đồng về Ngôn từ gây thù ghét của Facebook nhắm đến là chính đáng. Các quyền đó bao gồm quyền được bình đẳng và không bị phân biệt đối xử, quyền tự do biểu đạt và quyền được bảo vệ toàn vẹn thân thể.

III. Tính cần thiết và tương xứng

Việc mắc sai sót rõ ràng trong trường hợp này hiển nhiên đồng nghĩa với việc quyết định gỡ là không cần thiết và Meta đã chấp nhận điều đó. Ủy ban lo ngại một lỗi rành rành như vậy có thể cho thấy những vấn đề sâu hơn về tính tương xứng trong quy trình xét duyệt tự động và bằng con người. Mọi biện pháp hạn chế quyền tự do biểu đạt cần phù hợp để thực hiện chức năng bảo vệ và là công cụ ít xâm phạm nhất trong số những công cụ có thể thực hiện chức năng bảo vệ (đoạn 34, Chú giải chung số 34). Việc hệ thống xét duyệt nội dung của Meta có đáp ứng các yêu cầu về tính cần thiết và tương xứng hay không tùy thuộc phần lớn vào mức độ hiệu quả của hệ thống này trong việc gỡ những ngôn từ thực sự là ngôn từ gây thù ghét trong khi vẫn giảm thiểu được số lần phát hiện và gỡ bỏ do nhầm lẫn.

Mỗi bài viết bị gỡ sai đều ảnh hưởng tiêu cực đến quyền tự do biểu đạt. Ủy ban hiểu rằng dù là người hay là máy móc thì việc mắc lỗi là không thể tránh khỏi. Ngôn từ gây thù ghét và hành vi đáp lại cụ thể sẽ luôn tùy thuộc vào ngữ cảnh và ranh giới của việc vi phạm không phải lúc nào cũng rõ ràng. Tuy nhiên, loại lỗi và những người hay cộng đồng phải gánh chịu những lỗi đó cho thấy một điều là công ty cần liên tục đánh giá và xem xét các lựa chọn thiết kế. Điều đó đòi hỏi phải điều tra thêm nguyên nhân gốc rễ của sai sót trong trường hợp này, cũng như đánh giá rộng hơn mức độ hiệu quả của việc xét duyệt lời phản bác.

Do tầm quan trọng của tác phẩm nghệ thuật mang tính phản bác của các nghệ sĩ Bản địa trong việc góp phần chống lại sự thù ghét và áp bức, Ủy ban mong đợi Meta sẽ đặc biệt thận trọng để tránh khả năng gỡ nhầm nội dung trong trường hợp này, cũng như nội dung tương tự trên Facebook và Instagram. Trường hợp này không đủ để đánh giá hiệu quả của Meta trong việc thực thi chính sách về Ngôn từ gây thù ghét của Facebook nói chung. Một hệ thống bình thường vẫn hoạt động tốt có thể hoàn toàn kém hiệu quả khi xử lý các hạng mục con về nội dung mà theo đó các quyết định không chính xác có tác động đặc biệt dễ thấy lên các quyền của con người. Có thể loại lỗi như trong trường hợp này hiếm khi xảy ra. Tuy nhiên, Ủy ban lưu ý rằng thành viên trong các nhóm yếu thế đã nêu lên mối lo ngại về tỷ lệ và tác động của những trường hợp gỡ nhầm do sai sót trong vài năm qua. Các lỗi trong trường hợp này cho thấy Meta có trách nhiệm chứng minh công ty đã thực hiện thẩm tra việc tuân thủ nhân quyền để đảm bảo hệ thống của công ty hoạt động công bằng và không làm trầm trọng thêm sự áp bức đã từng cũng như vẫn đang diễn ra (Nguyên tắc 17 của UNGP).

Meta thường xuyên đánh giá độ chính xác của các hệ thống thực thi của công ty khi xử lý ngôn từ gây thù ghét. Việc đánh giá này không được chia nhỏ thành các lượt đánh giá về độ chính xác để đo lường cụ thể khả năng của Meta trong việc phân biệt ngôn từ gây thù ghét với nội dung được phép có mục đích lên án ngôn từ gây thù ghét hoặc nâng cao nhận thức.

Các quy trình hiện tại của Meta cũng bao gồm cơ chế đột xuất để xác định xu hướng lỗi và điều tra nguyên nhân gốc rễ của chúng. Tuy nhiên, điều này đòi hỏi một lượng lớn mẫu nội dung dùng để đo lường hiệu quả của hệ thống. Ủy ban muốn biết liệu Meta đã đánh giá hiệu quả của các hệ thống xét duyệt của công ty một cách cụ thể hay chưa bằng cách xem xét chính xác lời phản bác được biểu đạt dưới hình thức nghệ thuật và lời phản bác nhằm nâng cao nhận thức về các hành vi vi phạm nhân quyền. Meta cho Ủy ban biết công ty chưa tiến hành nghiên cứu cụ thể về tác động của các quyết định gỡ nhầm do sai sót đến quyền biểu đạt dưới hình thức nghệ thuật hay quyền biểu đạt của những người Bản địa hoặc có nguồn gốc Bản địa.

Meta đã trình bày cho Ủy ban biết các trở ngại trong việc bắt đầu các đánh giá như vậy, trong đó có việc thiếu một hệ thống tự động phân loại mẫu nội dung thuộc trường hợp cho phép trong chính sách. Điều này là do người xét duyệt chỉ đánh dấu nội dung là vi phạm hoặc không vi phạm và không cần phải chỉ ra trường hợp nội dung không vi phạm do thuộc trường hợp cho phép của chính sách. Để có một mẫu phù hợp với trường hợp cho phép lời phản bác, cần phải thu thập theo cách thủ công.

Mặc dù cách Meta đánh giá hiệu quả được nêu chi tiết trong phiên Hỏi đáp do Ủy ban yêu cầu tổ chức và điều đó giúp ích cho Ủy ban, nhưng rõ ràng là cần đầu tư nhiều hơn vào việc đánh giá mức độ chính xác của hoạt động thực thi trường hợp cho phép trong chính sách về Ngôn từ gây thù ghét và học hỏi từ các xu hướng lỗi. Khi không có thêm thông tin về các quyết định liên quan đến thiết kế của Meta, cũng như hiệu quả của các hệ thống tự động và của nhân viên công ty, Ủy ban hay Meta sẽ khó đánh giá được tính tương xứng của phương thức hiện tại mà Meta áp dụng cho ngôn từ gây thù ghét.

Khi đánh giá liệu có cần thiết và tương xứng hay không nếu áp dụng các công cụ máy học cụ thể vào trường hợp này nhằm tự động phát hiện ngôn từ có khả năng gây thù ghét, việc hiểu được mức độ chính xác của các công cụ đó là yếu tố then chốt. Công nghệ phân loại máy học luôn có sự đánh đổi giữa các tỷ lệ phát hiện nhầm và không phát hiện ra lỗi. Công nghệ phân loại càng nhạy thì khả năng phát hiện chính xác các trường hợp ngôn từ gây thù ghét càng cao. Tuy nhiên, điều đó cũng có nghĩa là công nghệ này có thể gắn cờ sai nhiều nội dung không phải là ngôn từ gây thù ghét hơn. Các công nghệ phân loại và mô hình khác nhau có công dụng và hiệu quả không giống nhau khi xử lý các nhiệm vụ khác nhau. Đối với bất kỳ mô hình cụ thể nào, việc dùng các ngưỡng khác nhau cho thấy cách nhìn tương đối về tầm quan trọng của việc tránh các loại lỗi khác nhau. Khả năng xảy ra và mức độ nghiêm trọng của lỗi cũng sẽ là cơ sở để quyết định cách triển khai công nghệ phân loại, bao gồm việc liệu có thể xử lý ngay lập tức hay là đòi hỏi phải có sự xét duyệt của con người và những biện pháp bảo vệ nào sẽ được triển khai.

Meta giải thích rằng bài viết đang nói đến trong trường hợp này đã được hệ thống tự động của Meta gửi đi xét duyệt do có thể có lượng lớn đối tượng. Phương thức này có thể hạn chế tình trạng phát tán nội dung có hại nhưng cũng có khả năng làm tăng nguy cơ nội dung nghệ thuật có sức phản bác mạnh mẽ sự thù ghét bị gỡ do nhầm lẫn. Meta đã cho Ủy ban biết rằng công ty thường xuyên đánh giá tỷ lệ lỗi do nhầm lẫn theo thời gian, được đo lường dựa vào một tập hợp các quyết định do chuyên viên xét duyệt đưa ra. Meta cũng lưu ý rằng công ty có thể đánh giá độ chính xác của các mô hình máy học cụ thể có liên quan đến trường hợp này và rằng công ty lưu giữ thông tin về các dự đoán của công nghệ phân loại trong ít nhất 90 ngày. Ủy ban đã yêu cầu thông tin cho phép Ủy ban đánh giá hiệu quả của công nghệ phân loại đó và mức độ thích hợp của các ngưỡng mà Meta sử dụng trong trường hợp này. Meta thông báo với Ủy ban rằng công ty không thể cung cấp thông tin mà Ủy ban yêu cầu do không có đủ thời gian để chuẩn bị. Tuy nhiên, Meta lưu ý rằng công ty xem xét tính khả thi của việc cung cấp thông tin này trong các trường hợp về sau.

Phương pháp xét duyệt bằng con người có thể cung cấp 2 biện pháp bảo vệ quan trọng đối với việc vận hành công nghệ phân loại của Meta: thứ nhất là trước khi bài viết bị gỡ và sau đó là khi có đơn kháng nghị. Các lỗi trong trường hợp này chỉ ra hướng dẫn của Meta cho người xét duyệt khi đánh giá lời phản bác có thể là chưa đủ. Có thể có nhiều lý do khác nhau góp phần dẫn đến các quyết định sai của hai người xét duyệt trong trường hợp này. Ủy ban lo ngại rằng người xét duyệt có thể không có đủ thông tin và nguồn lực khi xét đến thời gian hoặc việc đào tạo để ngăn loại lỗi trong trường hợp này xảy ra, nhất là liên quan đến nội dung thuộc trường hợp chính sách cho phép (chẳng hạn như những nội dung "lên án" ngôn từ gây thù ghét và "nâng cao nhận thức").

Trong trường hợp này, cả hai người xét duyệt đều ở khu vực châu Á Thái Bình Dương. Meta đã không thể cho Ủy ban biết liệu tỷ lệ về độ chính xác của người xét duyệt có khác hay không ở những người đánh giá ngôn từ có thể gây thù ghét không sinh sống ở khu vực mà nội dung đó được tạo ra. Ủy ban lưu ý đến tính phức tạp của việc đánh giá ngôn từ gây thù ghét, cũng như sự khó khăn trong việc hiểu bối cảnh và lịch sử địa phương, nhất là khi xét đến khối lượng nội dung mà người xét duyệt xem xét mỗi ngày. Có thể hiểu được là những người xét duyệt nội dung trong trường hợp này có ít kinh nghiệm về sự áp bức người Bản địa ở Bắc Mỹ. Hướng dẫn nên bao gồm chỉ dẫn rõ ràng về việc đánh giá nội dung trong toàn bộ ngữ cảnh và hỗ trợ người xét duyệt đánh giá chính xác bối cảnh để xác định bằng chứng cho thấy mục đích và ý nghĩa.

Ủy ban đã đề xuất trong quyết định về Ảnh chế 2 cái nút của mình (2021-005-FB-UA) rằng Meta nên cho phép người dùng chỉ ra trong đơn kháng nghị là nội dung của họ thuộc một trong các trường hợp cho phép nêu trong Tiêu chuẩn cộng đồng của Facebook về Ngôn từ gây thù ghét. Hiện tại, khi người dùng kháng nghị một trong các quyết định đã qua xét duyệt bằng con người của Meta, người xét duyệt không nhận được thông tin rằng người dùng đã phản đối quyết định trước đó và không biết kết quả của lần xét duyệt trước. Trong khi Meta cho Ủy ban biết công ty tin rằng thông tin này sẽ ảnh hưởng tiêu cực đến kết quả của lần xét duyệt sau, điều Ủy ban quan tâm là liệu thông tin này có thể tăng khả năng đưa ra quyết định có sắc thái khác hơn hay không. Đây là câu hỏi mà Meta có thể kiểm tra dựa theo kinh nghiệm; kết quả của những lượt kiểm tra này sẽ hữu ích trong việc đánh giá tính tương xứng của các biện pháp cụ thể mà Meta đã chọn áp dụng.

Theo UNGP, Meta có trách nhiệm tiến hành thẩm tra việc tuân thủ nhân quyền (Nguyên tắc 17). Việc thẩm tra này phải xác định bất kỳ tác động bất lợi nào của quá trình xét duyệt nội dung đối với quyền biểu đạt dưới hình thức nghệ thuật và quyền biểu đạt chính trị của người Bản địa khi phản đối sự phân biệt đối xử. Meta phải xác định rõ hơn cách công ty sẽ ngăn chặn, giảm thiểu và giải thích các nỗ lực của công ty trong việc xử lý các tác động bất lợi đó. Ủy ban cam kết giám sát hiệu quả thực hiện của Meta và mong đợi công ty sẽ ưu tiên các nguy cơ xảy đến với các nhóm yếu thế, cũng như cho thấy bằng chứng về sự cải tiến không ngừng.

9.Quyết định của Ủy ban Giám sát

Ủy ban Giám sát hủy bỏ quyết định gỡ nội dung mà Meta đưa ra ban đầu.

10. Nội dung tư vấn về chính sách

Thực thi

1. Thông báo cho người dùng một cách kịp thời, chính xác mọi biện pháp xử lý của công ty đối với nội dung mà người dùng kháng nghị. Trong trường hợp áp dụng, kể cả trường hợp lỗi thực thi như ở đây, thông báo gửi cho người dùng phải cho biết biện pháp xử lý đó đến từ quá trình xem xét của Ủy ban Giám sát. Meta phải chia sẻ thông báo đã gửi cho người dùng khi hành động của Ủy ban tác động đến quyết định về nội dung bị người dùng kháng nghị để chứng tỏ rằng công ty đã tuân thủ đề xuất này. Những hành động này phải được thực hiện đối với tất cả các trường hợp mà quyết định được sửa đổi ở giai đoạn đủ điều kiện trong quy trình của Ủy ban.

2. Nghiên cứu các tác động của phương thức được sửa đổi cho lần xét duyệt thứ hai đối với độ chính xác và năng suất của người xét duyệt. Cụ thể, Ủy ban yêu cầu đánh giá tỷ lệ về độ chính xác khi người xét duyệt nội dung biết họ là người xét duyệt thứ hai, do đó họ biết được quyết định ban đầu bị phản đối. Sẽ lý tưởng nếu thử nghiệm này cho người dùng cơ hội cung cấp ngữ cảnh có liên quan có thể hỗ trợ người xét duyệt đánh giá nội dung, dựa theo các đề xuất trước đây của Ủy ban. Meta nên chia sẻ các kết quả đánh giá về độ chính xác này với Ủy ban và tóm tắt kết quả đó trong báo cáo minh bạch hàng quý liên quan đến Ủy ban để cho thấy công ty tuân thủ đề xuất này.

3. Tiến hành các đánh giá về độ chính xác, chú trọng vào các trường hợp cho phép trong chính sách về Ngôn từ gây thù ghét đề cập đến lời lẽ biểu đạt hoặc hình thức biểu đạt nghệ thuật liên quan đến các hành vi vi phạm nhân quyền (ví dụ: lên án, nâng cao nhận thức, sử dụng để tự nói về mình, sử dụng để truyền sức mạnh tinh thần). Việc đánh giá này cũng nên xem xét cụ thể mức độ tác động của vị trí người xét duyệt sinh sống đến khả năng họ đánh giá chính xác ngôn từ gây thù ghét và lời phản bác ở cùng khu vực hoặc khác khu vực. Ủy ban hiểu rằng quy trình phân tích này có thể đòi hỏi phải xây dựng các mẫu nội dung có liên quan được gắn nhãn chính xác và phù hợp. Meta nên chia sẻ các kết quả đánh giá này với Ủy ban, bao gồm cả mức đóng góp của những kết quả này trong việc cải tiến các hoạt động thực thi và việc xây dựng chính sách, cũng như liệu Meta có định tiến hành các lượt đánh giá thường xuyên về độ chính xác của người xét duyệt khi xem xét các trường hợp cho phép này không, đồng thời tóm tắt các kết quả trong báo cáo minh bạch hàng quý liên quan đến Ủy ban để cho thấy công ty tuân thủ đề xuất này.

*Lưu ý về quy trình:

Quyết định của Ủy ban Giám sát do ban hội thẩm gồm 5 Thành viên soạn thảo và được đa số thành viên trong Ủy ban thông qua. Quyết định của Ủy ban không nhất thiết đại diện cho quan điểm cá nhân của tất cả các Thành viên.

Ủy ban đã ủy quyền cho tổ chức nghiên cứu độc lập đưa ra quyết định cuối cùng cho trường hợp này. Một tổ chức nghiên cứu độc lập đặt trụ sở tại Đại học Gothenburg và có đội ngũ bao gồm hơn 50 nhà khoa học xã hội ở 6 châu lục, cũng như hơn 3.200 chuyên gia nhà nước trên khắp thế giới, cùng với Duco Advisers – một công ty tư vấn tập trung vào sự giao thoa giữa các lĩnh vực địa chính trị, niềm tin, sự an toàn và công nghệ – đã cung cấp thông tin chuyên môn về bối cảnh văn hóa và chính trị xã hội.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें