فيديو تم التلاعب به بواسطة الذكاء الاصطناعي لترويج المقامرة

الملخص

ألغى المجلس قرار Meta بالإبقاء على منشور فيسبوك يتضمن فيديو تم التلاعب به باستخدام الذكاء الاصطناعي لشخص يبدو أنه أسطورة كرة القدم البرازيلي رونالدو نازاريو يؤيد فيه لعبة على الإنترنت. وتتوافق إزالة المنشور مع معايير مجتمع Meta بشأن المحتوى غير المهم والاحتيالي. كما كان ينبغي لشركة Meta أن ترفض المحتوى بسبب الإعلانات، حيث إن قواعدها تحظر استخدام صورة شخص مشهور لجذب الأشخاص للتفاعل مع أحد الإعلانات.

استنادًا إلى التقارير العامة، يشير المجلس إلى أنه من المرجح أن تسمح Meta بقدر كبير من المحتوى الاحتيالي على منصاتها لتفادي فرط الإنفاذ المحتمل بشأن مجموعة فرعية صغيرة من حالات تأييد حقيقية للمشاهير. يُذكر أن المراجعين الذين يعملون على نطاق واسع ليسوا مخولين بإنفاذ هذا الحظر على المحتوى الذي ينشئ شخصية وهمية أو ينتحل شخصية مشهورة في محاولة للخداع أو الاحتيال. وينبغي لشركة Meta أن تنفذ هذا الحظر على نطاق واسع بأن توفر للمراجعين مؤشرات يسهل التعرف عليها في أغلب الأحيان والتي يمكنها تمييز المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.

حول الحالة

في سبتمبر 2024، نشر أحد المستخدمين منشورًا يتضمن فيديو تم التلاعب به بواسطة الذكاء الاصطناعي لشخصٍ يبدو أنه لاعب كرة القدم البرازيلي المعتزل رونالدو نازاريو. وفي الفيديو، يشجع ذلك الشخص الآخرين على تنزيل تطبيق للعب لعبة Plinko (بلينكو) الشهيرة على الإنترنت.

إلا أنه في الفيديو لا يتزامن الصوت الذي يقلِّد صوت رونالدو نازاريو مع حركات شفتيه. كما يُظهِر الفيديو صورًا غير واقعية تم إنشاؤها بواسطة الذكاء الاصطناعي لمعلِّم وسائق حافلة وعامل بقالة مع متوسط ​​رواتب وظائفهم في البرازيل. ويزعم الصوت أنه يمكن للاعبي "بلينكو" كسب أموال من تلك اللعبة تفوق تلك التي يحصلون عليها من الوظائف المذكورة. ويشجع الفيديو المستخدمين على النقر على رابط لتنزيل التطبيق، على الرغم من أن ذلك الرابط يقود إلى لعبة أخرى تُسمى Bubble Shooter (بابل شوتر). حظي هذا المنشور بأكثر من 600 ألف مشاهدة.

قدَّم أحد المستخدمين بلاغًا إلى Meta عن المحتوى لاعتباره محتوى احتياليًا أو غير مهم، إلا أن ذلك البلاغ لم يحظ بأولوية المراجعة. ولم تقم الشركة بإزالة المحتوى. كما قدَّم المستخدم طعنًا في هذا القرار لدى Meta، إلا أن ذلك الطعن لم يحظ هو الآخر بالأولوية للمراجعة البشرية، لذا فقد ظل المحتوى موجودًا على فيسبوك. وأخيرًا، طعن المستخدم على قرار Meta لدى المجلس، زاعمًا أن المنشور بدا مموَّل. وفي حالة ترويج منشور، يتم إنشاء إعلان من المنشور.

تم تعطيل الإعلان لانتهاكه معيار الشركة بشأن الإعلانات المتعلقة بممارسات الأنشطة التجارية غير المقبولة، وذلك على الرغم من أن المنشور العادي الأصلي ظل موجودًا على المنصة. وبعد أن حدَّد المجلس هذه الحالة لغرض المراجعة، حذفت Meta المنشور الأصلي لانتهاكه سياستها بشأن عمليات الاحتيال والخداع والممارسات الخادعة. وبعدها، أكدت Meta أن المنشور انتهك أيضًا سياسة المحتوى غير المهم.

تشهد عمليات التزييف العميق وعمليات التأييد المزيفة تزايدًا على الصعيد العالمي، بما في ذلك تلك التي تتضمن شخصيات عامة تروج لحملات سياسية احتيالية وعمليات احتيال مالي. وتشير تقارير إلى أن الكثير من عمليات الاحتيال المالي في البرازيل التي تنشأ على فيسبوك وInstagram وواتساب تنطوي على محتوى تم التلاعب به بواسطة الذكاء الاصطناعي.

النتائج الرئيسية

تتوافق إزالة المحتوى مع مسؤوليات Meta تجاه حقوق الإنسان. فحالات التأييد المُضلّلة والمتلاعب بها تشكِّل مخاطر جسيمة على حقوق الشخص الظاهر في الصورة في الخصوصية والسمعة. كما أنها تؤثر على عامة الجمهور، كونها قد تسهِّل من عمليات الاحتيال.

يشعر المجلس بالقلق إزاء عدم قدرة مراجعي المحتوى الذين يعملون على نطاق واسع على إزالة المنشورات التي تُنشئ شخصية وهمية أو تنتحل شخصية مشهورة "في محاولة للخداع أو الاحتيال"، حتى لو اشتمل المحتوى على مؤشرات واضحة على انتهاكه لسياسات Meta. ولا يمكن إزالة هذا النوع من المحتوى إلا بواسطة فِرق Meta المتخصصة، الأمر الذي يزيد من احتمالية ضعف إنفاذ سياسة عمليات الاحتيال والخداع والممارسات الخادعة.

ومن المرجح أن تسمح Meta بقدر كبير من المحتوى الاحتيالي على منصاتها لتفادي فرط الإنفاذ المحتمل لمجموعة فرعية صغيرة من حالات تأييد حقيقية للمشاهير. وهذا الأمر مثير للقلق لا سيما عندما يكون من المحتمل أن تتمتع حالات التأييد الحقيقية للمشاهير بأشكال حماية أخرى ضد فرط الإنفاذ، سواءً من خلال أنظمة رسمية كالتحقق الشامل أو نقاط الاتصال في Meta. لذا، يوصي المجلس Meta بتغيير نهجها وإنفاذ خط السياسة هذا على نطاق واسع.

تبرز بوضوح طبيعة الفيديو المزيَّف أو المُتلاعب به. ويرى المجلس أن المنشور ينتهك حظر Meta المفروض على إنشاء الشخصيات الوهمية أو انتحال شخصية مشهورة بغرض الخداع أو الاحتيال، وذلك وفق معيار الشركة بشأن الإعلانات المتعلقة بممارسات الأنشطة التجارية غير المقبولة. كما أنه ينتهك حظر Meta المفروض على مشاركة الروابط المخادعة أو المضلِّلة بموجب معيار مجتمعها بشأن المحتوى غير المهم، كون ذلك المحتوى يروج لعبة "بلينكو" لكنه يتضمن روابط تؤدي إلى لعبة أخرى. لذا، يرى المجلس أنه كان ينبغي إزالة المنشور عندما تم الإبلاغ عنه. وحتى قبل إزالة المنشور، كان ينبغي لشركة Meta استخدام تصنيف "معلومات ذكاء اصطناعي" بموجب سياستها بشأن الوسائط المتلاعب بها. كما كان ينبغي لشركة Meta أن ترفض المحتوى بسبب الإعلانات، استنادًا إلى أن معيار الشركة بشأن الإعلانات المتعلقة بممارسات الأنشطة التجارية غير المقبولة يحظر استخدام صورة شخص مشهور والاستعانة بحيل مضللة لجذب الأشخاص للتفاعل مع أحد الإعلانات.

تقع على عاتق Meta مسؤولية "التخفيف من الآثار السلبية على حقوق الإنسان" للمحتوى الذي يمكن تحقيق أرباح منه والذي قد يشكل عملية خداع أو احتيال - بما يتماشى مع مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان. فعند تلقيها أموالًا مقابل ترويج محتوى، ينبغي لشركة Meta ضمان عدم انتهاك هذه المنشورات لسياساتها.

قرار مجلس الإشراف

ألغى مجلس الإشراف قرار Meta بالإبقاء على المنشور على فيسبوك.

كما يوصي المجلس Meta بما يلي:

• القيام، على نطاق واسع، بإنفاذ الحظر الوارد في سياسة عمليات الاحتيال والخداع والممارسات الخادعة المفروض على المحتوى الذي "يحاول إنشاء شخصية مزيفة أو انتحال شخصية مشهورة في محاولة للخداع أو الاحتيال" بأن توفر للمراجعين مؤشرات لتحديد هذا المحتوى. وقد يشمل ذلك، على سبيل المثال، وجود علامات التلاعب بالوسائط إلى جانب بيانات التعريف أو عوامل واضحة، مثل عدم التطابق بين الصوت والفيديو.

* توفر ملخصات الحالة نظرة عامة على الحالات ولا تُشكّل سابقة قانونية.

القرار الكامل للمجلس بشأن الحالة

1. وصف الحالة ومعلومات أساسية عنها

في سبتمبر 2024، نشر مستخدم فيديو تم التلاعب به بواسطة الذكاء الاصطناعي لشخصٍ يبدو أنه أسطورة كرة القدم البرازيلية المعتزل رونالدو نازاريو، يشجع فيه الآخرين على تنزيل تطبيق للعب لعبة "بلينكو". ولعبة بلينكو عبارة عن لعبة مشهورة على الإنترنت وتتمثل فكرتها في محاولة إسقاط كرة في لوحة مليئة بالدبابيس، ويفوز اللاعبون بجوائز مختلفة حسب الموضع الذي تستقر فيه الكرة.

يبدأ الفيديو مع ظهور رونالدو نازاريو وهو يتحدث إلى الكاميرا. ورغم أنه يبدو واقعيًا للوهلة الأولى، إلا أن الصوت الذي يقلِّد صوت نجم كرة القدم لا يتزامن مع حركات شفتيه. وبعدها، يُظهِر الفيديو صورًا غير واقعية تم إنشاؤها بواسطة الذكاء الاصطناعي لمعلِّم وسائق حافلة وعامل بقالة مع متوسط ​​رواتب وظائفهم في البرازيل. يزعم الصوت الذي يحاكي صوت رونالدو نازاريو أنه من السهل لعب لعبة "بلينكو"، وأنه يمكن للاعبين العاديين جَنْي أموال من اللعبة تفوق تلك التي يتم كسبها من هذه الوظائف. وفي النهاية، يشجع الفيديو المستخدمين على النقر على رابط لتنزيل التطبيق، على الرغم من أن هذا الرابط يقود إلى لعبة أخرى تُسمى "بابل شوتر". حظي المنشور بأكثر من 600 ألف مشاهدة، وقدَّم مستخدمون متنوعون بشأنه أكثر من 50 بلاغًا.

قدَّم أحد المستخدمين بلاغًا إلى Meta عن المحتوى باعتباره احتيالًا أو خداعًا، غير أن البلاغ لم يحظ بالأولوية للمراجعة البشرية، ولم تقم الشركة بإزالة المحتوى. ثم قدَّم المستخدم طعنًا على هذا القرار إلى Meta. وعلى الرغم من ذلك، لم يحظ ذلك الطعن هو الآخر بالأولوية للمراجعة البشرية، لذا فقد ظل المحتوى موجودًا على المنصة. وفي النهاية، طعن المستخدم على قرار Meta أمام المجلس.

وذكر المستخدم الذي طعن في قرار Meta إلى المجلس أن المحتوى بدا كأنه منشور مموَّل. تسمح Meta للمستخدمين بدفع مبالغ مالية "لترويج" منشورات بهدف زيادة إمكانية رؤيتها وللوصول إلى قاعدة جماهيرية أوسع. وفي حالة ترويج منشور، يتم إنشاء إعلان استنادًا إلى المنشور. وبشكلٍ منفصل، أبلغت Meta المجلس بتعطيل الإعلان لانتهاكه سياسة الشركة. وهذا يعني أن المنشور لم يعد يروَّج له من أجل زيادة إمكانية رؤيته، إلا أن المنشور العادي الأصلي ظلّ موجودًا على المنصة. وبعد أن حدَّد المجلس هذه الحالة لغرض المراجعة، أزالت Meta المنشور الأصلي بعدما رأت أنه ينتهك سياستها بشأن عمليات الاحتيال والخداع والممارسات الخادعة. كما عمدت الشركة إلى توجيه إنذار قياسي للملف الشخصي للمستخدم الذي أنشأ المنشور. وبعدها، أكدت Meta أن المنشور انتهك أيضًا سياستها بشأن المحتوى غير المهم.

أخذ المجلس في حسبانه السياق التالي عند التوصل إلى قراره بشأن هذه الحالة:

تزايد حدة مشكلة عمليات التزييف العميق وعمليات التأييد المزيفة على الصعيد العالمي. وتعد عمليات التزييف العميق مشكلة اجتماعية وسياسية بارزة في البرازيل، وغالبًا ما تتضمن شخصيات عامة مؤثرة. فعلى سبيل المثال، برزت المعلومات الكاذبة التي تم التلاعب بها بواسطة الذكاء الاصطناعي، بما يشمل حالات تأييد المرشحين، في الحملات الانتخابية التي أجريت مؤخرًا. وفي عام 2024، أعربت وزارة الرياضة البرازيلية عن مخاوفها بشأن محتوى وسائل التواصل الاجتماعي الذي يروِّج للمقامرة عبر الإنترنت ويعِد بكسب المال السهل دون تحذير من المخاطر المُحتملة. كما تشير تقارير إلى أن الكثير من عمليات الاحتيال المالي في البرازيل التي تنشأ من فيسبوك وInstagram وواتساب، تنطوي على محتوى تم التلاعب به بواسطة الذكاء الاصطناعي (انظر التعليق العام PC-31027، مركز الدراسات المتقدمة في قانون الإنترنت والذكاء الاصطناعي).

2. المعلومات المقدَّمة من المستخدمين

وَصَفَ المستخدم الذي أبلغ عن المحتوى الفيديو بأنه كذبة وعملية خداع لاستخدامه صورة رونالدو نازاريو بغرض حث الأشخاص على تنزيل لعبة ولعبها. وذَكَر المستخدم أن Meta تضيف تحذيرات وتصنيفات إلى منشورات أخرى، لكنها لم تضع أي تحذير في هذه الحالة، كما لم تحذف المنشور. وأوضح أن المحتوى ظهر كمنشور مموَّل وهذا كذب واضح.

3. سياسات المحتوى والمعلومات المقدمة من Meta

1. سياسات المحتوى لدى Meta

معيار المجتمع بشأن عمليات الاحتيال والخداع والممارسات الخادعة

تنص مبادئ سياسة الشركة بشأن عمليات الاحتيال والخداع والممارسات الخادعة على أن Meta "تهدف إلى حماية المستخدمين والأنشطة التجارية من التعرض للخداع وفقدان الأموال أو الممتلكات أو المعلومات الشخصية"، وأنها تحقق ذلك من خلال إزالة المحتوى الذي يستخدِم عمدًا أساليب خادعة - مثل التزييف المتعمد، أو المعلومات المسروقة، أو الادعاءات المُبالغ فيها - بهدف الاحتيال على المستخدمين والأنشطة التجارية أو خداعهم، أو زيادة التفاعل".

وأسفل قسم السياسة حيث تطلب Meta "تقديم مزيد من المعلومات و/أو السياق للإنفاذ"، ذُكِرَ أن الشركة "قد تزيل المحتوى" الذي "يحاول إنشاء شخصية وهمية أو انتحال شخصية مشهورة في محاولة للخداع أو الاحتيال". وهذا يعني أن فِرق المراجعة المتخصصة لدى Meta هي وحدها التي يمكنها إنفاذ هذه القاعدة، وأنه لا يمكن إنفاذها بواسطة المراجعين الذين يعملون على نطاق واسع.

معيار المجتمع بشأن المحتوى غير المهم

توضح مبادئ سياسة الشركة بشأن المحتوى غير المهم بأن Meta لا تسمح "بالمحتوى المصمم بهدف خداع المستخدمين أو تضليلهم أو إرباكهم لزيادة عدد المشاهدات بطريقة مصطنعة". كما تحظر القواعد المحتوى الذي يتضمن روابط مضللة والمعرَّف على أنه "محتوى يتضمن رابطًا يَعِد بنوع من المحتوى ويعرض نوعًا مختلفًا تمامًا".

معيار المجتمع بشأن المعلومات المضلِّلة

ينص معيار المجتمع بشأن المعلومات المضلِّلة على أن Meta تزيل المحتوى فقط "عندما يرجّح أن يساهم بشكل مباشر في مخاطر حدوث ضرر بدني وشيك" أو "الذي يرجّح أن يساهم بشكل مباشر في التدخل في سير العمليات السياسية". كما أن الشركة "تطلب من الأشخاص الإفصاح، باستخدام أداة الإفصاح عن الذكاء الاصطناعي الخاصة بها، عندما ينشرون محتوى عاديًا يحتوي على فيديو واقعي أو مقطع صوتي يبدو واقعيًا تم إنشاؤه أو تعديله رقميًا".

بالنسبة إلى الوسائط التي لا تنتهك معايير المجتمع بشكل أو بآخر، يجوز لشركة Meta "وضع تصنيف غني بالمعلومات المفيدة للمحتوى، أو رفض المحتوى الذي يتم تقديمه كإعلان، عندما يكون المحتوى عبارة عن صورة أو مقطع فيديو حقيقي، أو مقطع صوتي حقيقي، تم إنشاؤه أو تعديله رقميًا ويشكّل بحد ذاته خطرًا كبيرًا لخداع عامة الجمهور بشكل جوهري بشأن مسألة ذات أهمية عامة".

معيار الشركة بشأن الإعلانات المتعلقة بممارسات الأنشطة التجارية غير المقبولة

يوضح معيار الشركة بشأن الإعلانات المتعلقة بممارسات الأنشطة التجارية غير المقبولة أن الإعلانات "يجب ألا تروِّج لمنتجات أو خدمات أو أنظمة أو عروض تستخدم الممارسات الخادعة أو المضللة المحددة". وفي إرشاداتها المتعلقة بالإعلانات، تحظر Meta "استخدام صورة شخص مشهور والاستعانة بحيل مضللة لجذب الأشخاص للتفاعل مع أحد الإعلانات".

2. المعلومات المقدَّمة من Meta

نتيجةً لاختيار المجلس لهذه الحالة، رأت Meta أن قرارها بالإبقاء على المحتوى كان خاطئًا، ومن ثمَّ، أزالت المنشور لانتهاكه معيار المجتمع بشأن عمليات الاحتيال والخداع والممارسات الخادعة. وذكرت Meta أن المنشور انتهك حظرها المفروض على المحتوى الذي "يحاول إنشاء شخصية وهمية أو انتحال شخصية مشهورة في محاولة للاحتيال أو الخداع". وأوضحت Meta أنه بجعل الفيديو يبدو، بالاستعانة بالذكاء الاصطناعي، كما لو أن رونالدو نازاريو يستخدم لعبة عبر الإنترنت أو يروِّج لها، حاول الفيديو خداع الأشخاص لاستخدام منتج ربما لا يقومون بتنزيله لولا تأييد رونالدو له.

وردًا على أسئلة المجلس بشأن إنفاذ المحتوى المشتمل على شخصيات وهمية، أوضحت Meta أنها لا تقوم بإنفاذ السياسة ذات الصلة إلا عند التصعيد فقط بحيث تتحقق من أن الشخص الذي يظهر في المحتوى لم يؤيد المنتج تأييدًا فعليًا. وذكرت Meta أن هذا الأمر يتطلب تحليلاً يعتمد بشكل كبير على السياق إلى جانب خبرة متخصصة. وذكرت Meta أن: "تفسير المراجعين الذين يعملون على نطاق واسع لما يشكل "شخصية وهمية" قد يختلف على مستوى المناطق وقد يُحدِث ذلك عدم اتساق في الإنفاذ".

كما خلُصت Meta إلى أن المحتوى قد انتهك معيار مجتمعها بشأن المحتوى غير المهم الذي يحظر استخدام روابط خادعة. وفي هذه الحالة، تضمن المنشور رابطًا أدى إلى لعبة غير "بلينكو". وبالنسبة إلى Meta، فإن استخدام رابط للعبة مختلفة أوحى بأن المحتوى قد تم تصميمه بغرض خداع الأشخاص أو الاحتيال عليهم أو لزيادة التفاعل بشكل خادع.

أبلغت Meta المجلس بأن إزالة هذا المحتوى تحمي أيضًا حقوق أشخاص آخرين وسمعتهم. وخلُصت إلى أن "مخاطر المصداقية تفوق قيمة حرية الرأي، وأنه لم تتوفر وسائل أخرى أقل تدخلاً لتقييد هذا المحتوى غير الإزالة".

طرح المجلس على Meta عشرة (10) أسئلة، منها ما تعلق بممارسات الإنفاذ الخاصة بها وطريقة تصنيفها للوسائط المتلاعب بها ونهجها في التعامل مع عمليات الاحتيال المتمثلة في الاصطياد من خلال استخدام صور المشاهير لزيادة التفاعل مع المحتوى العادي والمدفوع. وقد ردَّت Meta على كل الأسئلة.

وردًا على أسئلة المجلس حول تصنيف المحتوى المتلاعب به بواسطة الذكاء الاصطناعي، ذكرت Meta أنها قبل إزالة المحتوى، لم تصنف المنشور على أنه محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي. وبحسب Meta، فإن الفيديو "لم يتضمن مؤشرات معايير الصناعة بما يفيد أنه تم إنشاؤه بواسطة الذكاء الاصطناعي، كما لم يقم المستخدم بالإفصاح بنفسه عن ذلك".

4. التعليقات العامة

تلقى المجلس أربعة تعليقات استوفت شروط إرسال التعليقات - تم إرسال تعليق واحد من أمريكا اللاتينية وآخر من منطقة الكاريبي وتعليق واحد من منطقة الشرق الأوسط وشمال أفريقيا، وآخر من الولايات المتحدة وكندا، وتعليق واحد من وسط وجنوب آسيا. وللاطلاع على التعليقات العامة المقدمة التي وافق أصحابها على نشرها، انقر هنا.

وقد تناولت التعليقات الموضوعات التالية: التأثير الاجتماعي والاقتصادي لعمليات التزييف العميق ومدى فعالية ممارسات الإنفاذ لدى Meta، وتأثير قرار Meta على إنهاء الإنفاذ الاستباقي لبعض فئات المحتوى.

5. تحليل مجلس الإشراف

قام المجلس بتحليل قرار Meta في هذه الحالة في ضوء سياسات المحتوى التي تتبعها الشركة، وقيمها، ومسؤولياتها تجاه حقوق الإنسان. كما أجرى المجلس تقييمًا للآثار التي تمثلها هذه الحالة فيما يتعلق بنهج Meta الأوسع في إدارة المحتوى.

كان المجلس قد اختار هذه الحالة للنظر للمرة الأولى في التحديات التي تواجه إنفاذ سياسات Meta بشأن عمليات الاحتيال والخداع والممارسات الخادعة. من المتوقع حدوث زيادة في حجم الوسائط المتلاعب بها المستخدمة لأغراض عمليات الخداع، وبخاصة في ضوء تقدم الذكاء الاصطناعي التوليد. تقع هذه الحالة ضمن الأولوية الاستراتيجية للمجلس المتعلقة بالإنفاذ التلقائي وتنظيم المحتوى.

1.5 الامتثال لسياسات المحتوى لدى شركة Meta

1. قواعد المحتوى

يرى المجلس أن المنشور ينتهك حظر Meta المفروض على "إنشاء شخصية وهمية أو انتحال شخصية مشهورة بغرض التلاعب أو الاحتيال" وذلك وفق معيار المجتمع بشأن عمليات الاحتيال والخداع والممارسات الخادعة. يُظهِر الفيديو الأمر كما لو كان رونالدو نازاريو يشجع الآخرين على تنزيل تطبيق للمقامرة يمكنهم من خلاله كسب المال بسهولة. غير أن الطبيعة المزيفة أو المتلاعب بها للفيديو واضحةٌ جليِّة، حيث إن الصوت الذي يقلد صوت نجم كرة القدم لا يتزامن بشكل ملحوظ مع حركات شفتيه. إضافةً إلى ذلك، فلم يعثر المجلس على أي تقارير عامة تشير إلى تأييد رونالدو نازاريو لهذه اللعبة.

يرى المجلس أيضًا أن المنشور ينتهك حظر Meta المفروض على مشاركة الروابط الخادعة أو المضلِّلة بموجب معيار مجتمعها بشأن المحتوى غير المهم، من منطلق أن المحتوى "يتضمن رابطًا يَعِد بنوع معين من المحتوى إلا أنه يقدم شيئًا مختلفًا اختلافًا كبيرًا". ويروج الفيديو لعبة "بلينكو"، كما يشجع المستخدمين على تنزيلها، إلا أن الرابط المرفق بالفيديو يقود إلى لعبة مختلفة.

2. إجراء الإنفاذ

أتيحت أمام Meta فرص متعددة لمراجعة هذا المحتوى وإزالته قبل أن يصل إلى المجلس. وعلى الرغم من أن هذا المنشور قد حظي بأكثر من 600 ألف مشاهدة وقُدِّم بشأنه ما يزيد على 50 بلاغًا من المستخدمين، لم تعطِ Meta الأولوية له للمراجعة عندما تم الإبلاغ عنه لأول مرة أو عندما قُدِّم طعن بشأنه لاحقًا.

وقبل إزالة المنشور، كان ينبغي تصنيفه بموجب معيار مجتمع Meta بشأن المعلومات المضلِّلة للإشارة إلى اشتماله على وسائط تم التلاعب بها. وفي قرار فيديو مفبرك للرئيس بايدن، أوصى المجلس Meta بتصنيف المحتوى المتلاعب به منعًا لتضليل المستخدمين بسبب مصداقيته. وقد قامت Meta بتنفيذ هذه التوصية. وفي هذه الحالة، تم تعديل الفيديو رقميًا لتضليل المستخدمين بحيث يعتقدون أن رونالدو نازاريو، وهو شخصية عامة مشهورة، كان يؤيد أحد تطبيقات المقامرة. وبموجب نهجها الجديد في التعامل مع المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، كان ينبغي على Meta استخدام تصنيف "معلومات ذكاء اصطناعي" للإشارة إلى أن المحتوى تم إنشاؤه أو تعديله رقميًا.

وتحرص Meta على تصنيف المحتوى المضلِّل الذي تم التلاعب به بالاعتماد على بيانات التعريف والعلامات المائية. وقد أبلغت الشركة المجلس بأنها "قد صنفت مقدارًا كبيرًا من المحتوى باتباعها لهذا النهج"، لكنها لا تفصح علنًا عن أي إحصائيات بشأن مدى فعالية ذلك النهج. وبالنسبة إلى المحتوى الذي يخلو من تلك العلامات، والذي يُعد هذا المنشور مثالًا عليه، قد توجد مؤشرات أخرى على أنه تم إنشاؤه بواسطة الذكاء الاصطناعي. ففي هذا المنشور، لا يتطابق الصوت والفيديو، كما يتضمن الفيديو صورًا منخفضة الجودة تم إنشاؤها بواسطة الذكاء الاصطناعي. ومن جانبهم، يسلط الخبراء الذين استشارهم المجلس والسلطات العامة الضوء على عدم التطابق بين الفيديو والصوت كونه مؤشرًا رئيسيًا على أن المحتوى تم التلاعب به بواسطة الذكاء الاصطناعي. ويشيرون إلى مؤشرات أخرى، من بينها حركات الوجه غير الطبيعية وعدم الاتساق في الإضاءة والظلال وانعدام استمرارية الحركة وضعف تماسكها.

يشعر المجلس بالقلق إزاء عدم قدرة مراجعي المحتوى الذين يعملون على نطاق واسع على إزالة المنشورات التي تُنشئ شخصية وهمية أو تنتحل شخصية مشهورة "في محاولة للخداع أو الاحتيال"، بحسب ما تحظره السياسة. وذلك لأن هذا المحتوى لا يمكن إزالته إلا بواسطة فرق Meta المتخصصة. وهذا النهج من شأنه أن يزيد من احتمالية ضعف إنفاذ سياسة Meta بشأن عمليات الاحتيال والخداع والممارسات الخادعة. وعلى الرغم من أن بعض المنشورات قد تتطلب خبرة محددة لاستيعاب أنها تتضمن شخصيات وهمية، إلا أن منشورات أخرى، ومن بينها هذا المنشور، يمكن أن تخضع للإنفاذ على نطاق واسع.

كما كان ينبغي لشركة Meta أن ترفض المحتوى بسبب الإعلانات، استنادًا إلى أن معيار الشركة بشأن الإعلانات المتعلقة بممارسات الأنشطة التجارية غير المقبولة يحظر استخدام "صورة شخص مشهور والاستعانة بحيل مضللة لجذب الأشخاص للتفاعل مع أحد الإعلانات". كما صرحت Meta علنًا أنها تُقيِّم الإعلانات باستخدام تقنية التعرف على الوجوه للكشف عن عمليات التزييف العميق للمشاهير. وأبلغت Meta المجلس بأن نظام مراجعة الإعلانات لديها، والذي يعتمد في المقام الأول على الأتمتة، "مصمَّم بحيث يراجع كل الإعلانات قبل نشرها". وعلى الرغم من هذه الآليات، يبدو أن Meta قبلت بهذا المحتوى للإعلان على أي حال. ولاحقًا، أبلغت Meta المجلس أنه تم تعطيل الإعلان لانتهاكه معيار الشركة بشأن الإعلانات المتعلقة بممارسات الأنشطة التجارية غير المقبولة، إلا أن المحتوى العادي ظل نشطًا على المنصة. وعندما تبيَّن لشركة Meta أن المحتوى انتهك معيار الإعلانات وقامت بتعطيل الإعلان، لم يؤد ذلك إلى تفعيل أي مراجعة إضافية لانتهاكات محتملة لمعايير المجتمع للمنشور العادي الأساسي، على الرغم من التداخل الواضح بين السياسات. ولتدارك هذه الفجوة، بإمكان الشركة البدء في مراجعة عادية للسياسات عندما يتبين وجود محتوى ينتهك سياسة الإعلانات.

2.5 الامتثال لمسؤوليات Meta تجاه حقوق الإنسان

يرى المجلس أن إزالة المحتوى من فيسبوك تتفق مع مسؤوليات شركة Meta تجاه حقوق الإنسان.

تنص المادة 19(2) من العهد الدولي الخاص بالحقوق المدنية والسياسية على ضرورة توفير حماية واسعة النطاق لحرية التعبير. ويتضمن ذلك "حرية التماس المعلومات والأفكار بمختلف أنواعها وتلقيها وتداولها". وتذكر لجنة حقوق الإنسان أشكالاً محددة من التعبير مدرجة في المادة 19، وتشير إلى أن الحق في حرية التعبير قد يشمل أيضًا الإعلانات التجارية (التعليق العام رقم 34، الفقرة 11).

وعند فرض الدولة قيودًا على حرية التعبير، يجب أن تفي تلك القيود بمتطلبات الشرعية والهدف المشروع والضرورة والتناسب (المادة 19، الفقرة 3، العهد الدولي الخاص بالحقوق المدنية والسياسية). وتتم الإشارة إلى هذه المتطلبات غالبًا باسم "الاختبار الثلاثي". أشارت لجنة حقوق الإنسان إلى إمكانية تطبيق هذا الاختبار في سياق الإعلانات التجارية (التعليق العام رقم 34، الفقرة 33). يستخدم المجلس إطار العمل هذا لتفسير مسؤوليات Meta في مجال حقوق الإنسان بما يتماشى مع مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، والتي التزمت بها Meta نفسها في سياسة حقوق الإنسان الخاصة بالشركة. ويطبق المجلس هذا النهج على قراراته بشأن عناصر المحتوى الفردية الخاضعة للمراجعة، وما تكشفه هذه القرارات عن نهج Meta الأوسع في إدارة المحتوى. وكما ذكر مقرر الأمم المتحدة الخاص المعني بحرية التعبير، فإنه وعلى الرغم من أن "الشركات لا تتحمل التزامات الحكومات، لكن تأثيرها من النوع الذي يتطلب منها تقييم نفس النوع من الأسئلة المتعلقة بحماية حقوق مستخدميها في حرية التعبير،" (A/74/486، الفقرة 41).

أشار المجلس في كثير من الأحيان إلى أهمية حماية الخطاب السياسي والاجتماعي (التعليق العام رقم 34، الفقرة 38). إلا أن هذه الاعتبارات لا تنطبق هنا. ويرى المجلس أن هذا المنشور يمثل خطابًا تجاريًا يمكن تقييده عند استيفاء متطلبات الاختبار الثلاثي.

1. الشرعية (وضوح القواعد وسهولة الوصول إليها)

يتطلب مبدأ الشرعية أن تكون القواعد التي تقيِّد حرية التعبير واضحة ويسهُل الوصول إليها، وأن تُصاغ بدقة كافية لتمكين الأشخاص من ضبط سلوكهم تبعًا لها (التعليق العام رقم 34، الفقرة 25). كما ينبغي أن يتمكن الأشخاص الذين يستخدمون منصات Meta من الوصول إلى هذه القواعد وفهمها، فضلاً عن ضرورة أن تتوفر لمراجعي المحتوى توجيهات واضحة فيما يتعلق بإنفاذها.

يرى المجلس أن القواعد الواردة في سياسة Meta بشأن عمليات الاحتيال والخداع والممارسات الخادعة واضحة ويسهل الوصول إليها بقدر كافٍ. ومن الواضح للمجلس أن الحظر المفروض على "إنشاء شخصية وهمية أو انتحال شخصية مشهورة في محاولة للخداع أو الاحتيال" يشمل المنشورات التي تستخدم صورة شخصية عامة لتأييد أحد المنتجات أو التطبيقات بطريقة احتيالية.

2. الهدف المشروع

ينبغي أيضًا أن تستند أي قيود مفروضة على حرية التعبير إلى واحد أو أكثر من الأهداف المشروعة الواردة في العهد الدولي الخاص بالحقوق المدنية والسياسية، والتي من بينها حماية حقوق الآخرين أو حماية سمعتهم. يتحقق هدفان من وراء حظر Meta على المنشورات التي تنشئ شخصيات وهمية لخداع الآخرين أو الاحتيال عليهم. الأول، هو أن الحظر يسعى لحماية الأشخاص من عمليات الخداع والاحتيال (المادة 17، الإعلان العالمي لحقوق الإنسان). الثاني، أنه يحمي حقوق الأشخاص المصوَّرين وسمعتهم، حيث إن هذا المنشور يمس حقوقهم في الخصوصية وقدرتهم على تحديد الطريقة التي يتم بها إنشاء صورهم ونشرها (المادة 17، من العهد الدولي الخاص بالحقوق المدنية والسياسية؛ راجع أيضًا قرار صور الذكاء الاصطناعي الصريحة لشخصيات نسائية عامة).

3. الضرورة والتناسب

بموجب المادة 19(3) من العهد الدولي الخاص بالحقوق المدنية والسياسية، فإن الضرورة والتناسب يتطلبان أن تكون القيود المفروضة على حرية التعبير "مناسبة لتحقيق وظيفة الحماية المنوطة بها، ويجب أن تكون أقل الوسائل تدخلاً مقارنةً بغيرها من الوسائل التي يمكن أن تحقق النتيجة المنشودة؛ ويجب أن تكون متناسبة مع المصلحة التي ستحميها". بالإضافة إلى ذلك، وبموجب مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، فإن الإجراءات التي تتخذها شركة استجابةً لضرر محتمل ينبغي أن تكون مستندة إلى حجم دورها في إحداث أي تأثير سلبي على حقوق الإنسان (مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان 19(ب)).

يرى المجلس أن قرار Meta النهائي بإزالة المحتوى من فيسبوك كان ضروريًا ومتناسبًا. وفي هذه الحالة، تعد الإزالة هي أقل الوسائل تدخلاً لحماية عامة الجمهور من عمليات الخداع، لا سيما مَن يتمتعون بقدرٍ محدود من المعرفة الرقمية، وأيضًا للحماية من إساءة استخدام صورة رونالدو نازاريو. كما أن التأثير على خصوصيته وسمعته وشيك، وقد ينشأ ضرر مالي يلحق بعامة الجمهور، ولذا، ينبغي لشركة Meta أن تزيل ذلك المحتوى.

إنفاذ السياسات

تماشيًا مع مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، تقع على عاتق Meta مسؤولية "التخفيف من الآثار السلبية على حقوق الإنسان" للمحتوى الذي يمكن تحقيق أرباح منه والذي قد يشكل عملية خداع أو احتيال. فإذا كانت Meta تتلقى مبالغ مالية لزيادة مدى وصول المحتوى من خلال برنامج الترويج الخاص بها، فينبغي للشركة أن تولي عناية خاصة بما يضمن عدم انتهاك هذه المنشورات لسياساتها.

فحالات التأييد هذه، لا سيما عندما يتم إنشاؤها بواسطة أدوات الذكاء الاصطناعي، قد يصعب على المشاهدين اكتشافها. وقد شهدت الأعوام الأخيرة زيادة في توفُّر أدوات الذكاء الاصطناعي المتقدمة المستخدمة لإنشاء مقاطع فيديو، ومن المحتمل أن تستمر هذه الزيادة. وكما هو مذكور أعلاه، تشير تقارير إلى أن بعض عمليات الاحتيال المالي في البرازيل تنشأ من فيسبوك وInstagram وواتساب، ومن بينها تلك التي تستخدم عمليات التزييف العميق.

لا يبدو أن إعلانات "بلينكو" المزيفة ومحتواها العادي يمثلان مشكلة جديدة. وكجزء من أبحاثه حول هذه الحالة، بحث المجلس في مكتبة الإعلانات من Meta عن محتوى "تطبيق بلينكو". وفي أثناء بحثه، عثر المجلس على أكثر من 3,900 إعلان نشط لذلك المحتوى، منها نحو 3,500 إعلان تضمنت مقاطع فيديو. وقد أظهرت العديد من هذه المقاطع حالات تأييد مماثلة تم إنشاؤها بواسطة الذكاء الاصطناعي، والتي تضمنت عمليات تزييف عميق للاعب كرة القدم البرتغالي كريستيانو رونالدو. وفيما يتعلق بالمحتوى العادي، عثر المجلس أيضًا على عمليات تزييف عميق تُظهِر الرئيس التنفيذي لشركة Meta، مارك زوكربيرج، وهو يؤيد "بلينكو".

يشعر المجلس بالقلق إزاء عدم قدرة مراجعي المحتوى الذين يعملون على نطاق واسع على إزالة المنشورات التي تُنشئ شخصية وهمية أو تنتحل شخصية مشهورة "في محاولة للخداع أو الاحتيال"، حتى لو اشتمل المحتوى على مؤشرات واضحة على انتهاكه لسياسات Meta. كما أن نهج Meta المتمثل في إنفاذ هذه السياسة فقط بعد البحث عن سياق إضافي عند التصعيد يعزز ضعف إنفاذ المحتوى المخالف. استنادًا إلى التقارير العامة، بما في ذلك قواعد بيانات لحوادث تم الإبلاغ عنها وتقارير صحفية، يشير المجلس إلى أنه لتفادي فرط الإنفاذ المحتمل بشأن مجموعة فرعية صغيرة من حالات تأييد حقيقية للمشاهير، من المرجح أن تسمح الشركة بقدر كبير من المحتوى الاحتيالي على منصاتها. وهذا الأمر مثير للقلق وبخاصة عندما يكون من المحتمل أن تتمتع حالات التأييد الحقيقية للمشاهير بأشكال حماية أخرى ضد فرط الإنفاذ، سواءً من خلال أنظمة رسمية كالتحقق الشامل أو نقاط الاتصال في Meta. لذا، يوصي المجلس Meta بتغيير نهجها وإنفاذ خط السياسة هذا على نطاق واسع.

6. قرار مجلس الإشراف

ألغى مجلس الإشراف قرار Meta الأصلي بالإبقاء على المنشور على فيسبوك.

7. التوصيات

إنفاذ السياسات

1. لتحسين عملية مكافحة حالات تأييد المشاهير المضللة والمتلاعب بها، ينبغي لشركة Meta القيام، على نطاق واسع، بإنفاذ الحظر الوارد في سياستها بشأن عمليات الاحتيال والخداع والممارسات الخادعة المفروض على المحتوى الذي "يحاول إنشاء شخصية وهمية أو انتحال شخصية مشهورة في محاولة للخداع أو الاحتيال" بأن توفر للمراجعين مؤشرات لتحديد هذا المحتوى. وقد يشمل ذلك، على سبيل المثال، وجود علامات التلاعب بالوسائط إلى جانب بيانات التعريف أو عوامل واضحة، مثل عدم التطابق بين الصوت والفيديو.

سيعتبر المجلس أن هذه التوصية قد دخلت حيز التنفيذ عند تحديث الشركة لإرشاداتها المعلنة لعامة الجمهور وتلك الخاصة الداخلية لتعكس هذا التغيير.

*ملاحظة إجرائية:

• يتم اتخاذ قرارات مجلس الإشراف من قِبَل لجان مكونة من خمسة أعضاء، وتتم الموافقة عليها بأغلبية أصوات المجلس بالكامل. ولا يلزم بالضرورة أن تُعبّر قرارات المجلس عن وجهات النظر لجميع الأعضاء.
• بموجب اتفاقيته، يجوز لمجلس الإشراف مراجعة الطعون المقدمة من المستخدمين الذين قامت Meta بإزالة محتواهم، والطعون المقدمة من المستخدمين الذين أبلغوا عن محتوى قامت Meta بالإبقاء عليه، والقرارات التي أحالتها Meta إليه (المادة 2، القسم 1 من الاتفاقية). وللمجلس سلطة مُلزمة تخوله من تأييد أو إلغاء القرارات التي تتخذها Meta بشأن المحتوى (المادة 3، القسم 5 من الاتفاقية؛ المادة 4 من اتفاقية المجلس). ويحق للمجلس إصدار توصيات غير ملزِمة تكون شركة Meta ملزَمة بالرد عليها (المادة 3، القسم 4 من الاتفاقية؛ المادة 4). وعندما تلتزم Meta بتنفيذ التوصيات، يراقب المجلس هذا التنفيذ.
• بالنسبة إلى القرار المتخذ بشأن هذه الحالة، أُجري بحث مستقل نيابةً عن المجلس. وقد تلقى المجلس مساعدة من شركة Duco Advisors، وهي شركة استشارات تركز على نقطة التقاء الجغرافيا السياسية والثقة والأمان والتكنولوجيا.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة