تحديد وتصنيف المقاطع الصوتية ومقاطع الفيديو المتلاعب بها بالذكاء الاصطناعي على نطاق واسع

تم النشر بتاريخ 24 حَزِيران 2025

ألغى مجلس الإشراف قرار Meta بعدم تصنيف مقطع صوتي يحتمل أنه تم التلاعب به لاثنين من السياسيين الأكراد العراقيين وهما يناقشان تزوير الانتخابات البرلمانية، قبل أقل من أسبوعين من فتح صناديق الاقتراع، في انتخابات شهدت تنافسًا واستقطابًا شديدين. يطلب المجلس من Meta تصنيف المحتوى.

يشعر المجلس بالقلق من أنه على الرغم من الانتشار المتزايد للمحتوى المتلاعب به عبر التنسيقات، فإن إنفاذ Meta لسياسة الوسائط المتلاعب بها غير متسق. ويجب أن تعطي الأولوية للاستثمار في التكنولوجيا لتحديد وتصنيف المقاطع الصوتية ومقاطع الفيديو التي تم التلاعب بها على نطاق واسع من أجل أن يتم إعلام المستخدمين بشكل صحيح.

كما في هذه الحالة، فإن عدم تطبيق Meta تصنيفًا تلقائيًا على جميع حالات الوسائط المتلاعب بها نفسها غير مترابط وغير مبرر.

وبالإضافة إلى ذلك، يجب على Meta إتاحة تصنيفات للوسائط التي تم التلاعب بها باللغة المحلية المتوفرة بالفعل على منصاتها. ينبغي أن يشكل هذا، على الأقل، جزءًا من جهود Meta في مجال نزاهة الانتخابات.

عن الحالة

قبل أقل من أسبوعين من الانتخابات البرلمانية في كردستان العراق، في أكتوبر 2024، شاركت وسيلة إعلامية شهيرة تابعة لأحد الأحزاب السياسية الرئيسية في المنطقة، الحزب الديمقراطي الكردستاني، مقطعًا صوتيًا مدته دقيقتان على صفحتها على Facebook. يزعم التعليق الخاص بالمنشور باللغة السورانية الكردية أن التسجيل الصوتي عبارة عن "محادثة مسجلة" بين الأخوين بافل وقباد طالباني، عضوي الحزب السياسي الرئيسي الآخر في المنطقة، الاتحاد الوطني الكردستاني، حول "خططهما الشريرة" لتزوير انتخابات أكتوبر 2024. في التسجيل الصوتي، يتحدث رجلان مع وجود تعليق صوتي باللغة الإنجليزية (مع ترجمة باللغتين السورانية الكردية والإنجليزية). يقول أحد الرجلين إن "30 مقعدًا على الأقل" مضمونة للاتحاد الوطني الكردستاني، لكن عليهم "التخلص" من "المقاعد الـ11" التي يزعم أن الحزب الديمقراطي الكردستاني "لطالما استخدمها لصالحه". ويوافق الرجل الآخر على ذلك، مشددًا على ضرورة إظهار أن تلك المقاعد قد تم الفوز بها بشكل شرعي لأن الناس يدركون - ولكن لا يمكنهم إثبات - أن الاتحاد الوطني الكردستاني مدعوم من بغداد و"جيرانهم". يبلغ عدد متابعي صفحة الوسيلة الإعلامية على Facebook حوالي 4,000,000 متابع. وقد تمت مشاهدة المنشور حوالي 200,000 مرة.

قام اثنان من المستخدمين بالإبلاغ عن المحتوى بسبب المعلومات المضللة لكن Meta أغلقت البلاغات من دون مراجعة. بعد أن قدم أحد هؤلاء المستخدمين طعنًا إلى شركة Meta، أيدت الشركة قرارها بناءً على درجة المصنف. حينها قدّم المستخدم طعنًا إلى مجلس الإشراف.

تعرفت Meta على منشورات أخرى تحتوي على المقطع الصوتي على صفحات Facebook وInstagram لنفس الوسيلة الإعلامية وصفحة الحزب الديمقراطي الكردستاني على Facebook. بعد التشاور مع إحدى وسائل الإعلام التي تتخذ من خارج كردستان العراق مقراً لها وشريك موثوق به لمراجعة إمكانية إنشاء المقطع الصوتي رقميًا، قامت Meta بتصنيف بعض المنشورات، وليس المحتوى في هذه الحالة. يذكر التصنيف المطبق على المنشورات الأخرى التي تحتوي على نفس المقطع الصوتي أنه: "قد يكون هذا المحتوى قد تم إنشاؤه أو تعديله رقميًا ليبدو حقيقيًا."

النتائج الرئيسية

عندما يتعلق الأمر بتحديد المحتوى الذي تم إنشاؤه أو التلاعب به بالذكاء الاصطناعي على منصاتها، أخبرت Meta المجلس أنها قادرة فقط على تحديد وتصنيف الصور الثابتة تلقائيًا، وليس محتوى مقاطع الفيديو أو المقاطع الصوتية. ونظرًا لخبرة الشركة ومواردها والاستخدام الواسع لمنصات Meta، يجب أن تعطي الأولوية للاستثمار في التكنولوجيا لتحديد وتصنيف المقاطع الصوتية ومقاطع الفيديو التي تم التلاعب بها على نطاق واسع.

إن عدم نشر Meta الأدوات التي تمتلكها لتطبيق تصنيف "معلومات الذكاء الاصطناعي" تلقائيًا على جميع حالات الوسائط المتلاعب بها نفسها غير مترابط وغير مبرر. في حالة مقطع الفيديو المعدَّل للرئيس بايدن‬‏‫، التزمت Meta بتنفيذ توصية المجلس بأنه بالنسبة للوسائط التي تم التلاعب بها، والتي لا تنتهك معايير المجتمع الأخرى، يجب على الشركة تطبيق تصنيف على "جميع الحالات المتطابقة من تلك الوسائط على المنصة". يتعارض ادعاء Meta في هذه الحالة بأنها لا تطبق تلقائيًا تصنيف "عالي الخطورة" على المحتوى الذي يتضمن المقطع الصوتي مع هذه التوصية. إن تصنيفات "معلومات الذكاء الاصطناعي" و"عالي الخطورة" هي تصنيفات إعلامية لدى Meta للوسائط التي تم التلاعب بها.

يلاحظ المجلس أن هناك مؤشرات موثوقة، بما في ذلك إشارات فنية، تدل على أن المقطع تم إنشاؤه رقميًا. إنه يفي بمتطلبات وسائل الإعلام المتلاعب بها بموجب سياسة المعلومات المضللة الخاصة بشركة Meta. إن وضع تصنيف "عالي الخطورة" عليها يتسق مع سياسات Meta ومسؤولياتها في مجال حقوق الإنسان. تم نشر هذا المقطع الصوتي خلال فترة انتخابية متنازع عليها بشدة في منطقة لها تاريخ من الانتخابات غير المنتظمة. وهذا يزيد من قدرة المقطع الصوتي على التأثير على الاختيارات الانتخابية والإضرار بنزاهة الانتخابات. إن وضع تصنيف إعلامي على محتوى الحالة، بدلاً من إزالة المحتوى تمامًا، يفي بمتطلبات الضرورة والتناسب.

يشعر المجلس بالقلق من عدم توفر تصنيفات Meta للوسائط التي تم التلاعب بها باللغة السورانية الكردية. هذا على الرغم من أن اللغة السورانية الكردية هي إحدى اللغات المتاحة داخل التطبيق لمستخدمي Facebook. ولضمان إبلاغ المستخدمين عند إنشاء المحتوى أو تغييره رقميًا، يجب أن يشكل إتاحة التصنيف باللغة المحلية المتاحة بالفعل على منصات Meta، على الأقل، جزءًا من جهود النزاهة الانتخابية.

يشعر المجلس بالقلق أيضًا من اعتماد الشركة على أطراف ثالثة للتقييم الفني للمحتوى المحتمل أنه تم التلاعب به. يجب أن تعيد Meta النظر في توفير هذه الخبرة داخليًا.

يلاحظ المجلس أن المسألة في هذه الحالة تتعلق بما إذا كان التسجيل الصوتي حقيقيًا أم مزيفًا، وليس ما إذا كان ما قيل في التسجيل الصوتي صحيحًا. وبالنظر إلى أن تصنيف المقطع الصوتي على أنه من المحتمل أن يكون قد تم إنشاؤه أو تغييره رقميًا من شأنه أن ينبه المستخدمين إلى دقة محتواه، فإن المجلس يرى أن تطبيق سياسة المعلومات المضللة على الوسائط التي تم التلاعب بها كافٍ. ومع ذلك، يشعر المجلس بالقلق من عدم توفر جهات التحقق من صحة الحقائق باللغة الكردية في Meta لمراجعة المحتوى أثناء الانتخابات كجزء من تدابير نزاهة الانتخابات.

قرار مجلس الإشراف

يلغي مجلس الإشراف قرار Meta بعدم وضع تصنيف على المحتوى، ويطالب بوضع تصنيف على المنشور.

يوصي المجلس أيضًا بأن تقوم شركة Meta بما يلي:

• تطبيق تصنيف ذو صلة على جميع المحتوى التي يتضمن نفس الوسائط التي تم التلاعب بها، بما في ذلك جميع المنشورات التي تحتوي على المقطع الصوتي الذي تم التلاعب به في هذه الحالة.
• التأكد من عرض التصنيفات الإعلامية للوسائط التي تم التلاعب بها على Facebook وInstagram وThreads باللغة نفسها التي اختارها المستخدم لمنصته.

مزيد من المعلومات

لقراءة التعليقات العامة على هذه الحالة، انقر هنا.

العودة إلى الأخبار