Study reveals the simple way people get around Facebook's fact-checking AI
حظرت Facebook المحتوى المتعلق بنظرية مؤامرة QAnon وشنت حملة على المعلومات المضللة عن فيروس كورونا. لكنها ما زالت غير كافية.
وفقًا لدراسة حديثة أجرتها مجموعة Avaaz غير الربحية، فإن Facebook يفشل بشكل أساسي. تجد صفحات Facebook التي تنشر معلومات مضللة طريقها للتغلب على إحدى أهم أدوات النظام الأساسي لمكافحة الأخبار المزيفة: نظام الذكاء الاصطناعي الخاص بها.
عندما يقوم مدققو الحقائق في Facebook بكشف زيف ادعاء في منشور ما، فمن المفترض أن يقوم الذكاء الاصطناعي الخاص به بوضع علامة على الإصدارات البديلة من المنشور التي تنشر نفس المعلومات الخاطئة وتصنيفها. لكن الدراسة تقول إن الصفحات تتحايل على عمليات التحقق من الحقائق هذه.
نظر باحثو Avaaz في 119 "تكرار للمعلومات المضللة"- الصفحات التي نشرت معلومات مضللة ثلاث مرات على الأقل- لفهم كيف تتغلب هذه الصفحات على اكتشاف Facebook للذكاء الاصطناعي.
تبين، كل ما يتعين عليهم فعله هو تغيير لون الخلفية أو الخط على الصورة أو الميم الذي يشاركونه. يمكنهم أيضًا تغيير موقع النص في الميم أو محاولة قصه.
يوجد أدناه مثال من الدراسة يعرض جزأين من المحتوى ينشران نفس الادعاءات التي تم التحقق منها. الصورة الموجودة على اليسار تحتاج فقط إلى تغيير تنسيق وموضع نص الصورة على اليمين لتجنب ملصق التحقق من صحة الأخبار من Facebook.
وفقًا لدراسة حديثة أجرتها مجموعة Avaaz غير الربحية، فإن Facebook يفشل بشكل أساسي. تجد صفحات Facebook التي تنشر معلومات مضللة طريقها للتغلب على إحدى أهم أدوات النظام الأساسي لمكافحة الأخبار المزيفة: نظام الذكاء الاصطناعي الخاص بها.
عندما يقوم مدققو الحقائق في Facebook بكشف زيف ادعاء في منشور ما، فمن المفترض أن يقوم الذكاء الاصطناعي الخاص به بوضع علامة على الإصدارات البديلة من المنشور التي تنشر نفس المعلومات الخاطئة وتصنيفها. لكن الدراسة تقول إن الصفحات تتحايل على عمليات التحقق من الحقائق هذه.
نظر باحثو Avaaz في 119 "تكرار للمعلومات المضللة"- الصفحات التي نشرت معلومات مضللة ثلاث مرات على الأقل- لفهم كيف تتغلب هذه الصفحات على اكتشاف Facebook للذكاء الاصطناعي.
تبين، كل ما يتعين عليهم فعله هو تغيير لون الخلفية أو الخط على الصورة أو الميم الذي يشاركونه. يمكنهم أيضًا تغيير موقع النص في الميم أو محاولة قصه.
يوجد أدناه مثال من الدراسة يعرض جزأين من المحتوى ينشران نفس الادعاءات التي تم التحقق منها. الصورة الموجودة على اليسار تحتاج فقط إلى تغيير تنسيق وموضع نص الصورة على اليمين لتجنب ملصق التحقق من صحة الأخبار من Facebook.
حل آخر هو ببساطة أخذ النص من صورة ونسخ نفس النص ولصقه أعلى صورة أو صورة مختلفة. أو يمكنهم أخذ هذا النص المنسوخ من meme ولصقه ببساطة كحالة Facebook. ستعمل كل هذه الطرق على تجنب اكتشاف الذكاء الاصطناعي على Facebook، مما يعني أن المحتوى سيظهر دون التحقق من صحة الحقائق أو ملصق تحذير.
تقدر Avaaz أن هذه الصفحات الـ 119 "المخادعة المتكررة" جمعت 5.2 مليار مشاهدة في الفترة من أغسطس 2019 إلى أغسطس 2020. وحققت الإصدارات البديلة من المنشورات التي تم التحقق منها الحقائق حوالي 141 مليون مشاهدة مع 5.6 مليون تفاعل.
وتشير الدراسة إلى أن المعلومات المضللة هاجمت كلاً من المرشحين الرئاسيين، دونالد ترامب وجو بايدن، وديمقراطيين وجمهوريين آخرين. ومع ذلك، هناك عزيمة حزبية واضحة على قائمة صفحات "تكرار المعلومات المضللة" التي تلقت معظم التفاعلات. شارك ثمانية من كل 10 منهم محتوى يمينيًا.
إلى جانب صفحات مثل "القيم المحافظة Conservative Values" و "معجبو الرئيس ترامب President Trump Fans" التي تنشر معلومات خاطئة، توجد صفحة رسمية لعضو الكونجرس على Facebook: النائب الجمهوري ستيف كينج.
يتعلق هذا بشكل خاص بكون السياسيين معفيين من العديد من قواعد Facebook. إحدى هذه السياسات، التي تم انتقادها بشكل روتيني منذ الإعلان عنها في أواخر العام الماضي، تسمح بشكل أساسي للموظفين العموميين بالكذب على منصة التواصل الاجتماعي.
في الواقع، الطريقة الوحيدة التي يمكن من خلالها التحقق من صحة السياسي على المنصة هي ما إذا كان يشارك محتوى تم التحقق منه بالفعل. ومع ذلك، فإن الحلول التي تم الكشف عنها في دراسة Avaaz تساعد السياسيين على تجنب ذلك.
قدمت Avaaz نتائجها إلى Facebook قبل نشر الدراسة. تقول المجموعة إن Facebook أضاف علامة تحذير إلى 4% من 738 مشاركة تم الإبلاغ عنها. أزال 3% أخرى. تظل الغالبية على المنصة بدون ملصق.
تقدر Avaaz أن هذه الصفحات الـ 119 "المخادعة المتكررة" جمعت 5.2 مليار مشاهدة في الفترة من أغسطس 2019 إلى أغسطس 2020. وحققت الإصدارات البديلة من المنشورات التي تم التحقق منها الحقائق حوالي 141 مليون مشاهدة مع 5.6 مليون تفاعل.
وتشير الدراسة إلى أن المعلومات المضللة هاجمت كلاً من المرشحين الرئاسيين، دونالد ترامب وجو بايدن، وديمقراطيين وجمهوريين آخرين. ومع ذلك، هناك عزيمة حزبية واضحة على قائمة صفحات "تكرار المعلومات المضللة" التي تلقت معظم التفاعلات. شارك ثمانية من كل 10 منهم محتوى يمينيًا.
إلى جانب صفحات مثل "القيم المحافظة Conservative Values" و "معجبو الرئيس ترامب President Trump Fans" التي تنشر معلومات خاطئة، توجد صفحة رسمية لعضو الكونجرس على Facebook: النائب الجمهوري ستيف كينج.
يتعلق هذا بشكل خاص بكون السياسيين معفيين من العديد من قواعد Facebook. إحدى هذه السياسات، التي تم انتقادها بشكل روتيني منذ الإعلان عنها في أواخر العام الماضي، تسمح بشكل أساسي للموظفين العموميين بالكذب على منصة التواصل الاجتماعي.
في الواقع، الطريقة الوحيدة التي يمكن من خلالها التحقق من صحة السياسي على المنصة هي ما إذا كان يشارك محتوى تم التحقق منه بالفعل. ومع ذلك، فإن الحلول التي تم الكشف عنها في دراسة Avaaz تساعد السياسيين على تجنب ذلك.
قدمت Avaaz نتائجها إلى Facebook قبل نشر الدراسة. تقول المجموعة إن Facebook أضاف علامة تحذير إلى 4% من 738 مشاركة تم الإبلاغ عنها. أزال 3% أخرى. تظل الغالبية على المنصة بدون ملصق.
