لماذا فشلت شركات التكنولوجيا في منع انتشار الخطاب المتطرف؟

قدمت مذبحة، الجمعة، التي استهدفت مسجدين بمدينة كرايست تشيرش النيوزيلندية مثالا على إشكالية الرقابة الذاتية التي يمكن أن تفرضها شركات التكنولوجيا على المحتوى الذي يُبث على منصاتها.

فالهجوم الإرهابي، المدفوع بالكراهية، الذي أسفر عن مقتل 50 شخصا، تم تصميمه بعناية ليراه أكبر عدد ممكن من الشهود حول العالم، ما يلقي الضوء على صعوبة مراقبة خطاب الكراهية المتشدد الذي ينتشر على الإنترنت.

• منفذ الهجوم، ويدعى برينتون تارانت، فعل كل ما يمكن لضمان انتشار مشاهد الجريمة ووصولها إلى أكبر عدد من الناس.
• المهاجم بث عملية الهجوم على مواقع التواصل الاجتماعي، وثبت كاميرا على رأسه كي تشبه إحدى ألعاب الفيديو، كما نشر بيانا (مانيفستو) من أكثر من 70 صفحة يعبر فيه عن اعتناقه أفكار اليمين المتطرف المؤمنين بتفوق العرق الأبيض.

• البيان كان مشحونا بالإشارات الثقافية الرامية إلى إثارة اهتمام الجميع على الإنترنت، وإعجاب المتطرفين الآخرين الذين يعيشون في عالم الإنترنت.
• يمكن القول إن المهاجم نصب مصيدة استغلت أهمية الهجوم من الناحية الإخبارية كي يبث مشاهد الرعب والعنف، وهو إغراء وقعت فيه مؤسسات صحفية محترفة وبثت مقاطع فيديو للمجزرة.
• كانت عملية إزالة الفيديو من الإنترنت مثل عملية مطاردة لا تنتهي، فموقع فيسبوك قام سريعا بحذف حسابي المهاجم على فيسبوك وإنستغرام.
• لكن هذا لم يكن بسبب رصد المحتوى العنيف في الوقت الصحيح غير خوارزمية هذه المواقع، ولكن لأن السلطات النيوزيلندية طلبت إزالة مقطع الفيديو، كما حجبت الشركات المزودة لخدمات الإنترنت المواقع التي تنشر الفيديو.
• كل هذا لم يفلح في منع نشر الفيديو حيث كان قد تم تنزيله بالفعل من قبل مستخدمي الإنترنت قبل أن يجري إعادة نشره على المواقع الإلكترونية بشكل أسرع من استجابة شركات التكنولوجيا.
• موقع فيسبوك قال إنه أزال وحده 1.5 مليون فيديو في أول 24 ساعة بعد الهجوم، وهذا العدد يمثل فقط المقاطع التي تمكن من رصدها.
• مجزرة الجمعة كانت مثالا على مشكلة أكبر على الإنترنت، فمنصات التواصل الاجتماعي تكافح كي تراقب محتوى مثيرا للجدل يصنعه مستخدموها، في حين يبدو المشرعون مترددين بشدة في فرض ضوابط أو غير مجهزين للقيام بهذا، بالإضافة إلى أن كثيرين في كلا المعسكرين لا يبدو أنهم يتعاملون بجدية كافية مع الخطاب اليميني المتشدد مثلما يفعلون مع الأشكال الأخرى من التطرف.
• مع ارتفاع حصيلة القتلى، التي وصلت الآن إلى 50 ما يجعلها واحدة من أكثر هجمات اليمين المتطرف دموية في التاريخ القريب، فإن الهجوم يؤكد بشدة على السؤال الذي تتجنب شركات التكنولوجيا وصناع السياسات ومستخدمو وسائل التواصل الاجتماعي الإجابة عليه، وهو: كيف يمكن مراقبة وضبط الكراهية على الإنترنت بشكل فعال؟
• رغم مسارعة كبرى شركات التكنولوجيا لإزالة مقطع الفيديو الذي يتضمن المجزرة من على منصاتها، وإزالة أي إشادة بها، وتعطيل الحسابات التي نشرته، ضمن جهود أخرى فقد ظل من السهل الوصول لمقاطع فيديو للهجوم من خلال بعض البحث البسيط.
• هذا يبرهن على أن شركات التكنولوجيا مازالت لا تمتلك القدرة الكافية لمواجهة المحتوى العنصري والمتطرف والعنيف على منصاتها.
• من أسباب هذا أن البرمجيات بشكل عام يمكنها البحث عن الكلمات والتعليقات المسيئة والصور المتحركة كما في مقاطع الفيديو؛ لكن الخوارزميات في يوتيوب على سبيل المثال لا يمكنها تعقب النسخ المعدلة لهجوم المسجدين، لأن يوتيوب يريد أن يضمن ألا تتم إزالة المقاطع الإخبارية التي تناولت خبر الهجوم في هذه العملية.
• لهذا فإن شركات التكنولوجيا عليها نظريا أن تكون أكثر تمرسا فيما يتعلق بحظر خطاب الكراهية والعنف على منصات اليمين المتطرف.
• سبب آخر يتمثل في أن بعض الشركات لا تبدأ في القيام بتحرك في قضايا طويلة المدى إلا عندما تكون المخاطر المالية لعدم التحرك أعلى من مثيلاتها إذا تحركت.
• شركة يوتيوب على سبيل المثال تواجه انتقادات لإخفاقها في منع انتشار نظريات المؤامرة واستغلال الأطفال على منصتها، كما تعاني خوارزمياتها من سجل سيء بسبب ظهور مواد واقتراح محتوى على منصتها ينتهك سياساتها.
• الكونغرس الأمريكي ييذل جهدا كبيرا لفهم ومواجهة المشكلات التي تواجه مواقع التواصل الاجتماعي، بدءا من طريقة التعامل مع المعلومات المغلوطة وحتى قضية تعامل المواقع مع بيانات المستخدمين وخصوصياتهم، لكن بعض أعضاء الكونغرس أظهروا عدم جاهزيتهم بشكل يرثى له للحديث في قضايا التكنولوجيا.

• رد الفعل حيال التشدد المنسوب إلى مسلمين على الإنترنت عادة ما يكون مختلفا عن التعامل مع المحتوى الخاص باليمين المتشدد ودعاة تفوق العرق الأبيض.
• السلطات الأمريكية على سبيل المثال ركزت على التشدد المنسوب إلى مسلمين في حين كان إرهاب اليمين المتطرف في أمريكا قد وجد اللحظة المواتية لصعوده بقوة.
• هذا ينطبق أيضا على شركات التكنولوجيا، فبينما عملت على إيجاد حلول لمواجهة تنظيم الدولة على الإنترنت فإن تعاملها اتسم بالسذاجة في التعامل مع المتطرفين القوميين والبيض المتشددين.
• العام الماضي كشفت منظمة “موذربورد” أنه بينما كان موقع يوتيوب يتعقب مقاطع الفيديو الخاصة بتنظيم الدولة ظلت هناك مقاطع دعائية تروج للنازيين الجدد على الموقع لشهور وربما حتى لسنين.
• قارن باحثون من “برنامج دراسة التشدد” بجامعة جورج واشنطن التطرف اليميني بسلوك تنظيم الدولة على الإنترنت فوجدوا أن نمو حركات المتشددين القوميين البيض يتجاوز بكثير لتشدد المنسوب إلى مسلمين.
• العام الأخير شهد العديد من عمليات العنف التي نفذها اليمين المتطرف، لكن أيا من هذه الهجمات لم يدفع إلى جهود إصلاحية كبيرة من جانب شركات التكنولوجيا.
• في ضوء الصور المروعة لمجزرة المسجدين في نيوزيلندا فإن هناك فرصة لتغيير النقاش بشأن اليمين المتطرف والتعامل معه ومع الدعاية التي ينشرها بنفس الجدية التي تعاملت بها مع دعاية تنظيم الدولة على الإنترنت.