الرسوم التعبيرية العنصرية أحدث اختبار تواجهه "فيسبوك" و "تويتر"

في مباراة كرة قدم شهدها "ملعب غوديسون بارك" في مدينة ليفربول في عام 1988، ابتعد اللاعب جون بارنز عن مركز لعبه، واستخدم الجزء الخلفي من قدمه لركل موزة ألقيت نحوه. التقط هذا المشهد في صورة إبداعية، ليمثِّل لحظةً تشوبها الإساءة العنصرية التي واجهها لاعبو كرة القدم السود في المملكة المتحدة.

بعد أكثر من 30 عاماً، تمَّ تغيير لاعب الوسط، لكنَّ العنصرية مازالت قائمة، فبعد هزيمة إنجلترا أمام إيطاليا في يوليو خلال نهائي بطولة أمم أوروبا، واجه اللاعبون السود في الفريق الإنجليزي هجمات بالموز. لكنْ بدلاً من الفاكهة الحقيقية كانت هناك رموز تعبيرية "إيموجي"، تظهر في ملفاتهم الشخصية على وسائل التواصل الاجتماعي، إلى جانب قرود وصور أخرى.

وبشأن تأثير هذه الإساءة، يقول سيمون باوند، مدير المساواة والتنوع والإدماج في اتحاد لاعبي كرة القدم المحترفين بالمملكة المتحدة: "كان تأثير الرموز عميقاً، ويحمل معنى تماماً مثلما كان تأثير إلقاء الموز الفعلي".

"جلد التكنولوجيا" المزعوم لا يحدث إلا في خيال وسائل الإعلام

في ذكرى "جورج فلويد".. ما وضع المساواة العرقية بالشركات الأمريكية؟

واجهت شركتا "فيسبوك"، و "تويتر" انتقادات واسعة النطاق، نظراً لاستغراقهما وقتاً طويلاً في التخلص من موجة المنشورات المسيئة عنصرياً خلال بطولة أوروبا هذا الصيف. وسلَّطت لحظات العنصرية التي واجهها اللاعبون السود الضوء على مشكلة طويلة الأمد، وهي أنَّه برغم قضاء أعوام في تطوير الخوارزميات اللازمة لتحليل اللغة المسيئة، إلا أنَّ شركات وسائل التواصل الاجتماعي غالباً لا تملك استراتيجيات فعَّالة لوقف انتشار خطاب الكراهية، والمعلومات المضللة، والمحتويات الإشكالية الأخرى على منصاتها.

وبرزت الرموز التعبيرية كحجر عثرة في هذه المعضلة، فعندما قدَّم عملاق التكنولوجيا "أبل" رموزاً تعبيرية ذات ألوان بشرة مختلفة في عام 2015، واجه انتقادات لأنَّه أتاح الفرصة أمام التعليقات العنصرية. وبعد عام، قدَّمت الحكومة الإندونيسية شكاوى بعد أن طالبت شبكات التواصل الاجتماعي بإزالة الرموز التعبيرية المتعلِّقة بمجتمع الميم (LGBTQ).

لأول مرة.. "تويتر" تسمح للمستخدمين بالإبلاغ عن التضليل

كذلك، تم ربط بعض الرموز التعبيرية، بما في ذلك تلك التي تصور كيساً من المال، بمعاداة الساميّة. وكثيراً ما كان لاعبو كرة القدم السود يُستهدفون، إذ أجرى اتحاد لاعبي كرة القدم من المحترفين، وشركة علوم البيانات "سيغنفاي" (Signify) دراسة خلال العام الماضي عن التغريدات المسيئة العنصرية الموجهة إلى اللاعبين، ووجدوا أن 29% منها يتضمَّن شكلاً من أشكال الرموز التعبيرية

على مدى العقد الماضي، كان ما يقرب من 3 آلاف رمز تعبيري يمثل جزءاً حيوياً من التواصل عبر الإنترنت، واليوم أصبح من الصعب تخيل محادثة نصية بدونها. ومع ذلك؛ فإن الغموض الذي يمثل جزءاً من سحرها لن يخلو من المشاكل، إذ يمكن للوجه الذي يغمز بعينه أن يشير إلى مزحة أو مغازلة، ثم ينتهي الأمر بالمحاكم بمناقشة قضايا، مثل ما إذا كان إرسال رمز تعبيري يتخذ شكل بندقية إلى شخص ما يمثل تهديداً.

هذه المسألة مربكة بالنسبة للمحامين البشر، لكنَّها أكثر إرباكاً بالنسبة للنماذج اللغوية الحاسوبية.

عنصرية من نوع جديد

تقول هانا روز كيرك، باحثة الدكتوراه في "معهد أكسفورد للإنترنت"، إن بعض هذه الخوارزميات يتمُّ تجربتها على قواعد بيانات تضم القليل من الرموز التعبيرية. ومن ثم؛ فإن هذه النماذج تعامل الرموز التعبيرية كأحرف جديدة، مما يعني أن الخوارزميات يجب أن تبدأ من الصفر في تحليل مغزاها، بناءً على السياق الذي تم استخدامها فيه.

كذلك، تقول لوسي فاسرمان، كبيرة مهندسي البرمجيات في "جيغسو" (Jigsaw) التابعة لشركة "غوغل"، التي تطوِّر الخوارزميات للإبلاغ عن الإساءات عبر الإنترنت: "إنَّه اتجاه ناشئ جديد، لذلك لا يدركه الناس بشكل كبير، كما أن النماذج متخلفة عن البشر". وأضافت أن ما يهم هو: "مدى تكرار ظهور تلك الخوارزميات في بيانات الاختبار والتدريب".

يُذكر أن فريق عمل فاسرمان يعمل على مشروعين جديدين من شأنهما تحسين التحليل المتعلق بالرموز التعبيرية، أحدهما ينطوي على استخراج كميات هائلة من البيانات لفهم الاتجاهات في اللغة، والآخر يراعي عوامل عدم اليقين.

ووفقاً للنقاد؛ فقد استشهدت شركات التكنولوجيا بالتعقيد التقني، في حين تخفي حلولاً أكثر وضوحاً للمشكلة، إذ يمكنها التخلص من العديد من الإساءات الأكثر شيوعاً.

كوريا الجنوبية تغرّم "غوغل" بسبب سوء استخدام سيطرتها على الهواتف الذكية

الدور البشري

تعليقاً على هذا الأمر، يقول ماثيو ويليامز، مدير "هيت لاب" (HateLab) في "جامعة كارديف": "معظم الاستخدام ليس غامضاً. نحن لسنا بحاجة إلى ذكاء اصطناعي أفضل للمضي قدماً فحسب؛ بل نحتاج أيضاً إلى فرق إشراف أكبر وأفضل".

في الوقت نفسه، لم يحظَ استخدام الرموز التعبيرية بالتحليل الكافي بالنسبة لأهميته في التواصل الحديث عبر الإنترنت، على حدِّ قول كيرك، من "معهد أكسفورد للإنترنت".

واستطاعت كيرك إيجاد طريقها لدراسة الصور بعد عمل سابق على الصور المنتشرة على الإنترنت، قائلةً إنَّ "الشيء الذي وجدناه محيّراً حقاً كباحثين هو، لماذا لا تقدِّم "تويتر"، و"إنستغرام"، و"غوغل" حلولاً أفضل في التعامل مع الكراهية القائمة على الرموز التعبيرية؟".

وبعد أن شعرت بالإحباط بسبب أداء الخوارزميات الضعيف في اكتشاف التهديدات الكامنة خلف استخدام الرموز التعبيرية، بنت كيرك نموذجها الخاص، فقد لجأت لمساعدة البشر في تعليم الخوارزميات، وفهم الرموز التعبيرية، بدلاً من ترك البرمجيات للتعلُّم وحدها. وبالتالي؛ كانت النتيجة أدق بكثير من عمل الخوارزميات الأصلية التي طوَّرتها "جيغسو" وغيرها من الأكاديميين، التي اختبرها فريق عملها، بحسب ما قالت كيرك.

وعلَّقت على الأمر، قائلة: "لقد أثبتنا، بجهد منخفض وأمثلة قليلة نسبياً، إمكانية تعليم الرموز التعبيرية بشكل فعَّال جداً".

وسائل التواصل الاجتماعي

كان دمج البشر مع التكنولوجيا، إلى جانب تبسيط نهج التواصل الحديث، يمثِّل أيضاً خلطة رابحة بالنسبة للشركة الناشئة "ريسبوندولجي" (Respondology) الواقعة في مدينة بولدر بولاية كولورادو، التي تقدِّم أدواتها الخاصة بالفحص للعبارات المسيئة عبر اتحاد الألعاب الرياضية "ناسكار"، والرابطة الوطنية لكرة السلة، والدوري الوطني لكرة القدم الأمريكية. وتعمل الشركة مع فرق "ديترويت بيستونز"، و "دنفر برونكوز"، وكبار فرق كرة القدم الإنجليزية.

كما تسمح الشركة للفرق الرياضية بإخفاء التعليقات التي تتضمَّن بعض العبارات والرموز التعبيرية، بدلاً من الاعتماد على الخوارزميات المعقَّدة لفعل ذلك.

يقول إريك سوين، رئيس "ريسبوندولجي": "كل عميل يأتي إلينا، خاصة أولئك العملاء من الرياضيين، من بطولات الدوري والفرق والنوادي والرياضيين، يسألون عن الرموز التعبيرية في المحادثة الأولى". وأضاف: "أنت لست بحاجة تقريباً إلى تدريب برنامجك على الذكاء الاصطناعي لفعل ذلك".

كذلك، أقر "فيسبوك" بأنَّه أخبر المستخدمين بشكل خاطئ أنَّ استخدام بعض الرموز التعبيرية خلال بطولة أمم أوروبا هذا الصيف لن تنتهك سياساته، في حين أنَّها كانت تنتهكها في الحقيقة. ثم قال موقع التواصل الاجتماعي، إنَّه بدأ تلقائياً في حظر بعض الرموز التعبيرية المرتبطة بالإساءات، فضلاً عن أنَّه يتيح للمستخدمين تحديد الرموز التعبيرية التي لا يريدون رؤيتها.

في الوقت نفسه، قال موقع "تويتر" في بيان، إنَّ قواعده ضد المنشورات المسيئة تشمل الصور الحاملة للكراهية، والرموز التعبيرية.

السلامة عبر الإنترنت

ربما لا تكون هذه الإجراءات كافية لإقناع النقاد، فقد أصبح الرياضيون المحترفون الذين يتحدَّثون صراحة عن الإساءات العنصرية التي يواجهونها عاملاً آخر في التوجه الأوسع نطاقاً نحو التنظيم الحكومي المحتمل لوسائل التواصل الاجتماعي.

ويقول داميان كولينز، عضو البرلمان البريطاني الذي يقود العمل على مشروع قانون السلامة عبر الإنترنت: "شعرنا جميعاً بالأسف والندم، لكنَّهم لم يفعلوا أي شيء، ولهذا السبب يتعيَّن علينا سن تشريع". وأضاف: "إذا كان بإمكان الأشخاص المهتمين بإنشاء ذلك المحتوى الضار أنْ يروا أنَّ المنصات غير فعَّالة بشكل خاص في تحديد استخدام الرموز التعبيرية المسيئة؛ فسنرى المزيد من الرموز المستخدمة بهذا الشكل".