تويتر تخصص مكافآت لمن يكتشف مواضع تحيز في خوارزمياتها

تخلت تويتر عن خوارزمية للصور اكتشفت أنها كانت متحيزة لصالح الأشخاص البيض (رويترز)
تخلت تويتر عن خوارزمية للصور اكتشفت أنها كانت متحيزة لصالح الأشخاص البيض (رويترز)

أعلنت شبكة تويتر أنها ستمنح مكافآت للمستخدمين والباحثين الذين يكتشفون مكامن تحيز محتملة في الخوارزميات الخاصة بمنصتها، مرتبطة على سبيل المثال بالتمييز الجنسي أو العنصري.

وهذه المسابقة هي الأولى في الموضوع وفق تويتر التي أشارت إلى أن جوائز قد تصل قيمتها إلى 3500 دولار.

هذه الفكرة مستنسخة من مسابقات تقدمها بعض المواقع الإلكترونية لاكتشاف ثغرات في أمن المعلوماتية، وفق ما أوضح المسؤولان في الشبكة رومان تشودري وجوتا ويليامز في رسالة.

وقال المسؤولان “من الصعب العثور على مكامن تحيز في نماذج التعلم الآلي وأحيانا تجد الشركات أنها انتهكت الأخلاقيات عن غير قصد بعد استخدام هذه النماذج، ونريد أن يتغير ذلك”.

وساعد الباحثون وقراصنة المعلوماتية على حد سواء مديري أمن تكنولوجيا المعلومات في النموذج المطور لاكتشاف الثغرات الأمنية على “إنشاء أفضل الممارسات لتحديد وإدارة الثغرات الأمنية من أجل حماية الجمهور”، بحسب رومان تشودري وجوتا ويليامز.

وأضاف المسؤولان في تويتر “نريد تطوير مجتمع مشابه” لاكتشاف تحيزات الخوارزميات.

وكانت تويتر قدمت في أبريل/ نيسان عملها الجاري لجعل الخوارزميات التي تعمل خلف كواليس المنصة أكثر مراعاة للأخلاقيات، وهي طريقة للرد على الانتقادات بشأن المخاطر المرتبطة بهذه التقنيات.

وقد تخلت الشبكة الاجتماعية بعد بضعة أسابيع عن خوارزمية للصور بعد أن اكتشفت أنها كانت متحيزة قليلاً لصالح  البيض الناس.

المصدر : الجزيرة مباشر + الفرنسية

حول هذه القصة

طلبت نقابة الصحفيين الفلسطينية إدراج مسؤولي تويتر وفيسبوك ويوتيوب ضمن التحقيقات الدولية في جرائم الحرب والجرائم ضد الإنسانية للاحتلال الإسرائيلي، حيث إنها باتت شريكة للاحتلال في الجرائم ضد الفلسطينيين

المزيد من منوعات
الأكثر قراءة