Article - YouTube’s Violation of Palestinian Digital Rights: What Needs to be Done

ملخص تنفيذي

يشكوا الفلسطينيون من تزايد انتهاك حقوقهم الرقمية في منصات التواصل الاجتماعي، حيث وثَّقت منظمة صدى سوشال المدافعة عن حقوق الفلسطينيين الرقمية 1000 انتهاك في العام 2019 شملت حذف الصفحات العامة، وإغلاق الحسابات، وإزالة المنشورات، وتقييد إمكانية الوصول. يتناول هذا الموجز السياساتي إرشادات المنتدى الإشكالية التي يطبقها اليوتيوب، وطريقته في إدارة محتوى التواصل الاجتماعي، وانتهاكه حقوقَ الفلسطينيين الرقمية من خلال فرض الرقابة المفرطة.

ويستند الموجز في دراسته لسياسات الرقابة الجدلية المتبعة في اليوتيوب إلى بحث أجراه المركز العربي لتطوير الإعلام الاجتماعي (حملة) وإلى مقابلات مع صحفيين ومدافعين فلسطينيين عن حقوق الإنسان ومع منظمات حقوقية دولية. ويناقش تحديدًا التعريفات المبهمة والإشكالية لمصطلحات معينة ترد في إرشادات المنتدى لدى اليوتيوب وتُستخدم كذريعة لحذف المحتوى الفلسطيني، ويناقش أيضًا الممارسات التمييزية مثل التمييز اللغوي والتمييز المكاني. ويقترح توصيات لتصويب هذا الوضع.

يُعد اليوتيوب في الشرق الأوسط أحد أبرز المنصات المستخدمة في نشر المحتوى الرقمي، حيث زاد عدد مستخدميه في الشرق الأوسط بنسبة 160% في الفترة 2017-2019، وأكثر من مليون مشترك. غير أننا لا نعرف سوى القليل عن عمل اليوتيوب في تطبيق إرشادات المنتدى وتوظيف تكنولوجيا الذكاء الاصطناعي المستخدمة في استهداف محتوى بعينه.

يُطبق اليوتيوب أربع إرشادات وسياسات رئيسية لمراقبة المحتوى وهي سياسات الخداع والمحتوى غير المرغوب فيه، والمواضيع الحساسة، والمحتوى العنيف أو الخطير، والبضائع الخاضعة للرقابة. ومع ذلك، يقول مستخدمون كُثر إن الموقعَ يحذف فيديوهاتهم دون أن تُخالف أيًا من هذه الإرشادات، ما يدلُّ على أن اليوتيوب ليس مُحاسبًا على وضوح إرشاداته ومدى إنصافها، وأنه قادرٌ على تخيُّر ما يشاء من إرشاداته الأربع لتبرير حذف المحتوى.

تؤكد منظمة المادة 19، وهي منظمة حقوق إنسان دولية، أن سياسات وإرشادات المنتدى المتبعة لدى اليوتيوب لا ترقى لمستوى المعايير القانونية الدولية الخاصة بحرية التعبير. وحثت الموقع في بيان أصدرته سنة 2018 على التزام الشفافية عند تطبيق إرشاداته وذلك بتقديم أمثلة ودراسات حالة وشروحات وافية لِما يعدُّه محتوى "عنيفًا" و"جارحًا" و"مسيئًا"، بما في ذلك "خطاب الكراهية" والهجمات "المؤذية".

يشرح عضو في منظمة الشاهد لحقوق الإنسان كيف أن تكنولوجيا الذكاء الاصطناعي الإشكالية المستخدمة لدى اليوتيوب تحذف المحتوى المهم لتحقيقات حقوق الإنسان لأنها تصنفه خطأً كمحتوى "عنيف". وفي إحدى الحالات، يقول الصحفي والمصور السوري، هادي الخطيب، إنه جمع 1.5 مليون فيديو على مدار سنوات الثورة السورية يوثق مئات الهجمات الكيماوية التي شنها النظام السوري، ومع ذلك أفاد الخطيب أنه في عام 2018 تم حذف وإخفاء أكثر من 200,000 مقطع فيديو من اليوتيوب والتي يمكن الاعتماد عليها كدليل في محاكمة مرتكبي جرائم الحرب.

هذا تحديدًا ما يتعرض له محتوى المستخدمين الفلسطينيين. والأدهى من ذلك أن اليوتيوب قد صمم ذكاءه الاصطناعي ليكون منحازًا إلى جانب المحتوى الإسرائيلي، بغض النظر عن العنف الذي يروجه. فيسمحُ، مثلًا، لأُورين جولي، عارضة البنادق الإسرائيلية بأن تنشر محتواها الذي يروج للأسلحة النارية بالرغم من مخالفته الواضحة لسياسة الأسلحة النارية المعتمدة لدى اليوتيوب.

يقول المدافعون الفلسطينيون عن حقوق الإنسان إن اليوتيوب يُمارس التمييز ضد محتواهم بحجة أنه "عنيف". ومن هؤلاء الصحفي الفلسطيني بلال التميمي الذي يقول إن الموقع انتهك حقَّه في نشر مقطع فيديو يظهر جنودًا إسرائيليين يسيئون معاملة صبي يبلغ من العمر 12 عامًا في قرية النبي صالح لأن المقطع كان "عنيفًا". ولاحقًا قام التميمي بتضمين الفيديو المحذوف في فيديو آخر أطول لتجاوز عقبة الذكاء الاصطناعي، وهو أسلوب يستخدمه للإفلات من ممارسة إزالة المحتوى.

وعلى وجه التحديد، يُفيد المدافعون الفلسطينيون عن حقوق الإنسان بتعرُّضِ محتواهم على اليوتيوب إلى تمييز لغوي ومكاني، أي أن اليوتيوب يدرِّب خوارزميات الذكاء الاصطناعي على استهداف الفيديوهات الناطقة باللغة العربية أكثر من غيرها، ويصمم تلك الخوارزميات كذلك لرصد المحتوى الناشئ تحديدًا من الضفة الغربية وقطاع غزة. وكلما زاد عدد المشاهدات التي يحظى بها المحتوى الفلسطيني، زادت احتمالية تعرضه للرقابة، والحجب، وقطع العائد المالي، والحذف.

ولمواجهة هذه الممارسات التمييزية وحماية الناشطين والصحفيين والمدافعين عن حقوق الإنسان الفلسطينيين على اليوتيوب، ينبغي تنفيذ التوصيات التالية:

  • يجب على إرشادات المنتدى في اليوتيوب أن تحترم القوانين والمعايير المرعية في مجال حقوق الإنسان، ولا بد من ترجمة هذه الإرشادات إلى لغات متعددة بما فيها العربية.
  • ينبغي لطرف ثالث أن يكفل بأن خاصية الذكاء الاصطناعي لا تُفرِط في تمحيص المحتوى الفلسطيني ولا تميّزُ ضده. وينبغي للطرف الثالث أن يدعم المستخدمين في الطعن في قرارات حذف محتواهم.
  • ينبغي لموقع اليوتيوب أن ينشر تقارير شفافة عن العمليات التي يتبعها في تقييد محتوى المستخدمين.  وينبغي أن يبين بوضوح كيف يمكن للمستخدم أن يطعن في قرارات الحذف وتقييد المحتوى.
  • ينبغي للسلطة الفلسطينية أن تساندَ الدعاوى القضائية التي يرفعها الفلسطينيون مستخدمو اليوتيوب ضد الموقع وضد غيره من منصات التواصل الاجتماعي.
  • ينبغي لمنظمات المجتمع المدني الفلسطيني أن تساهم في نشر الوعي بالحقوق الرقمية.
  • ينبغي للناشطين والصحفيين والمدافعين عن حقوق الإنسان أن يتبادلوا الخبرات والاستراتيجيات للالتفاف على التمييز اللغوي والمكاني، وغيره من أشكال التمييز. وينبغي أن يعملوا أيضًا على تطوير تقنيات تُبطل تحيز تكنولوجيا الذكاء الاصطناعي المستخدمة في موقع اليوتيوب.

تزايد في السنوات الأخيرة عددُ الفلسطينيين الذي يَشكون من منصات التواصل الاجتماعي المهيمنة وعلى رأسها فيسبوك، واتساب، تويتر، ويوتيوب بسبب قمعها لحريتهم في التعبير، حيث وثَّقت منظمة صدى سوشال المدافعة عن حقوق الفلسطينيين الرقمية 1000 انتهاك في العام 2019 شملت حذف الصفحات العامة، وإغلاق الحسابات، وإزالة المنشورات، وتقييد إمكانية الوصول. غير أننا لا نعرف إلا القليل عن سياسات اليوتيوب وممارساته إزاء المحتوى الرقمي الفلسطيني، وعن مدى انسجامها مع قوانين حقوق الإنسان عمومًا، وكيفية تطبيقها على المحتوى الفلسطيني.1

يستند هذا الموجز السياساتي إلى بحث أجراه المركز العربي لتطوير الإعلام الاجتماعي (حملة) حول سياسة موقع اليوتيوب وإرشادات المنتدى الخاصة بمستخدميه، وممارساته في إدارة محتوى التواصل الاجتماعي، وانتهاكه لحقوق الفلسطينيين الرقمية من خلال الرقابة المفرطة. ويستند التحليل إلى مقابلات مع صحفيين ومدافعين حقوقيين وناشطين فلسطينيين، ومع منظمات حقوق إنسان دولية مثل منظمتي “الشاهد” و”المادة 19″.

ينقاش الموجز المخرجات الرئيسية من المقابلات، مثل التعريف المُبهم والإشكالي لمصطلح “المحتوى العنيف” المستخدم في تقييد نشر المحتوى الفلسطيني على اليوتيوب، بالإضافة إلى ممارسات اليوتيوب التمييزية مثل التمييز اللغوي والتمييز المكاني.ويقترح الموجز في خاتمته توصيات على اليوتيوب، ومنظمات المجتمع المدني، وصانعي السياسات، والناشطين والمدافعين في مجال حقوق الإنسان، ومستخدمي وسائل التواصل الاجتماعي تهدف إلى حماية حقوق الفلسطينيين الرقمية.

“هذا الفيديو يخالف إرشادات المنتدى” 

أُنشئ موقع اليوتيوب في شباط/فبراير 2005 كمنصة أمريكية لنشر الفيديوهات، واشترته غوغل في تشرين الثاني/نوفمبر 2006 لقاء 1.65 مليار دولار. وفي 2019، بلغت عوائد الشركة 136.819 مليار دولار، وباتت من أكثر الشركات دخلًا في العالم. وفي كل دقيقة، يُنشر على اليوتيوب ما يعادل 500 ساعة تقريبًا من الفيديوهات. وقد ازداد عدد القنوات في الموقع سنة 2019 بنسبة 27% حتى تجاوز 37 مليون قناة. ومع ازدياد شعبية المحتوى المرئي وتأثيره، أضحى اليوتيوب أحد أهم المنصات في مجال نشر المحتوى الرقمي عالميًا. وزاد عدد مستخدميه في الشرق الأوسط بنسبة 160% في الفترة 2017-2019، وثمة أكثر من 200 قناة على اليوتيوب في المنطقة تضم ما يزيد على مليون مشترك.على الرغم من شعبية اليوتيوب، إلا أن الكثيرين ينتقدون سياساته وممارساته في إدارة المحتوى، ولا سيما خوارزمياته التي تساعد في ترويج الفيديوهات التي تنشر نظريات المؤامرة والأكاذيب، والفيديوهات التي تستهدف الأطفال في ظاهرها ولكنها تحمل في ثناياها عنفًا و/أو إيحاءات جنسية.وعلى المستوى الإقليمي، وخاصة في سوريا، وُثِّقت الكثير من الانتهاكات التي مارسها اليوتيوب على الحقوق الرقمية. فقد جمع الصحفي والمصور السوري، هادي الخطيب، على مدى عدة سنوات خلال الثورة السورية 1.5 مليون فيديو يوثق انتهاكات حقوق الإنسان في البلاد، بما في ذلك لقاط لمئات الهجمات الكيماوية التي شنها النظام السوري، والتي هي أدلة من شأنها أن تكون حاسمة لمحاكمة مرتكبي جرائم الحرب. ومع ذلك، أفاد الخطيب أنه في عام 2018 تم حذف وإخفاء أكثر من  200,000فيديو، أي ما يعادل 10% من مقاطع الفيديو التي حمَّلها على اليوتيوب، مع أن حذف مقاطع الفيديو في أوقات الأزمات والحروب له تداعيات خطيرة، وقد يتسبب في محو أدلة مهمة للمحاكمات التي تنعقد لاحقًا.

قوات الأمن الإسرائيلية والفلسطينية اعتقلت 800 فلسطيني بإستخدام برمجة الذكاء الاصطناعي بسبب منشوراتهم على وسائل التواصل الاجتماعي Share on X

يتعهد اليوتيوب في رسالته “بمنح جميع الأشخاص حرية التعبير والتواصل مع العالم أجمع،” غير أن الواقع ليس دائمًا كذلك، إذ لا يفتؤ الموقع يُصنف بعض الفيديوهات بأنها مخالفة لإرشادات المنتدى دون تقديم أي تبريرات. يُطبق اليوتيوب أربع إرشادات وسياسات رئيسية تندرج تحت باب إرشادات المنتدى وهي: سياسات الخداع والمحتوى غير المرغوب فيه، والمواضيع الحساسة، والمحتوى العنيف أو الخطير، والبضائع الخاضعة للرقابة. ومع ذلك، يتهم مستخدمون كُثر الموقعَ بحذف فيديوهاتهم دون مخالفة واضحة لأي من هذه الإرشادات.

تثير هذه الممارسة إشكالات كبيرة حين يتعلق الأمر بحقوق المستخدمين الرقمية. فهي تدلُّ في المقام الأول على أن اليوتيوب ليس مُحاسبًا على وضوح إرشاداته ومدى إنصافها، وأنه قادرٌ على تخيُّر ما يشاء من إرشاداته الأربع لتبرير حذف المحتوى. تقول باربرا دوكالوفا، الناشطة الرئيسية في منظمة المادة 19، إن اليوتيوب قد يستخدم أيًا من سياساته المبهمة لإزالة المحتوى: “إذا لم يُحذف الفيديو الخاص بك بموجب سياسة ’المحتوى العنيف أو القاسي‘، فيمكن أن يُحذف بموجب سياسة ’المحتوى الضار أو الخطير.‘”  

وتضيف غابريل غيلمين، وهي عضوة أخرى في منظمة المادة 19، بأن موقع اليوتيوب يُعرِّف بعض المصطلحات تعريفًا مبهمًا: “مصطلح الإرهاب، مثلًا، له تعريف آخر وفقًا ليوتيوب، يغدو بموجبه بعض المدافعين عن حقوق الإنسان الذين عملنا معهم إرهابيين.” ولهذا أوصت منظمة المادة 19 في أيلول/سبتمبر 2018 بأن يوائم اليوتيوب تعريف الإرهاب المعتمد لديه مع التعريف الذي اقترحه مقرر الأمم المتحدة المعني بمكافحة الإرهاب وحقوق الإنسان. وأكدت المنظمة أيضًا أن سياسات وإرشادات المنتدى المتبعة لدى اليوتيوب لا ترقى لمستوى المعايير القانونية الدولية الخاصة بحرية التعبير. وحثته المنظمة، في بيان أصدرته سنة 2018، على التزام الشفافية عند تطبيق إرشاداته في الممارسة العملية وذلك بتقديم أمثلة مفصَّلة ودراسات حالة وشروحات وافية لِما يعدُّه محتوى “عنيفًا” و”جارحًا” و”مسيئًا”، بما في ذلك “خطاب الكراهية” والهجمات “المؤذية”.

ثانيًا، تشير المقابلات التي أُجريت في سياق هذه الدراسة إلى أن اليوتيوب يُبقي على محتوى إشكالي للغاية ويدافع عنه، بينما يستمر بلا هوادة في حذف المحتوى الذي يراه غير ملائم. ففي حزيران/يونيو 2019، قرر اليوتيوب بأن جملةً من رسائل الكراهية المعادية للمثليين والموجهة ضد المنتج الأمريكي، كارلوس مازا، لم تخالف شروطه. وفي آب/أغسطس 2019، قامت مجموعة من منشئي المحتوى على اليوتيوب من مجتمع الميم2 في ولاية كاليفورنيا برفع دعوى قضائية ضد اليوتيوب تزعم أن خوارزمية الموقع تميز ضد المحتوى الذي ينشره أفراد هذا المجتمع حين تستهدف أدوات إدارة المحتوى الآلية والمراجعون البشريون – ظلمًا – القنوات التي تحتوي عناوينها على كلمات من قبيل “مثلي” أو “مزدوج الميل الجنسي” أو “متحول جنسيًا”.

وفي أيار/مايو 2020، اتُهمت خاصية الذكاء الاصطناعي المستخدمة في اليوتيوب بحذف تعليقات احتوت على عبارات معينة باللغة الصينية تُعتبر منتقدة للحزب الشيوعي الحاكم في البلاد حذفًا تلقائيًا في غضون 15 ثانية من كتابتها تعقيبًا على الفيديوهات أو قنوات البث المباشر. وتكشف هذه الحالة كيف أن اليوتيوب قد صمَّم عملية صنع القرار الآلي (برمجة الذكاء الاصطناعي) لإشارة وإزالة محتوى معين لأبعاد سياسية، بغض النظر عن السياق.

يبرر اليوتيوب استخدامه الذكاءَ الاصطناعي بأنه أكثر فاعلية في الكشف عن المحتوى غير الملائم، ولا سيما أن العدد الهائل من مقاطع الفيديو المُحمَّلة كل دقيقة على الموقع يجعل مراجعتها يدويًا أمرًا مستحيلًا. ولكن تقول ضياء كيالي من منظمة الشاهد أن بالرغم من أن “الحواسيب قد تكون فعالة في الكشف عن المحتوى العنيف، إلا انها ليست دقيقة مثل البشر، فهي لا تُجيد التفريق بين الفيديوهات المروجة لداعش وبين الفيديوهات التي تتضمن أدلةً مهمة توثق انتهاكات حقوق الإنسان.” وبالتالي “أصبحت سياسة اليوتيوب في إدارة المحتوى سيفًا ذا حدين، وصار يقع في شراكها محتوى حقوق الإنسان المهم.”

ترويج المحتوى الإسرائيلي، وإسكات الفلسطينيين

بات التعاون القائم بين وحدات الأمن الإسرائيلية وبين منصات التواصل الاجتماعي مثل الفيسبوك وواتساب وتويتر ظاهرةً تستأثر بتوثيق متزايد،ولا سيما أن مكتب المدعي العام الإسرائيلي يدير دون سندٍ قانوني “وحدةً إلكترونية” تمارس الرقابة على المحتوى الفلسطيني وتتابع حسابات الفلسطينيين على وسائل التواصل الاجتماعي.فضلًا على أن قوات الأمن الإسرائيلية والفلسطينية اعتقلت 800 فلسطيني بإستخدام برمجة الذكاء الاصطناعي بسبب منشوراتهم على وسائل التواصل الاجتماعي، وبخاصة الفيسبوك. غير أننا لا نعرف سوى القليل عن ميول اليوتيوب المناصِرة لإسرائيل.لقد وجد الباحثون أن الكثير من الفيديوهات عن الجيش الإسرائيلي لا تزال تُعرض على اليوتيوب بالرغم من احتفائها الواضح بالعسكرة والعنف. إن إتاحة المجال لتطوير المحتوى الإسرائيلي الذي يروج دون لبس لاستخدام القوة المميتة ويحتفي بها صار عاديًا لدرجة التسويق له على اليوتيوب، رغم معايير المنتدى التي تقيد صورَ العنف، ورغم سياسة الأسلحة النارية التي يطبقها، والتي تنص على أنه “لا يُسمح بنشر المحتوى على اليوتيوب إذا كان يهدف إلى بيع الأسلحة النارية أو تعليم المشاهدين كيفية صنع الأسلحة النارية والذخيرة وبعض المحلقات أو تقديم الإرشادات حول كيفية تركيب هذه الملحقات.” بالرغم من هذه السياسة، يروج اليوتيوب “ألفا غن موديلز”، وهي شركة تديرها الإسرائيلية أورين جولي “عارضة البنادق التي يتابعها على الإنستغرام 440,000 متابع، ولها قناة مشهورة على اليوتيوب اسمها “أنا ملكة البنادق” يتابعها 2,870 مشترك. وهي تصف نفسها على حسابها على الإنستغرام بأنها من المؤثرين، ومروِّجة لشركات الأسلحة، في مخالفة صريحة لسياسة الأسلحة النارية المعتمدة في اليوتيوب. ومع ذلك، لا يزال اليوتيوب يروج محتواها.ثمة مثال آخر لخطاب الكراهية والمضايقة، يكشف ازدواجية معايير اليوتيوب، ويتمثل في الفيديو الذي تروجه ماركة الملابس الإسرائيلية، هوديز، والذي تظهر فيه عارضة الأزياء الإسرائيلية، بار رافايلي، وهي تخلع النقاب قبل أن تعرض مجموعة من الثياب المختلفة. ويختتم هذا الفيديو المعادي للإسلام بشعار “الحرية أساسية”.وقد نشرت رافايلي هذا الفيديو الممتد لنصف دقيقة على صفحتها على الفيسبوك حيث يتابعها ثلاثة ملايين متابع، ولا يزال الفيديو معروضًا على اليوتيوب بالرغم من انتقادات الناشطين.يُعد اليوتيوب منصةً مهمة جدًا للناشطين والمدافعين الفلسطينيين عن حقوق الإنسان الذي يوثقون الانتهاكات الإسرائيلية وينشرونها على اليوتيوب أملًا في نشر الوعي ومحاسبة النظام الإسرائيلي. غير أن المحتوى الذي ينشره العديد من المدافعين عن حقوق الإنسان يُحذَف من الموقع، الأمر الذي يضر الجهود الرامية إلى توثيق الانتهاكات الإسرائيلية بحق الأطفال وذوي الإعاقات والفلسطينيين عمومًا.

الرقابة الآلية في اليوتيوب مصممة...لتكون أكثر تمحيصًا وتدقيقًا على المحتوى الصادر من الضفة الغربية وغزة Share on X

أظهرت المقابلات التي أُجريت مع مدافعين فلسطينيين عن حقوق الإنسان أن اليوتيوب يحذف محتواهم بحجة أنه “عنيف”. ووفقًا للصحفي الفلسطيني بلال التميمي، انتهك موقع يوتيوب حقه في نشر مقطع فيديو يظهر جنودًا إسرائيليين يسيئون معاملة صبي يبلغ من العمر 12 عامًا في قرية النبي صالح. وقال متأسفًا: “اليوتيوب يفهم ما ينتهك شروطه وأحكامه، وليس ما ينتهك حقوقنا نحن كفلسطينيين… ما حاجتي باليوتيوب إذن إنْ لم أتمكن من الإبلاغ عن الانتهاكات التي يواجهها الفلسطينيون وأطفال الفلسطينيين يوميًا؟” ولاحقًا قام التميمي بتضمين الفيديو المحذوف في فيديو آخر أطول وأفلتَ بذلك من الذكاء الاصطناعي، وهو أسلوب يستخدمه للالتفاف على ممارسة إزالة المحتوى.

وعلى غراره، قال رئيس تحرير شبكة قدس الإخبارية، إياد الرفاعي، في مقابلةٍ معه: “يتباين مفهوم العنف عند اليوتيوب، الذي يتورع، مثلًا، عن نشر فيديو لطفل فلسطيني صغير وهو يُقتَل على يد الجيش الإسرائيلي، ولكنه لا يُمانع في الترويج للعسكرة الإسرائيلية وفيديوهات أطفال إسرائيليين وهم يتدربون على إطلاق النار.” ومن الفيديوهات التي أشار إليها الرفاعي فيديو يظهر أطفال إسرائيليين يتعلّمون كيفية حمل السلاح، بالإضافة إلى قنوات إسرائيلية أخرى على اليوتيوب تحتفي بالعنف العسكري الإسرائيلي.

الذكاء الاصطناعي مُصمم للتمييز

أفاد المدافعون الفلسطينيون عن حقوق الإنسان أثناء المقابلات أن اليوتيوب يستهدف محتواهم بالتمييز اللغوي والمكاني، حيث فيديوهاتهم الناطقة بالعربية والتي تحمل عناوين أو ترجمات عربية كانت أكثر عرضةً لرقابة اليوتيوب مقارنةً بغيرها من اللغات. وبالإضافة إلى التمييز اللغوي، يوضح الناشط والصحفي الفلسطيني معاذ حامد أن الرقابة الآلية في اليوتيوب مصممة ومُفعَّلة لتكون أكثر تمحيصًا وتدقيقًا على المحتوى الصادر من الضفة الغربية وغزة – والذي يُعرف بالتمييز المكاني.ويعلِّق حامد، وهو ناشط على اليوتيوب، على تجربته مع التمييز اللغوي، فيدير حامد قناته الخاصة به على اليوتيوب المسماة “Palestine 27K”، والتي يتابعها أكثر من 10,500 مشترك وتعرض 897 فيديو. أوضح حامد أنه تم الإبلاغ عن العديد من فيديوهاته وحذفها، والسبب الوحيد المحتمل هو أنها تضمنت محتوى باللغة العربية، وعلى حد تعبيره: “بطريقة أو بأخرى، خضعت فيديوهاتنا المعنونة أو المترجمة بالعربية إلى مراقبة أكثر من إدارة اليوتيوب.”وأضاف أنه استطاع فهم طريقة عمل اليوتيوب في التمييز ضد المحتوى العربي، واستطاع بالتالي أن يُفلِتَ منها: 

لقد أصبحتُ أكثرَ خبرةً بسياسات اليوتيوب وأساليبه الرقابية […] ومع الوقت، طورت مسردًا بالكلمات المفتاحية التي تثير رقابة اليوتيوب مثل حماس والجهاد الإسلامي وحزب الله وما شابهها. […] وهكذا لجأت إلى طمس بعض اللقطات في الفيديو مثل أعلام الأحزاب السياسية.

يبين حامد أن التمييز المكاني الذي يمارسه اليوتيوب على الفلسطينيين صادمٌ كما يظهر من تجربته البسيطة التي أجراها حين كان يقطن في الضفة الغربية: “أرسلت مقطع الفيديو نفسه الذي حذفه اليوتيوب من حسابي إلى أحد أصدقائي في أوروبا […] ولمَّا نشره صديقي من إحدى الدول الأوروبية لم يعترضه اليوتيوب.”وفقًا لمعاذ حامد وسامر نزال، الصحفي الفلسطيني والناشط على اليوتيوب المقيم في رام الله، فإن الذكاء الاصطناعي الذي يستخدمه اليوتيوب يُمحِّص المحتوى الفلسطيني تمحيصًا شديدًا ولا سيما حين تزيد مشاهداته ويزيد تأثيره.  فقد لاحظا أنه لمَّا حصدت فيديوهاتهما عددًا محددًا من المشاهدات (فيديو عن صبي فلسطيني يقذف الحجارة على جندي إسرائيلي، وفيديو يصور عهد التميمي في قرية النبي صالح وهي تُطالب الجنود الإسرائيليين بإخلاء سبيل أخيها)، بدأ موقع يوتيوب يتعقب فيديوهاتهما الجديدة والقديمة ولاحظا حينها زيادةً في عددِ الإنذارات التي يتلقيانها وفي وتيرةِ حذف فيديوهاتهما وحتى وقف العائد المادي عنهما كعقوبة. وبعبارة أخرى، يُعاقب مستخدمي اليوتيوب بحرمانهم حقَّهم في عوائد الإعلانات التي يجنوها بفضل محتواهم.ليس من الواضح كيف يدير الذكاء الاصطناعي المحتوى على اليوتيوب، أو كيف يوظَّف القائمون عليه، أو كيف يُطبِّق الرقابةَ الرقمية ضمن سياقات محددة. وفي هذا الصدد، توضِّح باربرا دوكالوفا من منظمة المادة 19: 

لا نعرف سوى القليل عن طريقة معالجة البيانات، وكيفية تطوير الخوارزميات […] لأن اليوتيوب لا يريد أن يكشف هذه المعلومات […] كما أننا لا نعرف سوى القليل جدًا عن موظفي يوتيوب، كيف يتم تدريبهم؟ وهل يفقهون شيئًا عن السياق؟ وكيف تسير عملية المراجعة؟

ولكي نكتسب فهمًا أفضل لكيفية تصميم الذكاء الاصطناعي بحيث يمارس التمييز بأشكال مختلفة، مثل التمييز اللغوي والمكاني، لا بد من توضيح دور الذكاء الاصطناعي في عملية إدارة المحتوى على الإنترنت. يُظهر الشكل أدناه كيف أن الذكاء الاصطناعي يزيد فاعلية الشركات من خلال إدارة المحتوى على الإنترنت. وتُبين الطرق الثلاث، الموضَّحة باللون الأخضر، المواضع التي يتسنى فيها تصميم خوارزميات الذكاء الاصطناعي وبرمجتها على العمل بطريقة تمييزية. ولكن كيف يحدث هذا التمييز بالضبط؟inline_44_https://al-shabaka.org/wp-content/uploads/2020/12/Picture1-1.pngأولاً، يسمح سير العمل للذكاء الاصطناعي المتحيز بتقييم محتوى المستخدم، مثل النصوص والصور والتسجيلات الصوتية ومقاطع الفيديو، لتحديد ما إذا كان ضارًا أم غير ضار، ويُسفِر ذلك تلقائيًا عن قرارٍ متحيز. تتم هذه العملية في “مرحلة ما قبل إدارة المحتوى”. ثانيًا، تتم برمجة الذكاء الاصطناعي بحيث تستحدث المزيد من بيانات التدريب تلقائيًا وتساعد مديري المحتوى البشريين، وهذا يُنتج المزيد من البيانات المنحازة والقرارات التمييزية. ولكن كيف يمكن تدريب خوارزميات الذكاء الاصطناعي على ممارسة التمييز؟هناك طُرق معينة تُستخدم في تدريب خوارزميات الذكاء الاصطناعي لتقوم بذلك، ومنها “المطابقة” (hash matching) التي تُستخدم لمقارنة بصمة الصورة بقاعدة بيانات الصور الضارة المعروفة، ومنها أيضًا أسلوب “ترشيح الكلمات المفتاحية” الذي يستخدم كلمات تدل على محتوى ضار محتمل للإبلاغ عن محتوى من أنواع معينة. ويمكن أن يتسبب المحتوى المتضمَّن في قاعدة بيانات المحتوى الضار في حدوث حالات تمييز واضحة. فمثلًا، تستخدم وحدات المخابرات الإسرائيلية خوارزميات لفرض الرقابة على عشرات الآلاف من حسابات الشبان الفلسطينيين على الفيسبوك من خلال التعرف إلى كلمات من قبيل الشهيد والدولة الصهيونية والقدس والأقصى، بالإضافة إلى صور الفلسطينيين الذين تقتلهم إسرائيل أو تأسرهم.

تستخدم وحدات المخابرات الإسرائيلية خوارزميات لفرض الرقابة على عشرات الآلاف من حسابات الشبان الفلسطينيين على الفيسبوك Share on X

أعربَ الناشطون ومنشئو المحتوى على موقع يوتيوب والصحفيون الذين قوبلوا في إطار هذه الدراسة عن شعورهم بالتمييز تجاههم واستبعادهم من قوة رقمية مهيمنة مثل اليوتيوب، وأعربوا عن غضبهم وخيبة أملهم وفقدانهم الحافز الذي يدفعهم إلى مواصلة نشاطهم على اليوتيوب. ومع ذلك، اقترح المشاركون أساليب مختلفة للإفلات من هذا التمييز ومواجهته، ومنها الاحتفاظ دائمًا بنسخ احتياطية من الفيديوهات، واستخدام منصات بديلة مثل فيميو وديلي موشن، وتطوير مسرد لغوي لمواجهة سياسات يوتيوب المتحيزة.

توصيات

إن سياسات وإرشادات المنتدى المطبقة لدى يوتيوب لا ترقى إلى مستوى المعايير والقوانين الدولية الكافلة لحرية التعبير، والتي ينبغي أن يحترمها اليوتيوب. وفضلاً على أن تعريفات اليوتيوب للمصطلحات الرئيسية المستخدمة في إرشادات المنتدى، مثل “المحتوى العنيف،” هي تعريفات مبهمة وإشكالية، وترقى لمستوى انتهاك فعلي لحقوق المستخدمين الرقمية، حيث ينتهك الذكاء الاصطناعي المستخدم في يوتيوب حقوق الفلسطينيين الرقمية من خلال تطبيق الخوارزميات المتحيزة ضد اللغة العربية والمحتوى العربي الناشئ من الضفة الغربية وغزة.ولمواجهة هذه الممارسات التمييزية وحماية الناشطين الفلسطينيين والصحفيين ومستخدمي اليوتيوب، ينبغي تنفيذ التوصيات التالية:

  • يجب على إرشادات المنتدى في اليوتيوب أن تحترم القوانين والمعايير المرعية في مجال حقوق الإنسان. وينبغي أن يكفل اليوتيوب للجميع فرصةً متساوية للوصول إلى المعلومات، وأن يوفر إرشادات المنتدى بوضوح تام وباللغات الرسمية المعتمدة في الأمم المتحدة بما فيها اللغة العربية.
  • ينبغي لطرف ثالث، كمنظمة رقابية مدنية من منظمات حقوق الإنسان و/أو منظمات الحقوق الرقمية، أن يكفل بألا تُفرط خاصية الذكاء الاصطناعي في تمحيص المحتوى الفلسطيني وألا تميّزُ ضده. ويجب على الطرف الثالث أيضًا أن يكون بمثابة هيئةٍ تحكيمية تدعم المستخدمين في احتجاجهم على حذف محتواهم والطعن في قرارات الحذف. ولا بد لمستخدمي اليوتيوب أن يمتلكوا حق الطعن في قرارات إزالة محتواهم.
  • ينبغي لموقع يوتيوب أن ينشر تقارير شفافةً عن حالات الحذف أو الحجب أو التقييد التي تطال محتوى المستخدمين الفلسطينيين وحساباتهم. ويجب أن ينشر عدد الطلبات الواردة بتقييد المحتوى، وعدد الطلبات الموافق عليها، وأسباب الموافقة عليها أو رفضها. ويجب أن يبين بوضوح كيف يمكن لأي شخص أن يطعن في القرار، وأن يحدد مهلةً زمنيةً معقولة للرد مع تحديد جهة اتصال يمكن التواصل معها للحصول على مزيد من المعلومات.
  • يجب على السلطة الفلسطينية أن تساند دعاوى الفلسطينيين القضائية ضد منصات التواصل الاجتماعي، ويجب أن تعين المحامين لمساعدتهم.
  • ينبغي لمنظمات المجتمع المدني الفلسطيني أن تساهم في نشر الوعي بالحقوق الرقمية من خلال تثقيف المستخدمين الفلسطينيين بشأن حقوقهم، وكيفية التعبير عن أنفسهم، ومقاومة الممارسات التمييزية.
  • ينبغي للناشطين والصحفيين والمدافعين عن حقوق الإنسان المشاركين في المنصات على الإنترنت أن يتبادلوا الخبرات والاستراتيجيات والأساليب التي يستخدمونها للالتفاف على التمييز اللغوي والمكاني، وغيره من الانتهاكات. وينبغي أن يعملوا أيضًا على تطوير تقنيات تُبطل تحيز الذكاء الاصطناعي المستخدم في اليوتيوب.
  1. لقراءة هذا النص باللغة الفرنسية، اضغط/ي هنا. تسعد الشبكة لتوفر هذه الترجمات وتشكر مدافعي حقوق الإنسان على هذا الجهد الدؤوب، وتؤكد على عدم مسؤوليتها عن أي اختلافات في المعنى في النص المترجم عن النص الأصلي.
  2. مجتمع الميم هو المصطلح المتعارف عليه في المجتمعات الناطقة باللغة العربية ويعتبر تصنيف للمثليات والمثليين ومزدوجي الميل الجنسي والمتحولين جنسيًا والكويريين وغيرهم.
د. أمل نزال هي أستاذة مساعدة في كلية إدارة الأعمال والاقتصاد في جامعة بيرزيت، فلسطين. حصلت على درجة الدكتوراه من جامعة إكستر حيث درست أهمية...
في هذه المقالة

أحدث المنشورات

 السياسة
منذ بداية المشروع الصهيوني في فلسطين، بُذلت جهودٌ كبيرة لتصوير كل مقاومة لمساعيه الاستعمارية بأنها غير عقلانية ومتناقضة مع التقدم والحداثة. وهذا الانقسام المصطنع عمدًا بين المستوطِن المزدهر والمتحضر وبين العربي الرجعي والرافض المعترضِ طريقَ التقدم حدَّد معالم التطورات بين الفلسطينيين والمستوطنين الصهاينة وباتَ لازمةً تتكرر على مر العقود القادمة. يتناول المحلل في الشبكة، فتحي نمر، في هذا التعقيب نشأة هذه اللازمة، ويبيّن طريقة استخدامها كسلاح لحرمان الفلسطينيين من حقوقهم الأساسية وشيطنة تطلعاتهم الجماعية إلى السيادة.
Al-Shabaka Fathi Nimer
فتحي نمر· 04 يونيو 2024
 السياسة
يطرح عمر شعبان في هذا التعقيب مَدخلًا للحوار الفلسطيني بشأن ما قد يلي وقف إطلاق النار، حيث يتناول في البداية خطاب "اليوم التالي" الراهن غير الفلسطيني، ثم يصف كيف تختلف عملية إعادة الإعمار اليوم عن العمليات التي سبقتها، ويعرض في الختام مقاربةً ممكنة للبدء في إعادة إعمار القطاع.
Al-Shabaka Omar Shaban
عمر شعبان· 19 مايو 2024
 السياسة
جاء طوفان الأقصى في لحظة ضعف تاريخي للحركة الطلابية بعد سنوات طويلة من تحييد الطلاب والملاحقة الأمنية من قبل الإحتلال والسلطة، فكيف يمكن لهذه الحركة أن تعيد بناء نفسها وتستعيد نشاطها في ظل التحديات غير المسبوقة التي تواجه الشعب الفلسطيني، وكيف يمكنها التعاون مع واستغلال الهبة الطلابية العارمة لنصرة القضية الفلسطينية حول العالم؟
Skip to content