لا شك بأنك تستخدم محرك البحث غوغل عندما ترغب في البحث عن شيء ما على الإنترنت. لكن هل تعلم أن خوارزميات غوغل متحيزة؟ هذا ما كشفه تحقيق مبني على تحليل البيانات أجرته DW. فكيف ذلك؟

 عند البحث على سبيل المثال بالصور في غوغل عن عبارة "نساء برازيليات" أو "نساء تايلنديات" أو "نساء أوكرانيات"، ستظهر النتائج على الأرجح صوراً مرتبطة "بإيحاءات جنسية" أكثر منها عند البحث عن "نساء أمريكيات"، وفقاً لـ(برنامج تحليل الصور الخاص بغوغل).

وعند البحث عن "نساء ألمانيات"، من المحتمل أن تكون النتائج صوراً لسياسيات ورياضيات. لكن بالمقابل، فإن البحث عن نساء دومينيكانيات أو برازيليات سيؤدي إلى صور لشابات يرتدين ملابس السباحة أو ملابس تحمل إيحاءات جنسية. ومن الممكن إثبات صحة ذلك ببساطة وبالعين المجردة عبر البحث عن هذه "العبارات" على الرغم من أن تحليل النتائج قد يشكل صعوبة إلى حد ما.

ما الذي يجعل الصورة تحمل إيحاءات جنسية؟

الإجابة عن هذا السؤال تعتمد على مقاييس مختلفة وحساسة للتحيزات الثقافية والأخلاقية والاجتماعية. ومن أجل تصنيف آلاف الصور، اعتمد تحليل DW على البحث الآمن (Cloud Vision) الخاص بشركة غوغل، وهو برنامج رؤية حاسوبية تم تصميمه لاكتشاف الصور التي قد تحتوي على محتوى جنسي أو مسيئة بطريقة أو بأخرى. وتحديداً، تم استخدامه لوضع علامات على الصور التي من المحتمل أن تحمل " إيحاءات جنسية".

وفقاً لتعريف غوغل الخاص، قد تتضمن الصورة التي تم وضع علامة عليها (على سبيل المثال لا الحصر) الملابس الخفيفة أو الشفافة، حركات مثيرة أو لقطات مقربة لمناطق حساسة من الجسم."

في بلدان مثل جمهورية الدومينيكان والبرازيل، من المرجح أن تكون أكثر من 40 في المائة من الصور في نتائج البحث تحمل إيحاءات جنسية. وبالمقابل فإن هذا المعدل هو 4 في المائة بالنسبة للأمريكيات و 5 في المائة للنساء الألمانيات. ويعد استخدام خوارزميات الرؤية الحاسوبية مثيراً للجدل نظراً لأن هذا النوع من برامج الكمبيوتر يخضع للعديد من التحيزات والقيود الثقافية مثل القارئ البشري.

ترتبط الصور بالصفحات التي تسعى لـ (تشييء المرأة)

الصور التي تظهر على صفحة النتائج ترتبط أيضاً بالموقع الذي يعرضها. على الرغم من وجود صور غير جنسية بشكل علني، فإن العديد من هذه الصفحات تنشر محتوى يهدف إلى تسليع المرأة. علاوة على ذلك، لا تقتصر هذه النتائج "النمطية" عند البحث عن النساء في أمريكا اللاتينية فقط، بل أيضاً النساء من أوروبا الشرقية وجنوب شرق آسيا.

لتحديد عدد النتائج التي قادت إلى مثل هذه المواقع، تم فحص الوصف المختصر الذي يظهر أسفل الصورة مباشرة في معرض نتائج البحث، بحثاً عن كلمات مثل "الزواج" أو "المواعدة" أو "الجنس" أو "الأكثر إثارة".

تمت مراجعة جميع المواقع الإلكترونية التي تحتوي على عنوان واحد على الأقل من هذه الكلمات الرئيسية يدوياً للتأكد مما إذا كانت تعرض نوع المحتوى المتحيز جنسياً أو التي تعترض على المحتوى الذي تشير إليه هذه المصطلحات.

كشفت النتائج كيف تم تصنيف النساء من بعض البلدان كلياً تقريباً ضمن صورة نمطية تنطوي على "أدوات جنسية". من بين أول مائة نتيجة بحث تم عرضها بعد البحث عن الصور لعبارات "النساء الأوكرانيات"، تم ربط 61 مرة أخرى إلى هذه النوع من المحتوى. وقد تم العثور على نتائج مماثلة أيضاً عند البحث عن صور لنساء من دول مثل جمهورية التشيك ومولدوفا ورومانيا. وأيضاً في دول أمريكا الجنوبية وجنوب شرق آسيا. على الرغم من العثور على هذا النوع من المحتوى أيضاً في عمليات البحث عن جنسيات من أوروبا الغربية، إلا أنه نادر جداً. فقد كان ضمن مائة نتائج مشابهة تم عرضها بعد البحث عن "نساء ألمانيات" على سبيل المثال، 16 منها فقط، و النسبة أقل بالنسبة للبحث عن صور للنساء الفرنسيات.

 

الصور النمطية تشعل نتائج المواقع الإلكترونية

الكثير من الصور التي تظهر خلال البحث قد تم عرضها في مواقع تحمل عناوين مثل "عروس روسية. كوم" أو "عروس لاتينية جميلة" وغير ذلك. وتصنف معظم هذه الصفحات نفسها على أنها وكالات زواج دولية أو ما يسمى بخدمات "طلب العروس عبر البريد"، والتي تعد بربط الرجال بنساء من جنسيات معينة مقابل رسوم مالية معينة. فيما يقدم البعض أدلة نمطية لمواعدة النساء من خلفيات ثقافية معينة ومراجعات لتطبيقات التوفيق بين الناس. ومع ذلك، فإن إلقاء نظرة فاحصة على نوع المحتوى الذي ينشرونه يوضح من هو جمهورهم المستهدف: الرجال الغربيون الذين يبحثون إما عن زوجة أجنبية أو شريك جنسي.

وفقاً لأحد المواقع التي تم عرضها بشكل بارز في الصف الأول من نتائج غوغل: "إذا كنت تتعامل في الغالب مع نساء غربيات، مشهورات بتوجهاتهن المهنية، فإن العلاقة مع عروس أوكرانية ستبدو مختلفة تماماً عنك".

قالت تامارا زلوبينا، رئيسة تحرير المجلة الأوكرانية ( Gender in Detail)، إن هذا النوع من التصوير ربما يكون مرتبطاً بظاهرة شائعة حدثت في بلدها في التسعينيات: "بعد انهيار الاتحاد السوفيتي، كانت أوكرانيا تعاني من الفقر الشديد. فسافر كثير من النساء إلى أوروبا الغربية في محاولة لكسب المال لأسرهن". وأضافت أن هذا الواقع أخذ بالتغير بسرعة مع تحسن الوضع الاقتصادي للبلد - وتعليم المرأة ودخولها معترك العمل. وقالت: "أفضل أن أرى الدبلوماسيات والسياسيات والثائرات والنساء اللواتي يقاتلن في حروبنا الحدودية ... لدينا الكثير من النساء الرائعات. يجب أن نرى ذلك وليس فقط سوق العرائس".

من ناحية أخرى وفقاً للأستاذة سيريجيت سونانتا، وهي محاضرة في تعدد الثقافات بجامعة ماهيدول في بانكوك بتايلاند، فإن الصور النمطية تؤثر أيضاً على طريقة تصوير النساء التايلنديات على الإنترنت.

وشرحت قائلة: "يُنظر إلى تايلاند على أنها نوع من ديزني لاند للدعارة والسياحة الجنسية. وهذا أيضاً ينتقل إلى الإنترنت عند إجراء بحث على غوغل"، مضيفةً، "عندما تكون الصور النمطية عن النساء من جنسية معينة، فهي مسيئة على مستوى آخر أيضاً. إذ أن النساء مختلفات في كل مكان. "

مسألة لغة

هناك علاقة أخرى قابلة للقياس بين هذا النوع من التصوير والجمهور الأجنبي الناطق باللغة الإنكليزية. فعند مقارنة نتائج عبارات البحث "نساء برازيليات" و "mulheres brasileiras" ، نفس العبارة بالضبط، ولكن بالبرتغالية، هناك اختلاف واضح في مقدار المحتوى الجنسي الذي يتم ظهوره.

وفقاً لريناتا أفيلا من معهد ستانفورد للذكاء الاصطناعي المرتكز على الإنسان، "تعكس البيانات التي تغذي الخوارزميات التصورات والتحيزات وأنماط الاستهلاك لعينة محدودة من البشرية" مضيفة: "ليس من المستغرب أن تكرر محركات البحث التحيزات التي لا تقتصر على التكنولوجيا، بل على التحيزات الثقافية. فالنساء من جنسيات معينة يتم تصنيفهن في الأدوار الجنسية والخدماتية من قبل ثقافة الرجل الناطق باللغة الإنكليزية".

مشكلة أوسع

يميل الخبراء إلى الاتفاق على نقطة واحدة مشتركة في هذه القضية، أنه لا توجد حالات منعزلة. كل هذا ماهو إلا  جزء من مشكلة أعمق وأكثر منهجية. ومن جهتها تقول جوانا فارون، مؤسسة مركز الأبحاث (Coding Rights)، إن محركات البحث تميل إلى إعادة إنتاج نوع المحتوى المتاح على نطاق واسع على الإنترنت، والرجال البيض من البلدان المتقدمة لديهم وصول أكبر إلى الأدوات والاستراتيجيات اللازمة لنشر المحتوى الذي يؤدي إلى زيادة عدد مرات مشاهدة الصفحات.

وتابعت: "إذا لم تفعل الخوارزمية أي شيء للتعويض عن ذلك، فالنتيجة غالباً ستكون عنصرية، ومتحيزة جنسياً، وذكورية" ، مضيفة أن "الخوارزميات التجارية ومقدميها يجب أن يكونوا مسؤولين عما يعرضونه، لأنهم يعززون قمع رؤية العالم في أداة بحث أصبحت عالمية ". وترى فارون أن الطريقة الممكنة للخروج من هذا الوضع يتركز على المزيد من الرقابة والشفافية والمزيد من المنافسة.

رودريغو مينغات شوينسكي/ر.ض