مع تفجر ثورة الإنترنت ومنصات التواصل الاجتماعي، بات خطاب الكراهية وما يحمله من إهانات عنصرية وتحيز جنسي وحتى دعوات للتحريض على العنف مشكلة خطيرة، فيما ينذر ذلك بتداعيات خطيرة.

ولم تكن وسائل التواصل الاجتماعي وسيلة ترفيهية لمستخدميها فقط، بل في أحيانا كثيرة يتم إساءة استخدامها في حرب المعلومات ونشر الأخبار الكاذبة وحتى حشد الجماعات المتطرفة. ويعد تطبيق تيك توك المثال الأبرز على ذلك حيث ينشر محتويات تشجع على اضطرابات اجتماعية وحتى إيذاء مستخدميه وغالبيتهم من الشباب ذاتهم في بعض الأحيان، وفقا للعديد من المنظمات الغربية.

مواقع التواصل أكثر من منصة لتخزين البيانات

ورغم ذلك ما زالت الشركات المسؤولة عن إدارة منصات التواصل الاجتماعي  مترددة في اتخاذ أي إجراء جاد حتى الآن، رغم أن خبراء يقولون إنها تحمل على عاتقها مسؤولية ضمنية عن انتشار خطاب الكراهية.

وفي ذلك، قالت جوزفين بالون، الخبيرة في منظمة HateAid التي تدافع عن ضحايا خطاب الكراهية عبر الإنترنت، إن "مواقع التواصل الاجتماعي ليست مجرد منصات لتخزين المحتوى الذي يقوم بإنشائه المستخدم إذ أن هناك أنظمة خوارزمية تحدد كيفية نشر المحتوى".

ورغم أن منصات التواصل الاجتماعي مثل فيسبوك ليست مسؤولة بشكل مباشر عن المحتوى الذي يحرض على الكراهية، إلا أنها مسؤولة عن طريقة نشر هذا الخطاب من خلال خوارزمياتها المعقدة، حيث تعمل أنظمتها على جمع البيانات لتحديد المحتوى الذي يظهر أو لا يظهر للمستخدمين. فيما تتضمن هذه الخوارزميات عمليات يصعب فهمها من خارج أروقة هذه الشركات.

وفي مقابلة مع  DW قالت جوزفين بالون إن هذه الخوارزميات "ليست في نطاق العامة إذ تدار من وراء الكواليس في واقع الأمر".

وكان موقع فيسبوك قد تعرض لأزمة كبيرة على وقع ما كشفت عنه فرانسيس هوغن، الموظفة السابقة في الشركة، والتي استقالت من منصبها اعتراضا منها على "اختيار شبكة  التواصل الاجتماعي  الربح المادي وتفضيله على سلامة مستخدميها".

محاولة أوروبية لحل المشكلة

يحاول الاتحاد الأوروبي  في الوقت الراهن معالجة المشكلة رغم أنه يبدو من الصعب حلها، إذ في نوفمبر/ تشرين الثاني الماضي دخل قانون الخدمات الرقمية حيز التنفيذ، والذي ينظم الخدمات عبر الإنترنت ويهدف إلى وضع قواعد عمل شبكة الإنترنت في الاتحاد الأوروبي، خاصة المنصات التي يبلغ عدد مستخدميها أكثر من 45 مليون مستخدم.

ولا يتوقف الأمر على ذلك، بل يطلب القانون من مقدمي الخدمات التحقيق والتحليل وتقييم المخاطر النظامية التي قد تنطوي عليها خدماتها بما في ذلك الأنظمة الخوارزمية. ويمنح القانون أيضا الباحثين سبل أكثر للوصول إلى بيانات الشركات الكبرى في مجال التكنولوجيا ومنصات التواصل الاجتماعي.

وفي هذا السياق، يطلب القانون من هذه الشركات تقديم تقرير سنوي إلى مفوضية الاتحاد الأوروبي بشأن تقييم المخاطر الناجمة عن المحتوى الضار الذي يُنشر على منصاتها، إلى جانب خططها لمواجهة ذلك.

وأوضحت جوزفين بالون لـ DW بأن "الشفافية تميز قانون الخدمة الرقمية عن القوانين الأخرى التي سنتها الدول الأوروبية، فضلا عن أن القانون يسمح بإلقاء نظرة خاطفة على المهام الفنية للمنصات." وأضافت "نحن لدينا معرفة مسبقة حيال المخالفات والتحليلات بفضل ما كشف عنه الموظفون السابقون في هذه الشركات، لكننا ما زلنا لا نملك الصورة الكاملة لأنه يتم السماح لهذه المنصات بالعمل من وراء الكواليس".

المركز الأوروبي الجديد

وتم افتتاح  المركز الأوروبي للشفافية الحسابية أو الخوارزمية  يوم 18 نيسان/ أبريل 2023، ويعمل فيه حوالي 30 موظفا بينهم خبراء في مجالات الذكاء الاصطناعي والبيانات وعلم الاجتماع.

وسيقوم المركز تقديم المشورة للمفوضية الأوروبية بشأن تنفيذ قانون الخدمات الرقمية الأوروبي، فيما سيمهد المركز والقانون الطريق أمام تعزيز شفافية الخوارزميات التي تستخدمها شركات التكنولوجيا، لتوجيه المستخدمين إلى محتوى معين.

وفي ذلك، تقول مارغريت فيستاغر، نائبة رئيسة المفوضية الأوروبية، إن المركز "سوف يستكشف لأول مرة عقول كبرى منصات الإنترنت وكبرى محركات البحث على الإنترنت لمعرفة طريقة عمل الخوارزميات الخاصة بهذه الشركات، ومدى مساهمتها في انتشار المحتوى غير القانوني والضار الذي كان الكثير من الأوروبيين عرضة له".

"لم نعد تحت رحمة شركات التكنولوجيا الكبرى"

لكن خبراء يطرحون تساؤلات مفادها هل هذه الإجراءات الأوروبية كافية؟ في مقابلة مع  DW قالت أنغيلا مولر، الخبيرة في منظمة AlgorithmWatch وهي منظمة أبحاث وحماية مصالح، "نرى قانون الخدمات الرقمية بمثابة خطوة مهمة، لأنه يبدد السرد القائل بأننا بتنا تحت رحمة شركات التكنولوجيا الكبيرة."

وأضافت "إننا – باعتبارنا مجتمعات ديمقراطية- يتعين علينا وضع الشروط التي نريدها بما في ذلك الشروط التي يتعين على منصات التواصل الاجتماعي الالتزام بها"، مشيرة إلى أن قانون الخدمات الرقمية لا يعد "عملا ثوريا، لكنه خطوة هامة في المسار الصحيح". وأضافت أن الدول الأوروبية أيضا ستستفيد من هذا القانون.

وأشادت مولر بالقانون لأنه سيسمح بالوصول إلى بيانات الشركات وهو ما سيمهد الطريق أمام مراقبة تصرفات منصات التواصل الاجتماعي، لكنها قالت إنه سيبقى امتثال هذه الشركات للقواعد الأمر الهام.

وقالت مولر "لكن يبقى هناك سؤال مهم: هل ستحاول المنصات الالتفاف على اللوائح؟ أنا مقتنعة بأنها ستبذل كل ما في وسعها لتقليل هذه المتطلبات".

أشارت مولر إلى مشكلة أخرى، وهي التوظيف في المركز الجديد وما يعرف ببناء القدرات، وهو جمع المعرفة المتخصصة من أولئك الذين يديرون المنصات. وقالت "أشك في أن هناك أشخاص سيتعاملون بالفعل مع هذه القضايا".

ستيفاني هوبنر / م. ع