يتزايد استخدام  الذكاء الاصطناعي في إنشاء أصوات أو صور أو مقاطع مصورة مزيفة بداية من سياسيين يدلون بتصريحات شنيعة أو مجرمين يتنكرون للاحتيال أو حتى أشخاص عاديين يظهرون في مواقف مضحكة، بيد أن القاسم المشترك بين كل ذلك يتمثل في الاستعانة بتقنية "التزييف العميق"  لإنتاج محتوى مزيف.

لكن مع تسارع تكنولوجيا الذكاء الاصطناعي وتطورها بشكل كبير خلال السنوات الماضية، بات من السهل إنشاء صور أو مقاطع مصورة تقنع المشاهد بأنها حقيقية وليست مزيفة.

وفي مقابلة مع DW، قالت فرانسيسكا بينينغ، رئيسة القسم القانوني في منظمة "هيت ايد" غير الربحية والمعنية بمكافحة الكراهية على الإنترنت ومقرها برلين، "إن ظاهرة التزييف العميق تشكل تهديدا على مجتمعنا الديمقراطي بشكل كبير".

وفي مسعى لمحاربة هذه الظاهرة ، شرعت حكومات وبرلمانات في شتى بقاع العالم في سن قواعد جديدة تستهدف نشر أو إنشاء أي محتوى مزيف.

وقبل أسابيع، تصاعد الجدل في ألمانيا عقب قيام البوندسرات، الغرفة العليا من البرلمان الألماني أو ما يُعرف بمجلس الولايات، بنشر مسودة مشروع قانون يتضمن عقوبات صرامة لأي شكل من أشكال "انتهاكات الحقوق الشخصية من خلال التزوير الرقمي".

يشار إلى أن النصوص القانونية الحالية في ألمانيا التي تُجرم استخدام التزييف العميق، تعود لحقبة ما قبل انتشار  الذكاء الاصطناعي حيث تتراوح ما بين انتهاكات الخصوصية إلى انتهاك حقوق الطبع والنشر.

ويقف وراء المقترح الجديد غيورغ إيزنرايش، وزير العدل في ولاية بافاريا جنوب البلاد. وشدد على أن النصوص الحالية تجعل الوضع القانوني "مربكا وغير مكتمل. لذا فإن إضافة جريمة جديدة إلى القانون الجنائي الألماني من شأنه أن يخلق مزيدا من الوضوح".

بعض الانتقادات

في المقابل، ترى منظمات معنية بالدفاع عن الحريات المدنية أن التشريعات الحالية تغطي معظم الانتهاكات المتعلقة بالتزييف العميق، محذرة من أن سن قوانين بالغة التقييد يمكن أن تعيق الاستخدامات القانونية لهذه التكنولوجيا.

وقال بنجامين لوك، المحامي في "منظمة الحقوق المدنية" غير الحكومية ومقرها برلين، إن ظاهرة التزييف العميق تشكل "تهديدا حقيقيا، لكن لا يمكننا استخلاص استنتاج مفاده أننا بحاجة إلى تشديد القانون الجنائي إلى درجة تجريم السلوك غير الإجرامي". وفي مقابلة مع DW، أضاف "هناك خطر من تجريم احتمالية استخدام التزييف العميق بشكل مقبول أو مناسب لمجتمعاتنا لأغراض ساخرة أو فنية".

ويسلط النقاش الدائر في ألمانيا بشأن مشروع القانون الجديد، الضوء على التحديات التي يواجهها المشرعون في سن قوانين تنظم استخدام أشكال التكنولوجيا التي تلغي الفاصل بين الواقع والخيال ما يعني أنه يتعين تحقيق توازن صعب بين منع سوء استخدام هذه التكنولوجيا من جهة وبين ضرورة حماية الحريات المدنية بما في ذلك حرية التعبير من جهة أخرى.

ما هو "التزييف العميق"؟

يصف مصطلح "التزييف العميق" عملية جمع ملفات الصوت والفيديو بواسطة الذكاء الاصطناعي أو التعلم الآلي بشكل دقيق. وتكون كافة مجالات "التزييف العميق" ممكنة بداية من تبديل الوجوه بمعنى استبدال وجه شخص بآخر أو تزامن تحريك الشفاه إذ يمكن ضبط فم المتحدث على ملف صوتي مختلف عن الصوت الأصلي أو استنساخ الصوت، حيث يتم استنساخ نسخة من الصوت من أجل استخدامها لقول أشياء أخرى. ولا يتوقف الأمر عند هذا المستوى، بل يمكن أيضا إنشاء وجوه وأجساد اصطناعية بالكامل على سبيل المثال صورة رمزية رقمية (أفاتار).

ومن العجيب أنه يمكن استخدام تقنية "التزييف العميق" لاستحضار الموتى مثلما فعل متحف دالي في فلوريدا مع الفنان سلفادور دالي إذ استعان المتحف الأمريكي بهذه التقنية للسماح لزواره بالتقاط صورة حية مع دالي – الذي توفي عام 1989 - حيث يقوم بالتقاط صور سيلفي بنفسه.

تعتمد عملية استخدام الذكاء الاصطناعي للتلاعب بمقطع مصور على تقنية تُعرف بـ"شبكة الخصومة التوليدية" التي تعد نموذجا للتعلم الآلي، حيث تتنافس شبكتين عصبيتين ضد بعضهما من أجل الخروج بنتائج أكثر دقة، إذ ترمي هذه التقنية إلي تحسين النتائج.

وقد نجد صعوبة في فهم المقصود بتنافس شبكتين، لكن سنوضح كيف تجري العملية كالتالي: سوف يبلغ أحد أجهزة الكمبيوتر، الكمبيوتر الآخر إذا كان الاستنساخ الرقمي، سواء أكان مرئيا أو سمعيا، الذي صنعه لأي شخص مقنعا ومطابقا بدرجة كبيرة وكافية مع النسخة الأصلية لهذا الشخص؛ بمعني هل تحريك الشفاه في النسخة المستنسخة مطابقا للنسخة الأصلية، وكذلك هل تعبيرات الوجه متطابقة.

باستخدام "شبكة الخصومة التوليدية" يُجرى تحسين النظام ككل حتى الوصول إلى نتيجة مقنعة. ويمكن أن يستعين المجرمون بتقنية التزييف العميق  لارتكاب عمليات احتيال أو يمكن استخدامها من قبل بعض الأطراف سواء محليا او دوليا لنشر معلومات مضللة بهدف التأثير على الرأي العام.

سبل الحماية

يمكن استخدام تقنية "التزييف العميق" في مجال المواد الإباحية التي تأتي في إطار ما يُعرف بـ "الانتقام الإباحي"، حيث يتم نشر صور أو مقاطع إباحية مزيفة من أجل الابتزاز أو حتى إلحاق الضرر بسمعة الضحية. 

وفي هذا السياق، قالت فرانسيسكا بينينغ إن "النساء الفئة الأكثر تعرضا لهذا الأمر. في السابق كانت أشكال الإساءة القائمة على الصور (مثل مشاركة صور حميمة دون تراض أو نشر صور إباحية مزيفة) تستهدف المشاهير في المقام الأول، لكن اليوم نرصد تزايدا في حالات قيام العديد من الأفراد العاديين بالتواصل مع منظمتنا".

وأوضحت أن القانون الألماني يعاقب الأشكال التي تدخل في نطاق "الانتقام الإباحي"، لكنها قالت إن "حسم قضية انتهاك القانون يعتمد على الحالة الفردية والتقييم القانوني. يمثل إرسال مقاطع مصورة أو صور اُنتجت عن طريق التزييف العميق، في رسائل مباشرة، منطقة رمادية."

ويهدف المشرعون إلى سد مثل هذه الثغرات، فيما يرى خبراء أن مشروع القانون من المرجح ألا يدخل حيز التنفيذ بنصه الحالي، مشيرين إلى أن التشريع سوف يؤثر على قانون العنف السيبراني الذي تقوم وزارة العدل الألمانية بصياغته في الوقت الراهن.

ورحبت بينينغ بتضمين مشروع القانون جريمة التزييف العميق، لكنها حثت على تجريم إنتاج مواد إباحية عن طريق التزييف العميق دون تراض حتى في حالة عدم نشرها. وقالت "سوف يمثل ذلك خطوة كبرى إلى الأمام".

أخطار الإفراط في فرض القوانين

ورغم الترحاب بمشروع القانون، إلا أن النشطاء المدافعين عن الحريات المدنية يحذرون من أن الجهود الرامية إلى الحد من إساءة استخدام الذكاء الاصطناعي، يمكن أن تؤدي إلى الإفراط في تجريم تكنولوجيا التزييف العميق. وفي ذلك، قال بنجامين لوك، المحامي في "منظمة الحقوق المدنية"، "ليس من الضروري تجريم كافة أشكال التزييف العميق".

وأضاف "عندما يتم وضع كلمات هينة - لا تحمل أي ضرر - على أفواه السياسيين بهدف السخرية في المقام الأول، فإن اعتبار ذلك بالأمر الجنائي يعد قضية مشكوك فيها"، مشيرا إلى أن القوانين الأكثر صرامة لن "تقضي على كافة تهديدات التزييف العميق. فرض أي حظر لن يمنع خطر حملات التضليل التي تقف وراءها دول".

وشدد على ضرورة رفع مستوى الوعي في جميع قطاعات المجتمع حيال "أن أي شيء يُشاهد أو يُسمع عبر الإنترنت ربما يكون مزيفا"، مؤكدا على أن تجريم تكنولوجيا التزييف العميق قد تأتي بنتائج عكسية بما في ذلك إعاقة جهود رفع مستوى الوعي حول مخاطرها. وقال إن "الحظر الشامل قد يجعلنا كمجتمع أقل معرفة بالأمر".

أعده للعربية: محمد فرحان