दिव्येंद्र सिंह जडायूं फिल्म इंडस्ट्री में बतौर विजुअल इफेक्ट्स आर्टिस्ट काम करते हैं. वह आर्टिफिशियल इंटेलिजेंस का इस्तेमाल कर वॉयस क्लोन्स और विजुअल इफेक्ट्स बना रहे हैं. लेकिन कुछ समय पहले उन्हें राजनीतिक दलों के फोन आने शुरू हुए. ये राजनीतिक दल चाहते थे कि जडायूं उनके चुनाव प्रचार के वास्ते एआई वीडियो या डीपफेक बना दें.

जडायूं के गृह प्रदेश राजस्थान में भी हाल ही में चुनाव खत्म हुए हैं. अब भारत में मई तक आम चुनाव होने हैं. यह उनकी कंपनी डीपफेकर के लिए बहुत बड़ा मौका हो सकता है. लेकिन जडायूं इसे लेकर ज्यादा उत्साहित नहीं हैं.

वह कहते हैं, "डीपफेक बनाने के लिए बहुत आधुनिक तकनीक उपलब्ध है. यह मिनटों में किया जा सकता है. और जो वीडियो बनेगा, उसे लोग पहचान भी नहीं पाएंगे कि असली है या नकली.”

लेकिन 30 साल के जडायूं मानते हैं कि इस तरह के वीडियो को लेकर कोई दिशा-निर्देश नहीं हैं, जो चिंता की बात है. वह कहते हैं, "ये वीडियो लोगों के वोट के फैसले को प्रभावित कर सकते हैं.”

हर देश में डीपफेक

हाल के दिनों में ऐसे बहुत से वीडियो वायरल हुए हैं जिनमें भारतीय प्रधानमंत्री नरेंद्र मोदी क्षेत्रीय भाषाओं में गीत गाते दिखाई दे रहे हैं. ठीक इसी तरह इंडोनेशिया में वायरल हो रहे वीडियो में राष्ट्रपति पद के उम्मीदवार प्रबोवो सुबियांतो और अनीस बासवेदन धाराप्रवाह अरबी बोलते नजर आ रहे हैं. लेकिन ये तमाम वीडियो एआई द्वारा रचे गए हैं और बिना एआई लेबल के जारी किए गए हैं.

भारत, इंडोनेशिया, बांग्लादेश और पाकिस्तान में आने वाले हफ्तों में चुनाव होने हैं. चुनावों से पहले हर जगह सोशल मीडिया पर दुष्प्रचार जोरों से चल रहा है. इस दुष्प्रचार के लिए एआई से बने डीपफेक वीडियो और ऑडियो का खूब इस्तेमाल हो रहा है. लेकिन विशेषज्ञ इन्हें लेकर चिंतित हैं क्योंकि इन्हें असली बताकर फैलाया और दिखाया जा रहा है.

90 करोड़ मतदाताओं वाले देश भारत में नरेंद्र मोदी ने भी डीपफेक पर चिंता जताई है. सोशल मीडिया कंपनियों को भी ऐसे वीडियो फैलने से रोकने को कहा गया है. अधिकरियों ने चेतावनी जारी की है कि अगर कंपनियां ऐसे वीडियो को फैलने से नहीं रोकती हैं तो उन पर भी कानूनी कार्रवाई की जा सकती है.

ज्यादा असरदार दुष्प्रचार

इंडोनेशिया में 14 फरवरी को मतदान है जिसमें 20 करोड़ मतदाता अपना वोट डालेंगे. वहां राष्ट्रपति पद के तीनों उम्मीदवारों के डीपफेक वीडियो धड़ल्ले से सोशल मीडिया पर साझा किए जा रहे हैं. सोशल मीडिया पर दुष्प्रचार का अध्ययन करने वाली नूरिआंती जल्ली कहती हैं कि ये वीडियो चुनाव के नतीजों को प्रभावित कर सकते हैं.

जल्ली बताती हैं, "मतदाताओं को माइक्रोटारगेट करने से लेकर फर्जी सूचनाएं फैलाने तक जिस पैमाने और रफ्तार से एआई दुष्प्रचार फैला सकती है, वह इंसान के बस की बात नहीं है. और ये एआई टूल लोगों के व्यवहार और विचार को बहुत ज्यादा प्रभावित कर सकते हैं.”

ओक्लाहोमा स्टेट यूनिवर्सिटी के मीडिया स्कूल में असिस्टेंट प्रोफेसर जल्ली कहती हैं, "जबकि फर्जी सूचनाएं पहले से ही बहुत ज्यादा फैली हुई हैं, एआई से बनाई गई सामग्री मतदाताओं के व्यवहार को और ज्यादा प्रभावित कर सकती है.”

बढ़ रहा है इस्तेमाल

वैसे ऐसा पहली बार नहीं हो रहा है कि चुनावों में एआई का इस्तेमाल दुष्प्रचार के लिए हो रहा हो. मिडजर्नी, स्टेबल डिफ्यूजन और ओपनएआई के डैल-ई सॉफ्टवेयर के जरिए तैयार किए गए डीपफेक वीडियो पिछले साल न्यूजीलैंड से लेकर तुर्की और अर्जेन्टीना तक के चुनावों में नजर आ चुके हैं. अब अमेरिका में भी इस बात को लेकर चिंता बढ़ रही है कि आने वाले नवंबर के राष्ट्रपति चुनावों में इनका इस्तेमाल नतीजों को प्रभावित कर सकता है.

हाल ही में एक गैरसरकारी अमेरिकी संस्था फ्रीडम हाउस ने अपनी रिपोर्ट में कहा था कि एआई के जरिए दुष्प्रचार ज्यादा तेज, प्रभावशाली और सस्ता हो गया है. मसलन बांग्लादेश में, जहां 7 जनवरी को चुनाव होने हैं, विपक्षी महिला उम्मीदवारों रूमिन फरहाना की बिकीनी में और निपुण रॉय की स्विमिंग पूल में वीडियो सोशल मीडिया पर खूब वायरल हुए हैं. और उन्हें तेजी से खारिज करने की कोशिश की गई लेकिन वे अब भी शेयर किए जा रहे हैं.

बांग्लादेश की जहांगीरनगर यूनिवर्सिटी में सोशल मीडिया पर अध्ययन करने वाले पत्रकारिता के असिस्टेंट प्रोफेसर सईद अल-जमान कहते हैं, "बांग्लादेश में डिजिटल लिटरेसी और सूचना को लेकर लोगों में जागरूकता बहुत कम है. ऐसे में डीपफेक राजनीतिक दुष्प्रचार का बहुत प्रभावशाली जरिया बन सकते हैं. लेकिन सरकार इस बारे में चिंतित नहीं दिखती.”

यही हाल पाकिस्तान में भी है, जहां 8 फरवरी को चुनाव होने हैं. कई आरोपों के कारण जेल में बंद और चुनाव लड़ने से प्रतिबंधित पूर्व प्रधानमंत्री इमरान खान ने हाल ही में एआई के जरिए क्लोन बनाकर एक रैली को सोशल मीडिया पर संबोधित किया था, जिसे 14 लाख बार देखा गया.

काम नहीं कर रहे उपाय

वैसे तो पाकिस्तान में एआई के लिए कानून बनाया गया है लेकिन डिजिटल अधिकारों के लिए काम करने वाले कार्यकर्ता कहते हैं कि कमजोर और कम जागरूक तबकों को दुष्प्रचार से बचाने के लिए बहुत कम सुरक्षा उपाय उपलब्ध हैं.

डिजिटल राइट्स फाउंडेशन की निगहत दाद कहती हैं, "पाकिस्तान में चुनावों पर दुष्प्रचार का खतरा कितना बड़ा है, इसे बयान नहीं किया जा सकता. पहले भी पार्टियां लोगों के व्यवहार को प्रभावित करने के लिए इंटरनेट पर दुष्प्रचार का इस्तेमाल करती रही हैं. कानून बदलने के लिए माहौल बनाने तक में इसका इस्तेमाल हुआ है. सिंथेटिक मीडिया ऐसा करना और आसान बना देगा.”

सिंथेटिक मीडिया की पहचान करने वाले टूल बनाने वाली कंपनी डीपमीडिया के मुताबिक 2023 में दुनियाभर में सोशल मीडिया पर पांच लाख ऐसे वीडियो और ऑडियो शेयर किए गए थे. सोशल मीडिया कंपनियां इस पैमाने पर फैल रहे डीपफेक को काबू नहीं कर पा रही हैं.

फेसबुक, इंस्टाग्राम और वॉट्सऐप की मालिक कंपनी मेटा ने कहा है कि वह ऐसे सिंथेटिक मीडिया को हटाएगी जहां "यह जाहिर नहीं होता कि वीडियो एआई के जरिए बनाए गए है और भ्रमित कर सकता है. खासतौर पर वीडियो पर ध्यान दिया जाएगा.”

यूट्यूब की मालिक कंपनी गूगल ने बीते नवंबर में कहा था कि अपना वीडियो शेयर करने वालों को बताना होगा कि उनका वीडियो एआई से बनाया गया है” और कंपनी ऐसी सामग्री को लेबल के साथ शेयर करेगी.

लेकिन भारत, बांग्लादेश, इंडोनेशिया और पाकिस्तान में फैलते डीपफेक वीडियो और ऑडियो को देखकर लगता नहीं है कि ये उपाय ज्यादा कारगर साबित हो रहे हैं.

वीके/एए (रॉयटर्स)