1. कंटेंट पर जाएं
  2. मेन्यू पर जाएं
  3. डीडब्ल्यू की अन्य साइट देखें

भारत के चुनाव में डीपफेक का बढ़ता खतरा

२२ अप्रैल २०२४

भारत में हाल के दिनों में जो वीडियो वायरल हुए उनमें दो ऐसे वीडियो भी हैं, जिनमें एक्टर आमिर खान और रणवीर सिंह लोगों से कांग्रेस पार्टी के लिए वोट मांगते नजर आए.

आर्टिफिशियल इंटेलिजेंस से तैयार एक लड़की का चेहरा
डीपफेक का कई देशों के चुनावों में इस्तेमाल हो रहा हैतस्वीर: picture alliance / CHROMORANGE

बॉलीवुड अभिनेता आमिर खान वाला वीडियो 30 सेकेंड का है जबकि रणवीर सिंह वाला 41 सेकेंड का. वीडियो में इनको प्रधानमंत्री नरेंद्र मोदी की आलोचना करते देखा जा सकता है, जहां उनके दोनों कार्यकाल में चुनावी वादे पूरे नहीं करने, और आर्थिक सुधारों को लागू करने में नाकाम रहने की बात की जा रही है.  आर्टिफिशियल इंटेलिजेंस से बनाए गए दोनों वीडियो कांग्रेस के चुनाव निशान और स्लोगन के साथ खत्म होते हैं, "न्याय के लिए वोट दें, कांग्रेस को वोट दें."

समाचार एजेंसी रॉयटर्स की समीक्षा दिखाती है कि पिछले हफ्ते इन दोनों वीडियो को सोशल मीडिया पर 5 लाख से ज्यादा बार देखा गया. एआई से तैयार फेक या डीपफेक का इस्तेमाल अमेरिका, पाकिस्तान और इंडोनेशिया समेत पूरी दुनिया के चुनावों में दिख रहा है.

संगीतकारों की गुहारः हमें एआई से बचाओ

आर्टिफिशियल इंटेलिजेंस का इस्तेमाल

भारत में चुनाव प्रचार लंबे समय से घर-घर जा कर और रैलियों के माध्यम से होता रहा है. हालांकि 2019 से वाट्सऐप और फेसबुक का प्रचार के उपकरण के रूप में बड़े पैमाने पर इस्तेमाल होने लगा. इस बार भारत के लोकसभा चुनाव में पहली बार आर्टिफिशियल इंटेलिजेंस का इस्तेमाल हो रहा है.

कांग्रेस प्रवक्ता सुजाता पॉल ने रणवीर सिंह का वीडियो अपने 16,000 फॉलोवरों को 17 अप्रैल को एक्स पर शेयर किया. शनिवार शाम यानी 19 अप्रैल तक उनके इस पोस्ट को 2,900 बार रिट्वीट किया गया, 8,700 लोगों ने इसे लाइक किया और 438,000 बार इसे देखा गया. 

भारत के चुनाव में पहले दौर का मतदान हो चुका हैतस्वीर: Anushree Fadnavis/REUTERS

पॉल ने समाचार एजेंसी रॉयटर्स से टेलिफोन पर बातचीत में कहा कि वह जानती हैं कि एक्स ने इस वीडियो को "मैनिपुलेटेड मीडिया" के रूप में दर्ज किया है, लेकिन वह इसे डिलीट नहीं करना चाहतीं क्योंकि पोस्ट करते समय, उन्होंने सोचा कि यह आदमी रणवीर सिंह जैसा दिखता है और, "निश्चित रूप से यह क्रिएटिविटी है." रॉयटर्स ने इस मामले पर कांग्रेस के मीडिया सेल प्रमुख से प्रतिक्रिया लेनी चाही तो कोई जवाब नहीं मिला. इसके कुछ घंटे बाद रविवार से यह पोस्ट एक्स पर दिखना बंद हो गया.  

वीडियो पर पुलिस की जांच 

दोनों अभिनेताओं ने कहा है कि ये वीडियो फेक थे. फेसबुक, एक्स और कम से कम आठ फैक्ट चेकिंग वेबसाइटों ने कहा है कि उनसे या तो छेड़छाड़ की गई है या फिर वो मैनिपुलेटेड हैं. रॉयटर्स डिजिटल वेरिफिकेशन यूनिट ने भी इसकी पुष्टि कर दी है.

अब तक यह पता नहीं चल सका है कि ये वीडियो किसने बनाए. आमिर खान और रणवीर सिंह दोनों की टीम का कहना है कि वो इस मामले को देख रहे हैं. रणवीर सिंह ने एक्स पर लिखा है, "डीफफेक से सावधान रहें दोस्तों." नरेंद्र मोदी के दफ्तर और भारतीय जनता पार्टी के आईटी प्रमुख ने इस बारे में पूछे सवालों का जवाब नहीं दिया.

चुनाव अभियान में डीपफेक का हो रहा है जम कर इस्तेमाल

वीडियो के कुछ वर्जन सोशल मीडिया पर ब्लॉक कर दिए गए हालांकि इसके बाद भी कम से कम 14 वीडियो सोशल मीडिया पर शनिवार की शाम तक एक्स पर देखे जा सकते थे. रॉयटर्स ने कंपनी को जब जानकारी दी तो फेसबुक ने दो वीडियो डिलीट कर दिए लेकिन एक वीडियो फिर भी दिख रहा था. फेसबुक ने एक बयान में कहा कि उसने कंपनी की नीतियों का उल्लंघन करने की वजह से "वीडियो हटा दिए हैं." एक्स ने रॉयटर्स के सवालों पर कोई जवाब नहीं दिया.

पुलिस इन वीडियो की छानबीन कर रही है. आमिर खान ने मुंबई में अज्ञात लोगों के खिलाफ फेक वीडियो बनाने के लिए धोखाधड़ी और कथित हमशक्ल बनाने के आरोप में मामला दर्ज कराया है. मुंबई पुलिस ने इस मामले पर कोई प्रतिक्रिया नहीं दी लेकिन जांच में शामिल दो अधिकारियों ने नाम जाहिर नहीं करने की शर्त पर बताया कि उन्होंने फेसबुक और एक्स को वीडियो हटाने के लिए लिखा है और कंपनियों का कहना है कि उन्हें हटा दिया गया है.

भारत समेत दक्षिणी देशों में एआई मॉडलों की ट्रेनिंग

02:46

This browser does not support the video element.

मृत पिता का एआई वीडियो 

इस साल चुनाव में राजनेता दूसरे तरीकों से भी एआई का इस्तेमाल कर रहे हैं. दक्षिण भारत में कांग्रेस नेता विजय वसंत के प्रवक्ता ने बताया कि उनकी टीम ने एआई का इस्तेमाल कर 2 मिनट की एक ऑडियो वीडियो क्लिप बनाई है. सोशल मीडिया प्लेटफार्मों पर दिखाई जा रही इस क्लिप में उनके पिता उनके लिए वोट मांगते नजर आ रहे हैं. वसंत के पिता एच. वसंत कुमार मशहूर राजनेता थे लेकिन अब मर चुके हैं. इस वीडियो में एच वसंत कुमार को यह भी कहते सुना जा सकता है, "भले ही मेरा शरीर आप सबको छोड़ कर चला गया, लेकिन मेरी आत्मा आपके आस पास ही है."

2024 में किस ओर बढ़ेगी आर्टिफिशियल इंटेलिजेंस

यूट्यूब पर भारतीय कम्युनिस्ट पार्टी-मार्क्सवादी (सीपीएम) ने जो वीडियो डाले हैं उनमें साड़ी पहने एक एआई से बनाई गई न्यूज एंकर दिखाई देती है. यह एंकर अपने बोलचाल और हावभाव में न्यूज चैनलों की नकल करती है और पश्चिम बंगाल की सत्ताधारी पार्टी की आलोचना करती है.

भारत में करीब 90 करोड़ लोगों की इंटरनेट सुविधा तक पहुंच है. रिसर्च इंस्टिट्यूट एसीसा सेंटर और इंडियन इंस्टिट्यूट ऑफ मैनेजमेंट बिजनेस स्कूल के सर्वे में पता चला है कि औसत भारतीय हर दिन 3 घंटे से ज्यादा वक्त सोशल मीडिया पर बिताते हैं. भारत में लगभग एक अरब मतदाता हैं. अंदाजा लगाना ज्यादा मुश्किल नहीं है कि आर्टिफिशियल इंटेलिजेंस यानी एआई से तैयार कंटेंट भारत के चुनाव में कहां तक जा सकते हैं.

एनआर/आरपी (रॉयटर्स) 

डीडब्ल्यू की टॉप स्टोरी को स्किप करें

डीडब्ल्यू की टॉप स्टोरी

डीडब्ल्यू की और रिपोर्टें को स्किप करें

डीडब्ल्यू की और रिपोर्टें