Divyendra Singh Jadoun tengah sibuk membuat efek visual dan klon suara berbasis kecerdasan buatan atau artificial intelligence (AI) untuk film dan televisi di India. Saat itu, dia mulai mendapat telepon dari para politisi yang menanyakan apakah ia bisa membuat video AI, atau deepfake, untuk kampanye pemilu mereka?

November lalu, pemilu lokal di negara bagian tempat ia dilahirkan, Rajasthan, India, penuh persaingan ketat. Pemilu nasional India yang dijadwalkan pada Mei 2024 membuka peluang besar bagi perusahaannya, The Indian Deepfaker. Namun Jadoun enggan melakukannya.

"Teknologi untuk membuat deepfake saat ini sangat bagus, ini dapat dilakukan dalam waktu singkat, dengan sedikit usaha, dan orang tidak dapat mengetahui apakah itu asli atau palsu," kata Jadoun, 30 tahun. "Tidak ada pedoman mengenai deepfake, dan itu mengkhawatirkan karena berpotensi memengaruhi cara seseorang memilih," katanya kepada Thomson Reuters Foundation.

Reel Instagram yang menampilkan Perdana Menteri India Narendra Modi bernyanyi dalam bahasa daerah baru-baru ini menjadi viral. Sementara di Indonesia, video TikTok yang menampilkan calon presiden Prabowo Subianto dan Anies Baswedan berbicara dalam bahasa Arab dengan fasih juga viral. Padahal semua itu palsu, dibuat dengan AI, dan diposting tanpa label.

Deepfake tumbuh subur jelang pemilu

Dengan adanya pemilu yang akan diadakan di India, Indonesia, Bangladesh dan Pakistan dalam beberapa minggu mendatang, misinformasi tersebar luas di platform media sosial. Deepfake, yakni video atau audio yang dibuat menggunakan AI dan disiarkan sebagai informasi asli, menjadi hal yang sangat mengkhawatirkan, kata para pakar dan otoritas teknologi.

Di India, dengan lebih dari 900 juta pemilih, PM Narendra Modi mengatakan video deepfake adalah “kekhawatiran besar”. Pihak berwenang pun memperingatkan platform media sosial bahwa mereka bisa kehilangan status safe-harbour yang melindungi mereka dari tanggung jawab atas konten yang diposting pihak ketiga di situs mereka, jika mereka tidak bertindak.

Di Indonesia, lebih dari 200 juta pemilih akan memberikan suara pada 14 Februari dalam pemilu presiden dan pemilu leislatif. Informasi palsu mengenai ketiga kandidat presiden dan pasangannya beredar secara online, dan berpotensi memengaruhi hasil pemilu, kata Nuurrianti Jalli, yang mempelajari misinformasi dan media sosial.

"Dari penargetan mikro terhadap pemilih dengan menggunakan disinformasi, hingga menyebarkan narasi palsu dengan skala dan kecepatan yang tidak dapat dicapai oleh manusia, alat-alat AI ini dapat secara signifikan memengaruhi persepsi dan perilaku pemilih," ujar Jalli.

"Dalam lingkungan, di mana misinformasi sudah lazim, konten yang dihasilkan AI dapat semakin mengubah persepsi publik dan memengaruhi perilaku memilih," tambah Jalli, yang juga asisten profesor di sekolah media Oklahoma State University. 

Deepfake untuk propaganda politik

Gambar dan video deepfake yang dihasilkan oleh aplikasi AI generatif diketahui muncul menjelang pemilu di Selandia Baru, Turki, dan Argentina tahun lalu. AI membuat penciptaan dan penyebaran disinformasi menjadi lebih cepat, lebih murah, dan efektif, kata Freedom House, organisasi nirlaba dari Amerika Serikat, dalam sebuah laporan baru-baru ini.

Perusahaan media sosial yang berinvestasi besar-besaran telah mengubah prioritas mereka. "Saya memperkirakan akan terjadi tsunami misinformasi," kata Oren Etzioni, pakar kecerdasan buatan dan profesor emeritus di Universitas Washington.

"Saya tidak bisa membuktikannya. Saya harap saya salah. Tapi bahan-bahannya ada, dan saya benar-benar khawatir."

Gambar dan video yang dimanipulasi seputar pemilu bukanlah hal baru, namun tahun 2024 akan menjadi pemilu presiden AS pertama, di mana alat AI canggih yang dapat menghasilkan gambar-gambar palsu yang meyakinkan hanya dalam hitungan detik hanya dengan beberapa klik digunakan secara luas.

"Anda bisa melihat kandidat politik seperti Presiden Biden dilarikan ke rumah sakit," katanya. "Anda bisa melihat seorang kandidat mengatakan hal-hal yang sebenarnya tidak pernah dia katakan," ujar Profesor  Etzioni.

Di Bangladesh, muncul video deepfake yang menampilkan sejumlah politisi perempuan dari pihak oposisi, Rumin Farhana, dalam balutan bikini dan Nipun Roy di kolam renang. Meski terbantahkan dengan cepat, konten tersebut masih beredar.

Bahkan konten deepfake berkualitas buruk pun menyesatkan orang, kata Sayeed Al-Zaman, asisten profesor jurnalisme di Universitas Jahangirnagar Bangladesh, yang mempelajari media sosial. "Tetapi pemerintah tampaknya tidak khawatir," katanya.

Sinyal berbahaya

Setidaknya 500.000 video dan audio deepfake telah dibagikan di situs media sosial secara global pada 2023, demikian menurut perkiraan DeepMedia, perusahaan yang mengembangkan alat untuk mendeteksi media sintetis.

Namun platform media sosial terlihat kewalahan untuk mengatasi hal ini. Meta, yang memiliki Facebook, Instagram dan WhatsApp, mengatakan pihaknya akan menghapus media sintetis jika "manipulasinya tidak terlihat dan dapat menyesatkan, terutama dalam kasus konten video." 

Google, pemilik YouTube, pada bulan November mengatakan bahwa platform berbagi video tersebut mengharuskan kreator untuk mengungkapkan konten yang terlihat realis padahal telah dialterasi atau dibuat, termasuk menggunakan alat AI. Pihaknya juga akan memberi tahu pengguna tentang konten tersebut lewat label.

Namun negara-negara termasuk India, Indonesia, dan Bangladesh baru-baru ini mengeluarkan undang-undang untuk mengawasi konten online yang lebih ketat dan menjatuhi sanksi situs media sosial untuk konten yang dianggap misinformasi, kata Raman Jit Singh Chima, direktur kebijakan Asia di lembaga advokasi Access Now.

Di negara-negara ini, "siklus pemilu kali ini sebenarnya lebih buruk dibandingkan siklus sebelumnya – platform tidak dibentuk untuk menangani masalah, dan mereka tidak cukup responsif dan proaktif. Dan itu adalah sinyal yang sangat berbahaya," jelasnya.

"Ada bahaya bahwa perhatian dunia hanya tertuju pada pemilu AS. Akan tetapi standar yang diterapkan di sana, upaya yang dilakukan di sana, juga bisa dilakukan di mana pun," katanya.

ae/hp (Thomson Reuters Foundation, AP)

 

Jangan lewatkan konten-konten eksklusif berbahasa Indonesia dari DW. Ayo berlangganan gratis newsletter mingguan Wednesday Bite. Recharge pengetahuanmu di tengah minggu, biar topik obrolan makin seru!