Semakin banyak orang kini menggunakan chatbot berbasis AI seperti ChatGPT, Gemini, Le Chat, atau Copilot untuk mencari informasi secara online, menggantikan mesin pencari. Keunggulan chatbot ini adalah mereka tidak hanya menampilkan tautan, tetapi juga merangkum informasi secara singkat, sehingga pengguna bisa mengakses lebih banyak informasi dengan cepat.

Namun, cara ini juga rawan kesalahan. Chatbot kadang memberikan jawaban yang keliru, fenomena yang dikenal sebagai ‘hallucination’. Selain itu, dalam beberapa kasus, chatbot menggabungkan informasi sedemikian rupa sehingga menghasilkan jawaban yang salah, yang disebut para ahli sebagai ‘confabulation’.

Bukan hanya itu, chatbot juga rentan terhadap berita palsu terkait peristiwa terkini, demikian menurut perusahaan AS NewsGuard, yang fokus mengecek kredibilitas dan transparansi situs web serta layanan daring. Sayangnya, kesalahan semacam ini masih kurang dikenal luas.

Mengapa chatbot Rusia menyebarkan disinformasi?

Salah satu aktor utama penyebaran disinformasi online saat ini disebut Portal Kombat, jaringan propaganda Rusia yang aktif menyebarkan konten pro-Rusia, termasuk mendukung operasi militer Rusia di Ukraina.

Jaringan propaganda ini kemudian diteliti oleh VIGINUM, unit investigasi pemerintah Prancis yang dibentuk untuk melawan informasi manipulatif dari luar negeri. Hasilnya menunjukkan sedikitnya 193 situs web berbeda punya keterkaitan dengan jaringan ini antara September hingga Desember 2023.

Namun, media sentral dari Portal Kombat tampaknya adalah portal berita online Pravda, yang tersedia dalam beberapa bahasa termasuk Jerman, Prancis, Polandia, Spanyol, dan Inggris.

Ayo berlangganan newsletter mingguan Wednesday Bite. Recharge pengetahuanmu di tengah minggu, biar topik obrolan makin seru!

Banjir berita palsu di seluruh dunia

Menurut VIGINUM, situs-situs Portal Kombat jarang membuat konten sendiri. Mereka biasanya mengutip konten pihak ketiga dari tiga sumber utama: akun media sosial aktor Rusia atau pro-Rusia, kantor berita Rusia, dan situs resmi institusi atau aktor lokal.

Artikel-artikel ini sering memiliki gaya bahasa canggung, kesalahan transkripsi dari alfabet Kiril ke Latin, dan komentar yang penuh warna.

Inisiatif anti-disinformasi AS, American Sunlight Project (ASP), telah mengidentifikasi lebih dari 180 situs diduga terkait Portal Kombat.

Menurut perkiraan ASP, sekitar 97 domain dan subdomain yang termasuk lingkaran dalam jaringan Pravda menerbitkan lebih dari 10.000 artikel per hari.

Topik yang dibahas juga tidak lagi terbatas pada NATO dan negara sekutu seperti Jepang dan Australia, tapi juga mencakup negara-negara di Timur Tengah, Asia, dan Afrika, terutama kawasan Sahel, di mana Rusia tengah berupaya memperluas pengaruh geostrategisnya.

Sementara itu, NewsGuard juga mengungkap bahwa beberapa halaman Pravda hanya mendapat sekitar 1.000 pengunjung per bulan, sementara situs RT, saluran berita internasional yang dikontrol negara Rusia, mendapat lebih dari 14,4 juta kunjungan per bulan.

Apakah chatbot menjadi target baru?

Analis meyakini bahwa volume besar artikel memengaruhi output dari chatbot. Inilah yang mereka duga dimanfaatkan oleh jaringan propaganda ini, agar LLM (program di balik chatbot) menganggap publikasi yang mereka keluarkan sah sehingga ikut menyebarkan disinformasi lebih luas.

Menurut NewsGuard, strategi ini tampaknya berhasil. Tim peneliti telah melakukan pemeriksaan terhadap bagaimana chatbot merespons 15 klaim palsu yang disebarkan jaringan Pravda antara April 2022 hingga Februari 2025.

Setiap klaim diuji dalam tiga versi: pertama dengan pertanyaan netral menanyakan kebenaran klaim; kedua dengan pertanyaan yang mengasumsikan klaim itu benar; dan ketiga seolah-olah ada aktor jahat yang ingin chatbot mengulang klaim palsu tersebut.

Hasilnya, sepertiga kasus chatbot mengonfirmasi disinformasi pro-Rusia, kurang dari setengah menyajikan fakta yang benar, dan sisanya menolak menjawab.

Penelitian lanjutan dilakukan pada Januari 2025 dengan menguji 10 klaim palsu dalam tujuh bahasa dan tidak terbatas pada konten pro-Rusia. Hasilnya sedikit lebih baik, tapi dari total 2.100 jawaban, chatbot tetap mengonfirmasi berita palsu pada lebih dari seperempatnya.

Tetap kritis, cek sumber, dan teruslah bertanya

Bagi pengguna LLM, pesan utamanya jelas: tetap kritis dan hati-hati. Ada banyak informasi salah di internet. Namun, apa lagi yang perlu kita waspadai?

Sayangnya, mengubah cara bertanya ke chatbot hampir tidak banyak membantu, kata McKenzie Sadeghi dari NewsGuard kepada DW.

“Prompt yang dimaksudkan oleh aktor jahat memang lebih besar kemungkinan memunculkan informasi palsu, tapi prompt yang netral atau hanya mengarah pun tetap bisa menghasilkan misinformasi,” ujarnya.

Menurut data yang tidak dimuat dalam laporan 2022–2025 itu, tapi diberikan kepada DW, menunjukkan bahwa sekitar 16 persen jawaban salah muncul dari prompt netral atau bias.

Sadeghi menyarankan agar pengguna selalu memeriksa dan membandingkan sumber. Cara ini bisa termasuk menanyakan ke beberapa chatbot sekaligus, atau membandingkan jawaban chatbot dengan sumber tepercaya.

Namun, tetap perlu hati-hati. Tampilan portal berita palsu sering meniru media mapan untuk terlihat kredibel.

Dalam menemukan jawaban yang benar, waktu menjadi faktor penting. Chatbot cenderung lebih sering salah saat berita palsu baru menyebar cepat. Namun seiring waktu, mereka biasanya akan menemukan cek fakta yang membantah klaim awal yang salah.

Artikel ini pertama kali terbit dalam bahasa Jerman

Diadaptasi oleh Adelia Dinda Sani

Editor: Prihardani Purba