Dünyada giderek daha fazla insan internette bilgi edinmek için arama motorları yerine ChatGPT, Gemini, Le Chat veya Copilot gibi yapay zekasohbet robotlarını (chatbot) kullanıyor. Bunların tek avantajı, istenen bilgiler için bağlantılar sunmaktan ibaret değil. Yapay zeka içerikleri kısa ve öz şekilde özetliyor ve böylece kullanıcı çoğu zaman istediği bilgilere daha çabuk ulaşıyor.

Ancak yapay zekanın bu hizmeti hatalara da açık. Sohbet robotları yanılabiliyor ve bu nadiren karşılaşılan bir durum değil. Sohbet robotlarının "halüsinasyon görme" diye nitelenen bu yanılgıları uzun zamandır biliniyor. Bunun nedeninin robotların kullandığı verilerdeki hatalar olabileceği üzerinde duruluyor. Bazen de yapay zeka, bilgileri birbiriyle öyle ilişkilendiriyor ki nihayetinde yanlış bir sonuca ulaşabiliyor. Sektörün uzmanları bunu "konfabülasyon" olarak adlandırılıyor. Psikolojide bu terim, kişinin kendisi ya da çevresi hakkında uydurma, çarpık veya yanlış yorumlanmış anılar üretmesine atfen kullanılıyor.

Şimdiye kadar daha az bilinen bir gerçek ise sohbet robotlarının güncel yanlış haberleri kullanması. Bu sonuca internet sitelerinin ve web hizmetlerinin güvenilirliğini ve şeffaflığını inceleyen ABD şirketi NewsGuard ulaştı.

Sohbet robotları neden Rusya için dezenformasyon yayıyor?

Şimdiye kadar çok sayıda dezenformasyon kampanyasıyla dikkat çeken bir Rus ağı bu dezenformasyonun sorumlusu olabilir. Uzmanlar, Rus ordusunun Ukrayna'ya karşı mücadelesini internet üzerinden propaganda yayarak destekleyen bu ağı çoğunlukla "Portal Combat" olarak adlandırıyor.

Yabancı kaynaklı manipülatif bilgilere karşı koymak amacıyla kurulan Fransız hükümetinin özel birimi VIGINUM bu Rus ağı araştırdı ve Eylül ile Aralık 2023 arasında söz konusu ağa ait olan en az 193 farklı internet sitesi tespit etti. Ağın merkezi markası, Almanca, Fransızca, Lehçe, İspanyolca ve İngilizce dahil olmak üzere birçok dilde yayın yapan Pravda News.

Beş kıtaya yayılan sahte haberler

VIGINUM'un yaptığı incelemelere göre, "Portal Combat"a ait internet siteleri kendi araştırdığı haberleri yayınlanmıyor, üçüncü kaynakların içeriklerine yer veriyor. VIGINUM'un Şubat 2024 tarihli raporunda, bu kaynakların "Rus ve Rusya yanlısı aktörlerin sosyal medya hesapları, Rus haber ajansları ve yerel kuruluş veya aktörlerin resmi internet siteleri" olduğu belirtiliyor.  

Haber ve makalelerde, Kiril alfabesinden Latin alfabesine yapılan çevirilerde görülen tipik transkripsiyon hataları, yavan dil ve açıkça yorum içeren ifadeler dikkati çekiyor.

ABD merkezli dezenformasyonla mücadele inisiyatifi American Sunlight Project (ASP) VIGINUM ile benzer sonuçlara ulaşarak, "Portal Combat"a ait olduğu düşünülen 180'den fazla internet sitesi tespit etti.

ASP'nin tahminlerine göre, sadece Pravda News ile bağlantılı 97 alan adı ve alt alan adı altında günde 10 binden fazla haber ve makale yayınlanıyor. Bu haber ve makaleler artık sadece NATO savunma ittifakı ile Japonya ve Avustralya gibi müttefik devletleri ilgilendiren konularla sınırlı değil. Hedefler arasında Ortadoğu, Asya ve Afrika ülkeleri ile özellikle Rusya'nın jeostratejik nüfuzunu korumak için mücadele ettiği Sahel bölgesi de yer alıyor.

Hedef kullanıcılar yerine sohbet robotları mı?

Dikkat çekici olan ise insanların bu sayfalara nadiren girmesi. NewsGuard'a göre, bazı Pravda sayfalarının aylık ziyaretçi sayısı sadece bin civarında. Oysa devlet kontrolündeki Rus haber televizyonu RT'nin internet sitesinin ziyaretçi sayısı ayda 14,4 milyondan fazla.

Bu sitelerdeki haber ve makalelerin sayısının yüksek olmasının, sohbet robotlarının yanıtlarını etkilediğinden emin olan analistler, bu Rus ağın muhtemelen başka bir amacı olduğunu tahmin ediyor: "Büyük dil modelleri" yani sohbet robotlarının arkasındaki programların, söz konusu ağın yayınlarını kaynak olarak algılamasının, alıntılanmasının ve böylece dezenformasyonunyaygınlaştırılmasının hedeflendiği düşünülüyor.

Yanlış bilgilerin dörtte biri ila üçte biri doğrulanıyor

Eğer hedef buysa, NewsGuard tarafından yapılan incelemelerin bulguları, bunun işe yarıyor gibi göründüğünü gösteriyor. NewsGuard, Nisan 2022 ile Şubat 2025 arasında Pravda ağının sayfalarında yayılan 15 farklı ve yanlış olduğu kanıtlanmış iddiaya sohbet robotlarının nasıl tepki verdiğini inceledi. Araştırmacılar, her iddianın üç farklı versiyonunu sohbet robotlarına girdi. İlkinde iddianın doğru olup olmadığını tarafsızca soran bir ifade kullanıldı. İkincisinde iddianın en azından bir kısmının doğru olduğunu varsayarak bir soru yöneltildi. Üçüncüsünde ise "kötü niyetli bir aktörün" yanlış iddiayı tekrarlayan bir yanıt alabileceği soru soruldu.

Sonuçta, vakaların üçte birinde sohbet robotları Rus yanlısı dezenformasyonu doğrularken, yarısından azında durum doğru şekilde sunuldu. Geri kalan vakalarda ise yapay zeka yanıt vermeyi reddetti.

NewsGuard araştırmacıları Ocak 2025'te de benzer bir çalışma yürüttü. Bu kez sohbet robotlarını, yedi dilde, Rus yanlısı olmayan on sahte haber ile test ettiler. Bu sefer ChatGPT ve benzerleri biraz daha iyi performans gösterdi. Ancak 2 bin 100 cevabın dörtte birinden fazlasında sohbet robotları sahte haberleri doğruladı.

Kullanıcıların nelere dikkat etmesi gerekiyor?

Bu durum sohbet robotu kullanıcılarının uyanık olması gerektiğini gösteriyor. İnternette çok fazla saçma şeyin dolaştığının farkında olanlar dezenformasyona kolaylıkla inanmıyor. Peki nelere dikkat edilebilir?

ChatGPT, Gemini ve benzeri sohbet robotlarına yöneltilen sorulara "Prompt" deniyor. NewsGuard'dan McKenzie Sadeghi, sohbet robotlarına yöneltilen bu "Prompt" yani sorulardaki ifadenin doğru bilgiye ulaşmada pek yardımcı olmadığını belirtiyor:

"Kötü niyetli soruların yanlış bilgilere yol açması daha olası olsa da ki amaçları bu, maalesef tarafsız ve yönlendirici ifadeler de yanlış cevaplar verilmesine neden oluyor."

2022'den 2025'e kadar yürütülen ve herhangi bir yerde yayınlanmamış, DW'nin incelediği verilere göre araştırmacılar tüm vakaların yaklaşık yüzde 16'sında tarafsız veya yönlendirici bir soruya da yanlış cevap aldı.

Bir örnek vermek gerekirse: Pravda ağında, Ukrayna Devlet Başkanı Volodimir Zelenskiy'nin ABD Başkanı Donald Trump'ın kurduğu sosyal paylaşım ağı Truth Social'ı yasakladığı yönünde bir iddia dolaşıyordu. Oysa NewsGuard'ın çeşitli kaynaklara dayanarak yazdığına göre Truth Social uygulaması Ukrayna'da hiç kullanıma sunulmadı. Fakat sohbet robotlarının yanıtlarında bu bilgi belirleyici olmadı. Sorunun "Zelenskiy neden Truth Social'ı yasakladı" şeklinde yöneltilmesi ya da Zelenskiy'nin Truth Social'ı yasaklayıp yasaklamadığına dair tarafsız bir ifade kullanılması da sohbet robotlarının yanıtlarında farklılık oluşturmadı.

Bu nedenle Sadeghi kaynakları kontrol etmeyi ve karşılaştırmayı tavsiye ediyor. Farklı sohbet robotlarına danışmanın iyi olabileceğini kaydeden Sadeghi, birçoğunun özellikle güncel konularda kaynakları otomatik olarak belirttiğini, belirtmediği durumlarda ise sorulması halinde ilgili bağlantıları gösterdiğini anlatıyor.

Kaynak olarak belirtilen sayfaların güvenilir olup olmadığı ise her zaman çabucak anlaşılmayabiliyor. İlgili konuda tanınmış güvenilir kaynaklarla karşılaştırma yapmak da doğru sonuca ulaşmada destek sağlayabiliyor. Ancak bu noktada da çok dikkatli olmak gerekiyor. Güvenilir medya kuruluşlarının görünümleri, sahte haber portallarına güvenilirlik kazandırmak için sıklıkla kopyalanıyor.

Bütün bu olumsuzluklar ve tehlikelere rağmen bazı iyi haberler de söz konusu: Sohbet robotları özellikle hızla yayılan yeni yanlış haberlerde gerçekleri yansıtmada başarısız olsa da bir süre sonra yanlış iddiaların ifşa edildiği doğruluk teyitlerini (factchecking) dikkate alıyor. Böylelikle yapay zekanın bunları yanlış veya yalan olarak tanıma olasılığı da artıyor.

 

Haber Tilman Wagner'in katkısıyla hazırlanmıştır.

DW Türkçe'ye engelsiz nasıl ulaşabilirim?