Fascinantno i pomalo zastrašujuće: kineska aplikacija Zao od ljudi u par sekundi stvara filmske zvezde. Jedan selfi je dovoljan da tuđe lice zamenite svojim – recimo, umesto Leonarda Dikaprija vaše lice gleda sa pramca „Titanika“.

Tehnologija koju koristi Zao poznata je kao Deep Fake – gde Fake znači manipulaciju, a Deep je uzeto iz sintagme Deep Learning koja označava sposobnost veštačke inteligencije da sama uči i stalno postaje sve bolja.

Jedino u Kini se do ovakve aplikacije može besplatno. Korisnici doduše plaćaju svojim podacima te im se stalno prikazuju ciljane reklame. U najkraćem roku je Zao izazvao pomamu. Pre desetak dana je to postala najpopularnija nova aplikacija u zemlji. Društvene mreže poput Veiboa i WeChata bile su preplavljene montažama sa ove aplikacije.

Zao je za sada najbolja aplikacija ovog tipa na tržištu, tvrde stručnjaci. Doduše, još uvek se prevara može praktično odmah razaznati. Lica još deluju poput maski ili je slika razmazana. Osim toga je zamena lica još ograničena na mali broj filmskih scena koje postoje u datoteci aplikacije.

Dakle ne možete pomoću pametnog telefona za par sekundi svoje lice postaviti na bilo čije telo. Još ne možete.

Profesionalci su falširanim govorima političara već dokazali da je ovu prevaru moguće izvesti i perfektno. To još traži mnogo rada, ali pokazuje šta će tehnika ubuduće moći kao od šale. Mogućnosti zloupotrebe su uznemirujuće: uticaj na izbore, iznude pomoću lažnih pornografskih snimaka, a lažne vesti bi dobile na masi i uverljivosti.

Deep Fake predstavlja „sasvim novi nivo dezinformacije“, rekao je čak i šef Fejsbuka Mark Zakerberg.

Čak i u Kini koja je prijateljski nastrojena prema novim tehnologijama su ovakve igračke uznemirile korisnike. Novinari pojedinih magazina posvećenih tehnologiji pročešljali su uslove korišćenja na koje se pristaje kada se instalira aplikacija Zao i primetili da se tu traži veoma opušten odnos prema privatnosti. Stavovi tih novinara nisu cenzurisani, što se u Kini često može desiti, i našli su put do široke javnosti.

Firma Momo koja je razvila aplikaciju – već je vlasnica jedne od najpopularnijih aplikacija za pronalaženje partnera – pri skidanju Zaoa traži da korisnici pristanu da joj prebace kompletna autorska prava na sve fotografije koje upotrebe u aplikaciji. Momo ima pravo da falsifikovane snimke čak ustupa bila kome o čemu se korisnik i ne obaveštava.

Za samo nekoliko sati su korisnici komentarima izbombardovali platforme sa kojih se skidaju aplikacije. „Sklonite ovu aplikaciju sa mreže pre nego što naškodi našem društvu“, napisao je jedan.

I pre nego što su nadležne institucije stigle da se pozabave temom, sama firma je pod pritiskom javnosti promenila uslove korišćenja. Sada svi korisnici moraju dati eksplicitno odobrenje ako žele da se njihovi snimci i lica koriste negde van aplikacije.

Doskora je u Kini glad za novotarijama bila daleko prisutnija od brige za zaštitu podataka. To se polako menja. I dalje se čini da je manji problem strah od „providnog građanina“ koji više nema tajni, a više strah da bi korišćenjem lica moglo da se pristupi nečijem pametnom telefonu i samim tim – njegovom bankovnom računu.

Jer u Kini su softveri za prepoznavanje lica uznapredovali kao nigde na svetu. U zemlji sa 800 miliona korisnika interneta i 1,4 milijarde pametnih telefona mnogi već rutinski uz pomoć lica podižu novac sa bankomata ili plaćaju račune na internetu. Mnogi korisnici su instiktivno prepoznali rizik od krađe identiteta. Uprkos otvorenosti ka novim tehnologijama – većina ljudi ne želi da se igra svojim novcem.

Tehnološki osvešćeni Kinezi ne reaguju ovako žestoko po prvi put. Prošle godine je tako kritikovan Robin Li, osnivač najpoznatijeg kineskog pretraživača Baidua, jer je u jednom intervjuu rekao da su Kinezi spremni da zanemare privatnost na konto udobnosti i efikasnosti. Hiljade građana su mu protivrečile, nazivale ga besramnim i tražile da ne govori u njihovo ime.

No Robin Li je sa ovom izjavom ipak uglavnom bio u pravu.

Sada kao da se stvari pomalo menjaju. Gomila se broj internet-prevara sa kojima se kineske službe teško nose. Korisnici su kivni i to otvoreno pišu po društvenim mrežama. Pod tim pritiskom je pre dve godine donet zakon o sajber-bezbednosti. On obavezuje firme da štite podatke svojih korisnika, uklanjaju protivzakonite sadržaje, prikupe dokaze ako treba i predaju ih policiji.

Taj masovni sistem samoprismotre već funkcioniše u praksi. Zakon broji 79 članova, samo 20 manje od sličnog zakona u EU, ali je daleko manje jasan – posebno kada se radi o tome koliko država može da pristupa podacima.

Pokret za zaštitu podataka je sve jači i mnogi internet-giganti u Kini ne žele da ih pooštravanje zakona iznenadi. Tako je Alipay, najveći sistem za plaćanje putem telefona, smesta saopštio da manipulisani snimci sa aplikacije Zao ne mogu da prevare njihov softver za prepoznavanje lica. WeChat, aplikacija za razmenu poruka, sada automatski blokira snimke sa Zaoa.

Vlast sa jedne strane želi da zna šta rade njeni građani. Sa druge strane navodi na vodenicu firmi kada im omogućava da ogromne količine podataka koriste za dalji razvoj veštačke inteligencije ili platformi za e-trgovinu. To sve treba da pomogne Kini u dolasku na svetski tehnološki i ekonomski tron. Danas nije zamislivo da se iko može zvati svetskom silom ukoliko nije napredan u ovakvoj tehnologiji.

Tako nastaje kvadratura kruga: radoznalost i napredak naspram brige za zaštitu podataka. Pri čemu je tas na kojem je radoznalost u Kini i dalje mnogo teži. Uprkos tome, rastu i brige. Zakon o sajber-bezbednosti biće proširen tako da se zaštite biometrijski podaci – poput lica. Nejasno je međutim da li će i država smanjiti svoj upliv u privatnost ili će se to odnositi samo na firme.

Jedno je ipak izvesno: nove tehnologije će se u Kini i dalje isprobavati sa velikim oduševljenjem. Osećaj za zaštitu podataka dolazi tek nakon tog oduševljenja. To su bez sumnje podaci koje bi da ima i država i to se ne može sprečiti.

No i vlast u Pekingu zna da bi bilo kontraproduktivno cenzurom gušiti debatu o zloupotrebi podataka. Tako je bilo i u debati o zaštiti životne sredine. Vlast u Kini nije demokratski birana, ali reaguje kada većina ljudi veruje da je nešto prevršilo svaku meru.

Čitajte nas i preko DW-aplikacije za Android