U malom fiktivnom filmu koji su protivnici autonomnog oružja snimili i postavili na YouTube i koji je dosad vidjelo više od dva i pol milijuna ljudi, minijaturni se dronovi s velikom efikasnošću ustremljuju na ciljeve koje su im odabrali algoritmi i nemilosrdnošću odlično funkcionirajući strojevi ubijaju osobe koje su identificirane kao cilj. U tom se filmu radi o političkim protivnicima nekog imaginarnog režima.

Film je, doduše, imaginaran, ali daleko od stvarnosti on nije. Prema riječima Thomasa Küchenmeistera, jednog od međunarodno istaknutih protivnika borbenih robota, "potreban je samo još mali korak". Oružje koje raspolaže s određenim stupnjem autonomnosti danas je već standard koji se može vidjeti na mnogim sajmovima naoružanja. Primjer: rakete koje same traže moguće ciljeve i na kraju same odlučuju koji će od njih biti uništen. Načelno njima, doduše, još uvijek upravljaju ljudi, ali za konkretan napad u pravilu čovjek više ne daje neposrednu naredbu, i kada je započeo, više ga ne može zaustaviti. Küchenmeister napominje da tu "jasno razlikovanje vojnih i civilnih vozila takvo oružje uopće ne može ostvariti." A to je jedno od osnovnih načela međunarodnog prava u ratnim situacijama.

Sve veći stupanj autonomije različitih sustava oružja povezan je naravno sa sve većim napretkom u razvoju tzv. umjetne inteligencije i robotike. U međuvremenu su strojevi u stanju učiti i međusobno komunicirati, slično ljudskom mozgu. Oružje postaje sve brže i efikasnije, dok se istovremeno smanjuje opasnost za vojnike - kombinacija koja je izuzetno privlačna vojskama diljem svijeta. No tu i granice između mašine i čovjeka postaju nejasne: dok su roboti koji samostalno pronalaze i uništavaju mine prihvatljivi, roboti koji samostalno pronalaze i ubijaju ljude teško se mogu dovesti u suglasje s odredbama međunarodnog prava.

Upravo to je tema o kojoj se na međunarodnoj razini raspravlja još od 2014. godine, u okviru pregovora o Konvenciji o ograničenju konvencionalnog naoružanja (CCW). Nova runda pregovora se održava u Ženevi (27. - 31. kolovoz), a glavna tema su ubojiti autonomni oružani sustavi ("Lethal Autonomous Weapon Systems", LAWS). S obzirom na brz razvoj tehnologije, puno vremena za dogovor nema.

O kakvom se oružju uopće radi?

Službeni naziv je Smrtonosni autonomni oružani sustavi (Lethal Autonomous Weapon Systems, LAWS). Često se pod tim podrazumijevaju borbeni roboti, dronovi, podmornice bez posade i vozila bez vozača. Kritičari uglavnom govore o robotima-ubojicama.

Što se pod time podrazumijeva?

Opća definicija ne postoji. Međunarodni komitet crvenog križa govori o oružju koje samostalno, dakle bez utjecaja ljudi, pronalazi i napada svoje ciljeve.

Postoji li već takvo oružje?

U potpunosti autonomni sustavi koji bi ubijali ljude još ne postoje. Ali s obzirom na vrlo brz razvoj umjetne inteligencije i robotike, za očekivati je da je to samo još pitanje vremena.

Što već sada postoji?

Mnoga oružja koja se danas već koriste raspolažu s ograničenim autonomnim funkcijama. Već danas postoje rakete koje samostalno pronalaze i napadaju ciljeve. A bezposadne podmornice traže mine. Osim toga su dronovi već danas u stanju spojiti se u jata i pojedine zadaće samostalno izvršavati.

Koji su scenariji u igri?

Moguće je borbenom robotu dati na raspolaganje podatke o pojedinoj osobi koju on potom sam pronalazi i ubija - bez daljinskog upravljanja, kao što je trenutno slučaj s velikim dronovima, primjerice u Afganistanu. Autonomni sustavi upravljaju sami sobom i ne trebaju naredbu za pucanje. Nitko ne zna kada će oni krenuti u napad.

Što je tu novo?

To je promjena paradigme vođenja rata, jer u tom slučaju odluku o životu i smrti ne bi donosio čovjek, već stroj. Činjenica da je čovjek taj stroj proizveo i programirao, tu ne mijenja ništa.

Što kaže humanitarno međunarodno pravo?

Jedna od najvažnijih odredbi je da se jasno mora razlikovati tko je borac a tko civil. Civili i civilni objekti se moraju koliko je god moguće štedjeti. Autonomni oružani sistemi to ne mogu razlikovati. Zbog toga zagovornici međunarodnog prava traže da uvijek čovjek mora imati zadnju riječ. ("Man in the loop"). 

Kako se razvijaju pregovori?

Međunarodna je zajednica podijeljena u tri tabora: dok se jedni zalažu za zabranu takvog oružja, drugi su protiv. Treća grupa zemalja, među kojima se nalaze Njemačka i Francuska, pokušava pronaći kompromisno rješenje. Iako u koalicijskom dogovoru jasno stoji da vlada takvo autonomno oružje odbacuje, za pregovaračkim stolom u Ženevi Njemačka ne nastupa odlučno. Predstavnici Berlina se zalažu za neobaveznu političku deklaraciju kao predstupanj nekog kasnijeg ugovora o zabrani.

Zasad dogovor nije na horizontu. A vremena je sve manje, upozorava američki informatičar Stuart Russell koji već 35 godina istražuje na polju umjetne inteligencije. On naglašava kako već sada različite vojske eksperimentiraju s jatima dronova, dok druge - između ostalih i Bundeswehr - razvijaju sredstva obrane.

Čitajte nas i preko DW-aplikacije za Android