Договорот помеѓу Европарламентот и Европскиот совет за „Актот за вештачка интелигенција“ (AI Act) ѝ дава на ЕУ правна рамка за најфутуристичката и најнапредната техногија во циркулација, хармонзирајќи ја притоа потребата да се развива иновативноста.

Според Европскиот парламент, ова е првиот закон во светот за вештачка интелигенција. Приоритет на Европскиот парламент беше да се осигура дека системите за вештачка интелигенција во ЕУ се безбедни, транспарентни, недискриминирачки и еколошки. Со цел да се спречат штетни исходи и отстапувања, сите процеси треба да бидат надгледувани од луѓе. Парламентот, исто така, сака да воспостави технолошки неутрална и единствена дефиниција за вештачка интелигенција која би се однесувала на идните системи. Новите правила воспоставуваат обврски за компаниите и корисниците во зависност од нивото на ризик што го претставува вештачката интелигенција (ВИ).

Меѓу главните новини на Европскиот акт за вештачка интелигенција е што строго се забранува какво било бодирање и класификација на луѓе врз основа на однесување, социо-економски статус или лични карактеристики, како и употреба на биометриски системи за идентификација во реално време и системи за биометриска идентификација од далечина, како што е препознавање на лица. Исклучок ќе постои само за полицијата, како што е употребата на далечински биометриски системи за идентификација во кои идентификацијата се одвива со значително задоцнување, а се користи по одобрението од суд за гонење на тешки кривични дела.

Системите што негативно влијаат врз безбедноста или основните права се сметаат за високо ризични и тука станува збор за биометриска идентификација и категоризација на физички лица; управување со критична инфраструктура; образование и стручно оспособување; вработување, управување со работници и пристап до самовработување; пристап и користење на основните приватни и јавни услуги; спроведување на законот; управување со миграцијата, азил и гранична контрола; и помош во правното толкување и примена на законот.

Што се однесува до генеративната вештачка интелигенција, како што е „Чет-ГПТ“, таа ќе мора да исполни голем број барања поврзани со транспарентноста. Ќе треба да содржи информации дека содржината е генерирана од вештачка интелигенција и дека е користен модел кој спречува создавање нелегална содржина, а мора да се објави и резиме на податоците заштитени со авторски права што се користат за обука на софтверот. Системите со ограничен ризик ќе треба да ги исполнат минималните барања за транспарентност што им овозможуваат на корисниците да донесуваат информирани одлуки.

Да се спречи дигитален „Див Запад“

Следните месеца и финализирањето на договорот ќе покажат дали 27-те членки ќе бидат доволно одлучни да ги применат нормите со цел заштита на своите граѓани. Дека прашањето е од најголема итност, нема никакви сомнежи. Пред очите на сите се опасностите од евентуален дигитален „Див Запад“, во услови кога правната држава е речиси тотално отсутна. Почнувајќи од булизмот и фемицидите, кои честопати се предизвикани од дигитални материјали преполни со сексуално и физичко насилство, преку „непријателските мешања“ од руски или кинески автори, посочени во документите на НАТО и ЕУ како директна закана по јавниот живот во демократските општества, па сѐ до лажните вести произведени од терористичките организации како ИСИС и Хамас, чија цел е лажење на јавноста и промовирање на сопствените каузи, а да не зборуваме и за сите антисемитски, исламофобни и расистички пораки кои лесно можат да се шират преку ВИ.

Секоја од овие закани ги доведува во ризик нашите лични слободи, ја ослабнува демократијата одвнатре, давајќи им инструменти на дигиталните варвари и криминалци да шират и размножуваат лаги, измами, агресивност и насилство. ЕУ со оваа правна рамка станува пионер во заштита на безбедноста и основните права на луѓето и на компаниите, во напорот да создаде дигитална рамнотежа помеѓу безбедноста и слободата.

Напредокот на вештачката интелигенција, нејзината исклученост од актуелната регулатива кога станува збор за употребата во воени цели, заедно со милитаризацијата на новите технологии, ќе создаде огромни главоболки за државите и ќе бара реорганизација на државните апарати со цел да преживеат.

Вештачката интелигенција ќе создаде нова нерамнотежа во светот

ВИ ќе произведе победници и победени на глобално ниво, без разлика што можеби ќе бидат потребни децении за нејзините ефекти да се конкретизираат. Тоа што е сигурно е дека ВИ ќе произведе ентузијастички можности за напредок на општеството, но може да произведе и технолошки диспаритет помеѓу регионите и деловите од светот. Со сигурност ќе создаде предизвик за консолидираните структури на моќ и ќе произведе нови нерамнотежи. Парадоксално, ќе произведе децентрализација каква што не познаваме, но и ќе ги зајакне и поедностави опасните форми на авторитаризам. На индивидуален план, вештачката интелигенција ќе го редизајнира општествениот договор помеѓу властите и избирачите. Радикално ќе го промени начинот на војување и ќе има огромни реперкусии врз националната безбедност. Геополитичките и геоекономските последици и промени ќе бидат огромни, растурајќи го актуелниот статус кво во меѓународниот поредок и односи.

Државите кои ќе бидат способни комплетно и брзо да ги применат новите технологии ќе обезбедат значителна економска и безбедносна предност, можеби дури и клучна. ВИ би можела да им обезбеди клучни инструменти за моделирање и пласирање на иднината на планетата.

Во последните 30 години, најголемиот глобален напредок на полето на ВИ беше остварен во рамки на пазарниот сектор. Тој „laissez-faire“ пристап на технологиски либеризам беше делумно овозможен од крајот на Студената војна. Но, денес сме сведоци на забрзана милитаризација на ВИ. Таа забрзана тенденција е засилена од погрешната перцепција дека ВИ фаворизира манталитет насочен кон напад и офанзивна војна. Стравот од противникот ги приморува одредени актери, пред сѐ САД и Кина, да воспостават вистинска трка во новите технологии, еден вид на Студена војна 2.0. Брзината со која напредува ВИ дополнително ја потхранува довербата помеѓу ривалските светски сили, до степен на најлошото сценарио, дека една од страните може да измисли откритие кое би ги променило односите на сила, нешто како атомската бомба за време на Втората светска војна.

Нашата епоха и онака е одбележена од огромна недоверба меѓу државите, која сега дополнително се манифестира преку сомнежите за растечка пролиферација на воени системи поддржани од ВИ и околу двосмисленоста на потенцијалната интеграција на новите технологии во командните системи и нуклеарната контрола. Со тек на време овие несигурности можат да произведат дестабилизација и да детерминираат воена ескалација. Како што пред Големата војна доминираше „култот на нападот“, денес доминира „култот на технологијата“ базиран на ВИ. Во светот на геополитиката и меѓународните односи мошне присутна е претпоставката дека офанзивните воени системи засилени со ВИ можат да обезбедат значителна предност, дали економска или воена.

Сѐ ова значи дека неверојатниот напредок на ВИ, ќе има пресудно влијание врз државите-нации, од аспект на национална безбедност и напад однадвор, загрозувајќи ја и физичката и психолошката способност на државата да обезбеди сигурност за граѓаните. Замислете еден информатички напад со ВИ, кој би угасил национална електрична мрежа или нуклеарна централа, би паразирал транспорт или болници, би удрил врз финансискиот систем... Информатички напад врз една држава, доколку би бил доволно обемен и силен, би можел да ја нагризе довербата кај граѓаните. Кога агресорот би искористил и дезинформациона кампања, би можел да фаворизира државен удар или да ја намали способноста на државата да одржува големи безбедносни сили. Тоа би зајакнало алтернативни сили во едно општество, локални или милициски, можеби парамилитарни структури, кои еднаш нагризена довербата на народот во државните апарати, би можеле да влијаат на безбедносните и економските политики на државата. Ова се наводно мошне неверојатни сценарија, но не и целосно неплаузибилни со развојот на ВИ, биг дата и квантните компјутери.

Не може иновација без регулација

Сведоци сме на забрзување на дигиталниот и економски натпревар во светот, кој иако сега е предводен од САД и Кина, веројатно ќе добие и други актери. Секторот на нови технологии не може да остане нерегулиран, нетранспарентен и приватен, односно мора низ геополитичка и геоекономска лупа да биде анализиран, со цел јасно да се одредат сите предности, ризици, цени и можности од трката која ни претстои. Политичките лидери и сили мораат да ја користат, но и да ја надгледуваат интеграцијата на новите технологии, низ дијалог меѓу себе, научниците и пошироката јавност.

Технолошките стратегии не може да бидат исклучени од стратешките, безбедносните и економските резони, каде вториве треба да се над првите. Од тој аспект, технолошките компании денес имаат акумулирано моќ поголема од многу држави, па токму затоа, владите или наднационалните организации мора да имаат контрола или инструменти за следење на приватните цели и амбиции.

Регулирањето на ВИ е предизвик кој допрва почнува, но мора да се воспостави рамнотежа помеѓу неинтервенционистички пристап и супервизија која нема да го ограничи прогресот. Треба да се избегнуваат и месијанските ветувања на магнатите, но и апокалиптичните визии на катастрофистите. Потребен е прагматичен пристап, каде иновациите во ВИ ќе бидат дел од националната и наднационалната моќ, како екстензија и фузија на тврдата и меката моќ. Дури и ако дигиталната сфера се подели бинарно, како и политичките системи, на демократски и автократски, тоа треба да е продукт на рационални и свесни одлуки, а не на комерцијална невидлива рака. Тоа е најкритичниот предизвик во следната декада. Предолго иновацијата трчаше слободно, без регулација, сега е момент повторно да подлежи на геополитичките, стратешките, економските и национални резони.

Оваа колумна го изразува личното мислење на авторот и може да не се совпаѓа со редакцискиот став на македонската редакција на Дојче Веле или со ДВ во целина.