"AI hurahisisha mambo mengi - kwa bahati mbaya pia ubaguzi." Hivyo ndivyo Ferda Ataman, Kamishna huru wa serikali ya Ujerumani wa Kupambana na Ubaguzi, alivyotathmini uwezo wa akili bandia (AI) katika mkutano na waandishi wa habari mjini Berlin Jumatano asubuhi.

Alikuwepo kuwasilisha ripoti ya kitaalamu iliyosubiriwa kwa muda mrefu, ambayo madhumuni yake yalikuwa kuwalinda watu vyema dhidi ya uwezekano wa kubaguliwa wa mifumo ya mamauzi ya kujifunzia ya algorithm, ADM.

Ripoti ya Ataman ilitaja mifano mingi ya matumizi ya aina hii ya AI ambayo tayari inatumika leo: Taratibu za maombi, mikopo katika benki, makampuni ya bima, au ugawaji wa mafao ya serikali kama vile ustawi wa jamii.

Jinsi AI inavyozalisha chuki

"Hapa, taarifa za uwezekano zinatolewa kwa msingi wa sifa za kikundi," afisa huyo wa kupinga ubaguzi alisema. "Kinachoonekana kuwa na lengo kwa mtazamo wa kwanza kinaweza kuzalisha chuki moja kwa moja na itikadi potofu. Kwa hali yoyote tusipuuze hatari za ubaguzi wa kidijitali."

Hadithi za kutisha zimeandikwa vizuri: Mnamo mwaka wa 2019, zaidi ya watu 20,000 nchini Uholanzi walishuhudia kile ambacho matumizi ya teknolojia inayotajwa kuwa thabiti inaweza kusababisha: Waliamriwa kimakosa kurudisha fedha za watoto chini ya tishio la kutozwa faini kubwa.

Soma pia: Tawala za Mashariki ya kati na teknolojia ya akili bandia

Kanuni ya kibaguzi katika programu ilihusika kwa sehemu, na watu wenye uraia wa nchi mbili waliathiriwa haswa.

Ili kuzuia visa kama hivyo, Ataman anataka makampuni yafanye kazi kwa uwazi. Kwa maneno mengine, anataka kampuni zinazotumia AI kutoa habari kuhusu data iliyotumiwa na jinsi mfumo wao unavyofanya kazi.

Katika ripoti yake ya kitaalamu, iliyoandikwa na msomi wa sheria Indra Spiecker na mwenzake Emanuel V. Towfigh, tabia ya mifumo ya msingi wa AI inaelezewa kama "sanduku nyeusi." Kwa wale walioathirika, haiwezekani kufuatilia sababu za kuwa duni.

"Jambo mahususi la matumizi ya mifumo ya ADM ni kwamba uwezekano wake wa ubaguzi unaweza kuwa tayari uko katika mfumo wenyewe," ripoti inasema. Sababu inaweza kuwa seti ya data ambayo ni mbovu, isiyofaa kwa madhumuni yaliyokusudiwa, au iliyopotoshwa.

Kipengele kinachoweza kuwa cha ubaguzi: Code ya posta

Maana ya hii inaonyeshwa katika ripoti hiyo kwa mifano ya kawaida: "Tabia ya msimbo wa posta, kwa mfano, ambao wenyewe si wa ubaguzi, unageuka wakala wa tabia ya asili ya kibaguzi iliyokatazwa, kwa sababu, kwa mfano, wahamiaji wengi wanaishi wilaya fulani ya jiji kwa sababu za kihistoria."

Hii inaweza kuwa na matokeo mabaya kwa watu wanaoishi huko. Kwa mfano, wakituma maombi ya mikopo, wanaweza kuonwa kama hatari za kifedha ambao huenda wakashindwa kulipa madeni yao.

Soma pia: Jinsi gani serikali zitadhibiti teknolojia ya akili bandia?

Wataalamu huuita "ubaguzi kupitia takwimu" - desturi ya kuhusisha sifa zinazopatikana kwa njia za takwimu, zilizojengewa kwenye msingi wa thamani halisi au zinazodhaniwa za wastani za kikundi.

Ataman atoa wito kwa chombo cha usuluhishi

Kwa kesi hizi na nyingine, Kamishna wa Shirikisho wa Kupambana na Ubaguzi anataka kuanzisha ofisi ya upatanisho katika wakala wake, na pia anataka Sheria ya Jumla ya Utendewaji wa Usawa (AGG) iongezewe na utaratibu wa lazima wa upatanisho.

Ili kuonyesha udharura wa kuchukua hatua, anataja mifano zaidi ya tahadhari kutoka nchi nyingine: Nchini Marekani, kanuni za algorithm zilizopangwa kimakosa katika kadi za mkopo za Apple ziliwabagua wanawake kwa maksudi wakati wa kutoa mikopo.

Soma pia:Ulaya kukabiliana na teknolojia ya akili bandia 

Nchini Australia, baada ya hitilafu katika mfumo wa kufanya maamuzi unaotegemea AI, mamia ya maelfu ya watu walilazimishwa kurejesha mafao ya ustawi ambayo walistahili kupata.

Hitimisho la Ataman kutoka ripoti hiyo ni rahisi: "Mustakabali ni wa kidigitali. Lakini haupaswi kugeuka jinamizi. Watu lazima waweze kuamini kwamba hawatabaguliwa na AI." Na kwamba wanaweza kujitetea ikiwa itatokea. Ndio maana, alisema, sheria za wazi na zinazoeleweka zinahitajika.

Makala hii ilitafsiriwa awali kutoka Kijerumani