Utafiti huu ni makala ya utafiti iliyochapishwa katika nyanja za maadili ya akili bandia na sheria ya akili bandia. Kitaaluma, uko katika makutano ya sheria, utawala wa akili bandia, maadili, sera ya umma na falsafa ya teknolojia. Makala inapendekeza jibu la swali “nani anapaswa kuwajibika?” pale mifumo ya akili bandia inaposababisha madhara, si kwa kuanzia kwa msanidi programu bali kwa kuanzia kwa mtumiaji au mtekelezaji.

Dhana kuu ya utafiti ni “user-centric governance”, yaani utawala unaomweka mtumiaji katikati. Hapa “mtumiaji” haimaanishi tu mtumiaji wa kawaida binafsi, bali mtu, taasisi au shirika linaloweka mfumo wa akili bandia katika matumizi ndani ya eneo maalum. Makala pia hutumia neno “deployer” kwa wahusika hawa. Deployer ni upande unaotumia mfumo wa AI katika muktadha fulani, kuuweka katika michakato ya maamuzi au kutekeleza matokeo yake.

Maudhui haya si ushauri wa kisheria. Lengo ni kueleza kwa Kiswahili rahisi mjadala wa kisheria na kimaadili wa makala na kufanya uhusiano kati ya uwajibikaji wa AI, usimamizi wa binadamu, wajibu wa msanidi na uwajibikaji wa mtekelezaji ueleweke.

Makala inasema kwamba kuweka uwajibikaji wote kwa wasanidi pale mifumo ya AI inapodhuru huleta matatizo ya kinadharia na ya vitendo. Kwa mujibu wa mwandishi, AI haipaswi kutazamwa kama mhusika huru anayebeba kwa yenyewe wajibu wa kisheria na kimaadili, bali kama chombo chenye nguvu kinachotumiwa na binadamu. Kwa hiyo uwajibikaji mkuu unapaswa kutafutwa kwa watu au taasisi zinazoweka mfumo katika matumizi ndani ya muktadha fulani na kufanya maamuzi kwa kutegemea matokeo yake.

Hoja kuu ya utafiti ni hii: AI ni chombo; athari ya kijamii ya matokeo ya chombo hicho hutegemea nani anakitumia, wapi, kwa kusudi gani na chini ya usimamizi gani. Namna daktari wa upasuaji anavyotumia kisu, dereva anavyoendesha gari au kampuni inavyoweka mfumo wa maamuzi ya kiotomatiki katika matumizi huamua kitovu cha uwajibikaji. AI inapaswa kutazamwa kwa mantiki hiyo hiyo.

Mwandishi anaeleza mbinu hii kwa mfano wa utawala wa “distributed yet centered”, yaani “uliogawanywa lakini wenye kitovu”. Kwa mujibu wa mfano huu, wasanidi, watoa huduma, taasisi, wataalamu na watumiaji wa mwisho katika mfumo wa AI wana wajibu tofauti; lakini kitovu cha uwajibikaji kinapaswa kubaki kwa mtekelezaji anayeuweka mfumo katika matumizi ndani ya muktadha halisi.

Tatizo Ni Nini?

Mifumo ya akili bandia sasa inatumika katika maeneo mengi yenye athari kubwa, kuanzia maombi ya mikopo na ajira hadi ugawaji wa rasilimali za afya na tathmini za hatari katika haki ya jinai. Mifumo hii wakati mwingine inaweza kutoa matokeo yasiyo sahihi, ya kibaguzi, pungufu au ya kupotosha. Katika hali hiyo swali kuu hujitokeza: nani anapaswa kuwajibika kwa madhara haya?

Katika mijadala ya kawaida uwajibikaji mara nyingi huelekezwa kwa msanidi, yaani upande uliobuni au kutengeneza modeli ya AI. Kwa mtazamo wa kwanza hili linaonekana la mantiki kwa sababu miundombinu ya kiufundi hujengwa na msanidi. Hata hivyo, makala inasisitiza kwamba madhara ya AI hayasababishwi kila wakati na kosa la kubuni kiufundi. Mfumo ule ule unaweza kutoa matokeo tofauti kabisa katika taasisi tofauti, kwa watumiaji tofauti, katika hali tofauti za data na viwango tofauti vya usimamizi.

Hapo ndipo tatizo la “responsibility gap”, yaani pengo la uwajibikaji, hutokea. Pengo la uwajibikaji ni hali ambapo madhara yanayosababishwa na mifumo ya AI ya hali ya juu hayawezi kuhusishwa wazi na uamuzi mmoja wa binadamu na hatimaye hakuna anayewajibika kikamilifu. Makala inadai kwamba njia ya kuziba pengo hili si kuiona AI kama mhusika huru, bali kuzingatia maamuzi ya watu na taasisi zinazoitumia.

Tatizo jingine ni anthropomorphism, yaani tabia ya kuipa AI sifa za kibinadamu. Mifumo ikielezwa kuwa “inajifunza”, “inaamua” au “inafikiri”, watu wanaweza kuhamisha uwajibikaji kutoka kwa taasisi inayotumia mfumo na kuupeleka kwa mashine yenyewe. Makala inasema lugha hii hufanya uwajibikaji kuwa usio wazi.

Mbinu Inapendekeza Nini?

Makala inapendekeza kwamba AI itazamwe kisheria na kimawazo katika kundi la “chombo”. Mbinu ya chombo inasema kwamba uwajibikaji unapaswa kuhusishwa si na chombo chenyewe, bali na binadamu au taasisi inayokitumia. Kuanzia sheria ya Roma hadi sheria ya kisasa ya madhara, kuna mantiki inayofanana: chombo hakina nia chenyewe; mtumiaji wake ana wajibu wa uangalifu.

Mwandishi anaweka utawala wa AI unaomweka mtumiaji katikati juu ya kanuni tatu kuu: ukaribu, udhibiti na utaalamu. Kanuni ya ukaribu inasema kwamba mhusika aliye karibu zaidi na madhara na mwenye nafasi kubwa ya kuyazuia anapaswa kubeba uwajibikaji mkubwa zaidi. Katika muktadha wa AI, mhusika huyu mara nyingi ni taasisi inayotumia mfumo katika eneo maalum.

Kanuni ya udhibiti inasema kwamba uwajibikaji unapaswa kufuata mamlaka halisi ya kufanya maamuzi na uwezo wa kuathiri matokeo. Maamuzi ya kutumia au kutotumia mfumo wa AI, kuuweka katika muktadha gani, kuweka vizingiti gani, kupanga usimamizi wa binadamu kwa namna gani na namna ya kushughulikia matokeo mara nyingi hufanywa na upande wa utekelezaji.

Kanuni ya utaalamu huangalia nani ana maarifa ya sekta yanayohitajika kuzuia hatari. Msanidi wa AI anaweza kuielewa vizuri mifumo ya kiufundi; lakini katika afya, fedha, sheria, elimu au huduma za umma, athari halisi ya uamuzi mara nyingi hueleweka vizuri zaidi na mtaalamu wa eneo na taasisi inayotumia mfumo. Kwa hiyo makala inasisitiza kwamba watekelezaji si watumiaji wasio hai tu, bali ni wahusika wa maamuzi wenye wajibu.

Hata hivyo, utafiti hauwaondolei wasanidi wajibu wote. Kinyume chake, unakubali kwamba wasanidi wana wajibu wa kueleza mipaka ya mfumo, kuripoti aina za makosa zinazojulikana, kufanya majaribio ya usalama, kutoa nyaraka na kumpa mtumiaji miundombinu ya taarifa inayohitajika kwa matumizi yenye uwajibikaji. Tofauti ya mfano wa mtumiaji katikati ni kwamba unaweka uwajibikaji mkuu wa kiutendaji katika sehemu halisi ambapo mfumo unatumika.

Fomula Zinaeleza Nini?

Utafiti huu hauna fomula za kihisabati. Makala inaendelea kupitia kanuni za kisheria, mifumo ya utawala na mgawanyo wa uwajibikaji badala ya modeli za kiasi au milinganyo ya hesabu.

Onyesho la MathJax hapa chini limeandaliwa ili kurahisisha mfano wa dhana wa uwajibikaji katika makala. Hii si fomula halisi ya kihisabati iliyotolewa katika makala, bali ni onyesho la kimchoro linalofanya hoja kuu ya utafiti iwe rahisi kuelewa.

Onyesho hili linafupisha mbinu ya makala inayomweka mtumiaji katikati. Katika kuzuia matokeo yenye madhara ya mfumo wa AI, mhusika aliye karibu na madhara, anayesimamia mfumo kwa vitendo na anayeelewa muktadha wa matumizi hubeba uwajibikaji mkubwa zaidi.

Mchoro wa pili unafupisha mbinu ya “distributed yet centered”. Katika mfumo wa AI, msanidi, mtoa huduma, taasisi, mtumiaji mtaalamu na mdhibiti wote wana wajibu. Lakini ukweli kwamba wajibu umegawanywa haupaswi kumaanisha kwamba uwajibikaji unapotea kabisa. Upande unaofanya uamuzi mahsusi wa matumizi unapaswa kubaki katika kitovu cha uwajibikaji.

Mchoro wa tatu unaeleza usawa ambao makala inaleta katika matumizi ya mifumo ya black box na API. Ikiwa upande unaotumia mfumo hauna udhibiti kamili, kwa mfano anatumia modeli kupitia API iliyofungwa, mtoa huduma anapaswa kutoa maelezo yenye nguvu zaidi kuhusu mipaka ya mfumo, hatari na aina za makosa zinazojulikana.

Ujumbe Mkuu wa Grafu, Jedwali na Mchoro

Mchoro muhimu zaidi wa makala ni ramani ya uwajibikaji inayotenganisha eneo la wakala wa binadamu na eneo la uchakataji wa mashine katika matumizi ya AI. Mchoro unaonyesha kwamba udhibiti wa binadamu upo mwanzoni na mwisho wa uamuzi. Watu huamua kutumia mfumo, huweka vigezo au muktadha wa matumizi, huamua namna matokeo yatakavyotathminiwa na kuyatekeleza. Mashine iko ndani ya mchakato huo katika hatua ya uchakataji wa kialgorithimu na utoaji wa matokeo.

Ujumbe mkuu wa mchoro huu ni kwamba, ingawa AI ina jukumu muhimu katika mchakato, maeneo muhimu ya uwajibikaji bado yanategemea maamuzi ya binadamu. Kuweka mfumo katika matumizi, kuchagua eneo la matumizi, kusimamia matokeo na kuyageuza kuwa uamuzi wa mwisho hubaki katika eneo la wakala wa binadamu. Kwa hiyo makala inaweka eneo la uwajibikaji wa msingi kwa binadamu au taasisi inayotumia mfumo.

Jedwali la makala linafupisha kanuni tatu zinazounga mkono utawala unaomweka mtumiaji katikati. Kanuni ya ukaribu inasema mhusika aliye karibu na madhara hujua muktadha vizuri zaidi. Kanuni ya udhibiti inasisitiza ushawishi wa mtekelezaji juu ya vigezo vya mfumo na michakato ya usimamizi. Kanuni ya utaalamu inasema kwamba hatari nyingi zinaweza kueleweka tu kwa maarifa ya sekta husika.

Mchoro na jedwali vikisomwa pamoja, wazo kuu la makala huwa wazi: utawala wa AI haupaswi kuangalia muundo wa kiufundi pekee, bali pia namna mfumo unavyotumiwa katika ulimwengu halisi. Madhara mara nyingi hayatokani na uwezo wa kinadharia wa modeli, bali na jinsi uwezo huo unavyowekwa katika taasisi, kusudi, mchakato wa uamuzi na muundo wa usimamizi.

Majaribio Yalifanywaje?

Utafiti huu si jaribio la maabara. Hauundi seti mpya ya data, haufanyi majaribio ya takwimu na hautoi jaribio la uwanjani la kiasi. Makala inajenga hoja ya kikanuni kupitia nadharia ya sheria, sheria ya madhara, sheria ya uwakala, maadili ya AI, falsafa ya teknolojia, viwango vya kitaaluma na mifumo ya udhibiti.

Utafiti unaimarisha hoja yake kwa kutumia maamuzi ya mahakama na mifano ya udhibiti. Kwa mfano, tukio la chatbot ya Air Canada linatumika kuonyesha kwamba taasisi haiwezi kujitenga kabisa na taarifa iliyotolewa na mfumo wake wa AI. Uamuzi wa Mata v. Avianca, ambapo mawakili waliadhibiwa kwa kuwasilisha marejeo ya kisheria ya uongo yaliyotengenezwa na ChatGPT bila kuyathibitisha, unasisitiza wajibu wa mtumiaji mtaalamu kuthibitisha matokeo ya AI.

Makala pia inajadili EU AI Act, revised Product Liability Directive, NIST AI Risk Management Framework, ISO/IEC 42001 na mbinu katika nchi tofauti. Ulinganisho huu unaonyesha kwamba mfano wa uwajibikaji unaomweka mtumiaji katikati si kiwango kimoja kilichokubaliwa duniani, lakini unaweza kuonekana kama pendekezo la utawala linalolingana na baadhi ya mifumo ya sasa.

Kwa hiyo mbinu ya utafiti ni uchanganuzi wa dhana na tathmini ya sheria na sera. Nguvu yake ni kuunganisha maeneo tofauti ya sheria na mijadala ya utawala wa AI chini ya mfano mmoja wa uwajibikaji. Kizuizi chake ni kwamba athari za mfano huu katika sekta tofauti bado zinahitaji kuchunguzwa kwa njia ya kimajaribio.

Matokeo Yanaonyesha Nini?

Hitimisho kuu la makala ni kwamba haitoshi kuhusisha uwajibikaji wa madhara ya AI na msanidi pekee. Msanidi anapaswa kuwa na wajibu wa muundo salama, maelezo, nyaraka na taarifa kuhusu hatari zinazojulikana; lakini uamuzi kuhusu muktadha, madhumuni na usimamizi wa matumizi ya mfumo mara nyingi hufanywa na mtekelezaji.

Kwa hiyo makala inasema uwajibikaji wa kiutendaji unapaswa kuelekezwa kwa mhusika anayefanya uamuzi wa matumizi. Ikiwa hospitali inatumia usaidizi wa maamuzi ya kliniki, benki mfumo wa tathmini ya mikopo, ofisi ya sheria chombo cha kuandaa nyaraka au taasisi ya umma mfumo wa maamuzi ya kiotomatiki, taasisi inayotumia mfumo ina wajibu wa kusimamia michakato ya maamuzi, kuthibitisha matokeo na kuweka usimamizi wa binadamu.

Utafiti pia unaonyesha changamoto kadhaa za modeli zinazomweka msanidi katikati. Mifumo ya AI inaweza kufanya kazi kama black box; data za mafunzo, usanifu wa modeli, kujifunza baadaye na muktadha wa matumizi vinaweza kuathiri matokeo kwa pamoja. Katika hali hiyo si rahisi kila mara kuhusisha madhara na mstari mmoja wa msimbo au uamuzi mmoja wa muundo.

Kwa upande mwingine, modeli inayomweka mtumiaji katikati huunganisha uwajibikaji na sehemu halisi ya matumizi. Upande unaoendesha mfumo, kuweka vigezo, kutegemea matokeo, kupanga au kutopanga usimamizi wa binadamu unapaswa kuwajibika. Mbinu hii inalenga kuunda njia zinazoonekana zaidi za uwajibikaji kwa ajili ya imani ya umma, usimamizi wa kidemokrasia na usawa wa nguvu.

Kwa Nini Hili Ni Muhimu?

Kadiri mifumo ya AI inavyowekwa zaidi katika michakato ya maamuzi, suala la nani anapaswa kuhusishwa na matokeo yasiyo sahihi au yenye madhara huacha kuwa tatizo la kiufundi pekee. Linahusiana moja kwa moja na uwajibikaji wa kisheria, uwajibikaji wa kidemokrasia, imani ya umma na uhuru wa binadamu.

Raia akinyimwa mkopo, mgonjwa akiathiriwa na usaidizi wa kliniki uliopotosha, mfanyakazi akipata hasara kwa sababu ya tathmini ya kialgorithimu au huduma ya umma ikigawanywa vibaya na mfumo wa kiotomatiki, kusema “algorithimu ilifanya hivyo” haitoshi. Lazima kuwe na taasisi maalum ambazo watu wanaweza kupinga, kuomba maelezo na kuwawajibisha.

Hapa ndipo umuhimu wa makala unapoonekana. Utawala unaomweka mtumiaji katikati hauioni AI kama kiumbe cha kichawi, huru na chenye kuwajibika, bali kama chombo kilichowekwa ndani ya mnyororo wa maamuzi ya binadamu. Kwa kuweka usimamizi wa binadamu na uwajibikaji wa taasisi katikati, mbinu hii inaweza kusaidia teknolojia kubaki inayoeleweka na inayodhibitika ndani ya mifumo ya kidemokrasia.

Utafiti pia unapendekeza usawa wa kweli zaidi kati ya wasanidi na watekelezaji. Msanidi hawezi kujua kila muktadha wa matumizi mapema; mtekelezaji naye huenda asiweze kuona kila undani wa kiufundi wa mfumo. Kwa hiyo mfano huimarisha uwajibikaji wa mtekelezaji huku ukiongeza wajibu wa watoa huduma wa kutoa maelezo na nyaraka.

Mambo ya Kuzingatia

Jambo la kwanza la kuzingatia ni kwamba modeli ya uwajibikaji unaomweka mtumiaji katikati haiwaondolei wasanidi wajibu wote. Makala inatambua wajibu wa wasanidi wa kubuni kwa usalama, kueleza mipaka ya modeli, kuripoti makosa yanayojulikana, kutoa nyaraka na kutoa zana za ufuatiliaji.

Jambo la pili ni mifumo ya black box. Ikiwa taasisi inatumia AI kupitia API iliyofungwa na haina ufikiaji wa data za mafunzo, usanifu au mifumo ya usalama ya modeli, udhibiti wa mtekelezaji hupungua. Katika hali hiyo mtoa huduma anapaswa kutoa maelezo yenye nguvu zaidi.

Jambo la tatu ni kwamba watumiaji binafsi na watekelezaji wakubwa wa kitaasisi hawawezi kupimwa kwa kiwango sawa cha uwajibikaji. Taasisi kubwa ya kifedha au hospitali ina rasilimali za kupima mifumo, kuisimamia na kufanya uchanganuzi wa hatari. Mtumiaji wa kawaida binafsi hana rasilimali sawa. Kwa hiyo uwajibikaji unapaswa kurekebishwa kulingana na uwezo, muktadha na kiwango cha hatari.

Jambo la nne ni maeneo yenye hatari kubwa. Katika afya, haki ya jinai, mikopo, huduma za umma na magari yanayojiendesha, madhara yanaweza kuwa makubwa au yasiyoweza kurekebishwa. Katika maeneo haya haitoshi kutegemea usimamizi wa mtumiaji pekee; hatua za usalama kutoka kwa msanidi, uangalizi wa mdhibiti na usimamizi thabiti wa binadamu vinahitajika pamoja.

Jambo la tano ni kwamba mazingira ya udhibiti duniani hayana sauti moja. Baadhi ya mbinu zinatilia mkazo zaidi wajibu wa mtoa huduma au mtengenezaji, nyingine zinapendekeza kugawa uwajibikaji kulingana na kiwango cha udhibiti. Kwa hiyo utawala unaomweka mtumiaji katikati si kiwango cha mwisho cha kimataifa, bali ni msimamo wa kinadharia wenye nguvu lakini unaojadiliwa.

Hitimisho

Makala inasema kwamba njia yenye ufanisi zaidi ya kulinda uwajibikaji katika utawala wa AI ni kuzingatia watu na taasisi zinazotumia mifumo katika ulimwengu halisi. Matokeo ya AI hayazalishi athari za kijamii yenyewe; huchaguliwa, kutafsiriwa, kutekelezwa au kuachwa bila usimamizi na watu maalum.

Modeli ya uwajibikaji unaomweka mtumiaji katikati haioni AI kama mhusika huru wa kisheria, bali kama chombo changamano kinachotumiwa na binadamu. Mbinu hii hudhoofisha kisingizio cha “mfumo ndio ulifanya” na kuwafanya wahusika wa kibinadamu katika mnyororo wa maamuzi waonekane.

Hata hivyo, pendekezo la makala si la upande mmoja. Wasanidi, watoa huduma, taasisi na wadhibiti pia wana wajibu. Lakini hata wajibu huu ukiwa umegawanywa, uwajibikaji haupaswi kutawanyika kabisa. Hilo ndilo wazo la modeli ya “uliogawanywa lakini wenye kitovu”: wahusika wengi wana wajibu, lakini upande unaofanya uamuzi halisi wa matumizi unabaki kitovu cha uwajibikaji.

Mbinu hii inaleta mjadala muhimu kuhusu kulinda imani ya umma, usimamizi wa kidemokrasia na hukumu ya binadamu katika enzi ya AI. Ujumbe wake wenye nguvu zaidi ni huu: AI iwe imeendelea kiasi gani, nyuma ya maamuzi yenye athari kubwa lazima wabaki watu na taasisi zinazoweza kuwajibika.

Dokezo la Chanzo na Mbinu

Makala haya yameandaliwa kwa msingi wa mawazo makuu ya makala ya utafiti ya Zhengyang Chen yenye kichwa “Operational responsibility in AI governance: a user-centric liability framework”, iliyochapishwa katika jarida la AI and Ethics. Maandishi yanaeleza kwa Kiswahili rahisi hoja kuu kuhusu utawala wa AI unaomweka mtumiaji katikati, pengo la uwajibikaji, kuiona AI kama chombo, kanuni za ukaribu-udhibiti-utaalamu, tatizo la black box, wajibu wa msanidi na mtekelezaji, mifumo ya udhibiti na uwajibikaji wa kidemokrasia.

Maudhui haya si tafsiri ya neno kwa neno; wazo kuu la utafiti limerahisishwa kulingana na mkondo wa uchapishaji wa Verianla na kubadilishwa kuwa makala huru ya uhariri kwa Kiswahili.

Maudhui haya si ushauri wa kisheria. Uwajibikaji wa AI na wajibu wa kisheria vinaweza kutofautiana kulingana na nchi, sekta, muktadha wa matumizi na kanuni za sasa. Maandishi yameandaliwa ili kufanya mjadala wa kitaaluma ueleweke.