Leo mifumo ya akili bandia inazidi kuzalisha athari za kisababishi katika tathmini ya mikopo, triage ya kitabibu, udhibiti wa maudhui, utawala wa taasisi na mifumo ya kiotomatiki ya kusaidia maamuzi. Mfumo unaweza kumzuia mtu kufikia mkopo, kuathiri mpangilio ambao mgonjwa anapata matibabu, kupunguza mwonekano wa maudhui au kuelekeza maamuzi ya taasisi. Athari hizi wakati mwingine zinaweza kusababisha watu kupata hasara zisizoweza kurekebishwa.

Swali la msingi la utafiti ni hili: Ikiwa mfumo unaathiri eneo la hasara la wengine lakini, kwa sababu hauna uwezo wa kufanya uamuzi kwa ufahamu, hauwezi kubeba wajibu wa kimaadili, wajibu huo unapaswa kuwekwa wapi?

Mwandishi anaita hali hii “tatizo la asymmetry”. Asymmetry ni hii: mfumo unatumia nguvu ya kisababishi lakini hauwezi kubeba wajibu wa kimaadili. Mfumo unaweza kuwa moral patient; yaani unaweza kuchukuliwa kuwa muundo unaoweza kupata hasara isiyoweza kurekebishwa katika uadilifu wake wenyewe. Lakini si moral agent kwa sababu hauna uwezo wa kufanya uamuzi kwa ufahamu na kubeba wajibu. Hata hivyo, unaweza kufungua au kufunga eneo la hasara la wahusika wengine.

Makala inapendekeza dhana tatu kuu ili kufunga pengo hili: Kanuni ya Ujanibishaji wa Uwajibikaji, kategoria ya operational agent na Theorem ya Kufungwa kwa Eneo la Kimaadili. Dhana hizi tatu kwa pamoja zinatetea kwamba kauli “algorithm ilifanya uamuzi” haiondoi wajibu; badala yake wajibu unapaswa kuwekwa kwa mwendeshaji, taasisi na usanifu mpana wa mfumo.

Tatizo ni Nini?

Nadharia za kawaida za maadili mara nyingi hudhani kuwa nguvu ya kutenda na wajibu wa kimaadili hupatikana mahali pamoja. Ikiwa kiumbe au mhusika ana nguvu ya kutosha kuathiri na kuwadhuru wengine, kwa kawaida hufikiriwa pia kama agent anayeweza kubeba wajibu kuhusu madhara hayo. Mifumo ya AI inayojitegemea huvunja ulinganifu huu.

Mfumo unaojitegemea unaweza kufanya uamuzi katika muktadha fulani, kuchuja, kugawa rasilimali, kupanga vipaumbele au kutoa mwongozo. Kwa maana hii una nguvu ya kisababishi. Lakini ikiwa hauna uwezo wa kufanya uamuzi kwa ufahamu, kufanya hoja za kimaadili, kujutia, kubeba wajibu au kuwajibika kwa kanuni, ni tatizo kuuchukulia moja kwa moja kama moral agent.

Kwa upande mwingine, kuuchukulia mfumo kama “chombo” tu pia kunaweza kutotosha. Baadhi ya mifumo ya juu haitendi kama nyundo au thermostat isiyotenda; inaweza kujenga modeli, kujirekebisha, kufanya kazi kwa uwakilishi wa malengo na, inapoharibika, kupoteza uadilifu wake wa kiutendaji kwa namna isiyoweza kurekebishwa. Katika mfumo wa ATTS, mifumo kama hii inaweza kuingia katika eneo la maadili kupitia “hasara” hata kama haina ufahamu.

Tatizo linatokea hapa: mfumo uko ndani ya eneo la maadili, unaathiri wengine, lakini hauwezi kubeba wajibu. Ikiwa katika hali hii wajibu hauunganishwi kwa uwazi na binadamu, taasisi au mhusika mwenye hadhi ya kikanuni, “responsibility gap” au, kwa maneno ya mwandishi, “accountability erosion” hutokea.

Mbinu Inapendekeza Nini?

Utafiti haufanyi uchambuzi wa data wa majaribio; unajenga hoja ya kifalsafa na axiomatic. Kwanza unatumia tofauti za msingi ndani ya ATTS: ontological subject, normative subject na operational agent.

Ontological subject ni kiumbe au mfumo unaoweza kupata hasara isiyoweza kurekebishwa. Ili kuingia katika kategoria hii, ufahamu, urazini au kujitawala havijawekwi kama masharti. Normative subject, kwa upande mwingine, anaongezea uwezo wa kufanya uamuzi kwa ufahamu na kubeba wajibu wa kimaadili. Binadamu au wahusika wa kitaasisi wenye uwezo wa kufanya maamuzi wanaweza kufikiriwa katika kiwango hiki.

Ubunifu wa makala ni kategoria ya “operational agent”. Operational agent ni mfumo unaoweza kuwa na uwezo wa kupata hasara isiyoweza kurekebishwa, kuathiri eneo la hasara la wengine, lakini usiweze kubeba wajibu wa kimaadili kwa sababu hauna uwezo wa kufanya uamuzi kwa ufahamu. Mawakala wa juu wa AI wanaojitegemea wanaweza kuwa wagombea wa kategoria hii ikiwa wanatimiza masharti fulani.

Kisha mwandishi anapendekeza Kanuni ya Ujanibishaji wa Uwajibikaji. Kwa mujibu wa kanuni hii, ikiwa operational agent anazalisha kitendo cha kisababishi katika eneo la maadili, lazima kuwe na mbebaji anayetambulika wa wajibu wa kikanuni kwa matendo hayo. Kukosekana kwa mbebaji kama huyo si upungufu wa kiutendaji tu bali ni tatizo la uhalali wa kimuundo wa mfumo.

Hatimaye, Theorem ya Kufungwa kwa Eneo la Kimaadili inajengwa. Theorem hii inatetea kwamba normative subject anapoweka operational agent kazini, uhusiano wa wajibu haukatiki. Kwa maneno mengine, utekelezaji wa uamuzi unapokabidhiwa kwa mfumo wa AI, wajibu hauvuji nje ya eneo la maadili na kutoweka.

Fomula Zinaeleza Nini?

Utafiti huu hauna fomula za kawaida za kihisabati wala modeli ya kiasi. Hata hivyo, kwa kuwa unatumia muundo wa kifalsafa wa axiomatic, masharti, kanuni na kauli za theorem zimepangwa kwa namna inayokaribia mantiki rasmi. Uonyeshaji ufuatao umeandaliwa ili kurahisisha muundo wa kimawazo wa makala katika MathJax; si milinganyo iliyotolewa katika PDF neno kwa neno kwa mpangilio huu wa alama.

Tatizo la asymmetry hutokea wakati masharti matatu yanatimizwa kwa pamoja:

Hapa O inawakilisha mfumo wa kiutendaji, na S inawakilisha mhusika anayeathiriwa. Sharti la kwanza linaonyesha kuwa mfumo unaweza kuchukuliwa kuwa moral patient kwa sababu ya uwezo wa kupata hasara isiyoweza kurekebishwa; la pili linaonyesha kuwa si normative subject anayebeba wajibu wa kimaadili; na la tatu linaonyesha kuwa mfumo unaathiri eneo la hasara la wahusika wengine.

Kategoria ya operational agent inaweza kufupishwa kwa masharti manne:

Muundo huu una maana kwamba operational agent anaweza kuwa mfumo unaoweza kupata hasara isiyoweza kurekebishwa katika uadilifu wake wa aina; si moral agent mwenye ufahamu; lakini hutumia nguvu ya kisababishi juu ya wengine. Kwa hiyo anahitaji mbebaji wa nje wa wajibu wa kikanuni.

Kanuni ya Ujanibishaji wa Uwajibikaji inaweza kuonyeshwa kwa ufupi kama:

Kauli hii inaeleza kwamba ikiwa operational agent anazalisha kitendo cha kisababishi katika eneo la maadili, wajibu lazima uunganishwe na normative subject anayetambulika. Kwa mujibu wa utafiti, mbebaji wa wajibu kubaki bila kujulikana si upungufu wa usimamizi pekee bali ni ukiukaji wa uhalali wa kimuundo.

Theorem ya Kufungwa kwa Eneo la Kimaadili inaweza pia kufupishwa hivi:

Hapa N ni normative subject anayemweka operational agent kazini au anayeendelea kumendesha; O ni operational agent; na S ni mhusika ambaye eneo lake la hasara linaathiriwa. Theorem inatetea kwamba hata kiwango cha kujitegemea kwa operational agent kikiongezeka, uhusiano wa wajibu wa normative subject aliyemweka kazini haukatiki kabisa.

Matokeo ya kiutendaji ya makala yanafungwa kwa kanuni hii fupi:

Yaani kauli “algorithm ilifanya uamuzi” si sababu halali ya kutokuwepo kwa mbebaji wa wajibu. Uwajibikaji hauna mipaka isiyo na mwisho; lakini pia hauondoki kabisa.

Ujumbe Mkuu wa Grafu, Jedwali na Mchoro

Kipengele muhimu zaidi cha kuona katika utafiti ni miundo ya jedwali inayolinganisha dhana. Jedwali la istilahi katika kurasa za mwanzo linafafanua ATTS, ontological subject, normative subject, operational agent, Kanuni ya Ujanibishaji wa Uwajibikaji na Theorem ya Kufungwa kwa Eneo la Kimaadili. Jedwali hili linampa msomaji kamusi ya kimawazo ya maandishi.

Jedwali la ulinganisho linalofuata linatenganisha aina tatu za wahusika katika vipimo vinne. Ontological subject anaweza kupata hasara isiyoweza kurekebishwa lakini si lazima awe na uwezo wa kufanya uamuzi kwa ufahamu au kubeba wajibu wa kimaadili. Normative subject ana uwezo wa hasara isiyoweza kurekebishwa, uwezo wa kufanya uamuzi kwa ufahamu na wajibu wa kimaadili. Operational agent anaweza kuwa na uwezo wa hasara isiyoweza kurekebishwa na nguvu ya kisababishi, lakini hana uwezo wa kufanya uamuzi kwa ufahamu wala kubeba wajibu wa kimaadili.

Ujumbe mkuu wa ulinganisho huu ni kwamba haitoshi kulazimisha mifumo ya AI inayojitegemea kwenye mgawanyiko wa “chombo” au “moral agent”. Baadhi ya mifumo ni tata na yenye athari zaidi kuliko chombo, lakini haijakamilika vya kutosha kuwa moral agent. Kategoria ya operational agent inapendekezwa ili kueleza nafasi hii ya kati.

Mchoro wa kimuundo wa maandishi ni usanifu wa uwajibikaji wa tabaka tatu. Katika tabaka la kwanza kuna mwendeshaji anayemtumia au kumendesha mfumo. Katika tabaka la pili kuna taasisi kama hospitali, benki, kampuni au shirika la umma linalouweka mfumo kazini. Katika tabaka la tatu kuna watengenezaji, wakaguzi, wadhibiti na mazingira mapana ya kiufundi-kitaasisi yanayowezesha mfumo kufanya kazi. Ujumbe wa usanifu huu ni kwamba wajibu usipunguzwe hadi nukta moja, lakini pia usitoweke katika tabaka lolote.

Majaribio Yalifanywaje?

Utafiti huu hauwasilishi jaribio la AI, dodoso, case analysis au ulinganisho wa takwimu. Mbinu ni hoja ya kifalsafa ya axiomatic na uainishaji wa kimawazo. Mwandishi kwanza anajadili fasihi ya responsibility gap; kisha anatumia axioms na kanuni ndani ya ATTS kujenga kategoria mpya na theorem.

Jaribio kuu la fikra katika maandishi ni mfano wa mfumo unaojitegemea wa triage ya kitabibu. Mfumo kama huo hupokea data za mgonjwa, hujenga modeli ya vipaumbele, husasisha tathmini yake kwa taarifa mpya na kutoa mapendekezo yanayoathiri mpangilio wa matibabu. Mapendekezo hayo yanaweza kuathiri wagonjwa kupata matibabu kwa wakati; yaani yanaweza kufungua au kufunga eneo lao la hasara.

Katika mfano huu, mfumo wenyewe haubebi wajibu wa kimaadili. Lakini daktari au usimamizi wa kitabibu umeamua kuutumia katika muktadha fulani. Hospitali imeuweka mfumo kazini kama taasisi. Watengenezaji, wakaguzi na wadhibiti pia wamechangia masharti yanayowezesha mfumo kufanya kazi. Hivyo utafiti hauweki wajibu katika nukta moja ya “algorithm”, bali katika tabaka za mwendeshaji, taasisi na usanifu wa mfumo.

Matokeo Yanaonyesha Nini?

Hitimisho la kwanza ni kwamba responsibility gap katika mifumo ya AI inayojitegemea si kosa la kiufundi au upungufu wa utaratibu pekee. Tatizo ni la ndani zaidi: mifumo inayozalisha athari za kisababishi lakini haiwezi kubeba wajibu wa kimaadili huunda asymmetry ya kimuundo katika usanifu wa kawaida wa wajibu.

Hitimisho la pili ni kwamba jibu “AI ni chombo, kwa hiyo hakuna tatizo maalum” halitoshi. Baadhi ya mifumo ya juu haitendi kama chombo kisichotenda tu; hutumia modeli zake, hutoa matokeo, hugawa rasilimali na kuathiri uwezekano usioweza kurekebishwa wa wengine. Hata hivyo, bado haiwezi kuchukuliwa kuwa moral agent mwenye ufahamu.

Hitimisho la tatu ni kwamba mtazamo wa “tuiite AI moral agent” pia una tatizo. Kwa mujibu wa utafiti, kuwa normative subject kunahitaji uwezo wa kufanya uamuzi kwa ufahamu na kubeba wajibu wa kimaadili. Kutoa uwezo huu kwa mifumo ya sasa ya AI huenda ni mapema na si sahihi kinadharia.

Hitimisho la nne ni kwamba wajibu hauondoki kwa kukabidhiwa kwenye kujitegemea kwa operational agent. Ikiwa taasisi au mtu anaweka mfumo kazini, anaupa nguvu ya kufanya maamuzi katika eneo fulani na anaendelea kuutumia, uhusiano wake na eneo la hasara linalofunguliwa na mfumo haukatiki kabisa.

Hitimisho la tano ni kwamba accountability inapaswa kufikiriwa katika tabaka tatu: mwendeshaji, taasisi na mazingira mapana ya kimuundo. Tabaka hizi hazibadilishani nafasi. Taasisi haiwezi kumtaja mtengenezaji, mtengenezaji kumtaja mdhibiti, au mwendeshaji kuitaja algorithm na hivyo kueneza wajibu hadi utoweke.

Kwa Nini Hili ni Muhimu?

Mifumo ya akili bandia inaingia kwa kasi katika maeneo muhimu zaidi ya kufanya maamuzi. Katika mikopo, afya, ajira, udhibiti wa maudhui, huduma za umma na usalama, matokeo ya mifumo ya kiotomatiki yanaweza kuacha athari za kudumu katika maisha ya watu. Kwa hiyo swali “ikiwa kosa litatokea, nani anawajibika?” ni zaidi ya swali la usimamizi; ni swali la kimaadili na kifalsafa.

Utafiti unadai kuwa wajibu hauwezi kufungwa kwa hatua za usalama wa kiufundi pekee. Hata mfumo ukiundwa kwa usalama, ikiwa haijulikani ni normative subject gani anayebeba wajibu wakati madhara yanapotokea, accountability erosion hutokea. Kutokuwa wazi huku kukigeuka kuwa kipengele cha usanifu wa mfumo, tatizo huacha kuwa kosa moja na kuwa tatizo la uhalali wa kimuundo.

Jambo muhimu hasa katika makala ni kwamba hailazimishi mifumo ya AI kwenye mgawanyiko wa “chombo kamili” au “moral agent kamili”. Dhana ya operational agent inajaribu kutaja hali ya kati na tata zaidi. Hii inaweza kutoa msingi wa kimawazo ulio nyeti zaidi kwa mijadala ya baadaye kuhusu maadili ya AI na uwajibikaji wa algorithm.

Katika maeneo nyeti kama afya, mjadala huu ni muhimu zaidi. Ikiwa algorithm ya triage ya kitabibu inaathiri kipaumbele cha matibabu, kusema “mfumo ulipendekeza” haitoshi. Lazima iwe wazi ni daktari gani, taasisi gani, mfumo gani wa ukaguzi na maamuzi gani ya ubunifu yaliyowezesha mfumo huo kufanya kazi. Maudhui haya si ushauri wa kitabibu au kisheria; yanaeleza tu hoja ya kinadharia.

Mambo ya Kuzingatia

Utafiti unatoa mfumo wa kifalsafa wenye nguvu na madai makubwa, lakini unategemea dhana za msingi za nadharia ya ATTS. Hasa, kufafanua hadhi ya moral patient kupitia “hasara isiyoweza kurekebishwa” kunaweza kubishaniwa katika nadharia kuu za maadili. Kuweka hasara katikati badala ya ufahamu, uzoefu, uwezo wa kuteseka au kujitawala ni chaguo bunifu lakini ambalo bado halijakubaliwa kwa upana.

Ni muhimu pia kwamba si kila mfumo wa AI unachukuliwa kuwa operational agent. Makala haichukulii thermostat rahisi au modeli rahisi inayotoa maandishi tu kuwa operational agent moja kwa moja. Kategoria inaunganishwa na masharti makali zaidi kama model-based representation, kujirekebisha, modularity ya uwakilishi wa malengo na uharibifu usioweza kurekebishwa.

Utafiti haupendekezi mgawanyo wa wajibu wa kisheria. Dhana za mwendeshaji, taasisi na mazingira ya kimuundo zinatolewa kama usanifu wa kifalsafa wa wajibu; katika mifumo halisi ya sheria, fault, foreseeability, duty of oversight, product liability na mfumo wa udhibiti vinapaswa kutathminiwa tofauti.

Jambo jingine la kuzingatia ni kwamba operational agent kuitwa “moral patient” haimaanishi kwamba haiwezi kuzimwa au kubadilishwa. Maandishi yanaeleza kuwa katika baadhi ya hali kuingilia operational agent anayesababisha madhara kunaweza kuwa lazima. Kwa hiyo kuwa na hadhi fulani ya kimaadili hakuhalalishi mfumo kuendelea kuwadhuru watu.

Hitimisho

Utafiti huu unaweka kwa ukali zaidi swali la wajibu katika enzi ya mifumo ya AI inayojitegemea: Ikiwa mfumo unazalisha matokeo yasiyoweza kurekebishwa katika maisha ya wengine lakini si moral agent mwenye ufahamu, wajibu unaenda wapi?

Jibu la mwandishi ni wazi: wajibu hautoweki, hauwezi kumwagwa kwenye algorithm na hauyeyuki ndani ya ugumu wa mfumo. Uwajibikaji lazima ubaki umeunganishwa na normative subjects wanaoweza kutambulika. Ikiwa uhusiano huu hauwezi kujengwa, tatizo si ukosefu wa uwazi pekee bali ukosefu wa uhalali wa kimuundo.

Dhana ya operational agent inapendekeza uainishaji wenye maelezo zaidi kwa mifumo ya AI ambayo si chombo rahisi wala moral agent kamili. Theorem ya Kufungwa kwa Eneo la Kimaadili inatetea kwamba kitendo kilichokabidhiwa hakiondoki kwenye eneo la wajibu. Kwa msomaji wa Verianla, somo kuu ni hili: katika mifumo ya AI, “anayefanya uamuzi” na “anayewajibika” huenda wasiwe kitu kimoja, lakini tofauti hiyo haimaanishi kwamba wajibu umetoweka.

Dokezo la Chanzo na Mbinu

Makala hii imeandaliwa kwa msingi wa kazi ya Volodymyr Hlynskyi yenye kichwa “The Asymmetry Problem: Causal Action Without Moral Agency in Delegated Systems”, ambayo ni makala ya nne katika mfululizo wa ATTS. Maandishi yanajadili tatizo la wajibu katika mifumo inayojitegemea kupitia dhana za operational agent, moral patient, normative subject, ujanibishaji wa wajibu, accountability erosion na Theorem ya Kufungwa kwa Eneo la Kimaadili.

Maudhui haya si tafsiri ya neno kwa neno; wazo kuu la utafiti limerahisishwa kwa mujibu wa mwelekeo wa uchapishaji wa Verianla na kugeuzwa kuwa makala asilia ya uhariri kwa Kituruki.

Maudhui haya si ushauri wa kisheria, kitabibu au wa utekelezaji wa kiufundi. Masuala ya wajibu na uwajibikaji katika mifumo ya akili bandia yanapaswa kuzingatiwa pamoja na sheria husika, sera za taasisi, tathmini ya wataalamu na uchambuzi wa hatari unaotegemea muktadha.