Akili Bandia Inayoweza Kuelezwa (Explainable Artificial Intelligence, XAI) ni familia ya mbinu zinazolenga kufanya vipengele fulani vya tabia ya mfumo wa ujifunzaji wa mashine viweze kueleweka na wachunguzi wa kibinadamu. Utafiti unaochunguzwa unatafiti thamani ya ushahidi ambayo matokeo ya XAI yanaweza kuwa nayo endapo mfumo wa akili bandia unaotumiwa na taasisi za serikali utakuwa umehusika katika mwenendo unaodaiwa kukiuka sheria ya kimataifa. Utafiti hauendelezi modeli ya majaribio; badala yake unachanganua kwa pamoja Articles on Responsibility of States for Internationally Wrongful Acts (ARSIWA), mwenendo wa maamuzi wa Mahakama ya Kimataifa ya Haki, na fasihi ya kiufundi kuhusu mbinu za XAI kama LIME, SHAP, maelezo ya kinyume-na-uhalisia na ufasirikaji wa kimakanika. Hitimisho kuu ni hili: matokeo ya XAI yaliyothibitishwa kwa njia ya kuaminika yanaweza kusaidia kujenga upya kwa msingi wa ukweli jinsi mfumo wa akili bandia ulivyotenda; hata hivyo, matokeo hayo pekee hayathibitishi usababisho, udhibiti wa kisheria wa serikali, nia, ukiukaji, au uhusishaji wa mwenendo kwa serikali.

Kiini cha makala ni mfumo wa hatua tisa uliopendekezwa kwa ajili ya kutathmini nguvu ya uthibitisho ya matokeo ya XAI. Mfumo huu kwanza unabainisha ni ukweli gani unaokusudiwa kuthibitishwa; kisha unatathmini uhalisi na asili ya artefakti ya XAI, mbinu ya maelezo iliyotumiwa, uaminifu wa maelezo kwa tabia ya modeli, uwezo wa kuzalishwa tena, ulinganifu wa wakati na toleo husika la modeli, ukaguzi huru wa kiufundi, uthibitisho kwa ushahidi mwingine, na uwezekano wa udanganyifu pamoja na ushahidi wa kupinga. Ni baada tu ya uchunguzi huu wa kiufundi na wa kiushahidi kukamilika ndipo inapohamia kwenye kanuni ya uhusishaji chini ya ARSIWA.

Kikomo muhimu zaidi cha ufasiri katika utafiti huu ni kutokuchanganya hatua kati ya maelezo ya kiufundi na hitimisho la kisheria. Kuonekana kwa sifa fulani kuwa inahusiana na matokeo ya modeli hakuthibitishi usababisho; usababisho hauonyeshi moja kwa moja udhibiti wa serikali; kuwepo kwa ukweli unaohusu udhibiti wa serikali hakuthibitishi moja kwa moja uhusishaji wa kisheria; na uhusishaji pekee hauonyeshi ukiukaji wa wajibu wa kimataifa. Kwa hiyo, jukumu la XAI si la kuunda msingi wa kisheria, bali ni la kiushahidi.

Tatizo la utafiti: Akili bandia inachanganya zaidi ukweli kuliko kubadilisha sheria

Mahali pa kuanzia kwa utafiti ni kwamba serikali zinaweza kutumia mifumo ya akili bandia kwa namna zinazozidi kutofautiana katika shughuli za kiutawala na za umma. Mfumo unaweza kuainisha watu au vitu, kuchakata taarifa, kutengeneza pendekezo la uamuzi, au kushiriki katika mlolongo wa vitendo kwa uingiliaji mdogo wa binadamu chini ya hali fulani. Ikiwa mfumo kama huo unahusishwa na tukio linalodaiwa kuwa kinyume cha sheria ya kimataifa, swali la kwanza si moja kwa moja “je, serikali inawajibika?” Kwanza, muundo wa ukweli wa tukio lazima ubainishwe.

Mahakama au jopo la usuluhishi linaweza kuhitajika kubaini ni ingizo gani yaliyopewa mfumo, ni toleo gani la modeli lililotumika, ni matokeo gani yaliyotolewa, matokeo hayo yalichangia kwa kiasi gani hatua iliyofuata ya binadamu au ya kiotomatiki, na ni maamuzi gani ya watu au taasisi yaliyotokea kabla au baada ya mchakato. Modeli za umiliki, mifumo ya siri, masasisho yanayobadilika na kumbukumbu za uendeshaji zenye ufikiaji mdogo zinaweza kufanya ujenzi huu wa ukweli kuwa mgumu zaidi.

Je, Akili Bandia Inayoweza Kuelezwa Inaweza Kuthibitisha Pekee Yake Uhusishaji kwa Serikali?

Hapana. Matokeo ya Akili Bandia Inayoweza Kuelezwa, yanapothibitishwa ipasavyo, ni ushahidi wa kiufundi na usio wa moja kwa moja unaoweza kusaidia kuelewa uhusiano fulani wa ingizo, sifa, uwakilishi wa ndani au matokeo katika mfumo wa AI; lakini pekee yake hayathibitishi usababisho, maagizo au udhibiti wenye ufanisi wa serikali, mamlaka ya umma, nia yenye umuhimu wa kisheria, ukiukaji wa wajibu wa kimataifa, au uhusishaji wa mwenendo kwa serikali.

Tofauti hii inaamua usanifu mzima wa kisheria wa makala. Kitu ambacho XAI inaweza kueleza kimsingi ni mfumo wa kihesabu. Tathmini ya kisheria katika uwajibikaji wa kimataifa wa serikali, kwa upande mwingine, inaelekezwa kwa watu, vyombo vya serikali, taasisi zilizopewa mamlaka, mahusiano ya maagizo na udhibiti, na viungo vya kisheria kama kukubali au kuasili. Kwa hiyo, hata maelezo yenye nguvu ya kiufundi kuhusu tabia ya ndani ya modeli hayawezi kuchukua nafasi ya jaribio la kisheria la uhusishaji.

XAI si mbinu moja

Makala inachukulia XAI si kama algoriti moja, bali kama kundi pana la mbinu zenye malengo na dhana tofauti za kutoa maelezo. Maelezo ya jumla hujaribu kuelewa tabia ya jumla ya modeli, ilhali maelezo ya ndani huchunguza utabiri au matokeo maalum.

• LIME: Hutengeneza maelezo ya ndani kwa kujenga modeli mbadala iliyo rahisi na inayoweza kufasiriwa katika eneo la karibu la utabiri unaochunguzwa.
• SHAP: Ni familia ya mbinu zinazogawa thamani fulani za mchango au umuhimu kwa sifa za ingizo; utekelezaji tofauti unaweza kutegemea dhana tofauti.
• Maelezo ya kinyume-na-uhalisia: Huchunguza jinsi matokeo ya modeli yangeweza kubadilika ikiwa ingizo fulani yangekuwa tofauti.
• Ufasirikaji wa kimakanika: Hujaribu kupata viungo vya moja kwa moja zaidi kati ya miundo ya kihesabu ndani ya modeli na sifa au tabia zenye maana.

Maelezo yanayotolewa na mbinu hizi hayawezi kubadilishana nafasi kwa madhumuni ya ushahidi. Ukweli kwamba jina la mbinu ni maarufu au linavutia kiufundi hauonyeshi peke yake kwamba mbinu hiyo ni ya kuaminika katika mgogoro fulani.

Tofauti kati ya uwezo wa kueleza na uwezo wa kufasiri

Utafiti unatilia umuhimu tofauti kati ya modeli inayoeleweka kwa asili yake na modeli iliyofungwa ambayo hujaribiwa kuelezwa baadaye. Hasa, maelezo ya post-hoc si rekodi ya moja kwa moja ya mchakato halisi wa kihesabu wa modeli. Maelezo yenyewe pia huzalishwa na mbinu tofauti na yanategemea dhana, makadirio na aina za makosa za mbinu hiyo.

Kwa hiyo, mchoro au alama ya umuhimu wa sifa inayotolewa kujibu swali “kwa nini modeli ilifanya hivi?” haipaswi kutathminiwa kama kumbukumbu ya moja kwa moja ya mchakato wa ndani wa kufikiri wa mfumo. Mahakama pia inapaswa kupima ikiwa maelezo yanafuata kweli tabia ya modeli.

Maelezo ya kiufundi na maelezo ya kisheria si kitu kimoja

Maelezo ya kiufundi yanaweza kuchunguza mahusiano ya kihesabu kati ya ingizo, uwakilishi wa ndani na matokeo. Maelezo ya kisheria huuliza maswali mengine: Ni mwenendo wa mtu au taasisi gani unaohusika? Je, mtu huyo ni chombo cha serikali? Je, anatumia mamlaka ya umma? Je, kuna maagizo, mwelekeo au udhibiti wa serikali? Je, mwenendo huo ulipitishwa baadaye na serikali? Je, wajibu wa kimataifa ulikiukwa?

Hakuna mpito wa kiotomatiki kati ya tabaka hizi mbili za uchambuzi. Umuhimu wa kisheria wa XAI hautokani na kuunda moja kwa moja kanuni ya sheria, bali unatokana na uwezo wake wa kufafanua baadhi ya ukweli unaohitajika kabla ya kanuni ya sheria kutumika.

Mwenendo unaopitishwa kupitia AI chini ya ARSIWA

Chanzo hakiweki mfumo wa akili bandia kama mtu huru wa kisheria katika sheria ya kimataifa. Uchambuzi unaitazama AI kama zana ya kiteknolojia au tabaka la kati na unalenga matumizi ya kanuni zilizopo za uwajibikaji wa serikali.

Mwenendo wa binadamu na taasisi hauwezi kupunguzwa kuwa dhana moja ya “udhibiti wa binadamu”

Mchango wa binadamu unaweza kujitokeza katika hatua nyingi za mzunguko wa maisha wa mfumo: kuweka lengo, ununuzi, uteuzi wa data, mafunzo, usanidi wa modeli, uwekaji, ufuatiliaji, utoaji wa mamlaka, usimamizi, uingiliaji, au uthibitishaji wa baadaye wa matokeo. Utafiti unasisitiza kwamba kuunganisha shughuli hizi zote chini ya lebo moja ya “udhibiti wa binadamu” kungefuta tofauti muhimu za uchambuzi.

Zaidi ya hayo, kutokuchukua hatua za usalama kunaweza kuwa kutotenda kunakohusika kisheria katika hali fulani; lakini wajibu kama huo hautokani moja kwa moja na Kifungu cha 2 cha ARSIWA. Uwepo wa wajibu wa usimamizi au uangalifu unaostahili lazima utokane na kanuni husika ya msingi ya sheria ya kimataifa.

Mnyororo wa ushahidi unaotokana na AI

Kulingana na mantiki ya chanzo, mnyororo wa ushahidi katika mgogoro unaweza kufikiriwa kama ifuatavyo:

Mwenendo wa binadamu na taasisi → usanifu na usanidi wa mfumo → uwekaji → uchakataji wa AI → matokeo ya AI → hatua ya binadamu au ya kiotomatiki → mwenendo unaotokea → matokeo ya kimwili → uainishaji wa kisheria → uhusishaji kwa serikali.

XAI inaweza kutoa taarifa hasa kuhusu sehemu ya mnyororo huu kati ya uchakataji na matokeo. Haiwezi pekee yake kujenga upya maagizo ya ununuzi, nia ya afisa wa serikali, hadhi ya kisheria ya taasisi binafsi, au uamuzi wa baadaye wa serikali.

Kwa nini uhalali wa wakati ni tatizo tofauti la ushahidi?

Mifumo ya AI inaweza kubadilika kadiri muda unavyopita kutokana na kufundishwa upya, fine-tuning, masasisho ya modeli, uzito tofauti wa modeli, usanidi unaobadilika, prompt tofauti, au mabadiliko katika vyanzo vya nje vya data. Kwa hiyo, maelezo yaliyo kamili kiufundi yanayotolewa leo yanaweza yasieleze tabia ya toleo la modeli lililokuwa likifanya kazi katika tarehe ya tukio linalobishaniwa.

Ukaguzi wa ushahidi unapaswa kujibu si tu swali “je, maelezo ni sahihi?” bali pia “je, maelezo yanahusu hali sahihi ya modeli?” Kwa hiyo, utambulisho wa modeli, toleo, checkpoint au uzito, usanidi, mazingira ya utekelezaji na taarifa ya wakati ni sehemu ya mnyororo wa ushahidi.

Thamani ya Ushahidi ya Matokeo ya XAI Huamuliwa kwa Vigezo Gani?

Thamani ya ushahidi ya matokeo ya XAI haipaswi kuamuliwa kwa kipimo kimoja cha usahihi; badala yake, huhitaji kutathmini kwa pamoja uhusiano wake na ukweli unaobishaniwa, uhalisi na asili ya artefakti, sifa za mbinu ya maelezo, uaminifu wake kwa tabia ya modeli, uwezo wa kuzalishwa tena na uthabiti, ulinganifu na hali ya kihistoria ya modeli inayohusika, ukaguzi huru wa kiufundi, uthibitisho kwa ushahidi mwingine, uwezekano wa udanganyifu, ushahidi wa kupinga, na nguvu ya jumla ya uthibitisho ndani ya jalada lote la ushahidi.

Umuhimu: Kwanza lazima ibainishwe ni ukweli gani unaokusudiwa kuthibitishwa

“Sifa X ilipewa alama ya juu ya umuhimu”, “sifa X ilisababisha matokeo” na “afisa wa serikali aliagiza mfumo utoe matokeo haya” ni hoja tatu tofauti. Mbinu ya XAI inaweza kutoa taarifa kuhusu hoja ya kwanza lakini isiunge mkono hoja ya pili au ya tatu. Kwa hiyo, thamani ya ushahidi ya maelezo haiwezi kutathminiwa bila kubainisha wazi ni dai gani la ukweli ambalo maelezo hayo yanawasilishwa kulithibitisha.

Uhalisi na provenance

Lazima ionyeshwe kwamba artefakti ya maelezo ilitolewa kweli kutoka kwenye mfumo unaohusika katika mgogoro. Rekodi ya provenance inayopendekezwa na chanzo inaweza, kutegemea umuhimu wa tukio, kujumuisha utambulisho wa modeli, toleo la modeli au checkpoint, uzito, usanidi, ingizo, mazingira ya inference, mbinu ya maelezo na toleo lake, matoleo ya programu/maktaba, random seed inapohitajika, muda wa uzalishaji, na mtu au mchakato uliotengeneza maelezo.

Ikiwa taarifa hizi hazipo, nguvu ya uthibitisho ya maelezo si lazima iwe sifuri moja kwa moja; hata hivyo, athari ya upungufu huo katika tathmini ya ushahidi inapaswa kuzingatiwa wazi.

Uaminifu wa maelezo: Kuonekana kushawishi hakutoshi

Uaminifu wa maelezo (faithfulness) huuliza ni kwa kiwango gani maelezo yaliyotolewa yanawakilisha tabia ambayo modeli inaonyesha kwa kweli. Kwa mfano, ikiwa mbinu inaonyesha sifa fulani kuwa muhimu sana, inaweza kupimwa ikiwa tabia ya modeli inabadilika kwa namna inayolingana na maelezo baada ya uingiliaji unaodhibitiwa au perturbation.

Jambo muhimu hapa ni kwamba maelezo yanayoonekana kuendana na angavu ya binadamu si lazima yawe sawa na maelezo yanayofuatilia kwa kweli mchakato wa kihesabu wa modeli.

Uwezo wa kuzalishwa tena na uthabiti

Mbinu za maelezo za kistokastiki zinaweza kutoa matokeo tofauti chini ya hali zilezile. Uwezo wa maelezo kuzalishwa tena katika hali zinazodhibitiwa na kutobadilika kupita kiasi kutokana na mabadiliko yasiyo muhimu ya ingizo unaweza kuimarisha imani katika ushahidi. Tofauti kubwa zisizoelezeka, kwa upande mwingine, hupunguza nguvu ya uthibitisho.

Ukaguzi huru na ushahidi wa kuthibitisha

Ukaguzi wa mtaalamu huru wa kiufundi unaweza kuwa muhimu, hasa ikiwa mtaalamu anaweza kuzalisha tena maelezo au kupima madai muhimu ya mbinu iliyotumiwa. Hata hivyo, mbinu mbili tofauti za XAI kufikia hitimisho lilelile si sawa na kuwa na ushahidi huru; mbinu hizo zinaweza kushiriki chanzo kimoja cha hitilafu.

Muundo wenye nguvu zaidi wa ushahidi hutokea pale ambapo matokeo ya XAI yanaendana na nyenzo zisizo za XAI kama kumbukumbu za mfumo, checkpoint za modeli, nyaraka za kipindi husika, kauli za waendeshaji, rekodi za uwekaji, majaribio huru au telemetria.

Hatari ya udanganyifu

Chanzo pia kinatathmini fasihi ya kiufundi kuhusu uwezekano wa maelezo ya post-hoc kudanganywa kimakusudi. Hasa katika mgogoro ambapo modeli na mchakato wa kutoa maelezo viko chini ya udhibiti wa upande mmoja, maelezo kuonekana ya kuaminika si peke yake kiashiria cha uaminifu. Hitimisho si kukataa XAI kwa ujumla, bali kurekebisha uzito wa uthibitisho kulingana na provenance, majaribio huru, jaribio la uingiliaji, maelezo mbadala na ushahidi wa kupinga.

Uamuzi wa Corfu Channel Unaweza Kuwa na Jukumu Gani katika Ushahidi wa XAI?

Uamuzi wa Corfu Channel hauundi kanuni ya moja kwa moja ya kutoa hitimisho hasi au kuhamisha mzigo wa uthibitisho katika migogoro ya XAI; mlinganisho unaotumiwa na utafiti umewekewa kikomo katika wazo kwamba upande mmoja kuwa na ufikiaji mpana zaidi wa taarifa muhimu za ukweli kuliko upande mwingine kunaweza kuathiri uwezo wa upande wa pili kutoa ushahidi wa moja kwa moja na muktadha ambamo ushahidi usio wa moja kwa moja unatathminiwa.

Serikali au mhusika anayehusishwa na serikali anaweza kuwa na udhibiti wa pekee wa uzito wa modeli, kumbukumbu za uendeshaji, historia ya usanidi, nyenzo za mafunzo au rekodi za uwekaji. Hata hivyo, “udhibiti wa ufikiaji wa ushahidi” huu si sawa na dhana ya kisheria ya “mwelekeo au udhibiti” katika Kifungu cha 8 cha ARSIWA. Vivyo hivyo, kutoshirikishwa kwa taarifa hakusababishi maelezo yaliyowasilishwa na upande mwingine yakubalike moja kwa moja kuwa sahihi.

Chanzo kwa makusudi kinaweka mlinganisho wa Corfu Channel katika mipaka yake. Enzi juu ya eneo la bahari na udhibiti wa taarifa juu ya mfumo wa kiufundi si ukweli uleule kisheria. Ufanano upo tu katika jinsi ukosefu wa usawa wa ufikiaji wa ushahidi unavyoweza kuathiri mbinu za uthibitisho.

Mbinu na Matokeo ya Utafiti

Muundo wa utafiti

Utafiti haufanyi jaribio asilia, uundaji wa programu, benchmark, uchanganuzi wa data za kiasi au jaribio la binadamu. Mbinu yake inategemea kuchunguza kwa pamoja maeneo mawili makuu ya maarifa:

1. Uchambuzi wa kimafundisho wa sheria ya kimataifa: ARSIWA na Commentary pamoja na maamuzi ya Mahakama ya Kimataifa ya Haki, hasa Corfu Channel, Nicaragua, Bosnia Genocide na Pulp Mills.
2. Uchambuzi wa fani mbalimbali wa fasihi ya kiufundi ya XAI: LIME, SHAP, maelezo ya kinyume-na-uhalisia, ufasirikaji wa kimakanika, uaminifu wa maelezo, robustness, uwezo wa kuzalishwa tena, na tafiti za adversarial manipulation.

Eneo ambalo utafiti unalitambua kama pengo ni swali finyu zaidi lililopo kati ya fasihi ya “AI na uwajibikaji wa serikali” na fasihi ya “mapungufu ya kiufundi ya XAI”: ni kwa jinsi gani chombo cha kimataifa cha mahakama kinaweza kutathmini kwa utaratibu thamani ya ushahidi ya artefakti maalum ya XAI bila kubadilisha mafundisho yaliyopo ya uhusishaji?

Kazi ya mwenendo wa maamuzi wa Mahakama ya Kimataifa ya Haki katika utafiti

Corfu Channel inatumika kama mlinganisho wenye mipaka kuonyesha kwamba ufikiaji bora wa upande mmoja kwa ukweli husika unaweza kuathiri muktadha ambamo ushahidi usio wa moja kwa moja na mahitimisho ya ukweli yanaweza kutumiwa.

Nicaragua inaonyesha tofauti kati ya msaada au usaidizi wa jumla na udhibiti wenye ufanisi unaohitajika kisheria juu ya mwenendo maalum. Chanzo kinahamisha tofauti hii katika eneo la AI na kusema kwamba serikali kufadhili, kununua au kusimamia kwa ujumla mfumo wa akili bandia hakuonyeshi moja kwa moja udhibiti unaohitajika kuhusiana na mwenendo fulani.

Bosnia Genocide inatumika kuonyesha kwamba kiwango cha ushahidi kinaweza kuwa cha juu katika madai mazito sana dhidi ya serikali. Kwa hiyo, artefakti ya XAI inayoonekana kushawishi lakini isiyoungwa mkono kwa kujitegemea haipaswi kupewa uzito mkubwa kama msingi pekee wa dai zito la uhusishaji.

Pulp Mills inaunga mkono wazo kwamba hata pale ambapo ushahidi wa kiufundi na kisayansi ni changamano, tathmini ya mwisho ya ukweli haiwezi kukabidhiwa kwa mtaalamu au algoriti. Mtaalamu wa kiufundi anaweza kueleza mbinu; artefakti ya XAI inaweza kuchunguzwa; lakini jukumu la kuamua uzito wa kisheria na wa kiukweli wa ushahidi hubaki kwa chombo cha mahakama.

Mfumo uliopendekezwa wa hatua tisa wa tathmini ya ushahidi

Sifa muhimu zaidi ya kimetodolojia ya mfumo: mpangilio

Mfumo unaweka tathmini ya kisheria ya uhusishaji katika hatua ya mwisho, si ya kwanza. Sababu ni kuzuia maelezo ya XAI yaliyo changamano na yenye kushawishi kiufundi kuonekana moja kwa moja kuwa na umuhimu wa kisheria. Kwanza nyenzo ya kiufundi huchunguzwa; kisha huamuliwa ni ukweli gani unaoweza kutolewa kwa njia ya kuaminika kutoka kwenye nyenzo hiyo; baada ya hapo ukweli huo huainishwa kisheria.

Mnyororo wa dhana wa chanzo unaweza kufupishwa kama ifuatavyo:

Ushahidi wa kiufundi → hitimisho la ukweli → uainishaji wa kisheria → uhusishaji kwa serikali → ukiukaji → matokeo ya uwajibikaji wa serikali.

Viungo hivi vinaunganishwa, lakini havichukui nafasi ya kila kimoja.

XAI inaweza kuonyesha nini?

Hitimisho zinazoungwa mkono na utafiti

• XAI inaweza kutoa mchango wenye mipaka lakini wenye manufaa katika kujenga upya ukweli kwenye migogoro kuhusu mwenendo wa serikali unaopitishwa kupitia AI.
• Uzito wa uthibitisho wa matokeo ya XAI unapaswa kutegemea uthibitishaji wa kiufundi unaohusu tukio husika na mnyororo wa ushahidi, si jina la mbinu.
• Provenance na uhifadhi wa hali sahihi ya modeli ni masharti ya msingi ya ushahidi, hasa katika mifumo ya AI inayosasishwa.
• Ukaguzi huru wa kiufundi na corroboration kwa ushahidi usio wa XAI vinaweza kuimarisha uaminifu wa maelezo.
• Uwezekano wa kudanganywa haufanyi XAI isiwe na thamani kwa ujumla; lakini unahitaji uzito wa ushahidi ulio wa tahadhari na uliorekebishwa kwa kiwango kinachofaa.
• Kanuni zilizopo za uhusishaji za ARSIWA zinaweza kutumika kwa mwenendo unaopitishwa kupitia teknolojia; utafiti haupendekezi kanuni mpya ya uhusishaji maalum kwa AI.

Hitimisho ambazo utafiti hauungi mkono

• Hitimisho kwamba maelezo ya XAI ni rekodi kamili ya “mchakato halisi wa kufikiri” wa modeli haliungwi mkono.
• Usababisho hauwezi kutolewa moja kwa moja kutoka alama ya feature-attribution.
• Hata kama usababisho wa kiufundi umeonyeshwa, udhibiti wenye ufanisi wa serikali kwa maana ya Kifungu cha 8 hautokani nao moja kwa moja.
• Serikali kutoshiriki rekodi za modeli hakuundi moja kwa moja uhusishaji wala hitimisho hasi la kiotomatiki.
• Uamuzi wa Corfu Channel haubadilishwi kuwa kanuni ya jumla ya hitimisho hasi kwa mifumo ya kialgoriti.
• Ufasirikaji wa kimakanika hauwasilishwi kwa sasa kama suluhisho kamili na lisilobishaniwa la usababisho ndani ya mahakama.
• Hatua tisa si utaratibu wa lazima wa kimataifa wa mahakama wala kanuni mpya ya sheria.
• Mfumo hauhakikishi kwamba hitimisho sahihi la ukweli litafikiwa; ikiwa ushahidi muhimu wa kiufundi haupo, kutokuwa na uhakika kunaweza kubaki.

Tatizo kuu linalobaki katika mifumo ya proprietary au ya siri

Ikiwa ufikiaji huru wa uzito, msimbo, hali ya modeli au rekodi za uendeshaji wa mfumo hauwezekani, mfumo wa hatua tisa hauwezi kuondoa upungufu huo. Mtazamo wa utafiti ni kuhifadhi wazi mpaka huu wa kielimu badala ya kuunda uhakika bandia kutoka kwenye nyenzo zisizoweza kuthibitishwa.

Hatari ya kuufanya mfumo kuwa wa kisheria kupita kiasi

Ingawa hatua tisa zinaonekana za kimfumo, waandishi hawaziwasilishi kama jaribio la lazima la mahakama. Mfumo huo ni mwongozo wa uchambuzi wa kusaidia kuhakikisha kwamba maswali changamano ya kiufundi hayapuuzwi. Muundo wa ushahidi katika mgogoro mahususi unaweza kuhitaji baadhi ya hatua zitumike kwa viwango tofauti vya kina.

Hitimisho la jumla

Mchango wa kisheria wa utafiti unajikita katika wazo kwamba kuibuka kwa AI hakubadilishi moja kwa moja usanifu wa msingi wa uwajibikaji wa serikali; ugumu mkuu mara nyingi ni kubaini kwa njia ya kuaminika ni nini hasa kilitokea kabla ya sheria iliyopo kutumika.

XAI inaweza kujibu sehemu moja tu ya ugumu huu. Ikiwa kuna provenance sahihi, jaribio la uaminifu linalohusu tukio, uwezo wa kuzalishwa tena, ulinganifu na hali ya kihistoria ya modeli, ukaguzi huru na uungwaji mkono na ushahidi wa nje, nguvu ya uthibitisho ya artefakti ya XAI inaweza kuongezeka. Kinyume chake, maelezo yaliyotolewa muda mrefu baada ya toleo lisilojulikana la modeli, ambayo usanidi wake haukurekodiwa na hayawezi kuthibitishwa kwa kujitegemea, yatakuwa na thamani ndogo zaidi.

Kwa hiyo, kazi inayofaa ya kisheria ya XAI si kuwa msingi mpya wa uhusishaji unaoanzisha uwajibikaji wa serikali; bali kuwa mmoja wa ushahidi unaoweza kusaidia chombo cha kimataifa cha mahakama kuchunguza kwa nidhamu zaidi matukio yaliyopitishwa kupitia teknolojia.

Dokezo la Chanzo na Mbinu

Utafiti asilia: Explainable Artificial Intelligence as Evidence Relevant to Attribution: Rethinking State Responsibility under International Law

Waandishi: Kianoush Mansouri Jamshidi; Kian Mansouri Jamshidi.

Mahusiano ya kitaasisi katika PDF: Kianoush Mansouri Jamshidi — Independent Legal Researcher, Independent, Iran. Kian Mansouri Jamshidi — Independent AI Researcher and Developer, Independent, Iran.

Tofauti ya rekodi ya kibibliografia: Rekodi ya SSRN inamtaja Kian Mansouri Jamshidi kama “Independent Academic Researcher” na Contact Author. Tofauti kati ya cheo kilicho katika PDF na rekodi hii ya jukwaa imeainishwa bila kubadilishwa.

Tarehe: 14 Agosti 2026. Tarehe ya kupakiwa kwenye SSRN ni 18 Agosti 2026.

DOI: 10.2139/ssrn.7282399

Jukwaa: SSRN.

Aina ya chanzo na ukaguzi wa kitaaluma: Utafiti ni maandishi ya utafiti/preprint kwenye SSRN. Hakuna uchapishaji katika jarida lililopitiwa na wataalamu unaotajwa katika rekodi ya kibibliografia iliyothibitishwa; kwa hiyo, matokeo hayapaswi kuwasilishwa kama matokeo ya jarida lililopitiwa na wataalamu.

Leseni: Creative Commons Attribution-NonCommercial 4.0 International (CC BY-NC 4.0). Maelezo haya ya Verianla hayajachapisha upya maandishi ya chanzo wala uwasilishaji wa chanzo; yameeleza upya maudhui ya kisheria na ya kiufundi ya utafiti ndani ya muundo huru wa kielimu.

Ufadhili: Waandishi wanaripoti kwamba hawakupokea msaada kutoka kwa mfadhili maalum wa serikali, wa kibiashara au asiye wa kibiashara.

Mgongano wa maslahi: Waandishi hawaripoti maslahi ya kifedha yanayojulikana au mgongano wa maslahi wa kitaasisi unaohusiana na mada.

Maadili: Kwa kuwa hakuna washiriki wa kibinadamu, data za wagonjwa, jaribio la kimatibabu au utafiti wa wanyama, idhini ya kamati ya maadili haitumiki.

Upatikanaji wa data: Utafiti hautengenezi mkusanyiko asilia wa data za majaribio; unafanya uchambuzi wa kimafundisho na wa fani mbalimbali juu ya nyenzo za sheria ya kimataifa zilizo wazi kwa umma, maamuzi ya mahakama na fasihi ya kitaaluma/kiufundi.

Michango ya waandishi: PDF ya chanzo au rekodi ya kibibliografia iliyothibitishwa haitoi jedwali la kina la michango la CRediT; kwa hiyo, majukumu ya michango hayajatolewa kwa makisio.

Msingi wa vyanzo vya kisheria: Utafiti unatumia hasa ARSIWA na Commentary pamoja na maamuzi ya Corfu Channel, Military and Paramilitary Activities in and against Nicaragua, Application of the Convention on the Prevention and Punishment of the Crime of Genocide na Pulp Mills on the River Uruguay.

Msingi wa vyanzo vya kiufundi: Kwa upande wa XAI, fasihi kuhusu LIME, SHAP, maelezo ya kinyume-na-uhalisia, uaminifu wa mbinu za saliency/feature-attribution, robustness ya maelezo, adversarial manipulation na ufasirikaji wa kimakanika inatathminiwa.

Dokezo la kibibliografia ndani ya chanzo: Chanzo kinaomba rekodi ya arXiv:2605.29358 kuhusu kazi ya Templeton na wenzake “Scaling Monosemanticity: Extracting Interpretable Features from Claude 3 Sonnet” ithibitishwe kabla ya kuwasilishwa. Kitambulisho hiki baadaye kilithibitishwa dhidi ya rekodi ya arXiv katika ukaguzi huru wa kibibliografia.

Kizuizi kikuu cha kimetodolojia: Utafiti ni wa kimafundisho na wa kimawazo; hauonyeshi kwamba mfumo uliopendekezwa wa hatua tisa umejaribiwa kwa njia ya kimaabara katika mgogoro halisi wa kimataifa au umechukuliwa na mahakama. Mfumo huu si sheria inayolazimisha, bali ni zana ya uchambuzi iliyopendekezwa kwa ajili ya kuweka nidhamu katika uchanganuzi wa ushahidi.

Kikomo kikuu cha ufasiri: Maelezo ya kiufundi, uthibitisho wa ukweli, usababisho, udhibiti wa kisheria, uhusishaji kwa serikali, ukiukaji na uwajibikaji vinapaswa kuwekwa kama hatua tofauti za uchambuzi.