Mifumo ya uamuzi wa kialgorithimu inaweza kubadilisha si tu namna serikali inavyoingilia haki za binadamu, bali pia namna mahakama za kikatiba zinavyotathmini uingiliaji huo. Utafiti huu unalenga hasa hatua ya “ulazima” katika jaribio la uwiano na unasema kwamba pale mahakama inaposhindwa kuchunguza vya kutosha jinsi mfumo wa uamuzi wa kiotomatiki unavyofanya kazi kwa kweli, ukaguzi wa kimsingi wa ulazima unaweza, bila kutambulika, kuhamia kwenye tathmini ya dhamana za kiutaratibu kama uwazi, usimamizi wa binadamu, utunzaji wa kumbukumbu na wajibu wa ukaguzi. Mwandishi anaita mchakato huu “kuporomoka kwa msingi wa ushahidi wa uwiano”. Ulinganisho unafanywa kati ya Umoja wa Ulaya, Ujerumani, Marekani, Brazili, India na Afrika Kusini kupitia mifano kama SyRI, SCHUFA, HessenDATA/VeRA, State v. Loomis, Puttaswamy/Aadhaar na ADI 6387. Algorithmic Proportionality and Rights Continuity Standard (APRCS) inayopendekezwa na utafiti inapendekeza zana za kiutaratibu kama tathmini huru ya kiufundi, ufikiaji unaolindwa chini ya siri ya kibiashara, na kuhifadhi toleo la modeli lililotumika ili mahakama ziweze kuchunguza kwa kweli ulazima wa mifumo ya kialgorithimu. Hata hivyo, APRCS si kiwango cha kisheria kinachofunga kinachotumika sasa, bali ni pendekezo la kitaasisi lililotengenezwa na mwandishi.

Jaribio la uwiano ni nini?

Katika sheria ya kikatiba na haki za binadamu, uchambuzi wa uwiano ni mbinu iliyopangwa inayotumiwa kuchunguza kama hatua ya serikali inayoweka kikomo kwa haki ya msingi inakubalika kisheria.

Muundo wa kawaida unaotumiwa na utafiti wa chanzo una hatua nne:

1. Lengo halali: Je, lengo ambalo serikali inataka kufikia linakubalika kisheria?
2. Ufaafu: Je, hatua iliyochaguliwa inachangia kwa kweli kufikia lengo hilo?
3. Ulazima: Je, inawezekana kufikia lengo hilo hilo kwa njia nyingine inayoweka vizuizi vichache zaidi kwa haki?
4. Uwiano kwa maana finyu: Je, manufaa yanayotolewa na hatua hiyo yanahalalisha mzigo unaowekwa kwa haki ya msingi?

Ili jaribio hili lifanye kazi, mahakama lazima iweze kuelewa kwa kiwango fulani jinsi hatua inavyofanya kazi na utaratibu wa kisababishi kati ya lengo na matokeo.

Kwa Nini Mifumo ya Kialgorithimu Hufanya Jaribio la Uwiano Kuwa Gumu?

Hatua za ufaafu na ulazima katika jaribio la uwiano zinahitaji mahakama iweze kutathmini jinsi chombo kinachotumiwa na serikali kinavyofikia lengo na kama njia mbadala zinazoweka vizuizi vichache zaidi kwa haki zinaweza kutoa matokeo yale yale. Ikiwa data za mafunzo, uzito wa sifa, mantiki ya uamuzi au usanifu wa modeli ya mfumo wa kialgorithimu havionekani vya kutosha kwa mahakama, ulinganisho huu unaweza kushindikana; tatizo si uwazi pekee, bali kudhoofika kwa msingi wa ushahidi wa uchambuzi wa uwiano.

Tofauti kati ya hatua ya kawaida na hatua ya kialgorithimu

Mantiki ya amri ya kutotoka nje kwa kawaida ni wazi: katika saa fulani harakati za watu huzuiwa. Mahakama inaweza kuchunguza moja kwa moja uhusiano wa hatua hii na lengo maalumu kama udhibiti wa uhalifu au mlipuko wa ugonjwa.

Kikainishi cha hatari kinachotegemea ujifunzaji wa mashine kinaweza kutoa matokeo kutokana na mahusiano ya kitakwimu kati ya mamia au maelfu ya vigezo. Mfumo unaweza kufunzwa upya baada ya muda, unaweza kuwa wa mtoa huduma wa nje, au mantiki yake ya uamuzi inaweza isiwe katika mfumo wa kanuni ambazo binadamu anaweza kuzifuata kwa urahisi.

Katika hali hiyo, mahakama inaweza kupata shida kujibu swali lifuatalo:

“Je, manufaa yale yale ya umma yangeweza kupatikana kwa njia inayoweka vizuizi vichache zaidi kwa haki?”

Ukaguzi wa kimsingi wa ulazima si sawa na ukaguzi wa dhamana za kiutaratibu

Hapa ndipo tofauti kuu ya utafiti ilipo.

Mfumo wa kialgorithimu unaweza kuwa na kinga zifuatazo:

• usimamizi wa binadamu,
• haki ya kupinga,
• utunzaji wa kumbukumbu,
• utaratibu wa kutoa maelezo,
• tathmini ya athari,
• ukaguzi wa mara kwa mara.

Haya yanaweza kuwa muhimu kwa ulinzi wa haki za msingi.

Hata hivyo, chanzo kinasisitiza tofauti hii: hata kama mfumo unasimamiwa vizuri sana na umeandikwa kwa kina, ikiwa lengo lile lile la umma linaweza kufikiwa kwa kiwango sawa kwa njia nyingine inayoweka vizuizi vichache zaidi kwa haki, mfumo huo bado unaweza usiwe “wa lazima”.

Je, Algorithimu Wazi Huwa ya Uwiano Kiotomatiki?

Hapana. Uwazi unaweza kuwa sharti muhimu la awali ili mahakama iweze kuchunguza mfumo, lakini kujua jinsi mfumo unavyofanya kazi hakuthibitishi peke yake kwamba mfumo huo ni wa lazima kwa maana ya kikatiba. Hatua ya ulazima katika jaribio la uwiano pia inahitaji tathmini ya kama njia mbadala zinazoweka vizuizi vichache zaidi kwa haki zinaweza kufikia lengo hilo hilo kwa kiwango sawa.

“Kuporomoka kwa msingi wa ushahidi wa uwiano” kunamaanisha nini?

Dhana asili ya utafiti wa chanzo, “proportionality's evidentiary collapse”, ni hali ambapo mahakama, bila kuacha rasmi jaribio la uwiano, kwa vitendo haiwezi kufikia ushahidi wa kiufundi unaounga mkono hasa hatua za ufaafu na ulazima za jaribio hilo.

Mahakama inaweza kuendelea kuandika jaribio la hatua nne katika uamuzi wake. Lakini mfumo wa kiufundi usipoweza kuchunguzwa kwa kweli, tathmini inaweza kubadilika kama ifuatavyo:

“Je, mfumo huu ni wa lazima kweli?”

badala yake:

“Je, kuna uwazi wa kutosha, usimamizi na dhamana ya kupinga karibu na mfumo huu?”

linaweza kuanza kuwa swali linaloulizwa.

Mwandishi anaeleza mabadiliko haya si kama mabadiliko ya wazi ya mafundisho, bali kama mageuzi ya kikatiba yasiyoonekana.

Hatari ya ukaguzi wa uwiano wa njia mbili

Chanzo kinapendekeza kwamba kwa vitendo aina mbili tofauti za uwiano zinaweza kujitokeza:

• Hatua zinazoeleweka kisababishi: Mahakama hufanya uchambuzi wa kimsingi wa ufaafu na ulazima.
• Hatua za kialgorithimu zisizo wazi kiufundi: Mahakama huzidi kuelekea ukaguzi wa dhamana za kiutaratibu na uhalali wa kimantiki.

Tofauti hii haijatangazwa wazi katika mwenendo rasmi wa mahakama. Hoja ya makala ni kwamba mwelekeo kama huu unaweza kuonekana katika kiwango cha utekelezaji katika maamuzi ya kulinganisha.

Aina Tatu za Kutokuwa Wazi kwa Algorithimu ni Zipi?

Utafiti unagawanya kutokuwa wazi kwa algorithimu katika kutokuwa wazi kwa ufikiaji, kutokuwa wazi kitaasisi na kutokuwa wazi kimuundo. Tofauti hii ni muhimu; kwa sababu mfumo unaweza kuelezwa lakini nyaraka zisikabidhiwe, nyaraka zinaweza kuwepo lakini uwezo wa kiufundi wa mahakama ukawa hautoshi, au usanifu wa modeli wenyewe usiweze kujengwa upya kikamilifu na binadamu kwa mnyororo wa kisababishi; haya si matatizo sawa ya kisheria.

1. Kutokuwa wazi kwa ufikiaji

Jinsi mfumo unavyofanya kazi inaweza kuelezwa kinadharia, lakini mahakama au mhusika hawezi kufikia:

• msimbo chanzi,
• nyaraka za kiufundi,
• data za mafunzo,
• uzito wa sifa,
• rekodi za uthibitishaji wa modeli

hawezi kuzifikia.

Kesi ya SyRI inachukuliwa katika chanzo kuwa mfano thabiti wa aina hii ya kutokuwa wazi.

2. Kutokuwa wazi kitaasisi

Nyaraka za kiufundi zinaweza kupatikana, lakini mahakama inaweza kukosa wataalamu, mshauri au mtathmini huru wa kiufundi anayeweza kuzitafsiri kwa maana.

Katika hali hii tatizo si siri ya kibiashara au usiri, bali ni uwezo wa kitaasisi wa mahakama yenyewe.

3. Kutokuwa wazi kimuundo

Hii ndiyo aina ngumu zaidi. Hata kukiwa na ufikiaji kamili na utaalamu mkubwa wa kiufundi, mchakato wa ndani wa uamuzi wa baadhi ya usanifu wa ujifunzaji wa mashine wenye vipimo vingi unaweza usiweze kujengwa upya kikamilifu na binadamu katika mnyororo wazi wa mantiki ya kisababishi.

Chanzo kinasisitiza kwamba mwenendo uliopo wa kikatiba bado haujakabiliana moja kwa moja na tatizo hili la tatu.

Nini Hutokea Ikiwa Mahakama Haiwezi Kueleza Mfumo Hata kwa Mtaalamu wa Kiufundi?

Utafiti wa chanzo hautoi jibu la kisheria la mwisho kwa swali hili na unaliacha kama mojawapo ya maswali muhimu yaliyo wazi katika mwenendo wa sasa wa mahakama. APRCS inaweza kupunguza matatizo ya ufikiaji na uwezo wa kitaasisi; lakini ikiwa usanifu wenyewe wa modeli hauwezi kujengwa upya kikamilifu kisababishi na binadamu, jinsi mafundisho ya uwiano yanavyopaswa kutumika kwa mfumo kama huo inahitaji kazi zaidi ya kinadharia na kimahakama.

Umoja wa Ulaya

Katika Umoja wa Ulaya, Kifungu cha 52(1) cha Charter of Fundamental Rights ni mojawapo ya misingi mikuu ya kisheria ya tathmini ya uwiano.

Chanzo kinachunguza hasa mifano mitatu:

• Schrems II,
• SCHUFA,
• Artificial Intelligence Act.

Schrems II

Kwa mujibu wa chanzo, Schrems II ni mojawapo ya mifano thabiti ya ukaguzi wa kimsingi wa uwiano kwa maana ya kawaida. Mahakama ya Haki ya Umoja wa Ulaya ilichunguza wigo wa mamlaka za ufuatiliaji za Marekani na dhamana za kisheria, na kutathmini ulinganifu wa ufikiaji wa data na haki za msingi.

Muundo unaojadiliwa hapa ni zaidi ya utawala wa kisheria wa ufuatiliaji kuliko utendaji wa ndani wa kiufundi wa mfumo fulani wa ujifunzaji wa mashine. Kwa hiyo, mahakama ina uwezekano mkubwa zaidi wa kuchunguza muundo wa kisababishi na wa kisheria.

SCHUFA

Kesi ya SCHUFA inahusiana moja kwa moja zaidi na tatizo la uamuzi wa kialgorithimu katika alama za mikopo za kiotomatiki.

Mahakama ya Haki ya Umoja wa Ulaya ilikubali kwamba thamani ya uwezekano wa kiotomatiki kuhusu ustahili wa mkopo inaweza kuingia chini ya masharti ya GDPR kuhusu uamuzi wa mtu binafsi wa kiotomatiki ikiwa ina uzito wa kuamua katika uamuzi wa mhusika wa tatu.

Chanzo kinaona hili kama ulinzi muhimu wa haki, lakini kinasema kuwa uzito mkuu wa uamuzi ulibaki kwenye dhamana za kiutaratibu kama uwazi na uingiliaji wa binadamu; hakukufanywa ulinganisho huru wa kiufundi wa kama modeli hiyo ilikuwa kweli ya lazima kwa lengo lile lile.

Sheria ya Akili Bandia ya EU

Regulation (EU) 2024/1689 inaweka wajibu mpana kwa mifumo ya akili bandia yenye hatari kubwa.

Miongoni mwao ni:

• usimamizi wa hatari,
• nyaraka za kiufundi,
• utunzaji wa kumbukumbu,
• usimamizi wa binadamu,
• tathmini ya uzingatiaji,
• usahihi na ustahimilivu

vinajumuishwa.

Chanzo kinasema mfumo huu umeleta ulinzi muhimu lakini haujajengwa juu ya jaribio la jumla la kikatiba la “je, mfumo huu wa AI ni wa lazima kweli?”

Ujerumani: mfano thabiti wa kinyume

Ujerumani ni mfano muhimu wa kinyume unaozuia hoja ya utafiti kuwa ujumla rahisi.

Uamuzi wa Federal Constitutional Court wa 1983 kuhusu Census Act unachukuliwa kuwa mojawapo ya maamuzi ya msingi katika maendeleo ya haki ya mtu kujitawala juu ya taarifa zake.

Chanzo kinasema katika uamuzi huo mahakama ilitathmini kwa kina jinsi miunganisho ya data ingefanya kazi, taarifa zipi zingeunganishwa na kama kulikuwa na njia mbadala zenye uingiliaji mdogo zaidi.

HessenDATA na VeRA

Mwaka 2023 Bundesverfassungsgericht ilichunguza mamlaka za kisheria kuhusu mifumo ya HessenDATA na VeRA yenye msingi wa Palantir katika majimbo ya Hessen na Hamburg.

Mahakama iliona kuwa masharti yaliyoruhusu uchambuzi wa data kupanuliwa hadi kwa watu wasiokuwa na uhusiano wa kutosha na uhalifu au hatari mahususi hayakuwa ya uwiano.

Uamuzi huu ni muhimu sana kwa chanzo; kwa sababu unaonyesha kuwa hata mbele ya mfumo wa kialgorithimu, ukaguzi halisi wa kimsingi wa ulazima na wigo unawezekana.

Je, Mfano wa Ujerumani Unakanusha Hoja ya “Kuporomoka kwa Ushahidi” ya Makala?

Hapana; badala yake unaweka mpaka muhimu kwa hoja hiyo. Kwa kuwa usanifu wa mifumo ya kuunganisha na kutafuta data kama HessenDATA na VeRA uliweza kueleweka kwa undani kiasi na mahakama, Mahakama ya Kikatiba ya Shirikisho la Ujerumani iliweza kuendeleza ukaguzi madhubuti wa kimsingi wa uwiano. Mfano huu unaonyesha kuwa tatizo si otomatiki yenyewe, bali ni muunganiko wa usanifu wa kiufundi wa mfumo na uwezo wa kitaasisi wa mahakama.

Marekani

Katika sheria ya Marekani hakuna mafundisho moja na ya jumla ya uwiano kama ya Ulaya. Chanzo kinajumuisha ukaguzi wa narrow tailoring ndani ya strict scrutiny na intermediate scrutiny kwa sababu ya ufanano wa kimuundo.

Sehemu kubwa ya kesi dhidi ya maamuzi ya kialgorithimu ya serikali huendeshwa kupitia procedural due process badala ya substantive due process au ulinzi sawa.

Kwa mujibu wa chanzo, sababu mojawapo ni kwamba madai ya kiutaratibu yanafikika zaidi kuliko kuthibitisha moja kwa moja usahihi au ulazima wa modeli iliyofungwa kiufundi.

State v. Loomis

Wisconsin Supreme Court haikupiga marufuku kabisa matumizi ya alama ya hatari ya kurudia uhalifu ya COMPAS katika hatua ya kuamua adhabu.

Matumizi yaliruhusiwa kwa sharti kwamba alama isiwe kipengele pekee cha kuamua na jaji apewe taarifa kuhusu baadhi ya mipaka ya mfumo.

Ukosoaji wa chanzo ni huu: mahakama haikutathmini kwa uhuru kama njia mbadala iliyo wazi zaidi au isiyo ya kiotomatiki ingeweza kutoa thamani ile ile ya utabiri.

Kwa hiyo Loomis inaonyeshwa katika utafiti kama mojawapo ya mifano iliyo wazi zaidi ya dhamana za kiutaratibu kuchukua nafasi ya ukaguzi wa kimsingi wa ulazima.

Brazili

Uamuzi wa ADI 6387 wa mwaka 2020 wa Supremo Tribunal Federal ni hatua muhimu katika mchakato wa kutambua ulinzi wa data binafsi kama haki ya msingi inayojitegemea katika ngazi ya kikatiba.

Kifungu cha 20 cha Lei Geral de Proteção de Dados (LGPD) cha Brazili kinatoa haki zinazohusiana na mapitio ya baadhi ya maamuzi ya kiotomatiki.

Chanzo kinasema kuna tofauti katika utekelezaji wa haki hii katika mahakama za chini; baadhi ya maamuzi yanaweza kuona uwepo wa utaratibu wa mapitio ya binadamu au mchakato wa maelezo kuwa wa kutosha badala ya kuchunguza kama mfumo huo ni wa lazima kweli.

India

Katika uamuzi wa Justice K.S. Puttaswamy, India Supreme Court ilitambua faragha kama haki ya msingi chini ya Article 21 na kuimarisha mbinu iliyopangwa ya uwiano katika sheria ya kikatiba ya India.

Katika migogoro iliyofuata kuhusu mfumo wa utambulisho wa kibayometriki Aadhaar, chanzo kinasema mahakama iliweka uzito mkubwa kwa uhifadhi wa data, mipaka ya ufikiaji na dhamana za usalama; lakini tathmini huru ya ulazima wa kiufundi wa mfumo wa kibayometriki ikilinganishwa na njia mbadala zisizo za kiotomatiki ilibaki yenye ukomo zaidi.

Afrika Kusini

Kifungu cha 36 cha Katiba ya Afrika Kusini kinatoa mfumo wa wazi wa ukomo na uwiano.

Hata hivyo, inaelezwa kwamba katika migogoro kuhusu ustawi wa jamii na mifumo ya SASSA, masuala ya uamuzi wa kiotomatiki mara nyingi hushughulikiwa kupitia haki ya kiutaratibu chini ya Promotion of Administrative Justice Act kabla ya uchambuzi wa kikatiba wa ulazima.

Kesi ya SyRI

System Risk Indication (SyRI) nchini Uholanzi ulikuwa mfumo uliotumika kuunganisha hifadhidata mbalimbali za umma ili kutoa alama za hatari za ustawi wa jamii na udanganyifu.

Mwaka 2020 The Hague District Court iliona ukosefu wa uwazi katika jinsi mfumo ulivyofanya kazi kuwa tatizo la uwiano chini ya Kifungu cha 8 cha Mkataba wa Ulaya wa Haki za Binadamu.

Umuhimu wa SyRI kwa utafiti ni kwamba mahakama iliiona hali ya kutokuwa wazi si kama tatizo tofauti la “kutoa taarifa” pekee, bali kama kipengele kinachozuia uwiano wa mfumo kujaribiwa kwa kweli.

Kwa Nini Kutokuwa Wazi Katika Kesi ya SyRI Kulikuwa Tatizo la Moja kwa Moja la Uwiano?

Kwa sababu mahakama inaposhindwa kuona vya kutosha jinsi modeli ya hatari inavyofanya kazi, haiwezi kuthibitisha kama uingiliaji wa maisha binafsi ni wa lazima na wa uwiano kwa kweli. Kwa hiyo, mfano wa SyRI unaonyesha kwamba uwazi unahusiana si tu na haki ya mtu kupata taarifa, bali pia na uwezo wa mahakama kutekeleza jaribio la kikatiba la ulazima.

Mbinu na Matokeo ya Utafiti

Mbinu

Utafiti unaunganisha mbinu kuu tatu:

1. Uchambuzi wa kimafundisho: uwiano, ukomo wa haki za msingi, ulinzi wa data na kanuni za ukaguzi wa kimahakama.
2. Sheria ya kikatiba linganishi: EU, Ujerumani, Marekani, Brazili, India na Afrika Kusini.
3. Uchambuzi wa mwenendo wa mahakama: maamuzi ya mahakama yanayotathmini mifumo fulani ya uamuzi wa kiotomatiki au taratibu za uchakataji wa data.

Makala haitoi data mpya ya majaribio wala hifadhidata ya kimfumo ya kesi. Mwandishi pia anakubali wazi kwamba mwenendo wa sasa wa sheria ya kikatiba ya kialgorithimu bado ni mpya na unaendelea kukua.

Mifano mikuu ya kulinganisha

Tatizo la uwezo wa kiufundi wa mahakama

Moja ya matokeo muhimu zaidi ya kitaasisi ya chanzo ni kwamba mahakama za kikatiba na za kiutawala zina miundombinu ya kudumu ya utaalamu wa kiufundi iliyo ndogo zaidi ikilinganishwa na taasisi maalumu katika sheria ya hataza au ushindani.

Katika migogoro ya hataza na ushindani:

• washauri wa kiufundi,
• wachumi,
• wahandisi,
• taratibu za mashahidi wataalamu

zimekuwa za kawaida zaidi.

Katika kesi za kialgorithimu za haki za msingi, uwezo huu bado haujawa wa kawaida.

Tatizo la siri ya kibiashara

Mifumo ya kialgorithimu ambayo serikali inanunua kutoka kwa kampuni binafsi inaweza pia kuleta tatizo la siri ya kibiashara.

Wakati serikali inaweza kulazimika kufichua mfumo ilioutengeneza yenyewe mahakamani, msimbo chanzi au usanifu wa modeli wa mtoa huduma binafsi unaweza kudaiwa kuwa siri ya kibiashara.

Utafiti hauthibitishi kwamba hili limefanywa kwa makusudi ili kukwepa ukaguzi wa haki; lakini kwa matokeo, kikwazo kilekile kinaweza kutokea: mahakama haiwezi kutathmini mfumo kwa kujitegemea.

Kutolingana kwa muda

Mifumo ya kialgorithimu inaweza kusasishwa, kufunzwa upya au kubadilishwa kabisa wakati kesi ikiendelea.

Kesi inapohitimishwa miaka baadaye, mfumo ulio mbele ya mahakama unaweza usiwe sawa na toleo linalodaiwa kusababisha ukiukaji wa haki.

Hali hii inaelezwa katika chanzo kama utaratibu mwingine wa kitaasisi unaofanya ukaguzi wa kimsingi na wa nyuma wa ulazima kuwa mgumu na kuzielekeza mahakama kwenye suluhisho za baadaye za uwazi au ukaguzi.

APRCS ni Nini?

Algorithmic Proportionality and Rights Continuity Standard (APRCS) ni kiwango cha kiutaratibu kinachopendekezwa na utafiti wa chanzo, kinacholenga kufanya utaalamu huru wa kiufundi, ufikiaji wa mfumo uliolindwa na uhifadhi wa toleo sahihi la modeli kuwa lazima ili mahakama iweze kufanya ukaguzi wa kimsingi wa uwiano katika migogoro ya kikatiba na kiutawala iliyoathiriwa na mifumo ya kialgorithimu.

1. Kichochezi cha lazima cha tathmini ya kiufundi

Kwa mujibu wa APRCS, mahakama kwanza inapaswa kutathmini kama mantiki ya uainishaji au skoring ya mfumo inaweza kujengwa upya kwa kutosha kupitia nyaraka za kiufundi.

Ikiwa mfumo unaweza kueleweka vya kutosha kupitia nyaraka hizi, ukaguzi wa kawaida wa uwiano unaweza kuendelea.

Ikiwa mantiki ya utendaji wa mfumo haiwezi kujengwa upya kwa nyaraka pekee, mahakama inapaswa kuteua mtathmini huru wa kiufundi.

2. Orodha huru ya wataalamu

Mtaalamu anapaswa kuteuliwa kutoka kwenye orodha huru na ya kudumu inayotunzwa na utawala wa mahakama, si kuwa mshauri aliyechaguliwa na mmoja wa wahusika.

Mbinu hii inanufaika na uzoefu wa kitaasisi uliopo katika kesi za hataza na ushindani.

3. Ufikiaji unaolindwa chini ya siri ya kibiashara

Taarifa za kiufundi za mtoa huduma binafsi huenda zisihitajike kuwekwa wazi kwa umma.

APRCS inapendekeza mtaalamu huru aweze kufikia mfumo chini ya amri ya ulinzi ya mahakama. Kwa njia hii:

• siri ya kibiashara haitolewi hadharani,
• lakini dai la siri ya kibiashara halizuii kabisa ukaguzi wa kikatiba.

4. Kuhifadhi toleo la modeli lililotumika

Ikiwa uamuzi wenye utata kuhusu mtu ulitolewa kwa toleo fulani la modeli, toleo hilo lazima lihifadhiwe.

Chanzo kinapendekeza kwamba ikiwa kesi ilikuwa inaweza kutarajiwa lakini toleo husika la modeli halikuhifadhiwa, mahakama iweze kutoa hitimisho lisilofaa kwa mfano wa kanuni za kawaida za uharibifu wa ushahidi au spoliation.

Ikiwa Algorithimu Ilisasishwa Baadaye, Mahakama Inapaswa Kuchunguza Toleo Gani?

Kwa mujibu wa APRCS, mada ya ukaguzi wa kikatiba inapaswa kuwa toleo la modeli lililozalisha kwa kweli uamuzi wenye utata. Kuchunguza mfumo ulioboreshwa baadaye au uliobadilishwa kabisa hakuonyeshi kama uingiliaji wa haki wa zamani ulikuwa wa lazima; kwa hiyo, ufuatiliaji wa matoleo ya modeli na uhifadhi wake unapaswa kuwa sehemu ya uadilifu wa ushahidi katika kesi za haki za kialgorithimu.

5. Kugharamia mtaalamu

Chanzo kinakubali wazi kwamba tathmini ya kiufundi si ya bure na mfumo wa lazima wa wataalamu unaweza kurefusha kesi.

Katika kesi za haki za msingi, kuacha gharama hii kwa mlalamikaji peke yake kunaweza kurudisha ukosefu wa usawa wa rasilimali ambao APRCS inalenga kutatua.

Kwa hiyo, utafiti unapendekeza hasa katika migogoro ya haki za kikatiba, gharama za tathmini ya kiufundi zilipwe kwa fedha za umma au mifumo iliyopo ya msaada wa kisheria ijumuisha wazi eneo hili.

Matatizo matatu ambayo APRCS inalenga kutatua

Kutokuwa wazi kimuundo hakutatuliwi kikamilifu; chanzo kinaacha hili kama mojawapo ya maswali makuu ya utafiti wa baadaye.

Utafiti unaunga mkono

• Unasema mifumo ya uamuzi wa kialgorithimu inaweza kufanya uchambuzi wa uwiano katika sheria ya kikatiba kuwa mgumu kiufundi na kiushahidi.
• Unaeleza muundo wa kulinganisha unaoonyesha baadhi ya mahakama zinaweza kuhama kutoka uchambuzi wa kimsingi wa ulazima kwenda tathmini ya dhamana za kiutaratibu.
• Unakubali wazi kwamba mabadiliko haya si sawa katika mifumo yote ya sheria na mifumo yote ya kiotomatiki.
• Unatumia uamuzi wa HessenDATA/VeRA wa Ujerumani kama mfano wa kinyume unaoonyesha ukaguzi thabiti wa kimsingi unawezekana.
• Unafanya tofauti ya kiuchambuzi kati ya kutokuwa wazi kwa ufikiaji, kitaasisi na kimuundo.
• Unapendekeza suluhisho la kiutaratibu linaloitwa APRCS linalolenga tathmini huru ya kiufundi.
• Unasema uwezo wa kiufundi wa mahakama unaweza kuathiri maudhui ya kimsingi ya ukaguzi wa haki za msingi.

Utafiti hauungi mkono

• Haudai kwamba mifumo yote ya akili bandia inakiuka haki za binadamu.
• Haupendekezi kupiga marufuku kabisa mifumo ya uamuzi wa kialgorithimu.
• Haudai kwamba mahakama zote zimeacha ukaguzi wa uwiano.
• Haudai kwamba kuna aina moja ya “kuporomoka kwa ushahidi” yenye nguvu sawa nchini Ujerumani, EU, Marekani, Brazili, India na Afrika Kusini.
• Hauonyeshi kwamba APRCS ni kiwango cha lazima cha sheria ya kimataifa kinachotumika leo.
• Hautegemei dhana kwamba mtaalamu huru wa kiufundi anaweza kueleza kikamilifu kila modeli isiyo wazi kimuundo.
• Haudai kwamba dhamana za kiutaratibu na uwazi hazina umuhimu; unasema tu hazipaswi kuchukua nafasi ya jaribio la kimsingi la ulazima.

Mapungufu makuu

Kizuizi cha kwanza ni kwamba mwenendo wa sheria ya kikatiba kuhusu mifumo ya uamuzi wa kiotomatiki bado ni mpya na unabadilika haraka. Muundo wa kulinganisha uliotambuliwa na chanzo haupaswi kusomwa kama sheria ya mwisho na iliyokita mizizi.

Pili, baadhi ya tathmini za vyanzo vya Kijerumani na Kireno katika utafiti zinategemea tafsiri rasmi au zinazotumiwa sana za Kiingereza na maoni ya kitaaluma ya pili.

Tatu, mifumo sita tu ya sheria yenye utamaduni imara wa mapitio ya kikatiba na mjadala ulioendelea wa utawala wa akili bandia imechunguzwa. Matokeo hayawezi kuenezwa kiotomatiki kwa mifumo yenye ukaguzi dhaifu wa kikatiba.

Nne, mifano iliyotumiwa na utafiti si hifadhidata ya kimfumo na ya kiasi ya kesi. Mwandishi anaeleza kwamba docket analysis yenye sampuli pana inapaswa kufanywa katika siku zijazo.

Tano, APRCS inapendekeza suluhisho kwa matatizo ya ufikiaji na uwezo wa kitaasisi, lakini haitoi jibu la mwisho kuhusu jinsi kutokuwa wazi kimuundo kunavyoweza kuendana na mafundisho ya uwiano.

Maelezo ya Chanzo na Mbinu

Kichwa asilia:Artificial Intelligence, Human Rights and the Transformation of Constitutional Law

Mwandishi: Northon Salomão de Oliveira.

ORCID: 0009-0007-4038-0609.

Maelezo ya kitaasisi/kitaaluma: OAB São Paulo, Brazil.

Tarehe ya kuandikwa: 18 Agosti 2026.

Aina ya chanzo: Utafiti wa sheria ya kikatiba wa kimafundisho, linganishi na unaotegemea mwenendo wa mahakama.

Jarida / DOI / mchapishaji: Haijaelezwa katika chanzo kilichopakiwa.

Hali ya mapitio ya kitaalamu: Hakuna taarifa katika hati ya chanzo inayothibitisha hali ya uchapishaji uliopitiwa na wataalamu wenza.

Mifumo ya sheria iliyochunguzwa: Umoja wa Ulaya, Ujerumani, Marekani, Brazili, India na Afrika Kusini.

Mwenendo mkuu wa mahakama na mifano ya kisheria: Schrems II, SCHUFA, uamuzi wa Bundesverfassungsgericht kuhusu Census Act, HessenDATA/VeRA, State v. Loomis, ADI 6387, Puttaswamy/Aadhaar na SyRI.

Mifumo mikuu ya udhibiti: EU Charter of Fundamental Rights, GDPR, Regulation (EU) 2024/1689, Brazil LGPD, South Africa PAJA na Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law.

Dhana asilia: proportionality's evidentiary collapse — kuporomoka kwa msingi wa ushahidi wa ukaguzi wa uwiano.

Pendekezo asilia: Algorithmic Proportionality and Rights Continuity Standard (APRCS).

Vipengele vya msingi vya APRCS: kichochezi cha lazima cha tathmini ya kiufundi, orodha huru ya wataalamu, ufikiaji wa kiufundi unaolindwa chini ya siri ya kibiashara, kuhifadhi toleo la modeli lililotumika, na kufanya gharama za wataalamu zipatikane katika kesi za haki za msingi.

Taarifa ya matumizi ya akili bandia: Mwandishi amesema alitumia zana za lugha zinazotegemea akili bandia kwa madhumuni ya kuunda rasimu, kupanga utafiti na kusaidia uhariri katika kuandaa makala; uchambuzi wote wa kisheria, maamuzi kuhusu vyanzo na matokeo alisimamia na kudhibiti mwenyewe.

Kizuizi kikuu cha kimetodolojia: APRCS si kanuni ya sheria ya lazima inayotumika sasa, bali ni pendekezo la kitaasisi linalotokana na uchambuzi wa sheria ya kikatiba linganishi.