Upendeleo wa kialgorithimu katika rasilimali watu, ni hali ambapo akili bandia au mifumo ya maamuzi ya kialgorithimu huzalisha kwa utaratibu matokeo yasiyo ya haki kwa watu au makundi fulani, au huzalisha upya au kuongeza ukosefu wa usawa uliopo katika jamii. Utafiti huu wa kinadharia unachunguza matumizi ya akili bandia katika michakato ya rasilimali watu kama uajiri, uchujaji wa waombaji, usaili, tathmini, usimamizi wa utendaji, kupandishwa cheo, uhifadhi wa wafanyakazi na kuondoka/kufukuzwa kazi kwa kuzingatia data, muundo wa algorithimu, mwingiliano wa binadamu–mfumo na muktadha wa shirika/kijamii. Utafiti hautumii mkusanyiko mpya wa data wala jaribio; unaunganisha mitazamo kutoka sayansi ya kompyuta, sosholojia, Usimamizi Mkosoaji wa Rasilimali Watu — Human Resource Management (HRM) na fasihi ya maadili ili kupendekeza mfumo wa ngazi nyingi wa kupunguza upendeleo.

Hoja kuu ya chanzo ni kwamba upendeleo wa kialgorithimu si tatizo la “algorithimu yenye hitilafu” pekee. Kutokuwapo kwa usawa katika data za zamani za uajiri na kupandishwa cheo, vigezo mbadala vinavyohusiana na sifa zinazolindwa, mifumo ya data inayokosekana, uchaguzi wa modeli na vipengele, malengo ya uboreshaji, watumiaji binadamu kuamini kupita kiasi matokeo ya kialgorithimu, waombaji kuingiliana na teknolojia kwa namna tofauti, na vipaumbele vya kitamaduni/kishirika vya taasisi yenyewe vinaweza kuunda au kuimarisha upendeleo ndani ya mfumo mmoja.

Suluhisho linalopendekezwa na utafiti lina tabaka nne zilizounganishwa: chanzo cha data na uratibu wa data wenye uwajibikaji, uwazi wa kialgorithimu na haki tangu hatua ya usanifu, usanifu wa mchakato wa shirika na uangalizi wa binadamu, uwajibikaji, ufuatiliaji endelevu na utawala wa kimaadili. Kwa mujibu wa mkabala wa waandishi, kusafisha data pekee, kuboresha metrika moja ya fairness au kuongeza msimamizi binadamu kwenye mfumo hakutoshi; mifumo ya kiufundi na kijamii lazima izingatiwe kwa pamoja.

Matokeo haya si ushahidi wa kimajaribio kwamba algorithimu moja ni ya haki zaidi kuliko nyingine. Chanzo hakifundishi modeli yoyote, hakichanganui data za waombaji, hakihesabu demographic parity, equal opportunity au metrika nyingine ya fairness, wala hakithibitishi mfumo wake wa tabaka nne kwa jaribio linalodhibitiwa katika taasisi halisi. Mchango wa utafiti ni wa kimawazo na kinadharia.

Akili bandia inaweza kutumika wapi katika rasilimali watu?

Chanzo kinachukulia matumizi ya akili bandia kuwa yameenea katika hatua nyingi za mzunguko wa maisha wa rasilimali watu. Hizi ni pamoja na kutafuta vyanzo vya waombaji, kuchuja wasifu, usaili, tathmini ya umahiri au mwombaji, usimamizi wa utendaji, kupandishwa cheo, uhifadhi wa wafanyakazi na michakato ya kuondoka/kufukuzwa kazi.

Sababu kuu za kutumia mifumo hii ni uwezo wa kushughulikia idadi kubwa ya waombaji, kupunguza kazi ya binadamu, kufanya uchanganuzi wa utabiri, kupanua mchakato wa maamuzi na matarajio kwamba maamuzi yatakuwa ya kiobjektivu zaidi.

Chanzo pia kinaelekeza kwenye hoja muhimu ya kinyume: mfumo wa akili bandia hauwi wa upande wowote moja kwa moja kwa sababu tu unaendeshwa na kompyuta. Mfumo unaweza kubeba historia ya data unayopewa, chaguo za watengenezaji na mantiki ya maamuzi ya taasisi ambamo unatumiwa.

Upendeleo wa Kialgorithimu katika Rasilimali Watu ni Nini?

Katika muktadha wa chanzo, upendeleo wa kialgorithimu ni pale maamuzi ya rasilimali watu yanayosaidiwa na akili bandia yanapozalisha tofauti za kimfumo na zisizo za haki zinazohusishwa na rangi, jinsia, umri, hali ya ulemavu, historia ya kijamii na kiuchumi au sifa nyingine za makundi, au yanapoongeza ukosefu wa usawa uliopo; kwa hiyo tatizo halipaswi kutafutwa katika matokeo ya modeli pekee, bali katika mfumo mzima wa kijamii-kiteknolojia unaoanzia kwenye data hadi utekelezaji wa shirika.

“Sifa inayolindwa” inamaanisha nini?

Protected characteristic — sifa inayolindwa, ni sifa binafsi ambazo hazipaswi kuwa msingi wa ubaguzi usio wa haki katika maamuzi chini ya sheria za kupinga ubaguzi au sera za usawa za shirika. Chanzo hutumia race, gender, age, disability na socioeconomic background kama mifano.

Hata hivyo, ni sifa gani inayohesabiwa kisheria kama “sifa inayolindwa” inaweza kutofautiana kulingana na nchi na mfumo wa udhibiti. Chanzo chenyewe pia kinasisitiza kwamba katika muktadha wa kimataifa, kanuni tofauti za kitamaduni na mifumo ya kisheria hufanya utekelezaji wa fairness kuwa mgumu. Kwa hiyo orodha iliyotolewa haipaswi kusomwa kama orodha moja ya kisheria ya ulimwengu mzima kwa nchi zote.

DEI ni nini?

Diversity, Equity and Inclusion — Utofauti, Haki na Ujumuishaji (DEI), ni jina la jumla la mikabala ya shirika inayolenga uwakilishi wa sifa na historia mbalimbali za wafanyakazi, kuhakikisha fursa na michakato ni ya haki, na kusaidia ushiriki wa watu katika shirika.

Chanzo kinahoji kwamba mifumo ya akili bandia yenye upendeleo inaweza kudhoofisha mipango ya DEI kwa kuendeleza ukosefu wa usawa katika nguvu kazi, kupunguza imani ya wafanyakazi na kusababisha maamuzi mabaya kuhusu vipaji.

Vyanzo vinne vikuu vya upendeleo wa kialgorithimu

Kwa nini upendeleo wa data ni muhimu sana?

Ikiwa mfumo wa ujifunzaji wa mashine unatumia data za maamuzi ya zamani, dhana kwamba maamuzi hayo ya zamani yalikuwa ya haki huwa muhimu sana. Kwa mfano, ikiwa kundi fulani liliajiriwa kwa kiwango cha chini kwa utaratibu hapo awali, kwa modeli hali hii inaweza kuonekana kama “mfumo ulioonekana zamani” tu. Ikiwa modeli itachanganya mfumo huo na kigezo cha mafanikio, inaweza kuzalisha upya ukosefu wa usawa wa zamani katika siku zijazo.

Chanzo kinaeleza hali hii kwa kuiita upendeleo wa data “core fuel — mafuta ya msingi” ya upendeleo.

Proxy au kigezo mbadala ni nini?

Proxy variable — kigezo mbadala, ni kigezo kingine kilichohusiana kwa nguvu na sifa nyeti ambayo haitumiki moja kwa moja katika modeli. Chanzo kinatoa mifano kama msimbo wa posta, jina la chuo kikuu au baadhi ya maneno muhimu katika wasifu.

Kwa mfano, hata kama mfumo hautumii taarifa ya jinsia moja kwa moja, ikiwa vipengele vingine vinahusiana sana na jinsia, modeli inaweza kuunda tofauti zinazofanana kwa njia isiyo ya moja kwa moja. Kwa hiyo kuondoa safu nyeti tu kutoka kwenye mkusanyiko wa data hakutatui tatizo la fairness kiotomatiki.

Feedback loop — mzunguko wa mrejesho ni nini?

Mzunguko wa mrejesho ni hali ambapo maamuzi yaliyotolewa na algorithimu baadaye huwa sehemu ya data mpya za mafunzo na kuimarisha mwelekeo wa awali.

Mantiki inayoonyeshwa na chanzo inaweza kufikiriwa kwa madhumuni ya kufundisha kama ifuatavyo:

Data za zamani zenye upendeleo → utabiri wa modeli → uamuzi wenye upendeleo → rekodi mpya ya shirika → mafunzo ya modeli yanayofuata.

Ikiwa mzunguko huu hautavunjwa, mfumo unaweza si tu kurudia kutokuwa na uwiano wa mwanzo; unaweza kuufanya uwe wazi zaidi katika vizazi vinavyofuata vya data.

Upendeleo wa muundo wa algorithimu unaweza kutokeaje?

Chanzo kinaelekeza kwenye maeneo manne muhimu ya usanifu: uchaguzi wa modeli, uchaguzi wa vipengele na feature engineering, metrika ya uboreshaji na vikwazo vya fairness.

Lengo la uboreshaji la modeli hujaribu kuimarisha kigezo cha kihisabati ambacho mtengenezaji amekifafanua kama “mafanikio”. Kwa mfano, chanzo kinaeleza kwamba uboreshaji kwa ajili ya “cultural fit — ulinganifu wa kitamaduni” unaweza kuweka katika modeli kanuni au mapendeleo ya zamani ya shirika.

Tatizo hapa si kwamba kompyuta ina nia mbaya. Tatizo ni kwamba lengo lenyewe linalojaribiwa kupimwa linaweza kufafanuliwa kwa namna isiyo sahihi, isiyokamilika au yenye matatizo ya kijamii.

Modeli ya Black-box inamaanisha nini?

Black-box — sanduku jeusi, ni usemi wa jumla unaotumiwa kueleza mifumo ambayo mtumiaji hawezi kuelewa kwa urahisi jinsi modeli inavyofika kutoka pembejeo hadi matokeo. Chanzo kinaeleza kwamba sifa hii ya modeli changamano inaweza kufanya ugunduzi wa upendeleo kuwa mgumu.

Kuwa modeli ya sanduku jeusi hakumaanishi moja kwa moja kwamba modeli ina upendeleo. Msisitizo wa chanzo ni kwamba uchangamano unaweza kufanya iwe vigumu kuchunguza kwa nini uamuzi ulitolewa na kutambua mifumo yenye hitilafu.

Kwa nini mwingiliano wa binadamu ni chanzo tofauti cha upendeleo?

Hata kama algorithimu inazalisha alama ileile kitaalamu, namna alama hiyo inavyotafsiriwa na wasimamizi binadamu inaweza kubadilisha matokeo ya mwisho. Chanzo kinaelekeza hasa kwenye matatizo matatu:

• Kuamini kupita kiasi matokeo ya kialgorithimu,
• kutumia matokeo hayo kuthibitisha upendeleo wa mtu mwenyewe,
• kutafsiri vibaya maana ya alama ya AI.

Chanzo pia kinatoa mfano kwamba katika mifumo kama usaili wa video, hali ya mwanga, lafudhi au namna ya uwasilishaji wa kitamaduni ya mwombaji inaweza kuathiri mwingiliano na teknolojia. Utafiti haujafanya jaribio jipya kwa mifano hii; unaiwasilisha kama usanisi wa kinadharia wa maeneo ya hatari yaliyotajwa katika fasihi.

Upendeleo unaweza kuonekana katika hatua zipi za rasilimali watu?

Debiasing ya kiufundi ni nini?

Debiasing, ni jina la jumla la mbinu zinazolenga kupunguza ukosefu wa haki wa kimfumo unaoonekana katika modeli au mchakato wa kuchakata data. Chanzo kinaainisha mbinu hizi katika hatua tatu.

Pre-processing — uchakataji wa awali: Kusafisha au kuweka uzani upya kwa data kabla modeli haijafundishwa.

In-processing — uingiliaji wakati wa mafunzo/uundaji wa modeli: Kuingiza mbinu kama algorithimu za fairness-aware au adversarial debiasing moja kwa moja katika mchakato wa kujifunza wa modeli.

Post-processing — uchakataji wa baadaye: Kurekebisha matokeo au vizingiti vya maamuzi baada ya modeli kutoa utabiri.

Chanzo kinaeleza kwamba mbinu hizi zinaweza kuwa muhimu, lakini mara nyingi hulenga dalili, kunaweza kuwa na migongano kati ya metrika za fairness, inaweza kuwa vigumu kufafanua makundi yanayolindwa, wakati mwingine kunaweza kutokea mabadilishano na usahihi wa modeli, na mkabala wa kiufundi unaweza kupuuza muktadha wa shirika.

Kwa Nini Mbinu za Kiufundi za Kupunguza Upendeleo Hazitoshi Zenyewe?

Kulingana na utafiti, kwa kuwa upendeleo wa kialgorithimu hautokei katika data au msimbo wa modeli pekee, kutumia debiasing ya kiufundi pekee hakutatui tatizo la kimfumo; historia ya data, tabia ya watumiaji binadamu, usanifu wa mchakato wa HR, mahusiano ya mamlaka ya shirika, uwajibikaji na utawala endelevu lazima vizingatiwe kwa wakati mmoja.

Explainable AI — XAI ni nini?

Explainable Artificial Intelligence — Akili Bandia Inayoelezeka (XAI), ni mkusanyiko wa mbinu zinazojaribu kueleza kwa mtumiaji kwa namna inayoeleweka zaidi ni pembejeo zipi na mahusiano gani ya kimantiki/kitakwimu yaliyozalisha utabiri au pendekezo la modeli.

Chanzo kinatoa LIME na SHAP kama mifano ya mbinu katika muktadha wa XAI.

LIME — Local Interpretable Model-agnostic Explanations, ni mkabala wa maelezo ya ndani unaojaribu kueleza tabia ya modeli changamano karibu na utabiri mmoja maalumu kwa kutumia modeli rahisi na inayoweza kutafsiriwa.

SHAP — SHapley Additive exPlanations, ni familia ya maelezo inayotegemea kugawa mchango wa vipengele tofauti katika utabiri mmoja kwa mantiki ya thamani ya Shapley katika nadharia ya michezo ya ushirikiano.

Chanzo hakichukulii uwepo wa mbinu hizi kama ushahidi kwamba upendeleo umeondolewa. Maelezo yanaweza kuwa changamano, yasiyokamilika au ya kupotosha; ukaguzi huru unaweza kuhitaji muda na utaalamu. XAI hasa husaidia kufanya tatizo lionekane; si utaratibu unaozuia upendeleo peke yake.

Human-in-the-Loop — HITL ni nini?

Human-in-the-Loop — HITL, inamaanisha kwamba matokeo yanayotolewa na mfumo wa akili bandia yanapitiwa na binadamu katika sehemu fulani za maamuzi au kwamba binadamu anahusishwa katika mchakato wa maamuzi.

Chanzo kinaeleza kwamba HITL pia si suluhisho la moja kwa moja. Msimamizi binadamu anaweza kubeba upendeleo wake wa kiakili, kuamini mfumo kupita kiasi kwa kuona alama ya kialgorithimu kama “ukweli wa kiobjektivu”, au mapitio ya binadamu yanaweza yasipanuke katika idadi kubwa sana ya waombaji.

Kwa hiyo mfumo unaopendekezwa unasisitiza mkabala wa HITL+ badala ya HITL rahisi: wataalamu wa HR na wasimamizi wanapaswa kufundishwa kuhusu mipaka ya akili bandia, kutambua upendeleo, kutafsiri matokeo na kubatilisha pendekezo lenye hitilafu inapohitajika.

Metrika ya fairness inapima nini?

Chanzo hakitoi metrika moja ya ulimwengu wote ya fairness ya kialgorithimu; kinaeleza kwamba malengo ya wazi ya fairness yanayofaa kwa muktadha yanapaswa kufafanuliwa, na kinatoa dhana za demographic parity na equal opportunity kama mifano.

Milinganyo ifuatayo si matokeo yaliyohesabiwa na makala chanzo. Ni vielelezo vya kawaida vya kihisabati vilivyotolewa kufundisha maana ya dhana mbili za fairness zilizotajwa katika makala.

Demographic parity — usawa wa kidemografia

Uwakilishi wa kawaida uliorahisishwa:

\[ P(\hat{Y}=1\mid A=a) = P(\hat{Y}=1\mid A=b) \]

Hapa:

• \(\hat{Y}=1\): inaonyesha modeli kutoa uamuzi chanya, kwa mfano kumpeleka mwombaji kwenye hatua inayofuata,
• \(A\): inaonyesha sifa ya kundi inayochunguzwa,
• \(a\) na \(b\): yanaonyesha makundi mawili yanayolinganishwa

.

Ufafanuzi huu wa fairness unalenga kufanya viwango vya maamuzi chanya kuwa sawa kati ya makundi. Hata hivyo, kwa kuwa hauzingatii moja kwa moja usambazaji wa uwezo wa msingi au matokeo halisi ya waombaji, hauwezi kuchukuliwa kiotomatiki kuwa kiwango sahihi cha fairness katika kila muktadha wa HR. Msisitizo wa chanzo kuhusu “context-specific fairness” ni muhimu hasa katika hatua hii.

Equal opportunity — usawa wa fursa

Uwakilishi wa kawaida uliorahisishwa:

\[ P(\hat{Y}=1\mid Y=1,A=a) = P(\hat{Y}=1\mid Y=1,A=b) \]

Hapa \(Y=1\), inaonyesha hali halisi chanya kulingana na kigezo husika cha marejeo; kwa mfano hali ya “anafaa/anatosheleza” iliyofafanuliwa na muundo wa tathmini.

Mkabala huu unalenga kusawazisha kati ya makundi kiwango ambacho watu walio katika daraja chanya kweli hupata utabiri chanya. Makala haihesabu metrika hii; inaeleza tu kwamba malengo ya fairness yanapaswa kuchaguliwa kulingana na muktadha.

Chanzo pia kinasisitiza kwamba metrika tofauti za fairness zinaweza kuwa na mabadilishano kati yake au na accuracy, privacy na mahitaji ya biashara. Kwa hiyo haiwezekani kuhitimisha kwamba “kuongeza namba moja ya fairness = mfumo mzima umekuwa wa haki”.

Msingi wa kinadharia 1: Critical HRM

Critical Human Resource Management — Usimamizi Mkosoaji wa Rasilimali Watu, ni mkabala unaosema kwamba michakato ya rasilimali watu si shughuli za kiufundi zilizo huru kabisa na upendeleo; zinaweza kuhusishwa na miundo ya mamlaka ya shirika, kanuni na ukosefu wa usawa.

Katika mfumo huu, chanzo hakichukulii zana za akili bandia kama programu tulivu pekee, bali kama wahusika wa shirika wanaoweza kuzalisha upya mienendo iliyopo ya kitaasisi.

Msingi wa kinadharia 2: Nadharia ya Mifumo ya Kijamii-Kiteknolojia

Socio-Technical Systems Theory — Nadharia ya Mifumo ya Kijamii-Kiteknolojia, haioni mfumo wa kiufundi na mfumo wa kijamii kuwa huru kutoka kwa kila mmoja. Algorithimu, hifadhidata na modeli ni sehemu za mfumo wa kiufundi; wafanyakazi, wasimamizi, michakato ya shirika na utamaduni ni sehemu za mfumo wa kijamii.

Hoja kuu ya chanzo kwa kiasi kikubwa inategemea mkabala huu: ikiwa upunguzaji wa upendeleo wa kialgorithimu unafanywa katika tabaka la kiufundi pekee, sababu au matokeo katika tabaka la kijamii yanaweza kuendelea.

Msingi wa kinadharia 3: Nadharia ya Haki ya Shirika

Organizational Justice Theory — Nadharia ya Haki ya Shirika, inahusu kiwango ambacho wafanyakazi wanaona matokeo na michakato ya maamuzi ndani ya shirika kuwa ya haki.

Chanzo kinarejelea aina tatu za haki:

• Distributive justice: haki katika usambazaji wa matokeo,
• procedural justice: haki ya mchakato wa maamuzi,
• interactional justice: haki inayohusiana na namna watu wanavyotendewa katika mchakato wa maamuzi.

AI yenye upendeleo inaweza kuhatarisha moja kwa moja hasa haki ya kiutaratibu; kwa sababu mwombaji au mfanyakazi anaweza kushindwa kupata jibu linaloaminika kwa swali “uamuzi ulitolewa kwa kanuni gani na kwa nini?”

Msingi wa kinadharia 4: Ethics of Care na Human-Centered AI

Ethics of Care — Maadili ya Kujali na Human-Centered AI — Akili Bandia Inayomlenga Binadamu, ni mikabala inayoweka ustawi wa binadamu, hadhi ya binadamu na muktadha wa uamuzi katikati.

Msimamo wa wazi wa chanzo katika mtazamo huu ni kwamba katika maeneo ya maamuzi yenye maadili kama rasilimali watu, akili bandia inapaswa kusaidia hukumu ya binadamu badala ya kuiondoa kabisa.

Mbinu na Matokeo ya Utafiti

Mbinu ya kisayansi ya utafiti

Utafiti huu hauzalishi mkusanyiko mpya wa data za kiempiria. Chanzo kinajitambulisha kama utafiti wa kinadharia na kinaunda mfumo wa kimawazo kwa kusanisi mitazamo kutoka sayansi ya kompyuta, sosholojia, Critical HRM na maadili.

Katika chanzo:

• swali la utafutaji katika hifadhidata za fasihi,
• kipindi cha tarehe za utafutaji,
• vigezo vya kujumuisha/kuondoa,
• mtiririko wa uchaguzi wa tafiti kama PRISMA,
• itifaki ya tathmini ya ubora,
• sampuli,
• kundi dhibiti,
• mafunzo ya modeli,
• jaribio la nadharia ya kitakwimu,
• hesabu ya metrika ya fairness

havijaripotiwa. Kwa hiyo utafiti haupaswi kuainishwa kama mapitio ya kimfumo ya fasihi au fairness benchmark ya kimajaribio.

Mfumo wa Tabaka Nne wa Kupunguza Upendeleo Unafanyaje Kazi?

Mfumo unaopendekezwa na chanzo unaweka upunguzaji wa upendeleo si kama marekebisho moja ya modeli, bali kama ngazi nne zilizounganishwa za uingiliaji: msingi wa data unaoaminika na unaoweza kufuatiliwa huundwa; uwazi na malengo ya fairness huundwa ndani ya algorithimu; michakato ya HR hupangwa upya kwa uangalizi wa binadamu na taratibu za kupinga maamuzi; na hatimaye uwajibikaji, ukaguzi endelevu, mawasiliano na utamaduni wa kimaadili hudumishwa katika mzunguko mzima wa maisha wa mfumo.

Tabaka 1 — Data Provenance & Responsible Curation

Data provenance — asili/provenance ya data, ni taarifa inayowezesha kufuatilia mkusanyiko wa data ulitoka wapi, ulikusanywa vipi, ulibadilishwa vipi na una vikwazo gani.

Chanzo kinapendekeza uingiliaji matatu katika tabaka hili:

1. Rigorous Data Auditing: Ukaguzi wa kimfumo wa kutokuwa na uwiano wa uwakilishi, upendeleo wa kihistoria, vigezo mbadala na mifumo ya data inayokosekana.
2. Bias-Aware Data Collection & Annotation: Kanuni zinazolenga fairness kwa ukusanyaji na uwekaji lebo wa data, kundi mbalimbali la annotator, mafunzo kuhusu upendeleo wa annotator na uwekaji kumbukumbu wa lineage ya data.
3. Synthetic Data & Augmentation: Kutathmini kwa tahadhari data sintetiki au mbinu za kuongeza data wakati data halisi haitoshi.

Usemi wa chanzo “cautiously — kwa tahadhari” ni muhimu. Data sintetiki haimaanishi moja kwa moja data ya haki; njia ya kuitengeneza inaweza kuzalisha upya upendeleo uliopo. Utafiti hautoi jaribio lililofanywa kwa data sintetiki.

Tabaka 2 — Algorithmic Transparency & Fairness by Design

Fairness by Design, ni mkabala unaochukulia udhibiti wa fairness si kama marekebisho yanayoongezwa baada ya mfumo kukamilika, bali kama jambo linalopaswa kuzingatiwa tangu uchaguzi wa modeli na usanifu wa mfumo.

Vipengele vya chanzo katika tabaka hili ni:

• Kuchagua modeli inayofaa muktadha huku ukiepuka uchangamano usio wa lazima,
• kufafanua wazi malengo na metrika za fairness,
• kutumia kwa uwazi mbinu za pre-processing, in-processing au post-processing,
• kuunda maelezo yanayoeleweka kwa wataalamu wa HR, wasimamizi na waombaji.

Chanzo hakikubali hasa dhana ya “modeli changamano zaidi = modeli bora zaidi ya HR”. Inapendekezwa kuchagua modeli inayotafsiriwa kwa urahisi zaidi katika hali ambazo uchangamano si wa lazima.

Tabaka 3 — Context, Process Design & Human Oversight

Tabaka hili linahama kutoka modeli kwenda kwenye mchakato mzima wa rasilimali watu.

Bias Impact Assessment — BIA, ni ukaguzi wa athari uliopangiliwa unaolenga kutathmini kabla ya matumizi ya mfumo na wakati wa matumizi iwapo athari tofauti/advers zinatokea kwa makundi fulani.

Chanzo kinapendekeza BIA ifanywe kabla ya deployment na kwa vipindi.

Kanuni ya pili ya msingi ni kwamba akili bandia isiwe mtoa uamuzi pekee. Hasa katika maamuzi yanayoweza kuleta matokeo hasi kwa mwombaji au mfanyakazi, inapendekezwa kuwe na sehemu za mapitio ya binadamu na njia za rufaa/mrejesho.

Kipengele cha tatu ni HITL+. Msimamizi binadamu anapaswa kujua mipaka ya modeli, kuwa na uwezo wa kuhoji matokeo ya kialgorithimu na kubatilisha pendekezo lenye hitilafu inapohitajika.

Kipengele cha nne ni kwamba timu za maendeleo na uangalizi zisiwe na wataalamu wa kiufundi pekee. Chanzo kinazingatia utofauti wa timu kwa jinsia, rangi, historia na maeneo ya utaalamu; kinapendekeza kuwepo pamoja kwa maarifa ya HR, teknolojia na maadili.

Tabaka 4 — Accountability, Monitoring & Culture

Katika tabaka la mwisho, chanzo kinasema kwamba mfumo hauwezi kusimamiwa kwa mtazamo wa “umejengwa na umekamilika”.

Muundo wazi wa uwajibikaji: Ni lazima ifafanuliwe ni nani ana jukumu gani kati ya vitengo kama HR, IT, sheria au kamati ya maadili kuhusu utendaji wa mfumo wa AI, matokeo ya fairness na athari hasi.

Ufuatiliaji na ukaguzi endelevu: Metrika za fairness, usahihi katika makundi tofauti na mrejesho wa watumiaji zinapaswa kufuatiliwa kwa muda; ukaguzi huru wa mara kwa mara unapaswa kupangwa.

Uwazi na mawasiliano: Inapendekezwa waombaji na wafanyakazi waelezwe kwamba AI inatumika, jukumu la jumla la mfumo na taratibu za kupinga maamuzi.

Utamaduni wa AI wa kimaadili: Inapendekezwa kuwa na mafunzo endelevu kuhusu Bias, maadili na responsible AI pamoja na kukuza utamaduni wa shirika.

Ufuasi wa udhibiti na zaidi yake: Chanzo kinataja mifano kama GDPR, kanuni zinazopendekezwa za AI na mwongozo wa EEOC; kinapendekeza kulenga mazoea bora ya kimaadili badala ya kuridhika na ufuasi wa chini wa kisheria. Utafiti haufanyi uchanganuzi wa kina wa kisheria.

Hali ya kiempiria ya mfumo unaopendekezwa

Modeli ya tabaka nne inapendekezwa kinadharia katika chanzo. Katika utafiti, kabla na baada ya kutumia mfumo huu:

• mabadiliko ya disparate impact,
• mabadiliko ya demographic parity,
• tofauti ya true-positive-rate,
• usahihi wa modeli,
• utofauti katika uajiri,
• kuridhika kwa waombaji,
• idadi ya kesi za kisheria

havijapimwa. Kwa hiyo, mfumo unapaswa kusomwa si kama “kifurushi cha uingiliaji ambacho athari yake imethibitishwa kimajaribio”, bali kama pendekezo la kijamii-kiteknolojia linalounganisha fasihi iliyopo.

Vikwazo vinavyotolewa na chanzo kwa mbinu zilizopo

Kwa nini fairness haiwezi kupunguzwa kuwa ufafanuzi mmoja?

Chanzo kinataja uendeshaji wa fairness kulingana na muktadha kama mojawapo ya changamoto muhimu zaidi. Katika mchakato wa HR, “matokeo ya haki” yanaweza kumaanisha malengo tofauti: usawa wa viwango vya maamuzi chanya kati ya makundi, usawa wa viwango vya kutambua waombaji wanaofaa kweli, kutathmini waombaji wanaofanana kwa namna inayofanana, au kuhakikisha mchakato wa maamuzi unaelezeka na unaweza kupingwa.

Kwa hiyo, chanzo kinapendekeza tathmini pana ya kijamii-kiteknolojia badala ya kuacha lengo la fairness lichaguliwe na timu ya kiufundi pekee.

Mabadilishano kati ya fairness, usahihi, faragha na hitaji la biashara

Katika majadiliano ya utafiti, inaelezwa kwamba fairness si lengo pekee. Taasisi lazima pia isimamie usahihi wa modeli, faragha ya waombaji, gharama ya mchakato na mahitaji ya kiutendaji.

Chanzo hakisemi kwamba usahihi lazima upotee kwa ajili ya fairness. Kinasema kwamba malengo haya yanaweza kugongana katika baadhi ya miundo na trade-off zinapaswa kusimamiwa wazi.

Je, kutokuwa na upendeleo kabisa kunawezekana?

Kwa dhana ya “illusion of neutrality — udanganyifu wa kutokuwa na upendeleo”, chanzo kinasisitiza kwamba kutokuwa na upendeleo kamili na bila kasoro huenda si lengo linaloweza kufikiwa. Badala yake, lengo linapaswa kuwa:

• kutambua upendeleo,
• kuupima na kuukagua,
• kuupunguza pale inapowezekana,
• kufuatilia athari kwa kuendelea,
• kutathmini upya mfumo kulingana na hali zinazobadilika

.

Maana yake kwa mazoea ya rasilimali watu

Kulingana na chanzo, matumizi yenye uwajibikaji ya AI yanahitaji uwekezaji mkubwa wa shirika. Hii si gharama ya kununua programu pekee; inaweza kuhitaji utaalamu wa sayansi ya data na maadili, usanifu upya wa mchakato, mafunzo ya meneja/HR, ukaguzi, mapitio ya kisheria na mabadiliko ya kitamaduni.

Mkabala huu pia unaweka jukumu jipya kwa kazi ya HR: kitengo cha rasilimali watu hakiwi tu mtumiaji wa mwisho wa matokeo ya AI, bali huwa mmoja wa wasimamizi wa matumizi ya kimaadili ya teknolojia.

Matokeo yanayoungwa mkono na utafiti

• Upendeleo wa kialgorithimu katika rasilimali watu haupaswi kutazamwa kama tatizo linaloweza kutokea katika kiwango cha algorithimu ya kiufundi pekee.
• Data za kihistoria, muundo wa modeli, malengo ya uboreshaji, mwingiliano wa binadamu–AI na muktadha wa shirika/kijamii vinaweza kwa pamoja kuunda au kuimarisha upendeleo.
• Uajiri, tathmini ya utendaji, kupandishwa cheo na fidia ni maeneo ya HR ambako upendeleo wa kialgorithimu unaweza kuonekana.
• Mbinu za kiufundi za debiasing zinaweza kuwa muhimu, lakini hazitatui peke yake tatizo lote la kijamii-kiteknolojia.
• XAI na ukaguzi zinaweza kusaidia kugundua upendeleo; uwepo wake haumaanishi kwamba mfumo ni wa haki kiotomatiki.
• Mkabala wa Human-in-the-Loop una vikwazo vyake, kama upendeleo wa binadamu na automation bias.
• Chanzo kinapendekeza mfumo kamili wa uingiliaji wa tabaka nne unaojumuisha data, algorithimu, mchakato wa shirika na utawala.
• Fairness ya kialgorithimu inachukuliwa si kama marekebisho ya mara moja, bali kama mchakato endelevu wa ufuatiliaji na utawala.

Matokeo ambayo utafiti hauungi mkono

• Utafiti huu haujaonyesha kimajaribio kwamba mfumo fulani wa AI wa uajiri ni wa kibaguzi.
• Haijapimwa kwamba mfumo wa tabaka nne unaopendekezwa huongeza thamani ya fairness kwa asilimia maalumu.
• Haijaonyeshwa kwamba matumizi ya LIME au SHAP pekee huondoa upendeleo.
• Haijathibitishwa kwamba mifumo yote ya HR inayotumia Human-in-the-Loop itakuwa ya haki.
• Haidaiwi kwamba metrika fulani ya fairness ndiyo sahihi zaidi kwa michakato yote ya uajiri au kupandishwa cheo.
• Chanzo hakiundi algorithimu mpya ya ujifunzaji wa mashine, mkusanyiko wa data au fairness benchmark.
• Kwa kuwa utafiti si mapitio ya sheria, hauamui kama mfumo fulani unazingatia GDPR, Title VII, mwongozo wa EEOC au kanuni nyingine.
• Chanzo hakipimi athari ya muda mrefu ya mfumo katika michakato halisi ya HR katika nchi tofauti.

Vikwazo vikuu vya kisayansi na kimetodolojia

Muundo wa kinadharia: Utafiti ni usanisi wa kimawazo; utendaji wa kiempiria wa mfumo unaopendekezwa haujajaribiwa.

Hakuna itifaki ya uchaguzi wa fasihi: Utafiti unaunganisha vyanzo kutoka taaluma mbalimbali, lakini hautoi utafutaji wa kimfumo wa hifadhidata, vigezo vya kujumuisha/kuondoa au itifaki ya tathmini ya ubora wa tafiti.

Metrika ya fairness haijahesabiwa: Demographic parity na equal opportunity zinatajwa kama mifano, lakini hazihesabiwi kwenye mkusanyiko wowote halisi wa data za HR.

Utegemezi wa muktadha: Ufafanuzi wa fairness na sifa zinazolindwa zinaweza kutofautiana kulingana na utamaduni, sekta na mfumo wa sheria.

Sababu ya binadamu inaendelea: Kuongeza uangalizi wa binadamu kwenye mfumo hakuondoi kiotomatiki upendeleo wa binadamu.

Gharama ya rasilimali na kiwango: Ukaguzi wa tabaka nyingi unaweza kuhitaji rasilimali nyingi kwa sababu unahitaji utaalamu, usanifu upya wa mchakato na ufuatiliaji endelevu.

Mabadiliko ya kiteknolojia: Maendeleo ya haraka ya AI na mbinu za kugundua/kupunguza upendeleo yanahitaji taratibu za utawala kusasishwa kwa kuendelea.

Mapendekezo ya chanzo kwa utafiti wa siku zijazo

Utafiti unapendekeza siku zijazo:

• kutengenezwa kwa metrika za fairness na zana za ukaguzi maalumu kwa muktadha wa HR,
• tafiti za longitudinal zinazochunguza athari ya muda mrefu ya mikakati ya kupunguza upendeleo katika ulimwengu halisi,
• mikabala ya participatory design ambapo wafanyakazi na waombaji hushiriki katika mchakato wa usanifu,
• kulinganisha ufanisi wa modeli tofauti za utawala,
• kuchunguza athari za kimaadili za emotion recognition na mbinu nyingine za juu za uchanganuzi

.

Haya si matokeo yaliyothibitishwa na makala hii, bali ni maeneo ya utafiti wa siku zijazo yanayohitaji kuchunguzwa.

Maelezo ya Chanzo na Mbinu

Kichwa asili: ALGORITHMIC BIAS IN ARTIFICIAL INTELLIGENCE - BASED HUMAN RESOURCE DECISIONS: A THEORETICAL PERSPECTIVE

Waandishi: Dr.T.Naresh Babu; Dr.N.Suhasini.

Mpangilio wa waandishi: Dr.T.Naresh Babu ni mwandishi wa kwanza, Dr.N.Suhasini ni mwandishi wa pili.

Dr.T.Naresh Babu: Associate Professor, Department of Management Studies, KSRM College of Engineering (A), Kadapa, Andhra Pradesh.

Dr.N.Suhasini: HoD & Professor, Department of Management Studies, KSRM College of Engineering (A), Kadapa, Andhra Pradesh.

Corresponding author: Haijaelezwa wazi katika chanzo.

Mchango sawa / uandishi mwenza wa kwanza: Haijaripotiwa katika chanzo.

Aina ya chanzo: Karatasi ya mkutano ya kinadharia/kimawazo; usanisi wa fasihi wa kisimulizi na taaluma mbalimbali.

Eneo la kisayansi: Maadili ya akili bandia, usimamizi wa rasilimali watu, algorithmic fairness, mifumo ya kijamii-kiteknolojia na haki ya shirika.

Jukwaa: International Conference Proceedings on Advanced Multidisciplinary Research and Innovation (ICAMRI – 2026).

Kurasa za makala: Katika kitabu cha makala za mkutano 1–6; katika PDF iliyopakiwa kurasa 11–16.

Toleo: First Edition.

Tarehe ya toleo: August 2026.

ISBN: 978-81-688512-3-8.

DOI iliyotolewa katika chanzo: 10.65647/msp/128/2026.

Kikomo cha DOI: DOI hiyo hiyo pia inatumika chini ya kurasa za makala nyingine katika kitabu cha mkutano. Kwa kuwa chanzo hakionyeshi wazi kwamba hii ni DOI huru mahususi kwa makala hii, Verianla haiithibitishi kama DOI ya makala.

Tofauti ya ndani ya chanzo kuhusu tarehe ya mkutano: Wakati kitabu cha mkutano kinawasilishwa kama ICAMRI – 2026 na toleo la August 2026, ukurasa wa shirika unaonyesha tarehe ya mkutano kama 15th August 2025.

Shirika: University of Edenberg, Lusaka, Zambia, Africa.

Ushirikiano wa kitaaluma: S.T.Hindu College; Sree Ayyappa College for Women; Don Bosco College; Women's Christian College.

Mapitio ya kitaalamu: Dibaji ya kitabu cha mkutano inaeleza kwamba manuskripti zote zilitathminiwa na jopo la wakaguzi wenye uzoefu na wataalamu wa eneo husika chini ya rigorous peer-review process. Hii ni taarifa ya kitabu cha mkutano chenyewe; utafiti haujaainishwa kama makala ya jarida lililopitiwa na wataalamu.

Leseni / hakimiliki: Chanzo kina maneno “All Rights Reserved” na © Publisher. Hakuna leseni wazi ya Creative Commons iliyotajwa.

Taarifa za mchapishaji: Katika PDF, chini ya kichwa “Publisher”, kuna taarifa za Australia, Chennai & Kanyakumari; +91 6384730258; editor@multispectrum.org na www.multispectrum.org. Jina rasmi la mchapishaji wa kampuni halijaandikwa wazi kando katika ukurasa wa bibliografia wa PDF.

Kiungo rasmi: Chanzo kinatoa anwani www.multispectrum.org katika kitabu cha mkutano. URL tofauti rasmi ya uchapishaji mahususi kwa makala hii haijaelezwa katika PDF.

Maneno muhimu: Artificial Intelligence; AI Bias; Algorithmic Bias; Human Resources; HR Decision-Making; Fairness; Ethics; Responsible AI; Socio-Technical Systems; Diversity; Equity; Inclusion.

Lengo kuu la utafiti: Kuchunguza kimawazo muundo wa tabaka nyingi wa upendeleo wa akili bandia katika maamuzi ya rasilimali watu unaotokana na data, algorithimu, mwingiliano wa binadamu na muktadha wa shirika/kijamii, na kupendekeza mfumo kamili wa kupunguza upendeleo usiotegemea marekebisho ya kiufundi pekee.

Mbinu: Chanzo kinajieleza kama theoretical paper. Dhana kutoka fasihi ya sayansi ya kompyuta, sosholojia, Critical HRM na maadili zimeunganishwa. Hakuna utafutaji tofauti wa kimfumo au mbinu ya uchaguzi wa tafiti iliyoripotiwa.

Sampuli: Hakuna.

Mkusanyiko wa data: Hakuna.

Jaribio / kundi dhibiti: Hakuna.

Mafunzo ya modeli: Hakuna.

Uchanganuzi wa takwimu: Hakuna.

Thamani ya p / muda wa kujiamini / ukubwa wa athari: Havijaripotiwa.

Metrika ya fairness iliyohesabiwa katika chanzo: Hakuna.

Mlinganyo wa kisayansi katika chanzo: Hakuna. Vielelezo vya demographic parity na equal opportunity ndani ya HTML ni milinganyo ya kawaida ya kimawazo iliyotolewa kufundisha dhana za fairness ambazo chanzo kinazitaja kwa majina, na si matokeo ya utafiti.

Misingi ya kinadharia: Critical HRM Perspective; Socio-Technical Systems Theory; Organizational Justice Theory; Ethics of Care; Human-Centered AI.

Vyanzo vya upendeleo: Data Bias; Algorithmic Design Bias; Interaction Bias; Contextual/Societal Bias.

Maeneo makuu ya matumizi: Recruitment & Screening; Performance Evaluation; Promotion & Succession Planning; Compensation.

Mikabala iliyopo ya kupunguza: Pre-processing, in-processing na post-processing debiasing; auditing; XAI; LIME; SHAP; Human-in-the-Loop.

Mfumo unaopendekezwa — Tabaka 1: Data Provenance & Responsible Curation.

Mfumo unaopendekezwa — Tabaka 2: Algorithmic Transparency & Fairness by Design.

Mfumo unaopendekezwa — Tabaka 3: Organizational Context, Process Design & Human Oversight.

Mfumo unaopendekezwa — Tabaka 4: Governance — Accountability, Monitoring & Culture.

Marejeo: Mwishoni mwa makala kuna rekodi 10 za kibibliografia; Barocas & Selbst, Bogen & Rieke, Dastin, Friedman & Nissenbaum, Green & Chen, Holm & Staunæs, Kamishima na wenzake, Mehrabi na wenzake, Raghavan na wenzake, Selbst na wenzake wamo katika orodha ya marejeo.

Ufadhili: Hakuna taarifa tofauti ya ufadhili.

Mgongano wa maslahi: Hakuna taarifa tofauti ya mgongano wa maslahi.

Upatikanaji wa data: Hakuna data availability statement tofauti; utafiti ni karatasi ya kinadharia isiyozalisha data mpya.

CRediT / michango ya waandishi: Hakuna taarifa tofauti ya mchango wa waandishi.

Kamati ya maadili: Hakuna taarifa tofauti ya kamati ya maadili katika chanzo; utafiti ni utafiti wa kinadharia usioripoti jaribio jipya au ukusanyaji wa data kutoka kwa washiriki binadamu.

Michoro ya chanzo: Chanzo hakina mchoro asilia wa kisayansi au grafu ya data. SVG mbili katika HTML ya Verianla ni vielelezo huru, visivyo na kipimo na vilivyotokana na chanzo vya mnyororo wa upendeleo na mfumo wa tabaka nne uliofafanuliwa wazi katika maandishi ya chanzo.

Kikomo kikuu cha tafsiri: Utafiti unatetea kinadharia asili ya kimfumo ya upendeleo wa kialgorithimu katika HR na mkabala wa kupunguza wa tabaka nyingi. Kwa kuwa mfumo haujajaribiwa kimajaribio katika mkusanyiko wowote halisi wa data za HR, haiwezekani kutoa hitimisho la kiasi kuhusu utendaji wa fairness wa algorithimu, kampuni au uingiliaji fulani.