İnsan resurslarında alqoritmik qərəz, süni intellekt və ya alqoritmik qərar sistemlərinin müəyyən fərdlər və ya qruplar üçün sistematik şəkildə ədalətsiz nəticələr yaratması, yaxud mövcud ictimai bərabərsizlikləri yenidən istehsal etməsi və ya böyütməsi vəziyyətidir. Bu nəzəri tədqiqat işə qəbul, namizəd seçimi, müsahibə, qiymətləndirmə, performansın idarə edilməsi, yüksəliş, işçinin saxlanması və işdən ayrılma/çıxarılma kimi insan resursları proseslərində süni intellektdən istifadəni məlumatlar, alqoritm dizaynı, insan–sistem qarşılıqlı əlaqəsi və təşkilati/ictimai kontekst baxımından araşdırır. Tədqiqat yeni məlumat dəsti və ya təcrübə istifadə etmir; kompüter elmləri, sosiologiya, tənqidi İnsan Resurslarının İdarə Edilməsi — Human Resource Management (HRM) və etika ədəbiyyatındakı baxışları bir araya gətirərək çoxsəviyyəli qərəzin azaldılması çərçivəsi təklif edir.

Mənbənin əsas arqumenti ondan ibarətdir ki, alqoritmik qərəz yalnız “səhv alqoritm” problemi deyil. Keçmiş işə qəbul və yüksəliş məlumatlarındakı bərabərsizliklər, qorunan xüsusiyyətlərlə əlaqəli proksi dəyişənlər, çatışmayan məlumat nümunələri, model və xüsusiyyət seçimi, optimallaşdırma məqsədləri, insan istifadəçilərin alqoritmik nəticələrə həddindən artıq etibar etməsi, namizədlərin texnologiya ilə müxtəlif formalarda qarşılıqlı əlaqəsi və qurumun öz mədəni/təşkilati prioritetləri eyni sistem daxilində qərəz yarada və ya onu gücləndirə bilər.

Tədqiqatın təklif etdiyi həll bir-biri ilə əlaqəli dörd qatdan ibarətdir: məlumat mənbəyi və məsuliyyətli məlumat kurasiyası, alqoritmik şəffaflıq və dizayndan etibarən ədalətlilik, təşkilati proses dizaynı və insan nəzarəti, hesabatlılıq, davamlı monitorinq və etik idarəetmə. Müəlliflərin yanaşmasına görə yalnız məlumatları təmizləmək, tək bir fairness metrikasını optimallaşdırmaq və ya sistemə insan nəzarətçi əlavə etmək kifayət deyil; texniki və sosial sistemlər birlikdə nəzərdən keçirilməlidir.

Bu nəticə bir alqoritmin eksperimental olaraq digərindən daha ədalətli olduğunun sübutu deyil. Mənbə hər hansı model öyrətmir, namizəd məlumatlarını təhlil etmir, demographic parity, equal opportunity və ya başqa fairness metrikasını hesablamır və təklif etdiyi dördqatlı çərçivəni real qurumda nəzarətli təcrübə ilə təsdiqləmir. Tədqiqatın töhfəsi konseptual və nəzəridir.

Süni intellekt insan resurslarında haralarda istifadə oluna bilər?

Mənbə süni intellektdən istifadəni insan resursları həyat dövrünün çoxsaylı mərhələlərinə yayılmış şəkildə nəzərdən keçirir. Bunlara namizəd mənbələrinin tapılması, CV-lərin yoxlanması, müsahibə, səriştə və ya namizəd qiymətləndirilməsi, performansın idarə edilməsi, yüksəliş, işçinin saxlanması və işdən ayrılma/çıxarılma prosesləri daxildir.

Bu sistemlərdən istifadənin əsas əsaslandırmaları böyük namizəd həcmlərinin emal oluna bilməsi, insan əməyinin azaldılması, proqnoza əsaslanan təhlilin aparılması, qərar prosesinin miqyaslana bilməsi və qərarların daha obyektiv olduğuna dair gözləntidir.

Mənbə eyni zamanda mühüm əks məqama diqqət çəkir: süni intellekt sistemi yalnız kompüter tərəfindən işlədildiyi üçün öz-özünə qərəzsiz olmur. Sistem qidalandığı məlumatların tarixini, tərtibatçıların seçimlərini və istifadə edildiyi qurumun qərar məntiqini daşıya bilər.

İnsan Resurslarında Alqoritmik Qərəz Nədir?

Mənbə kontekstində alqoritmik qərəz süni intellekt dəstəkli insan resursları qərarlarının irq, cins, yaş, əlillik vəziyyəti, sosial-iqtisadi keçmiş və ya oxşar qrup xüsusiyyətləri ilə əlaqəli şəkildə sistematik və ədalətsiz fərqlər yaratması və ya mövcud bərabərsizlikləri böyütməsidir; buna görə problem yalnız model çıxışında deyil, məlumatdan təşkilati tətbiqə qədər uzanan bütün sosio-texniki sistemdə axtarılmalıdır.

“Qorunan xüsusiyyət” nə deməkdir?

Protected characteristic — qorunan xüsusiyyət, ayrı-seçkilik hüququnda və ya institusional bərabərlik siyasətlərində qərar verilərkən ədalətsiz ayrı-seçkiliyə əsas təşkil etməməli olan şəxsi xüsusiyyətləri ifadə edir. Mənbə nümunələr arasında race, gender, age, disability və socioeconomic background ifadələrindən istifadə edir.

Lakin hansı xüsusiyyətin hüquqi baxımdan “qorunan xüsusiyyət” sayılması ölkəyə və tənzimləyici sistemə görə dəyişə bilər. Mənbənin özü də qlobal kontekstdə müxtəlif mədəni normaların və hüquqi çərçivələrin fairness tətbiqlərini çətinləşdirdiyini vurğulayır. Buna görə verilən siyahı bütün ölkələr üçün vahid və universal hüquqi siyahı kimi oxunmamalıdır.

DEI nədir?

Diversity, Equity and Inclusion — Müxtəliflik, Ədalətlilik və İnklüzivlik (DEI), işçilərin fərqli xüsusiyyət və keçmişlərinin təmsil olunmasını, imkan və proseslərin ədalətli olmasını və fərdlərin təşkilata iştirakının dəstəklənməsini hədəfləyən institusional yanaşmaların ümumi adıdır.

Mənbə qərəzli süni intellekt sistemlərinin işçi qüvvəsindəki bərabərsizlikləri davam etdirərək DEI təşəbbüslərini zəiflədə, işçi etimadını aşındıra və yanlış istedad qərarlarına səbəb ola biləcəyini müdafiə edir.

Alqoritmik qərəzin dörd əsas mənbəyi

Məlumat qərəzi niyə bu qədər vacibdir?

Maşın öyrənməsi sistemi keçmiş qərar məlumatlarından istifadə edirsə, keçmiş qərarların ədalətli olduğu fərziyyəsi kritik olur. Məsələn, keçmişdə müəyyən qrup sistematik olaraq daha az işə götürülübsə, bu model üçün yalnız “keçmişdə müşahidə olunmuş nümunə” kimi görünə bilər. Model bu nümunəni uğur meyarı ilə qarışdırarsa, keçmiş bərabərsizliyi gələcəkdə yenidən istehsal edə bilər.

Mənbə bu vəziyyəti məlumat qərəzini qərəzin “core fuel — əsas yanacağı” adlandıraraq izah edir.

Proxy və ya proksi dəyişən nədir?

Proxy variable — proksi dəyişən, modeldə birbaşa istifadə edilməyən həssas xüsusiyyətlə güclü şəkildə əlaqəli başqa dəyişəndir. Mənbə poçt kodu, universitet adı və ya CV-dəki bəzi açar sözləri nümunə göstərir.

Məsələn, sistem cins məlumatından birbaşa istifadə etməsə belə, başqa xüsusiyyətlər cinslə güclü əlaqəlidirsə, model dolayı yolla oxşar fərqlər yarada bilər. Buna görə yalnız həssas sütunu məlumat dəstindən silmək fairness problemini avtomatik həll etmir.

Feedback loop — geri əlaqə dövrü nədir?

Geri əlaqə dövrü alqoritmin verdiyi qərarların daha sonra yeni təlim məlumatlarının bir hissəsinə çevrilərək əvvəlki meyli gücləndirməsidir.

Mənbənin göstərdiyi məntiq öyrədici şəkildə belə düşünülə bilər:

Keçmiş qərəzli məlumat → model proqnozu → qərəzli qərar → yeni institusional qeyd → növbəti model təlimi.

Bu dövr qırılmasa, sistem başlanğıcdakı balanssızlığı yalnız təkrarlamaqla kifayətlənməyə bilər; sonrakı məlumat nəsillərində onu daha qabarıq edə bilər.

Alqoritmik dizayn qərəzi necə yarana bilər?

Mənbə dörd mühüm dizayn nöqtəsinə diqqət çəkir: model seçimi, xüsusiyyət seçimi və feature engineering, optimallaşdırma metrikası və fairness məhdudiyyətləri.

Modelin optimallaşdırma məqsədi tərtibatçının “uğur” kimi müəyyən etdiyi riyazi meyarı gücləndirməyə çalışır. Məsələn, mənbə “cultural fit — mədəni uyğunluq” üçün optimallaşdırmanın keçmiş təşkilati normaları və ya üstünlükləri modelə kodlaşdıra biləcəyini qeyd edir.

Buradakı problem kompüterin pis niyyətli olması deyil. Problem ölçülməyə çalışılan hədəfin özünün yanlış, natamam və ya sosial baxımdan problemli şəkildə müəyyən edilə bilməsidir.

Black-box model nə deməkdir?

Black-box — qara qutu, modelin girişdən çıxışa necə çatdığının istifadəçi tərəfindən asanlıqla başa düşülmədiyi sistemləri təsvir etmək üçün istifadə olunan ümumi ifadədir. Mənbə mürəkkəb modellərin bu xüsusiyyətinin qərəzin aşkar edilməsini çətinləşdirə biləcəyini bildirir.

Qara qutu olması modelin avtomatik olaraq qərəzli olduğu demək deyil. Mənbənin vurğusu ondan ibarətdir ki, mürəkkəblik qərarın niyə verildiyini araşdırmağı və yanlış nümunələri diaqnoz etməyi çətinləşdirə bilər.

İnsan qarşılıqlı əlaqəsi niyə ayrıca qərəz mənbəyidir?

Alqoritm texniki olaraq eyni balı yaratsa belə, bu balın insan menecerlər tərəfindən necə şərh edilməsi son nəticəni dəyişə bilər. Mənbə xüsusilə üç problemə diqqət çəkir:

• Alqoritmik çıxışa həddindən artıq etibar etmək,
• çıxışı öz qərəzini təsdiqləmək üçün istifadə etmək,
• AI balının nə demək olduğunu yanlış şərh etmək.

Mənbə həmçinin video müsahibə kimi sistemlərdə namizədin işıqlandırma şəraitinin, aksentinin və ya mədəni təqdimat tərzinin texnologiya ilə qarşılıqlı əlaqəyə təsir edə biləcəyini nümunə göstərir. Tədqiqat bu nümunələr üçün yeni təcrübə aparmayıb; onları ədəbiyyatdakı risk sahələrinin nəzəri sintezi kimi təqdim edir.

Qərəz insan resurslarının hansı mərhələlərində görünə bilər?

Texniki debiasing nədir?

Debiasing, modeldə və ya məlumat emalı prosesində müşahidə olunan sistematik ədalətsizliyi azaltmağı hədəfləyən texnikaların ümumi adıdır. Mənbə bu texnikaları üç mərhələdə təsnif edir.

Pre-processing — ilkin emal: Model öyrədilməzdən əvvəl məlumatın təmizlənməsi və ya yenidən çəkiləndirilməsi.

In-processing — təlim/modelləşdirmə zamanı müdaxilə: Fairness-aware alqoritmlər və ya adversarial debiasing kimi üsulların birbaşa modelin öyrənmə prosesinə yerləşdirilməsi.

Post-processing — sonrakı emal: Model proqnozları yaradıldıqdan sonra çıxışların və ya qərar hədlərinin kalibrlənməsi.

Mənbə bu texnikaların faydalı ola biləcəyini, lakin çox vaxt simptomları hədəflədiyini, fairness metrikaları arasında ziddiyyətlər ola biləcəyini, qorunan qrupları müəyyən etməyin çətin ola biləcəyini, bəzi hallarda model dəqiqliyi ilə kompromis yarana biləcəyini və texniki yanaşmanın təşkilati konteksti nəzərdən qaçıra biləcəyini bildirir.

Texniki Qərəzin Azaldılması Üsulları Niyə Təkbaşına Kifayət Etmir?

Tədqiqata görə alqoritmik qərəz yalnız məlumatda və ya model kodunda yaranmadığı üçün yalnız texniki debiasing tətbiq etmək sistemik problemi həll etmir; məlumatların tarixi, insan istifadəçilərin davranışı, HR prosesinin dizaynı, institusional güc münasibətləri, hesabatlılıq və davamlı idarəetmə eyni vaxtda nəzərdən keçirilməlidir.

Explainable AI — XAI nədir?

Explainable Artificial Intelligence — İzah Oluna Bilən Süni İntellekt (XAI), modelin proqnoz və ya tövsiyəsinin hansı girişlərlə və hansı məntiqi/statistik əlaqələrlə yarandığını istifadəçiyə daha anlaşılan şəkildə izah etməyə çalışan üsullar toplusudur.

Mənbə XAI kontekstində LIME və SHAP texnikalarını nümunə kimi verir.

LIME — Local Interpretable Model-agnostic Explanations, mürəkkəb modelin konkret bir proqnoz ətrafındakı davranışını daha sadə və şərh edilə bilən təxmini model vasitəsilə izah etməyə çalışan yerli izah yanaşmasıdır.

SHAP — SHapley Additive exPlanations, bir proqnozda müxtəlif xüsusiyyətlərin töhfəsini kooperativ oyun nəzəriyyəsindəki Shapley dəyəri məntiqi ilə bölüşdürməyə əsaslanan izahlar ailəsidir.

Mənbə bu üsulların mövcudluğunu qərəzin aradan qalxdığının sübutu saymır. İzahlar mürəkkəb, natamam və ya yanıltıcı ola bilər; müstəqil audit vaxt və ekspertiza tələb edə bilər. XAI əsasən problemi görünən etməyə kömək edir; özü-özlüyündə qərəzin qarşısını alan mexanizm deyil.

Human-in-the-Loop — HITL nədir?

Human-in-the-Loop — HITL, süni intellekt sisteminin verdiyi çıxışların müəyyən qərar nöqtələrində insan tərəfindən nəzərdən keçirilməsini və ya insanın qərar prosesinə daxil edilməsini ifadə edir.

Mənbə HITL-in də avtomatik həll olmadığını bildirir. İnsan nəzarətçi öz koqnitiv qərəzlərini daşıya, alqoritmik balı “obyektiv həqiqət” kimi görərək sistemə həddindən artıq etibar edə və ya çox böyük namizəd həcmlərində insan yoxlaması miqyaslana bilməyə bilər.

Buna görə təklif olunan çərçivə sadə HITL əvəzinə HITL+ yanaşmasını vurğulayır: HR mütəxəssisləri və menecerlər süni intellektin məhdudiyyətləri, qərəzin tanınması, çıxışların şərhi və lazım olduqda yanlış tövsiyənin ləğv edilməsi barədə təlim keçməlidirlər.

Fairness metrikası nəyi ölçür?

Mənbə alqoritmik fairness üçün tək bir universal metrika vermir; kontekstə uyğun açıq fairness hədəflərinin müəyyən edilməli olduğunu bildirir və demographic parity ilə equal opportunity anlayışlarını nümunə göstərir.

Aşağıdakı tənliklər mənbə məqalənin hesabladığı nəticələr deyil. Məqalədə adı çəkilən iki fairness anlayışının nə demək olduğunu öyrətmək üçün standart riyazi göstərimlərdir.

Demographic parity — demoqrafik bərabərlik

Sadələşdirilmiş standart göstərim:

\[ P(\hat{Y}=1\mid A=a) = P(\hat{Y}=1\mid A=b) \]

Burada:

• \(\hat{Y}=1\): modelin müsbət qərar verməsini, məsələn namizədin növbəti mərhələyə keçirilməsini,
• \(A\): araşdırılan qrup xüsusiyyətini,
• \(a\) və \(b\): müqayisə olunan iki qrupu

təmsil edir.

Bu fairness tərifi müsbət qərar nisbətlərinin qruplar arasında bərabər olmasını hədəfləyir. Lakin özü-özlüyündə namizədlərin əsas səriştə və ya real nəticə paylanmalarını nəzərə almadığı üçün hər HR kontekstində avtomatik olaraq doğru fairness standartı sayıla bilməz. Mənbənin “context-specific fairness” vurğusu məhz bu nöqtədə vacibdir.

Equal opportunity — imkan bərabərliyi

Sadələşdirilmiş standart göstərim:

\[ P(\hat{Y}=1\mid Y=1,A=a) = P(\hat{Y}=1\mid Y=1,A=b) \]

Burada \(Y=1\), müvafiq istinad meyarına görə müsbət real vəziyyəti; məsələn qiymətləndirmə dizaynının müəyyən etdiyi “uyğun/yetərli” vəziyyəti təmsil edir.

Bu yanaşma həqiqətən müsbət sinifdə olan şəxslərin müsbət proqnoz alma nisbətinin qruplar arasında bərabərləşdirilməsinə fokuslanır. Məqalə bu metrikadan hesablamır; yalnız fairness hədəflərinin kontekstə görə seçilməli olduğunu bildirir.

Mənbə həmçinin müxtəlif fairness metrikalarının bir-biri ilə və ya accuracy, privacy və biznes tələbləri ilə kompromis yarada biləcəyini vurğulayır. Buna görə “tək bir fairness rəqəmini yüksəltmək = bütün sistem ədalətli oldu” nəticəsi çıxarıla bilməz.

Nəzəri əsas 1: Critical HRM

Critical Human Resource Management — Tənqidi İnsan Resurslarının İdarə Edilməsi yanaşması insan resursları proseslərinin tamamilə qərəzsiz texniki əməliyyatlar olmadığını; təşkilati güc strukturları, normalar və bərabərsizliklərlə əlaqəli ola biləcəyini müdafiə edir.

Mənbə süni intellekt alətlərini bu çərçivədə yalnız passiv proqram təminatı kimi deyil, mövcud institusional dinamikaları yenidən istehsal edə bilən təşkilati aktorlar kimi düşünür.

Nəzəri əsas 2: Sosio-Texniki Sistemlər Nəzəriyyəsi

Socio-Technical Systems Theory — Sosio-Texniki Sistemlər Nəzəriyyəsi, texniki sistemlə sosial sistemi bir-birindən müstəqil hesab etmir. Alqoritm, məlumat bazası və model texniki sistemin; işçilər, menecerlər, təşkilati proseslər və mədəniyyət sosial sistemin hissələridir.

Mənbənin əsas arqumenti böyük ölçüdə bu yanaşmaya söykənir: alqoritmik qərəzin azaldılması yalnız texniki qat səviyyəsində aparılarsa, sosial qatdakı səbəblər və ya nəticələr davam edə bilər.

Nəzəri əsas 3: Təşkilati Ədalət Nəzəriyyəsi

Organizational Justice Theory — Təşkilati Ədalət Nəzəriyyəsi, işçilərin təşkilat daxilindəki nəticələri və qərar proseslərini nə dərəcədə ədalətli qavradığı ilə maraqlanır.

Mənbə üç ədalət formasına istinad edir:

• Distributive justice: nəticələrin bölgüsündə ədalət,
• procedural justice: qərar prosesinin ədaləti,
• interactional justice: qərar prosesində insanlarla necə davranılması ilə bağlı ədalət.

Qərəzli AI xüsusilə prosedur ədalətini birbaşa təhdid edə bilər; çünki namizəd və ya işçi “qərar hansı qayda ilə və niyə verildi?” sualına etibarlı cavab ala bilməyə bilər.

Nəzəri əsas 4: Ethics of Care və Human-Centered AI

Ethics of Care — Qayğı Etikası və Human-Centered AI — İnsan Mərkəzli Süni İntellekt yanaşmaları insan rifahını, insan ləyaqətini və qərarın daxil olduğu konteksti mərkəzə qoyur.

Mənbənin bu perspektivdəki açıq yanaşması insan resursları kimi dəyər yüklü qərar sahələrində süni intellektin insan mühakiməsini tamamilə aradan qaldırmaq əvəzinə onu dəstəkləməli olmasıdır.

Tədqiqatın Metodu və Nəticələri

Tədqiqatın elmi metodu

Bu tədqiqat yeni empirik məlumat dəsti yaratmır. Mənbə özünü nəzəri tədqiqat kimi təsvir edir və kompüter elmləri, sosiologiya, tənqidi HRM və etika sahələrindən baxışları sintez edərək konseptual çərçivə yaradır.

Mənbədə:

• ədəbiyyat məlumat bazası axtarış sorğusu,
• axtarış tarix intervalı,
• daxiletmə/xaricetmə meyarları,
• PRISMA və ya oxşar tədqiqat seçimi axını,
• keyfiyyət qiymətləndirmə protokolu,
• seçmə,
• nəzarət qrupu,
• model təlimi,
• statistik hipotez testi,
• fairness metrikası hesabı

hesabatlandırılmır. Buna görə tədqiqat sistematik ədəbiyyat icmalı və ya eksperimental fairness benchmark-ı kimi təsnif edilməməlidir.

Dördqatlı Qərəzin Azaldılması Çərçivəsi Necə İşləyir?

Mənbənin təklif etdiyi çərçivə qərəzin azaldılmasını tək bir model düzəlişi deyil, bir-biri ilə əlaqəli dörd müdaxilə səviyyəsi kimi qurur: etibarlı və izlənə bilən məlumat əsası yaradılır; alqoritmdə şəffaflıq və fairness hədəfləri dizayn edilir; HR prosesləri insan nəzarəti və etiraz mexanizmləri ilə yenidən təşkil olunur; sonda isə məsuliyyət, davamlı audit, kommunikasiya və etik mədəniyyət bütün sistemin həyat dövrü boyunca qorunur.

Qat 1 — Data Provenance & Responsible Curation

Data provenance — məlumat mənşəyi/provenansı, məlumat dəstinin haradan gəldiyini, necə toplandığını, necə transformasiya edildiyini və hansı məhdudiyyətləri daşıdığını izləyə bilmək barədə məlumatdır.

Mənbə bu qatda üç müdaxilə təklif edir:

1. Rigorous Data Auditing: Təmsilçilik balanssızlıqları, tarixi qərəz, proksi dəyişənlər və çatışmayan məlumat nümunələrinin sistemli auditi.
2. Bias-Aware Data Collection & Annotation: Məlumat toplama və etiketləmə üçün fairness yönümlü qaydalar, müxtəlif annotator hovuzu, annotator qərəzi üzrə təlim və məlumat lineage sənədləşdirilməsi.
3. Synthetic Data & Augmentation: Real məlumat yetərli olmadıqda sintetik məlumat və ya artırma texnikalarının diqqətlə qiymətləndirilməsi.

Mənbənin “cautiously — diqqətlə” ifadəsi vacibdir. Sintetik məlumat öz-özünə ədalətli məlumat demək deyil; yaradılma üsulu mövcud qərəzi yenidən istehsal edə bilər. Tədqiqat sintetik məlumatla aparılmış təcrübə təqdim etmir.

Qat 2 — Algorithmic Transparency & Fairness by Design

Fairness by Design, fairness yoxlamasının sistem tamamlandıqdan sonra əlavə edilən düzəliş deyil, model seçimi və sistem dizaynından etibarən nəzərə alınması yanaşmasıdır.

Mənbənin bu qatdakı komponentləri:

• Lazımsız mürəkkəblikdən qaçaraq kontekstə uyğun model seçmək,
• fairness hədəf və metrikalarını açıq şəkildə müəyyən etmək,
• pre-processing, in-processing və ya post-processing texnikalarını şəffaf şəkildə tətbiq etmək,
• HR mütəxəssisləri, menecerlər və namizədlər üçün anlaşılan izahlar hazırlamaq.

Mənbə xüsusilə “daha mürəkkəb model = daha yaxşı HR modeli” fərziyyəsini qəbul etmir. Mürəkkəbliyin lazım olmadığı hallarda daha şərh edilə bilən modelə üstünlük verilməsi təklif olunur.

Qat 3 — Context, Process Design & Human Oversight

Bu qat modeldən bütün insan resursları prosesinə keçir.

Bias Impact Assessment — BIA, sistem istifadə edilməzdən əvvəl və istifadə zamanı müəyyən qruplar üzərində fərqli/advers təsirlərin yaranıb-yaranmadığını qiymətləndirməyə yönəlmiş strukturlaşdırılmış təsir araşdırmasıdır.

Mənbə BIA-nın deployment-dan əvvəl və dövri şəkildə aparılmasını təklif edir.

İkinci əsas prinsip süni intellektin tək qərarverici olmamasıdır. Xüsusilə namizəd və ya işçi baxımından mənfi nəticə doğuran qərarlarda insan baxış nöqtələrinin və etiraz/geri bildirim kanallarının olması təklif olunur.

Üçüncü element HITL+-dır. İnsan nəzarətçi modelin məhdudiyyətlərini bilməli, alqoritmik çıxışı sorğulaya bilməli və yanlış tövsiyəni lazım gəldikdə ləğv edə bilməlidir.

Dördüncü element isə inkişaf və nəzarət komandalarının yalnız texniki mütəxəssislərdən ibarət olmamasıdır. Mənbə komanda müxtəlifliyini cins, irq, keçmiş və ekspertiza sahələri baxımından nəzərdən keçirir; HR, texnologiya və etika biliklərinin birlikdə olmasını təklif edir.

Qat 4 — Accountability, Monitoring & Culture

Mənbə son qatda sistemin “quruldu və bitdi” yanaşması ilə idarə edilə bilməyəcəyini müdafiə edir.

Aydın məsuliyyət strukturu: AI sisteminin performansı, fairness nəticələri və mənfi təsirləri üçün HR, IT, hüquq və ya etika komitəsi kimi bölmələr arasında kimin hansı məsuliyyəti daşıdığı müəyyən edilməlidir.

Davamlı monitorinq və audit: Fairness metrikaları, müxtəlif qruplardakı dəqiqlik və istifadəçi geri bildirimi zamanla izlənməli; müntəzəm müstəqil auditlər planlaşdırılmalıdır.

Şəffaflıq və kommunikasiya: Namizəd və işçilərə AI-dan istifadə edildiyi, sistemin ümumi rolu və etiraz mexanizmləri barədə məlumat verilməsi təklif olunur.

Etik AI mədəniyyəti: Bias, etika və responsible AI barədə davamlı təlim və institusional mədəniyyətin inkişafı təklif olunur.

Tənzimləyici uyğunluq və ondan kənar: Mənbə GDPR, təklif olunan AI tənzimləmələri və EEOC rəhbərliyi kimi nümunələri qeyd edir; yalnız minimum hüquqi uyğunluqla kifayətlənmək əvəzinə etik yaxşı təcrübələrin hədəflənməsini müdafiə edir. Tədqiqat ətraflı hüquqi təhlil aparmır.

Təklif olunan çərçivənin empirik vəziyyəti

Dördqatlı model mənbədə nəzəri olaraq təklif edilir. Tədqiqatda bu çərçivənin tətbiqindən əvvəl və sonra:

• disparate impact dəyişimi,
• demographic parity dəyişimi,
• true-positive-rate fərqi,
• model dəqiqliyi,
• işə qəbul müxtəlifliyi,
• namizəd məmnuniyyəti,
• hüquqi işlərin sayı

kimi ölçmələr aparılmayıb. Buna görə çərçivə “təsiri eksperimental olaraq sübut edilmiş müdaxilə paketi” kimi deyil, mövcud ədəbiyyatı inteqrasiya edən sosio-texniki təklif kimi oxunmalıdır.

Mənbənin mövcud üsullar üçün verdiyi məhdudiyyətlər

Fairness niyə tək tərifə endirilə bilmir?

Mənbə fairness-in kontekstə xas şəkildə əməliyyatlaşdırılmasını ən mühüm çətinliklərdən biri kimi göstərir. HR prosesində “ədalətli nəticə” deyildikdə müxtəlif hədəflər ortaya çıxa bilər: qrupların müsbət qərar nisbətlərinin bərabərliyi, həqiqətən uyğun namizədlərin tutulma nisbətlərinin bərabərliyi, oxşar namizədlərin oxşar şəkildə qiymətləndirilməsi və ya qərar prosesinin izah edilə bilən və etiraz edilə bilən olması kimi.

Mənbə buna görə fairness hədəfinin texniki komanda tərəfindən təkbaşına seçilməsinə qarşı daha geniş sosio-texniki qiymətləndirmə təklif edir.

Fairness, dəqiqlik, məxfilik və biznes ehtiyacı arasındakı kompromis

Tədqiqatın müzakirəsində fairness-in yeganə hədəf olmadığı bildirilir. Qurum eyni zamanda model dəqiqliyini, namizəd məxfiliyini, proses xərcini və əməliyyat tələblərini idarə etməlidir.

Mənbənin dediyi fairness üçün mütləq dəqiqliyin itiriləcəyi deyil. Dediyi odur ki, bu məqsədlər bəzi dizaynlarda ziddiyyətə girə bilər və trade-off-lar açıq şəkildə idarə edilməlidir.

Mükəmməl qərəzsizlik mümkündürmü?

Mənbə “illusion of neutrality — qərəzsizlik illüziyası” anlayışı ilə tam və qüsursuz qərəzsizliyin yəqin ki, əlçatan hədəf olmadığını vurğulayır. Bunun əvəzinə hədəf:

• qərəzdən xəbərdar olmaq,
• onu ölçmək və audit etmək,
• mümkün olduğu yerdə azaltmaq,
• təsirləri davamlı izləmək,
• dəyişən şərtlərə görə sistemi yenidən qiymətləndirmək

olmalıdır.

İnsan resursları tətbiqləri baxımından mənası

Mənbəyə görə məsuliyyətli AI istifadəsi mühüm institusional investisiya tələb edir. Bu yalnız proqram təminatının alınması xərcindən ibarət deyil; məlumat elmi və etika ekspertizası, prosesin yenidən dizaynı, menecer/HR təlimi, audit, hüquqi baxış və mədəni dəyişiklik tələb edə bilər.

Bu yanaşma HR funksiyasına yeni məsuliyyət də yükləyir: insan resursları bölməsi yalnız AI çıxışını istifadə edən son istifadəçi deyil, texnologiyanın etik istifadəsinə nəzarət edən tərəflərdən birinə çevrilir.

Tədqiqatın dəstəklədiyi nəticələr

• İnsan resurslarında alqoritmik qərəz yalnız texniki alqoritm səviyyəsində yarana bilən problem kimi nəzərdən keçirilməməlidir.
• Keçmiş məlumatlar, model dizaynı, optimallaşdırma məqsədləri, insan–AI qarşılıqlı əlaqəsi və təşkilati/ictimai kontekst birlikdə qərəz yarada və ya gücləndirə bilər.
• İşə qəbul, performans qiymətləndirilməsi, yüksəliş və əməkhaqqı prosesləri alqoritmik qərəzin görünə biləcəyi HR sahələridir.
• Texniki debiasing texnikaları faydalı ola bilər, lakin təkbaşına bütün sosio-texniki problemi həll etmir.
• XAI və audit qərəzi aşkar etməyə kömək edə bilər; onların mövcudluğu sistemin avtomatik olaraq ədalətli olduğu demək deyil.
• Human-in-the-Loop yanaşmasının insan qərəzi və automation bias kimi öz məhdudiyyətləri var.
• Mənbə məlumatı, alqoritmi, təşkilati prosesi və idarəetməni əhatə edən dördqatlı bütöv müdaxilə çərçivəsi təklif edir.
• Alqoritmik fairness birdəfəlik düzəliş deyil, davamlı monitorinq və idarəetmə prosesi kimi nəzərdən keçirilir.

Tədqiqatın dəstəkləmədiyi nəticələr

• Müəyyən AI işə qəbul sisteminin ayrı-seçkilik yaratdığı bu tədqiqat tərəfindən eksperimental olaraq göstərilməyib.
• Təklif olunan dördqatlı çərçivənin fairness dəyərini müəyyən faiz artırdığı ölçülməyib.
• LIME və ya SHAP istifadəsinin təkbaşına qərəzi aradan qaldırdığı göstərilməyib.
• Human-in-the-Loop istifadə edilən bütün HR sistemlərinin ədalətli olacağı sübut edilməyib.
• Müəyyən fairness metrikasının bütün işə qəbul və ya yüksəliş prosesləri üçün ən doğru metrika olduğu iddia edilmir.
• Mənbə yeni maşın öyrənməsi alqoritmi, məlumat dəsti və ya fairness benchmark-ı hazırlamır.
• Tədqiqat hüquqi icmal olmadığı üçün müəyyən sistemin GDPR, Title VII, EEOC rəhbərliyi və ya başqa tənzimləmə ilə uyğun olub-olmadığını müəyyən etmir.
• Mənbə müxtəlif ölkələrdə real HR proseslərində çərçivənin uzunmüddətli təsirini ölçmür.

Əsas elmi və metodoloji məhdudiyyətlər

Nəzəri dizayn: Tədqiqat konseptual sintezdir; təklif olunan çərçivənin empirik performansı sınaqdan keçirilməyib.

Ədəbiyyat seçimi protokolu yoxdur: Tədqiqat müxtəlif fənlərdən mənbələri bir araya gətirir, lakin sistematik məlumat bazası axtarışı, daxiletmə/xaricetmə meyarı və ya tədqiqat keyfiyyətinin qiymətləndirilməsi protokolu vermir.

Fairness metrikası hesablanmayıb: Demographic parity və equal opportunity nümunə kimi qeyd olunur, lakin hər hansı real HR məlumat dəstində hesablanmır.

Kontekstdən asılılıq: Fairness tərifi və qorunan xüsusiyyətlər mədəniyyətə, sektora və hüquq sisteminə görə dəyişə bilər.

İnsan faktoru qalır: İnsan nəzarətinin sistemə əlavə edilməsi insan qərəzini avtomatik aradan qaldırmır.

Resurs və miqyas xərci: Çoxqatlı audit ekspertiza, prosesin yenidən dizaynı və davamlı monitorinq tələb etdiyinə görə resurs tutumlu ola bilər.

Texnoloji dəyişiklik: AI və qərəzin aşkarlanması/azaldılması texnikalarının sürətlə inkişaf etməsi idarəetmə mexanizmlərinin davamlı yenilənməsini tələb edir.

Mənbənin gələcək tədqiqat tövsiyələri

Tədqiqat gələcəkdə:

• HR kontekstinə xas fairness metrikaları və audit alətlərinin hazırlanmasını,
• qərəzin azaldılması strategiyalarının real dünyadakı uzunmüddətli təsirini araşdıran longitudinal tədqiqatları,
• işçi və namizədlərin dizayn prosesində iştirak etdiyi participatory design yanaşmalarını,
• müxtəlif idarəetmə modellərinin effektivliyinin müqayisəsini,
• emotion recognition və digər qabaqcıl analitik üsulların etik nəticələrinin araşdırılmasını

təklif edir.

Bunlar mövcud bildirinin təsdiqlədiyi nəticələr deyil, araşdırılmalı gələcək tədqiqat sahələridir.

Mənbə və Metod Qeydi

Orijinal başlıq: ALGORITHMIC BIAS IN ARTIFICIAL INTELLIGENCE - BASED HUMAN RESOURCE DECISIONS: A THEORETICAL PERSPECTIVE

Müəlliflər: Dr.T.Naresh Babu; Dr.N.Suhasini.

Müəllif sırası: Dr.T.Naresh Babu birinci, Dr.N.Suhasini ikinci müəllifdir.

Dr.T.Naresh Babu: Associate Professor, Department of Management Studies, KSRM College of Engineering (A), Kadapa, Andhra Pradesh.

Dr.N.Suhasini: HoD & Professor, Department of Management Studies, KSRM College of Engineering (A), Kadapa, Andhra Pradesh.

Corresponding author: Mənbədə açıq şəkildə göstərilməyib.

Bərabər töhfə / bərabər birinci müəlliflik: Mənbədə bildirilməyib.

Mənbə növü: Nəzəri/konseptual konfrans məruzəsi; narrativ və fənlərarası ədəbiyyat sintezi.

Elmi sahə: Süni intellekt etikası, insan resurslarının idarə edilməsi, alqoritmik fairness, sosio-texniki sistemlər və təşkilati ədalət.

Platforma: International Conference Proceedings on Advanced Multidisciplinary Research and Innovation (ICAMRI – 2026).

Məqalə səhifələri: Konfrans materialları kitabında 1–6; yüklənmiş PDF-də 11–16-cı səhifələr.

Nəşr: First Edition.

Nəşr tarixi: August 2026.

ISBN: 978-81-688512-3-8.

Mənbədə verilən DOI: 10.65647/msp/128/2026.

DOI məhdudiyyəti: Eyni DOI konfrans materialları kitabındakı digər məqalə səhifələrinin altında da istifadə olunur. Mənbə bunun bu məruzəyə məxsus müstəqil DOI olduğunu açıq şəkildə göstərmədiyinə görə Verianla onu məqalə DOI-si kimi dəqiqləşdirmir.

Konfrans tarixi ilə bağlı mənbədaxili fərq: Konfrans materialları kitabı ICAMRI – 2026 və August 2026 nəşri kimi təqdim olunduğu halda, təşkilat səhifəsində konfrans tarixi 15th August 2025 kimi yazılıb.

Təşkilat: University of Edenberg, Lusaka, Zambia, Africa.

Akademik əməkdaşlıq: S.T.Hindu College; Sree Ayyappa College for Women; Don Bosco College; Women's Christian College.

Resenziya: Konfrans materialları kitabının ön sözü bütün manuskriptlərin təcrübəli resenzentlər və sahə mütəxəssislərindən ibarət panel tərəfindən rigorous peer-review process çərçivəsində qiymətləndirildiyini bildirir. Bu, konfrans kitabının öz bəyanıdır; tədqiqat resenziyalı jurnal məqaləsi kimi təsnif edilməyib.

Lisenziya / müəllif hüququ: Mənbədə “All Rights Reserved” və © Publisher ifadələri var. Açıq Creative Commons lisenziyası göstərilməyib.

Naşir məlumatı: PDF-də “Publisher” başlığı altında Australia, Chennai & Kanyakumari; +91 6384730258; editor@multispectrum.org və www.multispectrum.org məlumatları verilib. Korporativ naşirin adı PDF-nin biblioqrafik səhifəsində ayrıca açıq yazılmayıb.

Rəsmi bağlantı: Mənbə konfrans materialları kitabında www.multispectrum.org ünvanını verir. Bu məqaləyə məxsus ayrıca rəsmi nəşr URL-si PDF-də göstərilməyib.

Açar sözlər: Artificial Intelligence; AI Bias; Algorithmic Bias; Human Resources; HR Decision-Making; Fairness; Ethics; Responsible AI; Socio-Technical Systems; Diversity; Equity; Inclusion.

Əsas tədqiqat məqsədi: İnsan resursları qərarlarında süni intellekt qərəzinin məlumat, alqoritm, insan qarşılıqlı əlaqəsi və təşkilati/ictimai kontekstdən doğan çoxqatlı strukturunu konseptual şəkildə araşdırmaq və yalnız texniki düzəlişə əsaslanmayan bütöv azaldılma çərçivəsi təklif etmək.

Metod: Mənbə öz işini theoretical paper kimi təsvir edir. Kompüter elmləri, sosiologiya, Critical HRM və etika ədəbiyyatından anlayışlar sintez edilib. Ayrı sistematik axtarış və ya tədqiqat seçimi metodu hesabatlandırılmır.

Seçmə: Yoxdur.

Məlumat dəsti: Yoxdur.

Təcrübə / nəzarət qrupu: Yoxdur.

Model təlimi: Yoxdur.

Statistik təhlil: Yoxdur.

p dəyəri / etibar intervalı / təsir ölçüsü: Hesabatlandırılmayıb.

Mənbədə hesablanmış fairness metrikası: Yoxdur.

Mənbədə elmi tənlik: Yoxdur. HTML daxilindəki demographic parity və equal opportunity göstərimləri mənbənin adı ilə qeyd etdiyi fairness anlayışlarını öyrətmək üçün verilən standart konseptual tənliklərdir və tədqiqat nəticəsi deyil.

Nəzəri əsaslar: Critical HRM Perspective; Socio-Technical Systems Theory; Organizational Justice Theory; Ethics of Care; Human-Centered AI.

Qərəz mənbələri: Data Bias; Algorithmic Design Bias; Interaction Bias; Contextual/Societal Bias.

Əsas tətbiq sahələri: Recruitment & Screening; Performance Evaluation; Promotion & Succession Planning; Compensation.

Mövcud azaltma yanaşmaları: Pre-processing, in-processing və post-processing debiasing; auditing; XAI; LIME; SHAP; Human-in-the-Loop.

Təklif olunan çərçivə — Qat 1: Data Provenance & Responsible Curation.

Təklif olunan çərçivə — Qat 2: Algorithmic Transparency & Fairness by Design.

Təklif olunan çərçivə — Qat 3: Organizational Context, Process Design & Human Oversight.

Təklif olunan çərçivə — Qat 4: Governance — Accountability, Monitoring & Culture.

Ədəbiyyat siyahısı: Məruzənin sonunda 10 biblioqrafik qeyd var; Barocas & Selbst, Bogen & Rieke, Dastin, Friedman & Nissenbaum, Green & Chen, Holm & Staunæs, Kamishima və həmkarları, Mehrabi və həmkarları, Raghavan və həmkarları, Selbst və həmkarları ədəbiyyat siyahısına daxildir.

Maliyyələşdirmə: Ayrı maliyyələşdirmə bəyanatı yoxdur.

Maraqların toqquşması: Ayrı maraqların toqquşması bəyanatı yoxdur.

Məlumatların əlçatanlığı: Ayrı data availability statement yoxdur; tədqiqat yeni məlumat yaratmayan nəzəri məruzədir.

CRediT / müəllif töhfələri: Ayrı müəllif töhfəsi bəyanatı yoxdur.

Etika komitəsi: Mənbədə ayrıca etika komitəsi bəyanatı yoxdur; tədqiqat insan iştirakçıları üzərində yeni təcrübə və ya məlumat toplama barədə hesabat verməyən nəzəri araşdırmadır.

Mənbə şəkilləri: Mənbədə orijinal elmi şəkil və ya məlumat qrafiki yoxdur. Verianla HTML-dəki iki SVG mənbə mətndə açıq şəkildə təsvir olunan qərəz zəncirinin və dördqatlı çərçivənin müstəqil, miqyassız və mənbədən törədilmiş vizual qarşılıqlarıdır.

Əsas şərh sərhədi: Tədqiqat alqoritmik HR qərəzinin sistemik xarakterini və çoxqatlı azaltma yanaşmasını nəzəri olaraq müdafiə edir. Çərçivə heç bir real HR məlumat dəstində eksperimental olaraq sınaqdan keçirilmədiyi üçün müəyyən alqoritmin, şirkətin və ya müdaxilənin fairness performansı haqqında kəmiyyət nəticəsi çıxarıla bilməz.