Bu tədqiqat süni intellekt etikası və süni intellekt hüququ sahəsində dərc olunmuş bir araşdırma məqaləsidir. Sahə baxımından hüquq, süni intellekt idarəetməsi, etika, dövlət siyasəti və texnologiya fəlsəfəsinin kəsişməsində yer alır. Məqalə süni intellekt sistemlərinin səbəb olduğu zərərlər qarşısında “kim məsul olmalıdır?” sualına tərtibatçı mərkəzli deyil, istifadəçi və ya tətbiq edən tərəf mərkəzli cavab təklif edir.

Tədqiqatın əsas anlayışı “user-centric governance”, yəni istifadəçi mərkəzli idarəetmədir. Buradakı “istifadəçi” adi fərdi istifadəçidən daha çox, süni intellekt sistemini müəyyən sahədə işə salan şəxs, qurum və ya təşkilat deməkdir. Məqalədə bu aktorlar üçün “deployer” anlayışından da istifadə olunur. Deployer süni intellekt sistemini müəyyən kontekstdə istifadə edən, onu qərar proseslərinə yerləşdirən və ya nəticələrini tətbiqə keçirən tərəfdir.

Bu məzmun hüquqi məsləhət deyil. Məqsəd məqalənin hüquqi və etik müzakirəsini sadə Azərbaycan dilində izah etmək; süni intellekt məsuliyyəti, insan nəzarəti, tərtibatçı öhdəliyi və tətbiq edən tərəfin hesabatlılığı arasındakı əlaqəni anlaşılan etməkdir.

Məqalə süni intellekt sistemləri zərər verdikdə məsuliyyətin yalnız tərtibatçıların üzərinə qoyulmasının həm nəzəri, həm də praktik problemlər yaratdığını müdafiə edir. Müəllifə görə süni intellekt öz-özlüyündə hüquqi və mənəvi məsuliyyət daşıyan müstəqil aktor kimi deyil, insan tərəfindən istifadə edilən güclü alət kimi qiymətləndirilməlidir. Buna görə əsas məsuliyyət sistemi müəyyən kontekstdə işə salan və onun çıxışına əsaslanaraq qərar verən insan aktorlarda və ya qurumlarda axtarılmalıdır.

Tədqiqatın əsas tezisi budur: Süni intellekt bir alətdir; alətdən çıxan nəticənin ictimai təsiri onun kim tərəfindən, harada, hansı məqsədlə və hansı nəzarət altında istifadə edilməsindən asılıdır. Cərrahın neştəri necə istifadə etməsi, sürücünün nəqliyyat vasitəsini necə idarə etməsi və ya şirkətin avtomatlaşdırılmış qərar sistemini necə işə salması məsuliyyətin mərkəzini müəyyən edir. Süni intellekt də bu məntiqlə ele alınmalıdır.

Müəllif bu yanaşmanı “distributed yet centered”, yəni “paylanmış, amma mərkəzləşdirilmiş” idarəetmə modeli ilə izah edir. Bu modelə görə süni intellekt ekosistemində tərtibatçılar, təminatçılar, qurumlar, peşəkarlar və son istifadəçilər müxtəlif öhdəliklər daşıyır; lakin hesabatlılığın mərkəzi sistemi konkret kontekstdə istifadəyə verən tətbiq edən tərəfdə qalmalıdır.

Problem Nədir?

Süni intellekt sistemləri artıq kredit müraciətlərindən işə qəbula, səhiyyə resurslarının bölüşdürülməsindən cinayət ədaləti üzrə risk qiymətləndirmələrinə qədər bir çox yüksək təsirli sahədə istifadə olunur. Bu sistemlər bəzən səhv, ayrı-seçkiliyə yol verən, natamam və ya yanıltıcı nəticələr yarada bilər. Belə vəziyyətdə əsas sual ortaya çıxır: Bu zərərə görə kim məsul tutulmalıdır?

Ənənəvi müzakirələrdə məsuliyyət əsasən tərtibatçıya, yəni süni intellekt modelini layihələndirən və ya istehsal edən tərəfə yönəldilir. Bu yanaşma ilk baxışda məntiqli görünür; çünki sistemin texniki infrastrukturunu tərtibatçı qurur. Lakin məqalə vurğulayır ki, süni intellekt zərərləri həmişə texniki dizayn xətasından qaynaqlanmır. Eyni sistem müxtəlif qurumlarda, müxtəlif istifadəçilərlə, müxtəlif məlumat şəraitində və müxtəlif nəzarət səviyyələrində tamamilə fərqli nəticələr doğura bilər.

Bu nöqtədə “responsibility gap”, yəni məsuliyyət boşluğu problemi yaranır. Məsuliyyət boşluğu inkişaf etmiş süni intellekt sistemlərinin səbəb olduğu zərərlərin aydın şəkildə insan qərarına bağlana bilməməsi və nəticədə heç kimin tam hesabat verməməsi vəziyyətidir. Məqalə bu boşluğu bağlamağın yolunun süni intellekti müstəqil aktor kimi görmək deyil, ondan istifadə edən insan və qurumların qərarlarına fokuslanmaq olduğunu müdafiə edir.

Başqa bir problem antropomorfizm, yəni süni intellektə insan xüsusiyyətləri yükləmək meylidir. Sistemlər “öyrənir”, “qərar verir” və ya “düşünür” kimi təqdim edildikdə insanlar məsuliyyəti sistemi istifadə edən qurumdan götürüb maşının öz üzərinə qoymağa meylli ola bilər. Məqalə bu dilin hesabatlılığı bulanıqlaşdırdığını bildirir.

Metod Nə Təklif Edir?

Məqalə süni intellekti hüquqi və konseptual baxımdan “alət” kateqoriyasında ele almağı təklif edir. Alət yanaşması məsuliyyətin alətə deyil, alətdən istifadə edən insana və ya quruma bağlanmalı olduğunu bildirir. Roma hüququndan müasir delikt hüququna qədər bir çox hüquq sahəsində oxşar məntiq vardır: Alət öz-özlüyündə niyyət daşımır; onu istifadə edən şəxsin lazımi diqqət öhdəliyi var.

Müəllif istifadəçi mərkəzli süni intellekt idarəetməsini üç əsas prinsipə söykəndirir: yaxınlıq, nəzarət və ekspertlik. Yaxınlıq prinsipi zərərə ən yaxın olan və onu önləmək imkanı ən yüksək aktorun daha çox məsuliyyət daşımalı olduğunu ifadə edir. Süni intellekt kontekstində bu aktor çox vaxt sistemi müəyyən sahədə istifadə edən qurumdur.

Nəzarət prinsipi məsuliyyətin real qərarvermə səlahiyyətini və nəticəyə təsir etmək qabiliyyətini izləməli olduğunu bildirir. Süni intellekt sistemini istifadə edib-etməmək, hansı kontekstdə işə salmaq, hansı hədləri müəyyənləşdirmək, insan nəzarətini necə qurmaq və çıxışa necə reaksiya vermək kimi qərarlar çox vaxt tətbiq edən tərəf tərəfindən qəbul edilir.

Ekspertlik prinsipi isə risklərin qarşısını almaq üçün lazım olan sahə biliyinin kimdə olduğuna baxır. Süni intellekt tərtibatçısı texniki sistemi yaxşı bilə bilər; lakin səhiyyə, maliyyə, hüquq, təhsil və ya dövlət xidməti kimi sahələrdə qərarın real təsirini çox vaxt sahə mütəxəssisi və sistemi tətbiq edən qurum daha yaxşı anlayır. Buna görə məqalə tətbiq edən tərəflərin yalnız passiv istifadəçilər deyil, məsuliyyət daşıyan qərar aktorları olduğunu müdafiə edir.

Bununla yanaşı, tədqiqat tərtibatçıları tamamilə məsuliyyətsiz qoymur. Əksinə, tərtibatçıların sistemin sərhədlərini izah etmək, məlum xəta növlərini bildirmək, təhlükəsizlik testləri aparmaq, sənədləşmə təmin etmək və istifadəçiyə məsuliyyətli istifadə üçün zəruri informasiya infrastrukturu təqdim etmək öhdəliyinin olduğunu qəbul edir. İstifadəçi mərkəzli modelin fərqi ilkin əməliyyat məsuliyyətini sistemin konkret istifadə nöqtəsinə yerləşdirməsidir.

Formullar Nəyi İzah Edir?

Bu tədqiqat riyazi formul ehtiva etmir. Məqalə kəmiyyət modeli və ya hesablama tənliyi əvəzinə hüquqi prinsiplər, idarəetmə çərçivələri və məsuliyyət bölgüsü üzərindən irəliləyir.

Aşağıdakı MathJax göstərimi məqalənin konseptual məsuliyyət modelini sadələşdirmək üçün hazırlanıb. Bu, məqalədə verilən birbaşa riyazi formul deyil, tədqiqatın əsas arqumentini anlaşılan etmək üçün yaradılmış sxematik göstərimdir.

Bu göstərim məqalənin istifadəçi mərkəzli yanaşmasını ümumiləşdirir. Süni intellekt sisteminin zərərli nəticələrinin qarşısını almaq baxımından zərərə yaxın olan, sistemi faktiki olaraq nəzarətdə saxlayan və tətbiq kontekstini anlayan aktor daha güclü məsuliyyət daşıyır.

İkinci sxem məqalənin “distributed yet centered” yanaşmasını ümumiləşdirir. Süni intellekt ekosistemində tərtibatçı, təminatçı, qurum, peşəkar istifadəçi və tənzimləyici kimi bir çox aktorun öhdəliyi var. Lakin bu öhdəliklərin paylanmış olması hesabatlılığın tamamilə dağılması demək olmamalıdır. Konkret istifadə qərarını verən tərəf hesabatlılığın mərkəzində qalmalıdır.

Üçüncü sxem məqalənin qara qutu və API istifadəsinə gətirdiyi tarazlığı izah edir. Əgər tətbiq edən tərəf sistem üzərində tam nəzarətə malik deyilsə, məsələn, qapalı API vasitəsilə modeldən istifadə edirsə, təminatçı sistemin sərhədləri, riskləri və məlum xəta növləri haqqında daha güclü açıqlama verməlidir.

Qrafik, Cədvəl və Sxemin Əsas Mesajı

Məqalənin ən mühüm vizualı süni intellekt istifadəsində insan aktor sahəsi ilə maşın emal sahəsini ayıran məsuliyyət sxemidir. Bu sxem qərarın başlanğıcında və sonunda insan nəzarətinin olduğunu göstərir. İnsan aktorlar sistemi istifadə etməyə qərar verir, parametrləri və ya istifadə kontekstini müəyyənləşdirir, çıxışların necə qiymətləndiriləcəyinə qərar verir və nəticələri tətbiq edir. Maşın isə bu prosesdə alqoritmik emal və çıxış yaratma mərhələsində yer alır.

Bu vizualın əsas mesajı budur: Süni intellekt sistemi prosesdə mühüm rol oynasa da, məsuliyyətin kritik nöqtələri hələ də insan qərarlarına bağlıdır. Sistemi işə salmaq, onu hansı sahədə istifadə etməyi seçmək, çıxışı yoxlamaq və son qərara çevirmək kimi mərhələlər insan aktor sahəsində qalır. Buna görə məqalə ilkin məsuliyyət zonasını tətbiq edən insan və ya qurum tərəfində yerləşdirir.

Məqalədəki cədvəl isə istifadəçi mərkəzli idarəetməni dəstəkləyən üç prinsipi ümumiləşdirir. Yaxınlıq prinsipi zərərə ən yaxın aktorun konteksti daha yaxşı bildiyini bildirir. Nəzarət prinsipi tətbiq edən tərəfin sistem parametrləri və nəzarət prosesləri üzərində təsirli olduğunu vurğulayır. Ekspertlik prinsipi isə bir çox riskin yalnız sahə biliyi ilə anlaşıla biləcəyini göstərir.

Bu vizual və cədvəl birlikdə oxunduqda məqalənin mərkəzi fikri aydınlaşır: Süni intellekt idarəetməsi yalnız texniki dizayna deyil, sistemin real dünyada necə istifadə olunduğuna da baxmalıdır. Çünki zərər çox vaxt modelin abstrakt qabiliyyətindən deyil, bu qabiliyyətin müəyyən qurum, məqsəd, qərar prosesi və nəzarət strukturu daxilində necə işə salınmasından yaranır.

Təcrübələr Necə Aparılıb?

Bu tədqiqat eksperimental laboratoriya araşdırması deyil. Yeni məlumat dəsti yaratmır, statistik test aparmır və kəmiyyət xarakterli sahə təcrübəsi təqdim etmir. Məqalə hüquq nəzəriyyəsi, delikt hüququ, agentlik hüququ, süni intellekt etikası, texnologiya fəlsəfəsi, peşə standartları və tənzimləyici çərçivələr üzərindən normativ arqument qurur.

Tədqiqat məhkəmə qərarları və tənzimləyici nümunələr üzərindən arqumentini gücləndirir. Məsələn, Air Canada chatbot hadisəsi bir qurumun süni intellekt sisteminin verdiyi məlumatdan özünü tamamilə ayıra bilməyəcəyini göstərən aktual nümunə kimi istifadə olunur. ChatGPT ilə yoxlanılmamış saxta hüquqi istinadlar təqdim edən vəkillərin sanksiyaya məruz qaldığı Mata v. Avianca qərarı da peşəkar istifadəçinin süni intellekt çıxışını yoxlamaq öhdəliyini vurğulayır.

Məqalə həmçinin Avropa İttifaqının Süni İntellekt Aktını, yenilənmiş Məhsul Məsuliyyəti Direktivini, NIST Süni İntellekt Risk İdarəetmə Çərçivəsini, ISO/IEC 42001-i və müxtəlif ölkə yanaşmalarını müzakirə edir. Bu müqayisəli yanaşma istifadəçi mərkəzli məsuliyyət modelinin təkbaşına bütün dünyada qəbul edilmiş standart olmadığını; lakin mövcud tənzimləmələrlə birlikdə düşünülə bilən ardıcıl idarəetmə təklifi olduğunu göstərir.

Beləliklə, tədqiqatın metodu konseptual təhlil və hüquq-siyasət qiymətləndirməsidir. Onun gücü müxtəlif hüquq sahələrini və süni intellekt idarəetməsi müzakirələrini vahid məsuliyyət modeli altında birləşdirməsidir. Məhdudiyyəti isə təklif olunan modelin empirik baxımdan hansı sektorlarda necə nəticə verəcəyinin əlavə araşdırmaya ehtiyac duymasıdır.

Nəticələr Nəyi Göstərir?

Məqalənin gəldiyi əsas nəticə süni intellekt zərərlərində məsuliyyəti yalnız tərtibatçıya bağlamağın kifayət etməməsidir. Tərtibatçı təhlükəsiz dizayn, açıqlama, sənədləşmə və məlum riskləri bildirmək kimi öhdəliklər daşımalıdır; lakin sistemin hansı kontekstdə, hansı məqsədlə və hansı nəzarət altında istifadə olunacağına çox vaxt tətbiq edən tərəf qərar verir.

Buna görə məqalə əməliyyat məsuliyyətinin istifadə qərarını verən aktora yönəlməli olduğunu müdafiə edir. Xəstəxanada klinik qərar dəstəyi, bankda kredit qiymətləndirmə sistemi, hüquq bürosunda sənəd hazırlama aləti və ya dövlət qurumunda avtomatlaşdırılmış qərar sistemi istifadə olunursa, sistemi işə salan qurumun qərar proseslərini nəzarətdə saxlamaq, çıxışları yoxlamaq və insan nəzarətini təmin etmək öhdəliyi var.

Tədqiqat həmçinin tərtibatçı mərkəzli modellərin bəzi çətinliklərini göstərir. Süni intellekt sistemləri qara qutu kimi işləyə bilər; təlim məlumatı, model arxitekturası, sonrakı öyrənmə və istifadə konteksti birlikdə təsir göstərə bilər. Bu halda zərəri müəyyən kod sətrinə və ya tək dizayn qərarına bağlamaq həmişə mümkün deyil.

Bunun əksinə, istifadəçi mərkəzli model məsuliyyəti konkret istifadə nöqtəsinə bağlayır. Sistemi işlədən, parametrləri müəyyən edən, çıxışa güvənən, insan nəzarətini quran və ya qurmayan tərəf hesabat verməlidir. Bu yanaşma ictimai etimad, demokratik nəzarət və güc bərabərsizliyi baxımından daha görünən məsuliyyət yolları yaratmağı hədəfləyir.

Bu Niyə Vacibdir?

Süni intellekt sistemləri getdikcə daha çox qərar prosesinə yerləşdirildikcə, yanlış və ya zərərli nəticələrin kimə aid ediləcəyi məsələsi yalnız texniki problem olmaqdan çıxır. Bu mövzu hüquqi məsuliyyət, demokratik hesabatlılıq, ictimai etimad və insan muxtariyyəti ilə birbaşa əlaqəlidir.

Vətəndaş kredit ala bilmədikdə, xəstə yanlış yönləndirilmiş klinik qərar dəstəyindən təsirləndikdə, işçi alqoritmik qiymətləndirməyə görə əlverişsiz vəziyyətə düşdükdə və ya dövlət xidməti avtomatlaşdırılmış sistemlə səhv bölüşdürüldükdə “bunu alqoritm etdi” demək kifayət deyil. İnsanların etiraz edə biləcəyi, izah istəyə biləcəyi və hesabat tələb edə biləcəyi konkret qurumlar olmalıdır.

Məqalənin əhəmiyyəti burada ortaya çıxır. İstifadəçi mərkəzli idarəetmə süni intellekti sehrli, müstəqil və məsuliyyət daşıyan varlıq kimi deyil, insan qərar zəncirinə yerləşdirilən alət kimi görür. Bu yanaşma insan nəzarətini və institusional məsuliyyəti mərkəzə alaraq texnologiyanın demokratik sistemlər daxilində daha anlaşılan və nəzarət edilə bilən qalmasına töhfə verə bilər.

Tədqiqat həmçinin tərtibatçılarla tətbiq edən tərəflər arasında daha real tarazlığın qurulmasını təklif edir. Tərtibatçı hər istifadə kontekstini əvvəlcədən bilməyə bilər; tətbiq edən tərəf də sistemin bütün texniki təfərrüatlarını görməyə bilər. Buna görə model tətbiq edən tərəfin məsuliyyətini gücləndirməklə yanaşı, təminatçıların açıqlama və sənədləşmə öhdəliyini də artırır.

Diqqət Edilməli Məqamlar

Birinci diqqət məqamı istifadəçi mərkəzli məsuliyyət modelinin tərtibatçıları tamamilə məsuliyyətsiz qoymamasıdır. Məqalə tərtibatçıların təhlükəsiz dizayn, model sərhədlərini izah etmək, məlum xəta növlərini bildirmək, sənədləşmə təmin etmək və monitorinq alətləri təqdim etmək öhdəliklərini qəbul edir.

İkinci diqqət məqamı qara qutu sistemləridir. Əgər qurum qapalı API vasitəsilə süni intellektdən istifadə edir və modelin təlim məlumatına, arxitekturasına və ya təhlükəsizlik mexanizmlərinə çıxışı yoxdursa, tətbiq edən tərəfin nəzarəti azalır. Bu halda təminatçı tərəf daha güclü açıqlama verməlidir.

Üçüncü diqqət məqamı fərdi istifadəçilərlə böyük institusional tətbiq edən tərəflərin eyni məsuliyyət səviyyəsində qiymətləndirilə bilməməsidir. Böyük maliyyə qurumu və ya xəstəxana sistemləri test etmək, yoxlamaq və risk təhlili aparmaq imkanına malikdir. Adi fərdi istifadəçi isə eyni resurslara sahib deyil. Buna görə məsuliyyət imkanlara, kontekstə və risk səviyyəsinə uyğun tənzimlənməlidir.

Dördüncü diqqət məqamı yüksək riskli sahələrdir. Səhiyyə, cinayət ədaləti, kredit, dövlət xidmətləri və avtonom nəqliyyat vasitələri kimi sahələrdə zərərlər geri dönməz və ya çox ağır ola bilər. Bu sahələrdə yalnız istifadəçi nəzarətinə güvənmək kifayət etməyə bilər; tərtibatçı tərəfli təhlükəsizlik tədbirləri, tənzimləyici nəzarət və güclü insan nəzarəti birlikdə tələb olunur.

Beşinci diqqət məqamı qlobal tənzimləyici mühitin vahid mövqedə olmamasıdır. Bəzi yanaşmalar təminatçı və ya istehsalçının məsuliyyətini daha güclü saxlayır, digərləri isə nəzarət səviyyəsinə görə məsuliyyət bölgüsünü müdafiə edir. Buna görə istifadəçi mərkəzli idarəetmə yekunlaşmış qlobal standart deyil, mübahisəli, lakin güclü nəzəri mövqedir.

Nəticə

Məqalə süni intellekt idarəetməsində hesabatlılığı qorumağın ən təsirli yolunun sistemi real dünyada istifadə edən insanlara və qurumlara fokuslanmaq olduğunu müdafiə edir. Süni intellekt çıxışları öz-özlüyündə ictimai nəticə yaratmır; bu çıxışlar müəyyən insanlar tərəfindən seçilir, şərh olunur, tətbiq edilir və ya nəzarətsiz buraxılır.

İstifadəçi mərkəzli məsuliyyət modeli süni intellekti müstəqil hüquqi aktor kimi deyil, insan əli ilə istifadə olunan mürəkkəb alət kimi ele alır. Bu yanaşma zərər vəziyyətində “sistem etdi” bəhanəsini zəiflədir və qərar zəncirindəki insan aktorları görünən edir.

Bununla belə, məqalənin təklifi birtərəfli deyil. Tərtibatçılar, təminatçılar, qurumlar və tənzimləyicilər də məsuliyyət daşıyır. Lakin bu məsuliyyətlər paylanmış olsa belə, hesabatlılıq tamamilə dağılmamalıdır. Məqalənin “paylanmış, amma mərkəzləşdirilmiş” modeli məhz bunu izah edir: bir çox aktor öhdəlik daşıyır, lakin konkret istifadə qərarını verən tərəf hesabatlılığın mərkəzində qalır.

Bu yanaşma süni intellekt dövründə ictimai etimadı, demokratik nəzarəti və insan mühakiməsini qorumağa yönəlmiş mühüm müzakirə mövzusu təqdim edir. Ən güclü mesajı budur: Süni intellekt nə qədər inkişaf etsə də, yüksək təsirli qərarların arxasında hesabat verə bilən insan və qurumlar qalmalıdır.

Mənbə və Metod Qeydi

Bu yazı Zhengyang Chenin “Operational responsibility in AI governance: a user-centric liability framework” başlıqlı, AI and Ethics jurnalında dərc olunan araşdırma məqaləsinin əsas ideyaları əsasında hazırlanıb. Mətndə məqalənin istifadəçi mərkəzli süni intellekt idarəetməsi, məsuliyyət boşluğu, süni intellektin alət kimi görülməsi, yaxınlıq-nəzarət-ekspertlik prinsipləri, qara qutu problemi, tərtibatçı və tətbiq edən tərəfin öhdəlikləri, tənzimləyici çərçivələr və demokratik hesabatlılıq haqqında əsas arqumentləri sadə Azərbaycan dilində izah edilib.

Bu məzmun birbaşa tərcümə deyil; tədqiqatın əsas ideyası Verianla nəşr xəttinə uyğun şəkildə sadələşdirilmiş və orijinal Azərbaycan dilli redaksiya məqaləsinə çevrilib.

Bu məzmun hüquqi məsləhət deyil. Süni intellekt məsuliyyəti və hüquqi öhdəliklər ölkəyə, sektora, istifadə kontekstinə və aktual tənzimləmələrə görə dəyişə bilər. Mətn akademik müzakirəni anlaşılan etmək məqsədilə hazırlanıb.