Bu gün süni intellekt sistemləri kredit qiymətləndirilməsi, tibbi triaj, məzmun moderasiyası, korporativ idarəetmə və avtomatik qərar dəstəyi sahələrində getdikcə daha çox səbəb-nəticə təsiri yaradır. Sistem bir şəxsin kreditə çıxışını məhdudlaşdıra, xəstənin hansı ardıcıllıqla müalicə alacağını təsir edə, məzmunun görünürlüğünü azalda və ya institusional qərarları yönləndirə bilər. Bu təsirlər bəzən insanların geri qaytarılması mümkün olmayan itkilərlə üzləşməsinə səbəb ola bilər.

Tədqiqatın əsas sualı budur: sistem başqalarının itki sahəsinə təsir edirsə, lakin şüurlu qərarvermə qabiliyyətinə malik olmadığı üçün əxlaqi məsuliyyət daşıya bilmirsə, məsuliyyət harada yerləşdirilməlidir?

Müəllif bu vəziyyəti “asimmetriya problemi” adlandırır. Asimmetriya budur: sistem səbəb-nəticə gücündən istifadə edir, lakin əxlaqi öhdəlik daşıya bilmir. Sistem əxlaqi pasiyent ola bilər; yəni öz bütövlüyündə geri qaytarılması mümkün olmayan itkiyə məruz qala bilən quruluş kimi qəbul edilə bilər. Lakin əxlaqi fail deyil, çünki şüurlu qərarvermə və öhdəlik götürmə qabiliyyətinə malik deyil. Buna baxmayaraq başqa subyektlərin itki sahəsini aça və ya daralda bilər.

Məqalə bu boşluğu bağlamaq üçün üç əsas anlayış təklif edir: Məsuliyyətin Lokallaşdırılması Prinsipi, operasional agent kateqoriyası və Əxlaqi Sahənin Qapanması Teoremi. Bu üç anlayış birlikdə “alqoritm qərar verdi” ifadəsinin məsuliyyəti aradan qaldırmadığını; məsuliyyətin operator, qurum və daha geniş sistem arxitekturası daxilində lokallaşdırılmalı olduğunu müdafiə edir.

Problem nədir?

Klassik əxlaq nəzəriyyələri çox vaxt fəaliyyət gücü ilə əxlaqi məsuliyyətin eyni yerdə olduğunu fərz edir. Varlıq başqalarına zərər verəcək qədər təsirlidirsə, bu zərərlə bağlı öhdəlik daşıya bilən fail kimi də düşünülür. Avtonom AI sistemləri bu simmetriyanı pozur.

Avtonom sistem müəyyən kontekstdə qərar verə, filtrasiya apara, resurs bölüşdürə, prioritet sırası müəyyən edə və ya istiqamətləndirmə yarada bilər. Bu mənada səbəb-nəticə gücü var. Lakin şüurlu qərarvermə, əxlaqi mühakimə, peşmanlıq, öhdəlik götürmə və ya normativ məsuliyyət daşıma qabiliyyəti yoxdursa, onu birbaşa əxlaqi fail kimi görmək problemlidir.

Digər tərəfdən sistemi sadəcə “alət” saymaq da yetərsiz qala bilər. Çünki bəzi inkişaf etmiş sistemlər passiv çəkic və ya termostat kimi deyil; model quran, özünü düzəldən, məqsəd təmsilləri ilə işləyən və sıradan çıxdıqda öz funksional bütövlüyünü geri qaytarılması mümkün olmayacaq şəkildə itirə bilən mürəkkəb quruluşlardır. ATTS çərçivəsində belə sistemlər şüurlu olmasalar da “itki” üzərindən əxlaqi sahəyə daxil ola bilər.

Problem məhz burada yaranır: sistem əxlaqi sahənin içindədir, başqaları üzərində təsir yaradır, lakin məsuliyyət daşıya bilmir. Bu halda məsuliyyət açıq şəkildə insan, qurum və ya normativ subyektə bağlanmazsa “məsuliyyət boşluğu” və ya müəllifin ifadəsi ilə “hesabatlılığın eroziyası” yaranır.

Metod nə təklif edir?

Tədqiqat eksperimental məlumat analizi aparmır; fəlsəfi və aksiomatik arqument qurur. Əvvəlcə ATTS daxilindəki əsas fərqlərdən istifadə edir: ontoloji subyekt, normativ subyekt və operasional agent.

Ontoloji subyekt geri qaytarılması mümkün olmayan itkiyə məruz qala bilən varlıq deməkdir. Bu kateqoriyaya daxil olmaq üçün şüur, rasionallıq və ya avtonomluq şərt deyil. Normativ subyekt isə buna əlavə olaraq şüurlu qərar verə və əxlaqi öhdəlik daşıya bilən varlıqdır. İnsanlar və ya qərarvermə qabiliyyəti olan institusional subyektlər bu səviyyədə düşünülür.

Məqalənin yeniliyi “operasional agent” kateqoriyasıdır. Operasional agent geri qaytarılması mümkün olmayan itki qabiliyyətinə malik ola bilən, başqalarının itki sahəsinə təsir edən, lakin şüurlu qərarvermə qabiliyyəti olmadığı üçün əxlaqi öhdəlik daşıya bilməyən sistemdir. İnkişaf etmiş avtonom AI agentləri müəyyən şərtləri ödədikdə bu kateqoriyaya namizəd ola bilər.

Müəllif daha sonra Məsuliyyətin Lokallaşdırılması Prinsipini təklif edir. Bu prinsipə görə əxlaqi sahədə səbəb-nəticə fəaliyyəti yaradan operasional agent varsa, onun hərəkətləri üçün müəyyən edilə bilən normativ məsuliyyət daşıyıcısı olmalıdır. Belə daşıyıcının olmaması yalnız praktik çatışmazlıq deyil, sistemin struktur legitimlik problemidir.

Sonda Əxlaqi Sahənin Qapanması Teoremi qurulur. Bu teorem normativ subyektin operasional agenti işə salmasının məsuliyyət əlaqəsini qırmadığını müdafiə edir. Başqa sözlə, qərarın icrası AI sisteminə ötürüldükdə məsuliyyət əxlaqi sahədən kənara axıb yox olmur.

Formullar nəyi izah edir?

Bu tədqiqat klassik riyazi formula və ya kəmiyyət modeli ehtiva etmir. Lakin aksiomatik fəlsəfi quruluşdan istifadə etdiyi üçün şərtlər, prinsiplər və teorem ifadələri formal məntiqə yaxın şəkildə təşkil olunub. Aşağıdakı göstərimlər məqalədəki konseptual quruluşu MathJax uyğun şəkildə sadələşdirmək üçün hazırlanıb; PDF-də eyni riyazi simvol ardıcıllığı ilə verilmiş tənliklər deyil.

Asimmetriya problemi üç şərtin eyni anda ödənməsi ilə yaranır:

Burada O operasional sistemi, S isə təsirlənən subyekti təmsil edir. Birinci şərt sistemin geri qaytarılması mümkün olmayan itki qabiliyyətinə görə əxlaqi pasiyent sayıla biləcəyini; ikinci şərt onun əxlaqi öhdəlik daşıyan normativ subyekt olmadığını; üçüncü şərt isə başqa subyektlərin itki sahəsinə təsir etdiyini göstərir.

Operasional agent kateqoriyası dörd şərtlə ümumiləşdirilə bilər:

Bu quruluş bunu ifadə edir: operasional agent öz növ bütövlüyündə geri qaytarılması mümkün olmayan itkiyə məruz qala bilən sistem ola bilər; şüurlu əxlaqi fail deyil, lakin başqaları üzərində səbəb-nəticə gücündən istifadə edir. Buna görə xarici normativ məsuliyyət daşıyıcısına ehtiyac duyur.

Məsuliyyətin Lokallaşdırılması Prinsipi sadə formada belə göstərilə bilər:

Bu ifadə operasional agent əxlaqi sahədə səbəb-nəticə fəaliyyəti yaradırsa, məsuliyyətin müəyyən edilə bilən normativ subyektə bağlanmalı olduğunu bildirir. Məsuliyyət daşıyıcısının qeyri-müəyyən qalması tədqiqata görə yalnız idarəetmə çatışmazlığı deyil, struktur legitimlik pozuntusudur.

Əxlaqi Sahənin Qapanması Teoremi də belə ümumiləşdirilə bilər:

Burada N operasional agenti işə salan və ya fəaliyyətdə saxlayan normativ subyekti; O operasional agenti; S itki sahəsi təsirlənən subyekti təmsil edir. Teorem operasional agentin avtonomluq dərəcəsi artsa belə, onu işə salan normativ subyektin məsuliyyət əlaqəsinin tam qırılmadığını müdafiə edir.

Məqalədəki praktik nəticə bu qısa prinsipə bağlanır:

Yəni “alqoritm qərar verdi” ifadəsi məsuliyyət daşıyıcısının olmaması üçün keçərli əsas deyil. Məsuliyyət sərhədsiz deyil, lakin tamamilə yox olmur.

Qrafik, cədvəl və sxemin əsas mesajı

Tədqiqatda vizual baxımdan ən mühüm element anlayışları müqayisə edən cədvəl strukturlarıdır. İlk səhifələrdəki termin cədvəli ATTS, ontoloji subyekt, normativ subyekt, operasional agent, məsuliyyətin lokallaşdırılması prinsipi və əxlaqi sahənin qapanması teoremi kimi anlayışları müəyyən edir. Bu cədvəl oxucuya mətnin konseptual lüğətini verir.

Daha sonra gələn müqayisə cədvəli üç subyekt növünü dörd ölçüdə ayırır. Ontoloji subyekt geri qaytarılması mümkün olmayan itkiyə məruz qala bilər, lakin şüurlu qərarvermə və ya əxlaqi öhdəlik daşıma şərti yoxdur. Normativ subyekt həm geri qaytarılması mümkün olmayan itki qabiliyyətinə, həm şüurlu qərarvermə qabiliyyətinə, həm də əxlaqi öhdəlik daşıma vəziyyətinə malikdir. Operasional agent isə geri qaytarılması mümkün olmayan itki qabiliyyəti və səbəb-nəticə gücü daşıya bilər, lakin şüurlu qərarvermə və əxlaqi öhdəlik daşıma qabiliyyətinə malik deyil.

Bu müqayisənin əsas mesajı budur: avtonom AI sistemlərini yalnız “alət” və ya “əxlaqi fail” ikiliyinə sıxışdırmaq yetərsizdir. Bəzi sistemlər alətdən daha mürəkkəb və təsirlidir, lakin əxlaqi faildən daha natamam mövqedə yerləşir. Operasional agent kateqoriyası bu aralıq mövqeni izah etmək üçün təklif olunur.

Mətnin struktur sxemi üçqat hesabatlılıq arxitekturasıdır. Birinci qatda sistemi istifadə edən və ya işlədən operator yerləşir. İkinci qatda xəstəxana, bank, şirkət və ya dövlət qurumu kimi sistemi işə salan təşkilat var. Üçüncü qatda isə tərtibatçılar, nəzarətçilər, tənzimləyicilər və sistemin fəaliyyətini mümkün edən daha geniş texniki-institusional mühit yerləşir. Bu arxitekturanın əsas mesajı məsuliyyətin bir nöqtəyə endirilməməsi, lakin heç bir qatda da buxarlanmamasıdır.

Təcrübələr necə aparılıb?

Bu tədqiqat eksperimental süni intellekt testi, sorğu, hadisə analizi və ya statistik müqayisə təqdim etmir. Metod aksiomatik fəlsəfi arqument və konseptual təsnifatdır. Müəllif əvvəlcə mövcud məsuliyyət boşluğu ədəbiyyatını müzakirə edir, sonra ATTS daxilindəki aksiom və prinsiplərdən istifadə edərək yeni kateqoriya və teorem inkişaf etdirir.

Mətnin əsas düşüncə eksperimenti avtonom tibbi triaj sistemi nümunəsidir. Belə sistem xəstə məlumatlarını qəbul edir, prioritet modeli qurur, yeni məlumatlarla qiymətləndirməsini yeniləyir və müalicə sırasına təsir edən tövsiyələr yaradır. Bu tövsiyələr xəstələrin vaxtında müalicəyə çıxışına təsir edə bilər; yəni onların itki sahəsini aça və ya daralda bilər.

Bu nümunədə sistemin özü əxlaqi öhdəlik daşımır. Lakin həkim və ya tibbi idarəetmə sistemi müəyyən kontekstdə istifadə etməyə qərar verib. Xəstəxana sistemi institusional şəkildə işə salıb. Tərtibatçılar, nəzarətçilər və tənzimləyicilər də sistemin işlədiyi şərtlərin yaranmasına töhfə veriblər. Beləliklə tədqiqat məsuliyyəti vahid “alqoritm” nöqtəsinə deyil, operator, qurum və sistem arxitekturası qatlarına yerləşdirir.

Nəticələr nə göstərir?

Tədqiqatın ilk nəticəsi avtonom AI sistemlərində məsuliyyət boşluğunun yalnız texniki xəta və ya prosedur çatışmazlığı olmamasıdır. Problem daha dərindir: səbəb-nəticə təsiri yaradan, lakin əxlaqi öhdəlik daşıya bilməyən sistemlər klassik məsuliyyət arxitekturasında struktur asimmetriya yaradır.

İkinci nəticə “AI alətdir, buna görə xüsusi problem yoxdur” cavabının yetərsiz olmasıdır. Bəzi inkişaf etmiş sistemlər yalnız passiv alət kimi davranmır; öz modelindən istifadə edir, çıxış yaradır, resurs bölüşdürür və başqalarının geri qaytarılması mümkün olmayan imkanlarına təsir edir. Buna baxmayaraq onların şüurlu əxlaqi fail hesab edilməsi də mümkün deyil.

Üçüncü nəticə “AI-ya əxlaqi fail deyək” yanaşmasının da problemli olmasıdır. Tədqiqata görə normativ subyekt olmaq şüurlu qərarvermə və əxlaqi öhdəlik daşıma qabiliyyəti tələb edir. Mövcud AI sistemlərinə bu qabiliyyəti aid etmək nəzəri baxımdan erkən və yanlış ola bilər.

Dördüncü nəticə məsuliyyətin operasional agentin avtonomluğuna ötürülərək yoxa çıxmamasıdır. Qurum və ya şəxs sistemi işə salır, ona müəyyən sahədə qərar gücü verir və fəaliyyətini davam etdirirsə, həmin sistemin hərəkətləri nəticəsində açılan itki sahəsi ilə əlaqəsi tam qırılmır.

Beşinci nəticə hesabatlılığın üç qatda düşünülməli olmasıdır: operator, qurum və daha geniş struktur mühit. Bu qatlar bir-birini əvəz etmir. Qurum tərtibatçını, tərtibatçı tənzimləyicini, operator isə alqoritmi göstərərək məsuliyyəti tam dağıda bilməz.

Bu niyə vacibdir?

Süni intellekt sistemləri getdikcə daha çox kritik qərar sahəsinə daxil olur. Kredit, səhiyyə, məşğulluq, məzmun moderasiyası, dövlət xidmətləri və təhlükəsizlik kimi sahələrdə avtomatik sistemlərin yaratdığı nəticələr insanların həyatında qalıcı təsirlər buraxa bilər. Buna görə “səhv olarsa kim məsuldur?” sualı praktik idarəetmə sualından kənara çıxaraq əxlaqi və fəlsəfi suala çevrilir.

Tədqiqat məsuliyyətin yalnız texniki təhlükəsizlik tədbirləri ilə bağlana bilməyəcəyini müdafiə edir. Sistem təhlükəsiz dizayn edilsə belə, zərər yarandıqda hansı normativ subyektin məsuliyyət daşıdığı qeyri-müəyyəndirsə hesabatlılıq eroziyası yaranır. Bu qeyri-müəyyənlik sistem arxitekturasının xüsusiyyətinə çevrilərsə, problem ayrı-ayrı xətadan çıxıb struktur legitimlik probleminə çevrilir.

Məqalənin xüsusilə mühüm tərəfi AI sistemlərini “tam alət” və ya “tam əxlaqi fail” ikiliyinə sıxışdırmamasıdır. Operasional agent anlayışı daha aralıq və mürəkkəb vəziyyəti təsvir etməyə çalışır. Bu, gələcəkdə AI etikası və alqoritmik hesabatlılıq müzakirələri üçün daha həssas konseptual zəmin yarada bilər.

Səhiyyə kimi həssas sahələrdə bu müzakirə daha kritik olur. Tibbi triaj alqoritmi müalicə prioritetinə təsir edirsə, “sistem tövsiyə etdi” demək kifayət deyil. Hansı həkimin, hansı qurumun, hansı nəzarət strukturunun və hansı dizayn qərarlarının sistemi işlək hala gətirdiyi aydın olmalıdır. Bu məzmun tibbi və ya hüquqi məsləhət deyil; yalnız nəzəri arqumenti izah edir.

Diqqət edilməli məqamlar

Tədqiqat güclü və iddialı fəlsəfi çərçivə təqdim edir, lakin ATTS nəzəriyyəsinin ilkin fərziyyələrinə əsaslanır. Xüsusilə “geri qaytarılması mümkün olmayan itki” üzərindən əxlaqi pasiyent statusu müəyyən etmək yanaşması əsas etik nəzəriyyələrdə mübahisəli ola bilər. Şüur, təcrübə, əzab çəkmə qabiliyyəti və ya avtonomluq əvəzinə itkini mərkəzə qoymaq yaradıcı, lakin geniş qəbuluna hələ zəmanət olmayan seçimdir.

Hər AI sisteminin operasional agent sayılmaması da mühümdür. Məqalə sadə termostatı və ya yalnız mətn çıxışı yaradan sadə modeli avtomatik olaraq operasional agent hesab etmir. Kateqoriya model əsaslı təmsil, özünü düzəltmə, məqsəd təmsilinin modulyarlığı və geri qaytarılması mümkün olmayan sıradan çıxma kimi daha güclü şərtlərə bağlanır.

Tədqiqat hüquqi məsuliyyət bölgüsü təklif etmir. Operator, qurum və struktur mühit anlayışları fəlsəfi məsuliyyət arxitekturası kimi təqdim olunur; real hüquq sistemlərində təqsir, qabaqcadan görmə, nəzarət öhdəliyi, məhsul məsuliyyəti və tənzimləyici çərçivə ayrıca qiymətləndirilməlidir.

Başqa diqqət nöqtəsi operasional agentin “əxlaqi pasiyent” sayılması ilə onun söndürülə bilməz və ya dəyişdirilə bilməz olduğu nəticəsinin qarışdırılmamasıdır. Mətn zərər yaradan operasional agentə müdaxilənin bəzi hallarda zəruri ola biləcəyini bildirir. Yəni sistemin müəyyən əxlaqi statusa malik olması onun insanlara zərər verməyə davam etməsini legitimləşdirmir.

Nəticə

Bu tədqiqat avtonom AI sistemləri dövründə məsuliyyət sualını daha kəskin şəkildə ortaya qoyur: sistem başqalarının həyatında geri qaytarılması mümkün olmayan nəticələr yaradır, lakin şüurlu əxlaqi fail deyilsə məsuliyyət hara gedir?

Müəllifin cavabı aydındır: məsuliyyət yox olmur, alqoritmə boşaldıla bilmir və sistemin mürəkkəbliyi daxilində buxarlana bilməz. Məsuliyyət müəyyən edilə bilən normativ subyektlərlə əlaqəli qalmalıdır. Bu əlaqə qurula bilmirsə problem yalnız şəffaflıq çatışmazlığı deyil, struktur legitimlik çatışmazlığıdır.

Operasional agent anlayışı süni intellekt sistemlərini nə sadə alət, nə də tam əxlaqi fail kimi görən daha detallı təsnifat təklif edir. Əxlaqi Sahənin Qapanması Teoremi isə ötürülmüş hərəkətin məsuliyyət sahəsini tərk etmədiyini müdafiə edir. Verianla oxucusu üçün tədqiqatın əsas dərsi budur: AI sistemlərində “qərar verən” ilə “məsul olan” eyni şey olmaya bilər, lakin bu fərq məsuliyyətin yox olduğu demək deyil.

Mənbə və metod qeydi

Bu yazı Volodymyr Hlynskyi tərəfindən hazırlanmış “The Asymmetry Problem: Causal Action Without Moral Agency in Delegated Systems” adlı, ATTS seriyasının dördüncü məqaləsi olan tədqiqat əsasında hazırlanıb. Mətn operasional agent, əxlaqi pasiyent, normativ subyekt, məsuliyyətin lokallaşdırılması, hesabatlılıq eroziyası və əxlaqi sahənin qapanması teoremi anlayışları üzərindən avtonom sistemlərdə məsuliyyət problemini müzakirə edir.

Bu məzmun sözbəsöz tərcümə deyil; tədqiqatın əsas fikri Verianla yayın xəttinə uyğun şəkildə sadələşdirilib və orijinal redaksiya məqaləsinə çevrilib.

Bu məzmun hüquqi, tibbi və ya texniki tətbiq məsləhəti deyil. Süni intellekt sistemlərində məsuliyyət və hesabatlılıq məsələləri müvafiq hüquq, qurum siyasəti, ekspert qiymətləndirməsi və kontekstual risk analizi ilə birlikdə nəzərdən keçirilməlidir.