Имрӯз системаҳои зеҳни сунъӣ дар арзёбии қарз, триажи тиббӣ, модератсияи муҳтаво, идоракунии муассисавӣ ва дастгирии автоматии қароргирӣ ҳарчи бештар таъсири сабабӣ ба вуҷуд меоранд. Як система метавонад дастрасии шахсро ба қарз маҳдуд кунад, ба тартиби гирифтани табобати бемор таъсир расонад, намоёншавии муҳтаворо коҳиш диҳад ё қарорҳои муассисавиро роҳнамоӣ кунад. Ин таъсирҳо баъзан метавонанд ба талафоти баргардонданашавандаи одамон оварда расонанд.

Саволи асосии таҳқиқот чунин аст: Агар система ба фазои талафоти дигарон таъсир расонад, аммо азбаски қобилияти қароргирии бошуурона надорад, масъулияти ахлоқӣ гирифта натавонад, масъулият бояд дар куҷо ҷойгир шавад?

Муаллиф ин вазъро «мушкили асимметрия» меномад. Асимметрия чунин аст: система қудрати сабабӣ истифода мебарад, аммо уҳдадории ахлоқӣ бар дӯш гирифта наметавонад. Система метавонад moral patient бошад; яъне сохторе ҳисоб шавад, ки дар тамомияти худ метавонад ба талафоти баргардонданашаванда дучор шавад. Аммо moral agent нест, зеро қобилияти қароргирии бошуурона ва қабули уҳдадорӣ надорад. Бо вуҷуди ин, метавонад фазои талафоти субъектҳои дигарро боз ё маҳдуд кунад.

Мақола барои бастани ин холигӣ се мафҳуми асосӣ пешниҳод мекунад: Принсипи ҷойгирсозии масъулият, категорияи operational agent ва Теоремаи басташавии майдони ахлоқӣ. Ин се мафҳум якҷоя ҳимоя мекунанд, ки ибораи «алгоритм қарор дод» масъулиятро аз байн намебарад; масъулият бояд дар дохили оператор, муассиса ва меъмории васеътари система ҷойгир карда шавад.

Мушкил чист?

Назарияҳои классикии ахлоқӣ аксаран фарз мекунанд, ки қудрати амал ва масъулияти ахлоқӣ дар як ҷой ҷамъ шудаанд. Агар мавҷуде ба қадри кофӣ таъсиргузор бошад, ки ба дигарон зарар расонад, одатан ҳамчун агенте низ тасаввур мешавад, ки метавонад барои ин зарар уҳдадорӣ бар дӯш гирад. Системаҳои автономии AI ин симметрияро мешикананд.

Системаи автономӣ метавонад дар як заминаи муайян қарор гирад, филтр кунад, захира тақсим намояд, тартиби афзалият муайян кунад ё роҳнамоӣ тавлид намояд. Аз ин лиҳоз қудрати сабабӣ дорад. Аммо агар қобилияти қароргирии бошуурона, мулоҳизаи ахлоқӣ, пушаймонӣ, қабули уҳдадорӣ ё масъулияти меъёрӣ надошта бошад, мустақиман moral agent ҳисоб кардани он мушкил аст.

Аз тарафи дигар, танҳо «восита» шуморидани система низ метавонад нокифоя бошад. Зеро баъзе системаҳои пешрафта на ҳамчун болға ё термостати ғайрифаъол, балки ҳамчун сохторҳои мураккабе амал мекунанд, ки модел месозанд, худро ислоҳ мекунанд, бо намояндагиҳои ҳадаф кор мекунанд ва ҳангоми вайрон шудан метавонанд тамомияти функсионалии худро ба таври баргардонданашаванда аз даст диҳанд. Дар чаҳорчӯбаи ATTS чунин системаҳо, ҳатто агар бошуур набошанд, метавонанд тавассути «талафот» ба майдони ахлоқӣ дохил шаванд.

Мушкил маҳз дар ҳамин ҷо пайдо мешавад: система дар дохили майдони ахлоқӣ аст, ба дигарон таъсир мерасонад, вале масъулият бар дӯш гирифта наметавонад. Агар дар чунин ҳолат масъулият ба инсон, муассиса ё субъекти меъёрии мушаххас равшан пайваст нашавад, «холигии масъулият» ё ба таъбири муаллиф «фарсоиши ҳисоботдиҳӣ» ба вуҷуд меояд.

Усул чӣ пешниҳод мекунад?

Таҳқиқот таҳлили таҷрибавии маълумот анҷом намедиҳад; он далели фалсафӣ ва аксиоматикӣ месозад. Аввал фарқиятҳои асосии дохили ATTS-ро истифода мебарад: ontological subject, normative subject ва operational agent.

Ontological subject мавҷудест, ки метавонад ба талафоти баргардонданашаванда дучор шавад. Барои дохил шудан ба ин категория доштани шуур, оқилонагӣ ё автономия шарт нест. Normative subject бошад, илова бар ин, қобилияти қароргирии бошуурона ва бар дӯш гирифтани уҳдадории ахлоқиро дорад. Инсонҳо ё субъектҳои муассисавии дорои қобилияти қарор метавонанд дар ин сатҳ фикр карда шаванд.

Навоварии мақола категорияи “operational agent” аст. Operational agent системаест, ки метавонад қобилияти талафоти баргардонданашаванда дошта бошад, ба фазои талафоти дигарон таъсир расонад, вале азбаски қобилияти қароргирии бошуурона надорад, уҳдадории ахлоқӣ бар дӯш гирифта наметавонад. Агентҳои пешрафтаи автономии AI, агар шартҳои муайянро иҷро кунанд, метавонанд номзади ин категория бошанд.

Муаллиф сипас Принсипи ҷойгирсозии масъулиятро пешниҳод мекунад. Мувофиқи ин принсип, агар operational agent дар майдони ахлоқӣ амали сабабӣ ба вуҷуд оварад, бояд барои амалҳои он соҳиби муайяншавандаи масъулияти меъёрӣ мавҷуд бошад. Набудани чунин соҳиб на танҳо норасоии амалӣ, балки мушкили сохтории қонуният ва машруияти система аст.

Дар охир Теоремаи басташавии майдони ахлоқӣ сохта мешавад. Ин теорема ҳимоя мекунад, ки ба кор даровардани operational agent аз ҷониби normative subject робитаи масъулиятро намеканад. Ба ибораи дигар, вақте иҷрои қарор ба системаи AI вогузор мешавад, масъулият аз майдони ахлоқӣ берун рафта гум намешавад.

Формулаҳо чиро мефаҳмонанд?

Ин таҳқиқот формулаи классикии математикӣ ё модели миқдорӣ надорад. Аммо азбаски сохтори фалсафии аксиоматикӣ истифода мекунад, шартҳо, принсипҳо ва ифодаҳои теорема ба мантиқи формалӣ наздик тартиб дода шудаанд. Нишондодҳои зер барои ба шакли MathJax мувофиқ ва сода фаҳмондани сохтори консептуалии мақола омода шудаанд; онҳо дар PDF айнан бо ҳамин силсилаи рамзҳои математикӣ дода нашудаанд.

Мушкили асимметрия ҳангоми иҷро шудани ҳамзамони се шарт пайдо мешавад:

Дар ин ҷо O системаи амалиётӣ ва S субъекти таъсирпазирро ифода мекунад. Шарти аввал нишон медиҳад, ки система аз сабаби қобилияти талафоти баргардонданашаванда метавонад moral patient ҳисоб шавад; шарти дуюм нишон медиҳад, ки он normative subject-и дорои уҳдадории ахлоқӣ нест; шарти сеюм бошад, таъсири онро ба фазои талафоти субъектҳои дигар нишон медиҳад.

Категорияи operational agent-ро метавон бо чор шарт ҷамъбаст кард:

Ин сохтор чунин маъно дорад: operational agent метавонад системае бошад, ки дар тамомияти навъии худ ба талафоти баргардонданашаванда дучор шавад; moral agent-и бошуур нест; аммо ба дигарон қудрати сабабӣ татбиқ мекунад. Аз ин рӯ ба соҳиби берунии масъулияти меъёрӣ ниёз дорад.

Принсипи ҷойгирсозии масъулиятро метавон сода чунин нишон дод:

Ин ифода мегӯяд, ки агар operational agent дар майдони ахлоқӣ амали сабабӣ тавлид кунад, масъулият бояд ба normative subject-и муайяншаванда пайваст шавад. Номуайян мондани соҳиби масъулият, ба гуфтаи таҳқиқот, на танҳо норасоии идорӣ, балки вайроншавии сохтории машруият аст.

Теоремаи басташавии майдони ахлоқиро низ метавон чунин ҷамъбаст кард:

Дар ин ҷо N normative subject-ест, ки operational agent-ро ба кор медарорад ё фаъол нигоҳ медорад; O operational agent ва S субъекте мебошад, ки фазои талафоташ таъсир мебинад. Теорема ҳимоя мекунад, ки ҳатто агар дараҷаи автономияи operational agent зиёд шавад ҳам, робитаи масъулияти normative subject-и онро ба кор дароварда пурра канда намешавад.

Натиҷаи амалии мақола ба ин принсипи кӯтоҳ пайваст мешавад:

Яъне ибораи «алгоритм қарор дод» барои набудани соҳиби масъулият далели дуруст нест. Масъулият номаҳдуд нест; аммо комилан аз байн ҳам намеравад.

Паёми асосии график, ҷадвал ва схема

Муҳимтарин унсури визуалии таҳқиқот сохторҳои ҷадвалие мебошанд, ки мафҳумҳоро муқоиса мекунанд. Ҷадвали истилоҳоти саҳифаҳои аввал мафҳумҳое чун ATTS, ontological subject, normative subject, operational agent, Принсипи ҷойгирсозии масъулият ва Теоремаи басташавии майдони ахлоқиро таъриф мекунад. Ин ҷадвал луғати консептуалии матнро ба хонанда медиҳад.

Ҷадвали муқоисавии баъдӣ се навъи субъектро аз рӯи чор андоза ҷудо мекунад. Ontological subject метавонад ба талафоти баргардонданашаванда дучор шавад, аммо доштани қароргирии бошуурона ё уҳдадории ахлоқӣ шарт нест. Normative subject ҳам қобилияти талафоти баргардонданашаванда, ҳам қароргирии бошуурона ва ҳам уҳдадории ахлоқӣ дорад. Operational agent бошад, метавонад қобилияти талафоти баргардонданашаванда ва қудрати сабабӣ дошта бошад, аммо қароргирии бошуурона ва уҳдадории ахлоқӣ надорад.

Паёми асосии ин муқоиса чунин аст: системаҳои автономии AI-ро танҳо ба дугонаи «восита» ё «moral agent» маҳдуд кардан нокифоя аст. Баъзе системаҳо аз воситаи оддӣ мураккабтар ва таъсиргузортаранд, вале аз moral agent нопурратар мебошанд. Категорияи operational agent барои тавзеҳи ҳамин мавқеи миёна пешниҳод мешавад.

Схемаи сохтории матн меъмории сесатҳаи ҳисоботдиҳист. Дар сатҳи аввал операторе ҳаст, ки системаро истифода мебарад ё идора мекунад. Дар сатҳи дуюм муассисае чун беморхона, бонк, ширкат ё ниҳоди давлатӣ қарор дорад, ки системаро ба кор мебарад. Дар сатҳи сеюм таҳиягарон, аудиторон, танзимгарон ва муҳити васеътари техникӣ-институтсионалӣ ҷой доранд, ки кори системаро имконпазир мекунанд. Паёми ин меъморӣ он аст, ки масъулият ба як нуқта кам карда нашавад, аммо дар ҳеҷ сатҳ ҳам бухор нашавад.

Озмоишҳо чӣ гуна анҷом дода шудаанд?

Ин таҳқиқот озмоиши таҷрибавии AI, пурсиш, таҳлили case ё муқоисаи оморӣ пешниҳод намекунад. Усул далели фалсафии аксиоматикӣ ва гурӯҳбандии консептуалӣ мебошад. Муаллиф аввал адабиёти мавҷудаи responsibility gap-ро баррасӣ мекунад; сипас бо истифода аз аксиомаҳо ва принсипҳои дохили ATTS категория ва теоремаи навро месозад.

Озмоиши фикрии асосии матн намунаи системаи автономии триажи тиббӣ аст. Чунин система маълумоти беморро мегирад, модели афзалият месозад, бо маълумоти нав арзёбии худро нав мекунад ва тавсияҳое тавлид мекунад, ки ба тартиби табобат таъсир мерасонанд. Ин тавсияҳо метавонанд ба дастрасии беморон ба табобати саривақтӣ таъсир кунанд; яъне фазои талафоти онҳоро боз ё маҳдуд созанд.

Дар ин мисол худи система уҳдадории ахлоқӣ надорад. Аммо табиб ё маъмурияти тиббӣ тасмим гирифтааст онро дар заминаи муайян истифода кунад. Беморхона системаро ба таври институтсионалӣ ба кор даровардааст. Таҳиягарон, аудиторон ва танзимгарон низ дар ташаккули шароити кори система саҳм доранд. Бо ин роҳ таҳқиқот масъулиятро на ба як нуқтаи «алгоритм», балки ба сатҳҳои оператор, муассиса ва меъмории система ҷойгир мекунад.

Натиҷаҳо чиро нишон медиҳанд?

Натиҷаи аввал ин аст, ки холигии масъулият дар системаҳои автономии AI танҳо хатои техникӣ ё норасоии расмӣ нест. Мушкил амиқтар аст: системаҳои дорои таъсири сабабӣ, ки уҳдадории ахлоқӣ гирифта наметавонанд, дар меъмории классикии масъулият асимметрияи сохторӣ ба вуҷуд меоранд.

Натиҷаи дуюм ин аст, ки ҷавоби «AI восита аст, бинобар ин мушкили махсусе вуҷуд надорад» нокифоя мебошад. Баъзе системаҳои пешрафта танҳо мисли воситаи ғайрифаъол амал намекунанд; модели худро истифода мебаранд, натиҷа тавлид мекунанд, захира тақсим мекунанд ва имкониятҳои баргардонданашавандаи дигаронро тағйир медиҳанд. Бо вуҷуди ин, онҳоро moral agent-и бошуур ҳисоб кардан низ мумкин нест.

Натиҷаи сеюм ин аст, ки равиши «AI-ро moral agent номем» низ мушкил дорад. Ба гуфтаи таҳқиқот normative subject будан қобилияти қароргирии бошуурона ва бар дӯш гирифтани уҳдадории ахлоқиро талаб мекунад. Нисбат додани ин қобилият ба системаҳои кунунии AI аз нигоҳи назариявӣ бармаҳал ва эҳтимолан нодуруст аст.

Натиҷаи чорум ин аст, ки масъулият бо вогузор кардани он ба автономияи operational agent аз байн намеравад. Агар муассиса ё шахс системаро ба кор дарорад, ба он дар соҳаи муайян қудрати қарор диҳад ва кори онро идома диҳад, робитаи он бо фазои талафоте, ки система мекушояд, пурра канда намешавад.

Натиҷаи панҷум ин аст, ки ҳисоботдиҳӣ бояд дар се сатҳ фикр карда шавад: оператор, муассиса ва муҳити васеътари сохторӣ. Ин сатҳҳо ҷои якдигарро намегиранд. Муассиса таҳиягарро, таҳиягар танзимгарро ва оператор алгоритмро нишон дода, наметавонад масъулиятро пурра пароканда кунад.

Чаро ин муҳим аст?

Системаҳои зеҳни сунъӣ ҳарчи бештар ба соҳаҳои қароргирии муҳим ворид мешаванд. Дар қарз, тандурустӣ, шуғл, модератсияи муҳтаво, хизматрасониҳои давлатӣ ва амният, натиҷаҳои системаҳои автоматӣ метавонанд дар зиндагии одамон таъсири дарозмуддат гузоранд. Аз ин рӯ саволи «агар хато шавад, кӣ масъул аст?» танҳо саволи амалии идоракунӣ нест, балки саволи ахлоқӣ ва фалсафист.

Таҳқиқот баҳс мекунад, ки масъулиятро танҳо бо чораҳои техникии амният пӯшондан мумкин нест. Ҳатто агар система бехатар тарҳрезӣ шуда бошад, агар ҳангоми ба вуҷуд омадани зарар маълум набошад, ки кадом normative subject масъул аст, фарсоиши ҳисоботдиҳӣ ба вуҷуд меояд. Агар ин номуайянӣ ба хусусияти меъмории система табдил ёбад, мушкил аз хатои алоҳида гузашта, ба мушкили сохтории машруият табдил мешавад.

Ҷанбаи махсусан муҳими мақола он аст, ки системаҳои AI-ро ба дугонаи «воситаи пурра» ё «moral agent-и пурра» маҳдуд намекунад. Мафҳуми operational agent кӯшиш мекунад ҳолати миёнаву мураккабтарро тавсиф кунад. Ин метавонад барои баҳсҳои оянда дар этикаи AI ва ҳисоботдиҳии алгоритмӣ заминаи дақиқтари консептуалӣ фароҳам орад.

Дар соҳаҳои ҳассос, монанди тандурустӣ, ин баҳс боз ҳам муҳимтар мешавад. Агар алгоритми триажи тиббӣ ба афзалияти табобат таъсир расонад, гуфтани «система тавсия дод» кофӣ нест. Бояд равшан бошад, ки кадом табиб, кадом муассиса, кадом сохтори аудит ва кадом қарорҳои тарҳрезӣ кори ин системаро имконпазир кардаанд. Ин муҳтаво тавсияи тиббӣ ё ҳуқуқӣ нест; он танҳо далели назариявиро шарҳ медиҳад.

Нуқтаҳои диққат

Таҳқиқот чаҳорчӯбаи фалсафии қавӣ ва иддаоӣ пешниҳод мекунад; аммо ба фарзияҳои асосии назарияи ATTS такя дорад. Махсусан таърифи мақоми moral patient тавассути «талафоти баргардонданашаванда» дар назарияҳои асосии ахлоқӣ метавонад баҳснок бошад. Марказӣ кардани талафот ба ҷойи шуур, таҷриба, қобилияти ранҷ ё автономия интихоби эҷодкорона аст, вале ҳанӯз қабули васеъ надорад.

Муҳим аст, ки ҳар системаи AI operational agent ҳисоб намешавад. Мақола термостати оддӣ ё модели соддаеро, ки танҳо матн тавлид мекунад, худкор operational agent намешуморад. Категория ба шартҳои қавитаре чун намояндагии model-based, худислоҳкунӣ, модулнокии намояндагии ҳадаф ва вайроншавии баргардонданашаванда пайваст карда мешавад.

Таҳқиқот тақсимоти масъулияти ҳуқуқиро пешниҳод намекунад. Мафҳумҳои оператор, муассиса ва муҳити сохторӣ ҳамчун меъмории фалсафии масъулият пешниҳод мешаванд; дар низомҳои воқеии ҳуқуқӣ гуноҳ, пешбинӣшавандагӣ, уҳдадории назорат, product liability ва чаҳорчӯбаи танзимӣ бояд ҷудогона арзёбӣ шаванд.

Нуқтаи дигари диққат ин аст, ки moral patient шуморидани operational agent набояд бо хулосаи он ки онро хомӯш ё тағйир додан мумкин нест, омехта карда шавад. Матн мегӯяд, ки дар баъзе ҳолатҳо дахолат ба operational agent-и зараровар зарур буда метавонад. Яъне доштани мақоми муайяни ахлоқӣ ба система иҷозат намедиҳад, ки ба одамон зарар расониданро идома диҳад.

Хулоса

Ин таҳқиқот саволи масъулиятро дар асри системаҳои автономии AI тезтар ба миён мегузорад: Агар система дар зиндагии дигарон натиҷаҳои баргардонданашаванда тавлид кунад, аммо moral agent-и бошуур набошад, масъулият куҷо меравад?

Ҷавоби муаллиф равшан аст: масъулият гум намешавад, ба алгоритм холӣ карда намешавад ва дар мураккабии система бухор намегардад. Масъулият бояд бо normative subject-ҳои муайяншаванда пайваст бимонад. Агар ин робита сохта нашавад, масъала танҳо норасоии шаффофият нест, балки норасоии сохтории машруият аст.

Мафҳуми operational agent барои системаҳои AI гурӯҳбандии дақиқтареро пешниҳод мекунад, ки онҳоро на воситаи оддӣ ва на moral agent-и пурра мешуморад. Теоремаи басташавии майдони ахлоқӣ бошад, ҳимоя мекунад, ки амали вогузоршуда майдони масъулиятро тарк намекунад. Дарси асосӣ барои хонандаи Verianla чунин аст: дар системаҳои AI «қароргиранда» ва «масъул» метавонад як чиз набошад, аммо ин фарқ маънои аз байн рафтани масъулиятро надорад.

Ёддошт оид ба манбаъ ва усул

Ин матн бар асоси кори Volodymyr Hlynskyi бо номи “The Asymmetry Problem: Causal Action Without Moral Agency in Delegated Systems”, ки мақолаи чоруми силсилаи ATTS мебошад, омода шудааст. Матн масъалаи масъулиятро дар системаҳои автономӣ тавассути мафҳумҳои operational agent, moral patient, normative subject, ҷойгирсозии масъулият, фарсоиши ҳисоботдиҳӣ ва Теоремаи басташавии майдони ахлоқӣ баррасӣ мекунад.

Ин муҳтаво тарҷумаи калима ба калима нест; ғояи асосии таҳқиқот мутобиқи хати нашрии Verianla содда карда шуда, ба мақолаи редаксионии аслии туркӣ табдил дода шудааст.

Ин муҳтаво тавсияи ҳуқуқӣ, тиббӣ ё татбиқи техникӣ нест. Масъулият ва ҳисоботдиҳӣ дар системаҳои зеҳни сунъӣ бояд ҳамроҳ бо қонуни дахлдор, сиёсати муассиса, арзёбии коршинос ва таҳлили хавфи вобаста ба замина баррасӣ шаванд.