Бүгүнкү күндө жасалма интеллект системалары кредиттик баалоо, медициналык триаж, мазмунду модерациялоо, корпоративдик башкаруу жана автоматташтырылган чечимди колдоо тармактарында барган сайын көбүрөөк себептик таасир жаратууда. Бир система адамдын кредитке жетүүсүн чектей алат, бейтаптын кайсы кезекте дарыланарын таасирлендире алат, мазмундун көрүнүктүүлүгүн азайта алат же корпоративдик чечимдерди багыттай алат. Бул таасирлер кээде адамдардын кайтарылгыс жоготууларга учурашына алып келиши мүмкүн.

Изилдөөнүн негизги суроосу мындай: эгер система башкалардын жоготуу мейкиндигине таасир этсе, бирок аң-сезимдүү чечим кабыл алуу мүмкүнчүлүгүнө ээ болбогондуктан моралдык жоопкерчилик көтөрө албаса, жоопкерчилик кайда жайгаштырылышы керек?

Автор бул абалды “асимметрия маселеси” деп атайт. Асимметрия мындай: система себептик күч колдонот, бирок моралдык милдеттенме көтөрө албайт. Система моралдык пациент болушу мүмкүн; башкача айтканда, өзүнүн бүтүндүгүндө кайтарылгыс жоготууга учурай ала турган түзүлүш катары эсептелиши мүмкүн. Бирок ал моралдык агент эмес, анткени аң-сезимдүү чечим кабыл алуу жана милдеттенме алуу мүмкүнчүлүгүнө ээ эмес. Ошого карабастан, башка субъекттердин жоготуу мейкиндигин ача же тарыта алат.

Макала бул боштукту жабуу үчүн үч негизги түшүнүктү сунуштайт: Жоопкерчиликти Жайгаштыруу Принциби, операциялык агент категориясы жана Моралдык Мейкиндиктин Жабылышы Теоремасы. Бул үч түшүнүк бирге “алгоритм чечим кабыл алды” деген сөз жоопкерчиликти жок кылбай турганын; жоопкерчилик оператордун, мекеменин жана кеңири системалык архитектуранын ичинде жайгаштырылышы керек экенин жактайт.

Маселе эмнеде?

Классикалык моралдык теориялар көбүнчө аракет кылуу күчү менен моралдык жоопкерчилик бир жерде жайгашкан деп болжолдойт. Эгер бир субъект башкаларга зыян келтире тургандай таасирдүү болсо, ал ошол зыянга байланыштуу милдеттенме көтөрө ала турган агент катары да каралат. Автономдуу AI системалары бул симметрияны бузат.

Автономдуу система белгилүү бир контекстте чечим кабыл ала алат, чыпкалоо жүргүзө алат, ресурстарды бөлүштүрө алат, артыкчылык кезегин аныктай алат же багыт берүүчү сунуштарды чыгара алат. Ушул мааниде анын себептик күчү бар. Бирок эгер аң-сезимдүү чечим кабыл алуу, моралдык ой жүгүртүү, өкүнүү, милдеттенме алуу же нормативдик жоопкерчилик көтөрүү мүмкүнчүлүгү жок болсо, аны түздөн-түз моралдык агент катары кароо көйгөйлүү.

Экинчи жагынан, системаны жөн гана “курал” деп эсептөө да жетишсиз болушу мүмкүн. Анткени айрым өнүккөн системалар пассивдүү балка же термостат сыяктуу эмес; модель түзгөн, өзүн оңдогон, максат өкүлчүлүктөрү менен иштеген жана бузулганда өзүнүн функционалдык бүтүндүгүн кайтарылгыс түрдө жоготушу мүмкүн болгон татаал түзүлүштөр. ATTS алкагында мындай системалар аң-сезимдүү болбосо да, “жоготуу” аркылуу моралдык мейкиндикке кириши мүмкүн.

Маселе дал ушул жерде пайда болот: система моралдык мейкиндиктин ичинде, башкаларга таасир жаратат, бирок жоопкерчилик көтөрө албайт. Эгер мындай учурда жоопкерчилик ачык түрдө адамга, мекемеге же нормативдик субъектке байланыштырылбаса, “жоопкерчилик боштугу” же автор айткандай “эсеп берүүчүлүктүн эрозиясы” пайда болот.

Ыкма эмнени сунуштайт?

Изилдөө эксперименттик маалымат талдоосун жүргүзбөйт; философиялык жана аксиомалык аргумент курат. Адегенде ATTS ичиндеги негизги айырмачылыктарды колдонот: онтологиялык субъект, нормативдик субъект жана операциялык агент.

Онтологиялык субъект — кайтарылгыс жоготууга учурай ала турган субъект. Бул категорияга кирүү үчүн аң-сезим, рационалдуулук же автономия милдеттүү шарт катары коюлбайт. Нормативдик субъект болсо мындан тышкары аң-сезимдүү чечим кабыл алып, моралдык милдеттенме көтөрө ала турган субъект. Адамдар же чечим кабыл алуу мүмкүнчүлүгүнө ээ институционалдык субъекттер ушул деңгээлде каралат.

Макаланын жаңылыгы — “операциялык агент” категориясы. Операциялык агент — кайтарылгыс жоготуу мүмкүнчүлүгүнө ээ болушу мүмкүн болгон, башкалардын жоготуу мейкиндигине таасир эткен, бирок аң-сезимдүү чечим кабыл алуу мүмкүнчүлүгү жок болгондуктан моралдык милдеттенме көтөрө албаган система. Өнүккөн автономдуу AI агенттери белгилүү шарттарды аткарганда бул категорияга талапкер болушу мүмкүн.

Андан кийин автор Жоопкерчиликти Жайгаштыруу Принцибин сунуштайт. Бул принципке ылайык, моралдык мейкиндикте себептик аракет жараткан операциялык агент бар болсо, анын аракеттери үчүн аныктала ала турган нормативдик жоопкерчилик ташуучу болушу керек. Мындай ташуучунун жоктугу жөн гана практикалык кемчилик эмес, системанын түзүмдүк легитимдүүлүк маселеси.

Акырында Моралдык Мейкиндиктин Жабылышы Теоремасы түзүлөт. Бул теорема нормативдик субъект операциялык агентти ишке киргизгенде жоопкерчилик байланышы үзүлбөй турганын жактайт. Башкача айтканда, чечимди аткаруу AI системасына өткөрүлгөндө жоопкерчилик моралдык мейкиндиктен сыртка агып жоголбойт.

Формулалар эмнени түшүндүрөт?

Бул изилдөө классикалык математикалык формула же сандык модель камтыбайт. Бирок аксиомалык философиялык түзүлүш колдонулгандыктан, шарттар, принциптер жана теорема билдирүүлөрү формалдык логикага жакын түрдө уюштурулган. Төмөнкү көрсөтүүлөр макаладагы концептуалдык түзүлүштү MathJax менен шайкеш формада жөнөкөйлөтүү үчүн даярдалган; PDFте дал ушул математикалык символдордун тизмеги менен берилген теңдемелер эмес.

Асимметрия маселеси үч шарт бир учурда аткарылганда пайда болот:

Бул жерде O операциялык системаны, S болсо таасирге кабылган субъектти билдирет. Биринчи шарт система кайтарылгыс жоготуу мүмкүнчүлүгүнө байланыштуу моралдык пациент катары эсептелиши мүмкүн экенин; экинчи шарт моралдык милдеттенме көтөргөн нормативдик субъект эмес экенин; үчүнчү шарт болсо башка субъекттердин жоготуу мейкиндигине таасир этерин көрсөтөт.

Операциялык агент категориясын төрт шарт менен кыскача көрсөтүүгө болот:

Бул түзүлүш төмөнкүлөрдү түшүндүрөт: операциялык агент өзүнүн түрдүк бүтүндүгүндө кайтарылгыс жоготууга учурай ала турган система болушу мүмкүн; ал аң-сезимдүү моралдык агент эмес; бирок башкаларга себептик күч колдонот. Ошондуктан тышкы нормативдик жоопкерчилик ташуучуга муктаж.

Жоопкерчиликти Жайгаштыруу Принцибин жөнөкөй түрдө мындай көрсөтүүгө болот:

Бул туюнтма операциялык агент моралдык мейкиндикте себептик аракет жаратса, жоопкерчилик аныктала ала турган нормативдик субъектке байланыштырылышы керек экенин түшүндүрөт. Жоопкерчилик ташуучунун белгисиз бойдон калышы, изилдөөгө ылайык, жөн гана башкаруучулук кемчилик эмес, түзүмдүк легитимдүүлүктүн бузулушу.

Моралдык Мейкиндиктин Жабылышы Теоремасын да мындайча кыскача көрсөтүүгө болот:

Бул жерде N операциялык агентти ишке киргизген же иштешин уланткан нормативдик субъектти; O операциялык агентти; S жоготуу мейкиндиги таасирленген субъектти билдирет. Теорема операциялык агенттин автономия деңгээли жогоруласа да, аны ишке киргизген нормативдик субъекттин жоопкерчилик байланышы толук үзүлбөй турганын жактайт.

Макаладагы практикалык жыйынтык төмөнкү кыска принципке байланыштырылат:

Башкача айтканда, “алгоритм чечим кабыл алды” деген билдирүү жоопкерчилик ташуучу жок дегенге жарактуу негиз эмес. Жоопкерчилик чексиз эмес; бирок толугу менен жоголбойт.

График, таблица жана схеманын негизги билдирүүсү

Изилдөөдө визуалдык жактан эң маанилүү элемент — түшүнүктөрдү салыштырган таблицалык түзүлүштөр. Алгачкы беттердеги терминдер таблицасы ATTS, онтологиялык субъект, нормативдик субъект, операциялык агент, жоопкерчиликти жайгаштыруу принциби жана моралдык мейкиндиктин жабылышы теоремасы сыяктуу түшүнүктөрдү аныктайт. Бул таблица окурманга тексттин концептуалдык сөздүгүн берет.

Андан кийин келген салыштыруу таблицасы үч субъект түрүн төрт өлчөм боюнча ажыратат. Онтологиялык субъект кайтарылгыс жоготууга учурай алат, бирок аң-сезимдүү чечим кабыл алуу же моралдык милдеттенме көтөрүү шарты жок. Нормативдик субъект кайтарылгыс жоготуу мүмкүнчүлүгүнө да, аң-сезимдүү чечим кабыл алуу мүмкүнчүлүгүнө да, моралдык милдеттенме көтөрүү абалына да ээ. Операциялык агент болсо кайтарылгыс жоготуу мүмкүнчүлүгүнө жана себептик күчкө ээ болушу мүмкүн, бирок аң-сезимдүү чечим кабыл алуу жана моралдык милдеттенме көтөрүү мүмкүнчүлүгүнө ээ эмес.

Бул салыштыруунун негизги билдирүүсү мындай: автономдуу AI системаларын жөн гана “курал” же “моралдык агент” деген экиликке кысуу жетишсиз. Айрым системалар куралдан татаалыраак жана таасирдүүрөөк, бирок моралдык агенттен жетишпеген абалда турат. Операциялык агент категориясы ушул аралык абалды түшүндүрүү үчүн сунушталат.

Тексттин түзүмдүк схемасы — үч катмарлуу эсеп берүүчүлүк архитектурасы. Биринчи катмарда системаны колдонгон же иштеткен оператор бар. Экинчи катмарда оорукана, банк, компания же мамлекеттик мекеме сыяктуу системаны ишке киргизген уюм турат. Үчүнчү катмарда иштеп чыгуучулар, аудиторлор, жөнгө салуучулар жана системанын иштешине мүмкүнчүлүк берген кеңири техникалык-институционалдык чөйрө жайгашат. Бул архитектуранын негизги билдирүүсү — жоопкерчилик бир гана чекитке кыскартылбашы керек, бирок эч бир катмарда бууланып кетпеши да зарыл.

Эксперименттер кандай жүргүзүлгөн?

Бул изилдөө эксперименттик жасалма интеллект тестин, сурамжылоону, окуя талдоосун же статистикалык салыштырууну сунуштабайт. Ыкма — аксиомалык философиялык аргумент жана концептуалдык классификация. Автор адегенде учурдагы жоопкерчилик боштугу жөнүндөгү адабиятты талкуулайт; андан кийин ATTS ичиндеги аксиома жана принциптерди колдонуп, жаңы категория жана теорема иштеп чыгат.

Тексттеги негизги ой эксперименти — автономдуу медициналык триаж системасынын мисалы. Мындай система бейтаптардын маалыматтарын кабыл алат, артыкчылык моделин түзөт, жаңы маалыматтар менен баалоосун жаңылайт жана дарылоо кезегине таасир эткен сунуштарды чыгарат. Бул сунуштар бейтаптардын өз убагында дарыланууга жетүүсүнө таасир этет; башкача айтканда, алардын жоготуу мейкиндигин ача же тарыта алат.

Бул мисалда системанын өзү моралдык милдеттенме көтөрбөйт. Бирок дарыгер же медициналык жетекчилик системаны белгилүү бир контекстте колдонууну чечкен. Оорукана бул системаны институционалдык түрдө ишке киргизген. Иштеп чыгуучулар, аудиторлор жана жөнгө салуучулар да система иштеген шарттардын түзүлүшүнө салым кошкон. Ошентип изилдөө жоопкерчиликти жалгыз “алгоритм” чекитине эмес, оператор, мекеме жана системалык архитектура катмарларына жайгаштырат.

Натыйжалар эмнени көрсөтөт?

Изилдөөнүн биринчи жыйынтыгы — автономдуу AI системаларында жоопкерчилик боштугу жөн гана техникалык ката же процедуралык кемчилик эмес. Маселе тереңирээк: себептик таасир жараткан, бирок моралдык милдеттенме көтөрө албаган системалар классикалык жоопкерчилик архитектурасында түзүмдүк асимметрия түзөт.

Экинчи жыйынтык — “AI курал гана, демек өзгөчө маселе жок” деген жооп жетишсиз. Айрым өнүккөн системалар пассивдүү куралдай гана иштебейт; өз моделин колдонот, натыйжа чыгарат, ресурс бөлүштүрөт жана башкалардын кайтарылгыс мүмкүнчүлүктөрүнө таасир этет. Ошого карабастан, аларды аң-сезимдүү моралдык агент деп эсептөө да мүмкүн эмес.

Үчүнчү жыйынтык — “AIге моралдык агент статусун берели” деген мамиле да көйгөйлүү. Изилдөөгө ылайык, нормативдик субъект болуу аң-сезимдүү чечим кабыл алуу жана моралдык милдеттенме көтөрүү мүмкүнчүлүгүн талап кылат. Азыркы AI системаларына мындай мүмкүнчүлүктү таандык кылуу теориялык жактан эрте жана жаңылыш болушу мүмкүн.

Төртүнчү жыйынтык — жоопкерчилик операциялык агенттин автономиясына өткөрүлүп, жок болуп кетпейт. Эгер мекеме же адам системаны ишке киргизип, ага белгилүү бир тармакта чечим чыгаруу күчүн берип жана иштөөсүн улантып жатса, ал системанын аракеттери ачкан жоготуу мейкиндиги менен болгон байланышы толугу менен үзүлбөйт.

Бешинчи жыйынтык — эсеп берүүчүлүктү үч катмарда кароо керек: оператор, мекеме жана кеңири түзүмдүк чөйрө. Бул катмарлар бири-бирин алмаштырбайт. Мекеме иштеп чыгуучуну, иштеп чыгуучу жөнгө салуучуну, оператор алгоритмди көрсөтүү менен жоопкерчиликти толугу менен таратып жибере албайт.

Бул эмне үчүн маанилүү?

Жасалма интеллект системалары барган сайын критикалык чечим тармактарына кирүүдө. Кредит, саламаттык сактоо, жумушка орношуу, мазмунду модерациялоо, мамлекеттик кызматтар жана коопсуздук сыяктуу тармактарда автоматташтырылган системалар чыгарган натыйжалар адамдардын жашоосуна туруктуу таасир калтырышы мүмкүн. Ошондуктан “ката болсо ким жооп берет?” деген суроо практикалык башкаруу суроосунан тышкары моралдык жана философиялык суроо болуп саналат.

Изилдөө жоопкерчиликти техникалык коопсуздук чаралары менен гана жабууга болбой турганын жактайт. Система коопсуз долбоорлонгон күндө да, эгер зыян чыкканда кайсы нормативдик субъект жоопкерчилик көтөрөрү белгисиз болсо, эсеп берүүчүлүктүн эрозиясы пайда болот. Бул белгисиздик системанын архитектуралык өзгөчөлүгүнө айланса, маселе бир жолку катадан чыгып, түзүмдүк легитимдүүлүк көйгөйүнө айланат.

Макаланын өзгөчө маанилүү жагы — AI системаларын “толук курал” же “толук моралдык агент” деген экиликке кыспаганы. Операциялык агент түшүнүгү кыйла аралык жана татаал абалды сүрөттөөгө аракет кылат. Бул келечекте AI этикасы жана алгоритмдик эсеп берүүчүлүк талкуулары үчүн такыраак концептуалдык негиз түзүшү мүмкүн.

Саламаттык сактоо сыяктуу сезимтал тармактарда бул талкуу дагы маанилүү болот. Эгер медициналык триаж алгоритми дарылоо артыкчылыгына таасир этсе, “система сунуштады” деп айтуу жетишсиз. Кайсы дарыгер, кайсы мекеме, кайсы көзөмөл түзүмү жана кайсы долбоорлоо чечимдери бул системаны иштеткени ачык болушу керек. Бул мазмун медициналык же укуктук кеңеш эмес; теориялык аргументти гана түшүндүрөт.

Көңүл бурула турган жагдайлар

Изилдөө күчтүү жана амбициялуу философиялык алкак сунуштайт, бирок ATTS теориясынын алдын ала божомолдоруна таянат. Айрыкча “кайтарылгыс жоготуу” аркылуу моралдык пациент статусун аныктоо мамилеси негизги этикалык теорияларда талаштуу болушу мүмкүн. Аң-сезимди, тажрыйбаны, азап тартуу мүмкүнчүлүгүн же автономияны эмес, жоготууну борборго коюу чыгармачыл, бирок кеңири кабыл алынары азырынча кепилденбеген тандоо.

Ар бир AI системасы операциялык агент деп эсептелбей турганы да маанилүү. Макала жөнөкөй термостатты же жөн гана тексттик натыйжа чыгарган жөнөкөй моделди автоматтык түрдө операциялык агент катары кабыл албайт. Категория моделге негизделген өкүлчүлүк, өзүн оңдоо, максат өкүлчүлүгүнүн модулдуулугу жана кайтарылгыс бузулуу сыяктуу күчтүүрөөк шарттарга байланышат.

Изилдөө укуктук жоопкерчиликти бөлүштүрүү сунушун бербейт. Оператор, мекеме жана түзүмдүк чөйрө түшүнүктөрү философиялык жоопкерчилик архитектурасы катары сунушталат; реалдуу укук системаларында күнөө, алдын ала көрө билүү, көзөмөл милдети, продукт үчүн жоопкерчилик жана жөнгө салуучу алкак өзүнчө бааланышы керек.

Дагы бир көңүл буруучу жагдай — операциялык агентти “моралдык пациент” деп эсептөө аны өчүрүүгө же өзгөртүүгө болбойт деген жыйынтык менен чаташтырылбашы керек. Текст зыян жараткан операциялык агентке айрым учурларда кийлигишүү зарыл болушу мүмкүн экенин белгилейт. Башкача айтканда, системанын белгилүү моралдык статуска ээ болушу анын адамдарга зыян келтирүүнү улантуусун мыйзамдаштырбайт.

Жыйынтык

Бул изилдөө автономдуу AI системалары доорунда жоопкерчилик суроосун курчураак коёт: эгер система башкалардын жашоосунда кайтарылгыс натыйжаларды жаратса, бирок аң-сезимдүү моралдык агент болбосо, жоопкерчилик кайда кетет?

Автордун жообу так: жоопкерчилик жоголбойт, алгоритмге төгүлүп салынбайт жана системанын татаалдыгынын ичинде бууланып кетпейт. Жоопкерчилик аныктала ала турган нормативдик субъекттер менен байланышта калышы керек. Эгер мындай байланыш түзүлбөсө, маселе жөн гана ачык-айкындуулуктун жетишсиздиги эмес, түзүмдүк легитимдүүлүктүн жетишсиздиги.

Операциялык агент түшүнүгү жасалма интеллект системаларын жөнөкөй курал да, толук моралдык агент да деп эсептебеген, майда-чүйдөсүнө чейин бөлүнгөн классификацияны сунуштайт. Моралдык Мейкиндиктин Жабылышы Теоремасы болсо өткөрүлүп берилген аракет жоопкерчилик мейкиндигин таштап кетпейт деп жактайт. Verianla окурманы үчүн изилдөөнүн негизги сабагы мындай: AI системаларында “чечим кабыл алган” менен “жооптуу болгон” бир эле нерсе болбошу мүмкүн; бирок бул айырма жоопкерчилик жоголот дегенди билдирбейт.

Булак жана ыкма жөнүндө эскертүү

Бул макала Volodymyr Hlynskyi тарабынан даярдалган “The Asymmetry Problem: Causal Action Without Moral Agency in Delegated Systems” аттуу, ATTS сериясынын төртүнчү макаласы болгон изилдөөнүн негизинде даярдалды. Текст операциялык агент, моралдык пациент, нормативдик субъект, жоопкерчиликти жайгаштыруу, эсеп берүүчүлүктүн эрозиясы жана моралдык мейкиндиктин жабылышы теоремасы түшүнүктөрү аркылуу автономдуу системалардагы жоопкерчилик маселесин талкуулайт.

Бул мазмун сөзмө-сөз котормо эмес; изилдөөнүн негизги идеясы Verianlaнын жарыялоо багытына ылайык жөнөкөйлөштүрүлүп, өз алдынча кыргызча редакциялык макалага айландырылган.

Бул мазмун укуктук, медициналык же техникалык колдонмо кеңеш эмес. Жасалма интеллект системаларындагы жоопкерчилик жана эсеп берүүчүлүк маселелери тиешелүү укук, мекеме саясаты, эксперттик баалоо жана контексттик тобокелдик талдоосу менен бирге каралышы керек.