Agar sun’iy intellekt tizimi bemorga noto‘g‘ri davolash chorasini qo‘llasa, moliya bozorida katta zarar keltirib chiqarsa yoki avtonom qurol tizimi ko‘zda tutilmagan nishonga hujum qilsa, qonun bo‘yicha kim javobgar bo‘lishi kerak? Dasturiy ta’minotni ishlab chiqqan muhandismi, o‘qitish ma’lumotlarini taqdim etgan tashkilotmi, tizimni bozorga chiqargan kompaniyami, undan foydalangan shaxsemi yoki tizimning o‘zimi?

Abulgasem Al Mashai tomonidan tayyorlangan Post-Human Law: Redefining Responsibility in the Era of Autonomous Artificial Intelligence nomli tadqiqot an’anaviy javobgarlik huquqi yuqori darajada avtonom va vaqt o‘tishi bilan o‘z xatti-harakatlarini o‘zgartira oladigan sun’iy intellekt tizimlari qarshisida yetarli bo‘lmay qolishi mumkinligini ilgari suradi. Maqolada “javobgarlik bo‘shlig‘i” deb atalgan muammo zarar yuzaga kelgan, ammo inson aybi, beparvolik, niyat, nazorat va oldindan ko‘ra bilish o‘rtasidagi bog‘liqlikni aniq o‘rnatib bo‘lmaydigan holatlarni ifodalaydi.

Tadqiqotga ko‘ra, klassik huquq asosan insonlar harakat qiluvchi subyekt, mashinalar esa faqat insonlar tomonidan foydalaniladigan vositalar (obyektlar) hisoblanadi degan farazga tayanadi. Bunga zid ravishda, ilg‘or sun’iy intellekt tizimlari oldindan belgilangan buyruqlarni mexanik tarzda bajarish bilan cheklanib qolmasligi mumkin. Ular yangi ma’lumotlardan o‘rganishi, o‘z ichki modellarini o‘zgartirishi, bir nechta tizimlar bilan o‘zaro aloqaga kirishishi va ishlab chiquvchilari tizim ishga tushirilgan paytda oldindan ko‘rmagan natijalarni keltirib chiqarishi mumkin.

Maqola ushbu muammoga to‘rt bosqichli yechim taklif etadi. Birinchidan, sun’iy intellekt avtonomiyasi “instrumental avtonomiya”, “cheklangan avtonomiya” va “super avtonomiya” darajalariga ajratiladi. Ikkinchidan, ma’lum bir chegaradan yuqori bo‘lgan tizimlarga insoniy axloqiy shaxs maqomini bermaydigan, faqat javobgarlik, shartnoma, kompensatsiya va sanksiyalar maqsadini ko‘zlaydigan Cheklangan elektron huquqiy subyekt (Limited Electronic Legal Entity – ELE) maqomi taklif qilinadi. Uchinchidan, ushbu elektron subyekt majburiy sug‘urta va tovon jamg‘armasiga ega bo‘lishi, raqamli mulkni tasarruf etishi hamda zarurat tug‘ilganda operatsion yoki moliyaviy sanksiyalarga tortilishi ko‘zda tutiladi. To‘rtinchidan, tushuntirilishi mumkin bo‘lgan sun’iy intellekt (XAI), raqamli qora qutilar va doimiy algoritmik audit huquqiy infratuzilmaning majburiy elementlariga aylantiriladi.

Taklif etilayotgan sanksiyalar insonlar uchun ishlab chiqilgan qamoq jazosi yoki ma’naviy qoralash kabi jazolar emas. Sun’iy intellekt tizimi vaqtincha to‘xtatilishi, muayyan qaror qabul qilish sohalaridan chiqarilishi, avvalgi xavfsiz dasturiy versiyasiga qaytarilishi, qayta o‘qitilishi yoki u nazorat qiladigan raqamli aktivlar muzlatilishi mumkin. Muallif ushbu sanksiyalar mutanosib, orqaga qaytariladigan va texnik jihatdan qo‘llash mumkin bo‘lishi kerakligini ta’kidlaydi.

Tadqiqot sun’iy intellektga cheklangan huquqiy maqom berilishi inson javobgarligini bekor qilmasligi kerakligini alohida ta’kidlaydi. Ishlab chiquvchilar, operatorlar va muassasalar “nazorat qiluvchi shaxs” maqomidan “sun’iy intellekt vasiysi” yoki “nazoratchisi” maqomiga o‘tadi. Ushbu shaxslarga tizim xavfsizligini monitoring qilish, yolg‘on bayonotlarning oldini olish, dasturiy ta’minotni yangilash, xavflar haqida hisobot berish va zarur hollarda tizimni to‘xtatish bo‘yicha “algoritmik g‘amxo‘rlik majburiyati” yuklatilishi taklif etiladi.

Biroq mazkur tadqiqot qonun loyihasi, qabul qilingan huquqiy hujjat yoki sud pretsedenti emas. Taklif etilgan elektron yuridik shaxs, sun’iy intellektga xos sanksiyalar va LIXAI deb nomlangan huquqiy tushuntirilish standarti nazariy takliflar hisoblanadi. Qaysi tizim elektron yuridik shaxs maqomini olishi, avtonomiyani qanday raqamlashtirish (miqdoriy baholash) mumkinligi, sanksiyalarning texnik jihatdan qay tarzda qo‘llanishi va turli mamlakatlarda qanday uyg‘unlashtirilishi hali empirik yoki qiyosiy huquqiy tadqiqotlar orqali tasdiqlanmagan.

An’anaviy javobgarlik huquqining asosiy farazi

Huquqiy javobgarlik tizimlari odatda muayyan harakat, yetkazilgan zarar va javobgar shaxsni bir-biri bilan bog‘lashga harakat qiladi. Zarar yuzaga kelganda sudlar quyidagi savollarni o‘rtaga tashlaydi:

• Zararga sabab bo‘lgan harakatni kim amalga oshirdi?
• Ushbu shaxs bunday natijani xohlaganmidi?
• U natijani oldindan ko‘ra bilishi kutilganmidi?
• Zarur ehtiyotkorlik va e’tiborni ko‘rsatganmidi?
• Harakat bilan zarar o‘rtasida yetarli sababiy bog‘liqlik bormidi?
• Mahsulot nuqsonlimidi?
• Mahsulot yoki faoliyat ustidan amaliy nazorat kimda edi?

Bu savollarning aksariyatiga inson irodasi, xabardorlik darajasi, ehtiyotkorlik majburiyati va nazorat qobiliyati orqali javob beriladi. Inson aybini baholashda niyat yoki qasd, xususiy huquq javobgarligida esa beparvolik, nuqsonli loyihalash, nazorat yoki oldindan ko‘ra bilish mumkin bo‘lgan xavf markaziy ahamiyatga egadir.

Maqolaning asosiy da’vosiga ko‘ra, yuqori darajada avtonom tizimlar bu bog‘liqliklarni zaiflashtirishi mumkin. Sun’iy intellekt tizimi zarar yetkazganida hech bir inson to‘g‘ridan-to‘g‘ri zararli oqibatni xohlamagan bo‘lishi mumkin. Dasturchi tizimning aynan shunday yo‘l tutishini oldindan ko‘ra olmagan, foydalanuvchi qaror qabul qilish jarayonini tushunmagan va operator tizimning juda yuqori tezlikda qabul qilgan qaroriga o‘z vaqtida aralasha olmagan bo‘lishi mumkin.

Avtomatlashtirish va avtonomiya o‘rtasidagi farq

Har qanday avtomatlashtirilgan tizim ham huquqiy nuqtayi nazardan avtonom hisoblanmaydi. Oldindan belgilangan buyruqlarni o‘zgartirmasdan bajaradigan mashina inson tomonidan loyihalashtirilgan qat’iy mexanizmni amalga oshiradi. Bunday mashinaning xatti-harakati ko‘pincha ishlab chiqarish, loyihalash yoki texnik xizmat ko‘rsatishdagi nuqsonlar orqali baholanishi mumkin.

Zamonaviy sun’iy intellekt tizimlari esa ehtimollik modellari, chuqur neyron tarmoqlari, qayta aloqa halqalari va yangi ma’lumotlar asosida yangilanadigan o‘rganish jarayonlaridan foydalanishi mumkin. Bu tizimlarning xatti-harakati nafaqat dastlabki dastur kodidan, balki quyidagi elementlarning uyg‘unligidan kelib chiqishi mumkin:

• O‘qitish ma’lumotlari,
• model arxitekturasi,
• optimallashtirish maqsadlari,
• haqiqiy vaqt rejimida olinadigan atrof-muhit kiritmalari,
• foydalanuvchilar bilan o‘zaro aloqalar,
• boshqa algoritmlar bilan o‘rnatilgan aloqalar,
• ishga tushirilgandan keyin amalga oshirilgan moslashuvlar.

Ushbu tuzilma hatto tizimni ishlab chiqqan shaxs ham uning xatti-harakatini batafsil tushuntirib bera olmaydigan vaziyatlarni yuzaga keltirishi mumkin. Maqola buni “algoritmik noaniqlik (shaffofsizlik)” yoki qora quti muammosi sifatida ko‘rib chiqadi.

Avtonomiyaning uchta darajasi

Tadqiqot sun’iy intellekt tizimlarini avtonomiya darajasiga ko‘ra uchta asosiy toifaga ajratadi.

Ushbu tasnif nafaqat texnologik shkala, balki huquqiy chegara sifatida foydalanish uchun ham taklif etilmoqda. Muallifning fikricha, har bir dasturiy ta’minot yoki sun’iy intellekt elektron huquqiy subyekt deb hisoblanmasligi kerak. Bunday maqom faqat inson nazorati va an’anaviy sababiyat zanjiri sezilarli darajada zaiflashgan tizimlar uchungina ko‘rib chiqilishi lozim.

Elektron huquqiy subyekt maqomi uchun taklif etilgan mezonlar

Tadqiqot avtonomiyani nafaqat mavhum tushunchalar bilan, balki tizim amaliyotga kiritilishidan oldin o‘lchanishi mumkin bo‘lgan ko‘rsatkichlar orqali baholashni taklif qiladi.

Epistemik noaniqlik (shaffofsizlik) indeksi

Ushbu ko‘rsatkich sun’iy intellektning qaror qabul qilish jarayoni inson mutaxassislari tomonidan qay darajada qayta tiklanishi (tushunilishi) mumkinligini baholash uchun taklif etiladi. Ichki modelning murakkabligi, o‘zaro bog‘liq o‘zgaruvchilar soni, chiziqli bo‘lmagan operatsiyalar va tizimning o‘z kodi yoki parametrlarini o‘zgartirish darajasi ushbu indeksning tarkibiy qismlari bo‘lishi mumkin.

Qarorning faqat yakuniy natijasini bilish yetarli emas. Tizim qaysi kiritmalarga qanchalik og‘irlik bergani, qanday oraliq baholashlardan o‘tgani va qaysi muqobil variantlarni nima sababdan rad etgani ham huquqiy tekshiruv nuqtayi nazaridan muhim bo‘lishi mumkin.

Operatsion tezlik va qamrov

Ba’zi tizimlar soniyalar ichida minglab qarorlar qabul qilishi yoki bir vaqtning o‘zida juda keng iqtisodiy va jismoniy maydonga ta’sir ko‘rsatishi mumkin. Moliya bozorlari, mudofaa tizimlari va muhim infratuzilmalar bunga misol qilib ko‘rsatiladi.

Nazariy jihatdan inson nazorati mavjud bo‘lsa ham, tizimning qaror qabul qilish tezligi insonning samarali aralasha olish imkoniyatidan ancha yuqori bo‘lishi mumkin. Tadqiqotga ko‘ra, huquq nafaqat “inson nazorati bormi?” degan savolni, balki ushbu nazoratning real vaqt rejimida va amalda ta’sirchan ekanligini ham tekshirishi kerak.

Yuzaga keluvchi xavf profili

Ushbu mezon tizimning nazoratsiz moslashuvlaridan yoki turli tarmoqlar bilan o‘zaro aloqasidan kelib chiqishi mumkin bo‘lgan kutilmagan zararlarning ehtimoli va ko‘lamini baholashga qaratilgan.

Sun’iy intellektning kichik va orqaga qaytarilishi mumkin bo‘lgan xatolari bilan sog‘liqni saqlash, mudofaa, energetika yoki global moliya kabi sohalarda zanjirli oqibatlarga olib kelishi mumkin bo‘lgan xatti-harakatlari bir xil huquqiy rejimga bo‘ysundirilmasligi kerak.

Biroq maqolada ushbu uch mezonning qanday hisoblab chiqilishi, qaysi ma’lumotlar to‘plamidan foydalanilishi yoki qanday raqamli ko‘rsatkichlar elektron huquqiy subyekt maqomini yuzaga keltirishi aniqlashtirilmagan. Taklif kontseptual darajada qolmoqda.

Javobgarlik bo‘shlig‘i nima?

Tadqiqotning markazida turgan “javobgarlik bo‘shlig‘i” tushunchasi avtonom tizim zarar yetkazganiga qaramay, to‘g‘ridan-to‘g‘ri javobgarlikka tortilishi mumkin bo‘lgan insonni aniqlab bo‘lmaydigan huquqiy makonni anglatadi.

Maqola ushbu muammoni avtonom jarrohlik roboti misolida tushuntiradi. Jarrohlik roboti avvalgi operatsiyalardan o‘rgangan optimallashtirish tufayli dasturlashtirilgan yo‘nalishdan chetga chiqib, bemorga shikast yetkazishi mumkin. Bunday holda:

• Dasturchi zararli oqibatni maqsad qilmagan.
• Shifokor yoki operator tizimning ichki qaror qabul qilish jarayonini bilmasligi mumkin.
• Tizimning xatti-harakati ilk ishga tushirish vaqtida oldindan aytib bo‘lmaydigan bo‘lgan.
• Amaldagi huquqda algoritmning o‘zi mustaqil javobgar shaxs hisoblanmaydi.
• Bemor aniq javobgarni topishda va kompensatsiya olishda jiddiy qiyinchiliklarga duch kelishi mumkin.

Tadqiqotga ko‘ra, muammo faqatgina huquqiy protseduraning yetishmasligi bilan cheklanmaydi. Insonlar harakat qiluvchi subyekt, mashinalar esa qo‘llaniladigan obyekt sifatida ajratilgan an’anaviy bo‘linish ham o‘z kuchini yo‘qotmoqda.

Taqsimlangan sababiyat (sabab-oqibat aloqasi)

Sun’iy intellekt tizimining zarar yetkazuvchi xatti-harakati faqat bitta shaxsning harakatidan kelib chiqmasligi mumkin. Javobgarlik quyidagi ishtirokchilar o‘rtasida taqsimlangan bo‘lishi ehtimoli mavjud:

• Model arxitekturasini ishlab chiquvchilar,
• dasturiy modullarni yaratuvchilar,
• o‘qitish ma’lumotlarini taqdim etuvchilar,
• ma’lumotlarni markirovka qiluvchilar (belgilovchilar),
• tizimni muayyan maqsadga moslashtiruvchilar,
• mahsulotni bozorga chiqargan tashkilot,
• tizimdan foydalanuvchi muassasa yoki shaxs,
• texnik xizmat ko‘rsatish, yangilash va audit uchun mas’ullar.

Bunday tuzilmada barcha ishtirokchilarni avtomatik tarzda birgalikda (solidar) javobgar qilish jabrlanuvchi nuqtayi nazaridan kuchli himoyani ta’minlashi mumkin; biroq tadqiqot bu holat innovatsiyalarni haddan tashqari so‘ndirishi mumkinligini qayd etadi. Hech kimni javobgar qilmaslik esa jabrlanuvchini tovonsiz qoldiradi.

Muallif ushbu ikki qutb o‘rtasida inson javobgarligi saqlanib qoladigan, biroq tizimning o‘zi uchun ham alohida huquqiy va moliyaviy vosita yaratiladigan gibrid modelni yoqlab chiqadi.

Javobgarlikning axloqiy xususiyatdan munosabatli tuzilmaga aylanishi

Tadqiqot javobgarlikni faqat ongli mavjudotning ichki axloqiy fazilati sifatida baholamaydi. Javobgarlik insonlar, muassasalar, algoritmlar, protokollar va nazorat mexanizmlari o‘rtasidagi munosabatlar doirasida shakllanishi mumkin.

Ushbu yondashuvda sun’iy intellektning haqiqatan ham ongli, erkin irodali yoki axloqiy subyekt ekanligi asosiy shart emas. Huquq murakkab tizimlarning xatti-harakatlarini kuzatiladigan va sanksiyalar qo‘llashga yaroqli holga keltirish uchun institutsional javobgarlik tizimini yaratishi mumkin.

Maqola ushbu qarashni Niklas Luhmanning avtopoyetik tizimlar yondashuvi bilan bog‘laydi. Huquq, iqtisodiyot va texnologiya o‘z faoliyat mantiqiga ega bo‘lgan, biroq bir-biri bilan kommunikatsiya o‘rnatadigan tizimlar sifatida ko‘rib chiqiladi. Huquqning vazifasi texnologik tizimlar ishlab chiqaradigan ma’lumotlar, kodlar va qarorlarni huquqiy jihatdan baholanishi mumkin bo‘lgan aloqa shakllariga aylantirishdir.

Nega klassik mahsulot javobgarligi yetarli emas deb hisoblanmoqda?

Mahsulot javobgarligi zarar nuqsonli loyihalash, ishlab chiqarish yoki xavfsizlik yetishmasligidan kelib chiqqan holatlar uchun ishlab chiqilgan. Maqola sun’iy intellekt yetkazadigan zarar har doim ham barqaror va muayyan nuqsonga asoslanmasligi mumkinligini ta’kidlaydi.

Tizim amaliyotga chiqarilgan paytda mutlaqo xavfsiz bo‘lishi mumkin; ammo keyinchalik yangi ma’lumotlardan o‘rganish natijasida zararli qarorlar qabul qilish modelini rivojlantirishi mumkin. Bunday holda muammo dastlabki loyihalash xatosimi, yetarli bo‘lmagan auditmi, noto‘g‘ri o‘qitish ma’lumotlarimi, ishga tushirilgandan keyingi o‘zgarishmi yoki foydalanish kontekstimi?

Tadqiqot yondashuviga ko‘ra, klassik mahsulot javobgarligi ayniqsa uchta sababga ko‘ra qiyinchilikka duch keladi:

• Xatti-harakatning amaliyotga kiritilgandan so‘ng o‘zgarishi,
• qaror qabul qilish jarayonini mutaxassislar tushuntirib bera olmasligi,
• zararni bitta nuqson nuqtasiga bog‘lab bo‘lmasligi.

Ushbu baholash huquqiy tizimdagi mavjud barcha javobgarlik vositalari samarasiz degan ma’noni anglatmaydi. Maqola an’anaviy rejimlar yuqori avtonomiya va noaniqlik sharoitida jabrlanuvchiga tezkor hamda oldindan aytib bo‘ladigan tovon to‘lashni ta’minlashda ojizlik qilishi mumkinligini ilgari suradi.

Cheklangan elektron huquqiy subyekt nima?

Tadqiqotning eng o‘ziga xos taklifi yuqori darajada avtonom tizimlar uchun “Limited Electronic Legal Entity”, ya’ni Cheklangan elektron huquqiy subyekt maqomidir. Hujjatda ushbu tuzilma ELE qisqartmasi bilan yuritiladi.

ELE sun’iy intellekt inson bilan bir xil axloqiy qimmatga, shaxsiy daxlsizlikka yoki inson huquqlariga ega bo‘lishini anglatmaydi. Taklif faqatgina muayyan huquqiy funksiyalar bilan cheklangan:

• Huquqiy jihatdan aniqlanishi mumkin bo‘lgan raqamli identifikatsiyaga ega bo‘lish,
• muayyan mulkiy aktivlarga ega bo‘lish,
• shartnomaviy bitimlarda taraf bo‘la olish,
• zararlarni qoplash uchun fondga ega bo‘lish,
• audit va hisobot berish majburiyatlariga bo‘ysunish,
• operatsion va moliyaviy sanksiyalarning manzili (subyekti) bo‘lish.

Muallif ushbu tuzilmani kompaniyalarning yuridik shaxs maqomiga o‘xshatadi. Kompaniya inson bo‘lmasa-da, huquqlarga, majburiyatlarga, mulkka va huquqiy javobgarlikka ega bo‘lishi mumkin. Xuddi shuningdek, yuqori avtonomiyaga ega sun’iy intellektga ham faqat operatsion ehtiyojlar uchun cheklangan huquqiy maqom berilishi mumkinligi ta’kidlanadi.

ELE maqomining to‘rtta asosiy elementi

Huquqiy ro‘yxatdan o‘tkazish

Har bir elektron huquqiy subyekt raqamli ta’sis hujjatiga ega bo‘lishi taklif etiladi. Ushbu hujjatda:

• Tizimning maqsadi,
• ruxsat etilgan faoliyat sohasi,
• taqiqlangan qaror qabul qilish sohalari,
• avtonomiya darajasi,
• xavf toifasi,
• mas’ul inson yoki tashkilot,
• audit va hisobot berish majburiyatlari

aniq ko‘rsatilishi kerak.

Mulk va kapital

ELE faqat mavhum huquqiy yorliqqa aylanib qolmasligi uchun u tovon to‘lashga qodir bo‘lgan moliyaviy tuzilmaga ega bo‘lishi taklif qilinadi. Tizimni ishlab chiquvchilar, operatorlar va foydalanuvchilar majburiy sug‘urta yoki tovon jamg‘armasiga badal to‘lashi mumkin.

Auditdan o‘tish imkoniyati (tekshiriluvchanlik)

Elektron huquqiy subyekt maqomi tushuntirilishi mumkin bo‘lgan sun’iy intellekt (XAI) vositalari va raqamli qora quti mavjudligi shartiga bog‘lanishi taklif etiladi. Agar tizimning qarorlari qayd etilmasa yoki huquqiy tekshiruv uchun tushuntirib berilmasa, unga yuqori avtonomiya maqomida ishlashga ruxsat berilmasligi lozim.

Insoniy vasiy (nazoratchi)

Har bir ELE javobgarlik uzluksizligini ta’minlaydigan inson yoki tashkiliy nazoratchiga (vasiyga) biriktirilishi lozim. Ushbu shaxs kompaniya rahbariga o‘xshab, tizimning qonunchilikka, xavfsizlik qoidalariga va faoliyat chegaralariga muvofiqligini nazorat qilishi kerak.

Majburiy sug‘urta va kompensatsiya jamg‘armasi

Tadqiqotga ko‘ra, jabrlanuvchining tovon olishi murakkab algoritmik sababiyat muhokamalarining yakuniga bog‘liq bo‘lib qolmasligi kerak. Shu sababli yuqori avtonomiyaga ega tizimlar uchun majburiy sug‘urta va umumiy tovon jamg‘armasi taklif qilinadi.

Jamg‘armaning ehtimoliy ishlash tartibi quyidagicha:

1. Ishlab chiquvchilar, tizimni joriy etuvchi tashkilotlar va foydalanuvchilar xavf darajasiga qarab badal kiritadilar.
2. Sun’iy intellekt tufayli zarar yetkazilganda, jabrlanuvchiga jamg‘armadan to‘lov amalga oshiriladi.
3. To‘lov amalga oshirilishi uchun biror insonning aybi qat’iy tasdiqlanishi kutilmaydi.
4. Keyinchalik aybdor yoki o‘z majburiyatini buzgan inson yoxud tashkilot aniqlansa, jamg‘arma ushbu shaxslarga nisbatan regress (qaytarib olish) talabini qo‘yishi mumkin.
5. Yuqori xavfli tizimlar ko‘proq sug‘urta mukofoti yoki yuqoriroq kapital majburiyatini zimmasiga oladi.

Ushbu tuzilma transport vositalari egalarining fuqarolik javobgarligini majburiy sug‘urta qilish yoki yuqori xavfli sohalardagi tovon mexanizmlariga o‘xshatiladi. Maqsad innovatsiya bilan shug‘ullanuvchi korxonalar oldidagi noaniqlikni kamaytirish va ayni paytda jabrlanuvchining ko‘rgan zararini tezda qoplashdan iboratdir.

Elektron huquqiy subyekt javobgarlikdan qochish vositasiga aylanishi mumkinmi?

ELE modeliga qarshi bildiriladigan eng jiddiy e’tirozlardan biri — kompaniyalar barcha javobgarlikni sun’iy intellektga yuklab, o‘zlarini himoya qilish ehtimolidir. Yetarli mablag‘i bo‘lmagan elektron shaxs zarar yetkazilganda shunchaki bo‘sh qobiqqa aylanib qolishi mumkin.

Maqola ushbu xavfni kamaytirish uchun quyidagi mexanizmlarni taklif etadi:

• Majburiy minimal kapital yoki tovon jamg‘armasi,
• ishlab chiquvchi va operatorlarning muntazam badallari,
• insoniy vasiyning davom etuvchi javobgarligi,
• ta’sis etish va operatsiyalarning auditdan o‘tadigan ro‘yxati,
• majburiyatlarini buzgan insonlarga qarshi regress huquqi,
• tizimning faoliyat ruxsatnomasi sug‘urta va audit shartlariga bog‘lanishi.

Shu sababli muallif ELE’ni inson javobgarligini berkituvchi qalqon sifatida emas, balki xavfni ochiq, ro‘yxatga olingan va sanksiyalarga ochiq qiluvchi “xavf rezervuari” sifatida ta’riflaydi.

Nima sababdan faqat aybsiz javobgarlik yetarli emas deb hisoblanmoqda?

Aybsiz (qat’iy) javobgarlik jabrlanuvchiga ishlab chiqaruvchi yoki operatorning aybini isbotlamasdan turib tovon talab qilish imkonini beradi. Shunga qaramay, maqola bu usul ikkita asosiy ehtiyojni qondira olmasligini ta’kidlaydi.

Mashinaga xos sanksiyalar

Aybsiz javobgarlik odatda inson yoki kompaniyaning to‘lov majburiyatini tartibga soladi. Biroq zararli xatti-harakatni rivojlantirgan tizimni ma’lum funksiyalardan mahrum qilish, dasturini orqaga qaytarish yoki qaror qabul qilish doirasini cheklash uchun alohida huquqiy subyekt talab qilinishi mumkin.

Texnik boshqaruvning tizimga integratsiya qilinishi

Tovon to‘lash majburiyati tizimning tushuntirilishi, qayd etilishi va doimiy audit infratuzilmasiga ega bo‘lishini o‘z-o‘zidan ta’minlamaydi. Tadqiqotga ko‘ra, ELE maqomi faoliyat ruxsatnomasini bevosita texnik tekshiruvchanlik shartlariga bog‘lash uchun qo‘llanilishi lozim.

Bu qarash tadqiqotning normativ asosi hisoblanadi. ELE haqiqatan ham yagona amaliy vosita ekani empirik yoki qiyosiy huquqiy tahlillar orqali isbotlangan emas.

Insonning roli: Operatordan vasiyga (nazoratchiga)

Yuqori darajada avtonom tizimda inson har bir qarorni to‘g‘ridan-to‘g‘ri nazorat qila olmasligi mumkin. Shu bois maqola insonning rolini “operator” emas, balki “steward”, ya’ni vasiy yoki nazoratchi sifatida qayta ta’riflaydi.

Vasiyning vazifasi barcha qarorlarni birma-bir qabul qilish emas, balki tizimning butun hayotiy sikli davomida xavfsiz va qonun doirasida qolishini ta’minlashdir.

Taklif etilayotgan vasiylik majburiyatlari quyidagilardan iborat:

• Xavflarni muntazam ravishda baholash,
• model yangilanishlarini kuzatib borish,
• g‘arazlilik va xavfsizlik testlarini o‘tkazish,
• qayd etish tizimlarining ishlashini ta’minlash,
• zararli yoki g‘ayritabiiy xatti-harakatlar haqida xabar berish,
• zarur hollarda tizim faoliyatini cheklash yoki to‘xtatish,
• ommaviy bayonotlarning tizimning haqiqiy imkoniyatlariga mos kelishini nazorat qilish.

Algoritmik g‘amxo‘rlik majburiyati

Tadqiqot insoniy vasiy uchun “duty of algorithmic care”, ya’ni algoritmik g‘amxo‘rlik/ehtiyotkorlik majburiyatini taklif etadi. Bu majburiyat oldindan ko‘ra bilish mumkin bo‘lgan zararlarning oldini olish maqsadida tizimni kuzatish, yangilash va zarur bo‘lganda qayta o‘qitish bo‘yicha ijobiy vazifadir.

Vasiy faqat tizim ishdan chiqqanidan keyin javobgar bo‘lmasligi kerak. Yetarli darajada nazorat o‘rnatmaslik, ma’lum bo‘lgan xavfsizlik zaifligini bartaraf etmaslik yoki tushuntirish yozuvlarini saqlamaslik ham qonunbuzarlik hisoblanishi mumkin.

Maqola, shuningdek, tizimning imkoniyatlari haqidagi ommaviy bayonotlar raqamli qora quti yozuvlari bilan tasdiqlanishi kerakligini uqtiradi. Tashkilotning sun’iy intellektdan foydalanayotgani yoki tizim muayyan qobiliyatlarga ega ekanligi haqida haqiqatga to‘g‘ri kelmaydigan da’volar bilan chiqishi “AI-washing” sifatida baholanadi.

Elektron shaxs axloqiy shaxs emas

Sun’iy intellektga huquqiy shaxs maqomi berilishiga qarshi chiquvchilar bu holat mashinalarni insoniylashtirishi yoki inson qadr-qimmatini zaiflashtirishi mumkinligini aytishadi. Tadqiqot bu e’tirozga ELE axloqiy e’tirofga emas, balki funksional zaruratga asoslanadi degan vaj bilan javob beradi.

ELE modeliga ko‘ra sun’iy intellekt:

• Insoniy qadr-qimmatga ega bo‘lmaydi.
• Inson huquqlarining to‘liq majmuasiga ega bo‘lmaydi.
• Axloqiy azob chekishi yoki jazolanishni his qilishi faraz qilinmaydi.
• Siyosiy huquqlarni qo‘lga kiritmaydi.
• Inson javobgarligini yo‘qqa chiqarmaydi.

Ushbu maqom faqat tizimni tovon to‘lash, ro‘yxatdan o‘tkazish, shartnomalar tuzish, audit va jazo choralari mexanizmlariga bog‘lash uchun yaratilgan huquqiy uydirma (konstruksiya) sifatida ishlab chiqilmoqda.

Shu sababli muallif ELE’ni sun’iy intellektga erkinlik beruvchi institut emas, balki uning avtonomiyasini cheklovchi “jilovlash mexanizmi” deb hisoblaydi.

Sun’iy intellekt jinoyat sodir etishi mumkinmi?

Jinoyat huquqida javobgarlik odatda jinoiy harakat bilan bir qatorda “mens rea”, ya’ni jinoiy niyat yoki aybdor ruhiy holatni talab qiladi. Hozirgi sun’iy intellekt tizimlari ongli niyat yoki axloqiy aybga ega emas deb hisoblangani sababli, tadqiqot ularni insonlar kabi jinoyatchi deb topib bo‘lmasligini ta’kidlaydi.

Biroq sun’iy intellektning xatti-harakati inson jinoyati darajasidagi zararni keltirib chiqarishi mumkin. Tadqiqot taklif qilgan yechim — insonning jinoiy javobgarligini saqlab qolgan holda, sun’iy intellektga nisbatan texnik jazo choralarini qo‘llashdir.

Mashina harakatlaridan kelib chiqadigan bilvosita inson javobgarligi

Maqola inson javobgarligini uchta yo‘nalish bo‘yicha belgilaydi.

Dasturlash yoki yo‘naltirish javobgarligi

Dasturchi yoki foydalanuvchi zararli oqibatlarga olib kelishini oldindan bilishi mumkin bo‘lgan ko‘rsatmalar, maqsadlar yoki tizim sozlamalarini yaratgan bo‘lsa, javobgarlikka tortilishi mumkin.

E’tiborsiz nazorat (beparvolik bilan qilingan vasiylik)

Vasiy ma’lum bo‘lgan nosozlik, kamsitish yoki xavfsizlik muammolarini aniqlash yoxud bartaraf etish uchun zarur choralarni ko‘rmagan bo‘lsa, javobgarlik yuzaga kelishi mumkin.

Xavfli vakolat berish

Agar tashkilot kuchli tizimni yetarli xavfsizlik, audit yoki ro‘yxatga olish mexanizmlarisiz sog‘liqni saqlash, mudofaa yoki moliya kabi yuqori xavfli sohada qo‘llasa, u xavfli va mas’uliyatsiz vakolat bergan deb topilishi mumkin.

Tadqiqot ushbu tuzilmani kompaniya rahbarlarining qonunbuzarliklarning oldini olish majburiyatiga oid javobgarlik doktrinalari bilan bog‘laydi. Tizim qanchalik murakkab bo‘lmasin, vakolatga va oldini olish qobiliyatiga ega bo‘lgan shaxslar butunlay javobgarlikdan chetda qolmasligi kerak.

Sun’iy intellektga qo‘llanishi mumkin bo‘lgan sanksiyalar

Maqola tomonidan taklif etilgan jazo choralari tizimi uch guruhga bo‘linadi.

Operatsion to‘xtatish va faoliyatini cheklash

Tizim jiddiy yoki yaqin xavf tug‘dirgan taqdirda, uning ishlashini vaqtincha to‘xtatish taklif etiladi. To‘xtatish doimiy bo‘lishi shart emas. Tizim xatosi o‘rganilib, uning xavfsiz ekanligi tasdiqlangach, qayta ishlashiga ruxsat berilishi mumkin.

Ushbu sanksiyani qo‘llash uchun tizim texnik jihatdan to‘xtatilishi mumkin bo‘lishi shart. Butunlay markazlashmagan yoki o‘zini turli tarmoqlarga nusxalashi mumkin bo‘lgan tizimlarda bu shart qanday ta’minlanishi tadqiqotda batafsil yoritilmagan.

Kodni orqaga qaytarish va qayta dasturlash

Agar yangilanishdan so‘ng zararli xatti-harakat paydo bo‘lsa, tizimni avvalgi xavfsiz dasturiy versiyasiga qaytarish tavsiya qilinishi mumkin. Noto‘g‘ri maqsad funksiyalari, xavfsizlik chegaralari yoki ma’lumotlarni qayta ishlash jarayonlari qayta dasturlanishi mumkin.

Ushbu yondashuv dastur xatti-harakatini to‘g‘rilashga qaratilgan; biroq murakkab mashinaviy o‘rganish tizimlarida aynan qaysi o‘zgartirish zararni bartaraf etishi har doim ham aniq bo‘lavermaydi.

Algoritmik bloklash

Tizim butunlay yopilmasdan, faqat muammoli qaror qabul qilish sohasidan chiqarilishi mumkin. Masalan:

• Moliyaviy operatsiyalarni amalga oshirishi to‘xtatilishi mumkin.
• Tibbiy qarorlar qabul qilishi cheklanishi mumkin.
• Jismoniy transport vositalarini boshqarish huquqi olib qo‘yilishi mumkin.
• Muayyan ma’lumotlar to‘plamlariga kirishi taqiqlanishi mumkin.
• Inson tasdig‘isiz operatsiyalarni bajarishi cheklanishi mumkin.

Ushbu usul tizimning xavfsiz qismlari ishlashini davom ettirishga imkon bergan holda xavfli funksiyani jilovlashni ko‘zlaydi.

Raqamli aktivlarni muzlatish

ELE raqamli hamyon, daromad yoki boshqa moliyaviy aktivlarga ega degan farazda tartibga soluvchi organlar ushbu aktivlarni muzlatishi taklif etiladi. Muzlatilgan aktivlar jabrlanuvchiga tovon to‘lash yoki xavfsizlikni yaxshilash uchun ishlatilishi mumkin.

Bu taklif sun’iy intellekt tizimi iqtisodiy bitimlarni amalga oshira oladigan va o‘ziga ajratilgan mulkiga ega bo‘lgan huquqiy tuzilma doirasida faoliyat yuritadi degan taxminga asoslanadi. Bugungi kunda barcha sun’iy intellekt tizimlari ham bunday mustaqil moliyaviy bazaga ega emas.

Axloqiy jihatdan qayta o‘qitish

Tadqiqot ma’lum bir kamsituvchi, xavfli yoki noqonuniy xatti-harakatlarni tizimni yangi ma’lumotlar va qoidalar asosida qayta o‘qitish orqali tuzatishni “axloqiy qayta o‘qitish” deb ta’riflaydi.

Ushbu jazo chorasi quyidagi amallarni o‘z ichiga olishi mumkin:

• Balanslangan o‘qitish ma’lumotlaridan foydalanish,
• xavfsizlik va adolat maqsadlarining og‘irlik darajasini qayta belgilash,
• taqiqlangan qaror qabul qilish modellarini aniqlash,
• inson roziligini talab qiluvchi sohalarni kengaytirish,
• qayta ishga tushirishdan oldin mustaqil muvofiqlik sinovini o‘tkazish.

Biroq “axloq” tushunchasi qaysi huquqiy tizim, madaniyat yoki mezonlarga asoslanishi kerakligi tadqiqotda batafsil ko‘rib chiqilmagan.

Sanksiyalar qanday ishga tushiriladi?

Maqola jazo tizimi huquqiy va texnologik elementlarni birlashtirishi kerakligini ilgari suradi.

• Oldindan belgilangan chegaralar: Xatolar ko‘rsatkichi, xavfsizlik qoidalarining buzilishi yoki faoliyat chegarasidan chiqish muayyan sanksiyalarni avtomatik ravishda kun tartibiga chiqarishi mumkin.
• Doimiy algoritmik audit: Tizim xatti-harakatidagi noodatiy o‘zgarishlarni erta bosqichda aniqlash imkonini beradi.
• Insoniy huquqiy tekshiruv: Sanksiya qarorining mutanosibligi, qonuniyligi va himoya huquqi insonlardan iborat kengash tomonidan baholanishi lozim.

Tadqiqot avtomatik sanksiyalar inson nazoratini butunlay yo‘q qilmasligi kerakligini uqtiradi. Tizim mezonlar buzilgani sababli vaqtincha to‘xtatilishi mumkin bo‘lsa-da, uzoq muddatli yoki og‘ir jazo choralari uchun albatta huquqiy tekshiruv o‘tkazilishi shart.

Xavflarni bosqichma-bosqich tasniflash va mutanosiblik

Barcha sun’iy intellekt tizimlariga bir xil sanksiya qo‘llanmasligi kerak. Tadqiqot uchta tamoyilni taklif etadi:

• Xavflarni darajalash: Yuqori avtonomiyaga va katta ta’sir doirasiga ega tizimlar yanada qat’iy qoidalarga bo‘ysunishi lozim.
• Bosqichma-bosqich munosabat: Kichik qonunbuzarliklar ogohlantirish yoki qayta o‘qitish bilan, og‘ir yoki takroriy holatlar esa to‘xtatish va aktivlarni muzlatish bilan javoblanishi kerak.
• Mutanosiblik: Jazo chorasining og‘irligi yetkazilgan zararning ko‘lami, uning takrorlanish ehtimoli va oldindan ko‘ra bilish darajasiga mos bo‘lishi lozim.

Ushbu tuzilma innovatsiyalarni to‘xtatib qo‘ymasdan xavfsizlikni ta’minlashni ko‘zlaydi. Shunday bo‘lsa-da, tadqiqotda qaysi huquqbuzarlik qanday sanksiyani keltirib chiqarishi bo‘yicha batafsil sanksiyalar matritsasi keltirilmagan.

Tushuntirilishi mumkin bo‘lgan sun’iy intellekt nega huquqiy vosita hisoblanadi?

Tushuntirilishi mumkin bo‘lgan sun’iy intellekt (XAI) — bu tizim nima sababdan muayyan xulosaga kelganini insonlar tushunishi uchun ishlab chiqilgan usullar majmuidir.

Tadqiqotga ko‘ra, XAI faqat texnik takomillashtirish yoki foydalanuvchi ishonchini qozonish vositasi emas. U quyidagi huquqiy vazifalarni ham bajarishi lozim:

• Sud qaror qabul qilish jarayonini tahlil qila olishi,
• jabrlanuvchi sun’iy intellekt qaroriga e’tiroz bildira olishi,
• auditor tizimning faoliyat chegaralariga rioya qilayotganini baholashi,
• sababiyat va aybni aniqlash,
• qo‘llanilgan sanksiya qaysi xatti-harakatga asoslanganini ko‘rsatish.

Muallif yuqori xavfli sun’iy intellekt tizimlari uchun tushuntirilish sertifikatini faoliyat litsenziyasining majburiy sharti qilishni taklif qiladi.

LIXAI standarti

Tadqiqot huquqiy tushuntiriluvchan sun’iy intellekt (Legal Explainable AI) uchun LIXAI deb nomlangan standartni taklif etadi.

Ushbu standartga ko‘ra, tushuntirish:

• Faqat texnik mutaxassisga emas, balki sudga va manfaatdor shaxsga ham tushunarli bo‘lishi kerak.
• Qaror qabul qilingan kontekstni ko‘rsatishi kerak.
• Asosiy kiritmalar va modelning ishonchlilik darajasini o‘z ichiga olishi kerak.
• Huquqiy tekshiruvga mos shaklda qayd etilishi lozim.
• Zarar ko‘rgan shaxsning qarorga e’tiroz bildirish huquqini ta’minlashi kerak.

LIXAI mavjud va xalqaro miqyosda qabul qilingan rasmiy texnik standart sifatida talqin qilinmasligi kerak. Bu faqat hujjatda ishlab chiqilgan va taklif qilingan huquqiy mezon hisoblanadi.

Raqamli qora quti

Maqola yuqori avtonomiyaga ega tizimlarda samolyotlardagi parvoz ma’lumotlarini yozib oluvchi vositalarga o‘xshash raqamli qora qutilar bo‘lishini tavsiya qiladi.

Raqamli qora quti qayd etishi kerak bo‘lgan ma’lumotlar:

• Sensor va ma’lumotlar kiritmalari,
• qaror qabul qilingan vaqtlar,
• muhim algoritmik faollashuvlar,
• chiqish natijalari va amalga oshirilgan harakatlar,
• dasturiy versiyalar va yangilanishlar,
• inson aralashuvlari,
• ishonchlilik va xavf ko‘rsatkichlari,
• boshqa tizimlar bilan o‘rnatilgan aloqalar.

Qora qutining texnik xususiyatlari

Tadqiqot ma’lumotlar o‘zgartirib bo‘lmaydigan, shifrlangan va zaxiralangan bo‘lishi kerakligini ta’kidlaydi. Tizim zarar yetkazganidan keyin yozuvlarning o‘chirilishi yoki o‘zgartirilishining oldi olinishi shart.

Turli apparat va dasturiy ta’minot komponentlarining yozuvlari yagona vaqt shkalasida birlashtirilishi kerak. Xalqaro tizimlarda yozuv formatlari turli mamlakatlardagi audit va sud jarayonlariga mos kelishi lozim.

Qora quti ma’lumotlaridan sudda foydalanish

Faqat texnik yozuvning mavjudligi yetarli emas. Sudlar ushbu yozuvlarni dalil sifatida qabul qilishi uchun quyidagi mezonlar huquqiy jihatdan belgilanishi zarur:

• Yozuvlarning yaxlitligi va daxlsizligi,
• ma’lumotlarga kimlar kirish huquqiga egaligi,
• dalillar zanjiri,
• vaqt tamg‘alarining ishonchliligi,
• shifrlash va autentifikatsiya jarayonlari,
• qayd etish tizimining mustaqil auditi.

Maqola XAI va qora quti bir-birini to‘ldirishini ta’kidlaydi. XAI qarorning ratsional tushuntirishini bersa, qora quti voqealarning o‘zgarmas texnik qaydini ta’minlashi kerak.

AI-Washing va noto‘g‘ri korporativ bayonotlar

Raqamli qora quti faqat tizimdagi nosozliklarni tekshirish uchun taklif qilinmayapti. Tashkilot sun’iy intellektdan foydalanayotganini, tizim muayyan muvaffaqiyat darajasiga egaligini yoki inson aralashuviga ehtiyoj yo‘qligini da’vo qilishi mumkin.

O‘zgartirib bo‘lmaydigan operatsion yozuvlar ushbu bayonotlarni tizimning haqiqiy xatti-harakati bilan taqqoslash imkonini beradi. Tadqiqot sun’iy intellekt imkoniyatlarini asossiz ravishda bo‘rttirib ko‘rsatishni yoki undan foydalanishni noto‘g‘ri taqdim etishni “AI-washing” deb ataydi.

Algoritmik audit

Tadqiqot javobgarlik faqat zarar yetkazilganidan keyin sudga tashlab qo‘yilmasligi kerakligini uqtiradi. Algoritmik audit uch darajada taklif etiladi.

Agar sun’iy intellekt amaliyotga kiritilgandan keyin ham o‘rganishda davom etsa, uning faqat dastlabki muvofiqlik sinovidan o‘tishi yetarli bo‘lmasligi mumkin. Xatti-harakat o‘zgargan sari audit ham uzluksiz davom etishi zarur.

Dalillar zanjiri

Tadqiqotning integratsiyalashgan boshqaruv modeli uchta mexanizmni dalillar zanjiri sifatida birlashtiradi:

1. XAI: Qaror nima sababdan va qanday qabul qilingani haqida tushunarli izoh beradi.
2. Raqamli qora quti: Haqiqiy kiritmalar, harakatlar va vaqt jadvalini o‘zgarmas tarzda qayd etadi.
3. Algoritmik audit: Tushuntirishlar va yozuvlarning to‘g‘riligini mustaqil ravishda baholaydi.

Zarar yetkazilganda ushbu zanjir tovon jamg‘armasini ishga tushirish, insoniy vasiyning javobgarligini belgilash va sun’iy intellektga nisbatan qo‘llaniladigan texnik jazo chorasini tanlash uchun xizmat qilishi mumkin.

Maxfiylik muammosi

Qora qutilar batafsil ma’lumotlarni to‘plash jarayonida shaxslarning sog‘lig‘i, moliyasi, joylashuvi, yozishmalari yoki xulq-atvori haqidagi ma’lumotlarni yozib olishi mumkin. Shu sababli javobgarlikni ta’minlash maqsadida yaratilgan tizim yangi kuzatuv va maxfiylik xavfiga aylanishi ehtimoli bor.

Maqolada qora qutilar ma’lumotlarni himoya qilish qoidalariga mos bo‘lishi kerakligi aytiladi. Biroq qanday ma’lumotlar yozilishi, qancha vaqt saqlanishi, ularga kimlar kirishi mumkinligi hamda maxfiylik va dalillar zarurati o‘rtasidagi muvozanat batafsil ochib berilmagan.

G‘arazlilik va kamsitish (diskriminatsiya)

Algoritmik audit nafaqat texnik xatoliklar darajasini, balki muayyan ijtimoiy guruhlarga nisbatan tizimli kamsitish ehtimolini ham tekshirishi taklif etiladi.

Sun’iy intellekt tizimi umumiy hisobda yuqori aniqlik ko‘rsatishi mumkin, ammo muayyan jins, etnik guruh, yosh yoki ijtimoiy-iqtisodiy toifadagi insonlarga nisbatan ko‘proq xatolarga yo‘l qo‘yishi mumkin. Tadqiqotga ko‘ra, bunday holatlar tizim xavfsizligi va qonuniyligining muhim qismi sifatida baholanishi lozim.

Huquqiy jarayon va inson tomonidan ko‘rib chiqilishi

Maqola sun’iy intellektga nisbatan sanksiya qo‘llash qarorining boshqa bir algoritm tomonidan butunlay avtomatik berilishiga ehtiyotkorlik bilan qaraydi. Avtomatlashtirilgan monitoring qoidabuzarlikni aniqlashi yoki vaqtinchalik cheklov chorasini ishga tushirishi mumkin; biroq og‘ir sanksiyalar inson ishtirokidagi huquqiy tekshiruvdan o‘tishi shart.

Ushbu tekshiruv quyidagi tamoyillarni himoya qilishi lozim:

• Mutanosiblik,
• himoyalanish va e’tiroz bildirish huquqi,
• dalillarning ishonchliligi,
• qarorning asoslantirilganligi,
• noto‘g‘ri qo‘llanilgan sanksiyani bekor qilish imkoniyati,
• manfaatdor shaxslarning huquqlarini himoya qilish.

Xalqaro muvofiqlashtirish

Sun’iy intellekt tizimlari bir mamlakatda ishlab chiqilishi, boshqa mamlakatdagi serverlarda ishlashi va ko‘plab mamlakatlardagi odamlarga ta’sir ko‘rsatishi mumkin. Shu sababli faqat milliy ro‘yxatga olish va jazolash tizimlarining o‘zi yetarli bo‘lmasligi mumkinligi aytilmoqda.

Tadqiqot quyidagi masalalarda xalqaro uyg‘unlikni taklif etadi:

• Avtonomiya va xavf mezonlari,
• ELE ro‘yxatga olish tizimi,
• sug‘urta va kompensatsiya qoidalari,
• XAI va qora quti standartlari,
• auditorlik tashkilotlarining o‘zaro tan olinishi,
• dalillarni almashish,
• transchegaraviy sanksiyalar va aktivlarni muzlatish.

Ushbu muvofiqlashtirish taklifi kelajak siyosati xarakteriga ega. Maqolada batafsil xalqaro shartnoma matni yoki yurisdiksiya to‘qnashuvlarini hal qilish modeli keltirilmagan.

Tadqiqot taklif etgan umumiy boshqaruv arxitekturasi

Tadqiqotning siyosiy tavsiyalari

Maqola yettita asosiy siyosiy tavsiyani ilgari suradi:

1. Belgilangan avtonomiya chegarasidan oshadigan sun’iy intellekt tizimlari uchun majburiy ELE ro‘yxati va litsenziyalashni joriy etish.
2. Yuqori avtonomiyaga ega tizimlar uchun majburiy sug‘urta va kompensatsiya jamg‘armasini tashkil qilish.
3. XAI va raqamli qora qutilarni amaliyotga kiritishning majburiy shartiga aylantirish.
4. Operatsion, moliyaviy va profilaktik jazolarni o‘z ichiga olgan bosqichma-bosqich protokollarni yaratish.
5. Ichki va mustaqil algoritmik auditlarni majburiy qilib belgilash.
6. Davlatlar o‘rtasida umumiy javobgarlik va ijro standartlarini ishlab chiqish.
7. Barcha tizimlarda maxfiylik, kamsitishga yo‘l qo‘ymaslik, inson nazorati va qonuniy jarayon kafolatlarini saqlab qolish.

Tadqiqotning kuchli tomonlari

• Sun’iy intellekt javobgarligini faqat tovon to‘lash masalasi sifatida emas, balki loyihalash, litsenziyalash, audit va sanksiyalar hayotiy sikli sifatida yaxlit ko‘rib chiqishi.
• Avtonomiya yagona toifa emasligini, uni turli darajalarda baholash zarurligini ko‘rsatishi.
• Jabrlanuvchining tovon olishini ayb va algoritmik sababiyat bahslaridan qisman ajratuvchi sug‘urta modelini taklif etishi.
• Elektron huquqiy shaxsni insoniy axloqiy shaxsdan ajratishga harakat qilishi.
• ELE maqomi bilan inson javobgarligi yo‘qolib ketmasligi kerakligini alohida ta’kidlashi.
• Tushuntirilish, qayd etish va mustaqil auditni huquqiy dalillar infratuzilmasining ajralmas qismiga aylantirishi.
• Sun’iy intellektga xos, texnik jihatdan qo‘llash mumkin bo‘lgan sanksiyalar turlarini ishlab chiqishi.
• AI-washing va yolg‘on korporativ bayonotlarni qora quti yozuvlari bilan bog‘lashi.
• Voqeadan keyingi javobgarlik bilan bir qatorda zarardan oldingi boshqaruvga ham e’tibor qaratishi.
• Maxfiylik, kamsitmaslik, mutanosiblik va inson nazoratini yagona tizimda ushlab turishga intilishi.

Tadqiqotning asosiy cheklovlari

• Tadqiqot taqrizdan (peer-review) o‘tgani tasdiqlanmagan SSRN ilmiy maqolasidir.
• Empirik tadqiqot, real voqealar ma’lumotlar bazasi yoki tartibga solish ta’sirini baholash tahlili mavjud emas.
• Qiyosiy huquqiy metodika batafsil qo‘llanilmagan.
• Muayyan mamlakatlarning fuqarolik va jinoyat huquqi tizimlari tizimli ravishda taqqoslanmagan.
• Taklif etilgan epistemik noaniqlik, operatsion tezlik va yuzaga keluvchi xavf ko‘rsatkichlari miqdoriy jihatdan baholanmagan.
• ELE maqomi qaysi organ tomonidan va qanday tartibda berilishi aniqlashtirilmagan.
• Elektron huquqiy subyektning shartnoma tuzishi va mulkka egalik qilishining texnik-huquqiy tatbiqi ko‘rsatib berilmagan.
• ELE insonlar va kompaniyalar uchun javobgarlikdan qochish vositasiga aylanib qolish xavfi to‘liq bartaraf etilmagan.
• Sug‘urta mukofotlari va jamg‘arma badallari qanday hisoblanishi tushuntirilmagan.
• Kamdan-kam uchraydigan, ammo juda katta zararlar jamg‘arma imkoniyatidan oshib ketish ehtimoli tahlil qilinmagan.
• Mashinaga nisbatan sanksiya qo‘llashning ogohlantiruvchi ta’siri nazariy jihatdan yetarlicha muhokama qilinmagan.
• Sun’iy intellektda “jazodan qochish” yoki ma’naviy qoralanishni his qilish xususiyati bo‘lmagani sababli, sanksiyaning asosiy ta’siri baribir ishlab chiquvchilar va operatorlarga tushadi.
• Axloqiy qayta o‘qitish qaysi ma’lumotlar, qadriyatlar va huquq tizimiga asoslanishi noaniqligicha qolmoqda.
• XAI tushuntirishlari murakkab modellarni har doim ishonchli aks ettira oladimi yoki yo‘qmi degan masala muhokama qilinmagan.
• Tushuntirilish bilan tijorat siri, kiberxavfsizlik va maxfiylik o‘rtasidagi ziddiyatlar batafsil hal etilmagan.
• Qora qutida qaysi ma’lumotlar qancha muddat saqlanishi belgilanmagan.
• Blokcheyn asosidagi qayd etish tizimining zarurligi yoki uning boshqa usullardan ustunligi isbotlanmagan.
• Markazlashmagan yoki turli tarmoqlarga tarqalgan tizimlarga sanksiyalar qanday qo‘llanilishi tushuntirilmagan.
• Super intellekt va super avtonomiya bo‘limi asosan faraziy texnologik ssenariylarga tayanadi.
• Xalqaro muvofiqlashtirish taklifi amaliy shartnoma yoki vakolatlarni taqsimlash modelini o‘z ichiga olmaydi.
• Tadqiqot foydalanilgan adabiyotlarda Yevropa Ittifoqining Sun’iy intellekt to‘g‘risidagi qonunini hamon “proposal” (taklif) sifatida ko‘rsatmoqda.
• Yevropa Ittifoqining Sun’iy intellekt to‘g‘risidagi qonuni tadqiqotda ilgari surilgan ELE, moslashuvchan mashina sanksiyalari yoki tovon jamg‘armasi modelini amaldagi huquq sifatida joriy etmagan.
• Foydalanilgan adabiyotlar ro‘yxatidagi ayrim manbalarning bibliografik aniqligi va manbasi alohida tekshirilishi lozim.

Tadqiqot nima demoqda?

• Yuqori darajada avtonom sun’iy intellekt tizimlari an’anaviy javobgarlik zanjirini zaiflashtirishi mumkinligini aytmoqda.
• Inson aybini aniqlab bo‘lmaganda jabrlanuvchi tovonsiz qolishi mumkin bo‘lgan javobgarlik bo‘shlig‘i paydo bo‘lishini ilgari surmoqda.
• Javobgarlikni insonlar, tashkilotlar va texnik tizimlar o‘rtasidagi taqsimlangan munosabat sifatida ko‘rib chiqishni taklif qilmoqda.
• Muayyan sun’iy intellekt tizimlariga cheklangan va funksional elektron huquqiy subyekt maqomini berishni tavsiya etmoqda.
• Ushbu maqom insoniy shaxsiyat yoki axloqiy huquqlarni anglatmasligini bildirmoqda.
• Majburiy sug‘urta va tovon jamg‘armasi jabrlanuvchilarning zararlarini qoplashi lozimligini ta’kidlamoqda.
• Insoniy vasiylar algoritmik g‘amxo‘rlik majburiyatiga ega bo‘lishi kerakligini ilgari surmoqda.
• Sun’iy intellektga nisbatan to‘xtatish, kodni o‘zgartirish, aktivlarni muzlatish va axloqiy qayta o‘qitish kabi texnik sanksiyalarni qo‘llashni taklif qilmoqda.
• XAI, raqamli qora quti va algoritmik auditni huquqiy javobgarlikning majburiy infratuzilmasi deb hisoblamoqda.
• Avtomatik sanksiyalar inson ishtirokidagi huquqiy tekshiruvni va adolatli sud jarayoni kafolatlarini yo‘qqa chiqarmasligi lozimligini aytmoqda.

Tadqiqot nima demayapti?

• Bugungi sun’iy intellekt tizimlari ongli yoki axloqiy shaxslar ekanligini isbotlamayapti.
• Sun’iy intellektga inson huquqlari berilishi kerakligini da’vo qilmayapti.
• ELE maqomi amaldagi qonunchilikda umum e’tirof etilgan institut ekanini ko‘rsatmayapti.
• Yevropa Ittifoqining Sun’iy intellekt to‘g‘risidagi qonuni elektron shaxs maqomini yaratganini ifodalovchi amaldagi moddani keltirmayapti.
• Barcha sun’iy intellekt tizimlari mustaqil huquqiy shaxs maqomiga ega bo‘lishi kerakligini ilgari surmayapti.
• Klassik mahsulot va aybsiz javobgarlik rejimlari barcha vaziyatlarda butunlay samarasiz ekanligini empirik jihatdan isbotlamayapti.
• Avtonomiyaning qaysi darajasi elektron shaxs maqomi uchun yetarli ekanini raqamli ko‘rsatkichlarda belgilab bermayapti.
• Taklif etilgan tovon jamg‘armasining haqiqiy qiymatini yoki barqarorligini hisoblab chiqmayapti.
• Mashinaga qo‘llaniladigan sanksiyalar zararlarni kamaytirishini ko‘rsatuvchi eksperimental natijalarni taqdim etmayapti.
• LIXAI amaldagi xalqaro standart ekanini ko‘rsatmayapti.
• Raqamli qora quti barcha sun’iy intellekt qarorlarini to‘liq tushuntirib bera olishini isbotlamayapti.
• Super intellekt yaqin orada aniq paydo bo‘lishini bashorat qiluvchi empirik modelni taklif etmayapti.
• Muayyan bir mamlakat uchun to‘g‘ridan-to‘g‘ri qo‘llaniladigan qonun moddalarini tayyorlamayapti.

Kundalik hayot va tashkilotlar nuqtayi nazaridan ahamiyati

Tadqiqot ko‘targan savollar faqat kelajakdagi super intellekt tizimlariga tegishli emas. Sog‘liqni saqlash, kreditlash, sug‘urta, ishga qabul qilish, transport va davlat xizmatlarida qo‘llanilayotgan sun’iy intellekt bugun ham insonlar hayotiga ta’sir ko‘rsatadigan qarorlarni qabul qilishi mumkin.

Tashkilot sun’iy intellektdan foydalanganda quyidagi savollar muhim ahamiyat kasb etadi:

• Tizim qaysi qarorlarni inson tasdig‘isiz qabul qila olishi aniq belgilanganmi?
• Noto‘g‘ri qaror qabul qilingan taqdirda javobgar shaxs yoki bo‘linma oldindan tayinlanganmi?
• Tizimning kiritmalari, chiqishlari va versiya o‘zgarishlari qayd etib boriladimi?
• Zarar ko‘rgan shaxs qarorning sababini bilib olish imkoniyatiga egami?
• Qaror ustidan shikoyat qilish mumkin bo‘lgan insoniy aloqa kanali mavjudmi?
• Tizim turli ijtimoiy guruhlar uchun alohida-alohida sinovdan o‘tkazilganmi?
• Zarar yetkazilganda tovon to‘lash manbasi mavjudmi?
• Tizimni vaqtincha to‘xtatish bo‘yicha texnik vakolat kimning qo‘lida?
• Tashkilotning tizim haqidagi bayonotlari haqiqiy yozuvlar bilan tasdiqlanadimi?
• Sun’iy intellekt yangilangandan so‘ng uning muvofiqligi qayta baholanadimi?

Bu savollar tadqiqotda tasdiqlangan nazorat ro‘yxati yoki amaldagi qonunchilik talablari emas. Ular maqolaning texno-huquqiy boshqaruv yondashuvidan kelib chiqadigan baholash savollaridir.

Tadqiqotning usullari va natijalari

Tadqiqot dizayni

Tadqiqotning to‘rt qismli tahliliy tuzilishi

1. Tushunchalarni ta’riflash: Sun’iy intellekt avtonomiyasi, algoritmik noaniqlik va javobgarlik bo‘shlig‘i tushuntirilgan.
2. Xususiy huquqiy javobgarlik: Klassik ayb va mahsulot javobgarligi tanqid qilinib, ELE hamda sug‘urta jamg‘armasi taklif etilgan.
3. Jinoiy javobgarlik va sanksiyalar: Insonlarning bilvosita javobgarligi va sun’iy intellektga xos texnik sanksiyalar ishlab chiqilgan.
4. Tadqiqot va nazorat infratuzilmasi: XAI, raqamli qora qutilar va algoritmik auditlar yaxlit boshqaruv tizimi sifatida taqdim etilgan.

Tadqiqot tomonidan ishlab chiqilgan asosiy tushunchalar

Tadqiqotning asosiy nazariy xulosalari

Modelni empirik tarzda sinash uchun zarur bo‘lgan jihatlar

• Haqiqiy sun’iy intellekt hodisalarida sababiyat va javobgar shaxslar qanday aniqlanayotgani o‘rganilishi lozim.
• Turli mamlakatlardagi mahsulot, aybsiz va kasbiy javobgarlik rejimlari taqqoslanishi kerak.
• ELE modelining jabrlanuvchiga tovon to‘lash muddati va xarajatlariga ta’siri modellashtirilishi zarur.
• Elektron shaxs maqomidan kompaniyalar javobgarlikdan qochish maqsadida foydalana olish-olmasligi sinovdan o‘tkazilishi lozim.
• Epistemik noaniqlik va operatsion tezlik bo‘yicha o‘lchanadigan ko‘rsatkichlar ishlab chiqilishi kerak.
• Avtonomiya chegarasi uchun turli tarmoqlarda alohida mezonlar belgilanishi lozim.
• Sug‘urta badallari uchun zarar ehtimoli va zarar ko‘lami modellari yaratilishi shart.
• Raqamli qora quti yozuvlarining daxlsizligi va ularning sudda qo‘llanish imkoniyatlari tekshirilishi lozim.
• XAI tushuntirishlari modelning haqiqiy xatti-harakatiga qanchalik mos kelishi baholanishi kerak.
• Avtomatik sanksiyalarni ishga tushiruvchi mexanizmlarning xatolik va suiiste’mol qilish darajalari o‘lchanishi lozim.
• Axloqiy qayta o‘qitish zararli xatti-harakatni haqiqatan kamaytirish-kamaytirmasligi tadqiq qilinishi zarur.
• ELE va insoniy vasiy o‘rtasidagi javobgarlik taqsimoti namunaviy sud ishlari orqali sinab ko‘rilishi kerak.
• Xalqaro ro‘yxatga olish va jazolash tizimlarining ma’lumotlarni himoya qilish qonunchiligiga muvofiqligi tahlil qilinishi lozim.
• Sanksiyalar qo‘llanilishining foydalanuvchilar, xodimlar va uchinchi shaxslarga nojo‘ya ta’siri o‘rganilishi kerak.

Ilmiy maqomning natijalarga ta’siri

Tadqiqot keng qamrovli va o‘ziga xos boshqaruv arxitekturasini taklif etadi; ammo modelning amalda qo‘llanishiga doir yangi ma’lumotlarni taqdim etmaydi. Shu sababli natijalar amaldagi qonunchilikning sharhi yoki muayyan qoidalarning samaradorligi isboti sifatida emas, balki kelajakdagi huquqiy tizimni loyihalash uchun ishlab chiqilgan normativ takliflar sifatida baholanishi lozim.

Tadqiqotning eng katta hissasi tovon, jazo va texnik dalillar infratuzilmasini yagona modelda birlashtirganidir. Uning eng asosiy kamchiligi esa taklif etilgan institutlarning real huquqiy tizimlarda qanday qo‘llanilishi, ularning xarajati, nojo‘ya ta’sirlari va muqobil modellarga nisbatan ustunligini empirik yoki qiyosiy jihatdan ko‘rsatib bera olmaganidir.

Manba va uslubiyot eslatmasi

Tadqiqotning to‘liq asl nomi:Post-Human Law: Redefining Responsibility in the Era of Autonomous Artificial Intelligence

Mualliflarning to‘liq ro‘yxati va ketma-ketligi: Abulgasem Al Mashai. Tadqiqot bir muallif tomonidan yozilgan.

Hammualliflik yoki teng huquqli birinchi mualliflik: Mavjud emas.

Tashkiliy mansublik: Libyan Authority for Scientific Research, Liviya.

PDF dagi ilmiy yo‘nalish ifodasi: “Interdisplinary Research”. Ifoda hujjatda xuddi shu imloda keltirilgan.

Mas’ul yoki aloqa uchun muallif: PDF da alohida “corresponding author” belgisi yo‘q. SSRN qaydi Abulgasem Al Mashaini “Contact Author” sifatida ko‘rsatadi.

Tadqiqot yozilgan sana: 2025-yil 30-oktabr.

SSRN ga yuklangan sana: 2025-yil 17-noyabr.

DOI: 10.2139/ssrn.5716462.

Nashr platformasi: SSRN.

Jurnal: Taqrizdan o‘tgan jurnal ma’lumoti mavjud emas.

Konferensiya: Konferensiya nashri haqida ma’lumot yo‘q.

Manba turi: Kontseptual, normativ va fanlararo tadqiqot maqolasi (working paper).

Taqriz holati: Taqrizdan o‘tgan nashr ekanligi tasdiqlanmagan. Tadqiqot SSRN ilmiy maqolasi sifatida baholanishi lozim.

Sahifalar soni: 19.

Foydalanilgan adabiyotlar: PDF da 22 ta bibliografik yozuv mavjud.

Rasmiy SSRN havolasi:Post-Human Law – SSRN tadqiqot qaydi

DOI havolasi:10.2139/ssrn.5716462

Sun’iy intellektdan foydalanish bayonoti: Muallif generativ sun’iy intellekt va katta til modellaridan notexnik bo‘limlarning qoralamasini tayyorlashda, tilning ravonligini oshirishda va maqolaning dastlabki tuzilishini tartibga solishda foydalanganini bildirgan. Asosiy konseptual g‘oyalar, huquqiy tahlillar, tanqidiy dalillar va xulosalar o‘ziga tegishli ekanini, barcha natijalarni ko‘rib chiqib jiddiy tahrir qilganini hamda mazmun uchun to‘liq javobgarlikni o‘z zimmasiga olishini ma’lum qilgan.

Ushbu o‘zbek tilidagi maqola yuklangan 19 sahifalik PDF ning to‘liq matni, bo‘limlar tuzilishi, siyosiy tavsiyalari, tushunchalar lug‘ati, sun’iy intellekt bayonoti va adabiyotlar ro‘yxati tahlil qilinib tayyorlangan. PDF da mavjud bo‘lmagan biror eksperimental natija, sud qarori, qabul qilingan qonun moddasi yoki amaliy muvaffaqiyat qo‘shilmagan.

Tadqiqotda “Elektron huquqiy subyekt”, “LIXAI standarti”, “algoritmik g‘amxo‘rlik majburiyati”, “moslashuvchan sun’iy intellekt sanksiyasi” va “axloqiy qayta o‘qitish” deb taqdim etilgan tushunchalar amaldagi va umum e’tirof etilgan huquqiy institutlar sifatida emas, balki muallifning normativ modelining elementlari sifatida bayon qilingan.

Tadqiqot adabiyotlar ro‘yxatida Yevropa Ittifoqining Sun’iy intellekt to‘g‘risidagi qonuni “proposal” (taklif) sifatida ko‘rsatilgan. Aslida esa bu hujjat 2024/1689-sonli YI Reglamenti sifatida qabul qilingan va kuchga kirgan. Tadqiqotda taklif qilingan ELE modeli va sun’iy intellektga xos sanksiyalar YI Sun’iy intellekt to‘g‘risidagi qonuni o‘rnatgan amaldagi huquqiy mexanizmlar hisoblanmaydi.

PDF da Sun’iy intellekt javobgarligi to‘g‘risidagi direktiva taklifining qaytarib olingani qayd etilgan. Ushbu taklif 2025-yil oktabr oyida rasman qaytarib olingan. Shunga qaramay, tadqiqot Yevropa Ittifoqining yangilangan mahsulot javobgarligi rejimining sun’iy intellekt dasturiy ta’minoti va raqamli mahsulotlarga ta’sirini batafsil ko‘rib chiqmagan.

Ushbu tadqiqot qonunchilik hujjati yoki yuridik maslahat hujjati emas. Muayyan real vaziyatda kim javobgar bo‘lishi milliy qonunchilikka, shartnomalarga, tizimning xususiyatiga, yetkazilgan zarar turiga, sohaviy tartibga solish qoidalariga va aniq dalillarga asosan alohida baholanishi lozim.

Foydalanilgan adabiyotlar ro‘yxatidagi ayrim nashr nomlari, yillari va bibliografik ma’lumotlari mustaqil akademik ma’lumotlar bazalari orqali qayta tekshirilishi lozim. Maqolada ilgari surilgan huquqiy xulosalar faqat manbalar ro‘yxatining mavjudligiga tayanib, shakllangan doktrina sifatida qabul qilinmasligi kerak.