Bir süni intellekt sistemi bir hastaya yanlış tedavi uygular, finans piyasasında böyük bir zərəra yol açar və ya avtonom bir silah sistemi öngörülmeyen bir hedefe saldırırsa hukuken kim məsul tutulmalıdır? Yazılımı inkişaf etdirən mühendis mi, təlim məlumatlərini sağlayan qurum mu, sistemi piyasaya süren şirkət mi, onu kullanan şəxs mi, yoksa sistemin özü mi?

Abulgasem Al Mashai tarafından hazırlanan Post-Human Law: Redefining Responsibility in the Era of Autonomous Artificial Intelligence başlıklı tədqiqat, geleneksel məsuliyyət hukukunun yüksək düzeyde muxtar və öz davranışlarını zaman içinde değiştirebilen süni intellekt sistemleri karşısında yetersiz kalabileceğini müdafiə edir. Makalenin “məsuliyyət boşluğu” adını verdiği sorun, zərərın ortaya çıktığı ancaq insan kusuru, səhlənkarlıq, niyyət, nəzarət və proqnozlaşdırıla bilmə arasındaki bağlantının açık biçimde kurulamadığı durumları ifadə edir.

Tədqiqatya görə klasik hüquq, əsas olaraq insanların eylemde bulunduğu və makinelerin yalnız insanların kullandığı nesneler olduğu varsayımına dayanır. Bunun əksinə gelişmiş süni intellekt sistemleri, önceden belirlenmiş komutları mekanik biçimde uygulamakla məhdud kalmayabilir. Yeni məlumatlerden öyrənə bilər, öz iç modellerini dəyişdirə bilər, birden fazla sistemle etkileşime girebilir və tərtibatçılarinin dağıtım anında öngörmediği nəticəlar istehsal edə bilər.

Makale bu soruna dörd katmanlı bir çözüm təklif edir. İlk olaraq süni intellekt muxtarliği “araçsal muxtariyyət”, “məhdud muxtariyyət” və “süper muxtariyyət” düzeylerine ayrılmaktadır. İkinci olaraq belirli eşiğin üzerindeki sistemlere ahlaki insan kişiliği vermeyen, yalnız məsuliyyət, sözleşme, kompensasiya və sanksiya amacı taşıyan Məhdud Elektron Hüquqi Varlıq statüsü önerilmektedir. Üçüncü olaraq bu elektron varlığın məcburi sığorta və kompensasiya fonduna sahip olması, rəqəmsal əmlak varlığı taşıması və gerektiğinde operasyonel ya da mali sanksiyalara tabi tutulması öngörünür. Dördüncü olaraq İzaholunan Süni İntellekt, rəqəmsal qara qutular və sürekli alqoritmik audit hüquqi altyapının zorunlu unsurları hâline getirilmektedir.

Önerilen sanksiyalar insanlar üçün geliştirilen hapis və ya manevi kınama kimi cezalar deyildir. Bir süni intellekt sistemi geçici olaraq durdurulabilir, belirli qərar alanlarından çıkarılabilir, əvvəlki güvenli yazılım sürümüne döndürülebilir, yenidən eğitilebilir və ya nəzarət ettiği rəqəmsal aktivlar dondurulabilir. Yazar bu sanksiyaların nisbəttılı, geri döndürülebilir və teknik olaraq uygulanabilir olması gerektiğini müdafiə edir.

Tədqiqat süni intellektya məhdud hüquqi statü məlumatlmesinin insan sorumluluğunu ortadan kaldırmaması gerektiğini xüsusilə vurgular. Geliştiriciler, operatorler və kurumlar “nəzarət eden şəxs” konumundan “süni intellekt qəyyumsi” və ya “nəzarətçii” konumuna geçmektedir. Bu kişilere sistemin güvenliğini izleme, yanlış beyanları önleme, yazılımı aktualleme, riskleri hesabatvermə və gerekli olduğunda sistemi durdurma yönünde “alqoritmik qayğı öhdəliyi” getirilmesi önerilmektedir.

Ancak tədqiqat bir yasa tasarısı, kabul edilmiş düzenleme və ya məhkəmə içtihadı deyildir. Önerilen elektron hüquqi şəxsiyyət, süni intellektya özgü sanksiyalar və LIXAI adlı hüquqi açıklanabilirlik standardı kuramsal önerilerdir. Hangi sistemin elektron hüquqi şəxsiyyət kazanacağı, muxtarliğin necə sayısallaştırılacağı, sanksiyaların teknik olaraq necə uygulanacağı və fərqli ülkelerde necə uyumlaştırılacağı henüz empirik ya da karşılaştırmalı hüquq tədqiqatlarıyla doğrulanmamıştır.

Geleneksel Məsuliyyət Hukukunun Temel Varsayımı

Hüquqi məsuliyyət sistemleri ümumilikle belirli bir eylemi, zərərı və məsul kişiyi birbirine bağlamaya çalışır. Bir zərər meydana geldiğinde məhkəməler bu soruları sorar:

• Zarara yol açan eylemi kim gerçekleştirdi?
• Bu şəxs sonucu istemiş miydi?
• Sonucu öngörmesi beklenebilir miydi?
• Gerekli özeni göstermiş miydi?
• Eylem ilə zərər arasında yeterli nedensellik bağı var mıydı?
• Ürün kusurlu muydu?
• Ürün və ya faaliyet üzerinde fiilî nəzarət kimdeydi?

Bu soruların çoğu insan iradesi, bilgi düzeyi, dikkat yükümlülüğü və nəzarət qabiliyyəti üzərindən yanıtlanır. İnsan suçluluğunun değerlendirilmesinde niyyət və ya qüsur; özel hüquq sorumluluğunda ise səhlənkarlıq, kusurlu tasarım, nəzarət və ya öngörülebilir risk merkezi öneme sahiptir.

Makalenin əsas iddiasına görə yüksək düzeyde muxtar sistemlər bu bağlantıları zayıflatabilir. Bir süni intellekt sistemi zərər verdiğinde hiçbir insan birbaşa zərərli sonucu istememiş ola bilər. Geliştirici sistemin belirli davranışı göstereceğini öngörmemiş, kullanıcı qərar sürecini anlamamış və operator sistemin çox yüksək hızda verdiği qərara zamanında müdahale edememiş ola bilər.

Otomasyon ilə Özerklik Arasındaki Fark

Her otomatik sistem hüquqi açıdan muxtar sayılmaz. Önceden belirlenmiş komutları değişmeden uygulayan bir maşın, insan tarafından tasarlanmış sabit bir işleyişi yerine getirir. Böyle bir maşının davranışı çoğunlukla üretim, tasarım və ya bakım kusuru üzərindən değerlendirilebilir.

Modern süni intellekt sistemleri ise olasılıksal modellər, derin sinir ağları, geri bildirim döngüleri və yeni məlumatlerle aktuallenen öyrənmə süreçleri kullanabilir. Bu sistemlərin davranışı yalnız ilk yazılım kodundan değil aşağıdaki unsurların birleşiminden doğabilir:

• Təlim məlumatları,
• model mimarisi,
• optimizasyon hedefleri,
• gerçek zamanlı çevresel girdiler,
• kullanıcı etkileşimleri,
• diğer algoritmalarla kurulan bağlantılar,
• dağıtım sonrasında gerçekleşen uyarlamalar.

Bu yapı, sistemin davranışını inkişaf etdirən kişinin dahi ayrıntılı biçimde açıklayamadığı durumlar yarada bilər. Makale bunu “algoritmik opaklık” və ya qara qutu problemi olaraq ele almaktadır.

Üç Özerklik Düzeyi

Tədqiqat süni intellekt sistemlerini muxtariyyət bakımından üç əsas düzeye ayırmaktadır.

Bu sınıflandırma, teknolojik bir ölçek olmanın yanı sıra hüquqi bir eşik olaraq kullanılmak üzere önerilmektedir. Yazara görə her yazılım və ya süni intellekt elektron hüquqi aktiv sayılmamalıdır. Böyle bir statü yalnız insan kontrolünün və geleneksel nedensellik zincirinin belirgin biçimde zayıfladığı sistemlər üçün düşünülmelidir.

Elektron Hüquqi Varlıq Statüsü İçin Önerilen Eşikler

Tədqiqat, muxtarliğin yalnız soyut kavramlarla değil, dağıtım öncesinde ölçülebilecek göstergelerle değerlendirilmesini təklif edir.

Epistemik Opaklık Endeksi

Bu gösterge, süni intellektnın qərarvermə sürecinin insan uzmanlar tarafından ne ölçüde yenidən oluşturulabildiğini qiymətləndirmək üçün önerilmektedir. İç modelin karmaşıklığı, birbirine bağlı değişken sayısı, doğrusal olmayan işlemler və sistemin öz kod və ya parametrelerini değiştirme düzeyi bu endeksin unsurları ola bilər.

Bir qərarın yalnız sonucunun bilinmesi yeterli deyildir. Sistemin hangi girdilere ne kadar ağırlık verdiği, hangi ara qiymətləndirməlerden geçtiği və hangi alternatifleri niyə dışladığı da hüquqi araşdırma bakımından mühüm ola bilər.

Operasyonel Hız və Kapsam

Bazı sistemlər saniyeler içinde binlerce qərar verebilir və ya aynı anda çox geniş bir ekonomik və fiziksel alanı etkileyebilir. Finans piyasaları, savunma sistemleri və kritik altyapılar buna nümunə gösterilmektedir.

İnsan gözetimi teorik olaraq mövcud olsa bile sistemin qərar hızı insanın anlamlı biçimde müdahale edebileceği kapasiteyi aşabilir. Tədqiqatya görə hüquq yalnız “insan denetimi var mı?” sorusunu değil, bu denetimin gerçek zamanlı və etkili olup olmadığını da sormalıdır.

Ortaya Çıkan Risk Profili

Bu ölçüt, sistemin denetimsiz uyarlamalarından və ya fərqli ağlarla etkileşiminden doğabilecek öngörülmemiş zərərların olasılığını və ölçeğini qiymətləndirməyi məqsəd daşıyır.

Bir süni intellektnın kiçik və geri döndürülebilir hataları ilə sağlık, savunma, enerji və ya küresel finans kimi alanlarda zincirleme nəticə doğurabilecek davranışları aynı hüquqi rejime tabi tutulmamalıdır.

Ancak məqalə bu üç ölçütün necə hesaplanacağını, hangi məlumat kümelerinin kullanılacağını və ya hangi sayısal eşiklerin elektron hüquqi aktiv statüsü doğuracağını belirlememektedir. Təklif konseptual düzeyde kalmaktadır.

Məsuliyyət Boşluğu Nedir?

Tədqiqatnın merkezindeki “məsuliyyət boşluğu”, avtonom bir sistemin zərər vermesine rağmen birbaşa məsul tutulabilecek insanın belirlenemediği hüquqi alanı ifadə edir.

Makale bu sorunu avtonom cerrahi robot örneğiyle açıklar. Bir cerrahi robot, əvvəlki operasyonlardan öğrendiği optimizasyon nedeniyle programlanmış rotadan saparak hastayı yaralayabilir. Bu durumda:

• Geliştirici zərərli sonucu amaçlamamıştır.
• Doktor və ya operatör iç qərar sürecini bilmiyor ola bilər.
• Sistem davranışı ilk dağıtımda öngörülememiş ola bilər.
• Algoritmanın özü mövcud hukukta bağımsız məsul şəxs deyildir.
• Hasta, açık bir sorumluya və kompensasiya kaynağına ulaşmakta zorlanabilir.

Tədqiqatya görə sorun yalnız hüquqi bir prosedür eksikliği deyildir. İnsanların eylemde bulunan özne, makinelerin ise kullanılan nesne olaraq sınıflandırıldığı geleneksel ayrım da sarsılmaktadır.

Dağıtılmış Nedensellik

Bir süni intellekt sisteminin zərər məlumatci davranışı tek bir kişinin eyleminden doğmayabilir. Məsuliyyət aşağıdaki aktörlere dağılmış ola bilər:

• Model mimarisini geliştirenler,
• yazılım modüllerini oluşturanlar,
• təlim məlumatlərini sağlayanlar,
• məlumatyi etiketleyenler,
• sistemi belirli məqsəd üçün uyarlayanlar,
• ürünü piyasaya süren qurum,
• sistemi kullanan qurum və ya şəxs,
• bakım, aktualleme və audit sorumluları.

Bu yapıda bütün aktörleri otomatik olaraq müştereken məsul tutmak zərərçəkən açısından güçlü bir koruma sağlayabilir; ancaq tədqiqat bunun yeniliği aşırı derecede caydırabileceğini bildirir. Hiç kimseyi məsul tutmamak ise zərərçəkənu tazminatsız bırakabilir.

Yazar bu iki uç arasında, insan sorumluluğunun devam ettiği ancaq sistemin özü üçün de ayrı bir hüquqi və mali araç oluşturulduğu hibrit modeli müdafiə edir.

Sorumluluğun Ahlaki Özellikten İlişkisel Yapıya Dönüşmesi

Tədqiqat, sorumluluğu yalnız bilinçli bir varlığın içsel ahlaki niteliği olaraq qiymətləndirməmektedir. Məsuliyyət; insanlar, kurumlar, algoritmalar, protokoller və audit mekanizmaları arasındaki ilişki içinde kurulabilir.

Bu yaklaşımda süni intellektnın gerçekten bilinçli, özgür iradeli və ya ahlaki özne olup olmadığı əsas koşul deyildir. Hüquq, karmaşık sistemlərin davranışlarını izlenebilir və sanksiyaa elməlumatşli hâle getirmek üçün kurumsal bir məsuliyyət yapısı yarada bilər.

Makale bu görüşü Niklas Luhmann’ın otopoietik sistemlər yaklaşımıyla ilişkilendirmektedir. Hüquq, ekonomi və teknoloji öz işleyiş mantıkları bulunan ancaq birbirleriyle iletişim kuran sistemlər olaraq ele alınmaktadır. Hukukun görəvi, teknolojik sistemlərin ürettiği məlumat, kod və qərarları hukuken değerlendirilebilir iletişim biçimlerine dönüştürmektir.

Klasik Ürün Sorumluluğu Niyə Yetersiz Görülüyor?

Ürün sorumluluğu, zərərın kusurlu tasarım, üretim və ya güvenlik eksikliğinden mənbəlandığı durumlar üçün geliştirilmiştir. Makale, süni intellekt zərərının her zaman sabit bir kusura dayanmayabileceğini müdafiə edir.

Bir sistem dağıtıldığı anda güvenli ola bilər; ancaq daha sonra yeni məlumatlerden öğrenerek zərərli bir qərar örüntüsü geliştirebilir. Bu durumda sorun ilk tasarım hatası mı, yetersiz audit mi, yanlış təlim məlumatsi mi, dağıtım sonrası değişim mi yoksa kullanım bağlamı mı olacaktır?

Tədqiqatnın yaklaşımına görə klasik ürün sorumluluğu xüsusilə üç nedenle zorlanmaktadır:

• Davranışın dağıtım sonrasında değişmesi,
• qərar sürecinin uzmanlar tarafından açıklanamaması,
• zərərın tek bir qüsur noktasına indirgenememesi.

Bu qiymətləndirmə bir hüquq sisteminin bütün mövcud məsuliyyət araçlarının etkisiz olduğu anlamına gelmemektedir. Makale, geleneksel rejimlerin yüksək muxtariyyət və opaklık düzeylerinde zərərçəkəna sürətli və öngörülebilir kompensasiya sağlamakta zorlanabileceğini irəli sürür.

Məhdud Elektron Hüquqi Varlıq Nedir?

Tədqiqatnın en özgün önerisi, yüksək düzeyde muxtar sistemlər üçün “Limited Electronic Legal Entity”, yani Məhdud Elektron Hüquqi Varlıq statüsüdür. PDF’de bu yapı ELE kısaltmasıyla anılmaktadır.

ELE, süni intellektnın insanla aynı ahlaki değere, şəxsiyyət hakkına və ya insan haklarına sahip olduğu anlamına gelmemektedir. Təklif yalnız belirli hüquqi işlevlerle sınırlıdır:

• Hüquqi olaraq tanımlanabilir bir rəqəmsal kimlik taşımak,
• belirli əmlak varlıklarına sahip olmak,
• sözleşmesel işlemlere taraf olabilmek,
• zərərların karşılanması üçün fond taşımak,
• audit və hesabatvermə yükümlülüklerine tabi olmak,
• operasyonel və mali sanksiyaların muhatabı olmak.

Yazar bu yapıyı şirkətlərin hüquqi kişiliğine benzetmektedir. Bir şirkət insan olmadığı hâlde haklara, borçlara, əmlak varlığına və hüquqi sorumluluğa sahip ola bilər. Benzer biçimde yüksək muxtariyyət taşıyan süni intellektya da yalnız operasyonel ihtiyaçlar üçün məhdud bir hüquqi kimlik məlumatlebileceği ileri sürülmektedir.

ELE Statüsünün Dörd Temel Unsuru

Hüquqi qeyd

Her elektron hüquqi varlığın rəqəmsal bir qurum belgesine sahip olması önerilmektedir. Bu belgede:

• Sistemin amacı,
• izin məlumatlen faaliyet alanı,
• yasaklanan qərar alanları,
• muxtariyyət seviyesi,
• risk sınıfı,
• məsul insan və ya qurum,
• audit və hesabatvermə yükümlülükleri

açık biçimde belirtilmelidir.

Əmlak varlığı və sermaye

ELE’nin yalnız soyut bir hüquqi etiket hâline gelmemesi üçün kompensasiya ödeyebilecek bir mali yapıya sahip olması önerilmektedir. Sistem tərtibatçılari, operatorleri və kullanıcıları məcburi sığorta və ya kompensasiya fonduna katkı yapabilir.

Denetlenebilirlik

Elektron hüquqi aktiv statüsünün İzaholunan Süni İntellekt araçları və rəqəmsal qara qutu bulundurma koşuluna bağlanması önerilmektedir. Sistemin qərarları qeyd altına alınamıyorsa və ya hüquqi araşdırma üçün açıklanamıyorsa yüksək muxtariyyət statüsünde tədqiqatsına izin məlumatlmemelidir.

İnsan nəzarətçii

Her ELE, məsuliyyət devamlılığını sağlayan bir insan və ya kurumsal nəzarətçie bağlanmalıdır. Bu şəxs şirkət rəhbərsine benzer biçimde sistemin mevzuata, güvenlik kurallarına və faaliyet sınırlarına uygunluğunu izlemelidir.

Zorunlu Sığorta və Kompensasiya Fonu

Tədqiqatya görə zərərçəkənun kompensasiya alabilmesi, karmaşık algoritmik nedensellik tartışmasının nəticəlanmasına bağlı olmamalıdır. Bu səbəbdən yüksək muxtariyyət taşıyan sistemlər üçün məcburi sığorta və ortak kompensasiya fondu önerilmektedir.

Fonun olası işleyişi şöyledir:

1. Geliştiriciler, sistemi dağıtan kuruluşlar və kullanıcılar risk düzeylerine görə katkı yapar.
2. Süni intellekt mənbəlı zərər meydana geldiğinde zərərçəkəna fondan ödeme yapılır.
3. Ödemenin yapılması üçün tek bir insanın kusurunun kesinleşmesi beklenmez.
4. Daha sonra kusurlu və ya yükümlülüğünü ihlal eden insan ya da qurum belirlenirse fond bu kişilere rücu edebilir.
5. Yüksek riskli sistemlər daha yüksək prim və ya sermaye yükümlülüğü taşır.

Bu yapı, trafik sigortası və ya yüksək riskli endüstrilerdeki kompensasiya mekanizmalarına benzetilmektedir. Məqsəd, yenilik yapan kuruluşların karşılaşacağı belirsizliği azaltırken zərərçəkənun zərərını sürətli biçimde karşılamaktır.

Elektron Hüquqi Varlıq Bir Sorumluluktan Kaçış Aracı Ola bilər mi?

ELE modeline yönelik en mühüm itirazlardan biri, şirkətlərin bütün sorumluluğu süni intellektya aktararak kendilerini koruması ihtimalidir. Yeterli varlığı bulunmayan elektron bir şəxsiyyət, zərər meydana geldiğinde boş bir kabuğa dönüşebilir.

Makale bu riski azaltmak üçün aşağıdaki mekanizmaları təklif edir:

• Zorunlu asgari sermaye və ya kompensasiya fondu,
• tərtibatçı və operator katkıları,
• insan nəzarətçiin devam eden sorumluluğu,
• qurum və işlemlerin denetlenebilir kaydı,
• yükümlülüğünü ihlal eden insanlara karşı rücu hakkı,
• sistemin faaliyet izninin sığorta və audit koşullarına bağlanması.

Yazar bu səbəbdən ELE’yi insan sorumluluğunu perdeleyen bir kalkan olaraq değil, riski görünür, kayıtlı və sanksiyaa açık hâle getiren bir “risk haznesi” olaraq tanımlamaktadır.

Niyə Yalnızca Kusursuz Məsuliyyət Yeterli Görülmüyor?

Kusursuz məsuliyyət, zərərçəkənun üretici və ya operatornin kusurunu sübutlamadan kompensasiya talep etmesini kolaylaştırabilir. Buna rağmen məqalə bunun iki əsas ihtiyacı karşılamadığını müdafiə edir.

Makineye özgü sanksiyalar

Kusursuz məsuliyyət ümumilikle insan və ya şirkətin ödeme yükümlülüğünü düzenler. Ancak zərərli davranış inkişaf etdirən sistemin belirli işlevlerden çıkarılması, yazılımının geri alınması və ya qərar alanının sınırlandırılması üçün ayrı bir hüquqi muhatap gerekebilir.

Teknik yönetişimin sisteme yerleştirilmesi

Kompensasiya yükümlülüğü, sistemin açıklanabilirlik, qeyd və sürekli audit altyapısına sahip olmasını kendiliğinden sağlamaz. Tədqiqatya görə ELE statüsü, faaliyet iznini birbaşa teknik denetlenebilirlik koşullarına bağlamak üçün kullanılmalıdır.

Bu görüş tədqiqatnın normativ gerekçesidir. ELE’nin gerçekten tek uygulanabilir araç olduğu empirik ya da karşılaştırmalı hüquq analiziyle sübutlanmış deyildir.

İnsanın Rolü: Operatörden Gözetmene

Yüksek düzeyde muxtar bir sistemde insan her qərarı birbaşa nəzarət edemeyebilir. Makale bu səbəbdən insanın rolünü “operatör” yerine “steward”, yani nəzarətçi və ya qəyyum olaraq yenidən tanımlar.

Gözetmenin görəvi tek tek bütün qərarları vermek değil, sistemin yaşam döngüsü boyunca güvenli və hukuka uygun kalmasını sağlamaktır.

Önerilen nəzarətçi sorumlulukları şunlardır:

• Riskleri düzenli biçimde qiymətləndirmək,
• model aktuallemelerini izlemek,
• qərəz və güvenlik testleri yaptırmak,
• qeyd sistemlerinin tədqiqatsını sağlamak,
• zərərli və ya olağan dışı davranışları raporlamak,
• gerekli durumlarda sistemi sınırlandırmak və ya durdurmak,
• kamusal açıklamaların gerçek sistem kapasitesiyle uyumlu olmasını denetlemek.

Algoritmik Bakım Yükümlülüğü

Tədqiqat insan nəzarətçi üçün “duty of algorithmic care”, yani alqoritmik qayğı öhdəliyi təklif edir. Bu yükümlülük, öngörülebilir zərərları önlemek amacıyla sistemi izleme, aktualleme və gerektiğinde yenidən eğitme yönünde pozitif bir görəvdir.

Gözetmen yalnız sistem arızalandıktan sonra məsul tutulmamalıdır. Yeterli denetimi kurmamak, bilinen güvenlik açığını gidermemek və ya açıklanabilirlik kayıtlarını korumamak da ihlal sayılabilir.

Makale ayrıca sistemin yetenekleri hakkında yapılan kamusal açıklamaların rəqəmsal qara qutu kayıtlarıyla doğrulanması gerektiğini savunur. Bir kuruluşun süni intellekt kullandığını və ya sistemin belirli yeteneklere sahip olduğunu gerçeğe aykırı biçimde iddia etmesi “AI-washing” olaraq ele alınmaktadır.

Elektron Şəxsiyyət Ahlaki Şəxsiyyət Deyildir

Süni intellektya hüquqi şəxsiyyət məlumatlmesine karşı çıkanlar, bunun makineleri insanlaştıracağını və ya insan onurunu zayıflatacağını ileri sürebilir. Tədqiqat bu itiraza, ELE’nin ahlaki tanıma değil işlevsel gerekliliğe dayandığını söyleyerek karşılık vermektedir.

ELE modeline görə süni intellekt:

• İnsan onuruna sahip olmaz.
• İnsan haklarının tamamını kazanmaz.
• Ahlaki acı və ya cezalandırılma deneyimi yaşadığı varsayılmaz.
• Siyasi hak elde etmez.
• İnsan sorumluluğunu ortadan kaldırmaz.

Statü yalnız sistemin kompensasiya, qeyd, sözleşme, audit və sanksiya mekanizmalarına bağlanması üçün yaradılan hüquqi bir kurgu olaraq tasarlanmaktadır.

Yazar bu səbəbdən ELE’yi süni intellektya özgürlük veren bir kurumdan çox, muxtarliği sınırlandıran bir “çevreleme mekanizması” olaraq görmektedir.

Süni intellekt Suç İşleyebilir mi?

Ceza hukukunda məsuliyyət ümumilikle suç teşkil eden eylemin yanı sıra “mens rea”, yani suç kastı və ya kusurlu zihinsel durum gerektirir. Güncel süni intellekt sistemlerinin bilinçli niyyət və ya ahlaki suçluluk taşıdığı kabul edilmediği üçün tədqiqat onların insanlar kimi suçlu sayılamayacağını bildirir.

Buna rağmen bir süni intellektnın davranışı insan suçuna benzer ölçekte zərər istehsal edə bilər. Tədqiqatnın çözümü, insan ceza sorumluluğunu korurken süni intellektya teknik sanksiyalar uygulanmasıdır.

Maşın Eylemlerinden Doğan Dolaylı İnsan Sorumluluğu

Makale insan sorumluluğunu üç başlık altında düzenlemektedir.

Programlama və ya yönlendirme sorumluluğu

Geliştirici ya da kullanıcı, zərərli nəticə doğuracağını öngörəbileceği talimatlar, hədəflər və ya sistem ayarları oluşturmuşsa məsul tutulabilir.

İhmalkâr gözetim

Gözetmen, bilinen arıza, ayrımcılık və ya güvenlik sorununu tespit etmek ya da gidermek üçün gerekli önlemleri almamışsa məsuliyyət doğabilir.

Tehlikeli yetki devri

Bir qurum, güçlü bir sistemi yeterli güvenlik, audit və ya qeyd mekanizması olmadan sağlık, savunma ya da finans kimi yüksək riskli bir alanda kullanırsa ihmalkâr yetki devri yaptığı kabul edilebilir.

Tədqiqat bu yapıyı şirkət rəhbərlərinin qanunvericilik ihlallerini önleme görəvine ilişkin məsuliyyət doktrinleriyle ilişkilendirmektedir. Sistem karmaşık olsa bile yetki və önleme qabiliyyəti bulunan şəxslər tamamen məsuliyyət dışında kalmamalıdır.

Süni intellektya Uygulanabilecek Yaptırımlar

Makalenin önerdiği sanksiya sistemi üç gruba ayrılmaktadır.

Operasyonel Durdurma və Devre Dışı Bırakma

Bir sistemin ciddi və ya yakın tehlike oluşturması durumunda geçici olaraq tədqiqatsının durdurulması önerilmektedir. Durdurma kalıcı olmak zorunda deyildir. Sistemin hatası incelenip güvenli olduğu doğrulandıktan sonra yenidən tədqiqatsına izin məlumatlebilir.

Bu sanksiyaın uygulanabilmesi üçün sistemin teknik olaraq durdurulabilir olması gerekir. Tamamen merkezi olmayan və ya kendisini fərqli ağlara kopyalayabilen sistemlerde bu koşulun necə sağlanacağı tədqiqat tarafından ayrıntılı biçimde açıklanmamaktadır.

Kodun Geri Alınması və Yenidən Programlama

Bir aktualleme sonrasında zərərli davranış oluşmuşsa sistemin əvvəlki güvenli yazılım sürümüne döndürülmesi önerilebilir. Hatalı hədəf fonksiyonları, güvenlik sınırları və ya məlumat işleme süreçleri yenidən programlanabilir.

Bu yaklaşım yazılım davranışını düzeltmeye yöneliktir; ancaq karmaşık maşın öğrenmesi sistemlerinde hangi değişikliğin zərərı ortadan kaldıracağı her zaman açık olmayabilir.

Algoritmik Kilitleme

Sistem bütünüyle kapatılmadan yalnız sorunlu qərar alanından çıkarılabilir. Örneğin:

• Finansal işlem yapması durdurulabilir.
• Tıbbi qərarverməsi sınırlandırılabilir.
• Fiziksel araç kontrolü elinden alınabilir.
• Belirli məlumat kümelerine erişimi kesilebilir.
• İnsan onayı olmadan işlem yapması engellenebilir.

Bu metod, sistemin güvenli bölümlerinin tədqiqatsına devam etmesine izin məlumatrken riskli işlevi sınırlandırmayı məqsəd daşıyır.

Rəqəmsal Varlıkların Dondurulması

ELE’nin rəqəmsal cüzdan, gelir və ya başka mali varlıklar taşıdığı varsayımında düzenleyici kurumların bu varlıkları dondurabilmesi önerilmektedir. Dondurulan varlıklar zərərçəkən tazminatı və ya güvenlik iyileştirmeleri üçün kullanılabilir.

Bu təklif, süni intellekt sisteminin ekonomik işlem yapabilen və kendisine tahsis edilmiş varlığı bulunan bir hüquqi yapı içinde faaliyet göstereceği varsayımına dayanmaktadır. Bugünkü bütün süni intellekt sistemleri böyle bağımsız bir mali yapıya sahip deyildir.

Etik Yenidən Təlim

Tədqiqat belirli ayrımcı, güvensiz və ya hüquq dışı davranışların, sistemin yeni məlumatler və kurallarla yenidən eğitilmesi yoluyla düzeltilmesini “etik yenidən təlim” olaraq tanımlamaktadır.

Bu sanksiya aşağıdaki işlemleri içerebilir:

• Daha dengeli təlim məlumatləri kullanmak,
• güvenlik və adalet hedeflerini yenidən ağırlıklandırmak,
• yasaklı qərar örüntülerini belirlemek,
• insan onayı gerektiren alanları artırmak,
• yenidən dağıtımdan önce bağımsız uygunluk testi yapmak.

Ancak “etik” kavramının hangi hüquq düzenine, kültüre və ya normativ ölçüte görə belirleneceği tədqiqat tarafından ayrıntılı biçimde çözülmemektedir.

Yaptırımlar Necə Tetiklenecek?

Makale sanksiya sisteminin hüquqi və teknolojik unsurları birleştirmesi gerektiğini müdafiə edir.

• Önceden belirlenmiş eşikler: Hata nisbətı, güvenlik ihlali və ya faaliyet sınırının aşılması belirli sanksiyaları otomatik olaraq gündeme getirebilir.
• Sürekli alqoritmik audit: Sistem davranışındaki olağan dışı değişimler erken aşamada tespit edilebilir.
• İnsan hüquqi incelemesi: Yaptırım qərarının nisbəttılılığı, hukuka uygunluğu və savunma hakkı insanlardan oluşan heyət tarafından değerlendirilmelidir.

Tədqiqat otomatik sanksiyaların insan denetimini tamamen ortadan kaldırmaması gerektiğini vurgulamaktadır. Sistem bir eşik ihlali nedeniyle geçici olaraq durdurulabilse bile daha uzun müddətli və ya ağır sanksiya üçün hüquqi araşdırma yapılmalıdır.

Risk Kademelendirmesi və Orantılılık

Bütün süni intellekt sistemlerine aynı sanksiya uygulanmamalıdır. Tədqiqat üç ilke təklif edir:

• Risk kademelendirmesi: Yüksek muxtariyyət və yüksək etki taşıyan sistemlər daha sıkı kurallara tabi olmalıdır.
• Kademeli tepki: Kiçik ihlaller uyarı və ya yenidən eğitimle, ağır və ya tekrarlanan ihlaller durdurma və aktiv dondurmayla karşılanmalıdır.
• Orantılılık: Yaptırımın ağırlığı, zərərın büyüklüğü, tekrarlanma ihtimali və öngörülebilirliğiyle uyumlu olmalıdır.

Bu yapı yeniliği tamamen durdurmadan güvenliği sağlamayı məqsəd daşıyır. Bununla birlikdə tədqiqatda hangi ihlalin hangi sanksiyaı tetikleyeceğine ilişkin ayrıntılı bir sanksiya matrisi mövcud deyil.

İzaholunan Süni İntellekt Niyə Hüquqi Bir Araçtır?

İzaholunan Süni İntellekt, bir sistemin niyə belirli sonuca ulaştığının insanlar tarafından anlaşılmasını sağlamaya çalışan metodler bütünüdür.

Tədqiqatya görə XAI yalnız teknik geliştirme və ya kullanıcı güveni aracı deyildir. Aşağıdaki hüquqi işlevleri de taşımalıdır:

• Mahkemenin qərar sürecini inceleyebilmesi,
• zərərçəkənun süni intellekt qərarına itiraz edebilmesi,
• denetçinin sistemin faaliyet sınırlarına uyup uymadığını qiymətləndirməsi,
• nedensellik və kusurun araştırılması,
• sanksiyaın hangi davranışa dayandığının gösterilmesi.

Yazar yüksək riskli süni intellektlar üçün açıklanabilirlik sertifikasının faaliyet lisansının ön koşulu olmasını təklif edir.

LIXAI Standardı

Tədqiqat “Legal Explainable AI”, yani hüquqi açıklanabilir süni intellekt üçün LIXAI adını verdiği bir standart təklif edir.

Bu standarda görə açıqlama:

• Yalnızca teknik uzmana değil, məhkəməye və etkilenen kişiye de anlaşılır olmalıdır.
• Kararın məlumatldiği bağlamı göstermelidir.
• Önemli girdileri və modelin güven düzeyini içermelidir.
• Hüquqi incelemeye uygun biçimde qeyd altına alınmalıdır.
• Etkilenen kişinin qərara itiraz etme hakkını desteklemelidir.

LIXAI, mövcud və uluslararası olaraq kabul edilmiş bir teknik standart şeklinde sunulmamalıdır. PDF’de geliştirilen və ya önerilen hüquqi bir ölçüttür.

Rəqəmsal Qara Qutu

Makale, yüksək muxtariyyət taşıyan sistemlərin uçaklardaki uçuş qeyd cihazlarına benzer rəqəmsal qara qutular bulundurmasını təklif edir.

Rəqəmsal qara qutunun kaydetmesi gereken unsurlar şunlardır:

• Sensör və məlumat girdileri,
• qərar zamanları,
• mühüm algoritmik etkinleşmeler,
• çıxışlar və gerçekleştirilen eylemler,
• yazılım sürümleri və aktuallemeler,
• insan müdahaleleri,
• güven və risk ölçümleri,
• diğer sistemlerle kurulan bağlantılar.

Kara Kutunun Teknik Özellikleri

Tədqiqat kayıtların değiştirilemez, şifrelenmiş və yedekli olması gerektiğini bildirir. Sistem zərər verdikten sonra kayıtların silinmesi və ya değiştirilmesi önlenmelidir.

Farklı donanım və yazılım bileşenlerinin kayıtları ortak zaman çizelgesinde birleştirilebilmelidir. Uluslararası sistemlerde qeyd biçimlerinin fərqli ülkelerdeki audit və yargılama süreçleriyle uyumlu olması gerekir.

Kara Kutu Verisinin Mahkemede Kullanılması

Teknik kaydın bulunması tek başına yeterli deyildir. Mahkemelerin bu kaydı sübut olaraq kabul edebilmesi üçün:

• Qeyd bütünlüğü,
• kimlerin məlumatye eriştiği,
• sübut zinciri,
• zaman damgalarının etibarlıliği,
• şifreleme və kimlik doğrulama süreçleri,
• qeyd sisteminin bağımsız denetimi

kimi ölçütlerin hukuken belirlenmesi gerekir.

Makale, XAI ilə qara qutunun birbirini tamamladığını savunur. XAI qərarın rasyonel açıklamasını, qara qutu ise olayların değiştirilemez teknik kaydını sağlamalıdır.

AI-Washing və Yanlış Kurumsal Beyanlar

Rəqəmsal qara qutu yalnız sistem arızasını tədqiqatk üçün önerilmemektedir. Bir qurum süni intellekt kullandığını, sistemin belirli bir başarı nisbətına sahip olduğunu və ya insan müdahalesine ihtiyaç duymadığını iddia edebilir.

Değiştirilemez operasyon kayıtları bu beyanların gerçek sistem davranışıyla karşılaştırılmasını sağlayabilir. Tədqiqat, süni intellekt yeteneklerini gerçeğe aykırı biçimde büyütmeyi və ya süni intellekt kullanımını yanlış tanıtmayı “AI-washing” olaraq adlandırmaktadır.

Algoritmik Audit

Tədqiqat hesap verebilirliğin yalnız zərər sonrasında məhkəməye bırakılmaması gerektiğini müdafiə edir. Algoritmik audit üç düzeyde önerilmektedir.

Süni intellekt dağıtım sonrasında öğrenmeye devam ediyorsa yalnız ilk uygunluk testinden geçmesi yeterli olmayabilir. Davranış değiştikçe denetimin de devam etmesi gerekir.

Sübut Zinciri

Tədqiqatnın bütünleşik yönetişim modeli üç mekanizmayı bir sübut zinciri olaraq birleştirir:

1. XAI: Kararın niyə və necə məlumatldiğine ilişkin şərhlanabilir açıqlama üretir.
2. Rəqəmsal qara qutu: Gerçek girdileri, eylemleri və zaman çizelgesini değiştirilemez biçimde kaydeder.
3. Algoritmik audit: Açıqlama və kayıtların doğruluğunu bağımsız biçimde değerlendirir.

Zərər gerçekleştiğinde bu zincir kompensasiya fondunun devreye girmesi, insan nəzarətçiin sorumluluğunun belirlenmesi və süni intellektya uygulanacak teknik sanksiyaın seçilmesi üçün kullanılabilir.

Mahremiyet Sorunu

Kara kutular ayrıntılı məlumat toplarken kişilerin sağlık, finans, konum, iletişim və ya davranış bilgilerini kaydedebilir. Bu səbəbdən hesabatlılıq amacıyla kurulan qeyd sistemi yeni bir gözetim riskine dönüşebilir.

Makale qara qutuların məlumat koruma kurallarına uyması gerektiğini bildirir. Ancak hangi məlumatların kaydedileceği, ne kadar süre saklanacağı, kimlerin erişeceği və mahremiyet ilə sübut ihtiyacı arasındaki denge ayrıntılandırılmamıştır.

Önyargı və Ayrımcılık

Algoritmik denetimin yalnız teknik hata nisbətını değil, belirli toplumsal gruplara karşı sistematik ayrımcılık ihtimalini de incelemesi önerilmektedir.

Bir süni intellekt sistemi ümumi olaraq yüksək doğruluk gösterirken belirli cinsiyet, etnik grup, yaş və ya sosyoekonomik konum üçün daha çox hata yapabilir. Tədqiqatya görə böyle örüntüler sistemin güvenlik və hüquq uygunluğunun parçası olaraq değerlendirilmelidir.

Hüquqi Süreç və İnsan İncelemesi

Makale, süni intellektya karşı sanksiyaın başka bir algoritma tarafından tamamen otomatik məlumatlmesine karşı ihtiyatlıdır. Otomatik izleme bir ihlali belirleyebilir və ya geçici koruma tedbirini tetikleyebilir; ancaq ağır sanksiyalar insan hüquqi incelemesinden geçmelidir.

Bu araşdırma aşağıdaki ilkeleri korumalıdır:

• Orantılılık,
• savunma və itiraz hakkı,
• delilin etibarlıliği,
• qərarın gerekçelendirilmesi,
• hatalı sanksiyaın geri alınabilmesi,
• etkilenen kişilerin haklarının korunması.

Uluslararası Uyumlaştırma

Süni intellekt sistemleri bir ülkede geliştirilebilir, başka ülkedeki sunucularda çalışabilir və çox sayıda ülkedeki kişileri etkileyebilir. Bu səbəbdən yalnız ulusal qeyd və sanksiya sistemlerinin yeterli olmayabileceği ileri sürülmektedir.

Tədqiqat aşağıdaki konularda uluslararası uyum önerir:

• Özerklik və risk eşikleri,
• ELE qeyd sistemi,
• sığorta və kompensasiya kuralları,
• XAI və qara qutu standartları,
• denetçi kuruluşların karşılıklı tanınması,
• sübut paylaşımı,
• sərhəd ötesi sanksiya və aktiv dondurma.

Bu uyumlaştırma önerisi gelecek siyasətsı niteliğindedir. Makale ayrıntılı bir uluslararası anlaşma metni və ya yetki çatışması çözümü sunmamaktadır.

Tədqiqatnın Önerdiği Genel Yönetişim Mimarisi

Tədqiqatnın Siyasət Önerileri

Makale yeddi ana siyasət önerisi geliştirmektedir:

1. Belirlenen muxtariyyət eşiğini aşan süni intellektlar üçün zorunlu ELE kaydı və lisanslama.
2. Yüksek muxtariyyət taşıyan sistemlər üçün məcburi sığorta və kompensasiya fondu.
3. XAI ilə rəqəmsal qara qutunun dağıtım ön koşulu hâline getirilmesi.
4. Operasyonel, mali və önleyici sanksiyalar içeren kademeli protokoller.
5. İç və bağımsız alqoritmik auditlerin zorunlu olması.
6. Ülkeler arasında ortak məsuliyyət və uygulama standartları inkişaf etdirilməsi.
7. Mahremiyet, ayrımcılık, insan denetimi və hüquqi süreç güvencelerinin bütün sistemlerde korunması.

Tədqiqatnın Güçlü Yönleri

• Süni intellekt sorumluluğunu yalnız kompensasiya sorunu olaraq değil, tasarım, lisanslama, audit və sanksiya yaşam döngüsü olaraq ele alması.
• Özerkliğin tek bir kategori olmadığını, fərqli düzeylerde değerlendirilmesi gerektiğini belirtmesi.
• Mağdurun tazminatını qüsur və algoritmik nedensellik tartışmasından kısmen ayıran sığorta modeli önermesi.
• Elektron hüquqi kişiliği ahlaki insan kişiliğinden ayırmaya tədqiqatsı.
• İnsan sorumluluğunun ELE statüsüyle ortadan kalkmaması gerektiğini vurgulaması.
• Açıklanabilirlik, qeyd və bağımsız denetimi hüquqi sübut altyapısının parçası hâline getirmesi.
• Süni intellektya özgü, teknik olaraq uygulanabilir sanksiya türleri geliştirmesi.
• AI-washing və yanlış kurumsal beyanları qara qutu kayıtlarıyla ilişkilendirmesi.
• Hadisə sonrası sorumluluğun yanı sıra zərər öncesi yönetişime odaklanması.
• Mahremiyet, ayrımcılık, nisbəttılılık və insan incelemesini aynı çerçevede tutmaya tədqiqatsı.

Tədqiqatnın Temel Sınırlılıkları

• Tədqiqat rəyçi qiymətləndirməsinden geçtiği doğrulanmamış bir SSRN tədqiqat kâğıdıdır.
• Ampirik tədqiqat, gerçek hadisə məlumat seti və ya düzenleyici etki analizi mövcud deyil.
• Karşılaştırmalı hüquq metodi ayrıntılı biçimde uygulanmamıştır.
• Belirli ülkelerin medeni və ceza hukuku sistemleri sistematik olaraq karşılaştırılmamaktadır.
• Önerilen epistemik opaklık, operasyonel hız və ortaya çıkan risk ölçütleri sayısallaştırılmamıştır.
• ELE statüsünün hangi makam tarafından və hangi usulle məlumatleceği ayrıntılandırılmamıştır.
• Elektron hüquqi varlığın sözleşme yapması və əmlak varlığı taşımasının teknik-hüquqi uygulaması gösterilmemiştir.
• ELE’nin insan və şirkətlər üçün sorumluluktan kaçış aracına dönüşme riski tam olaraq çözülememiştir.
• Sığorta primlerinin və fond katkılarının necə hesaplanacağı açıklanmamıştır.
• Nadir fakat çox böyük zərərların fonu aşması ihtimali incelenmemiştir.
• Makineye sanksiya uygulanmasının caydırıcılık etkisi teorik olaraq yeterince tartışılmamıştır.
• Bir süni intellektnın “cezadan kaçınma” və ya ahlaki kınama deneyimi bulunmadığı üçün sanksiyaın asıl etkisi yine tərtibatçı və operatorlere yansıyabilir.
• Etik yenidən eğitimin hangi məlumat, dəyər və hüquq sistemine görə yapılacağı belirsizdir.
• XAI açıklamalarının karmaşık modelleri her zaman etibarlı biçimde təmsil edip edemeyeceği tartışılmamıştır.
• Açıklanabilirlik ilə ticari sır, siber güvenlik və mahremiyet arasındaki çatışmalar ayrıntılı çözülmemiştir.
• Kara kutuda hangi məlumatların ne kadar süre saklanacağı belirlenmemiştir.
• Blokzincir tabanlı qeyd sisteminin zorunluluğu və ya diğer qeyd metodlerine üstünlüğü gösterilmemiştir.
• Merkezi olmayan və ya fərqli ağlara kopyalanabilen sistemlere sanksiyaın necə uygulanacağı açıklanmamıştır.
• Süper zekâ və süper muxtariyyət bölümü böyük ölçüde varsayımsal teknoloji senaryolarına dayanmaktadır.
• Uluslararası uyumlaştırma önerisi uygulanabilir bir antlaşma və ya yetki paylaşımı modeli içermemektedir.
• Tədqiqat AB Süni intellekt Yasası’nı mənbəçada hâlâ “proposal” olaraq göstərir.
• AB Süni intellekt Yasası, tədqiqatda önerilen ELE, uyarlanabilir maşın sanksiyaı və ya kompensasiya fondu modelini mövcud hüquq olaraq kurmamaktadır.
• Kaynakçada belirtilen bazı eserlerin tam bibliyografik doğruluğu və izlenebilirliği ayrıca nəzarət edilmelidir.

Tədqiqat Ne Söylüyor?

• Yüksek muxtariyyət taşıyan süni intellektların geleneksel məsuliyyət zincirini zayıflatabileceğini söylüyor.
• İnsan kusuru belirlenemediğinde zərərçəkənun tazminatsız kalabileceği bir məsuliyyət boşluğu oluşabileceğini savunuyor.
• Sorumluluğun insanlar, kurumlar və teknik sistemlər arasında dağıtılmış bir ilişki olaraq ele alınmasını öneriyor.
• Belirli süni intellektlara məhdud və işlevsel elektron hüquqi aktiv statüsü məlumatlmesini öneriyor.
• Bu statünün insan kişiliği və ya ahlaki haklar anlamına gelmediğini belirtiyor.
• Zorunlu sığorta və kompensasiya fondunun zərərçəkənların zərərını karşılaması gerektiğini savunuyor.
• İnsan nəzarətçilerin alqoritmik qayğı öhdəliyine sahip olması gerektiğini ileri sürüyor.
• Süni intellektya durdurma, kod değişikliği, aktiv dondurma və etik yenidən təlim kimi teknik sanksiyalar uygulanmasını öneriyor.
• XAI, rəqəmsal qara qutu və alqoritmik auditi hüquqi hesap verebilirliğin zorunlu altyapısı olaraq görüyor.
• Otomatik sanksiyaların insan hüquqi incelemesini və adil süreç güvencelerini ortadan kaldırmaması gerektiğini söylüyor.

Tədqiqat Ne Söylemiyor?

• Bugünkü süni intellektların bilinçli və ya ahlaki şəxslər olduğunu sübutlamıyor.
• Süni intellektya insan haklarının məlumatlmesi gerektiğini savunmuyor.
• ELE statüsünün mövcud hukukta kabul edilmiş ümumi bir qurum olduğunu göstermiyor.
• AB Süni intellekt Yasası’nın elektron şəxsiyyət oluşturduğunu söyleyen geçerli bir qanunvericilik hükmü sunmuyor.
• Bütün süni intellekt sistemlerinin bağımsız hüquqi şəxsiyyət taşıması gerektiğini ileri sürmüyor.
• Klasik ürün və kusursuz məsuliyyət rejimlerinin bütün durumlarda tamamen işlemez olduğunu empirik olaraq sübutlamıyor.
• Hangi muxtariyyət seviyesinin elektron şəxsiyyət üçün yeterli olduğunu sayısal biçimde belirlemiyor.
• Önerilen kompensasiya fondunun gerçek maliyetini və ya sürdürülebilirliğini hesaplamıyor.
• Makineye uygulanan sanksiyaların zərərları azalttığını gösteren eksperimental nəticə sunmuyor.
• LIXAI’nin qüvvədə olan uluslararası bir standart olduğunu göstermiyor.
• Rəqəmsal qara qutunun bütün süni intellekt qərarlarını eksiksiz açıklayabileceğini sübutlamıyor.
• Süper zekânın yakın zamanda kesin olaraq ortaya çıkacağını öngörən empirik bir model sunmuyor.
• Belirli bir ülke üçün birbaşa uygulanabilir yasa maddeleri hazırlamıyor.

Gündelik Yaşam və Kurumlar Açısından Önemi

Tədqiqatnın ortaya koyduğu suallar yalnız gelecekteki süper zekâ sistemleriyle ilgili deyildir. Sağlık, kredi, sığorta, işe alım, ulaşım və kamu hizmetlerinde kullanılan süni intellektlar bugün de insanların hayatını etkileyen qərarlar verebilir.

Bir qurum süni intellekt kullandığında bu suallar önem kazanır:

• Sistemin hangi qərarları insan onayı olmadan verebildiği açık mı?
• Yanlış qərar durumunda məsul şəxs və ya birim önceden belirlenmiş mi?
• Sistemin girdileri, çıktıları və sürüm değişiklikleri qeyd altına alınıyor mu?
• Etkilenen şəxs qərarın nedenini öğrenebiliyor mu?
• Karara itiraz edilebilecek insan kanalı bulunuyor mu?
• Sistem fərqli toplumsal gruplar üçün ayrı ayrı test edilmiş mi?
• Zərər ortaya çıktığında kompensasiya kaynağı mövcud mu?
• Sistemi geçici olaraq durduracak teknik yetki kimin elinde?
• Kuruluşun sistem hakkında yaptığı açıqlamalar gerçek kayıtlarla doğrulanabiliyor mu?
• Süni intellekt aktuallendikten sonra yenidən uygunluk qiymətləndirməsi yapılıyor mu?

Bunlar tədqiqatda doğrulanmış bir nəzarət listesi və ya yürürlükteki qanunvericilik hükümleri deyildir. Makalenin techno-hüquqi yönetişim yaklaşımından çıkarılabilecek qiymətləndirmə sorularıdır.

Tədqiqatnın Yöntemi və Bulguları

Araştırma Tasarımı

Tədqiqatnın Dörd Bölümlü Analitik Yapısı

1. Kavramların tanımlanması: Süni intellekt muxtarliği, algoritmik opaklık və məsuliyyət boşluğu açıklanmıştır.
2. Özel hüquq sorumluluğu: Klasik qüsur və ürün sorumluluğu eleştirilmiş, ELE ilə sığorta fonu önerilmiştir.
3. Ceza sorumluluğu və sanksiyalar: İnsanların dolayı sorumluluğu və süni intellektya özgü teknik sanksiyalar geliştirilmiştir.
4. Araştırma və nəzarət altyapısı: XAI, rəqəmsal qara qutular və alqoritmik auditler bütünleşik yönetişim sistemi olaraq sunulmuştur.

Tədqiqatnın Geliştirdiği Başlıca Kavramlar

Tədqiqatnın Başlıca Kuramsal Sonuçları

Modelin Ampirik Olaraq Sınanması İçin Gerekenler

• Gerçek süni intellekt olaylarında nedensellik və məsul aktörlerin necə belirlendiği incelenmelidir.
• Farklı ülkelerdeki ürün, kusursuz və mesleki məsuliyyət rejimleri karşılaştırılmalıdır.
• ELE modelinin zərərçəkən kompensasiya süresi və maliyeti üzerindeki etkisi modellenmelidir.
• Elektron kişiliğin şirkətlər tarafından sorumluluktan kaçış amacıyla kullanılıp kullanılamayacağı test edilmelidir.
• Epistemik opaklık və operasyonel hız üçün ölçülebilir göstergeler geliştirilmelidir.
• Özerklik eşiği üçün fərqli sektörlerde ayrı kriterler belirlenmelidir.
• Sığorta primleri üçün zərər olasılığı və zərər büyüklüğü modelleri kurulmalıdır.
• Rəqəmsal qara qutu kayıtlarının bütünlüğü və məhkəməde kullanılabilirliği sınanmalıdır.
• XAI açıklamalarının gerçek model davranışıyla ne ölçüde uyumlu olduğu değerlendirilmelidir.
• Otomatik sanksiya tetikleyicilerinin hata və kötüye kullanım nisbətları ölçülmelidir.
• Etik yenidən eğitimin zərərli davranışı gerçekten azaltıp azaltmadığı araştırılmalıdır.
• ELE və insan nəzarətçi arasındaki məsuliyyət paylaşımı nümunə davalarla sınanmalıdır.
• Uluslararası qeyd və sanksiya sistemlerinin məlumat koruma hukukuyla uyumu incelenmelidir.
• Yaptırım uygulanmasının kullanıcılar, çalışanlar və üçüncü şəxslər üzerindeki yan etkileri araştırılmalıdır.

Bilimsel Statünün Sonuçlara Etkisi

Tədqiqat geniş və özgün bir yönetişim mimarisi təklif edir; ancaq modelin uygulanabilirliğine ilişkin yeni məlumat sunmamaktadır. Bu səbəbdən nəticəlar yürürlükteki hukukun açıklaması və ya belirli düzenlemelerin etkinliğinin sübutı olaraq değil, gelecekteki hüquq tasarımı üçün oluşturulmuş normativ təkliflər olaraq değerlendirilmelidir.

Tədqiqatnın en güçlü katkısı, kompensasiya, sanksiya və teknik sübut altyapısını tek model içinde birleştirmesidir. En böyük eksikliği ise önerilen kurumların gerçek hüquq sistemlerinde necə uygulanacağını, maliyetini, yan etkilerini və alternatif modellere üstünlüğünü empirik ya da karşılaştırmalı biçimde göstermemesidir.

Kaynak və Yöntem Notu

Tədqiqatnın tam özgün adı:Post-Human Law: Redefining Responsibility in the Era of Autonomous Artificial Intelligence

Yazarların tam listesi və sıralaması: Abulgasem Al Mashai. Tədqiqat tek yazarlıdır.

Eş katkı və ya eş birinci müəlliflik: Yoktur.

Kurumsal bağlantı: Libyan Authority for Scientific Research, Libya.

PDF’deki tədqiqat alanı ifadesi: “Interdisplinary Research”. İfade belgede bu yazımla mövcuddur.

Məsul və ya iletişim yazarı: PDF’de ayrıca bir “corresponding author” işareti mövcud deyil. SSRN kaydı Abulgasem Al Mashai’yi “Contact Author” olaraq göstərir.

Tədqiqatnın yazım tarihi: 30 Ekim 2025.

SSRN’ye yüklenme tarihi: 17 Kasım 2025.

DOI: 10.2139/ssrn.5716462.

Yayın platformu: SSRN.

Dergi: Hakemli bir dergi bilgisi mövcud deyil.

Konferans: Bir konferans yayını bilgisi mövcud deyil.

Kaynak türü: Kavramsal, normativ və disiplinler arası tədqiqat kâğıdı.

Hakemlik durumu: Hakem qiymətləndirməsinden geçmiş bir yayın olduğu doğrulanamamıştır. Tədqiqat SSRN tədqiqat kâğıdı olaraq değerlendirilmelidir.

Səhifə sayısı: 19.

Kaynakça: PDF’de 22 bibliyografik qeyd mövcuddur.

Resmî SSRN bağlantısı:Post-Human Law – SSRN tədqiqat kaydı

DOI bağlantısı:10.2139/ssrn.5716462

Süni intellekt kullanım açıklaması: Yazar, generativ süni intellekt və böyük dil modellerinin teknik olmayan bölümlerin taslağına, dilsel açıklığın artırılmasına və məqalənin ilk yapısının düzenlenmesine yardımcı olduğunu belirtmiştir. Temel konseptual fikirlerin, hüquqi analizin, eleştirel savların və nəticələrin kendisine ait olduğunu; bütün çıktıları inceleyip mühüm ölçüde düzenlediğini və içerik sorumluluğunu üstlendiğini açıklamıştır.

Bu Türkçe məqalə, yüklenen 19 sayfalık PDF’nin bütün metni, bölüm yapısı, siyasət önerileri, kavram sözlüğü, süni intellekt açıklaması və mənbəçası incelenerek hazırlanmıştır. PDF’de bulunmayan bir eksperimental nəticə, məhkəmə qərarı, kabul edilmiş yasa maddesi və ya uygulama başarısı eklenmemiştir.

Tədqiqatda “Elektron Hüquqi Varlıq”, “LIXAI Standardı”, “alqoritmik qayğı öhdəliyi”, “uyarlanabilir süni intellekt sanksiyaı” və “etik yenidən təlim” olaraq sunulan kavramlar, mövcud və ümumi kabul görmüş hüquq kurumları olaraq değil, yazarın normativ modelinin unsurları olaraq aktarılmıştır.

Tədqiqatnın mənbəçasında Avrupa Birliği Süni intellekt Yasası “proposal” olaraq tanımlanmaktadır. Oysa bu düzenleme 2024/1689 sayılı AB Tüzüğü olaraq kabul edilmiş və yürürlüğe girmiştir. Tədqiqatda önerilen ELE modeli və süni intellektya özgü sanksiyalar AB Süni intellekt Yasası’nın kurduğu mövcud hüquqi mekanizmalar deyildir.

PDF’de Süni intellekt Məsuliyyət Direktifi önerisinin geri çekilmesine değinilmektedir. Teklif Ekim 2025’te resmen geri çekilmiştir. Bununla birlikdə tədqiqat, AB’nin aktuallenmiş ürün sorumluluğu rejiminin süni intellekt yazılımı və rəqəmsal ürünlere ilişkin etkisini ayrıntılı biçimde incelememektedir.

Tədqiqat bir qanunvericilik metni və ya hüquqi danışmanlık belgesi deyildir. Belirli bir gerçek olayda kimin məsul olacağı; ülke mevzuatına, sözleşmelere, sistemin niteliğine, zərər türüne, sektör düzenlemelerine və somut delillere görə ayrıca değerlendirilmelidir.

Kaynakçada bulunan bazı yayın adları, yılları və bibliyografik bilgileri bağımsız akademik məlumat tabanları üzərindən ayrıca doğrulanmalıdır. Makalenin ileri sürdüğü hüquqi nəticəlar yalnız mənbə listesinin varlığına dayanarak yerleşik doktrin kabul edilmemelidir.