Bir yapay zekâ sistemi bir hastaya yanlış tedavi uygular, finans piyasasında büyük bir zarara yol açar veya otonom bir silah sistemi öngörülmeyen bir hedefe saldırırsa hukuken kim sorumlu tutulmalıdır? Yazılımı geliştiren mühendis mi, eğitim verilerini sağlayan kuruluş mu, sistemi piyasaya süren şirket mi, onu kullanan kişi mi, yoksa sistemin kendisi mi?

Abulgasem Al Mashai tarafından hazırlanan Post-Human Law: Redefining Responsibility in the Era of Autonomous Artificial Intelligence başlıklı çalışma, geleneksel sorumluluk hukukunun yüksek düzeyde özerk ve kendi davranışlarını zaman içinde değiştirebilen yapay zekâ sistemleri karşısında yetersiz kalabileceğini savunmaktadır. Makalenin “sorumluluk boşluğu” adını verdiği sorun, zararın ortaya çıktığı ancak insan kusuru, ihmal, niyet, kontrol ve öngörülebilirlik arasındaki bağlantının açık biçimde kurulamadığı durumları ifade etmektedir.

Çalışmaya göre klasik hukuk, temel olarak insanların eylemde bulunduğu ve makinelerin yalnızca insanların kullandığı nesneler olduğu varsayımına dayanır. Buna karşılık gelişmiş yapay zekâ sistemleri, önceden belirlenmiş komutları mekanik biçimde uygulamakla sınırlı kalmayabilir. Yeni verilerden öğrenebilir, kendi iç modellerini değiştirebilir, birden fazla sistemle etkileşime girebilir ve geliştiricilerinin dağıtım anında öngörmediği sonuçlar üretebilir.

Makale bu soruna dört katmanlı bir çözüm önermektedir. İlk olarak yapay zekâ özerkliği “araçsal özerklik”, “sınırlı özerklik” ve “süper özerklik” düzeylerine ayrılmaktadır. İkinci olarak belirli eşiğin üzerindeki sistemlere ahlaki insan kişiliği vermeyen, yalnızca sorumluluk, sözleşme, tazminat ve yaptırım amacı taşıyan Sınırlı Elektronik Hukuki Varlık statüsü önerilmektedir. Üçüncü olarak bu elektronik varlığın zorunlu sigorta ve tazminat fonuna sahip olması, dijital mal varlığı taşıması ve gerektiğinde operasyonel ya da mali yaptırımlara tabi tutulması öngörülmektedir. Dördüncü olarak Açıklanabilir Yapay Zekâ, dijital kara kutular ve sürekli algoritmik denetim hukuki altyapının zorunlu unsurları hâline getirilmektedir.

Önerilen yaptırımlar insanlar için geliştirilen hapis veya manevi kınama gibi cezalar değildir. Bir yapay zekâ sistemi geçici olarak durdurulabilir, belirli karar alanlarından çıkarılabilir, önceki güvenli yazılım sürümüne döndürülebilir, yeniden eğitilebilir veya kontrol ettiği dijital varlıklar dondurulabilir. Yazar bu yaptırımların orantılı, geri döndürülebilir ve teknik olarak uygulanabilir olması gerektiğini savunmaktadır.

Çalışma yapay zekâya sınırlı hukuki statü verilmesinin insan sorumluluğunu ortadan kaldırmaması gerektiğini özellikle vurgular. Geliştiriciler, işletmeciler ve kurumlar “kontrol eden kişi” konumundan “yapay zekâ vasisi” veya “gözetmeni” konumuna geçmektedir. Bu kişilere sistemin güvenliğini izleme, yanlış beyanları önleme, yazılımı güncelleme, riskleri raporlama ve gerekli olduğunda sistemi durdurma yönünde “algoritmik bakım yükümlülüğü” getirilmesi önerilmektedir.

Ancak çalışma bir yasa tasarısı, kabul edilmiş düzenleme veya mahkeme içtihadı değildir. Önerilen elektronik tüzel kişilik, yapay zekâya özgü yaptırımlar ve LIXAI adlı hukuki açıklanabilirlik standardı kuramsal önerilerdir. Hangi sistemin elektronik tüzel kişilik kazanacağı, özerkliğin nasıl sayısallaştırılacağı, yaptırımların teknik olarak nasıl uygulanacağı ve farklı ülkelerde nasıl uyumlaştırılacağı henüz ampirik ya da karşılaştırmalı hukuk araştırmalarıyla doğrulanmamıştır.

Geleneksel Sorumluluk Hukukunun Temel Varsayımı

Hukuki sorumluluk sistemleri genellikle belirli bir eylemi, zararı ve sorumlu kişiyi birbirine bağlamaya çalışır. Bir zarar meydana geldiğinde mahkemeler şu soruları sorar:

• Zarara yol açan eylemi kim gerçekleştirdi?
• Bu kişi sonucu istemiş miydi?
• Sonucu öngörmesi beklenebilir miydi?
• Gerekli özeni göstermiş miydi?
• Eylem ile zarar arasında yeterli nedensellik bağı var mıydı?
• Ürün kusurlu muydu?
• Ürün veya faaliyet üzerinde fiilî kontrol kimdeydi?

Bu soruların çoğu insan iradesi, bilgi düzeyi, dikkat yükümlülüğü ve kontrol kapasitesi üzerinden yanıtlanır. İnsan suçluluğunun değerlendirilmesinde niyet veya kusur; özel hukuk sorumluluğunda ise ihmal, kusurlu tasarım, kontrol veya öngörülebilir risk merkezi öneme sahiptir.

Makalenin temel iddiasına göre yüksek düzeyde özerk sistemler bu bağlantıları zayıflatabilir. Bir yapay zekâ sistemi zarar verdiğinde hiçbir insan doğrudan zararlı sonucu istememiş olabilir. Geliştirici sistemin belirli davranışı göstereceğini öngörmemiş, kullanıcı karar sürecini anlamamış ve işletmeci sistemin çok yüksek hızda verdiği karara zamanında müdahale edememiş olabilir.

Otomasyon ile Özerklik Arasındaki Fark

Her otomatik sistem hukuki açıdan özerk sayılmaz. Önceden belirlenmiş komutları değişmeden uygulayan bir makine, insan tarafından tasarlanmış sabit bir işleyişi yerine getirir. Böyle bir makinenin davranışı çoğunlukla üretim, tasarım veya bakım kusuru üzerinden değerlendirilebilir.

Modern yapay zekâ sistemleri ise olasılıksal modeller, derin sinir ağları, geri bildirim döngüleri ve yeni verilerle güncellenen öğrenme süreçleri kullanabilir. Bu sistemlerin davranışı yalnızca ilk yazılım kodundan değil aşağıdaki unsurların birleşiminden doğabilir:

• Eğitim verileri,
• model mimarisi,
• optimizasyon hedefleri,
• gerçek zamanlı çevresel girdiler,
• kullanıcı etkileşimleri,
• diğer algoritmalarla kurulan bağlantılar,
• dağıtım sonrasında gerçekleşen uyarlamalar.

Bu yapı, sistemin davranışını geliştiren kişinin dahi ayrıntılı biçimde açıklayamadığı durumlar oluşturabilir. Makale bunu “algoritmik opaklık” veya kara kutu problemi olarak ele almaktadır.

Üç Özerklik Düzeyi

Çalışma yapay zekâ sistemlerini özerklik bakımından üç temel düzeye ayırmaktadır.

Bu sınıflandırma, teknolojik bir ölçek olmanın yanı sıra hukuki bir eşik olarak kullanılmak üzere önerilmektedir. Yazara göre her yazılım veya yapay zekâ elektronik hukuki varlık sayılmamalıdır. Böyle bir statü yalnızca insan kontrolünün ve geleneksel nedensellik zincirinin belirgin biçimde zayıfladığı sistemler için düşünülmelidir.

Elektronik Hukuki Varlık Statüsü İçin Önerilen Eşikler

Çalışma, özerkliğin yalnızca soyut kavramlarla değil, dağıtım öncesinde ölçülebilecek göstergelerle değerlendirilmesini önermektedir.

Epistemik Opaklık Endeksi

Bu gösterge, yapay zekânın karar verme sürecinin insan uzmanlar tarafından ne ölçüde yeniden oluşturulabildiğini değerlendirmek için önerilmektedir. İç modelin karmaşıklığı, birbirine bağlı değişken sayısı, doğrusal olmayan işlemler ve sistemin kendi kod veya parametrelerini değiştirme düzeyi bu endeksin unsurları olabilir.

Bir kararın yalnızca sonucunun bilinmesi yeterli değildir. Sistemin hangi girdilere ne kadar ağırlık verdiği, hangi ara değerlendirmelerden geçtiği ve hangi alternatifleri neden dışladığı da hukuki inceleme bakımından önemli olabilir.

Operasyonel Hız ve Kapsam

Bazı sistemler saniyeler içinde binlerce karar verebilir veya aynı anda çok geniş bir ekonomik ve fiziksel alanı etkileyebilir. Finans piyasaları, savunma sistemleri ve kritik altyapılar buna örnek gösterilmektedir.

İnsan gözetimi teorik olarak mevcut olsa bile sistemin karar hızı insanın anlamlı biçimde müdahale edebileceği kapasiteyi aşabilir. Çalışmaya göre hukuk yalnızca “insan denetimi var mı?” sorusunu değil, bu denetimin gerçek zamanlı ve etkili olup olmadığını da sormalıdır.

Ortaya Çıkan Risk Profili

Bu ölçüt, sistemin denetimsiz uyarlamalarından veya farklı ağlarla etkileşiminden doğabilecek öngörülmemiş zararların olasılığını ve ölçeğini değerlendirmeyi amaçlamaktadır.

Bir yapay zekânın küçük ve geri döndürülebilir hataları ile sağlık, savunma, enerji veya küresel finans gibi alanlarda zincirleme sonuç doğurabilecek davranışları aynı hukuki rejime tabi tutulmamalıdır.

Ancak makale bu üç ölçütün nasıl hesaplanacağını, hangi veri kümelerinin kullanılacağını veya hangi sayısal eşiklerin elektronik hukuki varlık statüsü doğuracağını belirlememektedir. Öneri kavramsal düzeyde kalmaktadır.

Sorumluluk Boşluğu Nedir?

Çalışmanın merkezindeki “sorumluluk boşluğu”, otonom bir sistemin zarar vermesine rağmen doğrudan sorumlu tutulabilecek insanın belirlenemediği hukuki alanı ifade etmektedir.

Makale bu sorunu otonom cerrahi robot örneğiyle açıklar. Bir cerrahi robot, önceki operasyonlardan öğrendiği optimizasyon nedeniyle programlanmış rotadan saparak hastayı yaralayabilir. Bu durumda:

• Geliştirici zararlı sonucu amaçlamamıştır.
• Doktor veya operatör iç karar sürecini bilmiyor olabilir.
• Sistem davranışı ilk dağıtımda öngörülememiş olabilir.
• Algoritmanın kendisi mevcut hukukta bağımsız sorumlu kişi değildir.
• Hasta, açık bir sorumluya ve tazminat kaynağına ulaşmakta zorlanabilir.

Çalışmaya göre sorun yalnızca hukuki bir prosedür eksikliği değildir. İnsanların eylemde bulunan özne, makinelerin ise kullanılan nesne olarak sınıflandırıldığı geleneksel ayrım da sarsılmaktadır.

Dağıtılmış Nedensellik

Bir yapay zekâ sisteminin zarar verici davranışı tek bir kişinin eyleminden doğmayabilir. Sorumluluk aşağıdaki aktörlere dağılmış olabilir:

• Model mimarisini geliştirenler,
• yazılım modüllerini oluşturanlar,
• eğitim verilerini sağlayanlar,
• veriyi etiketleyenler,
• sistemi belirli amaç için uyarlayanlar,
• ürünü piyasaya süren kuruluş,
• sistemi kullanan kurum veya kişi,
• bakım, güncelleme ve denetim sorumluları.

Bu yapıda bütün aktörleri otomatik olarak müştereken sorumlu tutmak mağdur açısından güçlü bir koruma sağlayabilir; ancak çalışma bunun yeniliği aşırı derecede caydırabileceğini belirtmektedir. Hiç kimseyi sorumlu tutmamak ise mağduru tazminatsız bırakabilir.

Yazar bu iki uç arasında, insan sorumluluğunun devam ettiği ancak sistemin kendisi için de ayrı bir hukuki ve mali araç oluşturulduğu hibrit modeli savunmaktadır.

Sorumluluğun Ahlaki Özellikten İlişkisel Yapıya Dönüşmesi

Çalışma, sorumluluğu yalnızca bilinçli bir varlığın içsel ahlaki niteliği olarak değerlendirmemektedir. Sorumluluk; insanlar, kurumlar, algoritmalar, protokoller ve denetim mekanizmaları arasındaki ilişki içinde kurulabilir.

Bu yaklaşımda yapay zekânın gerçekten bilinçli, özgür iradeli veya ahlaki özne olup olmadığı temel koşul değildir. Hukuk, karmaşık sistemlerin davranışlarını izlenebilir ve yaptırıma elverişli hâle getirmek için kurumsal bir sorumluluk yapısı oluşturabilir.

Makale bu görüşü Niklas Luhmann’ın otopoietik sistemler yaklaşımıyla ilişkilendirmektedir. Hukuk, ekonomi ve teknoloji kendi işleyiş mantıkları bulunan ancak birbirleriyle iletişim kuran sistemler olarak ele alınmaktadır. Hukukun görevi, teknolojik sistemlerin ürettiği veri, kod ve kararları hukuken değerlendirilebilir iletişim biçimlerine dönüştürmektir.

Klasik Ürün Sorumluluğu Neden Yetersiz Görülüyor?

Ürün sorumluluğu, zararın kusurlu tasarım, üretim veya güvenlik eksikliğinden kaynaklandığı durumlar için geliştirilmiştir. Makale, yapay zekâ zararının her zaman sabit bir kusura dayanmayabileceğini savunmaktadır.

Bir sistem dağıtıldığı anda güvenli olabilir; ancak daha sonra yeni verilerden öğrenerek zararlı bir karar örüntüsü geliştirebilir. Bu durumda sorun ilk tasarım hatası mı, yetersiz denetim mi, yanlış eğitim verisi mi, dağıtım sonrası değişim mi yoksa kullanım bağlamı mı olacaktır?

Çalışmanın yaklaşımına göre klasik ürün sorumluluğu özellikle üç nedenle zorlanmaktadır:

• Davranışın dağıtım sonrasında değişmesi,
• karar sürecinin uzmanlar tarafından açıklanamaması,
• zararın tek bir kusur noktasına indirgenememesi.

Bu değerlendirme bir hukuk sisteminin bütün mevcut sorumluluk araçlarının etkisiz olduğu anlamına gelmemektedir. Makale, geleneksel rejimlerin yüksek özerklik ve opaklık düzeylerinde mağdura hızlı ve öngörülebilir tazminat sağlamakta zorlanabileceğini ileri sürmektedir.

Sınırlı Elektronik Hukuki Varlık Nedir?

Çalışmanın en özgün önerisi, yüksek düzeyde özerk sistemler için “Limited Electronic Legal Entity”, yani Sınırlı Elektronik Hukuki Varlık statüsüdür. PDF’de bu yapı ELE kısaltmasıyla anılmaktadır.

ELE, yapay zekânın insanla aynı ahlaki değere, kişilik hakkına veya insan haklarına sahip olduğu anlamına gelmemektedir. Öneri yalnızca belirli hukuki işlevlerle sınırlıdır:

• Hukuki olarak tanımlanabilir bir dijital kimlik taşımak,
• belirli mal varlıklarına sahip olmak,
• sözleşmesel işlemlere taraf olabilmek,
• zararların karşılanması için fon taşımak,
• denetim ve raporlama yükümlülüklerine tabi olmak,
• operasyonel ve mali yaptırımların muhatabı olmak.

Yazar bu yapıyı şirketlerin tüzel kişiliğine benzetmektedir. Bir şirket insan olmadığı hâlde haklara, borçlara, mal varlığına ve hukuki sorumluluğa sahip olabilir. Benzer biçimde yüksek özerklik taşıyan yapay zekâya da yalnızca operasyonel ihtiyaçlar için sınırlı bir hukuki kimlik verilebileceği ileri sürülmektedir.

ELE Statüsünün Dört Temel Unsuru

Hukuki kayıt

Her elektronik hukuki varlığın dijital bir kuruluş belgesine sahip olması önerilmektedir. Bu belgede:

• Sistemin amacı,
• izin verilen faaliyet alanı,
• yasaklanan karar alanları,
• özerklik seviyesi,
• risk sınıfı,
• sorumlu insan veya kurum,
• denetim ve raporlama yükümlülükleri

açık biçimde belirtilmelidir.

Mal varlığı ve sermaye

ELE’nin yalnızca soyut bir hukuki etiket hâline gelmemesi için tazminat ödeyebilecek bir mali yapıya sahip olması önerilmektedir. Sistem geliştiricileri, işletmecileri ve kullanıcıları zorunlu sigorta veya tazminat fonuna katkı yapabilir.

Denetlenebilirlik

Elektronik hukuki varlık statüsünün Açıklanabilir Yapay Zekâ araçları ve dijital kara kutu bulundurma koşuluna bağlanması önerilmektedir. Sistemin kararları kayıt altına alınamıyorsa veya hukuki inceleme için açıklanamıyorsa yüksek özerklik statüsünde çalışmasına izin verilmemelidir.

İnsan gözetmeni

Her ELE, sorumluluk devamlılığını sağlayan bir insan veya kurumsal gözetmene bağlanmalıdır. Bu kişi şirket yöneticisine benzer biçimde sistemin mevzuata, güvenlik kurallarına ve faaliyet sınırlarına uygunluğunu izlemelidir.

Zorunlu Sigorta ve Tazminat Fonu

Çalışmaya göre mağdurun tazminat alabilmesi, karmaşık algoritmik nedensellik tartışmasının sonuçlanmasına bağlı olmamalıdır. Bu nedenle yüksek özerklik taşıyan sistemler için zorunlu sigorta ve ortak tazminat fonu önerilmektedir.

Fonun olası işleyişi şöyledir:

1. Geliştiriciler, sistemi dağıtan kuruluşlar ve kullanıcılar risk düzeylerine göre katkı yapar.
2. Yapay zekâ kaynaklı zarar meydana geldiğinde mağdura fondan ödeme yapılır.
3. Ödemenin yapılması için tek bir insanın kusurunun kesinleşmesi beklenmez.
4. Daha sonra kusurlu veya yükümlülüğünü ihlal eden insan ya da kurum belirlenirse fon bu kişilere rücu edebilir.
5. Yüksek riskli sistemler daha yüksek prim veya sermaye yükümlülüğü taşır.

Bu yapı, trafik sigortası veya yüksek riskli endüstrilerdeki tazminat mekanizmalarına benzetilmektedir. Amaç, yenilik yapan kuruluşların karşılaşacağı belirsizliği azaltırken mağdurun zararını hızlı biçimde karşılamaktır.

Elektronik Hukuki Varlık Bir Sorumluluktan Kaçış Aracı Olabilir mi?

ELE modeline yönelik en önemli itirazlardan biri, şirketlerin bütün sorumluluğu yapay zekâya aktararak kendilerini koruması ihtimalidir. Yeterli varlığı bulunmayan elektronik bir kişilik, zarar meydana geldiğinde boş bir kabuğa dönüşebilir.

Makale bu riski azaltmak için aşağıdaki mekanizmaları önermektedir:

• Zorunlu asgari sermaye veya tazminat fonu,
• geliştirici ve işletmeci katkıları,
• insan gözetmenin devam eden sorumluluğu,
• kuruluş ve işlemlerin denetlenebilir kaydı,
• yükümlülüğünü ihlal eden insanlara karşı rücu hakkı,
• sistemin faaliyet izninin sigorta ve denetim koşullarına bağlanması.

Yazar bu nedenle ELE’yi insan sorumluluğunu perdeleyen bir kalkan olarak değil, riski görünür, kayıtlı ve yaptırıma açık hâle getiren bir “risk haznesi” olarak tanımlamaktadır.

Neden Yalnızca Kusursuz Sorumluluk Yeterli Görülmüyor?

Kusursuz sorumluluk, mağdurun üretici veya işletmecinin kusurunu kanıtlamadan tazminat talep etmesini kolaylaştırabilir. Buna rağmen makale bunun iki temel ihtiyacı karşılamadığını savunmaktadır.

Makineye özgü yaptırımlar

Kusursuz sorumluluk genellikle insan veya şirketin ödeme yükümlülüğünü düzenler. Ancak zararlı davranış geliştiren sistemin belirli işlevlerden çıkarılması, yazılımının geri alınması veya karar alanının sınırlandırılması için ayrı bir hukuki muhatap gerekebilir.

Teknik yönetişimin sisteme yerleştirilmesi

Tazminat yükümlülüğü, sistemin açıklanabilirlik, kayıt ve sürekli denetim altyapısına sahip olmasını kendiliğinden sağlamaz. Çalışmaya göre ELE statüsü, faaliyet iznini doğrudan teknik denetlenebilirlik koşullarına bağlamak için kullanılmalıdır.

Bu görüş çalışmanın normatif gerekçesidir. ELE’nin gerçekten tek uygulanabilir araç olduğu ampirik ya da karşılaştırmalı hukuk analiziyle kanıtlanmış değildir.

İnsanın Rolü: Operatörden Gözetmene

Yüksek düzeyde özerk bir sistemde insan her kararı doğrudan kontrol edemeyebilir. Makale bu nedenle insanın rolünü “operatör” yerine “steward”, yani gözetmen veya vasi olarak yeniden tanımlar.

Gözetmenin görevi tek tek bütün kararları vermek değil, sistemin yaşam döngüsü boyunca güvenli ve hukuka uygun kalmasını sağlamaktır.

Önerilen gözetmen sorumlulukları şunlardır:

• Riskleri düzenli biçimde değerlendirmek,
• model güncellemelerini izlemek,
• önyargı ve güvenlik testleri yaptırmak,
• kayıt sistemlerinin çalışmasını sağlamak,
• zararlı veya olağan dışı davranışları raporlamak,
• gerekli durumlarda sistemi sınırlandırmak veya durdurmak,
• kamusal açıklamaların gerçek sistem kapasitesiyle uyumlu olmasını denetlemek.

Algoritmik Bakım Yükümlülüğü

Çalışma insan gözetmen için “duty of algorithmic care”, yani algoritmik bakım yükümlülüğü önermektedir. Bu yükümlülük, öngörülebilir zararları önlemek amacıyla sistemi izleme, güncelleme ve gerektiğinde yeniden eğitme yönünde pozitif bir görevdir.

Gözetmen yalnızca sistem arızalandıktan sonra sorumlu tutulmamalıdır. Yeterli denetimi kurmamak, bilinen güvenlik açığını gidermemek veya açıklanabilirlik kayıtlarını korumamak da ihlal sayılabilir.

Makale ayrıca sistemin yetenekleri hakkında yapılan kamusal açıklamaların dijital kara kutu kayıtlarıyla doğrulanması gerektiğini savunur. Bir kuruluşun yapay zekâ kullandığını veya sistemin belirli yeteneklere sahip olduğunu gerçeğe aykırı biçimde iddia etmesi “AI-washing” olarak ele alınmaktadır.

Elektronik Kişilik Ahlaki Kişilik Değildir

Yapay zekâya hukuki kişilik verilmesine karşı çıkanlar, bunun makineleri insanlaştıracağını veya insan onurunu zayıflatacağını ileri sürebilir. Çalışma bu itiraza, ELE’nin ahlaki tanıma değil işlevsel gerekliliğe dayandığını söyleyerek karşılık vermektedir.

ELE modeline göre yapay zekâ:

• İnsan onuruna sahip olmaz.
• İnsan haklarının tamamını kazanmaz.
• Ahlaki acı veya cezalandırılma deneyimi yaşadığı varsayılmaz.
• Siyasi hak elde etmez.
• İnsan sorumluluğunu ortadan kaldırmaz.

Statü yalnızca sistemin tazminat, kayıt, sözleşme, denetim ve yaptırım mekanizmalarına bağlanması için oluşturulan hukuki bir kurgu olarak tasarlanmaktadır.

Yazar bu nedenle ELE’yi yapay zekâya özgürlük veren bir kurumdan çok, özerkliği sınırlandıran bir “çevreleme mekanizması” olarak görmektedir.

Yapay Zekâ Suç İşleyebilir mi?

Ceza hukukunda sorumluluk genellikle suç teşkil eden eylemin yanı sıra “mens rea”, yani suç kastı veya kusurlu zihinsel durum gerektirir. Güncel yapay zekâ sistemlerinin bilinçli niyet veya ahlaki suçluluk taşıdığı kabul edilmediği için çalışma onların insanlar gibi suçlu sayılamayacağını belirtmektedir.

Buna rağmen bir yapay zekânın davranışı insan suçuna benzer ölçekte zarar üretebilir. Çalışmanın çözümü, insan ceza sorumluluğunu korurken yapay zekâya teknik yaptırımlar uygulanmasıdır.

Makine Eylemlerinden Doğan Dolaylı İnsan Sorumluluğu

Makale insan sorumluluğunu üç başlık altında düzenlemektedir.

Programlama veya yönlendirme sorumluluğu

Geliştirici ya da kullanıcı, zararlı sonuç doğuracağını öngörebileceği talimatlar, hedefler veya sistem ayarları oluşturmuşsa sorumlu tutulabilir.

İhmalkâr gözetim

Gözetmen, bilinen arıza, ayrımcılık veya güvenlik sorununu tespit etmek ya da gidermek için gerekli önlemleri almamışsa sorumluluk doğabilir.

Tehlikeli yetki devri

Bir kuruluş, güçlü bir sistemi yeterli güvenlik, denetim veya kayıt mekanizması olmadan sağlık, savunma ya da finans gibi yüksek riskli bir alanda kullanırsa ihmalkâr yetki devri yaptığı kabul edilebilir.

Çalışma bu yapıyı şirket yöneticilerinin mevzuat ihlallerini önleme görevine ilişkin sorumluluk doktrinleriyle ilişkilendirmektedir. Sistem karmaşık olsa bile yetki ve önleme kapasitesi bulunan kişiler tamamen sorumluluk dışında kalmamalıdır.

Yapay Zekâya Uygulanabilecek Yaptırımlar

Makalenin önerdiği yaptırım sistemi üç gruba ayrılmaktadır.

Operasyonel Durdurma ve Devre Dışı Bırakma

Bir sistemin ciddi veya yakın tehlike oluşturması durumunda geçici olarak çalışmasının durdurulması önerilmektedir. Durdurma kalıcı olmak zorunda değildir. Sistemin hatası incelenip güvenli olduğu doğrulandıktan sonra yeniden çalışmasına izin verilebilir.

Bu yaptırımın uygulanabilmesi için sistemin teknik olarak durdurulabilir olması gerekir. Tamamen merkezi olmayan veya kendisini farklı ağlara kopyalayabilen sistemlerde bu koşulun nasıl sağlanacağı çalışma tarafından ayrıntılı biçimde açıklanmamaktadır.

Kodun Geri Alınması ve Yeniden Programlama

Bir güncelleme sonrasında zararlı davranış oluşmuşsa sistemin önceki güvenli yazılım sürümüne döndürülmesi önerilebilir. Hatalı hedef fonksiyonları, güvenlik sınırları veya veri işleme süreçleri yeniden programlanabilir.

Bu yaklaşım yazılım davranışını düzeltmeye yöneliktir; ancak karmaşık makine öğrenmesi sistemlerinde hangi değişikliğin zararı ortadan kaldıracağı her zaman açık olmayabilir.

Algoritmik Kilitleme

Sistem bütünüyle kapatılmadan yalnızca sorunlu karar alanından çıkarılabilir. Örneğin:

• Finansal işlem yapması durdurulabilir.
• Tıbbi karar vermesi sınırlandırılabilir.
• Fiziksel araç kontrolü elinden alınabilir.
• Belirli veri kümelerine erişimi kesilebilir.
• İnsan onayı olmadan işlem yapması engellenebilir.

Bu yöntem, sistemin güvenli bölümlerinin çalışmasına devam etmesine izin verirken riskli işlevi sınırlandırmayı amaçlamaktadır.

Dijital Varlıkların Dondurulması

ELE’nin dijital cüzdan, gelir veya başka mali varlıklar taşıdığı varsayımında düzenleyici kurumların bu varlıkları dondurabilmesi önerilmektedir. Dondurulan varlıklar mağdur tazminatı veya güvenlik iyileştirmeleri için kullanılabilir.

Bu öneri, yapay zekâ sisteminin ekonomik işlem yapabilen ve kendisine tahsis edilmiş varlığı bulunan bir hukuki yapı içinde faaliyet göstereceği varsayımına dayanmaktadır. Bugünkü bütün yapay zekâ sistemleri böyle bağımsız bir mali yapıya sahip değildir.

Etik Yeniden Eğitim

Çalışma belirli ayrımcı, güvensiz veya hukuk dışı davranışların, sistemin yeni veriler ve kurallarla yeniden eğitilmesi yoluyla düzeltilmesini “etik yeniden eğitim” olarak tanımlamaktadır.

Bu yaptırım aşağıdaki işlemleri içerebilir:

• Daha dengeli eğitim verileri kullanmak,
• güvenlik ve adalet hedeflerini yeniden ağırlıklandırmak,
• yasaklı karar örüntülerini belirlemek,
• insan onayı gerektiren alanları artırmak,
• yeniden dağıtımdan önce bağımsız uygunluk testi yapmak.

Ancak “etik” kavramının hangi hukuk düzenine, kültüre veya normatif ölçüte göre belirleneceği çalışma tarafından ayrıntılı biçimde çözülmemektedir.

Yaptırımlar Nasıl Tetiklenecek?

Makale yaptırım sisteminin hukuki ve teknolojik unsurları birleştirmesi gerektiğini savunmaktadır.

• Önceden belirlenmiş eşikler: Hata oranı, güvenlik ihlali veya faaliyet sınırının aşılması belirli yaptırımları otomatik olarak gündeme getirebilir.
• Sürekli algoritmik denetim: Sistem davranışındaki olağan dışı değişimler erken aşamada tespit edilebilir.
• İnsan hukuki incelemesi: Yaptırım kararının orantılılığı, hukuka uygunluğu ve savunma hakkı insanlardan oluşan kurul tarafından değerlendirilmelidir.

Çalışma otomatik yaptırımların insan denetimini tamamen ortadan kaldırmaması gerektiğini vurgulamaktadır. Sistem bir eşik ihlali nedeniyle geçici olarak durdurulabilse bile daha uzun süreli veya ağır yaptırım için hukuki inceleme yapılmalıdır.

Risk Kademelendirmesi ve Orantılılık

Bütün yapay zekâ sistemlerine aynı yaptırım uygulanmamalıdır. Çalışma üç ilke önermektedir:

• Risk kademelendirmesi: Yüksek özerklik ve yüksek etki taşıyan sistemler daha sıkı kurallara tabi olmalıdır.
• Kademeli tepki: Küçük ihlaller uyarı veya yeniden eğitimle, ağır veya tekrarlanan ihlaller durdurma ve varlık dondurmayla karşılanmalıdır.
• Orantılılık: Yaptırımın ağırlığı, zararın büyüklüğü, tekrarlanma ihtimali ve öngörülebilirliğiyle uyumlu olmalıdır.

Bu yapı yeniliği tamamen durdurmadan güvenliği sağlamayı amaçlamaktadır. Bununla birlikte çalışmada hangi ihlalin hangi yaptırımı tetikleyeceğine ilişkin ayrıntılı bir yaptırım matrisi bulunmamaktadır.

Açıklanabilir Yapay Zekâ Neden Hukuki Bir Araçtır?

Açıklanabilir Yapay Zekâ, bir sistemin neden belirli sonuca ulaştığının insanlar tarafından anlaşılmasını sağlamaya çalışan yöntemler bütünüdür.

Çalışmaya göre XAI yalnızca teknik geliştirme veya kullanıcı güveni aracı değildir. Aşağıdaki hukuki işlevleri de taşımalıdır:

• Mahkemenin karar sürecini inceleyebilmesi,
• mağdurun yapay zekâ kararına itiraz edebilmesi,
• denetçinin sistemin faaliyet sınırlarına uyup uymadığını değerlendirmesi,
• nedensellik ve kusurun araştırılması,
• yaptırımın hangi davranışa dayandığının gösterilmesi.

Yazar yüksek riskli yapay zekâlar için açıklanabilirlik sertifikasının faaliyet lisansının ön koşulu olmasını önermektedir.

LIXAI Standardı

Çalışma “Legal Explainable AI”, yani hukuki açıklanabilir yapay zekâ için LIXAI adını verdiği bir standart önermektedir.

Bu standarda göre açıklama:

• Yalnızca teknik uzmana değil, mahkemeye ve etkilenen kişiye de anlaşılır olmalıdır.
• Kararın verildiği bağlamı göstermelidir.
• Önemli girdileri ve modelin güven düzeyini içermelidir.
• Hukuki incelemeye uygun biçimde kayıt altına alınmalıdır.
• Etkilenen kişinin karara itiraz etme hakkını desteklemelidir.

LIXAI, mevcut ve uluslararası olarak kabul edilmiş bir teknik standart şeklinde sunulmamalıdır. PDF’de geliştirilen veya önerilen hukuki bir ölçüttür.

Dijital Kara Kutu

Makale, yüksek özerklik taşıyan sistemlerin uçaklardaki uçuş kayıt cihazlarına benzer dijital kara kutular bulundurmasını önermektedir.

Dijital kara kutunun kaydetmesi gereken unsurlar şunlardır:

• Sensör ve veri girdileri,
• karar zamanları,
• önemli algoritmik etkinleşmeler,
• çıktılar ve gerçekleştirilen eylemler,
• yazılım sürümleri ve güncellemeler,
• insan müdahaleleri,
• güven ve risk ölçümleri,
• diğer sistemlerle kurulan bağlantılar.

Kara Kutunun Teknik Özellikleri

Çalışma kayıtların değiştirilemez, şifrelenmiş ve yedekli olması gerektiğini belirtmektedir. Sistem zarar verdikten sonra kayıtların silinmesi veya değiştirilmesi önlenmelidir.

Farklı donanım ve yazılım bileşenlerinin kayıtları ortak zaman çizelgesinde birleştirilebilmelidir. Uluslararası sistemlerde kayıt biçimlerinin farklı ülkelerdeki denetim ve yargılama süreçleriyle uyumlu olması gerekir.

Kara Kutu Verisinin Mahkemede Kullanılması

Teknik kaydın bulunması tek başına yeterli değildir. Mahkemelerin bu kaydı delil olarak kabul edebilmesi için:

• Kayıt bütünlüğü,
• kimlerin veriye eriştiği,
• delil zinciri,
• zaman damgalarının güvenilirliği,
• şifreleme ve kimlik doğrulama süreçleri,
• kayıt sisteminin bağımsız denetimi

gibi ölçütlerin hukuken belirlenmesi gerekir.

Makale, XAI ile kara kutunun birbirini tamamladığını savunur. XAI kararın rasyonel açıklamasını, kara kutu ise olayların değiştirilemez teknik kaydını sağlamalıdır.

AI-Washing ve Yanlış Kurumsal Beyanlar

Dijital kara kutu yalnızca sistem arızasını araştırmak için önerilmemektedir. Bir kuruluş yapay zekâ kullandığını, sistemin belirli bir başarı oranına sahip olduğunu veya insan müdahalesine ihtiyaç duymadığını iddia edebilir.

Değiştirilemez operasyon kayıtları bu beyanların gerçek sistem davranışıyla karşılaştırılmasını sağlayabilir. Çalışma, yapay zekâ yeteneklerini gerçeğe aykırı biçimde büyütmeyi veya yapay zekâ kullanımını yanlış tanıtmayı “AI-washing” olarak adlandırmaktadır.

Algoritmik Denetim

Çalışma hesap verebilirliğin yalnızca zarar sonrasında mahkemeye bırakılmaması gerektiğini savunmaktadır. Algoritmik denetim üç düzeyde önerilmektedir.

Yapay zekâ dağıtım sonrasında öğrenmeye devam ediyorsa yalnızca ilk uygunluk testinden geçmesi yeterli olmayabilir. Davranış değiştikçe denetimin de devam etmesi gerekir.

Kanıt Zinciri

Çalışmanın bütünleşik yönetişim modeli üç mekanizmayı bir kanıt zinciri olarak birleştirir:

1. XAI: Kararın neden ve nasıl verildiğine ilişkin yorumlanabilir açıklama üretir.
2. Dijital kara kutu: Gerçek girdileri, eylemleri ve zaman çizelgesini değiştirilemez biçimde kaydeder.
3. Algoritmik denetim: Açıklama ve kayıtların doğruluğunu bağımsız biçimde değerlendirir.

Zarar gerçekleştiğinde bu zincir tazminat fonunun devreye girmesi, insan gözetmenin sorumluluğunun belirlenmesi ve yapay zekâya uygulanacak teknik yaptırımın seçilmesi için kullanılabilir.

Mahremiyet Sorunu

Kara kutular ayrıntılı veri toplarken kişilerin sağlık, finans, konum, iletişim veya davranış bilgilerini kaydedebilir. Bu nedenle hesap verebilirlik amacıyla kurulan kayıt sistemi yeni bir gözetim riskine dönüşebilir.

Makale kara kutuların veri koruma kurallarına uyması gerektiğini belirtmektedir. Ancak hangi verilerin kaydedileceği, ne kadar süre saklanacağı, kimlerin erişeceği ve mahremiyet ile delil ihtiyacı arasındaki denge ayrıntılandırılmamıştır.

Önyargı ve Ayrımcılık

Algoritmik denetimin yalnızca teknik hata oranını değil, belirli toplumsal gruplara karşı sistematik ayrımcılık ihtimalini de incelemesi önerilmektedir.

Bir yapay zekâ sistemi genel olarak yüksek doğruluk gösterirken belirli cinsiyet, etnik grup, yaş veya sosyoekonomik konum için daha çok hata yapabilir. Çalışmaya göre böyle örüntüler sistemin güvenlik ve hukuk uygunluğunun parçası olarak değerlendirilmelidir.

Hukuki Süreç ve İnsan İncelemesi

Makale, yapay zekâya karşı yaptırımın başka bir algoritma tarafından tamamen otomatik verilmesine karşı ihtiyatlıdır. Otomatik izleme bir ihlali belirleyebilir veya geçici koruma tedbirini tetikleyebilir; ancak ağır yaptırımlar insan hukuki incelemesinden geçmelidir.

Bu inceleme aşağıdaki ilkeleri korumalıdır:

• Orantılılık,
• savunma ve itiraz hakkı,
• delilin güvenilirliği,
• kararın gerekçelendirilmesi,
• hatalı yaptırımın geri alınabilmesi,
• etkilenen kişilerin haklarının korunması.

Uluslararası Uyumlaştırma

Yapay zekâ sistemleri bir ülkede geliştirilebilir, başka ülkedeki sunucularda çalışabilir ve çok sayıda ülkedeki kişileri etkileyebilir. Bu nedenle yalnızca ulusal kayıt ve yaptırım sistemlerinin yeterli olmayabileceği ileri sürülmektedir.

Çalışma aşağıdaki konularda uluslararası uyum önerir:

• Özerklik ve risk eşikleri,
• ELE kayıt sistemi,
• sigorta ve tazminat kuralları,
• XAI ve kara kutu standartları,
• denetçi kuruluşların karşılıklı tanınması,
• delil paylaşımı,
• sınır ötesi yaptırım ve varlık dondurma.

Bu uyumlaştırma önerisi gelecek politikası niteliğindedir. Makale ayrıntılı bir uluslararası anlaşma metni veya yetki çatışması çözümü sunmamaktadır.

Çalışmanın Önerdiği Genel Yönetişim Mimarisi

Çalışmanın Politika Önerileri

Makale yedi ana politika önerisi geliştirmektedir:

1. Belirlenen özerklik eşiğini aşan yapay zekâlar için zorunlu ELE kaydı ve lisanslama.
2. Yüksek özerklik taşıyan sistemler için zorunlu sigorta ve tazminat fonu.
3. XAI ile dijital kara kutunun dağıtım ön koşulu hâline getirilmesi.
4. Operasyonel, mali ve önleyici yaptırımlar içeren kademeli protokoller.
5. İç ve bağımsız algoritmik denetimlerin zorunlu olması.
6. Ülkeler arasında ortak sorumluluk ve uygulama standartları geliştirilmesi.
7. Mahremiyet, ayrımcılık, insan denetimi ve hukuki süreç güvencelerinin bütün sistemlerde korunması.

Çalışmanın Güçlü Yönleri

• Yapay zekâ sorumluluğunu yalnızca tazminat sorunu olarak değil, tasarım, lisanslama, denetim ve yaptırım yaşam döngüsü olarak ele alması.
• Özerkliğin tek bir kategori olmadığını, farklı düzeylerde değerlendirilmesi gerektiğini belirtmesi.
• Mağdurun tazminatını kusur ve algoritmik nedensellik tartışmasından kısmen ayıran sigorta modeli önermesi.
• Elektronik hukuki kişiliği ahlaki insan kişiliğinden ayırmaya çalışması.
• İnsan sorumluluğunun ELE statüsüyle ortadan kalkmaması gerektiğini vurgulaması.
• Açıklanabilirlik, kayıt ve bağımsız denetimi hukuki delil altyapısının parçası hâline getirmesi.
• Yapay zekâya özgü, teknik olarak uygulanabilir yaptırım türleri geliştirmesi.
• AI-washing ve yanlış kurumsal beyanları kara kutu kayıtlarıyla ilişkilendirmesi.
• Olay sonrası sorumluluğun yanı sıra zarar öncesi yönetişime odaklanması.
• Mahremiyet, ayrımcılık, orantılılık ve insan incelemesini aynı çerçevede tutmaya çalışması.

Çalışmanın Temel Sınırlılıkları

• Çalışma hakem değerlendirmesinden geçtiği doğrulanmamış bir SSRN araştırma kâğıdıdır.
• Ampirik araştırma, gerçek olay veri seti veya düzenleyici etki analizi bulunmamaktadır.
• Karşılaştırmalı hukuk yöntemi ayrıntılı biçimde uygulanmamıştır.
• Belirli ülkelerin medeni ve ceza hukuku sistemleri sistematik olarak karşılaştırılmamaktadır.
• Önerilen epistemik opaklık, operasyonel hız ve ortaya çıkan risk ölçütleri sayısallaştırılmamıştır.
• ELE statüsünün hangi makam tarafından ve hangi usulle verileceği ayrıntılandırılmamıştır.
• Elektronik hukuki varlığın sözleşme yapması ve mal varlığı taşımasının teknik-hukuki uygulaması gösterilmemiştir.
• ELE’nin insan ve şirketler için sorumluluktan kaçış aracına dönüşme riski tam olarak çözülememiştir.
• Sigorta primlerinin ve fon katkılarının nasıl hesaplanacağı açıklanmamıştır.
• Nadir fakat çok büyük zararların fonu aşması ihtimali incelenmemiştir.
• Makineye yaptırım uygulanmasının caydırıcılık etkisi teorik olarak yeterince tartışılmamıştır.
• Bir yapay zekânın “cezadan kaçınma” veya ahlaki kınama deneyimi bulunmadığı için yaptırımın asıl etkisi yine geliştirici ve işletmecilere yansıyabilir.
• Etik yeniden eğitimin hangi veri, değer ve hukuk sistemine göre yapılacağı belirsizdir.
• XAI açıklamalarının karmaşık modelleri her zaman güvenilir biçimde temsil edip edemeyeceği tartışılmamıştır.
• Açıklanabilirlik ile ticari sır, siber güvenlik ve mahremiyet arasındaki çatışmalar ayrıntılı çözülmemiştir.
• Kara kutuda hangi verilerin ne kadar süre saklanacağı belirlenmemiştir.
• Blokzincir tabanlı kayıt sisteminin zorunluluğu veya diğer kayıt yöntemlerine üstünlüğü gösterilmemiştir.
• Merkezi olmayan veya farklı ağlara kopyalanabilen sistemlere yaptırımın nasıl uygulanacağı açıklanmamıştır.
• Süper zekâ ve süper özerklik bölümü büyük ölçüde varsayımsal teknoloji senaryolarına dayanmaktadır.
• Uluslararası uyumlaştırma önerisi uygulanabilir bir antlaşma veya yetki paylaşımı modeli içermemektedir.
• Çalışma AB Yapay Zekâ Yasası’nı kaynakçada hâlâ “proposal” olarak göstermektedir.
• AB Yapay Zekâ Yasası, çalışmada önerilen ELE, uyarlanabilir makine yaptırımı veya tazminat fonu modelini mevcut hukuk olarak kurmamaktadır.
• Kaynakçada belirtilen bazı eserlerin tam bibliyografik doğruluğu ve izlenebilirliği ayrıca kontrol edilmelidir.

Çalışma Ne Söylüyor?

• Yüksek özerklik taşıyan yapay zekâların geleneksel sorumluluk zincirini zayıflatabileceğini söylüyor.
• İnsan kusuru belirlenemediğinde mağdurun tazminatsız kalabileceği bir sorumluluk boşluğu oluşabileceğini savunuyor.
• Sorumluluğun insanlar, kurumlar ve teknik sistemler arasında dağıtılmış bir ilişki olarak ele alınmasını öneriyor.
• Belirli yapay zekâlara sınırlı ve işlevsel elektronik hukuki varlık statüsü verilmesini öneriyor.
• Bu statünün insan kişiliği veya ahlaki haklar anlamına gelmediğini belirtiyor.
• Zorunlu sigorta ve tazminat fonunun mağdurların zararını karşılaması gerektiğini savunuyor.
• İnsan gözetmenlerin algoritmik bakım yükümlülüğüne sahip olması gerektiğini ileri sürüyor.
• Yapay zekâya durdurma, kod değişikliği, varlık dondurma ve etik yeniden eğitim gibi teknik yaptırımlar uygulanmasını öneriyor.
• XAI, dijital kara kutu ve algoritmik denetimi hukuki hesap verebilirliğin zorunlu altyapısı olarak görüyor.
• Otomatik yaptırımların insan hukuki incelemesini ve adil süreç güvencelerini ortadan kaldırmaması gerektiğini söylüyor.

Çalışma Ne Söylemiyor?

• Bugünkü yapay zekâların bilinçli veya ahlaki kişiler olduğunu kanıtlamıyor.
• Yapay zekâya insan haklarının verilmesi gerektiğini savunmuyor.
• ELE statüsünün mevcut hukukta kabul edilmiş genel bir kurum olduğunu göstermiyor.
• AB Yapay Zekâ Yasası’nın elektronik kişilik oluşturduğunu söyleyen geçerli bir mevzuat hükmü sunmuyor.
• Bütün yapay zekâ sistemlerinin bağımsız hukuki kişilik taşıması gerektiğini ileri sürmüyor.
• Klasik ürün ve kusursuz sorumluluk rejimlerinin bütün durumlarda tamamen işlemez olduğunu ampirik olarak kanıtlamıyor.
• Hangi özerklik seviyesinin elektronik kişilik için yeterli olduğunu sayısal biçimde belirlemiyor.
• Önerilen tazminat fonunun gerçek maliyetini veya sürdürülebilirliğini hesaplamıyor.
• Makineye uygulanan yaptırımların zararları azalttığını gösteren deneysel sonuç sunmuyor.
• LIXAI’nin yürürlükte olan uluslararası bir standart olduğunu göstermiyor.
• Dijital kara kutunun bütün yapay zekâ kararlarını eksiksiz açıklayabileceğini kanıtlamıyor.
• Süper zekânın yakın zamanda kesin olarak ortaya çıkacağını öngören ampirik bir model sunmuyor.
• Belirli bir ülke için doğrudan uygulanabilir yasa maddeleri hazırlamıyor.

Gündelik Yaşam ve Kurumlar Açısından Önemi

Çalışmanın ortaya koyduğu sorular yalnızca gelecekteki süper zekâ sistemleriyle ilgili değildir. Sağlık, kredi, sigorta, işe alım, ulaşım ve kamu hizmetlerinde kullanılan yapay zekâlar bugün de insanların hayatını etkileyen kararlar verebilir.

Bir kurum yapay zekâ kullandığında şu sorular önem kazanır:

• Sistemin hangi kararları insan onayı olmadan verebildiği açık mı?
• Yanlış karar durumunda sorumlu kişi veya birim önceden belirlenmiş mi?
• Sistemin girdileri, çıktıları ve sürüm değişiklikleri kayıt altına alınıyor mu?
• Etkilenen kişi kararın nedenini öğrenebiliyor mu?
• Karara itiraz edilebilecek insan kanalı bulunuyor mu?
• Sistem farklı toplumsal gruplar için ayrı ayrı test edilmiş mi?
• Zarar ortaya çıktığında tazminat kaynağı mevcut mu?
• Sistemi geçici olarak durduracak teknik yetki kimin elinde?
• Kuruluşun sistem hakkında yaptığı açıklamalar gerçek kayıtlarla doğrulanabiliyor mu?
• Yapay zekâ güncellendikten sonra yeniden uygunluk değerlendirmesi yapılıyor mu?

Bunlar çalışmada doğrulanmış bir kontrol listesi veya yürürlükteki mevzuat hükümleri değildir. Makalenin techno-hukuki yönetişim yaklaşımından çıkarılabilecek değerlendirme sorularıdır.

Çalışmanın Yöntemi ve Bulguları

Araştırma Tasarımı

Çalışmanın Dört Bölümlü Analitik Yapısı

1. Kavramların tanımlanması: Yapay zekâ özerkliği, algoritmik opaklık ve sorumluluk boşluğu açıklanmıştır.
2. Özel hukuk sorumluluğu: Klasik kusur ve ürün sorumluluğu eleştirilmiş, ELE ile sigorta fonu önerilmiştir.
3. Ceza sorumluluğu ve yaptırımlar: İnsanların dolaylı sorumluluğu ve yapay zekâya özgü teknik yaptırımlar geliştirilmiştir.
4. Araştırma ve kontrol altyapısı: XAI, dijital kara kutular ve algoritmik denetimler bütünleşik yönetişim sistemi olarak sunulmuştur.

Çalışmanın Geliştirdiği Başlıca Kavramlar

Çalışmanın Başlıca Kuramsal Sonuçları

Modelin Ampirik Olarak Sınanması İçin Gerekenler

• Gerçek yapay zekâ olaylarında nedensellik ve sorumlu aktörlerin nasıl belirlendiği incelenmelidir.
• Farklı ülkelerdeki ürün, kusursuz ve mesleki sorumluluk rejimleri karşılaştırılmalıdır.
• ELE modelinin mağdur tazminat süresi ve maliyeti üzerindeki etkisi modellenmelidir.
• Elektronik kişiliğin şirketler tarafından sorumluluktan kaçış amacıyla kullanılıp kullanılamayacağı test edilmelidir.
• Epistemik opaklık ve operasyonel hız için ölçülebilir göstergeler geliştirilmelidir.
• Özerklik eşiği için farklı sektörlerde ayrı kriterler belirlenmelidir.
• Sigorta primleri için zarar olasılığı ve zarar büyüklüğü modelleri kurulmalıdır.
• Dijital kara kutu kayıtlarının bütünlüğü ve mahkemede kullanılabilirliği sınanmalıdır.
• XAI açıklamalarının gerçek model davranışıyla ne ölçüde uyumlu olduğu değerlendirilmelidir.
• Otomatik yaptırım tetikleyicilerinin hata ve kötüye kullanım oranları ölçülmelidir.
• Etik yeniden eğitimin zararlı davranışı gerçekten azaltıp azaltmadığı araştırılmalıdır.
• ELE ve insan gözetmen arasındaki sorumluluk paylaşımı örnek davalarla sınanmalıdır.
• Uluslararası kayıt ve yaptırım sistemlerinin veri koruma hukukuyla uyumu incelenmelidir.
• Yaptırım uygulanmasının kullanıcılar, çalışanlar ve üçüncü kişiler üzerindeki yan etkileri araştırılmalıdır.

Bilimsel Statünün Sonuçlara Etkisi

Çalışma geniş ve özgün bir yönetişim mimarisi önermektedir; ancak modelin uygulanabilirliğine ilişkin yeni veri sunmamaktadır. Bu nedenle sonuçlar yürürlükteki hukukun açıklaması veya belirli düzenlemelerin etkinliğinin kanıtı olarak değil, gelecekteki hukuk tasarımı için oluşturulmuş normatif öneriler olarak değerlendirilmelidir.

Çalışmanın en güçlü katkısı, tazminat, yaptırım ve teknik delil altyapısını tek model içinde birleştirmesidir. En büyük eksikliği ise önerilen kurumların gerçek hukuk sistemlerinde nasıl uygulanacağını, maliyetini, yan etkilerini ve alternatif modellere üstünlüğünü ampirik ya da karşılaştırmalı biçimde göstermemesidir.

Kaynak ve Yöntem Notu

Çalışmanın tam özgün adı:Post-Human Law: Redefining Responsibility in the Era of Autonomous Artificial Intelligence

Yazarların tam listesi ve sıralaması: Abulgasem Al Mashai. Çalışma tek yazarlıdır.

Eş katkı veya eş birinci yazarlık: Yoktur.

Kurumsal bağlantı: Libyan Authority for Scientific Research, Libya.

PDF’deki çalışma alanı ifadesi: “Interdisplinary Research”. İfade belgede bu yazımla bulunmaktadır.

Sorumlu veya iletişim yazarı: PDF’de ayrıca bir “corresponding author” işareti bulunmamaktadır. SSRN kaydı Abulgasem Al Mashai’yi “Contact Author” olarak göstermektedir.

Çalışmanın yazım tarihi: 30 Ekim 2025.

SSRN’ye yüklenme tarihi: 17 Kasım 2025.

DOI: 10.2139/ssrn.5716462.

Yayın platformu: SSRN.

Dergi: Hakemli bir dergi bilgisi bulunmamaktadır.

Konferans: Bir konferans yayını bilgisi bulunmamaktadır.

Kaynak türü: Kavramsal, normatif ve disiplinler arası araştırma kâğıdı.

Hakemlik durumu: Hakem değerlendirmesinden geçmiş bir yayın olduğu doğrulanamamıştır. Çalışma SSRN araştırma kâğıdı olarak değerlendirilmelidir.

Sayfa sayısı: 19.

Kaynakça: PDF’de 22 bibliyografik kayıt bulunmaktadır.

Resmî SSRN bağlantısı:Post-Human Law – SSRN çalışma kaydı

DOI bağlantısı:10.2139/ssrn.5716462

Yapay zekâ kullanım açıklaması: Yazar, üretken yapay zekâ ve büyük dil modellerinin teknik olmayan bölümlerin taslağına, dilsel açıklığın artırılmasına ve makalenin ilk yapısının düzenlenmesine yardımcı olduğunu belirtmiştir. Temel kavramsal fikirlerin, hukuki analizin, eleştirel savların ve sonuçların kendisine ait olduğunu; bütün çıktıları inceleyip önemli ölçüde düzenlediğini ve içerik sorumluluğunu üstlendiğini açıklamıştır.

Bu Türkçe makale, yüklenen 19 sayfalık PDF’nin bütün metni, bölüm yapısı, politika önerileri, kavram sözlüğü, yapay zekâ açıklaması ve kaynakçası incelenerek hazırlanmıştır. PDF’de bulunmayan bir deneysel sonuç, mahkeme kararı, kabul edilmiş yasa maddesi veya uygulama başarısı eklenmemiştir.

Çalışmada “Elektronik Hukuki Varlık”, “LIXAI Standardı”, “algoritmik bakım yükümlülüğü”, “uyarlanabilir yapay zekâ yaptırımı” ve “etik yeniden eğitim” olarak sunulan kavramlar, mevcut ve genel kabul görmüş hukuk kurumları olarak değil, yazarın normatif modelinin unsurları olarak aktarılmıştır.

Çalışmanın kaynakçasında Avrupa Birliği Yapay Zekâ Yasası “proposal” olarak tanımlanmaktadır. Oysa bu düzenleme 2024/1689 sayılı AB Tüzüğü olarak kabul edilmiş ve yürürlüğe girmiştir. Çalışmada önerilen ELE modeli ve yapay zekâya özgü yaptırımlar AB Yapay Zekâ Yasası’nın kurduğu mevcut hukuki mekanizmalar değildir.

PDF’de Yapay Zekâ Sorumluluk Direktifi önerisinin geri çekilmesine değinilmektedir. Teklif Ekim 2025’te resmen geri çekilmiştir. Bununla birlikte çalışma, AB’nin güncellenmiş ürün sorumluluğu rejiminin yapay zekâ yazılımı ve dijital ürünlere ilişkin etkisini ayrıntılı biçimde incelememektedir.

Çalışma bir mevzuat metni veya hukuki danışmanlık belgesi değildir. Belirli bir gerçek olayda kimin sorumlu olacağı; ülke mevzuatına, sözleşmelere, sistemin niteliğine, zarar türüne, sektör düzenlemelerine ve somut delillere göre ayrıca değerlendirilmelidir.

Kaynakçada bulunan bazı yayın adları, yılları ve bibliyografik bilgileri bağımsız akademik veri tabanları üzerinden ayrıca doğrulanmalıdır. Makalenin ileri sürdüğü hukuki sonuçlar yalnızca kaynak listesinin varlığına dayanarak yerleşik doktrin kabul edilmemelidir.