Bu çalışma, yapay zekâ etiği ve yapay zekâ hukuku alanında yayımlanmış bir araştırma makalesidir. Alan olarak hukuk, yapay zekâ yönetişimi, etik, kamu politikası ve teknoloji felsefesi kesişiminde yer alır. Makale, yapay zekâ sistemlerinin yol açtığı zararlar karşısında “kim sorumlu olmalı?” sorusuna geliştirici merkezli değil, kullanıcı veya uygulayıcı merkezli bir yanıt önermektedir.

Çalışmanın temel kavramı “user-centric governance” yani kullanıcı merkezli yönetişimdir. Buradaki “kullanıcı”, sıradan bireysel kullanıcıdan çok, yapay zekâ sistemini belirli bir alanda devreye alan kişi, kurum veya organizasyon anlamına gelir. Makalede bu aktörler için “deployer” kavramı da kullanılır. Deployer, bir yapay zekâ sistemini belirli bir bağlamda kullanan, karar süreçlerine yerleştiren veya sonuçlarını uygulamaya sokan taraftır.

Bu içerik hukuki tavsiye değildir. Amaç, makalenin hukuki ve etik tartışmasını sade Türkçe ile açıklamak; yapay zekâ sorumluluğu, insan denetimi, geliştirici yükümlülüğü ve uygulayıcı hesap verebilirliği arasındaki ilişkiyi anlaşılır hâle getirmektir.

Makale, yapay zekâ sistemleri zarar verdiğinde sorumluluğun yalnızca geliştiricilere yüklenmesinin hem teorik hem pratik sorunlar doğurduğunu savunur. Yazara göre yapay zekâ, kendi başına hukuki ve ahlaki sorumluluk taşıyan bağımsız bir fail gibi değil, insan tarafından kullanılan güçlü bir araç gibi değerlendirilmelidir. Bu nedenle asıl sorumluluk, sistemi belirli bir bağlamda devreye alan ve çıktıya dayanarak karar veren insan aktörlerde veya kurumlarda aranmalıdır.

Çalışmanın ana tezi şudur: Yapay zekâ bir araçtır; araçtan çıkan sonucun toplumsal etkisi, onu kimin, nerede, hangi amaçla ve hangi denetimle kullandığına bağlıdır. Bir cerrahın neşteri nasıl kullandığı, bir sürücünün aracı nasıl yönettiği veya bir şirketin otomatik karar sistemini nasıl devreye aldığı, sorumluluğun merkezini belirler. Yapay zekâ da bu mantıkla ele alınmalıdır.

Yazar bu yaklaşımı “distributed yet centered” yani “dağılmış ama merkezli” yönetişim modeliyle açıklar. Bu modele göre yapay zekâ ekosisteminde geliştiriciler, sağlayıcılar, kurumlar, profesyoneller ve son kullanıcılar farklı yükümlülükler taşır; fakat hesap verebilirliğin merkezi, sistemi somut bir bağlamda kullanıma sokan uygulayıcı tarafta kalmalıdır.

Problem Ne?

Yapay zekâ sistemleri artık kredi başvurularından işe alıma, sağlık kaynaklarının dağıtımından ceza adaleti risk değerlendirmelerine kadar pek çok yüksek etkili alanda kullanılmaktadır. Bu sistemler bazen hatalı, ayrımcı, eksik veya yanıltıcı sonuçlar üretebilir. Böyle bir durumda temel soru ortaya çıkar: Bu zarardan kim sorumlu tutulmalıdır?

Geleneksel tartışmalarda sorumluluk çoğunlukla geliştiriciye, yani yapay zekâ modelini tasarlayan veya üreten tarafa yönelir. Bu yaklaşım ilk bakışta mantıklı görünür; çünkü sistemin teknik altyapısını geliştirici kurar. Ancak makale, yapay zekâ zararlarının her zaman teknik tasarım hatasından kaynaklanmadığını vurgular. Aynı sistem farklı kurumlarda, farklı kullanıcılarla, farklı veri koşullarında ve farklı denetim seviyelerinde bambaşka sonuçlar doğurabilir.

Bu noktada “responsibility gap” yani sorumluluk boşluğu sorunu ortaya çıkar. Sorumluluk boşluğu, gelişmiş yapay zekâ sistemlerinin yol açtığı zararların açık biçimde bir insan kararına bağlanamaması ve sonuçta kimsenin tam olarak hesap vermemesi durumudur. Makale, bu boşluğu kapatmanın yolunun yapay zekâyı bağımsız bir fail gibi görmek değil, onu kullanan insan ve kurumların kararlarına odaklanmak olduğunu savunur.

Bir başka sorun da antropomorfizm, yani yapay zekâya insan özellikleri yükleme eğilimidir. Sistemler “öğreniyor”, “karar veriyor” veya “düşünüyor” gibi anlatıldığında, insanlar sorumluluğu sistemi kullanan kurumdan alıp makinenin kendisine yükleme eğilimine girebilir. Makale bu dilin hesap verebilirliği bulanıklaştırdığını belirtir.

Yöntem Ne Öneriyor?

Makale, yapay zekâyı hukuki ve kavramsal olarak “araç” kategorisinde ele almayı önerir. Araç yaklaşımı, sorumluluğun araca değil, aracı kullanan insana veya kuruma bağlanması gerektiğini söyler. Roma hukukundan modern haksız fiil hukukuna kadar birçok hukuk alanında benzer bir mantık vardır: Bir araç kendi başına niyet taşımaz; onu kullanan kişinin özen yükümlülüğü vardır.

Yazar, kullanıcı merkezli yapay zekâ yönetişimini üç temel ilkeye dayandırır: yakınlık, kontrol ve uzmanlık. Yakınlık ilkesi, zarara en yakın olan ve onu önleme imkânı en yüksek aktörün daha fazla sorumluluk taşıması gerektiğini ifade eder. Yapay zekâ bağlamında bu aktör çoğu zaman sistemi belirli bir alanda kullanan kurumdur.

Kontrol ilkesi, sorumluluğun gerçek karar yetkisini ve sonucu etkileme kapasitesini takip etmesi gerektiğini belirtir. Yapay zekâ sistemini kullanıp kullanmama, hangi bağlamda devreye alma, hangi eşikleri belirleme, insan denetimini nasıl kurma ve çıktıya nasıl davranma gibi kararlar çoğu zaman uygulayıcı tarafta alınır.

Uzmanlık ilkesi ise riskleri önlemek için gerekli alan bilgisinin kimde olduğuna bakar. Bir yapay zekâ geliştiricisi teknik sistemi iyi bilebilir; fakat sağlık, finans, hukuk, eğitim veya kamu hizmeti gibi alanlarda kararın gerçek etkisini çoğu zaman alan uzmanı ve sistemi uygulayan kurum daha iyi anlar. Bu nedenle makale, uygulayıcıların yalnızca pasif kullanıcılar değil, sorumluluk taşıyan karar aktörleri olduğunu savunur.

Bununla birlikte çalışma geliştiricileri tamamen sorumsuz bırakmaz. Aksine, geliştiricilerin sistemin sınırlarını açıklama, bilinen hata türlerini bildirme, güvenlik testleri yapma, dokümantasyon sağlama ve kullanıcıya sorumlu kullanım için gerekli bilgi altyapısını sunma yükümlülüğü bulunduğunu kabul eder. Kullanıcı merkezli modelin farkı, birincil operasyonel sorumluluğu sistemin somut kullanım noktasına yerleştirmesidir.

Formüller Ne Anlatıyor?

Bu çalışma matematiksel formül içermemektedir. Makale, nicel model veya hesaplama denklemi yerine hukuki ilkeler, yönetişim çerçeveleri ve sorumluluk dağılımı üzerinden ilerler.

Aşağıdaki MathJax gösterimi, makalenin kavramsal sorumluluk modelini sadeleştirmek için hazırlanmıştır. Bu, makalede verilen birebir matematiksel bir formül değil, çalışmanın temel argümanını anlaşılır kılmak için oluşturulmuş şematik bir gösterimdir.

Bu gösterim, makalenin kullanıcı merkezli yaklaşımını özetler. Yapay zekâ sisteminin zararlı sonuçlarını önleme açısından zarara yakın olan, sistemi fiilen kontrol eden ve uygulama bağlamını anlayan aktör daha güçlü sorumluluk taşır.

İkinci şema, makalenin “distributed yet centered” yaklaşımını özetler. Yapay zekâ ekosisteminde geliştirici, sağlayıcı, kurum, profesyonel kullanıcı ve düzenleyici gibi birçok aktörün yükümlülüğü vardır. Ancak bu yükümlülüklerin dağılmış olması, hesap verebilirliğin tamamen dağılması anlamına gelmemelidir. Somut kullanım kararını veren taraf, hesap verebilirliğin merkezinde kalmalıdır.

Üçüncü şema, makalenin kara kutu ve API kullanımına getirdiği dengeyi anlatır. Eğer uygulayıcı taraf sistem üzerinde tam kontrol sahibi değilse, örneğin kapalı bir API üzerinden model kullanıyorsa, sağlayıcının sistem sınırları, riskleri ve bilinen hata türleri hakkında daha güçlü açıklama yapması gerekir.

Grafik, Tablo ve Şema Ana Mesajı

Makalenin en önemli görseli, yapay zekâ kullanımında insan fail alanı ile makine işlem alanını ayıran bir sorumluluk şemasıdır. Bu şema, kararın başlangıcında ve sonunda insan kontrolünün bulunduğunu gösterir. İnsan aktörler sistemi kullanmaya karar verir, parametreleri veya kullanım bağlamını belirler, çıktıların nasıl değerlendirileceğine karar verir ve sonuçları uygular. Makine ise bu süreç içinde algoritmik işleme ve çıktı üretme aşamasında yer alır.

Bu görselin ana mesajı şudur: Yapay zekâ sistemi süreçte önemli bir rol oynasa da sorumluluğun kritik noktaları hâlâ insan kararlarına bağlıdır. Sistemi devreye alma, onu hangi alanda kullanacağını seçme, çıktıyı denetleme ve son karara dönüştürme gibi aşamalar insan fail alanında kalır. Bu nedenle makale, birincil sorumluluk bölgesini uygulayıcı insan veya kurum tarafında konumlandırır.

Makaledeki tablo ise kullanıcı merkezli yönetişimi destekleyen üç ilkeyi özetler. Yakınlık ilkesi, zarara en yakın aktörün bağlamı daha iyi bildiğini söyler. Kontrol ilkesi, uygulayıcının sistem parametreleri ve denetim süreçleri üzerinde etkili olduğunu vurgular. Uzmanlık ilkesi ise birçok riskin ancak alan bilgisiyle anlaşılabileceğini belirtir.

Bu görsel ve tablo birlikte okunduğunda makalenin merkezi fikri netleşir: Yapay zekâ yönetişimi yalnızca teknik tasarıma değil, sistemin gerçek dünyada nasıl kullanıldığına bakmalıdır. Çünkü zarar çoğu zaman modelin soyut kapasitesinden değil, bu kapasitenin belirli bir kurum, amaç, karar süreci ve denetim yapısı içinde nasıl devreye alındığından doğar.

Deneyler Nasıl Yapılmış?

Bu çalışma deneysel bir laboratuvar araştırması değildir. Yeni bir veri seti oluşturmaz, istatistiksel test yürütmez ve nicel saha deneyi sunmaz. Makale; hukuk teorisi, haksız fiil hukuku, ajans hukuku, yapay zekâ etiği, teknoloji felsefesi, mesleki standartlar ve düzenleyici çerçeveler üzerinden normatif bir argüman kurar.

Çalışma, mahkeme kararları ve düzenleyici örnekler üzerinden argümanını güçlendirir. Örneğin Air Canada chatbot olayı, bir kurumun yapay zekâ sisteminin verdiği bilgiden kendisini tamamen ayıramayacağını gösteren güncel bir örnek olarak kullanılır. ChatGPT ile doğrulanmamış sahte hukuki atıflar sunan avukatların yaptırıma uğradığı Mata v. Avianca kararı da profesyonel kullanıcının yapay zekâ çıktısını doğrulama yükümlülüğünü vurgular.

Makale ayrıca Avrupa Birliği Yapay Zekâ Yasası, revize Ürün Sorumluluğu Direktifi, NIST Yapay Zekâ Risk Yönetimi Çerçevesi, ISO/IEC 42001 ve farklı ülke yaklaşımlarını tartışır. Bu karşılaştırmalı yaklaşım, kullanıcı merkezli sorumluluk modelinin tek başına tüm dünyada kabul edilmiş bir standart olmadığını; fakat mevcut düzenlemelerle birlikte düşünülebilecek tutarlı bir yönetişim önerisi olduğunu gösterir.

Dolayısıyla çalışmanın yöntemi, kavramsal analiz ve hukuk-politika değerlendirmesidir. Gücü, farklı hukuk alanlarını ve yapay zekâ yönetişimi tartışmalarını tek bir sorumluluk modeli altında birleştirmesidir. Sınırlılığı ise önerilen modelin ampirik olarak hangi sektörlerde nasıl sonuç vereceğinin ayrıca araştırılmaya ihtiyaç duymasıdır.

Sonuçlar Ne Gösteriyor?

Makalenin vardığı ana sonuç, yapay zekâ zararlarında sorumluluğu yalnızca geliştiriciye bağlamanın yetersiz olduğudur. Geliştirici güvenli tasarım, açıklama, dokümantasyon ve bilinen riskleri bildirme gibi yükümlülükler taşımalıdır; ancak sistemin hangi bağlamda, hangi amaçla ve hangi denetimle kullanılacağına çoğu zaman uygulayıcı karar verir.

Bu nedenle makale, operasyonel sorumluluğun kullanım kararını veren aktöre yönelmesi gerektiğini savunur. Bir hastanede klinik karar desteği, bir bankada kredi değerlendirme sistemi, bir hukuk bürosunda belge hazırlama aracı veya bir kamu kurumunda otomatik karar sistemi kullanılıyorsa, bu sistemi devreye alan kurumun karar süreçlerini denetleme, çıktıları doğrulama ve insan gözetimi sağlama yükümlülüğü vardır.

Çalışma ayrıca geliştirici merkezli modellerin bazı zorluklarını gösterir. Yapay zekâ sistemleri kara kutu gibi çalışabilir; eğitim verisi, model mimarisi, sonradan öğrenme ve kullanım bağlamı birlikte etkili olabilir. Bu durumda zararı belirli bir kod satırına veya tek bir tasarım kararına bağlamak her zaman mümkün değildir.

Buna karşılık kullanıcı merkezli model, sorumluluğu somut kullanım noktasına bağlar. Sistemi çalıştıran, parametreleri belirleyen, çıktıya güvenen, insan denetimini kuran veya kurmayan taraf hesap vermelidir. Bu yaklaşım, kamu güveni, demokratik denetim ve güç dengesizlikleri açısından daha görünür sorumluluk yolları oluşturmayı amaçlar.

Bu Neden Önemli?

Yapay zekâ sistemleri giderek daha fazla karar sürecine yerleştikçe, yanlış veya zararlı sonuçların kime bağlanacağı meselesi yalnızca teknik bir problem olmaktan çıkar. Bu konu hukuki sorumluluk, demokratik hesap verebilirlik, kamu güveni ve insan özerkliğiyle doğrudan ilişkilidir.

Bir vatandaş kredi alamadığında, bir hasta yanlış yönlendirilmiş bir klinik karar desteğinden etkilendiğinde, bir çalışan algoritmik değerlendirme nedeniyle dezavantaj yaşadığında veya bir kamu hizmeti otomatik sistemle yanlış dağıtıldığında, “bunu algoritma yaptı” demek yeterli değildir. İnsanların itiraz edebileceği, açıklama isteyebileceği ve hesap sorabileceği belirli kurumların olması gerekir.

Makalenin önemi burada ortaya çıkar. Kullanıcı merkezli yönetişim, yapay zekâyı büyülü, özerk ve sorumluluk taşıyan bir varlık gibi değil, insan karar zincirine yerleştirilen bir araç gibi görür. Bu yaklaşım, insan denetimini ve kurumsal sorumluluğu merkeze alarak teknolojinin demokratik sistemler içinde daha anlaşılır ve denetlenebilir kalmasına katkı sunabilir.

Ayrıca çalışma, geliştiriciler ile uygulayıcılar arasında daha gerçekçi bir denge kurulmasını önerir. Geliştirici her kullanım bağlamını önceden bilemeyebilir; uygulayıcı da sistemin tüm teknik ayrıntılarını göremeyebilir. Bu yüzden model, uygulayıcı sorumluluğunu güçlendirirken sağlayıcıların açıklama ve dokümantasyon yükümlülüğünü de artırır.

Dikkat Noktaları

Birinci dikkat noktası, kullanıcı merkezli sorumluluk modelinin geliştiricileri tamamen sorumsuz bırakmadığıdır. Makale, geliştiricilerin güvenli tasarım, model sınırlarını açıklama, bilinen hata türlerini bildirme, dokümantasyon sağlama ve izleme araçları sunma yükümlülüklerini kabul eder.

İkinci dikkat noktası, kara kutu sistemlerdir. Eğer bir kurum kapalı bir API üzerinden yapay zekâ kullanıyorsa ve modelin eğitim verisine, mimarisine veya güvenlik mekanizmalarına erişemiyorsa, uygulayıcının kontrolü azalır. Bu durumda sağlayıcı tarafın daha güçlü açıklama yapması gerekir.

Üçüncü dikkat noktası, bireysel kullanıcılar ile büyük kurumsal uygulayıcıların aynı sorumluluk seviyesinde değerlendirilemeyeceğidir. Büyük bir finans kurumu veya hastane, sistemleri test etme, denetleme ve risk analizi yapma kapasitesine sahiptir. Sıradan bir bireysel kullanıcı ise aynı kaynaklara sahip değildir. Bu yüzden sorumluluk kapasiteye, bağlama ve risk düzeyine göre ayarlanmalıdır.

Dördüncü dikkat noktası, yüksek riskli alanlardır. Sağlık, ceza adaleti, kredi, kamu hizmetleri ve otonom araçlar gibi alanlarda zararlar geri döndürülemez veya çok ağır olabilir. Bu alanlarda yalnızca kullanıcı denetimine güvenmek yeterli olmayabilir; geliştirici taraflı güvenlik önlemleri, düzenleyici denetim ve güçlü insan gözetimi birlikte gereklidir.

Beşinci dikkat noktası, küresel düzenleyici ortamın tek sesli olmamasıdır. Bazı yaklaşımlar sağlayıcı veya üretici sorumluluğunu daha güçlü tutarken, bazıları kontrol düzeyine göre sorumluluk dağılımını savunur. Bu nedenle kullanıcı merkezli yönetişim, kesinleşmiş küresel standart değil, tartışmalı ama güçlü bir teorik pozisyondur.

Sonuç

Makale, yapay zekâ yönetişiminde hesap verebilirliği korumanın en etkili yolunun, sistemi gerçek dünyada kullanan insan ve kurumlara odaklanmak olduğunu savunur. Yapay zekâ çıktıları kendi kendine toplumsal sonuç üretmez; bu çıktılar belirli insanlar tarafından seçilir, yorumlanır, uygulanır veya denetlenmeden bırakılır.

Kullanıcı merkezli sorumluluk modeli, yapay zekâyı bağımsız bir hukuki fail gibi değil, insan eliyle kullanılan karmaşık bir araç gibi ele alır. Bu yaklaşım, zarar durumunda “sistem yaptı” bahanesini zayıflatır ve karar zincirindeki insan aktörleri görünür kılar.

Yine de makalenin önerisi tek taraflı değildir. Geliştiriciler, sağlayıcılar, kurumlar ve düzenleyiciler de sorumluluk taşır. Fakat bu sorumluluklar dağılmış olsa bile hesap verebilirlik tamamen dağılmamalıdır. Makalenin “dağılmış ama merkezli” modeli tam da bunu anlatır: birçok aktör yükümlülük taşır, ancak somut kullanım kararını veren taraf hesap verebilirliğin merkezinde kalır.

Bu yaklaşım, yapay zekâ çağında kamu güvenini, demokratik denetimi ve insan yargısını korumaya dönük önemli bir tartışma başlığı sunar. En güçlü mesajı şudur: Yapay zekâ ne kadar gelişirse gelişsin, yüksek etkili kararların arkasında hesap verebilir insan ve kurumlar kalmalıdır.

Kaynak ve Yöntem Notu

Bu yazı, Zhengyang Chen’in “Operational responsibility in AI governance: a user-centric liability framework” başlıklı AI and Ethics dergisinde yayımlanan araştırma makalesinin ana fikirleri temel alınarak hazırlanmıştır. Metinde makalenin kullanıcı merkezli yapay zekâ yönetişimi, sorumluluk boşluğu, yapay zekânın araç olarak görülmesi, yakınlık-kontrol-uzmanlık ilkeleri, kara kutu problemi, geliştirici ve uygulayıcı yükümlülükleri, düzenleyici çerçeveler ve demokratik hesap verebilirlik hakkındaki temel argümanları sade Türkçe ile açıklanmıştır.

Bu içerik birebir çeviri değildir; çalışmanın ana fikri Verianla yayın çizgisine uygun biçimde sadeleştirilmiş ve özgün Türkçe editoryal makaleye dönüştürülmüştür.

Bu içerik hukuki tavsiye değildir. Yapay zekâ sorumluluğu ve hukuki yükümlülükler ülkeye, sektöre, kullanım bağlamına ve güncel düzenlemelere göre değişebilir. Metin, akademik tartışmayı anlaşılır hâle getirmek amacıyla hazırlanmıştır.