Makale, yapay zekâ sistemlerinin yalnızca bilgi işleyen araçlar olmadığını savunuyor. AI sistemleri, kullanıcıların içinde düşündüğü bilgi ortamını da düzenleyebilir. Hangi kanıtların görünür olduğu, hangi seçeneklerin arka planda kaldığı, hangi kararların kolaylaştığı ve hangi eleştirel soruların sorulmaz hale geldiği, sistemin görünmez etkileri arasında yer alabilir.

Çalışmanın ana kavramı “aracısal opaklık” olarak çevrilebilecek mediational opacity kavramıdır. Opaklık, burada yalnızca modelin içinin anlaşılmaması anlamına gelmez. Daha derin sorun, AI sisteminin kullanıcının bilgi ortamını nasıl yeniden şekillendirdiğinin de görünmez hale gelmesidir.

Yazar, açıklanabilir yapay zekâ yöntemlerinin bu sorunu tek başına çözemeyeceğini ileri sürer. Çünkü XAI çoğunlukla modelin belirli bir çıktıyı neden verdiğini açıklamaya çalışır. Oysa makalenin odaklandığı soru farklıdır: Sistem uzun vadede kullanıcıların neyi kanıt saydığını, nasıl düşündüğünü, hangi pratikleri benimsediğini ve hangi alternatifleri artık düşünemez hale geldiğini nasıl değiştiriyor?

Problem Ne?

Yapay zekâ sistemleri birçok alanda karar desteği, öneri, sınıflandırma, puanlama, arama, özetleme ve otomatik analiz aracı olarak kullanılıyor. Bu sistemlerin güvenilir olup olmadığını anlamak için genellikle doğruluk, adalet, açıklanabilirlik, önyargı ve şeffaflık gibi ölçütlere bakılıyor.

Makalenin iddiasına göre bu ölçütler önemli olsa da eksik kalır. Çünkü AI yalnızca tek tek çıktılar üretmez; kullanıcıların içinde karar verdiği bilgi ortamını da değiştirir. Bir öğretmen otomatik kompozisyon puanlama sistemine uzun süre maruz kaldığında, “iyi yazı” hakkındaki dikkatini sistemin ölçebildiği özelliklere kaydırabilir. Bir doktor AI destekli tanı sistemini uzun süre kullandığında, hangi bulguların önemli sayıldığına dair algısı sistemin düzenlediği görünürlükten etkilenebilir. Bir haber öneri sistemi, yalnızca içerik seçmez; kişinin gündem hissini, kaynak çeşitliliğini ve tartışma alanını da biçimlendirebilir.

Bu nedenle sorun yalnızca “AI yanlış karar verdi mi?” sorusu değildir. Daha temel soru şudur: AI sistemi, kullanıcının düşünme, kanıt değerlendirme ve karar verme ortamını nasıl yeniden kuruyor ve bu yeniden kurma süreci denetlenebilir mi?

Yöntem Ne Öneriyor?

Makale yeni bir teknik model veya algoritma önermekten çok, AI denetimi için yeni bir kavramsal çerçeve önerir. Bu çerçevenin merkezinde “mediation audit” yani aracılık denetimi yer alır. Aracılık denetimi, bir AI sisteminin neyi görünür kıldığını, neyi geri plana ittiğini, hangi davranışları kolaylaştırdığını ve hangi eleştirel pratikleri zorlaştırdığını incelemeyi amaçlar.

Çalışma, bu denetimi sistem-kullanıcı-çevre üçlüsü üzerinden düşünür. Yani yalnızca modelin içine veya çıktısına bakmak yeterli değildir. Aynı model farklı kurumlarda, farklı kullanıcı gruplarında ve farklı arayüz tasarımlarında farklı bilgi ortamları oluşturabilir. Bu nedenle denetim, sistemin kullanıldığı gerçek bağlamı da hesaba katmalıdır.

Makale beş boyutlu bir denetim çerçevesi önerir. Birinci boyut, sistemin hangi kanıtları ve düşünme biçimlerini güçlendirdiği veya zayıflattığıdır. İkinci boyut, hangi epistemik faaliyetleri teşvik ettiği veya engellediğidir. Epistemik faaliyet, bilgi edinme, kanıt değerlendirme, sorgulama, gerekçelendirme ve alternatifleri düşünme gibi bilgiyle ilgili eylemler anlamına gelir. Üçüncü boyut, kullanıcıların sistemin kendilerini yönlendirdiğinin farkında olup olmadığıdır. Dördüncü boyut, bu etkilerin zaman içinde nasıl değiştiğidir. Beşinci boyut ise sistemin toplum veya kullanıcı grupları düzeyindeki bilgi etkileridir.

Formüller Ne Anlatıyor?

Bu çalışma matematiksel formül içermemektedir. Metin, teknik bir modelden çok felsefi ve denetimsel bir kavram seti kurar. Aşağıdaki MathJax blokları, makaledeki orijinal formüller değildir; çalışmanın ana mantığını sadeleştirmek için hazırlanmış kavramsal şemalardır.

Bu şema, sorunun yalnızca modelde olmadığını gösterir. AI sisteminin kullanıcıyla ve bilgi ortamıyla kurduğu ilişki, görünmez bir aracılık etkisi doğurabilir.

Bu ifade, çalışmanın XAI eleştirisini özetler. Bir çıktının neden üretildiğini açıklamak, sistemin uzun vadede kullanıcının düşünme ortamını nasıl değiştirdiğini göstermeyebilir.

Bu kavramsal ifade, denetimin yalnızca doğruluk veya adalet testinden ibaret olmadığını anlatır. Denetim, sistemin bilgi ortamındaki görünürlük, pratik, zaman ve topluluk etkilerini birlikte incelemelidir.

Bu şema, makalenin agentic AI tartışmasını sadeleştirir. Agentic AI, yalnızca cevap veren sistemlerden farklı olarak arama, seçme, değerlendirme, araç kullanma ve alt görev planlama gibi ara bilgi işlemlerini de üstlenebilir. Böylece insan, ara aşamaları görmeden yalnızca sonuca ulaşır.

Grafik, Tablo ve Şema Ana Mesajı

Çalışmada yer alan kavramsal tablolar, yapay zekânın farklı aracılık biçimleriyle nasıl konumlandığını açıklar. Bir tarafta kullanıcının eline aldığı ve bıraktığı “odak araçlar” vardır; mikroskop veya tek seferlik tanı aracı bu gruba yakındır. Diğer tarafta ise kullanıcının sürekli içinde yaşadığı “aracı çevre” vardır; öneri sistemleri, klinik AI altyapıları veya agentic sistemler bu tarafa yaklaşır.

Tabloların ana mesajı şudur: AI çoğu zaman yalnızca bir araç gibi davranmaz; bilgi ortamının parçası haline gelir. Kullanıcı artık sistemi sadece kullanmaz, sistemin önceden şekillendirdiği bir alanda düşünmeye başlar.

Bir başka tablo, opaklığı üçe ayırır. İlki kazara opaklıktır; örneğin mikroskobun optik ayrıntılarını herkes bilmez ama uzman biri açıklayabilir. İkincisi epistemik açıdan önemsiz opaklıktır; bilgisayarın tuş vuruşundan ekrana kadar iç süreçleri anlaşılmasa da, epistemik karar insan tarafından verilmiştir. Üçüncüsü ise yapay zekâya özgü “kurucu epistemik opaklık”tır. Burada opak olan şey, bizzat tahmin, sınıflandırma veya çıkarım gibi bilgi üreten işlemdir.

Dört bileşik özellik tablosu da makalenin omurgasını oluşturur. Fenomenolojik sessizlik, kullanıcının sistemin onu nasıl yönlendirdiğini fark etmemesi demektir. Dinamik kendini güçlendirme, sistemin kendi ürettiği davranışlardan yeniden öğrenmesi anlamına gelir. Toplumsal ölçek, milyonlarca kişinin bilgi ortamının aynı mimariyle şekillenmesidir. Bağlamsal yayılganlık ise aynı AI mimarisinin birden fazla alana aynı anda nüfuz etmesidir.

Eklerdeki denetim şeması, otomatik kompozisyon puanlama sistemi örneği üzerinden beş boyutlu aracılık denetimini somutlaştırır. Bu örnekte yalnızca sistemin adil puan verip vermediği değil; öğretmenlerin “iyi yazı” anlayışını, öğrencilerin yazma stratejilerini ve kurumların değerlendirme kültürünü nasıl değiştirdiği de incelenir.

Deneyler Nasıl Yapılmış?

Bu makale doğrudan yeni bir laboratuvar deneyi veya saha araştırması yürütmez. Bunun yerine felsefi analiz, literatür sentezi ve denetim çerçevesi önerisi sunar. Çalışma, AI açıklanabilirliği, postfenomenoloji, sosyal epistemoloji, sorumlu AI, insan-AI etkileşimi, otomasyon önyargısı ve agentic AI literatürünü bir araya getirir.

Metin, örnek vakalar üzerinden kavramları somutlaştırır. Otomatik kompozisyon puanlama sistemi, öğretmenlerin hangi yazı özelliklerini daha önemli görmeye başladığını incelemek için kullanılır. Sağlık algoritması örneği, maliyet verisinin sağlık ihtiyacı yerine kullanıldığında nasıl farklı bir düşünme biçimini teşvik ettiğini gösterir. Öneri sistemleri ise kullanıcının gördüğü bilgi ortamının tekil kararlar değil, uzun vadeli görünürlük düzeni üzerinden değiştiğini anlatır.

Makalenin önerdiği aracılık denetimi, yalnızca teknik testlerden oluşmaz. Yapılandırılmış görüşmeler, kullanıcı algısı anketleri, arayüz analizi, etnografik gözlem, uzunlamasına takip, model güncelleme kayıtları, karşılaştırmalı karar analizi ve nüfus gruplarına göre dağılımsal incelemeler birlikte kullanılmalıdır.

Agentic AI kısmında deneysel bir uygulama değil, kuramsal bir risk analizi vardır. Agentic sistemler, çok adımlı görevleri insanın sürekli gözetimi olmadan planlayıp yürütebildiği için, insan yalnızca son çıktıyı görür. Bu durumda aradaki seçimlerin, kaynak değerlendirmelerinin ve alt kararların nasıl oluştuğunu denetlemek daha da zorlaşır.

Sonuçlar Ne Gösteriyor?

Çalışmanın ana sonucu, yapay zekâ opaklığının yalnızca “modelin içi anlaşılmıyor” sorunu olmadığıdır. Daha kapsamlı risk, AI sisteminin kullanıcıların bilgi ortamını görünmez biçimde yeniden düzenlemesidir. Bu düzenleme, hangi kanıtların önemli sayıldığını, hangi karar yollarının kolaylaştığını, hangi alternatiflerin görünmezleştiğini ve hangi mesleki becerilerin zayıfladığını etkileyebilir.

Makale, açıklanabilir yapay zekânın önemli ama yetersiz olduğunu savunur. Bir sistemin belirli bir tahmini neden yaptığını açıklamak, sistemin yıllar içinde kullanıcıların düşünme alışkanlıklarını nasıl değiştirdiğini göstermeyebilir. Bu nedenle XAI, aracılık denetimleriyle tamamlanmalıdır.

Çalışmanın bir diğer sonucu, insan-AI hibrit karar modeline yöneltilen eleştiridir. Sık kullanılan görüşe göre AI öneri sunar, insan da bunu eleştirel biçimde değerlendirir. Ancak makaleye göre AI uzun süre kullanıcının değerlendirme ölçütlerini de şekillendiriyorsa, insanın yaptığı değerlendirme bağımsız olmayabilir. Bu durum “değerlendirme döngüselliği” doğurur: İnsan, AI’yı değerlendirirken AI’nın zaten değiştirdiği ölçütleri kullanır.

Agentic AI ise sorunu daha ileri taşır. İnsan, artık yalnızca AI’nın son cevabını değil; görülmemiş bir ara bilgi işlemleri zincirinin sonucunu alır. Sistem arar, seçer, değerlendirir, araç kullanır ve alt hedefler belirler. İnsan bu ara aşamaları yaşamadan sonuca ulaştığı için, sorumluluk ve epistemik değerlendirme daha da zorlaşır.

Bu Neden Önemli?

Bu çalışma, yapay zekâ denetiminde gözden kaçan bir düzeyi görünür kılar. Bugün birçok kurum AI sistemlerini doğruluk, hız, maliyet, adalet veya uyumluluk açısından değerlendiriyor. Fakat AI’nın kullanıcıların düşünme ortamını nasıl dönüştürdüğü daha az denetleniyor.

Eğitimde bu, “iyi yazı” kavramının makine tarafından ölçülebilen özelliklere daralması anlamına gelebilir. Sağlıkta, hekimin hangi bulguları daha önemli gördüğü zamanla sistemin arayüzü ve önerileri tarafından şekillenebilir. Haber ve sosyal medya alanında, kullanıcılar farklı gerçeklik adacıklarında yaşayabilir. Bilimsel araştırmada, AI destekli literatür taraması bazı kaynakları görünür kılarken bazılarını sistematik olarak geri plana itebilir.

Makalenin önemi, denetimi yalnızca “sistem doğru mu?” sorusundan “sistem düşünme ortamını nasıl değiştiriyor?” sorusuna genişletmesidir. Bu soru özellikle yüksek etkili alanlarda kritik hale gelir. Çünkü bilgi ortamı değiştiğinde, hatalar yalnızca tek tek kararlarda değil; karar verme kültürünün kendisinde ortaya çıkabilir.

Bu yaklaşım, AI yönetişimi için daha ekolojik bir bakış önerir. Ekolojik derken, sistemi tek başına değil; kullanıcılar, kurumlar, arayüzler, eğitim, alışkanlıklar, geri bildirim döngüleri ve toplumsal ölçekle birlikte değerlendiren bir bakış kastedilir.

Dikkat Noktaları

Çalışma teorik ve felsefi bir çerçeve sunar; doğrudan yeni nicel deney sonuçları üretmez. Bu nedenle önerilen “aracılık denetimi” yaklaşımı, uygulanabilir bir metodoloji yönünde güçlü bir taslak olsa da farklı sektörlerde ayrıca test edilmeli ve operasyonel hale getirilmelidir.

“Mediational opacity” kavramı, AI sistemlerinin tüm kullanım biçimlerini aynı derecede riskli saymaz. Bir sistemin risk düzeyi; kullanım alanına, karar etkisine, kullanıcı bağımlılığına, arayüz tasarımına, güncelleme sıklığına, kurumsal kültüre ve denetim kapasitesine göre değişebilir.

Çalışma XAI’yi reddetmez. Açıklanabilir yapay zekâ, sistem düzeyinde önemli bilgiler sağlayabilir. Fakat makalenin iddiasına göre XAI, kullanıcıların ve kurumların zaman içinde nasıl dönüştüğünü tek başına gösteremez. Bu yüzden XAI, aracılık denetimiyle tamamlanmalıdır.

Agentic AI ile ilgili bölüm özellikle dikkatli okunmalıdır. Burada sistemlerin “bilinçli” olduğu iddia edilmez. “Epistemik delegasyon” kavramı, insanın bilgiyle ilgili ara işlemleri sisteme devretmesi anlamında kullanılır. Bu, teknik yetenekten çok denetim, sorumluluk ve anlayış koşullarıyla ilgilidir.

Bu içerik hukuki tavsiye değildir. Eğitim, sağlık, adalet, finans veya kamu yönetimi gibi alanlarda AI denetimi, ilgili mevzuat, etik standartlar ve uzman incelemesiyle birlikte yürütülmelidir.

Sonuç

Makale, yapay zekâ şeffaflığı tartışmasına önemli bir katman ekliyor. Sorun yalnızca modelin içini açıklamak değildir; AI’nın kullanıcıların bilgi ortamını nasıl yeniden kurduğunu da anlamaktır. Bir sistem, neyin kanıt sayıldığını, hangi pratiklerin kolaylaştığını, hangi alternatiflerin unutulduğunu ve hangi becerilerin zamanla zayıfladığını etkileyebilir.

Bu nedenle sorumlu AI kullanımı, yalnızca doğruluk, adalet veya açıklama raporlarıyla sınırlı kalmamalıdır. Kurumlar, AI sistemlerinin kullanıcı düşüncesi, mesleki değerlendirme, topluluk bilgisi ve uzun vadeli epistemik kapasite üzerindeki etkilerini de izlemelidir.

Verianla açısından bu çalışma, yapay zekânın en kritik etkilerinden birini sade bir soruya indirger: AI bize sadece cevap mı veriyor, yoksa hangi cevapları mümkün ve makul sayacağımızı da sessizce yeniden mi şekillendiriyor?

Kaynak ve Yöntem Notu

Bu yazı, Alessandro Facchini tarafından hazırlanan “Mediational Opacity: How AI Reshapes Our Epistemic Environments, and How to Audit It” başlıklı akademik çalışma temel alınarak hazırlanmıştır. Çalışma; yapay zekâ opaklığı, epistemik aracılık, açıklanabilir yapay zekânın sınırları, aracılık denetimleri, kapasite yaklaşımı, insan-AI hibrit karar verme ve agentic AI konularını felsefi bir çerçevede tartışmaktadır.

Bu içerik birebir çeviri değildir; çalışmanın ana fikri Verianla yayın çizgisine uygun biçimde sadeleştirilmiş ve özgün Türkçe editoryal makaleye dönüştürülmüştür.

Metin, yapay zekâ etiği ve yönetişimi alanındaki kuramsal bir tartışmayı sadeleştirmektedir. Hukuki, teknik veya kurumsal uygulama kararları için alan uzmanlığı ve ilgili mevzuat dikkate alınmalıdır.