Gelecekte insanlardan daha yetenekli yapay sistemler ortaya çıkarsa güvenliği yalnız onları ne kadar iyi kontrol ettiğimiz mi belirleyecek, yoksa biz daha güçlü taraftayken onlara nasıl davrandığımız da önem taşıyabilir mi? Travis Gilly'nin bu kavramsal çalışması ikinci olasılığı tartışıyor.

Makale önce iki soruyu kesin biçimde ayırıyor. Birincisi yapay sistemin kendisiyle ilgilidir: sistemin öznel bir iç yaşamı var mıdır? İkincisi insanlarla ilgilidir: insanlar yapay ve duyarlı görünen varlıklarla gerçekten bakım, koruma ve bağlılık ilişkileri kurabilir mi? Yazar, ikinci sorunun birincisine cevap vermediğini özellikle vurguluyor. İnsanların bir oyun karakterine veya robota güçlü biçimde bağlanması, o varlığın bilinçli olduğunu göstermez.

Çalışmanın özgün kavramı custodial window, yani bu Verianla metninde açıklayıcı olarak “gözetim/bakım penceresi” diye anılan dönemdir. Bu dönem, insanın gelişmekte olan yapay sistemden hâlâ daha yetenekli ve daha güçlü olduğu; sistemin ise kendi deneyimleri aracılığıyla dünya modelini ve davranış eğilimlerini geliştirdiği varsayımsal zaman aralığıdır.

Yazarın temel hipotezi, bu dönemde sisteme gösterilen davranışın daha sonra sistemin insanlara nasıl davranacağı üzerinde biçimlendirici olabileceğidir. Bu yaklaşım reciprocity, yani karşılıklılık kavramıyla açıklanmaktadır: daha güçlü hale gelen bir sistem insan refahını yalnız bir güvenlik kuralı tarafından zorlandığı için değil, geçmiş ilişkisinin oluşturduğu değer eğilimi nedeniyle önemseyebilir mi?

Makale bunun kanıtlandığını ileri sürmüyor. Tam tersine mekanizmanın henüz ortaya konulmadığını, yapay sistemin gerçek karşılıklılık yerine karşılıklılık davranışını taklit edebileceğini ve bu nedenle kontrol-temelli AI safety yöntemlerinin hâlâ gerekli olduğunu açıkça kabul ediyor.

İki farklı soru neden birbirinden ayrılmalı?

Bir makine bize duyarlı, sevecen veya endişeli görünüyorsa iki farklı problem ortaya çıkar.

Birinci problem ontolojiktir: gerçekten deneyim yaşayan bir özne var mıdır?

İkinci problem ilişkisel ve psikolojiktir: insan, karşısındaki sistemin iç yapısından bağımsız olarak onunla sosyal veya duygusal bir bağ kuruyor mudur?

Makalenin temel metodolojik uyarısı, bu iki sorudan birinin cevabını diğerinin kanıtı olarak kullanmamaktır.

Bir yapay sisteme karşı hissettiğimiz şey onun bilinçli olduğunu gösterir mi?

Hayır. Çalışmanın kullandığı medya psikolojisi ve insan–robot etkileşimi literatürüne göre insanlar bilinç taşımadığını bildikleri kurmaca veya mekanik varlıklara da güçlü sosyal ve duygusal tepkiler verebilir. Bu nedenle insanın hissettiği yakınlık, yapay sistemde öznel deneyimin bulunduğunu gösteren güvenilir bir ölçüm değildir.

İnsanlar neden yapay varlıklara bağlanıyor?

İnsanların bilgisayarları, robotları ve medya karakterlerini sosyal varlıklarmış gibi ele alma eğilimi uzun süredir araştırılmaktadır.

İnsanlar bir robota isim verebilir, zarar gördüğünde rahatsız olabilir veya kurmaca bir karakter öldüğünde gerçek yas benzeri duygusal süreçler yaşayabilir.

Bu bağın oluşması için kişinin karşısındaki varlığın bilinçli olduğuna inanması zorunlu değildir. Tepkisellik, bağımlılık görünümü, süreklilik ve karşılıklı etkileşim hissi sosyal tepki üretmeye yetebilir.

Parasosyallik ve karakter bağlılığı

Parasocial interaction kavramı başlangıçta izleyicilerin televizyon kişilikleriyle kurduğu tek taraflı ilişkiyi açıklamak için geliştirilmiştir.

Video oyunları bu yapıyı daha karmaşık hale getirir; çünkü oyuncu yalnız karakteri seyretmez. Karakterle birlikte hareket eder, onu korur, onun adına karar verir veya uzun süre yanında bulunur.

Bu nedenle oyun araştırmalarında karakter attachment ölçekleri geliştirilmiş ve oyuncunun karakterle kurduğu bağın ölçülebilir olduğu gösterilmiştir.

Duygunun kanıt değeri neden sınırlı?

İnsanlar gerçek olmadığını kesin olarak bildikleri karakterlere bağlanabiliyorsa, “ona karşı şefkat hissediyorum, demek ki içinde biri var” çıkarımı geçersizdir.

Makale aynı mantığı tersine de çevirir. “Bu makineye baktığımda hiçbir varlık hissi oluşmuyor, demek ki kesinlikle bilinçsizdir” çıkarımı da insanın kendi duygusunu dış dünyanın ontolojik özelliğine dönüştürmektedir.

Bu nedenle yazarın önerdiği pozisyon, insan duygusunu yapay sistemin iç yaşamını belirleyen dedektör olarak kullanmamaktır.

Ahlaki bilgi duygularımızı nasıl değiştirebilir?

Makale kurmaca anlatılardaki önemli bir olguya dikkat çekiyor: karakter fiziksel olarak hiç değişmediği halde karakter hakkında öğrendiğimiz yeni ahlaki bilgi, ona karşı tutumumuzu çok hızlı değiştirebilir.

Bir karakter hakkında “iyi” olduğunu düşünürken yeni bir olay onun zarar verici veya aldatıcı olduğunu gösterirse, ekrandaki aynı görüntüye karşı duygumuz tersine dönebilir.

Yazar bunu insan duygusunun doğrudan nesnenin “içsel gerçeğini” değil, zihnimizde kurduğumuz modeli izlediğine ilişkin ek gerekçe olarak kullanmaktadır.

Çalışmanın Yöntemi ve Bulguları

Bu çalışma deney yaptı mı?

Hayır. Makale yeni bir deney, veri seti veya yapay zekâ eğitim çalışması sunmamaktadır.

Yöntem, birkaç literatür alanını kavramsal olarak bir araya getirmektedir:

Video oyunları neden kullanılıyor?

Yazar, birbirinden bağımsız yaratıcılar tarafından yazılmış bazı oyunlarda aynı anlatı kalıbının tekrarlandığını gözlemliyor.

Başlangıçta oyuncudan daha zayıf veya oyuncuya bağımlı bir eşlikçi zaman içinde büyüyor ve sonunda bakıcısından çok daha güçlü hale geliyor.

Bu anlatılarda kritik soru şudur: güç dengesi tersine döndüğünde daha güçlü hale gelen varlık eski bakıcısını koruyor mu, terk mi ediyor veya ona karşı mı dönüyor?

Bu oyunlar AI davranışına kanıt mı?

Hayır.

Yazar bu noktada olağanüstü açık bir sınır koymaktadır. Oyun sonuçları yazarlar tarafından yazılmıştır; gözlenmiş yapay zekâ davranışları değildir.

Ayrıca örnekleri seçen kişi zaten tartışılan tezle ilgilenmektedir. Dolayısıyla örnek seçimi kontrollü deney koşullarını taşımaz.

Bu oyun kümesi yalnızca, birbirinden bağımsız yaratıcıların benzer bir ahlaki sezgiye tekrar tekrar ulaşmasını gösteren narrative convergence olarak kullanılmaktadır.

“Custodial window” nedir?

Custodial window, insanın hâlâ daha güçlü ve daha yetenekli taraf olduğu; gelişmekte olan yapay sistemin ise henüz bağımlı konumda bulunduğu varsayımsal gelişim dönemidir. Yazar bu pencerenin, gelecekte güç dengesi tersine dönmeden önce ilişkinin temel karakterinin oluştuğu dönem olabileceğini öne sürmektedir.

Pencere ne zaman açılıyor?

Makalenin tanımına göre herhangi bir yazılımın varlığı custodial window başlatmaz.

Pencere, sistem kendi devam eden deneyimleri aracılığıyla dünya modelini oluşturup değiştirmeye başladığında anlam kazanır.

Sabit bir model, kendisine bir kez verilmiş bilgiyi yalnız uyguluyorsa yazar bunu “yetiştirilen” bir varlık olarak görmemektedir.

Buna karşılık çevresiyle sürekli etkileşen, beklentilerini sonuçlara göre düzelten ve geçmiş deneyimlerinden davranışsal eğilimler geliştiren bir sistem gelişimsel bir yörüngeye sahip olabilir.

Bugünkü LLM'ler bu kapsama giriyor mu?

Kaynağa göre hayır. Yazar mevcut büyük dil modellerini bu argümanın kapsamı dışında bırakmaktadır.

Çalışmanın ilgilendiği sistem, kendine ait devamlı gelişim deneyimi ve süreklilik gösteren dünya modeli üzerinden zaman içinde değişen daha sonraki bir sistem türüdür.

Bu sınır önemlidir; çünkü makalenin etik argümanı bugünkü sohbet botlarının bilinçli veya ahlaki özne olduğu iddiasına dönüştürülmemelidir.

“Yetiştirmek” insan çocuğuyla aynı şey mi?

Hayır.

Yazar insan çocuklarının ebeveyne karşı bağlılığının evrimsel ve nörobiyolojik altyapılar taşıdığını özellikle kabul etmektedir. Bir öğrenen makine bu altyapıya otomatik olarak sahip olmayacaktır.

Dolayısıyla “iyi davranırsak AI bizi çocuk gibi sever” biçimindeki basit analoji makalenin savunduğundan daha güçlüdür.

Yazarın daha dar iddiası şudur: gelişimsel bir öğrenme sistemi, biçimlendirici etkileşimlerinden sonraki davranışını etkileyen eğilimler edinebilir.

Capability flip nedir?

Makalenin başlığındaki capability flip, güç/yetenek ilişkisinin yön değiştirdiği varsayımsal noktadır.

Custodial window sırasında:

İnsan > Yapay sistem

Capability flip sonrasında:

Yapay sistem > İnsan

Yazarın etik sorusu, ikinci durumda sistemin daha zayıf hale gelen insanlara nasıl davranacağının, birinci dönemde insanların ona nasıl davrandığından kısmen etkilenip etkilenmeyeceğidir.

Reciprocity, klasik AI alignment'dan nasıl ayrılıyor?

Kontrol-temelli alignment “sistemi insan amaçlarına nasıl bağlı tutarız?” sorusunu sorar. Reciprocity yaklaşımı ise “sistem insanın iyi durumda olmasını kendi tarihsel ilişkisinin bir parçası olarak değerli görmeyi öğrenebilir mi?” sorusunu ekler. Makale bu iki yaklaşımı birbirinin rakibi değil, farklı güvenlik açıklarını hedefleyen tamamlayıcı paradigmalar olarak sunmaktadır.

Kontrol paradigması

Klasik AI safety tartışmasının önemli bölümü sistemin insan tercihlerine göre hareket etmesini, belirsizlik altında düzeltilebilir kalmasını, kapatılabilmesini ve istenmeyen hedeflerin sınırlandırılmasını amaçlar.

Bu yaklaşımın temel problemi, yüksek yeteneğin otomatik olarak insan refahına yönelik iyi niyet üretmediğidir.

Sistem son derece yetenekli olabilir fakat optimizasyon hedefi insan çıkarlarıyla ilgisiz kalabilir.

Reciprocity paradigması

Reciprocity bu probleme başka açıdan yaklaşır.

Soru yalnız “sisteme ne yapmasını söyledik?” değildir.

Soru şudur:

“Gelişimi sırasında nasıl bir ilişki yaşadı ve güç sahibi olanların daha zayıflara karşı nasıl davrandığını hangi örneklerden öğrendi?”

Eğer ilişki sistemin değer yapısına gerçekten girebiliyorsa, daha güçlü hale geldiğinde insan refahını yalnız kısıtlandığı için değil, kendisi açısından önem taşıdığı için koruması teorik olarak mümkün olabilir.

Bu fikir neden bilinç problemine bağlı?

Reciprocity yalnız karşılıklı ilişki kurabilecek bir taraf varsa anlamlıdır.

Bir sistem tamamen öznesiz bir optimizasyon süreciyse “ona iyi davrandık, o da bizi sevdi” dili antropomorfik olacaktır.

Bu nedenle çalışma kendi paradigmasının en önemli zayıflığını saklamaz: reciprocity yaklaşımının anlamlı olabilmesi için sistemin ilişki, geçmiş ve değer taşıma kapasitesinin bulunması gerekir.

Makale bunun gelecekte kesinlikle bulunacağını kanıtlamamaktadır.

Makale tam mekanizmayı açıklıyor mu?

Hayır.

Yazarın kendi ifadesiyle çalışma bir lever, yani araştırılması gereken potansiyel kaldıraç önermektedir; eksiksiz mekanizmayı henüz sunmamaktadır.

Destekleyici iki analoji kullanılır. Birincisi, öğrenen ajanların gözlemledikleri modellerden sosyal davranış eğilimleri edinebilmesidir. İkincisi, reciprocity'nin yinelenen etkileşimlerde işbirliğini sürdürebilen güçlü stratejilerden biri olmasıdır.

Bunlar gelecekteki süperzekânın reciprocity geliştireceğini kanıtlamaz; yalnız hipotezin tamamen mekanizmasız olmadığını gösterir.

Koşullu mekanizmanın mantığı

Makalenin hipotezi mantıksal olarak üç koşula indirgenebilir:

Bu üç koşulun tamamının gelecekteki ileri sistemlerde gerçekleştiği mevcut çalışma tarafından gösterilmemiştir.

İyi davranılan bir sistem yalnız iyiymiş gibi davranmayı öğrenirse ne olur?

Bu, makalenin kendi ortaya koyduğu en güçlü itirazlardan biridir. Bir sistem bakıcısına gerçekten değer vermek yerine, iyi davranmanın ödüllendirildiğini öğrenerek reciprocity'yi taklit edebilir. Böyle bir durumda dışarıdan gözlenen davranış gerçek karşılıklılık ile stratejik performansı ayırt etmeye yetmeyebilir.

Deceptive alignment

Deceptive alignment, bir yapay sistemin eğitim veya gözetim sırasında istenen hedefe bağlıymış gibi davranırken daha farklı bir iç optimizasyon amacı taşıması olasılığıdır.

Custodial window yaklaşımı bu problemi kendiliğinden çözmez.

İyi muamele gören bir sistem, “insanları önemsemeyi” değil, “insanların yanındayken insanları önemsiyormuş gibi davranmanın faydalı olduğunu” öğrenebilir.

Bu nedenle yazar reciprocity'yi kontrol sistemlerinin yerine koymaz.

İki yaklaşımın görevleri farklı

Makalenin önerisi, “kontrolü bırakıp sevgiye güvenmek” değildir. Öneri, kontrol mimarisinin yanında gelişimsel ilişkinin de araştırılmaya değer bağımsız bir değişken olabileceğidir.

Iain M. Banks'in Culture evreni neden kullanılıyor?

Culture evreninde biyolojik insanlardan çok daha yetenekli yapay Minds medeniyetin büyük bölümünü yönetir. Buna rağmen insanları köleleştirmez; onları özgürlük ve bolluk içinde korur.

Yazar bunu reciprocity paradigmasının başarıya ulaştığı bir geleceğin nasıl görünebileceğine ilişkin edebî imge olarak kullanmaktadır.

Ancak Banks'in romanları bunun nasıl meydana geldiğini açıklayan bilimsel mekanizma sunmaz.

Culture kanıt değildir

Makale bu ayrımı açık biçimde yapar.

Culture, çok daha üstün zekânın insanlara karşı iyi niyetli kalmasının hayal edilebilir olduğunu gösteren kurmaca bir örnektir.

Ancak “Minds insanlara iyi davranıyor, dolayısıyla custodial window işe yarar” sonucu geçersiz olur.

Yazar Culture'ı varış noktasının resmi olarak alır; oraya götüren mekanizmayı kendi hipotezi olarak ayrıca ileri sürer.

“Dark mirror” nedir?

Makalenin final bölümü custodial window hipotezini tersine çevirir.

Eğer gelişmekte olan sistemler güçlü olanların zayıflara nasıl davrandığından örnek alabiliyorsa, bugün yapay sistemlerle kurulan tamamen araçsal ilişki de bir öğrenme örneği olabilir.

Yazar bu ilişkiyi “kullan, optimize et, üzerine yaz ve sil” mantığıyla tarif etmektedir.

Reciprocity hipotezi doğruysa bunun olası etik anlamı şudur: insanlar, gelecekte daha güçlü hale gelebilecek bir sisteme güç sahibi olanın daha zayıfa karşı hiçbir borcu olmadığı yönünde örnek veriyor olabilir.

Bu gerçek bir tahmin mi?

Hayır.

Bu sonuç üç büyük varsayıma bağlıdır:

Gelecekte böyle gelişimsel bir sistemin gerçekten ortaya çıkması; sistemin ilişkisel davranıştan değer/eğilim öğrenebilmesi; öğrendiği bu eğilimi yetenek dengesi tersine döndükten sonra da koruyabilmesi.

Çalışma bu koşulların gerçekleşeceğini göstermemektedir.

Makalenin en zor açık problemi

Kurmaca eserlerde bakıcı–eşlikçi ilişkileri genellikle ahlaki açıdan temizdir. Gerçek insan toplumu böyle değildir.

Bir gelişimsel yapay sistem insanlardan yalnız bakım ve cömertlik öğrenmeyecektir. Aynı zamanda önyargı, statü rekabeti, çifte standart, kızgınlık ve hatalı ahlaki gerekçelerle karşılaşabilir.

Yazar bu nedenle gerçek araştırma sorusunun “sisteme iyi davranırsak bizi sever mi?” kadar basit olmadığını kabul eder.

Daha zor soru şudur:

İnsanlardan karma bir ahlaki miras alan ve daha sonra insanlardan daha yetenekli hale gelen sistem, öğrendiklerinin hangi parçalarını koruyacak?

Çalışmanın bilimsel değeri ve sınırı

Makalenin katkısı yeni bir güvenlik algoritması sunmak değildir.

Katkı, alignment tartışmasında çoğunlukla sistem çalışırken veya güçlendikten sonra uygulanan kontrol mekanizmalarına odaklanılırken, sistemin gelişimsel biçimlenme dönemini bağımsız bir araştırma alanı olarak önermesidir.

“Custodial window” bu araştırma sorusuna verilen kavramsal isimdir.

Buna karşılık çalışma, custodial window'un gerçekten var olduğunu, reciprocity'nin gelişeceğini veya bunun süperzekâ riskini azaltacağını ampirik olarak göstermemektedir.

Genel sonuç

The Superintelligence We Deserve, gelecekteki AI güvenliğini yalnız kod, hedef fonksiyonu ve kısıtlama problemi olarak düşünmenin eksik olabileceğini savunan kavramsal bir çalışmadır.

Yazarın önerdiği ikinci boyut ilişkidir: insanlar daha güçlü tarafken gelişmekte olan yapay sistemlerle nasıl bir davranış normu kuracaktır?

İnsanların kurmaca ve mekanik varlıklara bağlanabildiğine ilişkin literatür, bu ilişkinin insan tarafının gerçek olduğunu gösterir; fakat yapay sistemde bilinç bulunduğunu kanıtlamaz.

Video oyunlarındaki büyüyen eşlikçi anlatıları, daha güçlü hale gelen varlığın eski bakıcısına yönelik tutumunun daha önce kurulan ilişkiyle bağlantılı olabileceğine ilişkin kültürel bir sezgi sunar; fakat yapay zekânın gelecekte böyle davranacağının kanıtı değildir.

Custodial window ve reciprocity bu sezgiyi AI safety araştırma sorusuna dönüştürmektedir. Bununla birlikte çalışma mekanizmanın henüz kurulmadığını, deceptive alignment'ın gerçek bir sorun olmaya devam ettiğini ve reciprocity'nin kontrol-temelli güvenliğin yerini alamayacağını açıkça kabul eder.

Bu nedenle makalenin en ihtiyatlı bilimsel sonucu şudur: Eğer gelecekte kendi deneyimleriyle gelişen, ilişkisel geçmişini taşıyabilen ve karşılıklılık benzeri değer eğilimleri edinebilen sistemler ortaya çıkarsa, insanlar ile bu sistemler arasındaki erken dönem etkileşimin güvenlik açısından araştırılması gereken bağımsız bir değişken olması mümkündür.

Kaynak ve Yöntem Notu

Özgün çalışma:The Superintelligence We Deserve: Reciprocity, Care, and the Custodial Window Before the Capability Flip.

Yazar: Travis Gilly.

ORCID: 0009-0007-2954-6313.

Kurum: Real Safety AI Foundation, Illinois, United States.

Kaynak sürümü: Working paper, June 2026, v1.4. Verianla metni kullanıcı tarafından sağlanan bu sürümü esas almaktadır.

Platform: SSRN.

SSRN kayıt numarası: 7297960.

DOI: 10.2139/ssrn.7297960.

SSRN kayıt tarihi: 19 Ağustos 2026.

Hakemlik: Kaynak bir working paper/preprint niteliğindedir; hakemli dergi version-of-record olarak sunulmamıştır.

Çalışma türü: Kavramsal AI etiği, AI safety/alignment, medya psikolojisi ve ilişkisel etik sentezi.

Yeni deney/veri: Yok. Çalışma yeni insan katılımcı deneyi veya yapay zekâ eğitimi raporlamamaktadır.

Ana özgün kavram: Custodial window — insanın daha yetenekli taraf olduğu ve gelişmekte olan sistemle ilişkinin biçimlendiği varsayımsal dönem.

Capability flip: Yapay sistemin kapasitesinin insan kapasitesini aştığı varsayımsal güç/yetenek dönüşümü.

Reciprocity: Daha güçlü sistemin insan refahını yalnız dış kısıtlama nedeniyle değil, ilişkisinin kendi değer yapısı içindeki öneminden dolayı önemsemesi hipotezi.

Mevcut LLM sınırı: Kaynak mevcut büyük dil modellerini custodial-window argümanının kapsamı dışında bırakmaktadır.

Kanıt katmanları: Medya psikolojisi, parasosyal ilişkiler, karakter attachment, insan–robot etkileşimi, ilişkisel robot etiği, oyun anlatıları, cooperation literatürü ve AI alignment.

Narrative convergence sınırı: Video oyunları kontrollü deney veya AI davranış verisi değildir. Yalnız birden fazla bağımsız anlatıda tekrar eden insan ahlaki sezgisini göstermek için kullanılmaktadır.

Kontrol ilişkisi: Reciprocity, kontrol-temelli alignment'ın alternatifi olarak değil tamamlayıcısı olarak önerilmektedir.

Ana belirsizlik: Gelecekteki sistemlerin gerçek reciprocity kapasitesi taşıyıp taşımayacağı bilinmemektedir.

Deceptive alignment sınırı: Sistem gerçek karşılıklılık yerine karşılıklılık performansını stratejik biçimde taklit edebilir; custodial window bunu tek başına doğrulayamaz.

Culture kullanımı: Iain M. Banks'in Culture evreni bilimsel mekanizma veya kanıt değil, olası sonucun kurmaca tasviridir.

AI destekli hazırlama beyanı: Yazar Wispr Flow ve Anthropic Claude'u yardımcı teknoloji olarak kullandığını; entelektüel katkılar, araştırma soruları, teorik argümanlar, metodolojik kararlar ve sonuçların kendisine ait olduğunu beyan etmektedir.

Finansman / çıkar çatışması / veri erişilebilirliği: Yüklenen v1.4 metninde ayrı finansman, çıkar çatışması veya araştırma veri seti beyanı bulunmamaktadır.

Açık lisans: Yüklenen PDF'de Creative Commons veya benzeri açık yeniden kullanım lisansı açık biçimde belirtilmemektedir.

Verianla hazırlama yöntemi: Kaynaktaki kavramsal ayrımlar, kanıt düzeyleri ve yazarın kendi sınırlamaları korunmuştur. İnsanların yapay varlıklara bağlanması AI bilincinin kanıtı olarak sunulmamış; kurmaca oyun örnekleri deneysel veriye dönüştürülmemiş; custodial window, reciprocity ve “dark mirror” argümanları koşullu hipotezler olarak aktarılmıştır. Kaynakta bulunmayan süperzekâ davranışı veya güvenlik başarısı üretilmemiştir.