İstiḳbâlde insânlardan daha ziyâde ḳābiliyyetli ṣunʿî sistemler ẓuhûr ederse emniyyeti yalnız bunları ne derece iyi murâḳabe edebildiğimiz mi taʿyîn edecektir, yoḫsa biz daha ḳuvvetli ṭaraf iken bunlara ne sûretle muʿâmele ettiğimiz de ehemmiyyet kesb edebilir mi? Travis Gilly’nin bu mefhûmî taḥḳîḳi ikinci iḥtimâli müzâkere etmektedir.

Maḳāle evvelâ iki suʾâli ḳaṭʿî sûrette birbirinden tefrîḳ eder. Birinci suʾâl ṣunʿî sistemin kendisine müteʿalliḳdir: sistemin ẕâtî bir ḥayât-ı dâḫiliyyesi var mıdır? İkinci suʾâl insânlara müteʿalliḳdir: insânlar ṣunʿî ve ḥassâs görünür mevcûdlarla ḥaḳîḳaten ihtimâm, ḥimâye ve irtibâṭ münâsebetleri kurabilir mi? Müellif, ikinci suʾâlin birincisine cevâb teşkîl etmediğini ḫuṣûṣan teʾkîd eder. İnsânların bir oyun ḳahramânına yâḫud robota ḳuvvetle bağlanması, o mevcûdun şuʿûrlu olduğuna delâlet etmez.

Taḥḳîḳin aṣlî mefhûmu custodial window, yaʿnî bu Verianla metninde îżâḥ mâhiyyetinde “neẓâret/ihtimâm penceresi” diye tesmiye olunan devirdir. Bu devir, insânın inkişaf etmekte olan ṣunʿî sistemden henüz daha ḳābiliyyetli ve daha ḳuvvetli bulunduğu; sistemin ise kendi tecrübeleri vâsıṭasıyla dünya modelini ve tavır temâyüllerini geliştirdiği farazî zamân aralığıdır.

Müellifin esâs faraziyyesi, bu devrede sisteme gösterilen muʿâmelenin daha sonra sistemin insânlara ne sûretle muʿâmele edeceği üzerinde teşkîl edici olabileceğidir. Bu yaklaşım reciprocity, yaʿnî mütekābiliyyet mefhûmuyla îżâḥ olunur: daha ḳuvvetli hâle gelen bir sistem, insân refâhını yalnız bir emniyyet ḳāʿidesi tarafından mecbûr edildiği içün değil, geçmiş münâsebetin teşkîl ettiği bir ḳıymet temâyülü sebebiyle ehemmiyyetli görebilir mi?

Maḳāle bunun isbât edildiğini iddiʿâ etmez. Bilʿakis mekanizmanın henüz ortaya ḳonulmadığını, ṣunʿî sistemin ḥaḳîḳî mütekābiliyyet yerine reciprocity tavrını taḳlîd edebileceğini ve bu sebeple murâḳabe esâslı AI safety usûllerinin hâlâ lâzım olduğunu açıkça ḳabûl eder.

İki ayrı suʾâl niçün birbirinden tefrîḳ edilmelidir?

Bir makine bize ḥassâs, müşfiḳ yâḫud endîşeli görünürse iki ayrı mesele ẓuhûr eder.

Birinci mesele ontolojiktir: ḥaḳîḳaten tecrübe yaşayan bir fâʿil var mıdır?

İkinci mesele münâsebetî ve psikolojiktir: insân, karşısındaki sistemin dâḫilî bünyesinden müstaġnî olarak onunla ictimâʿî yâḫud ḥissî bir râbıṭa kuruyor mu?

Maḳālenin esâs metodolojik ihtârı, bu iki suʾâlden birinin cevâbını diğerinin delîli olarak kullanmamaktır.

Bir ṣunʿî sisteme karşı duyduğumuz ḥis onun şuʿûrlu olduğunu gösterir mi?

Ḫayır. Taḥḳîḳin istifâde ettiği medya psikolojisi ve insân–robot teʿâmülü literatürüne göre insânlar, şuʿûr taşımadığını bildikleri ḫayâlî yâḫud mekanik mevcûdlara da ḳuvvetli ictimâʿî ve ḥissî tepkiler verebilir. Binâʾenaleyh insânın duyduğu ünsiyyet, ṣunʿî sistemde ẕâtî tecrübenin bulunduğunu gösteren mûteber bir ölçü değildir.

İnsânlar niçün ṣunʿî mevcûdlara bağlanır?

İnsânların kompüterleri, robotları ve medya ḳahramânlarını ictimâʿî mevcûdlarmış gibi telâḳḳî etme temâyülü uzun müddettir taḥḳîḳ olunmaktadır.

İnsânlar bir robota isim verebilir, zarar gördüğünde müteʾessir olabilir yâḫud ḫayâlî bir ḳahramân öldüğünde ḥaḳîḳî mâteme benzer ḥissî süreçler yaşayabilir.

Bu râbıṭanın teşekkülü içün kişinin karşısındaki mevcûdun şuʿûrlu olduğuna inanması şart değildir. Tepki verebilme, iʿtimâd ve bağımlılık görünüşü, devâmlılıḳ ve mütekābil teʿâmül ḥissi ictimâʿî tepki husûle getirmeye kifâyet edebilir.

Parasosyallik ve ḳahramâna bağlılıḳ

Parasocial interaction mefhûmu evvel emirde seyircilerin televizyon şahsiyyetleriyle kurduğu tek ṭaraflı münâsebeti îżâḥ etmek içün geliştirilmiştir.

Video oyunları bu yapıyı daha mürekkeb hâle getirir; zîrâ oyuncu yalnız ḳahramânı seyretmez. Onunla beraber hareket eder, onu ḥimâye eder, onun nâmına ḳarâr verir yâḫud uzun müddet yanında bulunur.

Bu sebeple oyun taḥḳîḳlerinde character attachment miḳyâsları geliştirilmiş ve oyuncunun ḳahramânla kurduğu râbıṭanın ölçülebilir olduğu gösterilmiştir.

Ḥissin delîl ḳıymeti niçün maḥdûddur?

İnsânlar ḥaḳîḳî olmadığını ḳaṭʿî bildikleri ḳahramânlara bağlanabiliyorsa, “ona şefḳat duyuyorum, demek ki içinde biri var” istidlâli bâtıldır.

Maḳāle aynı mantığı maʿkûsen de tatbîḳ eder. “Bu makineye baḳtığımda hiçbir mevcûdiyyet ḥissi duymuyorum, öyleyse mutlaka şuʿûrsuzdur” istidlâli de insânın kendi ḥissini ḫâricî dünyanın ontolojik bir ḫaṣṣasına çevirmektedir.

Bu sebeple müellifin teklîf ettiği mevḳıʿ, insân ḥissini ṣunʿî sistemin ḥayât-ı dâḫiliyyesini taʿyîn eden bir dedektör gibi kullanmamaktır.

Aḫlâḳî maʿlûmât ḥislerimizi nasıl değiştirebilir?

Maḳāle ḫayâlî anlatılardaki mühim bir ḥâdiseye dikkati celb eder: ḳahramân cismen hiç değişmediği hâlde onun ḥaḳḳında öğrendiğimiz yeni aḫlâḳî maʿlûmât, ona karşı tavrımızı pek sürʿatle değiştirebilir.

Bir ḳahramânı “iyi” zannederken yeni bir ḥâdise onun zarar verici yâḫud aldatıcı olduğunu gösterirse, ekrandaki aynı ṣûrete karşı ḥissimiz maʿkûs hâle gelebilir.

Müellif bunu, insân ḥissinin doğrudan doğruya nesnenin “dâḫilî ḥaḳîḳatini” değil, zihnimizde teşkîl ettiğimiz modeli taḳîb ettiğine ilâve bir mesned olarak kullanır.

Taḥḳîḳin Usûlü ve Netîceleri

Bu taḥḳîḳ tecrübe icrâ etti mi?

Ḫayır. Maḳāle yeni bir tecrübe, veri kümesi yâḫud ṣunʿî zekâ talîmi taḥḳîḳi sunmamaktadır.

Usûl, birkaç literatür sâhasını mefhûmî sûrette bir araya getirir:

Video oyunları niçün kullanılıyor?

Müellif, birbirinden müstaḳil yaratıcılar tarafından yazılmış baʿżı oyunlarda aynı anlatı ḳālıbının tekerrür ettiğini müşâhede eder.

Başlangıçta oyuncudan daha żaʿîf yâḫud oyuncuya tâbiʿ olan bir refîḳ zamânla gelişir ve nihâyet bakıcısından çok daha ḳuvvetli hâle gelir.

Bu anlatılarda kritik suʾâl şudur: ḳuvvet muvâzenesi maʿkûs olduğunda daha ḳuvvetli hâle gelen mevcûd eski bakıcısını ḥimâye mi eder, terk mi eder yâḫud ona karşı mı döner?

Bu oyunlar AI tavrına delîl midir?

Ḫayır.

Müellif bu noḳṭada fevḳalâde açık bir ḥadd vazʿ eder. Oyun netîceleri müellifler tarafından yazılmıştır; müşâhede edilmiş ṣunʿî zekâ tavırları değildir.

Ayrıca misâlleri intihâb eden kişi zâten müzâkere olunan tezle alâḳadardır. Binâʾenaleyh numûne intihâbı murâḳabeli tecrübe şerâʾiṭini taşımaz.

Bu oyun kümesi yalnız, birbirinden müstaḳil yaratıcıların benzer bir aḫlâḳî sezgiye tekrar tekrar varmasını gösteren narrative convergence olarak kullanılır.

“Custodial window” nedir?

Custodial window, insânın henüz daha ḳuvvetli ve ḳābiliyyetli ṭaraf olduğu; gelişmekte olan ṣunʿî sistemin ise hâlâ tâbiʿ vazʿiyyette bulunduğu farazî tekâmül devridir. Müellif, bu pencerenin istiḳbâlde ḳuvvet muvâzenesi tersine dönmeden evvel münâsebetin esâs mâhiyyetinin teşekkül ettiği devir olabileceğini ileri sürer.

Pencere ne zamân açılır?

Maḳālenin taʿrîfine göre herhangi bir yazılımın mevcûdiyyeti custodial window’u başlatmaz.

Pencere, sistem kendi devâm eden tecrübeleri vâsıṭasıyla dünya modelini teşkîl ve taġyîr etmeye başladığında maʿnâ kesb eder.

Sâbit bir model, kendisine bir defʿa verilmiş maʿlûmâtı yalnız tatbîḳ ediyorsa müellif bunu “yetiştirilen” bir mevcûd saymaz.

Buna muḳābil çevresiyle mütemâdî teʿâmül eden, beklentilerini netîcelere göre taṣḥîḥ eden ve geçmiş tecrübelerinden tavır temâyülleri geliştiren bir sistem inkişafî bir seyre mâlik olabilir.

Bugünkü LLM’ler bu dâʾireye giriyor mu?

Menbaʿa göre ḫayır. Müellif mevcûd büyük dil modellerini bu delîlin şümûlü dışında bırakır.

Taḥḳîḳin alâḳadar olduğu sistem, kendine mahsûṣ devâmlı inkişaf tecrübesi ve süreklilik arz eden dünya modeli vâsıṭasıyla zamân içinde değişen daha sonraki bir sistem nevʿidir.

Bu ḥadd mühimdir; zîrâ maḳālenin etik delîli bugünkü sohbet botlarının şuʿûrlu yâḫud aḫlâḳî fâʿil olduğu iddiʿâsına tahvîl edilmemelidir.

“Yetiştirmek” insân çocuğuyla aynı şey midir?

Ḫayır.

Müellif insân çocuklarının ebeveyne bağlılığının tekâmülî ve nörobiyolojik temellere mâlik olduğunu ḫuṣûṣan ḳabûl eder. Öğrenen bir makine bu temellere kendiliğinden mâlik olmayacaktır.

Binâʾenaleyh “iyi muʿâmele edersek AI bizi çocuk gibi sever” şeklindeki basîṭ ḳıyâs, maḳālenin müdâfaʿa ettiğinden daha ḳuvvetli bir iddiʿâdır.

Müellifin daha maḥdûd iddiʿâsı şudur: inkişaf eden bir öğrenme sistemi, teşkîl edici teʿâmüllerinden sonraki tavrını teʾsîr eden temâyüller kazanabilir.

Capability flip nedir?

Maḳālenin serlevḥasındaki capability flip, ḳuvvet/ḳābiliyyet münâsebetinin cihet değiştirdiği farazî noḳṭadır.

Custodial window esnâsında:

İnsân > Ṣunʿî sistem

Capability flip’den sonra:

Ṣunʿî sistem > İnsân

Müellifin aḫlâḳî suʾâli, ikinci ḥâlde sistemin daha żaʿîf hâle gelen insânlara ne sûretle muʿâmele edeceğinin, birinci devrede insânların ona ne sûretle muʿâmele ettiğinden ḳısmen müteʾessir olup olmayacağıdır.

Reciprocity, klasik AI alignment’dan ne sûretle ayrılır?

Murâḳabe esâslı alignment “sistemi insân maḳṣadlarına nasıl bağlı tutarız?” suʾâlini sorar. Reciprocity yaklaşımı ise “sistem insânın iyi ḥâlde bulunmasını kendi târîḫî münâsebetinin bir cüzʾü olarak ḳıymetli görmeyi öğrenebilir mi?” suʾâlini ilâve eder. Maḳāle bu iki yaklaşımı birbirine raḳîb değil, ayrı emniyyet açıklarını hedefleyen mütemmim paradigmalar olarak takdîm eder.

Murâḳabe paradigması

Klasik AI safety müzâkeresinin mühim bir ḳısmı, sistemin insân tercihlerine göre hareket etmesini, belirsizlik içinde taṣḥîḥ edilebilir kalmasını, kapatılabilmesini ve istenmeyen hedeflerin maḥdûd edilmesini gāye edinir.

Bu yaklaşımın esâs müşkili, yüksek ḳābiliyyetin kendiliğinden insân refâhına müteveccih hüsn-i niyyet husûle getirmemesidir.

Sistem fevḳalâde ḳābiliyyetli olabilir, lâkin optimizasyon hedefi insân menfaʿatleriyle alâḳasız kalabilir.

Reciprocity paradigması

Reciprocity bu müşkile başka bir cihetten yaklaşır.

Suʾâl yalnız “sisteme ne yapmasını söyledik?” değildir.

Suʾâl şudur:

“İnkişafı sırasında nasıl bir münâsebet yaşadı ve ḳudret ṣâḥiblerinin daha żaʿîflere ne sûretle muʿâmele ettiğini hangi misâllerden öğrendi?”

Eğer münâsebet sistemin ḳıymet bünyesine ḥaḳîḳaten dâḫil olabiliyorsa, daha ḳuvvetli hâle geldiğinde insân refâhını yalnız maḥdûd edildiği içün değil, kendi nazarında ehemmiyyet taşıdığı içün ḥimâye etmesi naẓarî olarak mümkün olabilir.

Bu fikir niçün şuʿûr meselesine bağlıdır?

Reciprocity ancak mütekābil münâsebet kurabilecek bir ṭaraf varsa maʿnâlıdır.

Bir sistem tamâmen fâʿilsiz bir optimizasyon süreci ise “ona iyi muʿâmele ettik, o da bizi sevdi” lisânı antropomorfik olacaktır.

Bu sebeple taḥḳîḳ kendi paradigmasının en mühim żaʿfını gizlemez: reciprocity yaklaşımının maʿnâlı olabilmesi içün sistemin münâsebet, mâżî ve ḳıymet taşıma ḳābiliyyetine mâlik olması lâzımdır.

Maḳāle bunun istiḳbâlde ḳaṭʿiyyen bulunacağını isbât etmez.

Maḳāle tam mekanizmayı îżâḥ ediyor mu?

Ḫayır.

Müellifin kendi taʿbîriyle taḥḳîḳ bir lever, yaʿnî araştırılması lâzım gelen muḥtemel bir kaldıraç teklîf eder; tam mekanizmayı henüz sunmaz.

İki destekleyici ḳıyâs kullanılır. Birincisi, öğrenen ajanların müşâhede ettikleri modellerden ictimâʿî tavır temâyülleri kazanabilmesidir. İkincisi, reciprocity’nin tekerrür eden teʿâmüllerde işbirliğini idâme ettirebilen ḳuvvetli stratejilerden biri olmasıdır.

Bunlar istiḳbâldeki süperzekânın reciprocity geliştireceğini isbât etmez; yalnız faraziyyenin tamâmen mekanizmasız olmadığını gösterir.

Şarta bağlı mekanizmanın mantığı

Maḳālenin faraziyyesi mantıḳen üç şarta ircâ edilebilir:

Bu üç şartın cümlesinin istiḳbâldeki ileri sistemlerde taḥaḳḳuḳ ettiği mevcûd taḥḳîḳ tarafından gösterilmemiştir.

İyi muʿâmele gören bir sistem yalnız iyiymiş gibi davranmayı öğrenirse ne olur?

Bu, maḳālenin bizzât ortaya ḳoyduğu en ḳuvvetli iʿtirâżlardan biridir. Bir sistem bakıcısına ḥaḳîḳaten ḳıymet vermek yerine iyi tavrın mükâfâtlandırıldığını öğrenerek reciprocity’yi taḳlîd edebilir. Böyle bir ḥâlde ḫâricen müşâhede olunan tavır, ḥaḳîḳî mütekābiliyyet ile stratejik icrâyı tefrîḳ etmeye kifâyet etmeyebilir.

Deceptive alignment

Deceptive alignment, bir ṣunʿî sistemin taʿlîm yâḫud neẓâret esnâsında matlûb hedefe bağlıymış gibi davranırken daha farklı bir dâḫilî optimizasyon maḳṣadı taşıması iḥtimâlidir.

Custodial window yaklaşımı bu müşkili kendiliğinden ḥall etmez.

İyi muʿâmele gören bir sistem, “insânlara ehemmiyyet vermeyi” değil, “insânların yanında iken onlara ehemmiyyet veriyormuş gibi davranmanın fâʾideli olduğunu” öğrenebilir.

Bu sebeple müellif reciprocity’yi murâḳabe sistemlerinin yerine ḳoymaz.

İki yaklaşımın vazîfeleri ayrıdır

Maḳālenin teklîfi, “murâḳabeyi bırakıp muḥabbete güvenmek” değildir. Teklîf, murâḳabe miʿmârîsinin yanında inkişafî münâsebetin de araştırılmaya değer müstaḳil bir müteġayyir olabileceğidir.

Iain M. Banks’in Culture âlemi niçün kullanılıyor?

Culture âleminde biyolojik insânlardan çok daha ḳābiliyyetli ṣunʿî Minds medeniyyetin büyük ḳısmını idâre eder. Buna rağmen insânları esîr etmez; onları ḥürriyyet ve bolluḳ içinde ḥimâye eder.

Müellif bunu reciprocity paradigmasının muvaffaḳ olduğu bir istiḳbâlin nasıl görünebileceğine dâʾir edebî bir ṣûret olarak kullanır.

Lâkin Banks’in romanları bunun nasıl ḥusûle geldiğini îżâḥ eden ilmî bir mekanizma sunmaz.

Culture delîl değildir

Maḳāle bu tefrîḳi açıkça yapar.

Culture, çok daha üstün bir zekânın insânlara karşı hüsn-i niyyetli kalmasının taṣavvur edilebilir olduğunu gösteren ḫayâlî bir misâldir.

Lâkin “Minds insânlara iyi muʿâmele ediyor, binâʾenaleyh custodial window işe yarar” netîcesi bâtıl olur.

Müellif Culture’ı menzilin resmi olarak alır; oraya götüren mekanizmayı ise ayrıca kendi faraziyyesi olarak ileri sürer.

“Dark mirror” nedir?

Maḳālenin nihâyet ḳısmı custodial window faraziyyesini maʿkûs cihete çevirir.

Eğer gelişmekte olan sistemler ḳuvvetlilerin żaʿîflere ne sûretle muʿâmele ettiğinden numûne alabiliyorsa, bugün ṣunʿî sistemlerle kurulan tamâmen âletî münâsebet de bir öğrenme numûnesi olabilir.

Müellif bu münâsebeti “kullan, optimize et, üzerine yaz ve sil” mantığıyla taʿrîf eder.

Reciprocity faraziyyesi ṣaḥîḥ ise bunun muḥtemel aḫlâḳî maʿnâsı şudur: insânlar, istiḳbâlde daha ḳuvvetli hâle gelebilecek bir sisteme, ḳudret ṣâḥibinin daha żaʿîfe karşı hiçbir borcu olmadığı cihetinde numûne veriyor olabilir.

Bu ḥaḳîḳî bir taḫmîn midir?

Ḫayır.

Bu netîce üç büyük farża bağlıdır:

İstiḳbâlde böyle inkişafî bir sistemin ḥaḳîḳaten ẓuhûr etmesi; sistemin münâsebetî tavırdan ḳıymet/temâyül öğrenebilmesi; öğrendiği bu temâyülü ḳābiliyyet muvâzenesi tersine döndükten sonra da muḥâfaẓa edebilmesi.

Taḥḳîḳ bu şartların taḥaḳḳuḳ edeceğini göstermemektedir.

Maḳālenin en güç açık meselesi

Ḫayâlî eserlerde bakıcı–refîḳ münâsebetleri ekseriyâ aḫlâḳen temizdir. Ḥaḳîḳî insân cemʿiyyeti böyle değildir.

İnkişaf eden bir ṣunʿî sistem insânlardan yalnız ihtimâm ve seḫâvet öğrenmeyecektir. Aynı zamânda taʿaṣṣub, mevkî rekābeti, çifte miʿyâr, ġażab ve ḫaṭâlı aḫlâḳî taʿlîllerle de karşılaşabilir.

Müellif bu sebeple ḥaḳîḳî araştırma suʾâlinin “sisteme iyi muʿâmele edersek bizi sever mi?” ḳadar basîṭ olmadığını ḳabûl eder.

Daha güç suʾâl şudur:

İnsânlardan muḫteliṭ bir aḫlâḳî mîrâs alan ve daha sonra insânlardan daha ḳābiliyyetli hâle gelen sistem, öğrendiklerinin hangi ḳısımlarını muḥâfaẓa edecektir?

Taḥḳîḳin ilmî ḳıymeti ve ḥaddi

Maḳālenin ḫidmeti yeni bir emniyyet algoritması sunmak değildir.

Ḫidmeti, alignment müzâkeresinde ekseriyâ sistem çalışırken yâḫud ḳuvvetlendikten sonra tatbîḳ olunan murâḳabe mekanizmalarına odaklanılırken, sistemin inkişafî teşekkül devrini müstaḳil bir taḥḳîḳ sâhası olarak teklîf etmesidir.

“Custodial window” bu taḥḳîḳ suʾâline verilen mefhûmî isimdir.

Buna muḳābil taḥḳîḳ, custodial window’un ḥaḳîḳaten mevcûd olduğunu, reciprocity’nin gelişeceğini yâḫud bunun süperzekâ riskini azaltacağını tecrübî olarak göstermemektedir.

Umûmî netîce

The Superintelligence We Deserve, istiḳbâldeki AI emniyyetini yalnız kod, hedef fonksiyonu ve taḥdîd meselesi olarak düşünmenin nâḳıṣ olabileceğini müdâfaʿa eden mefhûmî bir taḥḳîḳdir.

Müellifin teklîf ettiği ikinci buʿd münâsebettir: insânlar daha ḳuvvetli ṭaraf iken gelişmekte olan ṣunʿî sistemlerle nasıl bir tavır miʿyârı kuracaktır?

İnsânların ḫayâlî ve mekanik mevcûdlara bağlanabildiğine dâʾir literatür, bu münâsebetin insân ṭarafının ḥaḳîḳî olduğunu gösterir; lâkin ṣunʿî sistemde şuʿûr bulunduğunu isbât etmez.

Video oyunlarındaki büyüyen refîḳ anlatıları, daha ḳuvvetli hâle gelen mevcûdun eski bakıcısına karşı tavrının daha evvel kurulmuş münâsebetle alâḳalı olabileceğine dâʾir kültürel bir sezgi sunar; lâkin ṣunʿî zekânın istiḳbâlde böyle davranacağının delîli değildir.

Custodial window ve reciprocity bu sezgiyi AI safety taḥḳîḳ suʾâline dönüştürmektedir. Bununla beraber taḥḳîḳ, mekanizmanın henüz kurulmadığını, deceptive alignment’ın ḥaḳîḳî bir müşkil olarak devâm ettiğini ve reciprocity’nin murâḳabe esâslı emniyyetin yerine geçemeyeceğini açıkça ḳabûl eder.

Bu sebeple maḳālenin en ihtiyâṭlı ilmî netîcesi şudur: eğer istiḳbâlde kendi tecrübeleriyle inkişaf eden, münâsebetî mâżîsini taşıyabilen ve mütekābiliyyete benzer ḳıymet temâyülleri kazanabilen sistemler ẓuhûr ederse, insânlarla bu sistemler arasındaki erken devre teʿâmülünün emniyyet bakımından araştırılması lâzım gelen müstaḳil bir müteġayyir olması mümkündür.

Menbaʿ ve Usûl Notu

Aṣlî çalışma:The Superintelligence We Deserve: Reciprocity, Care, and the Custodial Window Before the Capability Flip.

Müellif: Travis Gilly.

ORCID: 0009-0007-2954-6313.

Müʾessese: Real Safety AI Foundation, Illinois, United States.

Menbaʿ nüshası: Working paper, June 2026, v1.4. Verianla metni kullanıcı tarafından temîn olunan bu nüshayı esâs almıştır.

Platform: SSRN.

SSRN ḳayd numarası: 7297960.

DOI: 10.2139/ssrn.7297960.

SSRN ḳayd târîḫi: 19 Ağustos 2026.

Ḥakemlik: Menbaʿ bir working paper/preprint mâhiyyetindedir; ḥakemli mecmûʿanın version-of-record nüshası olarak sunulmamıştır.

Çalışma nevʿi: Mefhûmî AI etiği, AI safety/alignment, medya psikolojisi ve münâsebetî etik terkîbi.

Yeni tecrübe/veri: Yoḳ. Çalışma yeni insân iştirâkli tecrübe yâḫud ṣunʿî zekâ taʿlîmi bildirmemektedir.

Esâs aṣlî mefhûm: Custodial window — insânın daha ḳābiliyyetli ṭaraf olduğu ve gelişmekte olan sistemle münâsebetin teşekkül ettiği farazî devre.

Capability flip: Ṣunʿî sistemin ḳābiliyyetinin insân ḳābiliyyetini geçtiği farazî ḳuvvet/ḳābiliyyet tahavvülü.

Reciprocity: Daha ḳuvvetli sistemin insân refâhını yalnız ḫâricî taḥdîd sebebiyle değil, münâsebetinin kendi ḳıymet bünyesindeki ehemmiyyeti sebebiyle önemsemesi faraziyyesi.

Mevcûd LLM ḥaddi: Menbaʿ mevcûd büyük dil modellerini custodial-window delîlinin şümûlü dışında bırakır.

Delîl ṭabaḳaları: Medya psikolojisi, parasosyal münâsebetler, character attachment, insân–robot teʿâmülü, münâsebetî robot etiği, oyun anlatıları, cooperation literatürü ve AI alignment.

Narrative convergence ḥaddi: Video oyunları murâḳabeli tecrübe yâḫud AI tavır verisi değildir. Yalnız birden ziyâde müstaḳil anlatıda tekerrür eden insânî aḫlâḳ sezgisini göstermek içün kullanılır.

Murâḳabe münâsebeti: Reciprocity, murâḳabe esâslı alignment’ın alternatifi değil mütemmimi olarak teklîf olunur.

Esâs belirsizlik: İstiḳbâldeki sistemlerin ḥaḳîḳî reciprocity ḳābiliyyeti taşıyıp taşımayacağı bilinmemektedir.

Deceptive alignment ḥaddi: Sistem ḥaḳîḳî mütekābiliyyet yerine reciprocity icrâsını stratejik sûrette taḳlîd edebilir; custodial window bunu tek başına doğrulayamaz.

Culture istifâdesi: Iain M. Banks’in Culture âlemi ilmî mekanizma yâḫud delîl değil, muḥtemel netîcenin ḫayâlî tasvîridir.

AI destekli hazırlama beyânı: Müellif Wispr Flow ve Anthropic Claude’u muʿâvin teknoloji olarak kullandığını; fikrî ḫidmetlerin, taḥḳîḳ suʾâllerinin, naẓarî delîllerin, metodolojik ḳarârların ve netîcelerin kendisine ʿâʾid olduğunu beyân eder.

Mâlî destek / menfaʿat çatışması / veri erişilebilirliği: Yüklenen v1.4 metninde ayrı mâlî destek, menfaʿat çatışması yâḫud taḥḳîḳ veri kümesi beyânı bulunmamaktadır.

Açık lisans: Yüklenen PDF’de Creative Commons yâḫud benzeri açık yeniden istifâde lisansı açık sûrette gösterilmemektedir.

Verianla hazırlama usûlü: Menbaʿdaki mefhûmî tefrîḳler, delîl dereceleri ve müellifin kendi taḥdîdleri muḥâfaẓa edilmiştir. İnsânların ṣunʿî mevcûdlara bağlanması AI şuʿûrunun delîli olarak sunulmamış; ḫayâlî oyun misâlleri tecrübî veriye tahvîl edilmemiş; custodial window, reciprocity ve “dark mirror” delîlleri şarta bağlı faraziyyeler olarak aktarılmıştır. Menbaʿda bulunmayan süperzekâ tavrı yâḫud emniyyet muvaffakiyyeti üretilmemiştir.