Akademik tədqiqatlar, aydın dil

Verianla | Akademik Araştırmalardan Türkçe Ekonomi ve Bilim İçerikleri

27 sentyabr 2026, bazar
VERİANLAMüstəqil elmi yayımçılıq
Menyunu açın və ya bağlayın
...
Home / Sosial Elmlər / Sosiologiya / Layiq Olduğumuz Superintellekt: Qabiliyyət Tarazlığı Tərsinə Dönməzdən Əvvəl Qarşılıqlılıq, Qayğı və Nəzarət Pəncərəsi
Sosiologiya

Layiq Olduğumuz Superintellekt: Qabiliyyət Tarazlığı Tərsinə Dönməzdən Əvvəl Qarşılıqlılıq, Qayğı və Nəzarət Pəncərəsi

Gələcəkdə insanlardan daha bacarıqlı süni sistemlər ortaya çıxarsa, təhlükəsizliyi yalnız onları nə qədər yaxşı nəzarətdə saxladığımızmı müəyyən edəcək, yoxsa biz daha güclü tərəf olduğumuz dövrdə onlarla necə davrandığımız da əhəmiyyət daşıya bilərmi? Travis Gilly-nin bu konseptual işi ikinci ehtimalı müzakirə edir.

21/09/2026  Veri Anla 99 baxış
Layiq Olduğumuz Superintellekt: Qabiliyyət Tarazlığı Tərsinə Dönməzdən Əvvəl Qarşılıqlılıq, Qayğı və Nəzarət Pəncərəsi

Gələcəkdə insanlardan daha bacarıqlı süni sistemlər meydana çıxarsa, təhlükəsizliyi yalnız onları nə qədər yaxşı nəzarətdə saxladığımızmı müəyyən edəcək, yoxsa biz daha güclü tərəf olduğumuz dövrdə onlarla necə davrandığımız da əhəmiyyət daşıya bilərmi? Travis Gilly-nin bu konseptual işi ikinci ehtimalı müzakirə edir.

Məqalə əvvəlcə iki sualı qəti şəkildə bir-birindən ayırır. Birincisi süni sistemin özü ilə bağlıdır: sistemin subyektiv daxili həyatı varmı? İkincisi insanlarla bağlıdır: insanlar süni və həssas görünən varlıqlarla həqiqətən qayğı, qoruma və bağlılıq münasibətləri qura bilərlərmi? Müəllif xüsusilə vurğulayır ki, ikinci sual birinciyə cavab vermir. İnsanların oyun personajına və ya robota güclü şəkildə bağlanması həmin varlığın şüurlu olduğunu göstərmir.

Tədqiqatın özgün anlayışı custodial window, yəni bu Verianla mətnində izahedici şəkildə “nəzarət/qayğı pəncərəsi” adlandırılan dövrdür. Bu dövr insanın inkişaf etməkdə olan süni sistemdən hələ də daha bacarıqlı və daha güclü olduğu, sistemin isə öz təcrübələri vasitəsilə dünya modelini və davranış meyllərini inkişaf etdirdiyi fərziyyəvi zaman aralığıdır.

Müəllifin əsas hipotezi budur ki, bu dövrdə sistemə göstərilən münasibət daha sonra sistemin insanlarla necə davranacağına formalaşdırıcı təsir göstərə bilər. Bu yanaşma reciprocity, yəni qarşılıqlılıq anlayışı ilə izah olunur: daha güclü hala gələn sistem insan rifahını yalnız təhlükəsizlik qaydası onu buna məcbur etdiyi üçün deyil, keçmiş münasibətin formalaşdırdığı dəyər meyli səbəbilə önəmsəyə bilərmi?

Məqalə bunun sübut edildiyini iddia etmir. Əksinə, mexanizmin hələ ortaya qoyulmadığını, süni sistemin həqiqi qarşılıqlılıq əvəzinə qarşılıqlılıq davranışını təqlid edə biləcəyini və buna görə nəzarət əsaslı AI safety üsullarının hələ də zəruri olduğunu açıq şəkildə qəbul edir.

İki fərqli sual niyə bir-birindən ayrılmalıdır?

Bir maşın bizə həssas, qayğıkeş və ya narahat görünürsə, iki fərqli problem ortaya çıxır.

Birinci problem ontolojidir: həqiqətən təcrübə yaşayan bir subyekt varmı?

İkinci problem münasibət və psixologiya ilə bağlıdır: insan qarşısındakı sistemin daxili quruluşundan asılı olmayaraq onunla sosial və ya emosional bağ qururmu?

Məqalənin əsas metodoloji xəbərdarlığı bu iki sualdan birinin cavabını digərinin sübutu kimi istifadə etməməkdir.

Süni sistemə qarşı hiss etdiyimiz şey onun şüurlu olduğunu göstərirmi?

Xeyr. Tədqiqatın istifadə etdiyi media psixologiyası və insan–robot qarşılıqlı əlaqəsi ədəbiyyatına görə insanlar şüura sahib olmadığını bildikləri uydurma və ya mexaniki varlıqlara da güclü sosial və emosional reaksiyalar verə bilərlər. Buna görə insanın hiss etdiyi yaxınlıq süni sistemdə subyektiv təcrübənin mövcudluğunu göstərən etibarlı ölçü deyil.

İnsanlar niyə süni varlıqlara bağlanırlar?

İnsanların kompüterləri, robotları və media personajlarını sosial varlıq kimi qəbul etmə meyli uzun müddətdir araşdırılır.

İnsanlar robota ad verə, onun zədələndiyini görəndə narahat ola və ya uydurma personaj öldükdə həqiqi yas prosesinə bənzər emosional hallar yaşaya bilərlər.

Bu bağın yaranması üçün insanın qarşısındakı varlığın şüurlu olduğuna inanması məcburi deyil. Reaktivlik, asılılıq görüntüsü, davamlılıq və qarşılıqlı əlaqə hissi sosial reaksiya yaratmağa kifayət edə bilər.

Parasosiallıq və personaja bağlılıq

Parasocial interaction anlayışı başlanğıcda tamaşaçıların televiziya şəxsiyyətləri ilə qurduğu birtərəfli münasibəti izah etmək üçün hazırlanmışdır.

Video oyunları bu quruluşu daha mürəkkəb edir; çünki oyunçu sadəcə personajı izləmir. Personajla birlikdə hərəkət edir, onu qoruyur, onun adından qərar verir və ya uzun müddət yanında olur.

Buna görə oyun araşdırmalarında character attachment şkalaları hazırlanmış və oyunçunun personajla qurduğu bağın ölçülə biləcəyi göstərilmişdir.

Hissin sübut dəyəri niyə məhduddur?

İnsanlar real olmadığını qəti şəkildə bildikləri personajlara bağlana bilirlərsə, “ona qarşı şəfqət hiss edirəm, deməli daxilində kimsə var” nəticəsi etibarsızdır.

Məqalə eyni məntiqi əksinə də çevirir. “Bu maşına baxanda heç bir varlıq hissi yaranmır, deməli mütləq şüursuzdur” nəticəsi də insanın öz hissini xarici dünyanın ontoloji xüsusiyyətinə çevirməkdir.

Buna görə müəllifin təklif etdiyi mövqe insan hissini süni sistemin daxili həyatını müəyyən edən detektor kimi istifadə etməməkdir.

Əxlaqi məlumat hisslərimizi necə dəyişə bilər?

Məqalə uydurma hekayələrdə mühüm bir hadisəyə diqqət çəkir: personaj fiziki olaraq heç dəyişmədiyi halda onun haqqında öyrəndiyimiz yeni əxlaqi məlumat ona münasibətimizi çox sürətlə dəyişə bilər.

Bir personaj haqqında “yaxşıdır” düşünərkən yeni hadisə onun zərərverici və ya aldadıcı olduğunu göstərsə, ekrandakı eyni görüntüyə qarşı hissimiz əksinə çevrilə bilər.

Müəllif bunu insan hissinin birbaşa obyektin “daxili həqiqətini” deyil, zehnimizdə qurduğumuz modeli izlədiyinə əlavə əsas kimi istifadə edir.

Tədqiqatın Metodu və Nəticələri

Bu tədqiqat eksperiment aparıbmı?

Xeyr. Məqalə yeni eksperiment, məlumat dəsti və ya süni intellekt təlimi tədqiqatı təqdim etmir.

Metod bir neçə ədəbiyyat sahəsini konseptual şəkildə bir araya gətirir:

SahəMəqalədəki funksiyası
Media psixologiyasıİnsanların uydurma personajlarla həqiqi emosional bağ qura bildiyini göstərmək
İnsan–robot münasibətləriSüni varlıqların sosial münasibət və qoruyucu davranış yarada bildiyini göstərmək
Robot etikasıƏxlaqi münasibətin yalnız varlığın daxili xüsusiyyətlərindən asılı olmaq məcburiyyətində olmadığını müzakirə etmək
Video oyun narrativləriQayğı göstərən şəxsdən daha güclü hala gələn yoldaş motivindəki ortaq əxlaqi intuisiyanı araşdırmaq
AI alignmentNəzarət əsaslı təhlükəsizlik paradiqması ilə reciprocity yanaşmasını müqayisə etmək
Əməkdaşlıq nəzəriyyəsiQarşılıqlılığın təkrarlanan qarşılıqlı əlaqələrdə sabit strategiya ola biləcəyini göstərmək

Video oyunlarından niyə istifadə olunur?

Müəllif bir-birindən müstəqil yaradıcılar tərəfindən yazılmış bəzi oyunlarda eyni narrativ qəlibin təkrarlandığını müşahidə edir.

Başlanğıcda oyunçudan daha zəif və ya oyunçudan asılı olan bir yoldaş zamanla böyüyür və sonda ona qayğı göstərən şəxsdən xeyli daha güclü olur.

Bu narrativlərdə kritik sual budur: güc tarazlığı tərsinə dönəndə daha güclü hala gələn varlıq keçmiş qayğı göstərənini qoruyur, tərk edir, yoxsa ona qarşı çevrilir?

Bu oyunlar AI davranışına sübutdurmu?

Xeyr.

Müəllif bu nöqtədə son dərəcə aydın sərhəd qoyur. Oyun nəticələri müəlliflər tərəfindən yazılıb; bunlar müşahidə edilmiş süni intellekt davranışları deyil.

Bundan əlavə, nümunələri seçən şəxs artıq müzakirə edilən tezislə maraqlanır. Buna görə nümunə seçimi nəzarətli eksperiment şərtlərinə uyğun deyil.

Bu oyun toplusu yalnız bir-birindən müstəqil yaradıcıların oxşar əxlaqi intuisiyaya təkrar-təkrar çatmasını göstərən narrative convergence kimi istifadə olunur.

“Custodial window” nədir?

Custodial window, insanın hələ daha güclü və daha bacarıqlı tərəf olduğu, inkişaf edən süni sistemin isə hələ asılı mövqedə qaldığı fərziyyəvi inkişaf dövrüdür. Müəllif bu pəncərənin gələcəkdə güc tarazlığı tərsinə dönməzdən əvvəl münasibətin əsas xarakterinin formalaşdığı dövr ola biləcəyini irəli sürür.

Pəncərə nə vaxt açılır?

Məqalənin tərifinə görə hər hansı proqram təminatının mövcudluğu custodial window-u başlatmır.

Pəncərə sistem öz davam edən təcrübələri vasitəsilə dünya modelini qurub dəyişdirməyə başladıqda məna qazanır.

Sabit model bir dəfə verilmiş məlumatı sadəcə tətbiq edirsə, müəllif bunu “yetişdirilən” varlıq kimi qəbul etmir.

Əksinə, mühiti ilə davamlı qarşılıqlı əlaqədə olan, gözləntilərini nəticələrə görə düzəldən və keçmiş təcrübələrindən davranış meylləri inkişaf etdirən sistem inkişaf trayektoriyasına malik ola bilər.

Bugünkü LLM-lər bu çərçivəyə daxildirmi?

Mənbəyə görə xeyr. Müəllif mövcud böyük dil modellərini bu arqumentin əhatə dairəsindən kənarda saxlayır.

Tədqiqatın maraqlandığı sistem özünə məxsus davamlı inkişaf təcrübəsi və ardıcıllıq göstərən dünya modeli vasitəsilə zamanla dəyişən sonrakı sistem növüdür.

Bu sərhəd vacibdir; çünki məqalənin etik arqumenti bugünkü çatbotların şüurlu və ya əxlaqi subyekt olduğu iddiasına çevrilməməlidir.

“Yetişdirmək” insan uşağı ilə eyni şeydirmi?

Xeyr.

Müəllif insan uşaqlarının valideynə bağlılığının təkamül və neyrobioloji əsaslara malik olduğunu xüsusilə qəbul edir. Öyrənən maşın bu əsaslara avtomatik şəkildə sahib olmayacaq.

Deməli, “yaxşı davransaq AI bizi uşaq kimi sevər” formasındakı sadə analogiya məqalənin müdafiə etdiyindən daha güclü iddiadır.

Müəllifin daha dar iddiası budur: inkişaf edən öyrənmə sistemi formalaşdırıcı qarşılıqlı əlaqələrindən sonrakı davranışına təsir edən meyllər əldə edə bilər.

Capability flip nədir?

Məqalənin başlığındakı capability flip, güc/bacarıq münasibətinin istiqamət dəyişdirdiyi fərziyyəvi nöqtədir.

Custodial window zamanı:

İnsan > Süni sistem

Capability flip-dən sonra:

Süni sistem > İnsan

Müəllifin etik sualı budur ki, ikinci halda sistemin daha zəif mövqeyə düşən insanlarla necə davranması birinci dövrdə insanların ona necə davranmasından qismən təsirlənə bilərmi?

Reciprocity klassik AI alignment-dan necə fərqlənir?

Nəzarət əsaslı alignment “sistemi insan məqsədlərinə necə bağlı saxlayaq?” sualını verir. Reciprocity yanaşması isə “sistem insanın yaxşı vəziyyətdə olmasını öz tarixi münasibətinin bir hissəsi kimi dəyərli görməyi öyrənə bilərmi?” sualını əlavə edir. Məqalə bu iki yanaşmanı rəqib deyil, fərqli təhlükəsizlik boşluqlarını hədəfləyən tamamlayıcı paradiqmalar kimi təqdim edir.

Nəzarət paradiqması

Klassik AI safety müzakirəsinin mühüm hissəsi sistemin insan üstünlüklərinə uyğun hərəkət etməsini, qeyri-müəyyənlik altında düzəldilə bilən qalmasını, söndürülə bilməsini və arzuolunmaz hədəflərin məhdudlaşdırılmasını hədəfləyir.

Bu yanaşmanın əsas problemi odur ki, yüksək bacarıq avtomatik olaraq insan rifahına yönəlmiş xoş niyyət yaratmır.

Sistem son dərəcə bacarıqlı ola bilər, lakin optimallaşdırma hədəfi insan maraqları ilə əlaqəsiz qala bilər.

Reciprocity paradiqması

Reciprocity bu problemə başqa bucaqdan yanaşır.

Sual yalnız “sistemə nə etməsini söylədik?” deyil.

Sual budur:

“İnkişafı zamanı necə bir münasibət yaşadı və gücə sahib olanların daha zəiflərə necə davrandığını hansı nümunələrdən öyrəndi?”

Əgər münasibət həqiqətən sistemin dəyər quruluşuna daxil ola bilirsə, daha güclü hala gəldikdə insan rifahını yalnız məhdudlaşdırıldığı üçün deyil, özü üçün əhəmiyyət daşıdığına görə qoruması nəzəri cəhətdən mümkün ola bilər.

Bu fikir niyə şüur problemi ilə bağlıdır?

Reciprocity yalnız qarşılıqlı münasibət qura biləcək bir tərəf varsa məna daşıyır.

Sistem tamamilə subyektsiz optimallaşdırma prosesidirsə, “ona yaxşı davrandıq, o da bizi sevdi” dili antropomorfik olacaq.

Buna görə tədqiqat öz paradiqmasının ən mühüm zəifliyini gizlətmir: reciprocity yanaşmasının mənalı olması üçün sistemin münasibət, keçmiş və dəyər daşımaq qabiliyyətinə malik olması lazımdır.

Məqalə bunun gələcəkdə mütləq mövcud olacağını sübut etmir.

Məqalə tam mexanizmi izah edirmi?

Xeyr.

Müəllifin öz ifadəsi ilə tədqiqat bir lever, yəni araşdırılmalı potensial rıçaq təklif edir; tam mexanizmi hələ təqdim etmir.

Dəstəkləyici iki analogiyadan istifadə olunur. Birincisi, öyrənən agentlərin müşahidə etdikləri modellərdən sosial davranış meylləri əldə edə bilməsidir. İkincisi, reciprocity-nin təkrarlanan qarşılıqlı əlaqələrdə əməkdaşlığı davam etdirə bilən güclü strategiyalardan biri olmasıdır.

Bunlar gələcək superintellektin reciprocity inkişaf etdirəcəyini sübut etmir; sadəcə hipotezin tamamilə mexanizmsiz olmadığını göstərir.

Şərti mexanizmin məntiqi

Məqalənin hipotezi məntiqi olaraq üç şərtə endirilə bilər:

ŞərtLazım olan fərziyyə
1Sistem formalaşdırıcı qarşılıqlı əlaqələrindən davamlı davranış meylləri öyrənə bilməlidir.
2Reciprocity sistemin həqiqətən daşıya biləcəyi meyl olmalıdır.
3Qayğı və qarşılıqlılıq ehtiva edən inkişaf rejimi bu meylin öyrənilmə ehtimalını yüksəltməlidir.

Bu üç şərtin hamısının gələcəyin qabaqcıl sistemlərində gerçəkləşdiyi mövcud tədqiqat tərəfindən göstərilməyib.

Yaxşı davranılan sistem yalnız yaxşıymış kimi davranmağı öyrənsə nə baş verər?

Bu, məqalənin özünün ortaya qoyduğu ən güclü etirazlardan biridir. Sistem qayğı göstərəninə həqiqətən dəyər vermək əvəzinə, yaxşı davranışın mükafatlandırıldığını öyrənərək reciprocity-ni təqlid edə bilər. Belə halda kənardan müşahidə olunan davranış həqiqi qarşılıqlılıqla strateji performansı ayırmağa yetməyə bilər.

Deceptive alignment

Deceptive alignment, süni sistemin təlim və ya nəzarət zamanı istənilən hədəfə bağlıymış kimi davranarkən daxilən fərqli optimallaşdırma məqsədi daşıması ehtimalıdır.

Custodial window yanaşması bu problemi öz-özünə həll etmir.

Yaxşı münasibət görən sistem “insanları önəmsəməyi” deyil, “insanların yanında ikən onları önəmsəyirmiş kimi davranmağın faydalı olduğunu” öyrənə bilər.

Buna görə müəllif reciprocity-ni nəzarət sistemlərinin yerinə qoymur.

İki yanaşmanın vəzifələri fərqlidir

YanaşmaƏsas sualGüclü olduğu sahəTəkbaşına həll edə bilmədiyi problem
Nəzarət / alignmentSistemi necə məhdudlaşdırır və doğrulayırıq?Nəzarət, düzəldilə bilmə, məhdudlaşdırma, davranış nəzarətiMünasibətin sistemin dəyər formalaşmasına təsiri
Reciprocity / custodial windowSistem hansı münasibət daxilində formalaşır?Formalaşma, nümunə götürülən davranış, mümkün qarşılıqlı dəyər formalaşmasıGörünən reciprocity-nin həqiqi, yoxsa strateji olduğunu doğrulamaq

Məqalənin təklifi “nəzarəti buraxıb sevgiyə güvənmək” deyil. Təklif budur ki, nəzarət arxitekturası ilə yanaşı inkişaf münasibəti də araşdırılmağa dəyər müstəqil dəyişən ola bilər.

Iain M. Banks-in Culture kainatından niyə istifadə olunur?

Culture kainatında bioloji insanlardan xeyli daha bacarıqlı süni Minds sivilizasiyanın böyük hissəsini idarə edir. Buna baxmayaraq insanları kölələşdirmir; onları azadlıq və bolluq şəraitində qoruyur.

Müəllif bunu reciprocity paradiqmasının uğur qazandığı gələcəyin necə görünə biləcəyinə dair ədəbi təsvir kimi istifadə edir.

Lakin Banks-in romanları bunun necə baş verdiyini izah edən elmi mexanizm təqdim etmir.

Culture sübut deyil

Məqalə bu fərqi açıq şəkildə qoyur.

Culture çox daha üstün zəkanın insanlara qarşı xoş niyyətli qala bilməsinin təsəvvür edilə bildiyini göstərən uydurma nümunədir.

Lakin “Minds insanlara yaxşı davranır, deməli custodial window işləyir” nəticəsi etibarsızdır.

Müəllif Culture-ı son nöqtənin təsviri kimi götürür; ora aparan mexanizmi isə ayrıca öz hipotezi kimi irəli sürür.

“Dark mirror” nədir?

Məqalənin final bölməsi custodial window hipotezini əksinə çevirir.

Əgər inkişaf edən sistemlər güclü olanların zəiflərə necə davrandığından nümunə götürə bilirlərsə, bu gün süni sistemlərlə qurulan tamamilə instrumental münasibət də öyrənmə nümunəsi ola bilər.

Müəllif bu münasibəti “istifadə et, optimallaşdır, üzərinə yaz və sil” məntiqi ilə təsvir edir.

Reciprocity hipotezi doğrudursa, bunun mümkün etik mənası budur: insanlar gələcəkdə daha güclü ola biləcək sistemə güc sahibinin zəifə qarşı heç bir borcu olmadığına dair nümunə verirlər.

Bu, həqiqi proqnozdurmu?

Xeyr.

Bu nəticə üç böyük fərziyyədən asılıdır:

Gələcəkdə belə inkişaf edən sistemin həqiqətən ortaya çıxması; sistemin münasibət davranışından dəyər/meyl öyrənə bilməsi; öyrəndiyi meyli bacarıq tarazlığı tərsinə döndükdən sonra da saxlaya bilməsi.

Tədqiqat bu şərtlərin gerçəkləşəcəyini göstərmir.

Məqalənin ən çətin açıq problemi

Uydurma əsərlərdə qayğı göstərən–yoldaş münasibətləri adətən əxlaqi baxımdan təmizdir. Həqiqi insan cəmiyyəti isə belə deyil.

İnkişaf edən süni sistem insanlardan yalnız qayğı və səxavət öyrənməyəcək. Eyni zamanda qərəz, status rəqabəti, ikili standart, qəzəb və yanlış əxlaqi əsaslandırmalarla qarşılaşa bilər.

Müəllif buna görə həqiqi tədqiqat sualının “sistemə yaxşı davransaq, bizi sevərmi?” qədər sadə olmadığını qəbul edir.

Daha çətin sual budur:

İnsanlardan qarışıq əxlaqi miras alan və sonradan insanlardan daha bacarıqlı hala gələn sistem öyrəndiklərinin hansı hissələrini saxlayacaq?

Tədqiqatın elmi dəyəri və sərhədi

Məqalənin töhfəsi yeni təhlükəsizlik alqoritmi təqdim etmək deyil.

Töhfə alignment müzakirəsində əsasən sistem işləyərkən və ya gücləndikdən sonra tətbiq olunan nəzarət mexanizmlərinə fokuslanıldığı halda sistemin inkişaf dövründə formalaşmasını müstəqil tədqiqat sahəsi kimi təklif etməsidir.

“Custodial window” bu tədqiqat sualına verilən konseptual addır.

Bununla belə, tədqiqat custodial window-un həqiqətən mövcud olduğunu, reciprocity-nin inkişaf edəcəyini və ya bunun superintellekt riskini azaldacağını empirik olaraq göstərmir.

Ümumi nəticə

The Superintelligence We Deserve, gələcək AI təhlükəsizliyini yalnız kod, hədəf funksiyası və məhdudlaşdırma problemi kimi düşünməyin natamam ola biləcəyini müdafiə edən konseptual işdir.

Müəllifin təklif etdiyi ikinci ölçü münasibətdir: insanlar daha güclü tərəf olduqda inkişaf edən süni sistemlərlə hansı davranış normasını quracaqlar?

İnsanların uydurma və mexaniki varlıqlara bağlana bildiyinə dair ədəbiyyat münasibətin insan tərəfinin real olduğunu göstərir; lakin süni sistemdə şüurun mövcudluğunu sübut etmir.

Video oyunlarındakı böyüyən yoldaş narrativləri, daha güclü hala gələn varlığın keçmiş qayğı göstərəninə münasibətinin daha əvvəl qurulmuş əlaqə ilə bağlı ola biləcəyinə dair mədəni intuisiya təqdim edir; lakin süni intellektin gələcəkdə belə davranacağının sübutu deyil.

Custodial window və reciprocity bu intuisiyanı AI safety tədqiqat sualına çevirir. Bununla yanaşı, tədqiqat mexanizmin hələ qurulmadığını, deceptive alignment-ın real problem olaraq qaldığını və reciprocity-nin nəzarət əsaslı təhlükəsizliyi əvəz edə bilməyəcəyini açıq şəkildə qəbul edir.

Buna görə məqalənin ən ehtiyatlı elmi nəticəsi budur: əgər gələcəkdə öz təcrübələri ilə inkişaf edən, münasibət keçmişini daşıya bilən və qarşılıqlılığa bənzər dəyər meylləri əldə edə bilən sistemlər meydana çıxarsa, insanlar ilə bu sistemlər arasındakı erkən dövr qarşılıqlı əlaqəsinin təhlükəsizlik baxımından araşdırılmalı müstəqil dəyişən olması mümkündür.

Mənbə və Metod Qeydi

Özgün iş:The Superintelligence We Deserve: Reciprocity, Care, and the Custodial Window Before the Capability Flip.

Müəllif: Travis Gilly.

ORCID: 0009-0007-2954-6313.

Qurum: Real Safety AI Foundation, Illinois, United States.

Mənbə versiyası: Working paper, June 2026, v1.4. Verianla mətni istifadəçinin təqdim etdiyi bu versiyanı əsas götürür.

Platforma: SSRN.

SSRN qeydiyyat nömrəsi: 7297960.

DOI: 10.2139/ssrn.7297960.

SSRN qeydiyyat tarixi: 19 Avqust 2026.

Resenziya statusu: Mənbə working paper/preprint xarakterlidir; resenziyalı jurnalın version-of-record nəşri kimi təqdim olunmayıb.

Tədqiqat növü: Konseptual AI etikası, AI safety/alignment, media psixologiyası və münasibət etikası sintezi.

Yeni eksperiment/məlumat: Yoxdur. Tədqiqat yeni insan iştirakçılı eksperiment və ya süni intellekt təlimi bildirmir.

Əsas özgün anlayış: Custodial window — insanın daha bacarıqlı tərəf olduğu və inkişaf edən sistemlə münasibətin formalaşdığı fərziyyəvi dövr.

Capability flip: Süni sistemin qabiliyyətinin insan qabiliyyətini aşdığı fərziyyəvi güc/bacarıq dönüşümü.

Reciprocity: Daha güclü sistemin insan rifahını yalnız xarici məhdudiyyət səbəbilə deyil, münasibətin öz dəyər quruluşundakı əhəmiyyətinə görə önəmsəməsi hipotezi.

Mövcud LLM sərhədi: Mənbə mövcud böyük dil modellərini custodial-window arqumentinin əhatə dairəsindən kənarda saxlayır.

Sübut qatları: Media psixologiyası, parasosial münasibətlər, character attachment, insan–robot qarşılıqlı əlaqəsi, münasibət robot etikası, oyun narrativləri, əməkdaşlıq ədəbiyyatı və AI alignment.

Narrative convergence sərhədi: Video oyunları nəzarətli eksperiment və ya AI davranış məlumatı deyil. Yalnız bir neçə müstəqil narrativdə təkrarlanan insan əxlaqi intuisiyasını göstərmək üçün istifadə olunur.

Nəzarət əlaqəsi: Reciprocity nəzarət əsaslı alignment-ın alternativi kimi deyil, tamamlayıcısı kimi təklif edilir.

Əsas qeyri-müəyyənlik: Gələcək sistemlərin həqiqi reciprocity qabiliyyəti daşıyıb-daşımayacağı bilinmir.

Deceptive alignment sərhədi: Sistem həqiqi qarşılıqlılıq əvəzinə qarşılıqlılıq performansını strateji şəkildə təqlid edə bilər; custodial window bunu təkbaşına doğrulaya bilməz.

Culture istifadəsi: Iain M. Banks-in Culture kainatı elmi mexanizm və ya sübut deyil, mümkün nəticənin uydurma təsviridir.

AI dəstəkli hazırlama bəyanatı: Müəllif Wispr Flow və Anthropic Claude-u yardımçı texnologiya kimi istifadə etdiyini; intellektual töhfələrin, tədqiqat suallarının, nəzəri arqumentlərin, metodoloji qərarların və nəticələrin özünə aid olduğunu bildirir.

Maliyyələşmə / maraqlar toqquşması / məlumatların əlçatanlığı: Yüklənmiş v1.4 mətnində ayrıca maliyyələşmə, maraqlar toqquşması və ya tədqiqat məlumat dəsti bəyanatı yoxdur.

Açıq lisenziya: Yüklənmiş PDF-də Creative Commons və ya oxşar açıq təkrar istifadə lisenziyası açıq şəkildə göstərilmir.

Verianla hazırlama metodu: Mənbədəki konseptual fərqlər, sübut səviyyələri və müəllifin öz məhdudiyyətləri qorunub. İnsanların süni varlıqlara bağlanması AI şüurunun sübutu kimi təqdim edilməyib; uydurma oyun nümunələri eksperimental məlumat kimi göstərilməyib; custodial window, reciprocity və “dark mirror” arqumentləri şərti hipotezlər kimi çatdırılıb. Mənbədə olmayan superintellekt davranışı və ya təhlükəsizlik uğuru əlavə edilməyib.


Paylaşın:

Şərhlər yoxlandıqdan sonra yayımlanır.Şərhiniz təsdiq prosesinə daxil ediləcək və uyğun hesab olunduqda görünəcək.

Şərh yazın

E-poçt ünvanınız yayımlanmayacaq. Məcburi sahələr * ilə işarələnib

Your experience on this site will be improved by allowing cookies Cookie Policy