Bu iş süni intellektdən qaynaqlanan insan ekzistensial riskinin yalnız insan növünün fiziki olaraq məhv olması, daimi şəkildə gücsüzləşməsi və ya gələcəyinə nəzarət edə bilməməsi üzərindən qiymətləndirilməsini yetərsiz hesab edir. Müəllifin əsas sualı budur: Süni intellektin təhdid etdiyi “insanlıq” yalnız bioloji növdür, yoxsa insanlıq eyni zamanda bilik, dil, institutlar, məsuliyyət, həqiqət, agentlik, dəyər və məna üzərindən nəsillər boyu davam edən sivilizasiya subyektidirmi?

Məqalənin təklif etdiyi genişləndirilmiş yanaşmaya görə insan növünün bioloji olaraq yaşamağa davam etməsi insanlığın sivilizasiya subyekti kimi sağlam şəkildə mövcudluğunu davam etdirdiyini təkbaşına göstərmir. İnsanlar yaşamağa, institutlar işləməyə, iqtisadiyyat istehsal etməyə, təhsil və hüquq sistemləri fəaliyyət göstərməyə davam edə bilər. Buna baxmayaraq insanların həqiqəti doğrulamaq, müstəqil mühakimə formalaşdırmaq, məsuliyyət götürmək, institutları yeniləmək və ortaq məna yaratmaq qabiliyyətləri geri qaytarılması çox çətin şəkildə zəifləyə bilər. İş müəyyən şərtlər altında bu ehtimalın süni intellektlə əlaqəli ekzistensial risk çərçivəsində qiymətləndirilməli olduğunu müdafiə edir.

Müəllif insan mövcudluğunu üç iç-içə qat üzərindən izah edir. Birinci qat insan sivilizasiyasının bioloji daşıyıcısı olan insan növüdür. İkinci qat dil, elm, hüquq, təhsil, iqtisadiyyat, mədəniyyət, institutlar, tarixi yaddaş və məna strukturlarından ibarət insan sivilizasiyasıdır. Üçüncü qat isə sivilizasiyanın həqiqət, sübut, məsuliyyət, agentlik, dəyər və məna kimi əsas kateqoriyaları müəyyənləşdirməsini və yenidən qiymətləndirməsini təmin edən fəlsəfi nüvədir.

Bu əlaqələri izah etmək üçün funksional kompüter bənzətməsindən istifadə olunur. İnsan növü aparat təminatına, fəlsəfi nüvə əməliyyat sistemi nüvəsinə, insan sivilizasiyası isə nüvə üzərində işləyən tam distribusiyaya bənzədilir. Elm, hüquq, siyasət, təhsil, iqtisadiyyat, media, incəsənət və texnologiya kimi sahələr də tətbiq qatı kimi nəzərdən keçirilir. Bənzətmənin məqsədi insanı maşına endirmək deyil. Əsas fikir aparatın işləməyə davam etməsinin sistemin sağlam olması anlamına gəlməməsidir. İnsan bədəni mövcudluğunu davam etdirərkən sivilizasiyanın əsas funksiyaları zəifləyə bilər; institutlar işləyərkən həqiqət, məsuliyyət və agentlik kateqoriyaları qeyri-sabitləşə bilər.

Məqalə hər ictimai dəyişikliyin ekzistensial risk adlandırılmamasının lazım olduğunu xüsusilə vurğulayır. Sivil agentlik səviyyəsində riskin ekzistensial sayılması üçün ən azı dörd şərt təklif olunur: Risk sivilizasiyanın əsas qabiliyyətlərinə təsir etməli, fərqli sahələrə yayıla bilməli, geri qaytarılması çətin struktur zərər yarada bilməli və insanlığın öz gələcəyinin subyekti olaraq qalmaq qabiliyyətini zəiflətməlidir.

Ən mühüm şərh məhdudiyyəti budur: İş süni intellektin sivil agentlik üzərində ölçülmüş və ya qaçılmaz ekzistensial zərər yaratdığını göstərmir. İnsan mühakiməsinin, məna istehsalının və ya institusional məsuliyyətin nə qədər zəiflədiyinə dair məlumat təqdim edilmir. İşin töhfəsi gələcək proqnozu və ya empirik risk hesablaması deyil, süni intellekt riskinin hansı varlığı təhdid etdiyinə dair konseptual yenidən tərifdir.

İş həmçinin süni ümumi intellektin qəti şəkildə ortaya çıxdığını irəli sürmür. “AGI dövrü” ifadəsi süni intellekt sistemlərinin getdikcə daha ümumi məqsədli, avtonom, agent əsaslı və institusional proseslərə inteqrasiya olunmuş hala gəldiyi tarixi keçidi təsvir etmək üçün istifadə olunur. Təklif olunan risk çərçivəsi real və ya tam AGI həddinin keçilmiş olması fərziyyəsindən asılı deyil.

Türkiyə baxımından qiymətləndirmə: İşin çərçivəsi Türkiyədə təhsil, dövlət idarəçiliyi, hüquq, elmi nəşriyyat, media, institusional qərar sistemləri və mədəni istehsalda süni intellekt istifadəsinin yalnız sürət və səmərəlilik üzərindən qiymətləndirilməməli olduğunu düşündürür. Sistemin daha sürətli hesabat yazması, daha çox məzmun istehsal etməsi və ya qərar proseslərini asanlaşdırması həqiqətin yoxlanmasının, insan məsuliyyətinin və müstəqil mühakimənin qorunduğunu təkbaşına göstərmir. Bununla belə iş Türkiyə ilə bağlı məlumat, institut araşdırması və ya qanunvericilik təhlili təqdim etmir. Türkiyə üçün nəticə çıxarmaq tələbələrin mühakimə bacarıqları, institutlarda məsuliyyət bölgüsü, süni intellekt çıxışlarının yoxlanması və insan qərarının keyfiyyəti haqqında yerli və uzunmüddətli tədqiqatlar tələb edir.

İşin əsas sualı nədir?

Ənənəvi süni intellekt ekzistensial risk müzakirələri əsasən insan növünün məhv olması, insanlığın gələcəyinin geri dönüşsüz şəkildə bağlanması, kritik sistemlərdə nəzarətin itirilməsi və ya insanların daimi şəkildə gücsüzləşməsi üzərində cəmləşir. Bu yanaşmada riskin daşıyıcısı çox vaxt Homo sapiens kimi bioloji insan növüdür.

Kun Yuan bu çərçivənin əsas, lakin natamam olduğunu müdafiə edir. İnsan növünün bioloji olaraq sağ qalması insanlığın bütün mövcudluq formasını əhatə etmir. İnsanlıq eyni zamanda ortaq dil, bilik, tarixi yaddaş, institutlar, məsuliyyət münasibətləri, hüquq, təhsil, mədəniyyət, ictimai ağıl və məna strukturları içində mövcud olan nəsillərarası subyektdir.

Buna görə iş aşağıdakı fərqi inkişaf etdirir:

• Növün davamı: İnsan bədənlərinin, əhalinin, çoxalmanın və bioloji gələcəyin davam etməsi.
• Sivil davamlılıq: Həqiqət, bilik, məsuliyyət, mühakimə, institutlar və mənanın nəsillər boyu ötürülməsi, tənqid edilməsi və yenilənməsi.

Müəllifin əsas iddiası birinci şərtin ikinci üçün zəruri, lakin yetərli olmamasıdır. Bioloji olaraq yaşamağa davam edən insanlar sivilizasiyanın əsas qabiliyyətlərini itirmiş dünyada mövcud ola bilər.

“Sivilizasiya subyekti” nə deməkdir?

İşdə sivilizasiya subyekti insanlığın yalnız eyni növə aid fərdlərdən ibarət əhali kimi deyil, nəsillər boyu bilik istehsal edən, qərar verən, məsuliyyət daşıyan, institut quran və məna yaradan ortaq tarixi varlıq kimi başa düşülməsidir.

Fərd bioloji olaraq insan növünə doğulur. Lakin dil, təhsil, münasibətlər, ictimai normalar, tarixi yaddaş və institutlar vasitəsilə insani ortaq dünyaya qoşulur. İnsan sivilizasiyası bu ortaq dünyanı yeni nəsillərə ötürür. Beləliklə hər nəsil yalnız sağ qalmır; keçmişi qəbul edir, tənqid edir, yenidən şərh edir və gələcəyə daşıyır.

Sivil agentlik aşağıdakı qabiliyyətləri əhatə edir:

• Həqiqətlə yanlışı ayırd edə bilmək,
• Sübutu qiymətləndirə və biliyi doğrulaya bilmək,
• Qərarları müəyyən şəxslərə və institutlara aid edə bilmək,
• Müstəqil mühakimə və əsaslandırma formalaşdıra bilmək,
• İnstitutları tənqid edə və düzəldə bilmək,
• Bilik və məsuliyyəti nəsillər arasında ötürə bilmək,
• Dəyərləri sıralaya və məqsədləri sorğulaya bilmək,
• Öyrənmə, işləmə, yaratma və gələcək üçün məna istehsal edə bilmək.

Bu qabiliyyətlərdən birinin müvəqqəti zəifləməsi təkbaşına ekzistensial risk deyil. İşin narahatlığı süni intellektin bu qabiliyyətləri bir çox instituta yayılan və geri qaytarılması çox çətin formada dəyişdirməsi ehtimalıdır.

İnsan mövcudluğunun üç qatı hansılardır?

Bu qatlar bir-birinin alternativi deyil. Bioloji növ sivilizasiyanın daşıyıcısıdır; sivilizasiya insanların tarixi və ictimai subyekt olmasını təmin edir; fəlsəfi nüvə isə sivilizasiyanın əsas anlayışlarını izah etməsinə və düzəltməsinə imkan verir.

İnsan növü niyə zəruri, amma yetərli deyil?

İnsan növü olmadan insan sivilizasiyasının fiziki daşıyıcısı qalmaz. Buna görə növün məhv olması işdə ekzistensial riskin ən əsas və birbaşa forması olaraq saxlanılır. Müəllif növ səviyyəsindəki risklərin əhəmiyyətini azaltmır.

Bununla belə yalnız insan bədənlərinin və əhalinin varlığını davam etdirməsi sivilizasiyanın sağlam şəkildə davam etdiyini sübut etmir. İnsanlar doğula, işləyə, istehlak edə və ünsiyyət qura bilər; lakin biliyə necə çatıldığını, qərarların necə formalaşdığını və məsuliyyətin kimdə olduğunu getdikcə daha az anlaya bilər.

Sivilizasiyanın davamı bioloji çoxalmadan fərqli olaraq aşağıdakı proseslərdən asılıdır:

• Dilin və tarixi yaddaşın ötürülməsi,
• Biliyin doğrulanması və tənqid edilməsi,
• İnstitutların legitimliyi və məsuliyyətinin qorunması,
• Yeni nəsillərin yalnız nəticələrə deyil, düşünmə və mühakimə proseslərinə qoşulması,
• Dəyərlərin və məqsədlərin müzakirə edilə bilməsi,
• Ortaq dünyanın yeni şərtlərə görə yenilənə bilməsi.

Bu fərq insan növünün bioloji davamlılığı ilə sivilizasiyanın nəsillərarası davamlılığının eyni şey olmadığını göstərir.

Sivilizasiya niyə əhali, dövlət, mədəniyyət və ya texnologiya ilə eyni deyil?

İş insan sivilizasiyasını daha dar anlayışlardan fərqləndirir.

Sivilizasiya yalnız əhali deyil

Çox sayda insanın eyni zamanda yaşaması təkbaşına bilik, məsuliyyət və mənanı nəsillər boyu daşıyan ortaq dünya yaratmır. Əhali sivilizasiyanın daşıyıcısıdır; lakin sivil davamlılıq təhsil, yaddaş, institutlar və tənqidi yenilənmə tələb edir.

Sivilizasiya yalnız dövlət deyil

Dövlət torpaq, suverenlik, hüquq, idarəetmə və siyasi güc kimi müəyyən təşkilatlanma formalarını ifadə edir. Elm, beynəlxalq hüquq, universitetlər, rəqəmsal şəbəkələr və texniki standartlar isə dövlət sərhədlərini aşa bilər. Süni intellektin bilik və ictimai ağıl üzərindəki təsiri yalnız milli təhlükəsizlik və ya dövlət rəqabəti çərçivəsində izah edilə bilməz.

Sivilizasiya yalnız mədəniyyət deyil

Mədəniyyət dil, incəsənət, ənənə, hekayə, estetika və gündəlik həyat vasitəsilə mənanın ifadəsini təmin edir. Sivilizasiya isə bunlara əlavə olaraq elm, hüquq, təhsil, iqtisadiyyat, texnologiya, dövlət idarəçiliyi və məsuliyyət strukturlarını ehtiva edir. Süni intellektin təsiri buna görə yalnız mədəni istehsaldakı dəyişiklik kimi görülə bilməz.

Sivilizasiya yalnız texnologiya deyil

Texnologiya insan qabiliyyətini genişləndirir; lakin hansı məqsədlərin dəyərli olduğunu, hansı qərarların ədalətli olduğunu və ya insan ləyaqətinin niyə qorunmalı olduğunu təkbaşına müəyyən edə bilməz. Daha çox sürət, avtomatlaşdırma və istehsal sivil sağlamlığın avtomatik göstəriciləri deyil.

Fəlsəfi nüvə nə deməkdir?

İşdəki “fəlsəfi nüvə” yalnız universitetlərdəki fəlsəfə şöbələri və ya peşəkar filosofların fəaliyyəti demək deyil. Anlayış hər sivilizasiyanın elm, hüquq, siyasət, təhsil və mədəniyyət kimi sistemləri işlətmək üçün istifadə etdiyi əsas kateqoriyaları ifadə edir.

Elm həqiqət və sübut anlayışlarına; hüquq subyekt və məsuliyyət anlayışlarına; siyasət legitimlik və ictimailik anlayışlarına; iqtisadiyyat dəyər və seçim anlayışlarına; təhsil isə insan, öyrənmə və inkişaf anlayışına ehtiyac duyur. Bu əsas anlayışlar qeyri-sabitləşərsə institutlar formal olaraq işləməyə davam edə bilər, lakin öz çıxışlarını mənalandırmaq və düzəltmək qabiliyyətləri zəifləyə bilər.

Həqiqət kateqoriyası niyə mərkəzidir?

Sivilizasiyanın bilik toplaya bilməsi yalnız çox miqdarda məzmun istehsal etməsinə deyil, daha etibarlı olanı daha az etibarlı olandan ayıra bilməsinə bağlıdır. Elmi metod, mənbə göstərmə, qeyd aparma, həmkar rəyi, sübut araşdırması və ictimai müzakirə bu fərqi dəstəkləyən strukturlardır.

Süni intellekt çoxlu izah, mətn və analiz yarada bilər. Lakin məzmunun inandırıcı şəkildə yazılması onun doğrulanmış olması demək deyil. İstehsal edilmiş məzmun bilik görünüşü qazandığı halda mənbə, sübut və doğrulama prosesləri arxa plana keçərsə sivilizasiyanın epistemik strukturu zəifləyə bilər.

İş məzmun istehsalının tamamilə mənfi olduğunu irəli sürmür. Risk istehsal edilmiş izahların doğrulama prosesini əvəz etməsi və insanların “doğru cavaba çatmaq” ilə “axıcı cavab almaq” arasındakı fərqi qoruya bilməməsidir.

Məsuliyyət strukturu necə zərər görə bilər?

Süni intellekt dəstəkli institusional qərarda model təklif yarada, proqram təminatı şirkəti aləti təmin edə, institut çıxışı iş axınına əlavə edə və insan son təsdiqi verə bilər. Zərər baş verdikdə aşağıdakı suallar çətinləşə bilər:

• Problemi kim müəyyənləşdirdi?
• Hansı sübutların nəzərə alınacağına kim qərar verdi?
• Modelin təklifi nə dərəcədə sorğulandı?
• İnsan təsdiqi real mühakiməyə, yoxsa formal əməliyyata əsaslanırdı?
• Hansı tərəf nəticəni qabaqcadan görə və ya önləyə bilərdi?

İnsanın son sənəddə imzasının olması həmin şəxsin qərarın formalaşma prosesini həqiqətən anladığını sübut etməyə bilər. İnstitut formal hesabatlılığı qoruyarkən maddi məsuliyyət zənciri zəifləyə bilər.

İnsan agentliyi yalnız son qərarı verməkdirmi?

İş insanın prosesdə olması ilə mənalı şəkildə agent olması arasında fərq qoyur. Şəxs son seçimlərdən birini klikləyə bilər; lakin problemin tərifi, sübutların sıralanması, seçimlərin yaradılması və əsaslandırmaların hazırlanması süni intellekt tərəfindən yerinə yetirilmiş ola bilər.

Bu halda insan texniki olaraq prosesdə qalır, lakin mühakimənin ilkin mərhələlərində getdikcə daha az iştirak edir. Agentlik yalnız son təsdiqdən ibarət sayılarsa sistemlərin insan düşüncəsini nə qədər əvvəlcədən strukturlaşdırdığı görünməz hala gələ bilər.

İş bütün süni intellekt yardımının agentliyi azaltdığını demir. AI məlumatı təşkil edə, səhv tapa və insanın seçimləri daha yaxşı qiymətləndirməsinə kömək edə bilər. Kritik fərq sistemin insan qabiliyyətini gücləndirməsi ilə bu qabiliyyətin istifadəsini uzunmüddətli əvəz etməsi arasındadır.

Məna niyə ekzistensial risk müzakirəsinə daxil edilir?

İnsanlar yalnız yaşamaq və daha sürətli istehsal etmək istəmir. Niyə öyrəndiklərini, niyə işlədiklərini, niyə yaratdıqlarını, niyə məsuliyyət götürdüklərini və niyə gələcəyi qorumaq lazım olduğunu mənalandırmağa da ehtiyac duyurlar.

Süni intellekt tədqiqat, incəsənət, yazı, dizayn, məsləhət və qərar dəstəyi kimi insan töhfəsi ilə əlaqələndirilən fəaliyyətləri üzərinə götürdükcə aşağıdakı suallar daha görünən olur:

• İnsan dəyəri məhsuldarlıq və ya bənzərsiz bacarıqdanmı asılıdır?
• Maşın eyni məhsulu yarada bilirsə insan yaradıcılığı mənasını itirirmi?
• Təhsilin məqsədi bilik istehsal etməkdir, yoxsa insan mühakiməsini inkişaf etdirmək?
• Məsuliyyət daha səmərəli sistemə ötürülə bilərmi?
• İnsan ləyaqəti performans və ölçülə bilən nəticələrləmi müəyyənləşdirilir?

Məqalə bu suallar üçün vahid etik cavab təqdim etmir. Əsas arqument sivilizasiyanın bunları yenidən şərh edə biləcək fəlsəfi özünü-düzəltmə qabiliyyətinə ehtiyac duymasıdır.

Aparat–nüvə–distribusiya bənzətməsi nəyi izah edir?

Bənzətmə üç əsas nöqtəni görünən edir:

1. Aparatın mövcudluğunu davam etdirməsi sistemin sağlam işlədiyini göstərmir.
2. Sistemin açılması nüvənin və ya əsas interfeyslərin sabit olduğunu sübut etmir.
3. Tətbiq qatındakı yüksək istehsal əsas anlayışların sağlam olduğu demək deyil.

Eyni şəkildə insan əhalisi davam edə, institutlar işləyə və süni intellekt daha çox məzmun yarada bilər. Buna baxmayaraq doğrulana bilən bilik, real məsuliyyət, müstəqil mühakimə və məna istehsalı zəifləyə bilər.

Bənzətmənin məhdudiyyətləri nələrdir?

Müəllif bənzətmənin sözbəsöz oxunmamalı olduğunu açıq şəkildə bildirir. İnsanlar maşın, sivilizasiya proqram təminatı, fəlsəfə isə mərkəzi kod bazası deyil. İnsan sivilizasiyası kompüter sistemlərindən daha tarixi, çoğul, münaqişəli və dəyişkəndir.

Fəlsəfi nüvənin vahid texniki xidmət komandası və ya dəqiq versiyası yoxdur. Əsas kateqoriyalar din, hüquq, elm, siyasət, incəsənət, təhsil və ictimai müzakirə daxilində davamlı şəkildə yenidən şərh olunur. Sivilizasiya yeniləmələri texniki əmrlərlə deyil, ictimai münaqişə, intellektual tənqid, institutlar və nəsillərarası ötürmə vasitəsilə baş verir.

Bənzətmənin keçərli olduğu sahə qatlar arasındakı asılılıq münasibətləridir. Fiziki daşıyıcı, əsas kateqoriyalar və yaşana bilən institusional mühit bir-birindən fərqləndirilə bilər; lakin qarşılıqlı şəkildə bir-birindən asılıdır.

Fərqli sivilizasiyalar bu modelə necə yerləşdirilir?

İş “insan sivilizasiyası” anlayışını tək mədəniyyət və ya dövlətlə eyniləşdirmir. Çin, Hind, İslam, Qərb modernliyi və digər sivilizasiya ənənələri fərqli tarixi konfiqurasiyalar və ya distribusiyalar kimi nəzərdən keçirilir.

Bu ənənələr həqiqət, məsuliyyət, agentlik, dəyər və məna kimi ortaq əsas problemlərə fərqli cavablar verə bilər. İnsan sivilizasiyasının bütünü isə bu fərqli ənənələrin, ortaq texniki infrastrukturların, elmi sistemlərin, qlobal iqtisadiyyatın, beynəlxalq hüququn, universitetlərin və rəqəmsal şəbəkələrin yaratdığı çoğul ekologiya kimi təsvir olunur.

Bu nöqtə vacibdir; çünki iş vahid mədəni dəyər nizamını bütün insanlığa qəbul etdirməyə çalışmır. Təklif olunan model fərqli ənənələrin əsas anlayışları fərqli formalarda şərh edə biləcəyini qəbul edir.

Süni intellekt növ qatına necə təsir edə bilər?

Növ qatındakı risk ənənəvi ekzistensial risk müzakirələrinə ən yaxın sahədir. Kifayət qədər güclü süni intellekt sistemləri biotexnologiya, avtonom silahlar, kritik infrastruktur, kiber sistemlər, enerji və ya təchizat zəncirləri kimi yüksək nəticəli sahələrə təsir edərsə insan həyatına birbaşa və ya dolayı zərər verə bilər.

İş bu risklərin ehtimalını hesablamır və konkret fəlakət ssenarisini doğrulamır. Növ səviyyəli riskləri insanlığın bioloji daşıyıcısına yönələn ən birbaşa ekzistensial risk kateqoriyası kimi saxlayır.

Süni intellekt sivilizasiya qatına necə təsir edə bilər?

Süni intellekt təhsil, elm, hüquq, tibb, idarəetmə, biznes, media, dövlət xidmətləri və gündəlik həyata daxil olduqda sivilizasiyanın iş mühitini dəyişə bilər. Buradakı məsələ yalnız neçə tapşırığın avtomatlaşdırılması deyil.

Daha əsas suallar bunlardır:

• Problemləri kim müəyyənləşdirir?
• Hansı məlumatların vacib olduğu necə müəyyənləşdirilir?
• Sübutlar hansı sırayla təqdim olunur?
• Alternativlər kim tərəfindən yaradılır?
• Əsaslandırmalar insan tərəfindənmı yaradılır, yoxsa sistemdən alınır?
• Qərar verən şəxs prosesi həqiqətən anlaya bilirmi?

İnsanlar prosesin sonunda qalmağa davam edə bilər; lakin problemin tərifi və əsaslandırmaların yaradılması kimi ilkin mərhələlərdən uzaqlaşa bilər. İş bunu sivil agentlikdə struktur dəyişiklik ehtimalı kimi qiymətləndirir.

Süni intellekt nüvə qatına necə təsir edə bilər?

Nüvə qatındakı təzyiq süni intellektin yalnız institutların işini deyil, institutların istifadə etdiyi əsas anlayışları da dəyişdirməsi ilə yaranır.

• İstehsal edilmiş məzmun ilə doğrulanmış bilik arasındakı sərhəd bulanıqlaşarsa həqiqət kateqoriyası təzyiq altına düşür.
• Qərarlar insan, institut və model arasında bölüşdürüldükdə məsuliyyət kateqoriyası yenidən müəyyənləşdirilməli olur.
• İnsan yalnız hazır seçimləri təsdiq etdikdə agentliyin nə olduğu qeyri-müəyyənləşir.
• Ölçülə bilən performans insan dəyərinin yerini tutarsa dəyər kateqoriyası daralır.
• Yaradıcılıq, iş və öyrənmə avtomatlaşdırıldıqca insan töhfəsinin mənası yenidən sorğulanır.

İşin narahatlığı sivilizasiyanın bu kateqoriyaları müzakirə və düzəltmə qabiliyyətinin də zəifləməsi ehtimalıdır. Sistemlər işləməyə davam edərkən sivilizasiya öz iş prinsipini izah etməkdə çətinlik çəkə bilər.

Riskin sivil agentlik baxımından ekzistensial sayılması üçün hansı hədlər lazımdır?

Bu hədlər anlayışın həddindən artıq genişlənməsinin qarşısını almağı məqsəd qoyur. Texnoloji dəyişiklik, iş itkisi, mədəni narahatlıq və ya institusional problem təkbaşına ekzistensial risk deyil.

Geri dönməzlik necə şərh olunur?

Sivilizasiya miqyasında geri dönməzlik mütləq fiziki baxımdan heç vaxt düzəldilə bilməyəcək zərər demək deyil. İş aşağıdakı halları da nəzərə alır:

• Bir neçə nəslin müəyyən bacarıqları öyrənməməsi,
• İnstitutların süni intellekt infrastrukturuna uzunmüddətli asılı hala gəlməsi,
• İnsan ekspertizasını yetişdirən kanalların yox olması,
• İtirilmiş qabiliyyətin daha sonra itki kimi belə qəbul edilməməsi,
• Geri dönüş xərcinin tarixi və institusional baxımdan həddən artıq yüksəlməsi.

Buna görə iş “geri dönməz və ya geri qaytarılması çətin” ifadəsini istifadə edir. Buradakı iddia belə itkinin artıq baş verməsi deyil; ekzistensial risk qiymətləndirməsində bu cür tarixi kilidlənmələrin də nəzərə alınmalı olmasıdır.

AI insan qabiliyyətini yalnız zəiflədirmi?

Xeyr. İş süni intellektin yalnız mənfi təsir yaradacağını fərz etmir. AI məlumat təşkilini, səhv tapmanı, institusional auditi, məsuliyyət izləməsini və ictimai düşüncə proseslərini gücləndirə bilər.

Risk aşağıdakı halda yaranır:

Süni intellekt insanın əsas qabiliyyətini inkişaf etdirmək əvəzinə onun istifadəsini uzunmüddətli əvəz edər və bu qabiliyyətin təhsilini, ötürülməsini və ya sonradan bərpasını çətinləşdirərsə.

Buna görə yalnız “insan prosesdədirmi?” sualı kifayət deyil. İnsanın prosesdə hansı qabiliyyətlə iştirak etdiyi, nəyi anladığı və hansı məsuliyyəti həqiqətən üzərinə götürdüyü araşdırılmalıdır.

İşin genişləndirilmiş ekzistensial risk tərifi nədir?

İşin təklif etdiyi tərif Azərbaycan dilində belə ümumiləşdirilə bilər:

Süni intellektlə əlaqəli insan ekzistensial riski; süni intellekt sistemlərinin inkişaf etdirilməsi, istifadəyə verilməsi, ictimai strukturlara yerləşdirilməsi və ya nəzarətin itirilməsi nəticəsində insan növünün geri dönməz şəkildə məhv olması, insanlığın gələcəyindən daimi məhrum edilməsi və ya insanlığın sivilizasiya subyekti kimi mövcudluğunu davam etdirməsini təmin edən əsas şərtlərin geri dönməz şəkildə zəifləməsi riskidir.

Bu tərif bioloji məhvi əhəmiyyətsizləşdirmir, risk daşıyıcısını bioloji növdən daha geniş insan mövcudluğu anlayışına daşıyır.

Bu yanaşma niyə adi ictimai riskdən fərqlidir?

Adi ictimai risk müəyyən peşə, sektor, institut, region və ya dövr üzərində ciddi nəticələr yarada bilər. Sivil agentlik riski isə insanlığın ortaq dünya qurma və öz gələcəyinin subyekti olma qabiliyyətinə təsir edən struktur risk kimi müəyyənləşdirilir.

Peşənin avtomatlaşdırılması, əmək bazarının dəyişməsi və ya yeni məzmun istehsal forması təkbaşına bu kateqoriyaya daxil deyil. Bu dəyişikliklərin həqiqəti doğrulama, məsuliyyət götürmə, müstəqil mühakimə və məna yaratma qabiliyyətlərini çoxsaylı sahələrdə və uzunmüddətli şəkildə aşındırması lazımdır.

İşin dəstəklədiyi və dəstəkləmədiyi nəticələr

Türkiyə üçün hansı tədqiqat sualları ortaya çıxır?

İşin çərçivəsi Türkiyədə birbaşa sınaqdan keçirilməsə də aşağıdakı tədqiqat suallarını gündəmə gətirə bilər:

• Generativ süni intellekt istifadə edən tələbələr yalnız daha sürətli çıxışmı yaradır, yoxsa müstəqil problem qurma və sübut qiymətləndirmə bacarıqlarını da inkişaf etdirirmi?
• Dövlət və özəl sektor qərarlarında insan təsdiqi real araşdırmanı, yoxsa sistem təklifinin formal qəbulunu təmsil edir?
• Süni intellekt tərəfindən yaradılan hesabatlarda mənbə, sübut, fərziyyə və qeyri-müəyyənlik nə dərəcədə qorunur?
• İnstitusional səhv baş verdikdə model, tərtibatçı, istifadəçi və menecer arasında məsuliyyət necə bölüşdürülür?
• Türkcə rəqəmsal məzmun ekosistemində yaradılan məzmun miqdarı artarkən doğrulana bilmə necə dəyişir?
• Peşəkar ekspertiza və institusional yaddaş süni intellektdən asılılıq artdıqca yeni nəsillərə necə ötürülür?
• AI dəstəkli mədəni istehsal insan yaradıcılığını genişləndirir, yoxsa ortaq ifadə formalarını standartlaşdırır?

Bu suallar işin Türkiyə haqqında gəldiyi nəticələr deyil. Çərçivənin yerli səviyyədə sınaqdan keçirilə bilməsi üçün inkişaf etdirilə biləcək tədqiqat sahələridir.

İşin Metodu və Tapıntıları

Tədqiqat növü

İş eksperimental tədqiqat, kəmiyyət analizi, sistematik icmal, meta-analiz və ya gələcək proqnoz modeli deyil. Ontologiya, süni intellekt fəlsəfəsi, texnologiya fəlsəfəsi və konseptual mühəndislik sahələrində inkişaf etdirilmiş nəzəri işdir.

Konseptual mühəndislik yanaşması mövcud anlayışın yalnız necə istifadə edildiyini izah etməklə kifayətlənmir. Anlayışın yeni şərtlərdə izah və qərarvermə funksiyasını daha yaxşı yerinə yetirə bilməsi üçün yenidən qurulmasını təklif edir. Bu işdə yenidən qurulan əsas anlayış “süni intellektlə əlaqəli insan ekzistensial riski” anlayışıdır.

İşin konseptual metodu

İş hansı mənbə sahələrindən yararlanır?

Məqalə ekzistensial risk, superintellekt və AI nəzarəti, konseptual mühəndislik, texnologiya fəlsəfəsi, sosial epistemologiya, mənalı insan nəzarəti, məsuliyyət boşluğu, tarixi yol asılılığı və sivilizasiyanın ortaq dünya kimi şərhinə dair seçilmiş işlərə istinad edir.

Mənbə seçimi üçün məlumat bazası, axtarış sətri, tarix aralığı, daxil etmə və çıxarma meyarları və ya keyfiyyət qiymətləndirmə protokolu təqdim edilmir. Buna görə iş sistematik ədəbiyyat icmalı kimi qiymətləndirilməməlidir.

İşin əsas nəzəri nəticələri

1. Bioloji davam ilə sivil davam eyni deyil: İnsan növünün sağ qalması insanlığın bilik, məsuliyyət, mühakimə və məna qabiliyyətini qoruduğunu təkbaşına göstərmir.
2. Risk daşıyıcısı qatlıdır: Süni intellekt riski insan növünə, sivilizasiyanın iş mühitinə və sivilizasiyanın əsas kateqoriyalarına fərqli formalarda təsir edə bilər.
3. AI riski yalnız texniki performans deyil: Model dəqiqliyi və təhlükəsizliyi vacib olsa da bilik, institut, məsuliyyət və məna üzərindəki təsirlər ayrıca analiz səviyyəsi tələb edir.
4. Səthi işləmə sağlamlığın sübutu deyil: İnstitutların işləməsi, məzmunun artması və qərarların sürətlənməsi həqiqətin, agentliyin və məsuliyyətin sağlam olduğunu sübut etmir.
5. İnsan iştirakı ilə insan subyektliyi fərqlidir: İnsanın son təsdiq mərhələsində olması problemi müəyyənləşdirdiyi, sübutu qiymətləndirdiyi və ya real mühakimə yaratdığı demək deyil.
6. Gücləndirmə ilə əvəz etmə ayrılmalıdır: Süni intellekt insan qabiliyyətini dəstəkləyə bilər; risk insan qabiliyyətinin istifadəsini və ötürülməsini daimi şəkildə əvəz etdikdə ortaya çıxır.
7. Ekzistensial risk həddi yüksək saxlanmalıdır: Lokal problemlər və müvəqqəti dəyişikliklər deyil, əsas qabiliyyətlərə yayılan və güclü geri dönməz struktur zərərlər əhatəyə alınmalıdır.

Bunlar məlumat analizindən əldə edilən empirik tapıntılar deyil. İşin inkişaf etdirdiyi fəlsəfi və konseptual təkliflərdir.

Təklif olunan çərçivə empirik olaraq necə araşdırıla bilər?

Məqalə ətraflı eksperiment dizaynı təqdim etmir. Lakin təklif etdiyi anlayışların gələcəkdə ölçülə bilməsi üçün aşağıdakı tədqiqat növləri inkişaf etdirilə bilər:

• AI istifadə edilən və edilməyən təhsil mühitlərində müstəqil problem qurma, mənbə doğrulama və əsaslandırma yaratma bacarıqlarının uzunmüddətli müqayisəsi,
• İnstitusional qərarlarda problemin tərifindən son təsdiqə qədər insan və sistem töhfələrinin proses analizi,
• AI dəstəkli qərarların məsuliyyət atribusiyasına təsirini araşdıran eksperimentlər,
• İstehsal edilən məzmun artımı ilə mənbə doğrulana bilməsi arasındakı əlaqənin ölçülməsi,
• AI istifadəsinin yeni ekspertlərin yetişməsi və müstəqil qərarvermə müddətinə təsiri,
• Fərqli istifadəçi interfeyslərinin insan sorğulaması və avtomatlaşdırma qərəzi üzərindəki təsiri,
• AI istifadəsinin insan yaradıcılığı, məna qavrayışı və əmək dəyərləri üzərində uzunmüddətli təsirləri,
• Qabiliyyət itkisinin institusional yol asılılığı və nəsillərarası ötürmə üzərindən geri dönüş xərcinin araşdırılması.

Bu təkliflər məqalədə həyata keçirilmiş tədqiqatlar deyil, konseptual çərçivənin sınaqdan keçirilə biləcəyi mümkün empirik istiqamətlərdir.

Əsas məhdudiyyətlər

• İşdə orijinal məlumat, eksperiment, müşahidə və ya statistik analiz yoxdur.
• “Sivilizasiya subyekti” və “fəlsəfi nüvə” anlayışları üçün doğrulanmış ölçmə vasitələri hazırlanmayıb.
• Təklif olunan dörd ekzistensial risk həddinin necə sayısallaşdırılacağı izah edilməyib.
• Hansı AI istifadəsinin insan qabiliyyətini gücləndirdiyi, hansının əvəz etdiyi empirik olaraq ayrılmayıb.
• Süni intellektin həqiqət, məsuliyyət, agentlik və məna üzərindəki təsirinin miqyası ölçülməyib.
• Çərçivənin fərqli mədəniyyətlər və sivilizasiya ənənələri tərəfindən eyni şəkildə qəbul edilib-edilməyəcəyi araşdırılmayıb.
• Aparat–nüvə–distribusiya bənzətməsi izahlı olsa da sivilizasiyanın münaqişəli, tarixi və çoğul strukturunu sadələşdirə bilər.
• Konseptual sərhədlər bəzi adi ictimai risklərlə sivil agentlik riski arasında şərh fərqlərinə açıq qalır.
• Mənbə araşdırması sistematik üsulla aparılmayıb.
• AGI-nin ortaya çıxma vaxtı, ehtimalı və ya qabiliyyət səviyyəsi haqqında məlumat əsaslı proqnoz təqdim edilmir.
• İşin ekspert qiymətləndirməsindən keçdiyi doğrulanmayıb.

Nəticələr necə şərh edilməlidir?

İşin nəticəsi “süni intellekt insan sivilizasiyasını məhv edəcək” kimi oxunmamalıdır. Daha düzgün şərh budur: Süni intellektdən qaynaqlanan insan riskinin qiymətləndirilməsi yalnız insan bədənlərinin və əhalinin gələcəyinə deyil, insanlığın bilik istehsal etmək, məsuliyyət daşımaq, mühakimə formalaşdırmaq və məna yaratmaq qabiliyyətinə də baxmalıdır.

Çərçivə həyəcan proqnozu deyil, risk qiymətləndirməsinin obyektini genişləndirmək təklifidir. Onun dəyəri hələ ölçülməmiş və ya görünən fəlakət forması almamış struktur dəyişikliklər üçün tədqiqat sualları yarada bilməsidir. Məhdudiyyəti isə anlayışların empirik göstəricilərə və doğrulana bilən qiymətləndirmə üsullarına hələ çevrilməməsidir.

Mənbə və Metod Qeydi

İşin tam orijinal adı: AI-Related Human Existential Risk and the Civilizational Subject: From Species Survival to Civilizational Subjecthood

Əlavə izahlı başlıq: Species, Civilization, and Philosophy in the Age of AGI. Bu ifadə yüklənmiş mətnin başlıq səhifəsində yer alır, lakin rəsmi SSRN başlığında yoxdur.

Müəllif: Kun Yuan

Müəllif sırası: İş tək müəlliflidir.

Bərabər birinci müəllif: Yoxdur.

Məsul/əlaqə müəllifi: SSRN qeydində Kun Yuan əlaqə müəllifi kimi göstərilir.

Qurum əlaqəsi: Yüklənmiş mətndə TrantorLabs, SSRN qeydində Trantor Labs olaraq göstərilir.

Əlaqə ünvanı: kunyuan@trantorlabs.sg

SSRN identifikatoru: 6896598

DOI:10.2139/ssrn.6896598

Jurnal: Ekspert rəyi olan jurnal məlumatı yoxdur.

Nəşriyyat: Ekspert rəyi olan jurnal nəşriyyatı yoxdur.

Nəşr və arxiv platformaları: SSRN və PhilArchive/PhilPapers

Yazılma tarixi: 7 İyun 2026

PhilArchive yükləmə tarixi: 8 İyun 2026

SSRN təqdimetmə tarixi: 30 İyun 2026

Səhifə sayı: 46

Mənbə növü: Ontoloji və konseptual mühəndislik işi; fəlsəfi AI riski iş mətni/preprint

Ekspert rəyi vəziyyəti: Ekspert qiymətləndirməsindən keçdiyinə dair doğrulanmış məlumat yoxdur. PhilPapers qeydi işi “manuscript” kimi təsnif edir. İş ekspert rəyi olan və empirik elmi tədqiqat kimi təqdim edilməməlidir.

Rəsmi mənbə keçidi:SSRN iş qeydiyyatı səhifəsi

Alternativ akademik arxiv:PhilArchive qeydiyyat səhifəsi

Bu Azərbaycan dilində izah yüklənmiş işin 46 səhifəsi başdan sona araşdırılaraq hazırlanıb. Elmi və fəlsəfi məzmuna işdən kənar yeni eksperimental tapıntı, risk nisbəti, tarix proqnozu, institut hadisəsi və ya texnoloji nəticə əlavə edilməyib. Xarici mənbələr yalnız başlıq, müəllif, qurum, tarix, DOI, platforma və nəşr vəziyyətinin biblioqrafik doğrulanması üçün istifadə olunub.

İşdə yer alan 2026 tarixli və aktual xarici mənbələrin hər biri bu məzmun çərçivəsində müstəqil şəkildə doğrulanmayıb. Bu mənbələr müəllifin konseptual arqumentindəki rolları ilə ötürülüb. Məqalənin əsas töhfəsi yeni empirik sübut təqdim etmək deyil, süni intellektdən qaynaqlanan insan ekzistensial riskinin daşıyıcısını bioloji növdən sivilizasiya subyektinə doğru genişləndirən analiz çərçivəsi yaratmaqdır.