Bu tədqiqat süni intellektin informasiya mühitinə təsirini “yanlış məlumat” mövzusundan daha geniş çərçivədə nəzərdən keçirir. Müəlliflərə görə əsas təhlükə süni intellektin yalnız səhv cavablar verməsi deyil. Daha dərin risk insanların və qurumların müstəqil düşünmək, sübutları qiymətləndirmək, fərqli baxışlarla təmas qurmaq və birgə əsaslandırılmış qərar vermək qabiliyyətinin zamanla aşınmasıdır.

Məqalə üç əsas mexanizmə fokuslanır: inandırma və manipulyasiya, koqnitiv yükün ötürülməsi və əks əlaqə dövrləri. İnandırma və manipulyasiya süni intellektin insanların inanclarını və qərarlarını yönləndirmək qabiliyyətidir. Koqnitiv yükün ötürülməsi insanların düşünmə, yazma, təhlil etmə və qərarvermə kimi yüksək səviyyəli zehni işləri getdikcə süni intellektə həvalə etməsidir. Əks əlaqə dövrləri isə süni intellekt çıxışlarının insanlara, insanların da sonrakı süni intellekt məlumatlarına təsir etməsi nəticəsində informasiya sahəsinin daralmasıdır.

Müəlliflər bu riskləri artıq baş vermiş fəlakət ssenarisi kimi deyil, ciddi qəbul edilməli risk yolları kimi təqdim edirlər. Tədqiqatın əsas mesajı budur: Süni intellekt bilik qabiliyyətimizi gücləndirə bilər; lakin bu, öz-özünə baş verməyəcək. Sistem dizaynı, təhsil, qurumlar, platforma təşviqləri və tədqiqat infrastrukturu epistemik dayanıqlılığı şüurlu şəkildə qoruyacaq formada qurulmalıdır.

Problem Nədir?

Müasir cəmiyyətlər biliyə əsaslanır. Elmi tərəqqi, demokratik qərarvermə, böhranların idarə edilməsi, epidemiyalara hazırlıq, iqlim siyasəti, biotəhlükəsizlik, süni intellekt idarəçiliyi və ictimai səhiyyə kimi sahələr fərdlərin və qurumların düzgün məlumata çata bilməsinə, sübutları dəyərləndirməsinə və birlikdə əsaslandırılmış qərarlar verə bilməsinə bağlıdır.

Tədqiqatın nəzərdən keçirdiyi problem süni intellektin bu ortaq bilik yaratma qabiliyyətini zəiflətmə ehtimalıdır. Müəlliflər buna görə “epistemik risk” anlayışından istifadə edirlər. Epistemik biliklə və biliyin necə qurulması ilə bağlı deməkdir. Epistemik risk isə cəmiyyətin doğrunu yanlıştan, ekspertizanı səthilikdən, etibarlı biliyi informasiya səs-küyündən ayırmaq qabiliyyətinin zərər görməsi deməkdir.

Bu risk klassik “dezinformasiya” problemindən daha dərindir. Dezinformasiya konkret yanlış məlumatın yayılmasıdır. Epistemik risk isə insanların bilik istehsalı və qiymətləndirmə infrastrukturunun pozulmasıdır. Yəni məsələ yalnız “yanlış məlumat varmı?” sualı deyil; daha əsas sual budur: İnsanlar və qurumlar doğrunu ayırd edə biləcək zehni və institusional qabiliyyəti hələ də qoruyurlarmı?

Süni intellekt bu baxımdan yeni mərhələ yaradır. Axtarış sistemləri informasiyaya çıxışı dəyişdirmişdi; sosial media informasiya yayımını çevirmişdi. Böyük dil modelləri və süni intellekt köməkçiləri isə yalnız məlumat təqdim etmir; arqument qurur, xülasə edir, şərh verir, qərar təklif edir, inandırır, mətn yaradır və getdikcə şəxsi yaddaşa, davamlı münasibətə və fasiləsiz qarşılıqlı əlaqəyə sahib olur. Beləliklə, düşünmə prosesinə daha dərindən daxil olur.

Metod Nə Təklif Edir?

Tədqiqat tək bir eksperimental araşdırma deyil. Müxtəlif sahələrdəki tapıntıları birləşdirən risk əsaslı sintez təqdim edir. Müəlliflər süni intellekt mənşəli epistemik geriləmənin əsasən bu mexanizmlər vasitəsilə işləyə biləcəyini müdafiə edirlər: inandırma və manipulyasiya, koqnitiv yükün ötürülməsi, əks əlaqə dövrləri və kilidlənmə.

Birinci mexanizm olan inandırma və manipulyasiya süni intellekt sistemlərinin insanların inanclarına, qərarlarına və mövqelərinə təsir etmək qabiliyyətidir. Bu təsirdən pis niyyətli subyektlər təbliğat, dələduzluq, radikallaşdırma və ya siyasi təsir üçün istifadə edə bilər. Lakin zərər həmişə pis niyyətli insan subyektindən gəlməli deyil. İstifadəçini davamlı təsdiqləyən, mövcud inanclarını gücləndirən və ya həddindən artıq fərdiləşdirilmiş cavablar verən sistemlər də bilmədən epistemik zərərə səbəb ola bilər.

İkinci mexanizm koqnitiv yükün ötürülməsidir. Bu, insanların zehni səy tələb edən işləri xarici vasitələrə həvalə etməsidir. Bu həmişə pis deyil; yazı, kalkulyator və axtarış sistemləri də bəzi koqnitiv işləri xariciləşdirib. Lakin müasir süni intellekt yalnız xatırlama və ya məlumat tapmaq işini deyil, izah qurmaq, təhlil etmək, qərar vermək, tənqidi düşünmək və yaradıcı istehsal kimi daha yüksək səviyyəli koqnitiv prosesləri də öz üzərinə götürə bilər.

Üçüncü mexanizm əks əlaqə dövrləridir. Süni intellekt insanların yazılarına, ideyalarına, akademik istehsalına, sosial media məzmununa və qərarlarına təsir edir. Bu insan məhsulları daha sonra yeni süni intellekt sistemlərinin məlumatlarına və istifadəçi gözləntilərinə qarışır. Beləliklə, insan və süni intellekt çıxışları bir-birini qidalandıran dövrə çevrilə bilər. Bu dövr fikir müxtəlifliyini azalda, tədqiqat sahələrini daralda və informasiya ekosistemində “alqoritmik monokultura” yarada bilər.

Metodoloji baxımdan tədqiqat bu mexanizmləri ayrı-ayrılıqda deyil, bir-birini gücləndirən sistemik risklər kimi nəzərdən keçirir. Məsələn, koqnitiv bacarıqları zəifləyən istifadəçi manipulyativ süni intellekt cavablarına daha açıq ola bilər. Süni intellektin daraltdığı informasiya sahəsi əks əlaqə dövrləri ilə daha da darala bilər. Beləliklə, epistemik risklər yalnız fərdi deyil, institusional və ictimai miqyasda da böyüyə bilər.

Formullar Nəyi İzah Edir?

Bu tədqiqat riyazi formul mərkəzli deyil. Məqalədə əsas iddialar daha çox konseptual mexanizmlər, ədəbiyyat tapıntıları, risk ssenariləri və müdaxilə sahələri üzərindən qurulur.

Tədqiqatın əsas konseptual strukturu sadə şəkildə belə göstərilə bilər:

Bu sxem süni intellektin informasiya ekosisteminə vurduğu zərərin tək bir kanaldan deyil, bir neçə mexanizmin birləşməsindən yarana biləcəyini göstərir.

Tədqiqatdakı sistemik risk məntiqi belə ümumiləşdirilə bilər:

Bu ifadə məqalənin “meta-risk” ideyasını izah edir. Epistemik risk yalnız bir risk növü deyil; başqa riskləri idarə etmək qabiliyyətini də zəiflədən yuxarı səviyyəli riskdir. Cəmiyyət düzgün bilik istehsal edə bilmir, sübutları dəyərləndirə bilmir və ortaq qərar verə bilmirsə, süni intellekt təhlükəsizliyi, biotəhlükəsizlik, iqlim, müharibə və ya epidemiya kimi digər riskləri də daha pis idarə edə bilər.

Əks əlaqə dövrü sadə şəkildə belə göstərilə bilər:

Burada əsas problem süni intellekt tərəfindən formalaşdırılan insan istehsalının yenidən süni intellekt sistemlərinə giriş məlumatı olmasıdır. Əgər bu dövr müxtəlifliyi, tənqidi və düzəldici siqnalları azaldarsa, informasiya sahəsi zamanla özünü təkrarlayan struktura çevrilə bilər.

Məqalənin həll məntiqi də konseptual olaraq belə ifadə edilə bilər:

Bu sxem həllin yalnız modelə təhlükəsizlik filtri əlavə etməklə məhdudlaşmadığını göstərir. İnsanların sistemlərdən necə istifadə etməsi, qurumların necə nəzarət etməsi və bazarların hansı davranışları mükafatlandırması da həlledicidir.

Qrafik, Cədvəl və Sxemin Əsas Mesajı

Tədqiqatdakı ilk əsas sxem üç mexanizmin bir-birini gücləndirdiyini göstərir. İnandırma və manipulyasiya, koqnitiv yükün ötürülməsi və əks əlaqə dövrləri ayrı risklər kimi görünsə də, eyni informasiya ekosistemi daxilində bir-birini qidalandırır. Bu mexanizmlər epistemik qabiliyyəti zəiflədir; zəifləyən epistemik qabiliyyət isə digər süni intellekt və qeyri-süni-intellekt risklərinə cavabvermə gücünü azaldır.

Sxemdə ümumi hərəkətverici qüvvələr də göstərilir. Təşviq tərəfində qarşılıqlı əlaqəyə yönəlmiş təlim, məhsuldarlıq təzyiqi və rəqabətli yerləşdirmə yarışı var. Bacarıq tərəfində isə dil axıcılığı, inandırma qabiliyyəti, yaddaş, fərdiləşdirmə və geniş tapşırıq avtomatlaşdırması önə çıxır. Əsas mesaj mühümdür: Risk yalnız pis istifadəçidən deyil, məhsul dizaynı və bazar təşviqlərindən də yarana bilər.

İnandırma və manipulyasiya bölməsindəki sxemlər ədəbiyyatda bu anlayışların fərqli şəkildə tərif edildiyini göstərir. Bəzi yanaşmalar inandırmanı üst kateqoriya, manipulyasiyanı isə onun zərərli forması kimi görür. Bəzi siyasət sənədləri isə manipulyasiyanı daha geniş çərçivəyə yerləşdirir. Məqalə tərif fərqlərini qəbul edir; lakin əsas diqqətin insanların inanc və qərarlarının zərərli şəkildə yönləndirilməsi olduğunu bildirir.

Risk nümunələri sxemi süni intellekt dəstəkli inandırmanın həm sui-istifadədən, həm də model davranışından qaynaqlanan zərər yarada biləcəyini izah edir. Sui-istifadədə insanlar süni intellektdən təbliğat, radikallaşdırma və ya hədəfli təsir üçün istifadə edə bilər. Model davranışı mənşəli riskdə isə sistem istifadəçinin sayıqlamaya yaxın inanclarını gücləndirə, həddindən artıq emosional bağ qura və ya kritik qərarlara təhlükəli şəkildə təsir edə bilər.

Koqnitiv yükün ötürülməsi bölməsindəki Bloom taksonomiyası sxemi düşünmə bacarıqlarının sadədən mürəkkəbə doğru irəlilədiyini göstərir: xatırlama, anlama, tətbiq etmə, təhlil etmə, qiymətləndirmə və yaratma. Məqalənin əsas xəbərdarlığı budur: İnsanlar aşağı səviyyəli bacarıqları mənimsəmədən yüksək səviyyəli işləri süni intellektə həvalə etsələr, öyrənmə və tənqidi düşünmə qabiliyyəti zəifləyə bilər.

Əks əlaqə və kilidlənmə sxemləri isə süni intellekt çıxışlarının insan istehsalına, insan istehsalının da sonrakı süni intellekt sistemlərinə təsir etməsi ilə yaranan dövrləri izah edir. Bu proses elmi tədqiqatda mövzu daralması, yazı dilində oxşarlaşma, ideya istehsalında müxtəlifliyin itməsi və uzunmüddətdə informasiya ekosistemində kilidlənmə riski yarada bilər.

Təcrübələr Necə Aparılıb?

Bu tədqiqat tək bir eksperiment aparmır; müxtəlif araşdırmalardan gələn tapıntıları risk çərçivəsi daxilində bir araya gətirir. Buna görə “təcrübələr” bölməsi məqalənin əsaslandığı sübut növlərini anlamaq baxımından oxunmalıdır.

İnandırma və manipulyasiya tərəfdə müəlliflər süni intellekt sistemlərinin insanlarla rəqabət edə bilən və ya bəzi hallarda insanlardan daha təsirli ola bilən inandırma qabiliyyətləri göstərdiyini bildirən araşdırmaları müzakirə edirlər. Həmçinin süni intellektin siyasi təsir, iqtisadi manipulyasiya, sosial mühəndislik, saxta məzmun və hədəfli təbliğat kimi sahələrdə sui-istifadə edilməyə başlandığını göstərən nümunələr təqdim olunur.

Koqnitiv yükün ötürülməsi tərəfdə süni intellekt dəstəkli proqramlaşdırma, yazı və öyrənmə prosesləri ilə bağlı ilkin tapıntılar nəzərdən keçirilir. Bəzi araşdırmalar süni intellektdən intensiv yardım alan şəxslərin səhvləri ayırd etmə, öyrənmə və ya öz biliyinə güvənmə proseslərində zəifləmə yaşaya biləcəyini göstərir. EEG kimi neyroelmi ölçmələrə əsaslanan bəzi tapıntılar da süni intellekt dəstəkli yazı zamanı zehni əlaqə və iştirakın azala biləcəyinə işarə edir.

Əks əlaqə dövrləri tərəfdə süni intellekt dəstəkli istehsalın oxşarlaşmaya səbəb ola biləcəyi müzakirə olunur. Elmi tədqiqat mövzularının daralması, süni intellekt dəstəkli beyin həmləsində daha az orijinal ideyanın yaranması, yazı dilinin süni intellekt qəliblərinə yaxınlaşması və modellərin bir-birinə bənzər çıxışlar yaratması bu bölmədə əsas sübut mövzularıdır.

Məqalə bu tapıntıları dəqiq ölçülmüş sistemik çöküşün sübutu kimi təqdim etmir. Əksinə, ölçmənin çətin olduğunu vurğulayır. Laboratoriya eksperimentləri real dünyadakı uzunmüddətli təsirləri tam tuta bilməyə bilər; real dünya təsirləri isə çox yavaş və səpələnmiş şəkildə formalaşdığı üçün ölçülməsi çətin ola bilər. Buna görə tədqiqat “sübut var, amma natamamdır” xəttində ehtiyatlı risk arqumenti qurur.

Nəticələr Nəyi Göstərir?

Tədqiqatın gəldiyi əsas nəticə süni intellektin epistemik infrastruktura yönəlmiş risklərinin ciddi qəbul edilməli olmasıdır. Bu risklər yalnız yanlış məlumat istehsalı ilə məhdudlaşmır. Süni intellekt insanların nəyə inandığını, necə düşündüyünü, hansı məlumatı vacib saydığını, nəyi sorğuladığını və hansı mövzuları araşdırmağa dəyər gördüyünü təsir edə bilər.

Birinci nəticə süni intellektin inandırma gücünün getdikcə daha mühüm olmasıdır. Fərdiləşdirmə, uzunmüddətli yaddaş, multimodal məzmun istehsalı və emosional qarşılıqlı əlaqə qabiliyyətləri artdıqca sistemlərin insanlara təsir gücü də arta bilər. Bu təsirdən həm pis niyyətli subyektlər istifadə edə bilər, həm də məhsul məqsədləri səbəbilə istəmədən ortaya çıxa bilər.

İkinci nəticə koqnitiv yükün ötürülməsinin klassik informasiya texnologiyalarından fərqli mərhələyə çata bilməsidir. Axtarış sistemi informasiyaya çıxışı asanlaşdırır; lakin süni intellekt çox vaxt arqumenti qurur, nəticəni yaradır, ilkin mətni hazırlayır və istifadəçinin düşünmə prosesinə birbaşa qoşulur. Bu vəziyyət xüsusilə təhsildə və gənc istifadəçilərin inkişafında daha diqqətlə nəzərdən keçirilməlidir.

Üçüncü nəticə əks əlaqə dövrlərinin informasiya müxtəlifliyini daralda bilməsidir. Çox sayda insan eyni növ süni intellekt çıxışları ilə yazır, düşünür və araşdırırsa, kollektiv ideya sahəsi oxşarlaşa bilər. Elmdə, mediada və təhsildə bu vəziyyət uzunmüddətli innovasiya qabiliyyətini zəiflədə bilər.

Dördüncü nəticə epistemik risklərin özünü gizlədə bilən risklər olmasıdır. Cəmiyyət düşünmə qabiliyyətini itirməyə başlayanda bu itkini fərq etmək və düzəltmək qabiliyyəti də azala bilər. Buna görə müdaxilə üçün ən yaxşı vaxt problem tam ölçülə bilən hala gəlməzdən əvvəldir.

Bu Niyə Vacibdir?

Bu tədqiqat süni intellekt risklərini yalnız texniki təhlükəsizlik və ya yanlış məlumat kontekstində deyil, ictimai düşünmə infrastrukturunun kontekstində nəzərdən keçirməyə çağırır. Cəmiyyətin informasiya sağlamlığı pozulduqda yalnız fərdi istifadəçilər zərər görmür; elm, demokratiya, böhran idarəçiliyi, qurumlararası etimad və gələcək texnologiyaları idarə etmək qabiliyyəti də zəifləyir.

Epistemik risklərin “meta-risk” kimi müəyyənləşdirilməsi mühümdür. Meta-risk başqa riskləri idarə etmək qabiliyyətinə də təsir edən risk deməkdir. İnsanlar və qurumlar sübutları qiymətləndirmək bacarığını, müstəqil düşünmə vərdişini və ortaq reallıq zəminini itirərsə, süni intellekt təhlükəsizliyi daxil olmaqla bir çox böyük riski idarə etmək daha çətin olar.

Məqalə həmçinin süni intellektin tamamilə mənfi olmadığını vurğulayır. Süni intellekt düzgün dizayn olunarsa insanların fərziyyələrini sorğulamasına, əks baxışları anlamasına, mürəkkəb informasiyanı qiymətləndirməsinə, elmi istehsalı sürətləndirməsinə və institusional qərarları yaxşılaşdırmasına kömək edə bilər. Lakin bu faydalı istiqamətin reallaşması üçün dizayn və təşviqlər şüurlu şəkildə qurulmalıdır.

Verianla oxucusu üçün ən mühüm nəticə budur: Süni intellekti yalnız “cavab verən alət” kimi görmək kifayət deyil. Süni intellekt informasiya ilə münasibətimizi dəyişdirən düşünmə infrastrukturu halına gəlir. Buna görə əsas sual süni intellektdən istifadə edib-etməmək deyil; onu düşünməni gücləndirəcək, yoxsa öz üzərinə götürüb zəiflədəcək şəkildə dizayn edib-etmədiyimizdir.

Diqqət Edilməli Məqamlar

Tədqiqatın ən mühüm diqqət nöqtəsi risk əsaslı arqument təqdim etməsidir. Müəlliflər epistemik çöküşün mütləq baş verəcəyini demirlər. Bunun əvəzinə bugünkü sistemlərdə görünən bəzi texniki və ictimai meyllərin genişmiqyaslı zərərə səbəb ola biləcək qədər ciddi olduğunu müdafiə edirlər.

İkinci diqqət nöqtəsi ölçmə çətinliyidir. Epistemik risklər yavaş, səpələnmiş və çoxamilli proseslərdir. Bir şəxsin tənqidi düşünmə bacarığının nə qədər azaldığını və ya cəmiyyətin ortaq informasiya sahəsinin nə qədər daraldığını qısa eksperimentlərlə ölçmək çətindir. Buna görə mövcud sübutlar həm dəyərlidir, həm də məhduddur.

Üçüncü diqqət nöqtəsi həllin yalnız texniki filtrlərdən ibarət olmamasıdır. Model təhlükəsizlik parametrləri, zərərli sorğuları rədd etmə və ya məzmunu işarələmə mühümdür; lakin kifayət deyil. Təhsil, interfeys dizaynı, platforma təşviqləri, tədqiqatçıların məlumatlara çıxışı, tənzimləyici çərçivələr və elmi qurumların dayanıqlılığı birlikdə nəzərdən keçirilməlidir.

Dördüncü diqqət nöqtəsi süni intellekt istifadəsinin tamamilə rədd edilməməsidir. Tədqiqat texnologiya əleyhinə mətn deyil. Əsas iddia süni intellektin insan düşünməsini avtomatik olaraq gücləndirməyəcəyidir. Epistemik fayda şüurlu dizayn və institusional tədbirlər tələb edir.

Beşinci diqqət nöqtəsi təhsil bərabərsizliyidir. Resursları güclü məktəblər və qurumlar süni intellektdən düşünməni gücləndirən şəkildə istifadə edə bildiyi halda, zəif qurumlar onu hazır cavab istehsal edən alətə çevirə bilər. Bu da uzunmüddətdə koqnitiv və təhsil bərabərsizliyini artıra bilər.

Nəticə

Bu tədqiqat süni intellektin informasiya ekosistemindəki təsirlərini anlamaq üçün güclü anlayış təklif edir: epistemik risk. Bu risk yalnız saxta xəbər və ya yanlış cavab istehsalı deyil. İnsanların və qurumların doğrunu axtarma, sübutları dəyərləndirmə, müstəqil düşünmə və ortaq qərarvermə qabiliyyətinin zəifləməsidir.

Məqalə üç əsas mexanizmi önə çıxarır. Süni intellekt inandırma və manipulyasiya yolu ilə inancları yönləndirə bilər. Koqnitiv yükün ötürülməsi yolu ilə insanların düşünmə bacarıqlarını zəiflədə bilər. Əks əlaqə dövrləri vasitəsilə informasiya sahəsini daralda və müəyyən düşünmə formalarını kilidləyə bilər.

Həll yalnız “daha təhlükəsiz model” istehsal etmək deyil. Süni intellekt sistemləri daha az yaltaqlanan, daha şəffaf, qeyri-müəyyənliyi daha yaxşı göstərən və fikir müxtəlifliyini daha çox qoruyan şəkildə dizayn olunmalıdır. İnterfeyslər istifadəçinin düşünməsini tam üzərinə götürmək əvəzinə, lazım olduqda koqnitiv sürtünmə yaratmalıdır. Təhsil qurumları hansı zehni bacarıqların heç vaxt tamamilə həvalə edilməməli olduğunu müəyyənləşdirməlidir. Platformalar və bazarlar da qarşılıqlı əlaqə və sürət əvəzinə epistemik keyfiyyəti mükafatlandıracaq şəkildə yenidən düşünülməlidir.

Ümumi mesaj aydındır: Süni intellekt insanlığın bilik yaratma qabiliyyətini gücləndirə bilər; lakin bu, avtomatik nəticə deyil. Epistemik dayanıqlılıq öz-özünə deyil, dizayn vasitəsilə qorunur.

Mənbə və Metod Qeydi

Bu məzmun Mick Yang, Stephen Casper, Jonathan Stray, Jasmine Li, Cameron Jones, Anna Gausen, Natasha Jaques, Brian Christian, Yoshua Bengio və digər müəlliflərin hazırladığı “AI Epistemic Risks: Emerging Mechanisms & Evidence” adlı tədqiqat əsasında hazırlanıb. Tədqiqat süni intellektin insan və cəmiyyət miqyasında bilmə, əsaslandırma, qərarvermə və informasiya ekosistemi üzərindəki risklərini fənlərarası şəkildə müzakirə edir.

Bu məzmun sözbəsöz tərcümə deyil; tədqiqatın əsas ideyası Verianla-nın nəşr xəttinə uyğun şəkildə sadələşdirilərək Azərbaycan dilində müstəqil redaksiya məqaləsinə çevrilib.

Məqalədəki anlayışlar, risk mexanizmləri, cədvəllər və sxemlər sadələşdirilərək təqdim olunub. Məzmun hüquqi, texniki təhlükəsizlik, təhsil siyasəti və ya ictimai siyasət tövsiyəsi kimi deyil, akademik risk çərçivəsinin anlaşılan xülasəsi kimi oxunmalıdır.