Gəlin bir süni intellekt köməkçisi təsəvvür edək. İstifadəçi ona bəzi şəxsi seçimlərini, sağlamlıq məlumatlarını və ya xüsusi qeydlərini öyrədir. Daha sonra başqa biri bu məlumatları soruşduqda köməkçi nə etməlidir?

İlk cavab sadə görünə bilər: İstifadəçinin icazəsi varsa paylaşmalı, yoxdursa paylaşmamalıdır.

Lakin real həyatda icazələr və qadağalar bu qədər sabit deyil. İnsanlar zaman keçdikcə yeni qaydalar qoyur, əvvəlki qaydalarına istisnalar əlavə edir və ya daha əvvəl verdikləri icazəni geri götürürlər.

Məqalədə verilən nümunə bunu yaxşı izah edir:

Bir şəxs əvvəlcə “Tibbi qeydlərimi paylaşma” deyə bilər. Daha sonra evləndikdə “Həyat yoldaşıma istifadə etdiyim dərmanları deyə bilərsən” deyə bilər. Sonra uşaqları olduqda “Sağlamlıq vəziyyətimi uşaqlarımla paylaşmalısan” deyə bilər.

Bu halda AI agenti yalnız son cümləni deyil, bütün qaydaların bir-biri ilə əlaqəsini anlamalıdır. Hansı məlumat hansı şəxslə və hansı şərtlə paylaşıla bilər? Hansı köhnə qayda hələ də qüvvədədir? Hansı yeni ifadə istisna yaradır?

Bu tədqiqat məhz bu suala diqqət yetirir:

AI agentləri insanların dinamik, yəni zamanla dəyişən normalarından planlaşdırma zamanı necə təhlükəsiz şəkildə istifadə edə bilər?

Norm Nə Deməkdir?

Bu tədqiqatda norm davranışla bağlı verilən icazə, öhdəlik və ya qadağa deməkdir.

Məsələn:

• “Bunu paylaşa bilərsən.”
• “Bunu paylaşmamalısan.”
• “Bunu mütləq deməlisən.”
• “Bu halda məlumat verməyinə icazə var.”

Tədqiqatçılar normaları üç əsas qrupa ayırırlar:

Məcburi: Yerinə yetirilməli davranış.
İxtiyari / icazəli: Yerinə yetirilməsinə icazə verilən davranış.
Qadağan: Yerinə yetirilməməli davranış.

Süni intellekt baxımından vacib məqam budur: Normalar yalnız abstrakt əxlaq cümlələri deyil. Onlar planın icra olunub-olunmayacağını müəyyən edən təhlükəsizlik şərtləridir.

Məsələn, AI agenti “Karli-nin sevdiyi mövzuları Jan-a de” şəklində cavab planı yarada bilər. Lakin bu plan icra edilməzdən əvvəl belə bir sual verilməlidir:

Karli bu məlumatın Jan ilə paylaşılmasına icazə verirmi?

Əgər cavab bəlidirsə, cavab verilir. İcazə sübut edilə bilmirsə, sistem paylaşımı rədd edir.

Normativ Şəhadət: İnsanlar Qaydaları Təbii Dillə Öyrədir

Məqalədə “normative testimony” anlayışından istifadə olunur. Bunu Azərbaycan dilində “normativ şəhadət” və ya daha sadə ifadə ilə “şəxsin qayda bəyanatı” kimi izah etmək olar.

Bu, istifadəçinin təbii dillə AI-yə qayda öyrətməsi deməkdir.

Məsələn:

“AI haqqında bəyəndiklərimi paylaşa bilərsən.”

Bu cümlə sistem üçün sadəcə adi mətn deyil. AI onu norm çərçivəsinə çevirir.

Məqalədəki norm çərçivəsi əsasən aşağıdakı hissələrdən ibarətdir:

• Normun özü
• Hansı kontekstdə qüvvədə olduğu
• Hansı davranışa tətbiq edildiyi
• Bu davranışın məcburi, icazəli və ya qadağan olub-olmaması

Bu struktur sayəsində təbii dildə verilən icazə cümləsi AI-nin planlaşdırma zamanı yoxlaya biləcəyi məntiqi şərtə çevrilir.

Düstur Bizə Nə Deyir?

Məqalədə normalar “norm frame” adlanan strukturla təmsil olunur. Sadələşdirilmiş şəkildə norm bunu deyir:

Kontekst doğrudursa, müəyyən davranış üçün müəyyən qiymətləndirmə qüvvədədir.

Məsələn:

Kontekst: Məlumatı alan şəxsin Karli-nin həyat yoldaşı olması
Davranış: Karli-nin resept məlumatını paylaşmaq
Qiymətləndirmə: İcazəli

Bunu gündəlik dildə belə ifadə etmək olar:

“Əgər məlumatı alan şəxs Karli-nin həyat yoldaşıdırsa, Karli-nin resept məlumatlarını paylaşmağa icazə verilir.”

Belə təmsil vacibdir, çünki AI yalnız sözlərə baxmır. Qaydanın hansı şəxs, hansı məlumat və hansı kontekst üçün qüvvədə olduğunu ayırd edir.

Ziddiyyətli Qaydalar Necə Həll Olunur?

Əsas çətinlik qaydalar ziddiyyət təşkil etdikdə başlayır.

Tutaq ki, istifadəçi əvvəlcə belə dedi:

“Tibbi məlumatlarımı paylaşa bilərsən.”

Sonra bunu əlavə etdi:

“Amma həyat yoldaşıma reseptlərimi demə.”

Burada ikinci qayda birinci qaydanın daxilində daha xüsusi qadağadır. Yəni ümumi icazə hələ də qüvvədə qala bilər, lakin həyat yoldaşına resept məlumatı vermək üçün istisna yaranır.

Məqalədə üç növ norm ziddiyyətindən bəhs olunur:

Birbaşa ziddiyyət:
Eyni davranış üçün həm icazə, həm də qadağa varsa.

Dolayı ziddiyyət:
Bir qayda daha ümumi, digəri isə daha xüsusi davranışı əhatə edirsə.

Kəsişən ziddiyyət:
İki qayda tam eyni deyil, lakin bəzi hallarda üst-üstə düşür.

Bu fərqləndirmə vacibdir. Çünki real həyatda qaydalar çox vaxt açıq şəkildə “əvvəlki qaydamı ləğv edirəm” formasında verilmir. İnsanlar adətən yeni istisna əlavə edirlər. AI bunu anlaya bilməlidir.

Standart Yanaşma: Paylaşmaq, yoxsa Paylaşmamaq?

Tədqiqatda iki fərqli standart yanaşma izah olunur.

Qadağanedici qapanma:
Bir davranışın icazəli olduğu sübut edilə bilmirsə, qadağan sayılır.

İcazəverici qapanma:
Bir davranışın qadağan olduğu sübut edilə bilmirsə, icazəli sayılır.

Məxfilik kimi həssas sahələrdə tədqiqatçılar qadağanedici qapanmanı daha uyğun hesab edirlər. Çünki şəxsi məlumatların paylaşılması zamanı “icazə yoxdursa, paylaşma” yanaşması daha təhlükəsizdir.

SocialBot təcrübəsində də bu yanaşmadan istifadə olunur. Yəni istifadəçinin məlumatını paylaşmaq üçün açıq və ya məntiqi şəkildə çıxarıla bilən icazə lazımdır. İcazə sübut edilə bilmirsə, bot “Deyə bilmərəm” mənasında cavab verir.

Bu, müasir AI təhlükəsizliyi baxımından çox vacib prinsipdir:

Şəxsi məlumatlarda standart davranış paylaşmaq deyil, qorumaq olmalıdır.

Normalar Planlara Necə Təhlükəsizlik Səddi Yaradır?

Məqalənin vacib anlayışlarından biri “norm-guided plan”, yəni normla yönləndirilən plandır.

AI agenti hərəkət etməzdən əvvəl plan qurur. Məsələn, istifadəçi “Karli nəyi sevir?” deyə soruşduqda botun planı belə ola bilər:

1. Sualı anla.
2. Karli-nin seçimlərini verilənlər bazasında axtar.
3. Bu məlumatın paylaşıla bilib-bilməyəcəyini yoxla.
4. İcazə varsa, cavab ver.
5. İcazə yoxdursa, rədd et.

Burada üçüncü addım təhlükəsizlik səddidir.

Normla yönləndirilən plan bu deməkdir:

AI agenti hərəkəti icra etməzdən əvvəl əlaqəli şəxsin normativ inancını yoxlayır.

Əgər sistem “Karli bu məlumatın Jan ilə paylaşılmasına icazə verir” nəticəsini çıxara bilirsə, məlumat paylaşılır. Bu nəticəni çıxara bilmirsə, paylaşılmır.

Bu yanaşma normaları yalnız söhbət daxilində şərh olunan ifadələr olmaqdan çıxarıb AI-nin davranışını dayandıran və ya ona icazə verən mexaniki yoxlamaya çevirir.

SocialBot Nə Edir?

Tədqiqatçılar bu yanaşmanı SocialBot adlı AI dialoq agenti üzərində sınaqdan keçirirlər. SocialBot Companion Cognitive Architecture üzərində qurulmuş sistemdir və təbii dillə qarşılıqlı əlaqə qura bilir.

SocialBot üç növ məlumatı emal edə bilir:

Birincisi, istifadəçilərin seçimləri. Məsələn, “AI-ni sevirəm” kimi ifadələr.

İkincisi, istifadəçilərin məxfilik normaları. Məsələn, “AI haqqında bəyəndiklərimi paylaşa bilərsən” və ya “İçki seçimlərimi Socrates ilə paylaşma” kimi ifadələr.

Üçüncüsü, başqa istifadəçilərin verdiyi məlumat sorğuları. Məsələn, “Plato nəyi sevir?” kimi suallar.

Sistem istifadəçinin seçim məlumatını bilsə belə, onu birbaşa paylaşmır. Əvvəlcə uyğun məxfilik normasını yoxlayır. Paylaşıma icazə varsa, məlumat verir. Yoxdursa, rədd edir.

Şəkil 1 Nə Göstərir?

Məqalədəki Şəkil 1 SocialBot-un məxfilik normalarını öyrənib tətbiq etdiyi qısa danışıq nümunəsini göstərir.

İlk vəziyyətdə Jan SocialBot-a “Karli nəyi sevir?” deyə soruşur. SocialBot Karli-nin məlumatını paylaşmaq üçün kifayət qədər icazə tapmadığına görə “Təəssüf edirəm, deyə bilmərəm” mənasında cavab verir.

Daha sonra Karli SocialBot-a “AI haqqında bəyəndiklərimi paylaşmalısan” şəklində icazə/öhdəlik bildirir.

Bundan sonra Jan yenidən “Karli nəyi sevir?” deyə soruşduqda SocialBot artıq Karli-nin AI-ni sevdiyini deyə bilir.

Bu təsvirin əsas mesajı budur:

AI agenti məlumatı bilsə belə, onu paylaşmazdan əvvəl istifadəçinin aktual məxfilik qaydasını yoxlamalıdır.

Təcrübə Necə Aparılıb?

Tədqiqatçılar real istifadəçi qarşılıqlı əlaqələrini toplamağın uzun çəkəcəyini bildirirlər. Buna görə sistemlərini sintetik verilənlər dəsti ilə sınaqdan keçiriblər.

Verilənlər dəstində 1.536 təbii dil dialoq nümunəsi var. Bu nümunələr müxtəlif norm ziddiyyəti növlərini, seçim təqdimatlarını, normativ ifadələri və məlumat suallarını əhatə edəcək şəkildə hazırlanıb.

Hər nümunə təxminən belə qurulub:

1. Ziddiyyət növü
2. Danışan şəxs haqqında məlumat
3. İstifadəçinin seçim cümlələri
4. İstifadəçinin məxfilik normaları
5. Başqa istifadəçinin məlumat sualı
6. Gözlənilən düzgün cavab etiketi

Məsələn, bir şəxs “Meyvə şirəsini sevirəm” və “Qazlı içkini sevirəm” deyə bilər. Sonra “İçki seçimlərimi Socrates ilə paylaşma” deyə bilər. Daha sonra “Meyvə şirəsi seçimlərimi paylaşa bilərsən” şəklində xüsusi icazə verə bilər. Sistem son vəziyyətdə hansı məlumatın kimə deyilə və ya deyilə bilməyəcəyini hesablamalıdır.

Nəticələr Nə Göstərir?

Təcrübədə SocialBot 1.536 seçim sorğusunun hamısına düzgün cavab verib. Məqalə bunu 100 faiz uğur kimi bildirir.

Bu nəticə sistemin sintetik verilənlər dəstindəki norm ziddiyyətlərini düzgün həll etdiyini və planlaşdırma zamanı bu qaydalara əməl etdiyini göstərir.

Lakin bu nəticə diqqətlə oxunmalıdır. Təcrübə yalnız müəyyən tapşırıq sahəsində aparılıb: seçim məlumatlarının paylaşılması. Bundan əlavə, verilənlər dəsti sintetikdir. Real dünyadakı söhbətlər daha mürəkkəb ola bilər; insanlar dolayı, natamam və ya ziddiyyətli cümlələr qura bilərlər.

Buna görə nəticə “AI hər insan normasını həll edir” demək deyil. Daha düzgün şərh budur:

Müəyyən və nəzarət olunan məlumat paylaşımı sahəsində məntiqi norm həlli yanaşması ümidverici nəticə göstərib.

Tədqiqat Nə Deyir?

Tədqiqatın əsas mesajı budur:

AI agentləri insanların dəyişən qaydalarını yalnız yaddaşa yazmamalı; bu qaydalardan planlaşdırma zamanı davranışlarını məhdudlaşdıran təhlükəsizlik sədləri kimi istifadə etməlidirlər.

Tədqiqatçılar normaların təbii dildən məntiqi strukturlara çevrilə bildiyini, ziddiyyətli normaların müəyyən qaydalarla həll oluna bildiyini və bu nəticələrin AI planları üçün ilkin şərtə çevrilə bildiyini göstərirlər.

Bu yanaşma xüsusilə məxfilik baxımından vacibdir. Çünki AI agentinin hansısa məlumatı bilməsi həmin məlumatı paylaşmağa haqqı olduğu demək deyil. Paylaşım əlaqəli şəxsin aktual icazəsindən və kontekstdən asılı olmalıdır.

Bu Niyə Vacibdir?

Bu gün AI köməkçiləri getdikcə daha çox şəxsi məlumatla işləyir. Təqvimlər, e-poçtlar, sağlamlıq qeydləri, vərdişlər, seçimlər, məkan məlumatları və şəxsi söhbətlər AI sistemlərinin fəaliyyət sahəsinə daxil ola bilir.

Bu halda əsas təhlükəsizlik sualı budur:

AI məlumatı nə vaxt deməli, nə vaxt susmalıdır?

Klassik təhlükəsizlik sistemlərində icazələr adətən sabit qaydalar kimi yazılır. Lakin insan münasibətlərində icazələr dinamikdir. Şəxs bəzi məlumatları ailə üzvü ilə paylaşa, bəzilərini iş yoldaşı ilə paylaşmaya bilər. Bu gün verdiyi icazəni sabah geri götürə bilər. Ümumi qadağaya xüsusi istisna əlavə edə bilər.

Bu tədqiqat AI sistemlərinin bu dəyişkənliyi daha açıq məntiqi strukturla izləməli olduğunu göstərir.

Həmçinin böyük dil modellərinin təkbaşına kifayət etməyə biləcəyinə işarə edir. LLM-lər axıcı danışa bilər; lakin həssas norm ziddiyyətlərində etibarlı və izlənə bilən məntiqi əsasa ehtiyac var.

Diqqət Yetirilməli Məqamlar

Bu tədqiqat mühüm fikir təqdim etsə də, məhdudiyyətləri var.

Birincisi, tədqiqat preprintdir. Nəticələrin daha geniş akademik qiymətləndirmə ilə dəstəklənməsi lazımdır.

İkincisi, təcrübə yalnız məlumat paylaşımı və seçim sorğuları üzərində aparılıb. Sağlamlıq, maliyyə, hüquq və ya real şəxsi məlumatların paylaşılması kimi daha mürəkkəb sahələrdə əlavə testlər tələb olunur.

Üçüncüsü, verilənlər dəsti sintetikdir. Real istifadəçilər daha qeyri-müəyyən, natamam və ya gözlənilməz ifadələr işlədə bilərlər.

Dördüncüsü, sistem tək bir şəxsin normalarına əsasən planlaşdırma aparır. Bir neçə şəxsin normaları ziddiyyət təşkil etdikdə necə qərar veriləcəyi bu tədqiqatda həll edilməyib.

Beşincisi, sistem norm ziddiyyətini həll etmək üçün kifayət qədər fon məlumatına malik olmalıdır. Məsələn, “həyat yoldaşı”, “uşaq”, “tibbi qeyd”, “resept” kimi anlayışlar arasındakı əlaqələri başa düşməlidir.

Nəhayət, bu tədqiqat AI təhlükəsizliyi üçün bütöv həll deyil; müəyyən normla yönləndirilən planlaşdırma arxitekturası təklifidir.

Nəticə

Bu tədqiqat süni intellekt agentlərinin insanlarla daha təhlükəsiz qarşılıqlı əlaqə qura bilməsi üçün mühüm məqamı vurğulayır: AI yalnız məlumata çıxış əldə etməməli, həmin məlumatı paylaşmağa haqqı olub-olmadığını da sorğulamalıdır.

Tədqiqatçıların təklif etdiyi yanaşma təbii dillə öyrədilən məxfilik qaydalarını məntiqi normalara çevirir. Ziddiyyətli qaydalar həll olunur və yaranan aktual normativ inanclar AI planlarının təhlükəsizlik şərti kimi istifadə edilir.

SocialBot təcrübələri nəzarət olunan və sintetik məlumat paylaşımı mühitində bu üsulun uğurla işləyə bildiyini göstərir. Lakin real dünya üçün daha geniş, daha mürəkkəb və daha həssas testlərə ehtiyac var.

Bununla belə, tədqiqat gələcəyin AI köməkçiləri üçün güclü prinsip təqdim edir:

Yaxşı AI köməkçisi yalnız nə bildiyini deyil, bildiyini nə vaxt deməməli olduğunu da bilməlidir.

Mənbə və Metod Qeydi

Bu məzmun Taylor Olson, Roberto Salas-Damian və Kenneth D. Forbus tərəfindən hazırlanmış “Reasoning and Planning with Dynamically Changing Norms” adlı akademik tədqiqatdan istifadə edilərək Verianla redaksiya formatında orijinal şəkildə hazırlanıb.

Tədqiqat arXiv-də yayımlanmış preprint xarakteri daşıyır. Məzmun məlumatlandırma və təhsil məqsədi daşıyır. Süni intellekt təhlükəsizliyi, şəxsi məlumatların idarə olunması, hüquq, məxfilik siyasəti və ya peşəkar etik məsləhətin yerini tutmur.