Sun'iy intellekt yordamchisini tasavvur qiling. Foydalanuvchi unga ba'zi shaxsiy afzalliklarini, sog'liq ma'lumotlarini yoki maxsus qaydlarini o'rgatadi. Keyin boshqasi bu ma'lumotlarni so'rasa yordamchi nima qilishi kerak?

Birinchi javob oddiy ko'rinadi: foydalanuvchi ruxsat bergan bo'lsa ulashish kerak, aks holda ulashmaslik kerak.

Lekin haqiqiy hayotda ruxsatlar va taqiqlar shunchalik doimiy emas. Odamlar vaqt o'tishi bilan yangi qoidalar qo'yadi, eski qoidalariga istisno qo'shadi yoki oldin bergan ruxsatini qaytarib oladi.

Maqoladagi misol buni yaxshi tushuntiradi:

Bir kishi avval «Tibbiy qaydlarimni ulashma» deyishi mumkin. Keyin turmush qurganida «Turmush o'rtog'imga qabul qilgan dori-darmonlarimni aytishing mumkin» deyishi mumkin. Keyin farzandlari tug'ilganda «Sog'liq holatlarimni farzandlarim bilan ulashing kerak» deyishi mumkin.

Bu holatda AI agenti faqat oxirgi gapni emas, barcha qoidalar o'rtasidagi munosabatni tushunishi kerak. Qaysi ma'lumot qaysi shaxs bilan qaysi shartda ulashilishi mumkin? Qaysi eski qoida hali amal qiladi? Qaysi yangi ifoda istisno yaratadi?

Bu tadqiqot aynan shu savolga qaratilgan:

AI agentlari odamlarning dinamik ya'ni vaqt o'tishi bilan o'zgaradigan normlarini rejalashtirish jarayonida qanday xavfsiz ishlatishi mumkin?

Norm nima degani?

Bu tadqiqotda norm — xatti-harakat haqida berilgan ruxsat, majburiyat yoki taqiq.

Masalan:

• «Buni ulashing mumkin.»
• «Buni ulashmasliging kerak.»
• «Buni albatta aytishing kerak.»
• «Bu holatda ma'lumot berish erkin.»

Tadqiqotchilar normlarni uch asosiy guruhda ko'rib chiqadi:

Majburiy: bajarilishi kerak bo'lgan xatti-harakat.
Ixtiyoriy / ruxsat etilgan: qilinishiga ruxsat berilgan xatti-harakat.
Taqiqlangan: qilinmasligi kerak bo'lgan xatti-harakat.

Sun'iy intellekt nuqtai nazaridan muhimi: normlar faqat mavhum axloqiy gaplar emas. Reja amalga oshishi yoki oshmasligini belgilaydigan xavfsizlik shartlari.

Masalan AI agenti «Karli nimalarni yoqtirishini Jan'ga ayt» deb javob rejasini tuzishi mumkin. Lekin bu reja ishga tushishidan oldin shu savol berilishi kerak:

Karli bu ma'lumotning Jan bilan ulashilishiga ruxsat beradimi?

Agar javob ha bo'lsa javob beriladi. Agar ruxsat isbotlanmasa tizim ulashishni rad etadi.

Normativ taniklik: odamlar qoidalarini tabiiy til bilan o'rgatadi

Maqolada «normative testimony» tushunchasi ishlatiladi.

Bu foydalanuvchining tabiiy til bilan AI'ga qoida o'rgatishi.

Masalan:

«AI haqidagi yoqtirishlarimni ulashing mumkin.»

Bu gap tizim uchun oddiy matn emas. AI buni norm ramkasiga aylantiradi.

Maqoladagi norm ramkasi asosan quyidagi qismlardan iborat:

• Normning o'zi
• Qaysi kontekstda amal qilishi
• Qaysi xatti-harakatga qo'llanilishi
• Bu xatti-harakat majburiy, ruxsat etilgan yoki taqiqlanganligi

Bu tuzilma tabiiy tildagi ruxsat gapini AI rejalashtirishda tekshira oladigan mantiqiy shartga aylantiradi.

Formula bizga nima deyapti?

Maqolada normlar «norm frame» deb ataladigan tuzilma bilan ifodalanadi. Soddalashtirilgan holda norm shuni aytadi:

Kontekst to'g'ri bo'lsa, ma'lum xatti-harakat uchun ma'lum baho amal qiladi.

Masalan:

Kontekst: qabul qiluvchi Karli'ning turmush o'rtog'i bo'lishi
Xatti-harakat: Karli'ning retsept ma'lumotini ulashish
Baho: ruxsat etilgan

Bu kundalik tilga shunday tarjima qilinadi:

«Agar ma'lumot oluvchi Karli'ning turmush o'rtog'i bo'lsa, Karli'ning retsept ma'lumotlarini ulashish ruxsat etilgan.»

Bu ifoda muhim, chunki AI faqat so'zlarga qaramaydi. Qoida qaysi shaxs, qaysi ma'lumot va qaysi kontekst uchun amal qilishini ajratadi.

Ziddiyatli qoidalar qanday hal qilinadi?

Asosiy qiyinlik qoidalar ziddiyatlashganda boshlanadi.

Foydalanuvchi avval shuni desa:

«Tibbiy ma'lumotlarimni ulashing mumkin.»

Keyin qo'shsa:

«Lekin turmush o'rtog'imga retseptlarimni aytma.»

Bu yerda ikkinchi qoida birinchisidagi umumiy ruxsatga nisbatan maxsusroq taqiq. Umumiy ruxsat saqlanishi mumkin, lekin turmush o'rtog'iga retsept berish bo'yicha istisno paydo bo'ladi.

Maqola uch turdagi norm ziddiyatidan gapiradi:

To'g'ridan-to'g'ri ziddiyat:
Bir xatti-harakat uchun ham ruxsat ham taqiq bo'lsa.

Dolzarb ziddiyat:
Bir qoida umumiyroq, ikkinchisi maxsusroq xatti-harakatni qamrab olsa.

Kesishuvchi ziddiyat:
Ikki qoida bir xil emas, lekin ba'zi holatlarda ustma-ust tushsa.

Bu farq muhim. Haqiqiy hayotda qoidalar ko'pincha «oldingi qoidamni bekor qilaman» deb kelmaydi. Odamlar odatda yangi istisno qo'shadi. AI buni tushunishi kerak.

Standart sozlama: ulashishmi yoki ulashmaslikmi?

Tadqiqotda ikki xil standart yondashuv tavsiflanadi.

Taqiqlovchi yopilish:
Xatti-harakat ruxsat etilgani isbotlanmasa taqiqlangan deb olinadi.

Ruxsat beruvchi yopilish:
Xatti-harakat taqiqlanganligi isbotlanmasa ruxsat etilgan deb olinadi.

Maxfiylik kabi sezgir sohalarda tadqiqotchilar taqiqlovchi yopilishni mosroq deb biladi. Shaxsiy ma'lumot ulashishda «ruxsat yo'q bo'lsa ulashma» yondashuvi xavfsizroq.

SocialBot tajribasida ham shu yondashuv qo'llaniladi. Foydalanuvchi ma'lumotini ulashish uchun ochiq yoki chiqarib olinadigan ruxsat kerak. Ruxsat isbotlanmasa bot «Aytolmayman» deb javob beradi.

Bu zamonaviy AI xavfsizligi uchun muhim printsip:

Shaxsiy ma'lumotda standart xulq ulashish emas, himoya qilish bo'lishi kerak.

Normlar rejalarga qanday xavfsizlik relsi bo'ladi?

Maqolaning muhim tushunchalaridan biri «norm-guided plan», ya'ni norm yo'naltirilgan reja.

AI agenti harakat qilishdan oldin reja tuzadi. Masalan «Karli nimalarni yoqtiradi?» deb so'rasa bot rejasi:

1. Savolni tushunish.
2. Karli'ning afzalliklarini ma'lumotlar bazasida qidirish.
3. Bu ma'lumot ulashish mumkinligini tekshirish.
4. Ruxsat bo'lsa javob berish.
5. Ruxsat bo'lmasa rad etish.

Bu yerda uchinchi qadam xavfsizlik relsidir.

Norm yo'naltirilgan reja shuni anglatadi:

AI agenti harakatni bajarmasdan oldin tegishli shaxsning normativ ishonchini tekshiradi.

Agar tizim «Karli bu ma'lumotning Jan bilan ulashilishiga ruxsat beradi» xulosasiga kelsa ma'lumot ulashiladi. Kela olmasa ulashilmaydi.

Bu yondashuv normlarni faqat suhbatdagi ifodalar emas, AI xulqini to'xtatadigan yoki ruxsat beradigan mexanik nazoratga aylantiradi.

SocialBot nima qiladi?

Tadqiqotchilar bu yondashuvni SocialBot nomli AI dialog agentida sinaydi. SocialBot Companion Cognitive Architecture asosida qurilgan va tabiiy til bilan muloqot qila oladi.

SocialBot uch turdagi ma'lumotni qayta ishlaydi:

Birinchisi, foydalanuvchilarning afzalliklari. Masalan «AI'ni yoqtiraman» kabi ifodalar.

Ikkinchisi, foydalanuvchilarning maxfiylik normlari. Masalan «AI haqidagi yoqtirishlarimni ulashing mumkin» yoki «Ichimlik afzalliklarimni Socrates bilan ulashma» kabi ifodalar.

Uchinchisi, boshqa foydalanuvchilarning ma'lumot so'rovlari. Masalan «Plato nimalarni yoqtiradi?» kabi savollar.

Tizim foydalanuvchi afzalligini bilgan bo'lsa ham to'g'ridan-to'g'ri ulashmaydi. Avval tegishli maxfiylik normini tekshiradi. Ulashish ruxsat etilgan bo'lsa ma'lumot beradi. Aks holda rad etadi.

1-rasm nima aytadi?

Maqoladagi 1-rasm SocialBot maxfiylik normlarini o'rganib qo'llagan qisqa suhbat misolini ko'rsatadi.

Birinchi holatda Jan SocialBot'ga «Karli nimalarni yoqtiradi?» deb so'raydi. SocialBot Karli ma'lumotini ulashish uchun yetarli ruxsat topa olmagani uchun «Kechirasiz, aytolmayman» deb javob beradi.

Keyin Karli SocialBot'ga «AI haqidagi yoqtirishlarimni ulashing kerak» deb ruxsat/majburiyat bildiradi.

Shundan so'ng Jan yana «Karli nimalarni yoqtiradi?» deb so'rasa SocialBot endi Karli AI'ni yoqtirishini aytishi mumkin.

Bu tasvirning asosiy xabari:

AI agenti ma'lumotni bilgan bo'lsa ham ulashishdan oldin foydalanuvchining yangilangan maxfiylik qoidasini tekshirishi kerak.

Tajriba qanday o'tkazildi?

Tadqiqotchilar haqiqiy foydalanuvchi o'zaro ta'sirini to'plash uzoq vaqt olishini aytadi. Shuning uchun tizimlarini sintetik ma'lumotlar to'plami bilan sinashadi.

To'plamda 1.536 tabiiy til dialog namunasi bor. Bu namunalar turli norm ziddiyati turlarini, afzallik tanitishlarini, normativ ifodalarni va ma'lumot savollarini qamrab oladi.

Har bir namuna taxminan quyidagi tuzilma:

1. Ziddiyat turi
2. So'zlovchi ma'lumoti
3. Foydalanuvchi afzallik gaplari
4. Foydalanuvchi maxfiylik normlari
5. Boshqa foydalanuvchining ma'lumot savoli
6. Kutilgan to'g'ri javob yorlig'i

Masalan bir kishi «Meva sharbati yoqadi» va «Soda yoqadi» deyishi mumkin. Keyin «Ichimlik afzalliklarimni Socrates bilan ulashma» deyishi mumkin. Keyin «Meva sharbati afzalliklarimni ulashing mumkin» deb maxsus ruxsat berishi mumkin. Tizim oxirgi holatda qaysi ma'lumot kimga aytilishi yoki aytilmasligi kerakligini hisoblashi kerak.

Natijalar nima ko'rsatadi?

Tajribada SocialBot 1.536 afzallik so'rovining barchasiga to'g'ri javob bergan. Maqola buni 100% muvaffaqiyat deb hisobot qiladi.

Bu natija tizimning sintetik to'plamdagi norm ziddiyatlarini to'g'ri hal qilganini va rejalashtirishda bu qoidalarga rioya qilganini ko'rsatadi.

Lekin bu topilmani ehtiyotkor o'qish kerak. Tajriba faqat ma'lum bir vazifa sohasida: afzallik ma'lumotini ulashish. To'plam sintetik. Haqiqiy dunyo suhbatlari ancha murakkab bo'lishi mumkin.

Shuning uchun natija «AI har qanday inson normini hal qiladi» degani emas. To'g'riroq talqin:

Ma'lum va nazorat qilinadigan ma'lumot ulashish sohasida mantiqiy norm tahlili yondashuvi umidli natija bergan.

Tadqiqot nima deyapti?

Tadqiqotning asosiy xabari:

AI agentlari odamlarning o'zgaruvchan qoidalarini faqat xotiraga yozmasligi kerak; bu qoidalarni rejalashtirishda xulqini cheklaydigan xavfsizlik relslari sifatida ishlatishi kerak.

Tadqiqotchilar normlarni tabiiy tildan mantiqiy tuzilmalarga aylantirish, ziddiyatli normlarni ma'lum qoidalar bilan hal qilish va natijalarni AI rejalari old sharti qilish mumkinligini ko'rsatadi.

Bu yondashuv ayniqsa maxfiylik nuqtai nazaridan muhim. AI agenti ma'lumotni bilishi uni ulashish huquqiga ega degani emas. Ulashish tegishli shaxsning yangilangan ruxsati va kontekstga bog'liq.

Bu nima uchun muhim?

Bugun AI yordamchilari tobora ko'proq shaxsiy ma'lumot bilan ishlaydi. Taqvimlar, elektron pochta, sog'liq qaydlari, odatlar, afzalliklar, joylashuv va shaxsiy suhbatlar AI tizimlarining ta'sir doirasiga kiradi.

Bu holatda asosiy xavfsizlik savoli:

AI ma'lumotni qachon aytishi va qachon jim turishi kerak?

Klassik xavfsizlik tizimlarida ruxsatlar odatda doimiy qoidalar sifatida yoziladi. Lekin inson munosabatlarida ruxsatlar dinamik. Bir kishi ba'zi ma'lumotlarni oila a'zosi bilan ulashishi, ba'zilarini ish hamkasbi bilan ulashmasligi mumkin. Bugun bergan ruxsatini ertaga qaytarib olishi mumkin.

Bu tadqiqot AI tizimlari bu o'zgaruvchanlikni aniqroq mantiqiy tuzilma bilan kuzatishi kerakligini ko'rsatadi.

Shuningdek katta til modellari yolg'iz yetarli bo'lmasligi mumkinligiga ishora qiladi. LLM'lar ravon gapira oladi; lekin sezgir norm ziddiyatlarida ishonchli va kuzatiladigan mantiqiy poydevor kerak.

E'tibor berish kerak bo'lgan nuqtalar

Bu tadqiqot muhim g'oya bersa ham cheklangan.

Birinchidan, preprint. Kengroq akademik baholash kerak.

Ikkinchidan, tajriba faqat ma'lumot ulashish va afzallik so'rovlari ustida. Sog'liq, moliya, huquq yoki haqiqiy shaxsiy ma'lumot kabi murakkab sohalarda qo'shimcha testlar kerak.

Uchinchidan, to'plam sintetik. Haqiqiy foydalanuvchilar noaniqroq ifodalar ishlatishi mumkin.

To'rtinchi, tizim bitta shaxsning normlariga qarab rejalashtiradi. Bir nechta shaxs normlari ziddiyatlashganda qanday qaror qilinadi — bu tadqiqotda hal qilinmagan.

Beshinchi, norm ziddiyatini hal qilish uchun yetarli fon bilimi kerak. Masalan «turmush o'rtog'i», «farzand», «tibbiy qayd», «retsept» tushunchalarining munosabatlarini tushunish kerak.

Nihoyat, bu tadqiqot AI xavfsizligi uchun to'liq yechim emas; ma'lum norm yo'naltirilgan rejalashtirish arxitekturasi taklifidir.

Xulosa

Bu tadqiqot sun'iy intellekt agentlarining odamlar bilan xavfsizroq muloqot qilishi uchun muhim nuqtani ta'kidlaydi: AI faqat ma'lumotga erishmasligi, balki uni ulashish huquqi bor-yo'qligini ham so'rashi kerak.

Tadqiqotchilarning taklifi tabiiy til bilan o'rgatilgan maxfiylik qoidalarini mantiqiy normlarga aylantiradi. Ziddiyatli qoidalar hal qilinadi va hosil bo'lgan yangilangan normativ ishonchlar AI rejalari xavfsizlik sharti sifatida ishlatiladi.

SocialBot tajribalari nazorat qilingan sintetik ma'lumot ulashish muhitida ushbu usul muvaffaqiyatli ishlashini ko'rsatadi. Lekin haqiqiy dunyo uchun kengroq testlar kerak.

Shunga qaramay tadqiqot kelajakdagi AI yordamchilari uchun kuchli printsip beradi:

Yaxshi AI yordamchisi nima bilishini emas, balki nima bilishini qachon aytmasligi kerakligini ham bilishi kerak.

Manba va usul eslatmasi

Ushbu kontent Taylor Olson, Roberto Salas-Damian va Kenneth D. Forbus tomonidan tayyorlangan «Reasoning and Planning with Dynamically Changing Norms» nomli akademik ish asosida Verianla tahririy formatida mustaqil tayyorlangan.

Tadqiqot arXiv da e'lon qilingan preprint. Kontent ma'lumot va ta'lim maqsadida. AI xavfsizligi, shaxsiy ma'lumot boshqaruvi, huquq, maxfiylik siyosati yoki professional etik maslahat o'rnini bosa olmaydi.