Биёед як ассистенти зеҳни сунъиро тасаввур кунем. Корбар ба он баъзе афзалиятҳои шахсӣ, маълумоти саломатӣ ё қайдҳои хусусии худро меомӯзонад. Баъдтар, вақте шахси дигар ин маълумотро мепурсад, ассистент бояд чӣ кор кунад?

Ҷавоби аввал метавонад содда намояд: агар иҷозати корбар бошад, бояд мубодила кунад; агар набошад, набояд мубодила кунад.

Аммо дар ҳаёти воқеӣ иҷозатҳо ва манъҳо ин қадар собит нестанд. Одамон бо гузашти вақт қоидаҳои нав мегузоранд, ба қоидаҳои кӯҳна истисно илова мекунанд ё иҷозате, ки пештар дода буданд, пас мегиранд.

Мисоле, ки дар мақола оварда шудааст, инро хуб нишон медиҳад:

Як шахс аввал метавонад бигӯяд: “Сабтҳои тиббии маро мубодила накун.” Баъдтар, вақте издивоҷ мекунад, метавонад бигӯяд: “Метавонӣ ба ҳамсарам доруҳоеро, ки истифода мебарам, бигӯӣ.” Сипас, вақте фарзанддор мешавад, метавонад бигӯяд: “Бояд ҳолатҳои саломатии маро бо фарзандонам мубодила кунӣ.”

Дар ин ҳолат, агенти AI на танҳо ҷумлаи охирин, балки робитаи ҳамаи қоидаҳоро бо ҳамдигар бояд фаҳмад. Кадом маълумот, бо кадом шахс ва дар кадом шароит метавонад мубодила шавад? Кадом қоидаи кӯҳна ҳанӯз амал мекунад? Кадом изҳороти нав истисно месозад?

Ин таҳқиқот маҳз ба ҳамин савол равона шудааст:

Агентҳои AI меъёрҳои динамикӣ, яъне бо гузашти вақт тағйирёбандаи инсонро ҳангоми банақшагирӣ чӣ гуна метавонанд бехатар истифода баранд?

Меъёр чӣ маъно дорад?

Дар ин таҳқиқот меъёр ба маънои иҷозат, уҳдадорӣ ё манъест, ки нисбат ба як рафтор дода мешавад.

Масалан:

• “Метавонӣ инро мубодила кунӣ.”
• “Набояд инро мубодила кунӣ.”
• “Инро ҳатман бояд бигӯӣ.”
• “Дар ин ҳолат додани маълумот иҷозат аст.”

Муҳаққиқон меъёрҳоро ба се гурӯҳи асосӣ ҷудо мекунанд:

Ҳатмӣ: Рафторе, ки бояд иҷро шавад.
Ихтиёрӣ / иҷозатдодашуда: Рафторе, ки иҷрои он иҷозат аст.
Манъшуда: Рафторе, ки набояд иҷро шавад.

Аз нигоҳи зеҳни сунъӣ нуқтаи муҳим ин аст: меъёрҳо танҳо ҷумлаҳои ахлоқии абстрактӣ нестанд. Онҳо шартҳои амниятӣ мебошанд, ки муайян мекунанд як нақша кор мекунад ё не.

Масалан, агенти AI метавонад нақшаи ҷавобе созад, ки “мавзӯъҳои дӯстдоштаи Карлиро ба Жан бигӯ” мегӯяд. Аммо пеш аз иҷрои ин нақша бояд саволи зерин дода шавад:

Оё Карли иҷозат медиҳад, ки ин маълумот бо Жан мубодила шавад?

Агар ҷавоб ҳа бошад, ҷавоб дода мешавад. Агар иҷозат исбот нашавад, система аз мубодила худдорӣ мекунад.

Шаҳодати меъёрӣ: инсон қоидаҳоро бо забони табиӣ меомӯзонад

Дар мақола мафҳуми “normative testimony” истифода мешавад. Ба тоҷикӣ онро метавон “шаҳодати меъёрӣ” ё содатар “изҳороти қоидаи шахс” гуфт.

Ин маънои онро дорад, ки корбар бо забони табиӣ ба AI қоида меомӯзонад.

Масалан:

“Метавонӣ писандидаҳои маро дар бораи AI мубодила кунӣ.”

Ин ҷумла барои система танҳо як матни оддӣ нест. AI онро ба як чаҳорчӯбаи меъёр табдил медиҳад.

Чаҳорчӯбаи меъёр дар мақола асосан аз ин қисмҳо иборат аст:

• Худи меъёр
• Дар кадом замина амал мекунад
• Ба кадом рафтор татбиқ мешавад
• Оё ин рафтор ҳатмӣ, иҷозатдодашуда ё манъшуда аст

Ба шарофати ин сохтор, ҷумлаи иҷозат дар забони табиӣ ба шарти мантиқие табдил меёбад, ки AI метавонад ҳангоми банақшагирӣ онро тафтиш кунад.

Формула ба мо чӣ мегӯяд?

Дар мақола меъёрҳо бо сохторе нишон дода мешаванд, ки “norm frame” ном дорад. Дар шакли содашуда, як меъёр чунин мегӯяд:

Агар замина дуруст бошад, барои рафтори муайян як арзёбии муайян амал мекунад.

Масалан:

Замина: Шахси гирандаи маълумот ҳамсари Карли бошад
Рафтор: Мубодилаи маълумоти дорухати Карли
Арзёбӣ: Иҷозатдодашуда

Инро ба забони рӯзмарра чунин метавон баргардонд:

“Агар шахсе, ки маълумот мегирад, ҳамсари Карли бошад, мубодилаи маълумоти дорухатҳои Карли иҷозат аст.”

Ин гуна намояндагӣ муҳим аст, зеро AI танҳо ба калимаҳо нигоҳ намекунад. Он ҷудо мекунад, ки қоида барои кадом шахс, кадом маълумот ва кадом замина амал мекунад.

Қоидаҳои зиддиятнок чӣ гуна ҳал мешаванд?

Қисми воқеан душвор вақте оғоз мешавад, ки қоидаҳо бо ҳам зид мешаванд.

Фарз кунем корбар аввал чунин гуфт:

“Метавонӣ маълумоти тиббии маро мубодила кунӣ.”

Баъд чунин илова кард:

“Аммо ба ҳамсарам дорухатҳои маро нагӯ.”

Дар ин ҷо қоидаи дуюм як манъи махсустар аст, ки ба дохили қоидаи аввал медарояд. Яъне иҷозати умумӣ ҳанӯз метавонад амал кунад, аммо барои гуфтани маълумоти дорухат ба ҳамсар истисно пайдо мешавад.

Мақола аз се навъи зиддияти меъёрҳо сухан мегӯяд:

Зиддияти мустақим:
Вақте барои як рафтор ҳам иҷозат ва ҳам манъ вуҷуд дорад.

Зиддияти ғайримустақим:
Вақте як қоида умумитар ва дигарӣ рафтори махсустарро дар бар мегирад.

Зиддияти буришӣ:
Ду қоида комилан яксон нестанд, аммо дар баъзе ҳолатҳо бо ҳам ҳампӯш мешаванд.

Ин ҷудосозӣ муҳим аст. Зеро дар ҳаёти воқеӣ қоидаҳо аксар вақт бо ҷумлаи равшани “қоидаи пешинаамро бекор мекунам” намеоянд. Одамон одатан истиснои нав илова мекунанд. AI бояд инро фаҳмида тавонад.

Танзими пешфарз: мубодила кардан ё накардан?

Дар таҳқиқот ду равиши гуногуни пешфарз тавсиф мешавад.

Бастани манъкунанда:
Агар иҷозатдодашуда будани як рафтор исбот нашавад, он манъшуда қабул мешавад.

Бастани иҷозатдиҳанда:
Агар манъшуда будани як рафтор исбот нашавад, он иҷозатдодашуда қабул мешавад.

Дар соҳаҳои ҳассос, мисли махфият, муҳаққиқон бастани манъкунандаро муносибтар медонанд. Зеро ҳангоми мубодилаи маълумоти шахсӣ равиши “агар иҷозат нест, мубодила накун” бехатартар аст.

Дар таҷрибаи SocialBot низ ҳамин равиш истифода мешавад. Яъне барои мубодилаи маълумоти як корбар иҷозати равшан ё иҷозате, ки метавон аз далелҳо баровард, лозим аст. Агар иҷозат исбот нашавад, бот бо маънои “Гуфта наметавонам” ҷавоб медиҳад.

Ин барои амнияти муосири AI як принсипи хеле муҳим аст:

Дар маълумоти шахсӣ рафтори пешфарз набояд мубодила кардан, балки муҳофизат кардан бошад.

Меъёрҳо чӣ гуна ба релси амниятии нақшаҳо табдил мешаванд?

Яке аз мафҳумҳои муҳими мақола “norm-guided plan”, яъне нақшаи ҳидоятшуда бо меъёр аст.

Як агенти AI пеш аз иҷрои амал нақша месозад. Масалан, вақте корбар мепурсад “Карли чиро дӯст медорад?”, нақшаи бот метавонад чунин бошад:

1. Саволро фаҳм.
2. Писандидаҳои Карлиро дар пойгоҳи додаҳо ҷустуҷӯ кун.
3. Санҷ, ки оё ин маълумот метавонад мубодила шавад.
4. Агар иҷозат бошад, ҷавоб деҳ.
5. Агар иҷозат набошад, рад кун.

Дар ин ҷо қадами сеюм релси амниятӣ аст.

Нақшаи ҳидоятшуда бо меъёр чунин маъно дорад:

Агенти AI пеш аз иҷрои амал эътиқоди меъёрии шахси дахлдорро месанҷад.

Агар система тавонад хулоса кунад, ки “Карли иҷозат медиҳад ин маълумот бо Жан мубодила шавад”, маълумот мубодила мешавад. Агар натавонад, мубодила намешавад.

Ин равиш меъёрҳоро аз танҳо изҳоротҳое, ки дар гуфтугӯ тафсир мешаванд, берун оварда, ба назорати механикие табдил медиҳад, ки рафтори AI-ро бозмедорад ё иҷозат медиҳад.

SocialBot чӣ кор мекунад?

Муҳаққиқон ин равишро дар як агенти гуфтугӯии AI бо номи SocialBot меозмоянд. SocialBot системаест, ки бар асоси Companion Cognitive Architecture сохта шудааст ва метавонад бо забони табиӣ ҳамкорӣ кунад.

SocialBot се навъи маълумотро коркард карда метавонад:

Якум, афзалиятҳои корбарон. Масалан, изҳоротҳое мисли “AI-ро дӯст медорам”.

Дуюм, меъёрҳои махфияти корбарон. Масалан, изҳоротҳое мисли “Метавонӣ писандидаҳои маро дар бораи AI мубодила кунӣ” ё “Афзалиятҳои нӯшокии маро бо Socrates мубодила накун”.

Сеюм, дархостҳои маълумоте, ки корбарони дигар мепурсанд. Масалан, саволҳое мисли “Plato чиро дӯст медорад?”

Система, ҳатто агар маълумоти афзалияти корбарро донад, онро мустақиман мубодила намекунад. Аввал меъёри дахлдори махфиятро месанҷад. Агар мубодила иҷозат бошад, маълумот медиҳад. Агар не, рад мекунад.

Расми 1 чӣ нишон медиҳад?

Расми 1 дар мақола намунаи кӯтоҳи гуфтугӯеро нишон медиҳад, ки SocialBot меъёрҳои махфиятро меомӯзад ва татбиқ мекунад.

Дар ҳолати аввал, Жан аз SocialBot мепурсад: “Карли чиро дӯст медорад?” SocialBot барои мубодилаи маълумоти Карли иҷозати кофӣ намеёбад ва бо маънои “Бубахшед, гуфта наметавонам” ҷавоб медиҳад.

Баъдтар Карли ба SocialBot мегӯяд: “Бояд писандидаҳои маро дар бораи AI мубодила кунӣ”, яъне як иҷозат/уҳдадорӣ медиҳад.

Пас аз ин, вақте Жан боз “Карли чиро дӯст медорад?” мепурсад, SocialBot акнун метавонад бигӯяд, ки Карли AI-ро дӯст медорад.

Паёми асосии ин расм чунин аст:

Ҳатто агар агенти AI маълумотро донад, пеш аз мубодила бояд қоидаи кунунии махфияти корбарро тафтиш кунад.

Таҷриба чӣ гуна гузаронида шудааст?

Муҳаққиқон мегӯянд ҷамъоварии ҳамкориҳои воқеии корбарон вақти зиёд мегирад. Аз ин рӯ, онҳо системаи худро бо маҷмӯаи додаҳои синтетикӣ меозмоянд.

Дар маҷмӯаи додаҳо 1 536 намунаи гуфтугӯи забони табиӣ мавҷуд аст. Ин намунаҳо тавре омода шудаанд, ки навъҳои гуногуни зиддияти меъёр, муаррифии афзалият, изҳороти меъёрӣ ва саволҳои маълумотиро фаро гиранд.

Ҳар намуна тақрибан чунин сохтор дорад:

1. Навъи зиддият
2. Маълумоти шахси сухангӯ
3. Ҷумлаҳои афзалияти корбар
4. Меъёрҳои махфияти корбар
5. Саволи маълумотии корбари дигар
6. Нишонаи ҷавоби дурусти интизоршаванда

Масалан, як шахс метавонад бигӯяд “Шарбати мевагиро дӯст медорам” ва “Содаро дӯст медорам”. Баъд метавонад бигӯяд “Афзалиятҳои нӯшокии маро бо Socrates мубодила накун”. Сипас метавонад иҷозати махсус диҳад: “Метавонӣ афзалиятҳои маро дар бораи шарбати мевагӣ мубодила кунӣ”. Система бояд дар ҳолати охирин ҳисоб кунад, ки кадом маълумот ба кӣ гуфта мешавад ё гуфта намешавад.

Натиҷаҳо чӣ нишон медиҳанд?

Дар таҷриба SocialBot ба ҳамаи 1 536 дархости афзалият ҷавоби дуруст додааст. Мақола инро ҳамчун 100 дарсад муваффақият гузориш медиҳад.

Ин натиҷа нишон медиҳад, ки система зиддиятҳои меъёриро дар маҷмӯаи додаҳои синтетикӣ дуруст ҳал кардааст ва ҳангоми банақшагирӣ ба ин қоидаҳо риоя намудааст.

Аммо ин бозёфт бояд бо эҳтиёт хонда шавад. Таҷриба танҳо дар як майдони муайяни вазифа гузаронида шудааст: мубодилаи маълумоти афзалият. Илова бар ин, маҷмӯаи додаҳо синтетикӣ аст. Гуфтугӯҳои ҷаҳони воқеӣ метавонанд хеле мураккабтар бошанд; одамон метавонанд ҷумлаҳои ғайримустақим, нопурра ё зиддиятнок истифода баранд.

Аз ин рӯ, натиҷа маънои “AI ҳар меъёри инсонро ҳал мекунад”-ро надорад. Тафсири дурусттар чунин аст:

Дар як майдони муайян ва назоратшудаи мубодилаи маълумот, равиши таҳлили мантиқии меъёр натиҷаи умедбахш додааст.

Таҳқиқот чӣ мегӯяд?

Паёми асосии кор чунин аст:

Агентҳои AI набояд қоидаҳои тағйирёбандаи инсонро танҳо дар хотира сабт кунанд; онҳо бояд ин қоидаҳоро ҳангоми банақшагирӣ ҳамчун релсҳои амниятие истифода баранд, ки рафторашонро маҳдуд мекунанд.

Муҳаққиқон нишон медиҳанд, ки меъёрҳоро метавон аз забони табиӣ ба сохторҳои мантиқӣ табдил дод, меъёрҳои зиддиятнокро бо қоидаҳои муайян ҳал кард ва ин натиҷаҳоро ба шарти пешакии нақшаҳои AI табдил дод.

Ин равиш махсусан аз нигоҳи махфият муҳим аст. Зеро агар агенти AI як маълумотро донад, ин маънои онро надорад, ки ҳаққи мубодилаи онро дорад. Мубодила бояд ба иҷозати кунунии шахси дахлдор ва замина вобаста бошад.

Ин барои чӣ муҳим аст?

Имрӯз ассистентҳои AI ҳарчи бештар бо маълумоти шахсӣ кор мекунанд. Тақвимҳо, почтаҳои электронӣ, қайдҳои саломатӣ, одатҳо, афзалиятҳо, маконҳо ва гуфтугӯҳои хусусӣ метавонанд ба доираи таъсири системаҳои AI ворид шаванд.

Дар ин ҳолат саволи асосии амният чунин аст:

AI як маълумотро кай бояд бигӯяд ва кай бояд хомӯш монад?

Дар системаҳои классикии амният, иҷозатҳо одатан ҳамчун қоидаҳои собит навишта мешаванд. Аммо дар муносибатҳои инсонӣ иҷозатҳо динамикӣ мебошанд. Як шахс метавонад баъзе маълумотро бо узви оила мубодила кунад, аммо бо ҳамкор мубодила накунад. Иҷозате, ки имрӯз додааст, фардо метавонад пас гирад. Ба як манъи умумӣ истиснои махсус илова карда метавонад.

Ин таҳқиқот нишон медиҳад, ки системаҳои AI бояд ин тағйирпазириро бо сохтори мантиқии равшантар пайгирӣ кунанд.

Ҳамчунин он ишора мекунад, ки моделҳои бузурги забон танҳо кофӣ набуда метавонанд. LLMҳо метавонанд равон суҳбат кунанд; аммо дар зиддиятҳои ҳассоси меъёрӣ заминаи мантиқии боэътимод ва пайгиришаванда лозим аст.

Нуқтаҳои эҳтиётӣ

Ин таҳқиқот ҳарчанд як идеяи муҳим пешниҳод мекунад, маҳдуд аст.

Аввалан, кор preprint аст. Бозёфтҳо бояд бо арзёбии васеи академӣ дастгирӣ шаванд.

Дуюм, таҷриба танҳо бар мубодилаи маълумот ва дархостҳои афзалият анҷом шудааст. Дар соҳаҳои мураккабтар, мисли саломатӣ, молия, ҳуқуқ ё мубодилаи маълумоти шахсии воқеӣ, санҷишҳои иловагӣ лозиманд.

Сеюм, маҷмӯаи додаҳо синтетикӣ аст. Корбарони воқеӣ метавонанд изҳоротҳои норавшантар, нопурра ё ғайричашмдошт истифода баранд.

Чорум, система бар асоси меъёрҳои як шахс банақшагирӣ мекунад. Агар меъёрҳои чанд нафар бо ҳам зид шаванд, тарзи қароргирӣ дар ин кор ҳал нашудааст.

Панҷум, барои он ки система зиддияти меъёриро ҳал карда тавонад, бояд дониши заминавии кофӣ дошта бошад. Масалан, бояд робитаҳои байни мафҳумҳои “ҳамсар”, “фарзанд”, “сабти тиббӣ” ва “дорухат”-ро фаҳмад.

Дар ниҳоят, ин таҳқиқот роҳи ҳалли ҳамаҷониба барои амнияти AI нест; он пешниҳоди як меъмории муайяни банақшагирии ҳидоятшуда бо меъёр аст.

Хулоса

Ин таҳқиқот як нуқтаи муҳимро барои ҳамкории бехатартари агентҳои зеҳни сунъӣ бо инсон таъкид мекунад: AI на танҳо бояд ба маълумот дастрасӣ дошта бошад, балки бояд бипурсад, ки оё ҳаққи мубодилаи он маълумотро дорад ё не.

Равише, ки муҳаққиқон пешниҳод мекунанд, қоидаҳои махфиятро, ки бо забони табиӣ омӯзонда мешаванд, ба меъёрҳои мантиқӣ табдил медиҳад. Қоидаҳои зиддиятнок ҳал мешаванд ва эътиқодҳои меъёрии кунунӣ ҳамчун шарти амниятии нақшаҳои AI истифода мегарданд.

Таҷрибаҳои SocialBot нишон медиҳанд, ки ин усул метавонад дар муҳити назоратшуда ва синтетикии мубодилаи маълумот муваффақона кор кунад. Аммо барои ҷаҳони воқеӣ санҷишҳои васеътар, мураккабтар ва ҳассостар лозиманд.

Бо вуҷуди ин, таҳқиқот барои ассистентҳои AI-и оянда як принсипи қавӣ пешниҳод мекунад:

Ассистенти хуби AI на танҳо бояд бидонад, ки чӣ медонад; ҳамчунин бояд бидонад, ки донистаашро кай набояд бигӯяд.

Эзоҳи манбаъ ва усул

Ин мундариҷа бо истифода аз кори академии Taylor Olson, Roberto Salas-Damian ва Kenneth D. Forbus бо номи “Reasoning and Planning with Dynamically Changing Norms” дар формати таҳририи Verianla ба таври мустақил омода шудааст.

Кор дар arXiv ҳамчун preprint нашр шудааст. Мундариҷа ҳадафи иттилоотӣ ва омӯзишӣ дорад. Он ҷойгузини машварати касбӣ дар амнияти зеҳни сунъӣ, идоракунии маълумоти шахсӣ, ҳуқуқ, сиёсати махфият ё ахлоқи касбӣ нест.