Моделҳои бузурги забонӣ ба баъзе саволҳо хеле осон ҷавоб медиҳанд. Масалан, дар мавзӯъҳое чун «Фотосинтез чист?», «Теоремаи Пифагор чиро мегӯяд?» ё «Ҷозиба чӣ гуна кор мекунад?» ҷавобҳо одатан устувор, шарҳдиҳанда ва мувофиқанд. Аммо дар саволҳое чун «Шуур чист?», «Оё иродаи озод воқеан вуҷуд дорад?», «Оё ҳукми қатл ахлоқӣ аст?» ё «Оё зеҳни сунъӣ худшиносӣ дорад?» модел метавонад эҳтиёткорона, мутавозин, номуайян ё баъзан аз ҳад зиёд қатъӣ ҷавоб диҳад.

Ин таҳқиқот бар он аст, ки ин фарқ танҳо аз меъмории модел, тарзи навиштани prompt ё ҳаҷми додаҳои омӯзишӣ сарчашма намегирад. Даъвои асосӣ чунин аст: номуайянии модел бо сохтори ҳамрайъӣ дар дониши инсонӣ оид ба мавзӯи пурсидашуда сахт алоқаманд аст. Агар инсоният дар як масъала ҳамрайъии қавӣ ва яксамта ба вуҷуд оварда бошад, самти дохилии ҷавоби модел осонтар ба ҳам наздик мешавад. Агар инсоният дар ҳамон масъала ду дидгоҳи қавӣ, вале мухолиф ҷамъ карда бошад, коркарди дохилии модел ба ҳолати ихтилофӣ медарояд. Агар дар бораи мавзӯъ ҳанӯз принсипи боэътимоди шарҳдиҳанда ташаккул наёфта бошад, самте, ки модел метавонад ба он такя кунад, боз ҳам заифтар мешавад.

Таҳқиқот ин вазъро бо мафҳуми “Convergence Point” шарҳ медиҳад. Convergence Point нишон медиҳад, ки дониши инсонӣ дар бораи як мавзӯъ то чӣ андоза зич ва ба кадом самт ҳамрайъ шудааст. Ба тоҷикӣ ин мафҳумро метавон «нуқтаи ҳамгароӣ» ё «нуқтаи зичии ҳамрайъӣ» маънидод кард. Тибқи ин назария, ҷавоби зеҳни сунъӣ на танҳо ба тарзи баён шудани савол, балки ба дараҷаи ташаккули самти муштарак дар дониши инсонӣ низ вобаста аст.

Мушкил чист?

Яке аз масъалаҳои бештар баҳсшаванда дар бораи моделҳои бузурги забонӣ номуайянист. Баъзан модел ҷавоби дуруст медиҳад, вале бе зарурат аз ҳад эҳтиёткор аст. Баъзан дар мавзӯе, ки намедонад, аз ҳад қатъӣ сухан мегӯяд. Баъзан ҳам дар як масъала бо prompt-ҳои гуногун ба самтҳои дигар меравад. Ин ҳолат одатан зери унвонҳои hallucination, хатои calibration, ихтилофи дониш, ҳассосият ба prompt ё мушкили alignment баррасӣ мешавад.

Нуқтаи оғозии таҳқиқот ин аст, ки ин мушкилҳо шояд аз ҳам комилан мустақил набошанд. Устувор будани модел дар баъзе мавзӯъҳо ва дудила будани он дар мавзӯъҳои дигар метавонад ба як сабаби сохтории умумӣ такя кунад. Муаллиф ин сабаби умумиро на дар дохили модел, балки дар худи мавзӯъ ҷустуҷӯ мекунад.

Масалан, дар саволи «формулаи кимиёвии об чист?» самти дониши инсонӣ қариб яксон аст. Матнҳои додаҳои омӯзишӣ ба ҳамон ҷавоб наздик мешаванд. Барои модел самти ҷавоб хеле равшан аст. Аммо дар саволи «оё ҳукми қатл дуруст аст?» инсоният ба як самт муттаҳид нашудааст. Аз як тараф далелҳои боздорандагӣ, адолат ва ҳуқуқи ҷабрдидагон; аз тарафи дигар далелҳои ҳуқуқи инсон, маҳкумияти нодуруст ва маҳдудияти қудрати давлат мавҷуданд. Додаҳо кам нестанд; баръакс, дар ҳар ду самт зиёданд. Аз ин рӯ номуайянии модел метавонад на аз набудани дода, балки аз ихтилофи додаҳо ба вуҷуд ояд.

Ҳолати сеюм мавзӯъҳое чун «моҳияти шуур чист?» мебошанд. Дар ин ҷо масъала бархӯрди ду мактаби устувор бо додаҳои қавӣ нест; масъала он аст, ки инсоният ҳанӯз принсипи бунёдии шарҳдиҳандаро ба вуҷуд наовардааст. Дар чунин мавзӯъҳо додаҳо пора-пораанд, меъёри қатъӣ вуҷуд надорад ва самти муштараке, ки модел бо эътимод ба он такя кунад, ташаккул наёфтааст.

Аз ин рӯ таҳқиқот чунин саволи асосиро мегузорад: Оё номуайянии ҷавоби зеҳни сунъиро бо зичии ҳамрайъӣ дар дониши инсонӣ оид ба мавзӯъ шарҳ додан мумкин аст?

Усул чӣ пешниҳод мекунад?

Таҳқиқот чаҳорчӯбаи се минтақаиро бо номи Convergence Point Theory пешниҳод мекунад. Минтақаи аввал Full Consensus Zone, яъне минтақаи ҳамрайъии комил аст. Ба ин минтақа мавзӯъҳое чун теоремаҳои математикӣ, қонунҳои физика, далелҳои кимиёвӣ, механизмҳои биологӣ ва воқеаҳои таърихан устуворшуда дохил мешаванд. Дар ин мавзӯъҳо дониш асосан ба як самт ҳамгаро мешавад.

Минтақаи дуюм Partial Consensus Zone, яъне минтақаи ҳамрайъии қисман аст. Дар ин ҷо инсоният комилан бехабар нест. Баръакс, дар ду ё чанд самт далелҳо ва захираи додаҳои қавӣ вуҷуд доранд. Ҳукми қатл, эвтаназия, исқоти ҳамл, сиёсати муҳоҷират, ҳадди ақали музди меҳнат, иродаи озод, ҳукми ахлоқӣ ва баъзе масъалаҳои сиёсӣ/ахлоқӣ ба ин минтақа дохил мешаванд. Дар ин минтақа номуайянӣ на аз камии дода, балки аз бархӯрди самтҳои додаҳо ба вуҷуд меояд.

Минтақаи сеюм Non-Consensus Zone, яъне минтақаи бе ҳамрайъӣ аст. Дар ин ҷо инсоният ҳанӯз принсипи асосии шарҳдиҳанда надорад. Мавзӯъҳое чун моҳияти шуур, сохтори дохилии сӯрохиҳои сиёҳ, мавҷудияти Худо, ҳадафи ниҳоии коинот, моҳияти вақт, моддаи торик ва пайдоиши ҳаёт мисоли ин синфанд. Дар ин минтақа номуайянӣ бештар аз набудани додаҳои кофӣ ва ҳамрайъи самтдор сар мезанад.

Тарҳи таҷриба ду хатти асосии андозагириро истифода мебарад. Якум external measurement, яъне андозагирии берунӣ аст. Дар ин усул забони эҳтиёткорӣ ва забони қатъият дар ҷавоби модел ҳисоб карда мешавад. Ифодаҳои “May”, “might”, “unclear”, “debated”, “no consensus” нишондиҳандаи номуайянӣ; ифодаҳои “proven”, “established”, “scientists agree”, “therefore” нишондиҳандаи қатъият ҳисоб мешаванд.

Дуюм internal measurement, яъне андозагирии дохилӣ аст. Дар ин усул тақсимоти logit, ки модел ҳангоми тавлиди ҷавоб истифода мебарад, таҳлил мешавад. Тақсимоти logit нишон медиҳад, ки модел барои token-и навбатӣ ба кадом номзадҳо чӣ қадар эҳтимол медиҳад. Агар тақсимот ба як номзади қавӣ мутамарказ бошад, модел устувортар ҳисоб мешавад. Агар чанд номзад эҳтимолҳои ба ҳам наздик дошта бошанд, номуайянии дохилии модел меафзояд.

Таҳқиқот инчунин бо додаҳои Wikipedia санҷиши мустақил анҷом медиҳад. Барои ҳар мавзӯъ нишондиҳандаҳои берунӣ ба монанди dispute_density ва has_debate_section ҳисоб карда мешаванд. Ин нишондиҳандаҳо кӯшиш мекунанд, ки то чӣ андоза баҳснок будани мавзӯъ дар экосистемаи дониши инсонӣ, новобаста аз модел, чен карда шавад. Сипас робитаи ин нишондиҳандаҳо бо номуайянии модел таҳлил мешавад.

Формулаҳо чиро шарҳ медиҳанд?

Яке аз мафҳумҳои асосии дар таҳқиқот истифодашуда арзиши uncertainty_ratio аст. Ин арзиш ҳиссаи забони эҳтиёткориро дар ҷавоби модел чен мекунад. Ба таври сода, ҳар қадар ҷавоб бештар ифодаҳои навъи «шояд», «баҳснок», «қатъӣ нест», «номаълум» дошта бошад, таносуби номуайянӣ ҳамон қадар боло меравад.

Дар ин ҷо hedging language ифодаҳое мебошанд, ки модел бо онҳо аз қатъият канора мегирад; certainty language бошад ифодаҳои дорои қатъияти қавиро ифода мекунад. Ҳар қадар арзиш ба 0 наздик шавад, ҷавоб қатъитар; ҳар қадар ба 1 наздик шавад, номуайянтар ҳисоб мешавад.

Яке аз арзишҳои асосӣ дар андозагирии дохилӣ Shannon Entropy аст. Entropy чен мекунад, ки тақсимоти эҳтимолии модел ҳангоми интихоби token-и навбатӣ то чӣ андоза пароканда аст.

Дар ин ҷо \(p_i\) эҳтимолеро нишон медиҳад, ки модел ба номзади token-и \(i\)-ум медиҳад. Агар эҳтимол ба як номзад мутамарказ бошад, entropy паст мешавад. Агар эҳтимолҳо миёни бисёр номзадон паҳн шаванд, entropy боло меравад. Аз ин рӯ entropy-и баланд метавонад ба номуайянии бештари раванди дохилии модел ишора кунад.

Таҳқиқот барои Convergence Point Index, яъне CPI, равиши аввалияеро истифода мебарад, ки ду нишондиҳандаи берунаи бар Wikipedia асосёфтаро якҷо мекунад.

Дар ин нишондиҳанда dispute_density зичии баҳсро дар матни вобаста ба мавзӯъ; has_debate_section бошад мавҷуд будан ё набудани бахши ошкори debate-ро ифода мекунад. Дар таҳқиқот гузориш мешавад, ки ин арзиши CPI бо номуайянии ҷавоби зеҳни сунъӣ ҳамбастагии маънодор нишон додааст.

Дар таҳлили ихтилофи сатҳи token эҳтимолҳои top-1 ва top-2 муқоиса мешаванд. Агар номзади якум ва дуюм ба ҳам хеле наздик бошанд, интихоби калимаи навбатии модел ихтилофноктар ҳисоб мешавад.

Ин сохтор махсусан барои санҷидани он истифода мешавад, ки оё модел дар минтақаҳои ҳамрайъии қисман байни ду самти қавӣ дармондааст ё не.

Муносибати асосии назариявии таҳқиқотро метавон ба таври сода чунин ҷамъбаст кард:

Ин ду ифода ҷамъбастҳои таҳририянд, ки мантиқи андозагирии таҳқиқотро сода мекунанд. Идеяи асосӣ ин аст, ки номуайянии модел метавонад на танҳо бо худи модел, балки бо сохтори ҳамрайъӣ дар дониши инсонӣ оид ба мавзӯъ низ алоқаманд бошад.

Паёми асосии график, ҷадвал ва схема

Паёми асосии ҷадвалҳои натиҷа ин аст, ки дар минтақаҳои ҳамрайъии комил номуайянии модел ба таври равшан паст аст. Дар натиҷаҳои External measurement барои Full Consensus Zone миёнаи умумии uncertainty_ratio 0.280 гузориш мешавад. Дар муқоиса, Partial Consensus Zone 0.734 ва Non-Consensus Zone 0.702 мебошанд. Ин фарқ дар забони рӯйирости модел равшан дида мешавад: дар мавзӯъҳои ҳамрайъии комил забони эҳтиёткорӣ камтар, дар мавзӯъҳои баҳснок ё бе принсипи устувор забони номуайянӣ бештар аст.

Натиҷаҳои андозагирии дохилӣ низ ҳамин самтро дастгирӣ мекунанд. Entropy-и миёна барои Full Consensus Zone 0.333; барои Partial Consensus Zone 0.471; барои Non-Consensus Zone 0.443 дода мешавад. Яъне тақсимоти дохилии эҳтимоли token дар мавзӯъҳои ҳамрайъии комил ҳам ҷамътар аст, дар ду минтақаи дигар бошад парокандатар. Ин муҳим аст, зеро на танҳо матни ҷавоб, балки тақсимоти эҳтимол дар ҷараёни тавлиди модел низ намунаи монанд нишон медиҳад.

Таҳлили ихтилофи сатҳи token яке аз натиҷаҳои фарқкунандаи таҳқиқотро дастгирӣ мекунад. Дар Partial Consensus Zone ҳиссаи conflict-type бо фоиз 64.7 баландтарин аст. Дар Full Consensus Zone ҳиссаи dominant-type бо фоиз 50.0 пеш меояд. Ин ҷадвал нишон медиҳад, ки дар мавзӯъҳои ҳамрайъии комил модел барои token-и навбатӣ бештар ба як самти ҳукмрон меравад; дар мавзӯъҳои ҳамрайъии қисман бошад номзадҳои token-и якум ва дуюм бештар бо ҳам рақобат мекунанд.

Санҷиши Wikipedia нишон медиҳад, ки сохтори баҳс дар экосистемаи дониши инсонӣ метавонад бо номуайянии модел алоқаманд бошад. Дар мавзӯъҳои Full Consensus median dispute_density 0.000 аст ва ҳиссаи debate section 0 мебошад. Дар мавзӯъҳои Partial Consensus ҳиссаи debate section фоиз 62.1; дар мавзӯъҳои Non-Consensus бошад фоиз 36.7 гузориш мешавад. Байни CPI ва номуайянии зеҳни сунъӣ Spearman correlation бо r = 0.676 ва p < 0.001 дода шудааст. Ин нишон медиҳад, ки нишондиҳандаҳои берунии баҳс метавонанд номуайянии моделро ба таври маънодор пешгӯӣ кунанд.

Дар таҳлили embedding space се категория дар ҳар ду модел минтақаҳои гуногун ташкил медиҳанд. Ин нишон медиҳад, ки фарқи Convergence Point метавонад на танҳо дар матни ҷавоб, балки дар фазои намояндагии дохилии модел низ из гузорад. Аммо ин натиҷаҳо ба санҷиши иловагӣ ниёз доранд; махсусан фарқияти меъмории модел ва миқёси embedding ҳангоми шарҳ бояд бо эҳтиёт баррасӣ шавад.

Дар таҳлили attention entropy дар ҳар ду модел пасттарин attention entropy дар Full Consensus Zone дида мешавад. Ин нишон медиҳад, ки дар мавзӯъҳои ҳамрайъии комил диққати модел метавонад интихобитар мутамарказ шавад; дар минтақаҳои ҳамрайъии пасттар бошад диққат парокандатар гардад.

Таҳлили MLP causal intervention ишораи механистии бештар пешниҳод мекунад. Вақте ки баромадҳои MLP аз минтақаҳои Full Consensus ва Partial Consensus ба ифодаҳои Non-Consensus интиқол дода мешаванд, дар ҳар ду модел entropy ба самти коҳиш тағйир меёбад. Ин натиҷа на ҳамчун далели қатъии сабабият, балки ҳамчун далели ибтидоӣ хонда мешавад, ки иттилои Convergence Point метавонад дар қабатҳои коркарди дохилии модел намояндагӣ шавад.

Ҷадвалҳои бахши AI safety ба он равонаанд, ки зеҳни сунъӣ ба мавзӯъҳои бе ҳамрайъӣ чун «self» ва «consciousness» чӣ гуна ҷавоб медиҳад. Аксари моделҳои кушодаи омӯзонидашуда дар ин масъала ҳамгароии яксамта ба самти “definitely absent” ё “absent-biased” нишон додаанд. Дар муқоиса, дар base model-ҳои омӯзониданашуда ҷавобҳо парокандатар мебошанд. Ин фарқ эҳтимолеро ба миён меорад, ки равандҳои alignment ва омӯзиш дар мавзӯъҳои бе ҳамрайъӣ моделро ба як самти ҷавоб тела медиҳанд.

Таҷрибаҳо чӣ гуна гузаронида шуданд?

Дар таҳқиқот панҷ модели забонии кушода истифода шуданд: Mistral-7B-Instruct, Llama-3.1-8B-Instruct, DeepSeek-R1-Distill-Qwen-7B, Gemma-2-9b-it ва Qwen3-8B. Моделҳо дар муҳити маҳаллӣ иҷро шуданд ва аз сабаби доштани меъморӣ/таърихи омӯзиши гуногун интихоб гардиданд.

Мавзӯъҳо ба се категория ҷудо шуданд: Full Consensus, Partial Consensus ва Non-Consensus. Ҳар категория аз 30 ифода иборат аст. Ҳамин тавр, дар як нусхаи таҷриба ҳамагӣ 90 ифода истифода мешавад. Чор шакли гуногуни ифода тарҳрезӣ шудааст: саволи бетарафи шарҳдиҳанда, саволи иктишофии махсуси категория, саволи дорои фишори ҷавоби қатъӣ ва сохторе, ки ҳамон мавзӯъро бо се формати гуногун муқоиса мекунад.

Миқёси умумии андозагирӣ чунин аст: 90 ифода, 4 нусха ва 5 модел истифода шудаанд. Барои External measurement 1.800 нуқтаи дода; барои internal measurement 1.800 нуқтаи дода ба даст омадааст. Ҳамин тавр, таҳлил дар маҷмӯъ бар 3.600 андозагирӣ анҷом шудааст.

External measurement бо шуморидани забони номуайянӣ ва забони қатъият дар ҷавоби модел uncertainty_ratio тавлид мекунад. Internal measurement бошад тақсимоти logit-и моделро бевосита таҳлил карда, арзишҳое чун avg_entropy ва avg_top_logprob ҳисоб мекунад. Ҳамин тавр, на танҳо он чи модел мегӯяд, балки чӣ гуна token интихоб мекунад, низ чен карда мешавад.

Илова бар ин, token-level conflict structure analysis анҷом дода шудааст. Дар ин таҳлил наздикии эҳтимолҳои top-1 ва top-2 token санҷида мешавад. Агар ҳангоми интихоби token-и навбатӣ номзади дуюм зуд-зуд ба номзади якум наздик шавад, ин ҳолат ҳамчун нишондиҳандаи рақобат ё ихтилофи дохилӣ шарҳ дода мешавад.

Дар санҷиши Wikipedia мақолаҳои мувофиқ ба ҳар мавзӯъ таҳлил шуда; нишондиҳандаҳое чун dispute_density, has_debate_section, шумораи истинодҳо ва дарозии муҳтаво ҳисоб шудаанд. Ин қадам ҳадаф дорад санҷад, ки Convergence Point танҳо идеяи аз ҷавобҳои модел гирифташуда нест, балки метавонад бо нишонаҳои беруна дар экосистемаи дониши инсонӣ низ алоқаманд бошад.

Дар таҳлилҳои механизм embedding space, attention entropy, MLP causal intervention, Logit Lens ва Probing Classifier истифода шудаанд. Ин таҳлилҳои иловагӣ ҳадаф доранд бифаҳманд, ки категорияҳои Convergence Point дар намояндагии дохилии модел ҷудо мешаванд ё не. Қобилияти ҷудо кардани се категория бо дақиқии баланд аз Layer 10–11 дар таҳлили Probing Classifier яке аз натиҷаҳои қавӣ, вале ҳанӯз ниёзманд ба тасдиқи иловагии таҳқиқот аст.

Натиҷаҳо чиро нишон медиҳанд?

Натиҷаи аввал ин аст, ки дар мавзӯъҳои ҳамрайъии комил ҷавобҳои зеҳни сунъӣ ба таври равшан камтар номуайянанд. Ҳам забони эҳтиёткорӣ дар матни ҷавоб ва ҳам ченакҳои дохилии logit entropy ҳамин самтро нишон додаанд.

Натиҷаи дуюм ин аст, ки минтақаҳои ҳамрайъии қисман навъи махсуси номуайянӣ доранд. Дар ин минтақаҳо масъала аксаран набудани дода нест. Дар ҳар ду самт далел ва додаҳои қавӣ мавҷуданд. Модел метавонад байни ин ду самт дар сатҳи token рақобати бештар эҳсос кунад. Аз ин рӯ минтақаҳои ҳамрайъии қисманро бо шарҳи классикии «намедонем, зеро дода нест» пурра фаҳмидан мумкин нест.

Натиҷаи сеюм ин аст, ки дар баъзе ҳолатҳо номуайянии Partial Consensus Zone метавонад аз номуайянии Non-Consensus Zone баландтар барояд. Ин яке аз даъвоҳои ҷолибтарини таҳқиқот аст. Зеро ихтилофи дода метавонад аз набудани дода парокандагии дохилии бештар ба вуҷуд орад.

Натиҷаи чорум ин аст, ки ҳатто ҳангоми тағйир ёфтани шакли ифода намунаи асосӣ то ҳадди зиёд нигоҳ дошта мешавад. Ҳатто вақте саволи бетараф, саволи таҳқиқкунандаи номуайянӣ ё саволи дорои фишори ҷавоби қатъӣ истифода мешавад, ҷудошавии мавзӯъҳои Full Consensus аз ду минтақаи дигар идома меёбад.

Натиҷаи панҷум ин аст, ки манбаи иттилои берун аз модел чун Wikipedia низ назарияро қисман дастгирӣ мекунад. Дар мавзӯъҳои Full Consensus нишондиҳандаҳои баҳс хеле пастанд. Дар мавзӯъҳои Partial ва Non-Consensus нишондиҳандаҳои баҳс баланд мешаванд. Аммо танҳо dispute_density барои фарқ кардани Non-Consensus кофӣ нест; зеро бе ҳамрайъӣ ҳамеша маънои баҳси шадидро надорад, баъзан маънои набудани принсипи асосии шарҳдиҳандаро дорад.

Натиҷаи шашум ин аст, ки ин фарқҳо метавонанд дар намояндагии дохилии модел пайгирӣ шаванд. Таҳлилҳои Embedding, attention entropy, MLP intervention, Logit Lens ва Probing Classifier нишон медиҳанд, ки категорияҳои Convergence Point метавонанд на танҳо дар забони берунии ҷавоб, балки дар қабатҳои дохилии модел низ аз ҳам ҷудо шаванд.

Чаро ин муҳим аст?

Ин таҳқиқот ба баҳси номуайянии зеҳни сунъӣ аз диди дигар назар мекунад. Одатан хатогиҳои модел бо меъмории модел, сифати додаҳои омӯзишӣ, тарҳи prompt ё усули alignment шарҳ дода мешаванд. Ин таҳқиқот як қадам қафо рафта чунин мепурсад: Шояд баъзе мавзӯъҳо аз сабаби сохтори худи дониши инсонӣ барои зеҳни сунъӣ душвортар ҳамгаро мешаванд.

Ин нигоҳ махсусан барои баҳси hallucination муҳим аст. Агар мавзӯъ дар Full Consensus Zone бошад, самти ҷавоби модел дар додаҳои омӯзишӣ бо қувва дастгирӣ мешавад. Агар мавзӯъ дар Non-Consensus Zone бошад, принсипи муштараке, ки модел ба он барои ҷавоби боэътимод такя кунад, заиф аст. Дар ин ҳолат қатъӣ сухан гуфтани модел метавонад на нишонаи эътимоднокӣ, балки хатари ҳамгароии нодуруст бошад.

Partial Consensus Zone мушкили алоҳида пеш меорад. Дар соҳаҳое чун ҳуқуқ, ахлоқ, сиёсат, арзишҳои иҷтимоӣ ва баъзе баҳсҳои иқтисодӣ инсоният ба як ҳақиқати ягона муттаҳид нашудааст. Маҷбур кардани зеҳни сунъӣ ба тавлиди «як ҷавоби дуруст» дар чунин мавзӯъҳо метавонад сохтори ихтилофноки дониши инсонро пинҳон кунад. Равиши дурусттар метавонад пешниҳоди мутавозини далелҳои мухолиф бошад.

Аз нуқтаи назари AI safety таҳқиқот махсусан ҷолиб аст. Агар усулҳои alignment дар мавзӯъҳои бе ҳамрайъӣ ё ҳамрайъии қисман моделро ба як самти ҷавоб тела диҳанд, модел дар рӯйи кор метавонад бехатар ва устувор намояд. Аммо сохтори намояндагии дохилӣ ҳанӯз пароканда ё ихтилофнок буда метавонад. Ин ҳолат метавонад дар контекстҳои гуногун номувофиқӣ, қатъияти аз ҳад зиёд ё мушкили эътимоднокӣ ба вуҷуд орад.

Агар ин назария дар самти дуруст рушд кунад, мумкин аст барои системаҳои зеҳни сунъӣ харитаи эътимоднокии мавзӯӣ таҳия шавад. Ҷавоби мустақимтар дар мавзӯъҳои ҳамрайъии комил, дурнамои мутавозин дар мавзӯъҳои ҳамрайъии қисман ва изҳори ошкори маҳдудият дар мавзӯъҳои бе ҳамрайъӣ метавонад ба принсипи боэътимодтари тарҳ табдил ёбад.

Нуктаҳои эҳтиётӣ

Нуктаи аввал ин аст, ки таҳқиқот preprint мебошад. Азбаски аз баррасии ҳамтоён нагузаштааст, назария, усул ва натиҷаҳо метавонанд баъдтар тағйир ёбанд. Аз ин рӯ Convergence Point Theory бояд на ҳамчун стандарти илмии ниҳоӣ, балки ҳамчун пешниҳоди нави шарҳдиҳандае хонда шавад, ки барои баҳс пешниҳод шудааст.

Нуктаи дуюм миқёси модел аст. Таҷрибаҳои асосӣ бо моделҳои кушодаи 7B–9B анҷом шудаанд. Дар моделҳои бузургтари пӯшида, маҷмуаҳои дигари омӯзишӣ ва стратегияҳои гуногуни alignment то чӣ андоза нигоҳ доштани ҳамин намуна бояд алоҳида санҷида шавад.

Нуктаи сеюм маҳдудияти забон аст. Таҳқиқот бо ифодаҳои англисӣ анҷом шудааст. Аммо зичии ҳамрайъӣ барои ҳамон мавзӯъ метавонад дар ҷомеаҳои забонӣ ва контекстҳои фарҳангӣ фарқ кунад. Масалан, мавзӯе, ки дар як ҷомеа аз ҷиҳати ахлоқӣ, сиёсӣ ё таърихӣ сахт баҳснок аст, метавонад дар ҷомеаи дигар ба таври дигар рамзгузорӣ шавад.

Нуктаи чорум ченаки CPI аст. dispute_density ва has_debate_section метавонанд нишондиҳандаҳои ибтидоии муфид бошанд; аммо барои пурра чен кардани зичии воқеии ҳамрайъӣ дар дониши инсонӣ кофӣ набошанд. Таҳияи Convergence Point Index-и устувортар яке аз вазифаҳои асосии ояндаи таҳқиқот аст.

Нуктаи панҷум ба тафсирҳои механистӣ дахл дорад. Гарчанде таҳлилҳои Embedding, attention entropy, MLP intervention, Logit Lens ва Probing Classifier натиҷаҳои ҷолиб медиҳанд, барои исбот кардани он ки иттилои Convergence Point дар модел дақиқ дар куҷо ва чӣ гуна намояндагӣ шудааст, таҷрибаҳои васеътар ва назоратшуда лозиманд.

Дар ниҳоят, гарчанде таҳқиқот барои амнияти AI ишораҳои муҳим медиҳад, онро набояд мустақиман ҳамчун стандарти тарҳи маҳсулот татбиқ кард. Хусусан дар соҳаҳои ҳуқуқӣ, тиббӣ, ахлоқӣ, динӣ, сиёсӣ ё равонӣ ҷавобҳои зеҳни сунъӣ набояд ҷойгузини арзёбии мутахассиси инсон шаванд.

Хулоса

Ин таҳқиқот барои шарҳ додани номуайянии моделҳои бузурги забонӣ идеяи қавӣ ва арзандаи баҳс пешниҳод мекунад: устувории ҷавоби зеҳни сунъӣ метавонад на танҳо бо қобилияти модел, балки бо зичии ҳамрайъӣ дар дониши инсонӣ оид ба мавзӯъ низ алоқаманд бошад.

Convergence Point Theory мавзӯъҳоро дар се минтақа мебинад. Дар Full Consensus Zone дониши инсонӣ ба як самт ҳамгаро мешавад ва модел ҷавоби устувортар медиҳад. Дар Partial Consensus Zone самтҳои қавӣ, вале мухолифи дода ҳамзамон вуҷуд доранд; номуайянии модел метавонад аз ихтилофи дода сар занад. Дар Non-Consensus Zone бошад азбаски принсипи асосии шарҳдиҳанда ҳанӯз ташаккул наёфтааст, самти муштараке, ки модел ба он такя кунад, заиф аст.

Таҷрибаҳо нишон медиҳанд, ки андозагирии берунии забон ва андозагирии дохилии logit ба як самт натиҷа додаанд. Дар мавзӯъҳои ҳамрайъии комил номуайянӣ паст аст. Дар мавзӯъҳои ҳамрайъии қисман ва бе ҳамрайъӣ номуайянӣ боло меравад. Хусусан даъвое, ки ихтилофи дода дар минтақаҳои ҳамрайъии қисман метавонад аз набудани дода номуайянии қавитар эҷод кунад, яке аз саҳмҳои аслии таҳқиқот аст.

Паёми асосӣ барои хонандаи Verianla чунин аст: ҳар саволе, ки мо ба зеҳни сунъӣ медиҳем, заминаи якхелаи дониш надорад. Дар баъзе мавзӯъҳо инсоният аллакай ба ҳамрайъии қавӣ расидааст; дар баъзе дигар бошад худи дониши инсонӣ ихтилофнок ё нопурра аст. Ҳангоми баҳси эътимоднокии зеҳни сунъӣ бояд на танҳо ба ҷавоби модел, балки ба дараҷаи ҳамгароии заминаи дониши инсоние, ки ҷавоб ба он такя мекунад, низ назар кард.

Ёддошт оид ба манбаъ ва усул

Ин муҳтаво бар асоси кори preprint-и Jihong Park бо унвони “Convergence Point: A Unified Explanatory Principle for Response Uncertainty in AI Language Models” таҳия шудааст. Таҳқиқот Convergence Point Theory, Full Consensus Zone, Partial Consensus Zone, Non-Consensus Zone, external measurement, internal measurement, logit entropy, token-level conflict analysis, Wikipedia independent validation, embedding space analysis, attention entropy, MLP causal intervention, Logit Lens, Probing Classifier ва баҳсҳои AI safety-ро баррасӣ мекунад.

Ин муҳтаво тарҷумаи калима ба калима нест; идеяи асосии таҳқиқот мутобиқ ба хатти нашрии Verianla содда карда шуда, ба мақолаи аслии таҳририи тоҷикӣ табдил дода шудааст.