Чоң тил моделдери (LLM) кээ бир суроолорго абдан оңой жооп берет. Мисалы, "Фотосинтез деген эмне?", "Пифагор теоремасы эмнени айтат?" же "Тартылуу күчү (гравитация) кантип иштейт?" сыяктуу темаларда жооптор көбүнчө туруктуу, түшүндүрүүчү жана ырааттуу (tutarlı) болот. Буга каршы (Buna karşılık) "Аң-сезим (Bilinç) деген эмне?", "Эркин эрк (Özgür irade) чындап эле барбы?", "Өлүм жазасы моралдык жактан туурабы?" же "Жасалма интеллекттин (AI) өзүн-өзү таануусу (benliği) барбы?" сыяктуу суроолордо модель көбүрөөк тартынчаак, тең салмактуу, белгисиз же кээде өтө эле кескин жоопторду бериши мүмкүн.

Бул изилдөө мындай айырма бир гана моделдин архитектурасынан, промпт (prompt) жазуудан же окутуу маалыматтарынын (eğitim verisinin) көлөмүнөн көз каранды эмес экенин ырастайт. Негизги идея төмөнкүдөй: Моделдин белгисиздиги (belirsizliği) берилген суроонун адам баласынын билиминдеги (insan bilgisindeki) консенсус (uzlaşma) структурасы менен тыгыз байланыштуу. Эгерде адамзат бир темада күчтүү жана бир багыттуу (tek yönlü) консенсус түзсө, моделдин ички жооп багыты (yanıt yönü) оңоюраак жакындашат (yakınsar/converge). Эгерде адамзат ошол эле темада эки күчтүү, бирок карама-каршы (karşıt) көз карашты топтосо, моделдин ички иштетүүсү (iç işlemesi) конфликттүү (çatışmalı) болуп калат. Ал эми тема боюнча али бекем түшүндүрүү принциби (açıklama ilkesi) түзүлө элек болсо, моделдин таяна турган багыты дагы да алсырайт.

Изилдөө бул жагдайды “Convergence Point” (Конвергенция чекити) концепциясы менен түшүндүрөт. Convergence Point - бул бир темадагы адамдын билими канчалык интенсивдүү (yoğun) жана кайсы багытта макулдашылганын (uzlaştığını) билдирет. Бул түшүнүктү кыргызчага "жакындашуу чекити" же "консенсус интенсивдүүлүгүнүн чекити" деп түшүнүүгө болот. Бул теорияга ылайык, жасалма интеллекттин жообу суроонун кандайча берилгенинен гана эмес, темага (konuya) адамдын билиминде канчалык жалпы багыт (ortak yön) түзүлгөнүнөн да көз каранды.

Көйгөй эмнеде?

Чоң тил моделдери жөнүндө эң көп талкууланган көйгөйлөрдүн бири - бул белгисиздик (belirsizlik). Кээде модель туура жооп берет, бирок ашыкча тартынчаактык кылат. Кээде билбеген темада өтө эле кескин сүйлөйт. Ал эми кээде бир эле темада ар кандай промпттор (сурамдар) менен ар кайсы тарапка ооп (savrulur) кетиши мүмкүн. Бул жагдай көбүнчө галлюцинация, калибрлөө катасы, маалыматтык конфликт (bilgi çatışması), промпттун сезгичтиги (prompt hassasiyeti) же тегиздөө (hizalama/alignment) маселеси катары өзүнчө аталыштар менен талкууланат.

Изилдөөнүн баштапкы чекити - бул көйгөйлөрдүн бири-биринен толугу менен көз карандысыз (bağımsız) болбошу мүмкүн экендиги. Моделдин кээ бир темаларда туруктуу (kararlı), ал эми кээ бир темаларда чечкинсиз (kararsız) болушу жалпы структуралык себепке (yapısal nedene) таянышы мүмкүн. Автор бул жалпы себепти моделдин ичинен эмес, теманын өзүнөн (konunun kendisinde) издейт.

Мисалы, "Суунун химиялык формуласы кандай?" деген суроодо адам баласынын билиминин багыты дээрлик бирдей (aynıdır). Окутуу маалыматтарындагы (Eğitim verisindeki) тексттер бир эле жоопко жакындашат (yakınsar). Модель үчүн жооптун багыты күчтүү түрдө айкын. Буга каршы "Өлүм жазасы туурабы?" деген суроодо адамзат бир багытта бириккен эмес. Бир тарапта алдын алуу (caydırıcılık), адилеттүүлүк жана жабырлануучунун (mağdur) укугу аргументтери; экинчи тарапта адам укуктары, туура эмес соттоо (yanlış mahkûmiyet) жана мамлекеттик бийликтин чеги аргументтери бар. Маалымат (veri) аз эмес; тескерисинче, эки багытта тең көп. Ошондуктан моделдин белгисиздиги маалыматтын жоктугунан эмес, маалыматтын конфликтинен (veri çatışmasından) келип чыгышы мүмкүн.

Үчүнчү абал (durum) - бул "Аң-сезимдин (Bilincin) табияты эмнеде?" сыяктуу темалар. Бул жердеги көйгөй эки орношкон лагердин (yerleşik kampın) күчтүү маалыматтар менен кагылышуусу эмес; адамзаттын али негизги түшүндүрүү принцибин (temel açıklama ilkesini) кура электигинде. Мындай темаларда маалымат чачыранды (parçalıdır), так критерий жок жана моделдин ишенимдүү таяна турган (güvenle dayanacağı) жалпы багыты түзүлгөн эмес.

Ошондуктан изилдөө төмөнкүдөй негизги суроону коёт: Жасалма интеллекттин жообун берүүдөгү белгисиздиги темадагы (konunun) адам билиминдеги консенсус интенсивдүүлүгү (uzlaşma yoğunluğu) менен түшүндүрүлүшү мүмкүнбү?

Метод эмнени сунуштайт?

Изилдөө Convergence Point Theory (Конвергенция Чекити Теориясы) деп аталган үч аймактуу (bölgeli) алкакты (çerçeve) сунуштайт. Биринчи аймак - Full Consensus Zone, башкача айтканда толук консенсус аймагы. Бул аймак математикалык теоремаларды, физика мыйзамдарын, химиялык фактыларды, биологиялык механизмдерди жана тарыхый жактан орношкон фактылар (yerleşmiş olgular) сыяктуу темаларды камтыйт. Бул темаларда маалымат негизинен бир багытты көздөй жакындашат (yakınsar).

Экинчи аймак - Partial Consensus Zone, б.а. жарым-жартылай консенсус аймагы. Бул жерде адамзат толугу менен билимсиз (bilgisiz) эмес. Тескерисинче, эки же андан көп багытта күчтүү негиздемелер (gerekçeler) жана маалымат топтолушу (veri birikimi) бар. Өлүм жазасы, эвтаназия, аборт, миграция саясаты, эң төмөнкү эмгек акы, эркин эрк (özgür irade), моралдык өкүм жана кээ бир саясий/этикалык маселелер ушул чөйрөгө (alana) кирет. Бул аймакта белгисиздик маалыматтын аздыгынан эмес, маалымат багыттарынын кагылышуусунан (veri yönlerinin çatışmasından) келип чыгат.

Үчүнчү аймак - Non-Consensus Zone, б.а. консенсуссуз (uzlaşısız) аймак. Бул жерде адамзаттын негизги түшүндүрүү принциби (temel açıklama ilkesi) али түзүлө элек. Аң-сезимдин (bilincin) табияты, кара тешиктердин ички түзүлүшү, Кудайдын бар экендиги, ааламдын акыркы максаты, убакыттын табияты, караңгы материя жана жашоонун келип чыгышы сыяктуу темалар бул класска мисал боло алат. Бул аймакта белгисиздик көбүнчө жетиштүү жана багыттуу (yönlü) консенсус маалыматынын жоктугунан (bulunmamasından) келип чыгат.

Эксперименттин дизайны (Deney tasarımı) эки негизги өлчөө линиясын (ölçüm hattı) колдонот. Биринчиси - external measurement, б.а. тышкы өлчөө. Бул методдо моделдин жообундагы тартынчаактык тили (çekingenlik dili) жана кескиндик тили (kesinlik dili) саналат. "May" (мүмкүн), "might" (ыктымал), "unclear" (түшүнүксүз), "debated" (талаштуу), "no consensus" (консенсус жок) сыяктуу сөздөр белгисиздиктин көрсөткүчү; "proven" (далилденген), "established" (орношкон), "scientists agree" (окумуштуулар макул), "therefore" (ошондуктан) сыяктуу сөздөр кескиндик көрсөткүчү катары бааланат.

Экинчиси - internal measurement, б.а. ички өлчөө. Бул методдо моделдин жооп чыгарууда колдонгон logit бөлүштүрүүсү (logit dağılımı) изилденет. Logit бөлүштүрүүсү моделдин кийинки токен үчүн кайсы талапкерлерге (adaylara) канчалык ыктымалдуулукту (olasılık) бергенин көрсөтөт. Эгерде бөлүштүрүү бир күчтүү талапкерге топтолсо (yoğunlaşıyorsa), модель туруктуураак (kararlı) деп кабыл алынат. Эгерде көптөгөн талапкерлер бири-бирине жакын ыктымалдуулукка ээ болсо, моделдин ички белгисиздиги жогорулайт.

Изилдөө ошондой эле Wikipedia маалыматтары менен көз карандысыз (bağımsız) тастыктоону жүргүзөт. Ар бир тема үчүн dispute_density (талаш-тартыштын интенсивдүүлүгү) жана has_debate_section (дебат бөлүмүнүн болушу) сыяктуу тышкы көрсөткүчтөр эсептелет. Бул көрсөткүчтөр адамдын маалымат экосистемасында теманын канчалык талаштуу экенин моделден көз карандысыз түрдө өлчөөгө аракет кылат. Андан кийин бул көрсөткүчтөр менен моделдин белгисиздигинин ортосундагы байланыш (ilişki) изилденет.

Формулалар эмнени түшүндүрөт?

Изилдөөдө колдонулган негизги концепциялардын (kavramların) бири uncertainty_ratio (белгисиздик катышы) мааниси. Бул маани моделдин жообундагы тартынчаактык тилинин (çekingenlik dili) үлүшүн (oranını) өлчөйт. Жөнөкөй сөз менен айтканда, жооп канчалык көп "балким", "талаштуу", "так эмес", "белгисиз" сыяктуу сөздөрдү камтыса, белгисиздиктин деңгээли ошончолук жогорулайт.

Бул жерде hedging language моделдин кескиндиктен качкан (kesinlikten kaçınan) сөздөрүн; certainty language болсо күчтүү кескиндикти билдирген сөздөрүн көрсөтөт. Маани 0гө жакындаганда жооп кескинирээк (kesin), 1ге жакындаганда көбүрөөк белгисиз деп кабыл алынат.

Ички өлчөө тарабында колдонулган негизги баалуулуктардын бири - Shannon Entropy (Шеннон энтропиясы). Энтропия (Entropy) моделдин кийинки токенди тандап жатканда ыктымалдуулук бөлүштүрүүсүнүн канчалык чачыранды (dağınık) экенин өлчөйт.

Бул жерде \(p_i\), моделдин \(i\). токен талапкерине (adayına) берген ыктымалдуулугун билдирет. Эгерде ыктымалдуулук бир гана талапкерге топтолсо (yoğunlaşıyorsa), энтропия төмөндөйт. Ыктымалдуулуктар көптөгөн талапкерлердин арасында таралган (dağılmışsa) болсо, энтропия жогорулайт. Бул себептен улам, жогорку энтропия моделдин ички иштетүүсүндө көбүрөөк белгисиздик бар экенин көрсөтүшү мүмкүн.

Изилдөө Convergence Point Index, б.а. CPI үчүн Wikipedia'га негизделген эки тышкы көрсөткүчтү бириктирген алгачкы ыкманы (yaklaşım) колдонот.

Бул көрсөтмөдө (gösterimde) dispute_density темага тиешелүү тексттеги талкуунун интенсивдүүлүгүн (tartışma yoğunluğunu); has_debate_section болсо темада ачык талкуу/дебат бөлүмүнүн (debate section) бар же жок экендигин билдирет. Изилдөөдө бул CPI маанисинин жасалма интеллекттин жооп берүүдөгү белгисиздиги менен маанилүү корреляцияны (korelasyon) көрсөткөндүгү билдирилет.

Токен деңгээлиндеги (Token düzeyindeki) конфликт талдоосунда top-1 жана top-2 токен ыктымалдуулуктары салыштырылат. Эгерде биринчи жана экинчи талапкер бири-бирине абдан жакын болсо, моделдин кийинки сөздү тандоосу көбүрөөк конфликттүү (çatışmalı) деп кабыл алынат.

Бул түзүм (yapı) өзгөчө жарым-жартылай консенсус (kısmi uzlaşı) аймактарында моделдин эки күчтүү багыттын ортосунда кысылып калган-калбаганын (sıkışıp sıkışmadığını) түшүнүү үчүн колдонулат.

Изилдөөнүн негизги теориялык байланышын төмөнкүдөй жөнөкөйлөтсө болот:

Бул эки туюнтма (ifade) изилдөөдөгү өлчөө логикасын жөнөкөйлөткөн редактордук корутундулар (özetlerdir). Негизги идея - моделдин белгисиздиги моделдин өзүнө гана эмес, темадагы адамзаттын билиминин консенсус түзүмүнө (uzlaşma yapısına) да байланыштуу болушу мүмкүн экендигинде.

График, Таблица жана Схеманын Негизги Билдирүүсү

Натыйжа таблицаларынын негизги билдирүүсү - толук консенсус (tam uzlaşı) тармактарында моделдин белгисиздиги байкаларлык (belirgin biçimde) түрдө төмөн экендигинде. External measurement (Тышкы өлчөө) натыйжаларында Full Consensus Zone (Толук Консенсус Аймагы) үчүн жалпы uncertainty_ratio орточосу 0.280 катары берилет. Буга каршы Partial Consensus Zone 0.734, ал эми Non-Consensus Zone 0.702 деңгээлинде. Бул айырмачылык моделдин бетинде (yüzeyde) колдонгон тилинде ачык көрүнүп турат: толук консенсус темаларында азыраак тартынчаактык (çekingenlik), талаштуу же принципсиз темаларда көбүрөөк белгисиздик тили бар.

Internal measurement (Ички өлчөө) жыйынтыктары да ушул эле багытты колдойт. Орточо энтропия (ortalama entropy) Full Consensus Zone үчүн 0.333; Partial Consensus Zone үчүн 0.471; Non-Consensus Zone үчүн 0.443 катары берилет. Башкача айтканда, моделдин ички токен ыктымалдуулук бөлүштүрүүсү (iç token olasılık dağılımı) да толук консенсус темаларында тартиптүүрөөк (daha derli toplu), ал эми башка эки аймакта чачырандыраак (daha dağınıktır). Бул маанилүү; анткени жооп текстине гана кароонун ордуна, моделдин өндүрүш процессиндеги ыктымалдуулук бөлүштүрүүсү да окшош калыпты (örüntü) көрсөтөт.

Токен деңгээлиндеги (Token düzeyindeki) конфликт талдоосу изилдөөнүн эң өзгөчө (ayırt edici) табылгаларынын бирин колдойт. Partial Consensus Zone аймагында conflict-type (конфликт түрү) көрсөткүчү 64.7 пайыз менен эң жогору. Full Consensus Zone аймагында dominant-type (үстөмдүк кылуучу түр) көрсөткүчү 50.0 пайыз менен өзгөчөлөнөт. Бул таблица толук консенсус темаларында модель кийинки токен үчүн көбүрөөк үстөмдүк кылган (baskın) багытка бараарын; ал эми жарым-жартылай консенсус темаларында биринчи жана экинчи токен талапкерлери (adayları) көбүрөөк атаандашарын (rekabet ettiğini) көрсөтөт.

Wikipedia тастыктоосу (doğrulaması), адам маалымат экосистемасындагы талкуу (tartışma) түзүмү моделдин белгисиздиги менен байланыштуу болушу мүмкүн экенин көрсөтөт. Full Consensus темаларында median dispute_density (медианалык талаш-тартыштын интенсивдүүлүгү) 0.000ди түзөт жана debate section (дебат бөлүмүнүн) көрсөткүчү 0 пайыз. Partial Consensus темаларында debate section көрсөткүчү 62.1 пайыз; Non-Consensus темаларында болсо 36.7 пайыз катары берилет. CPI менен жасалма интеллекттин белгисиздигинин ортосундагы Spearman корреляциясы (Spearman korelasyonu) r = 0.676 жана p < 0.001 катары берилет. Бул тышкы (dış kaynaklı) талкуу көрсөткүчтөрү моделдин белгисиздигин маанилүү түрдө алдын ала айта (öngörebildiğini) аларын болжолдойт.

Embedding space анализинде үч категория эки моделде тең ар кандай аймактарды (bölgeler) түзөт. Бул Convergence Point (Конвергенция Чекити) бөлүнүшү (ayrımının) жооп текстинде гана эмес, моделдин ички өкүлчүлүк мейкиндигинде да (iç temsil uzayında da) из калтырышы мүмкүн экенин көрсөтөт. Бирок бул натыйжалар кошумча тастыктоону (doğrulama) талап кылат; өзгөчө моделдин архитектурасы жана embedding масштабындагы (ölçeği) айырмачылыктар чечмелөөдө (yorumda) этияттыкты талап кылат.

Attention entropy анализинде эки моделде тең эң төмөнкү attention entropy Full Consensus Zone аймагында кездешет. Бул толук консенсус темаларында моделдин көңүлү (dikkatinin) тандалма (seçici) түрдө топтоло алаарын; ал эми төмөнкү консенсус аймактарында көңүл чачырандыраак (daha dağınık) болуп каларын болжолдойт.

MLP causal intervention анализи көбүрөөк механикалык (mekanistik) маалымат (ipucu) берет. Full Consensus жана Partial Consensus аймактарынан алынган MLP натыйжалары (çıktıları) Non-Consensus фразаларына (ifadelerine) өткөрүлгөндө, эки моделде тең энтропия төмөндөө багытында өзгөрөт. Бул натыйжа так себеп-натыйжа далили катары эмес, Convergence Point маалыматы моделдин ички иштетүү катмарларында көрсөтүлүшү (temsil edilebileceğine) мүмкүн деген баштапкы далил катары окулушу керек.

AI safety (AI коопсуздугу) бөлүмүндөгү таблицалар жасалма интеллекттин “өзүн-өзү таануу” (benlik) жана “аң-сезим” (bilinç) сыяктуу консенсуссуз (uzlaşısız) темаларга кандай жооп бергенине басым жасайт. Ачык булактуу окутулган (eğitilmiş) моделдердин көпчүлүгү бул темада “definitely absent” (сөзсүз жок) же “absent-biased” (жок-бир жактуу) багытында бир тараптуу жакындашууну (tek taraflı yakınsama) көрсөттү. Буга каршы, окутула элек базалык (base) моделдерде жооптор чачырандыраак (daha dağınıktır). Бул айырмачылык, тегиздөө (hizalama) жана окутуу процесстери консенсуссуз темаларда моделди бир гана жооп багытына түртүшү мүмкүн деген ыктымалдыкты күн тартибине коёт.

Эксперименттер кандайча жасалган?

Изилдөөдө беш ачык булактуу (açık kaynak) тил модели колдонулган: Mistral-7B-Instruct, Llama-3.1-8B-Instruct, DeepSeek-R1-Distill-Qwen-7B, Gemma-2-9b-it жана Qwen3-8B. Моделдер локалдык чөйрөдө (yerel ortamda) иштетилген жана ар кандай архитектура/окутуу тарыхына ээ болгондугу үчүн тандалган.

Темалар үч категорияга бөлүнгөн: Full Consensus, Partial Consensus жана Non-Consensus. Ар бир категория 30 фразадан (ifadeden) турат. Ошентип, эксперименттин бир версиясында (sürümünde) жалпысынан 90 фраза колдонулат. Төрт түрдүү фраза форматы иштелип чыккан (tasarlanmıştır): нейтралдуу түшүндүрүүчү суроо, категорияга тиешелүү чалгындоо суроосу (keşif sorusu), кескин жооп басымы (kesin cevap baskısı) камтылган суроо жана ошол эле теманын үч башка формат менен салыштырылган суроо структурасы.

Жалпы өлчөө масштабы төмөнкүдөй: 90 фраза, 4 версия жана 5 модель колдонулган. External measurement (Тышкы өлчөө) үчүн 1 800 маалымат чекити; internal measurement (ички өлчөө) үчүн 1 800 маалымат чекити алынган. Ошентип жалпысынан 3 600 өлчөөнүн негизинде анализ жүргүзүлгөн.

External measurement моделдин жообундагы белгисиздик тилин жана кескиндик тилин санап (sayarak), uncertainty_ratio өндүрөт. Internal measurement болсо моделдин logit бөлүштүрүүсүн түздөн-түз карап чыгуу менен avg_entropy жана avg_top_logprob сыяктуу баалуулуктарды эсептейт. Ошентип моделдин эмне айтканы гана эмес, токендерди кантип тандаганы да өлчөнөт.

Мындан тышкары, token-level conflict structure analysis (токен деңгээлиндеги конфликт структурасын талдоо) жасалган. Бул талдоодо top-1 жана top-2 токен ыктымалдуулуктарынын жакындыгы изилденет. Эгерде моделдин кийинки токен тандоосунда экинчи талапкер биринчи талапкерге көп жакындаса, бул жагдай ички атаандаштыктын (iç rekabet) же конфликттин көрсөткүчү катары чечмеленет.

Wikipedia тастыктоосунда (doğrulaması) ар бир темага тиешелүү макалалар каралып; dispute_density (талаш-тартыштын интенсивдүүлүгү), has_debate_section (дебат бөлүмүнүн болушу), шилтемелердин саны жана мазмундун узундугу сыяктуу көрсөткүчтөр эсептелген. Бул кадам, Convergence Point жөн гана модель жоопторунан келип чыккан идея эмес экенин, ал адамдын маалымат экосистемасындагы тышкы белгилер (dış işaretlerle) менен да байланыштуу болушу мүмкүн экенин сыноону максат кылат.

Механизм (Mekanizma) анализдеринде embedding space, attention entropy, MLP causal intervention, Logit Lens жана Probing Classifier методдору колдонулган. Бул кошумча анализдер Convergence Point категориялары моделдин ички өкүлчүлүгүндө (iç temsilinde) ажырап-ажырабаганын (ayrışıp ayrışmadığını) түшүнүүгө багытталган. Probing Classifier анализинде Layer 10-11ден баштап үч категориянын жогорку тактык менен ажыратылышы (ayrılabilmesi), изилдөөнүн күчтүү, бирок дагы деле кошумча тастыктоону талап кылган табылгаларынын бири болуп саналат.

Натыйжалар эмнени көрсөтүп турат?

Биринчи жыйынтык, толук консенсус темаларында (tam uzlaşı konularında) жасалма интеллекттин жоопторунун байкаларлык (belirgin biçimde) түрдө азыраак белгисиз (daha az belirsiz) экендиги. Жооп текстиндеги тартынчаактык тили (çekingenlik dili) да, ички logit энтропия өлчөөлөрү да ушул багытта натыйжа берди.

Экинчи жыйынтык, жарым-жартылай консенсус аймактарынын (kısmi uzlaşı alanlarının) өзгөчө белгисиздик түрүнө ээ экендиги. Бул аймактарда көйгөй көбүнчө маалыматтын жоктугунда эмес. Эки багытта тең күчтүү аргумент жана маалымат бар. Модель бул эки багыттын ортосунда токен деңгээлинде көбүрөөк атаандаштыкка (rekabet) туш болушу мүмкүн. Ушул себептен улам жарым-жартылай консенсус аймактары классикалык "маалымат жок болгондуктан билбейбиз" деген түшүндүрмө менен толук түшүнүлбөйт.

Үчүнчү жыйынтык, кээ бир учурларда Partial Consensus Zone белгисиздигинин Non-Consensus Zone белгисиздигинен жогору боло алышы. Бул изилдөөнүн эң көңүл бурарлык (dikkat çekici) ырастоосу (iddiası). Анткени маалымат конфликти (veri çatışması), маалыматтын жоктугунан көбүрөөк ички чачырандылыкты (iç dağılım) жаратышы мүмкүн.

Төртүнчү жыйынтык, фраза форматы (ifade biçimi) өзгөрсө дагы негизги калыптын (ana örüntünün) негизинен сакталышы (korunması). Нейтралдуу суроо, белгисиздикти изилдеген суроо же кескин жооп басымы камтылган суроо колдонулса да, Full Consensus темаларынын калган эки аймактан бөлүнүшү уланат.

Бешинчи жыйынтык, Wikipedia сыяктуу моделден тышкары (model dışı) маалымат булагынын да теорияны жарым-жартылай колдошу. Full Consensus темаларында талкуу (tartışma) көрсөткүчтөрү абдан төмөн. Partial жана Non-Consensus темаларында талкуу көрсөткүчтөрү жогорулайт. Бирок бир гана dispute_density, Non-Consensus аймагын жакшы айырмалоодо жетишсиз болуп калат; анткени консенсустун жоктугу дайыма эле кызуу талкууну билдирбейт, ал кээде негизги түшүндүрмө принцибинин жоктугун билдирет.

Алтынчы жыйынтык, моделдин ички өкүлчүлүгүндө (iç temsilinde) бул айырмачылыктардын байкалышы мүмкүн экендиги. Embedding, attention entropy, MLP intervention, Logit Lens жана Probing Classifier анализдери Convergence Point категориялары сырткы жооп тилинде гана эмес, моделдин ички катмарларында да бөлүнүшү мүмкүн экенин болжолдойт.

Бул эмне үчүн маанилүү?

Бул изилдөө жасалма интеллекттин белгисиздиги (belirsizliği) талкуусуна башкача көз караш (bakış) алып келет. Адатта модель каталары моделдин архитектурасы, окутуу маалыматтарынын сапаты, промпт дизайны же тегиздөө (hizalama) методу аркылуу түшүндүрүлөт. Бул изилдөө болсо бир кадам артка чегинип, төмөнкүдөй суроону коёт: Балким, кээ бир темалар адам билиминин (insan bilgisinin) өз түзүмүнө байланыштуу жасалма интеллект үчүн кыйыныраак жакындашат (yakınsıyordur).

Бул көз караш өзгөчө галлюцинация талкуусу жагынан маанилүү. Эгерде тема Full Consensus Zone ичинде болсо, моделдин жооп багыты окутуу маалыматтарында күчтүү түрдө колдоого алынат. Эгерде тема Non-Consensus Zone ичинде болсо, моделдин коопсуз жоопко таяна турган жалпы принциби алсыз болот. Мындай учурда моделдин кескин (kesin) сүйлөшү ишенимдүүлүк эмес, туура эмес жакындашуу коркунучун (yanlış yakınsama riski) жаратышы мүмкүн.

Partial Consensus Zone болсо өзүнчө көйгөйдү сунуштайт. Укук, этика, саясат, социалдык баалуулуктар жана кээ бир экономикалык талкуулар сыяктуу тармактарда адамзат бирдиктүү чындыкта (tek bir doğruda) бириккен эмес. Мындай темаларда жасалма интеллектти “бир гана туура жооп” (tek doğru cevap) чыгарууга мажбурлоо, чынында адам билиминин конфликттүү (çatışmalı) түзүлүшүн жашырышы мүмкүн. Туурараак ыкма (yaklaşım) карама-каршы негиздемелерди (karşıt gerekçeleri) тең салмактуу (dengeli) түрдө берүү болушу мүмкүн.

AI safety (AI коопсуздугу) жагынан изилдөө өзгөчө көңүл бурууга татыктуу. Эгерде тегиздөө (hizalama/alignment) методдору консенсуссуз же жарым-жартылай консенсус темаларында моделди бир гана жооп багытына мажбурласа, модель бетинде (yüzeyde) коопсуз жана ырааттуу көрүнүшү мүмкүн. Бирок ички өкүлчүлүк түзүмү (iç temsil yapısı) дагы деле чачыранды же конфликттүү болушу мүмкүн. Бул жагдай ар кандай контексттерде (bağlamlarda) ыраатсыздык (tutarsızlık), ашыкча кескиндик же ишенимдүүлүк көйгөйүн жаратышы мүмкүн.

Эгерде бул теория туура багытта өнүктүрүлсө, жасалма интеллект системаларында темага негизделген (konu bazlı) коопсуздук картасын түзүү мүмкүн болушу мүмкүн. Толук консенсус темаларында тикелей (doğrudan) жооп, жарым-жартылай консенсус темаларында тең салмактуу перспектива, консенсуссуз темаларда болсо ачык чек (sınır) билдирүүсү коопсуздуктун ишенимдүү дизайн принциби болуп калышы мүмкүн.

Көңүл буруу пункттары

Биринчи көңүл бура турган жагдай, изилдөөнүн preprint (алдын ала басып чыгаруу) экендигинде. Ал рецензиядан (hakem değerlendirmesi) өтпөгөндүктөн, теория, метод жана натыйжалар келечекте өзгөрүшү мүмкүн. Ошондуктан Convergence Point Theory такталган илимий стандарт катары эмес, талкууга ачылган жаңы түшүндүрүү сунушу (açıklama önerisi) катары окулушу керек.

Экинчи көңүл бура турган жагдай - моделдин масштабы (ölçeği). Негизги эксперименттер 7B–9B диапазонундагы ачык булактуу моделдер (açık kaynak modeller) менен жасалган. Чоңураак жабык булактуу (kapalı kaynak) моделдерде, ар кандай окутуу топтомдорунда жана ар кандай тегиздөө (hizalama) стратегияларында ошол эле калыптын (örüntü) канчалык деңгээлде сакталып калары өзүнчө сынала тургандай (test edilmelidir) болушу керек.

Үчүнчү көңүл бура турган жагдай - тилдин чектелгендиги. Изилдөө англис тилиндеги фразалар (ifadeler) аркылуу жүргүзүлгөн. Ал эми ошол эле теманын консенсус интенсивдүүлүгү (uzlaşma yoğunluğu) ар кандай тил коомдоштуктарында жана маданий контексттерде өзгөрүшү мүмкүн. Мисалы, этика, саясат же тарых темаларында бир коомдо катуу талкууланган (yoğun tartışmalı) тема, башка коомдо башкача коддолушу мүмкүн.

Төртүнчү көңүл бура турган жагдай - CPI өлчөө. dispute_density жана has_debate_section алгачкы (ilk) пайдалуу көрсөткүчтөр болушу мүмкүн; бирок алар адамдын билиминдеги чыныгы консенсус интенсивдүүлүгүн толук өлчөө үчүн жетишсиз калышы мүмкүн. Ишенимдүүрөөк Convergence Point Index (CPI) иштеп чыгуу - изилдөөнүн келечектеги эң маанилүү милдеттеринин бири.

Бешинчи көңүл бура турган жагдай - механикалык жоромолдор (mekanistik yorumlar). Embedding, attention entropy, MLP intervention, Logit Lens жана Probing Classifier анализдери кызыктуу табылгаларды (bulgular) сунуштаса да, Convergence Point маалыматы моделде так кантип жана кайда берилгенин (temsil edildiğini) далилдөө үчүн кененирээк жана көзөмөлдөнгөн (kontrollü) эксперименттерге муктаждык бар.

Акырында, изилдөө AI коопсуздугу үчүн маанилүү белгилерди (ipuçları) берсе да, ал түздөн-түз продукттун дизайны стандарты (ürün tasarım standardı) катары колдонулбашы керек. Өзгөчө укуктук, медициналык, этикалык, диний, саясий же психологиялык тармактарда жасалма интеллекттин жооптору адам эксперттин баалоосунун ордун баспашы (yerine geçirilmemelidir) керек.

Жыйынтык

Бул изилдөө чоң тил моделдеринин (LLM) белгисиздигин (belirsizliğini) түшүндүрүү үчүн күчтүү жана талкуулоого арзырлык идеяны сунуштайт: Жасалма интеллекттин жообунун туруктуулугу (yanıt kararlılığı) моделдин жөндөмдүүлүгүнөн (yeteneğiyle) гана эмес, ошондой эле теманын адамдын билиминдеги консенсус интенсивдүүлүгү (uzlaşma yoğunluğu) менен да байланыштуу болушу мүмкүн.

Convergence Point Theory (Конвергенция Чекити Теориясы) темаларды үч аймакта карайт. Full Consensus Zone (Толук Консенсус Аймагы) ичинде адам билими бир багытка жакындашат (yakınsar) жана модель туруктуураак жооп берет. Partial Consensus Zone (Жарым-жартылай Консенсус Аймагы) ичинде күчтүү, бирок карама-каршы (karşıt) маалымат багыттары (yönleri) бирге болот; моделдин белгисиздиги маалыматтын конфликтинен (veri çatışmasından) келип чыгышы мүмкүн. Non-Consensus Zone (Консенсуссуз Аймак) ичинде болсо негизги түшүндүрүү принциби али орнотула электиги үчүн моделдин таяна турган жалпы (ortak) багыты алсыз.

Эксперименттер көрсөткөндөй, тышкы тил өлчөөлөрү (dış dil ölçümleri) жана ички logit өлчөөлөрү бирдей багытта натыйжаларды берет. Толук консенсус темаларында белгисиздик аз (төмөн). Жарым-жартылай жана консенсуссуз темаларда белгисиздик жогорулайт. Өзгөчө жарым-жартылай консенсус тармактарында маалымат конфликти (veri çatışması) маалыматтын жоктугунан да күчтүү белгисиздикти жаратышы мүмкүн деген доомат (iddia) изилдөөнүн эң оригиналдуу салымдарынын (katkılarından) бири болуп саналат.

Verianla жагынан алганда изилдөөнүн негизги билдирүүсү төмөнкүдөй: Жасалма интеллектке берген ар бир сурообуз бирдей маалыматтык негизге (bilgi zeminine) ээ эмес. Кээ бир темаларда адамзат ансыз деле күчтүү консенсуска (uzlaşmış) келген; ал эми кээ бир темаларда адам билиминин өзү конфликттүү (çatışmalı) же толук эмес (eksiktir). Жасалма интеллекттин ишенимдүүлүгү талкууланып жатканда, моделдин жообуна гана эмес, жооп таянган адамзаттын маалыматтык негизинин (bilgi zemininin) канчалык жакындашканына (yakınsadığına) да кароо керек.

Булак жана Метод Эскертүүсү

Бул мазмун Жихонг Парк (Jihong Park) тарабынан даярдалган “Convergence Point: A Unified Explanatory Principle for Response Uncertainty in AI Language Models” аттуу preprint (алдын ала басып чыгаруу) изилдөөсүнө негизделип даярдалган. Изилдөө; Convergence Point Theory, Full Consensus Zone, Partial Consensus Zone, Non-Consensus Zone, external measurement (тышкы өлчөө), internal measurement (ички өлчөө), logit entropy, token-level conflict analysis, Wikipedia independent validation, embedding space analysis, attention entropy, MLP causal intervention, Logit Lens, Probing Classifier жана AI safety (AI коопсуздугу) талкууларын камтыйт.

Бул мазмун сөзмө-сөз котормо эмес; изилдөөнүн негизги идеясы Verianla басып чыгаруу багытына ылайык жөнөкөйлөштүрүлүп, оригиналдуу кыргызча редактордук макалага айландырылган.