Bayes statistikada maqsad — kuzatilgan ma’lumotlar asosida noma’lum parametrlar haqida posterior taqsimot olishdir. Bu posterior taqsimot ko‘pincha oddiy qo‘ng‘iroq shaklidagi bitta markazli taqsimot bo‘lmaydi. Ayniqsa real qo‘llanmalarda taqsimotning bir nechta cho‘qqiga ega bo‘lishi juda keng tarqalgan. Bunday taqsimotlarga ko‘p modali posterior deyiladi.

Ko‘p modallik shunchaki texnik tafsilot emas; u xulosa ishonchliligiga bevosita ta’sir qiladi. Agar bir MCMC zanjiri posteriorning faqat bir modulida qolib, boshqa modlarni hech qachon ziyorat qilmasa, tadqiqotchi taqsimotning hammasini ko‘rgandek bo‘lishi mumkin, lekin aslida u faqat lokal hududni namunalar. Bunday holda noaniqlik to‘liq aks etmaydi, model variantlari ko‘zdan qochadi va posterior xulosalari chalg‘ituvchi bo‘lib qoladi.

Ishning kirish qismida ko‘p modali posteriorlarga olib keluvchi bir necha muhim misollar keltiriladi. Aralash modellarda label switching, ya’ni yorliq almashishi, bir xil statistik tavsif turli parametr yorliqlari bilan qayta paydo bo‘lishiga olib keladi. Seyrek regressiyada qaysi o‘zgaruvchilar modelga kirishi kerakligi noaniq; o‘xshash izoh kuchiga ega turli o‘zgaruvchi kombinatsiyalari alohida posterior modlarni hosil qilishi mumkin. Bayescha neyron tarmoqlarda vazn simmetriyalari bir xil funksiyani ifodalovchi turli vazn tuzilmalarini yaratadi. Hiyerarxik modellarda zaif aniqlanish ham posteriorning bir necha hududda zichlashishiga olib kelishi mumkin.

Klassik MCMC ish jarayonida ko‘p ishlatiladigan usullardan biri Langevin dinamikasiga asoslangan namunalashdir. Standart overdamped Langevin diffuziyasi quyidagicha yoziladi:

\[ d\theta_t = -\nabla U(\theta_t)dt + \sqrt{2}dW_t \]

Bu yerda θ_t zanjirning t vaqtdagi holati. U(θ) maqsad taqsimotning manfiy log zichligi kabi ishlaydigan potensial funksiyadir. Maqsad taqsimot:

\[ \pi(\theta) \propto \exp(-U(\theta)) \]

ko‘rinishida bo‘ladi. ∇U(θ) zanjirni yuqori ehtimollik hududlariga yo‘naltiruvchi qiyalik ma’lumotidir. W_t Brown harakati va √2dW_t Gaussian tasodifiylikni bildiradi.

Bu tuzilma bitta modul yoki yaxshi bog‘langan taqsimotlarda samarali bo‘lishi mumkin. Ammo ikki yuqori ehtimollik moduli orasida past ehtimollikdagi energiya to‘sig‘i bo‘lsa, muammo paydo bo‘ladi. Zanjir bir moduldan boshqasiga o‘tishi uchun past zichlikli hududdan o‘tishi kerak. Gaussian qadamlar odatda kichik va o‘rta kattalikda bo‘ladi; juda katta qadamlar ehtimoli esa juda tez, ya’ni eksponent tarzda kamayadi. Shu sababli zanjir mavjud modul atrofida uzoq yurishi mumkin, lekin boshqa modulga o‘tolmaydi.

Ishda bu muammo Eyring–Kramers qonuni bilan bog‘lanadi. Brownian-driven Langevin dinamikasida to‘siqdan o‘tish vaqti to‘siq balandligi ΔU va qadam kattaligi h bilan taxminan quyidagi eksponent xulqni ko‘rsatadi:

\[ E[T_{cross}] \asymp \exp(\Delta U/h) \]

Bu formulaning amaliy ma’nosi juda keskin. To‘siq balandligi biroz oshsa, o‘tish vaqti faqat ikki baravar bo‘lib qolmaydi; u eksponent tarzda kattalashishi mumkin. Shu sababli klassik Langevin tipidagi namunachilar haqiqiy ko‘p modali posteriorlarda ishonchsiz bo‘lib qoladi. Zanjir yaxshi aralashyapti deb o‘ylash, aslida u faqat bir modul ichida yaxshi aylanayotganligi sababli chalg‘ituvchi bo‘lishi mumkin.

Ushbu ish taklif qilgan asosiy yechim zanjirning shovqin tuzilishini o‘zgartirishdir. Brownian/Gaussian shovqin o‘rniga horseshoe taqsimotli stokastik volatilitet qo‘llanadi. Horseshoe taqsimoti Bayes statistikada ayniqsa seyrek signal va o‘zgaruvchi tanlash muammolarida tanilgan. Uning eng muhim xususiyati ikki chekka xulqni birga olib yurishidir: nol atrofida kuchli zichlashuv va og‘ir dum.

Bu ikki xususiyat namunalash nuqtayi nazaridan shunday talqin qilinadi. Nol atrofidagi zichlashuv zanjirga ko‘p vaqt mayda va lokal qadamlar bilan yurishga imkon beradi. Og‘ir dum esa kamdan-kam juda katta qadamlar hosil qiladi. Ko‘p modali posteriorlarda aynan shu kerak: zanjir modul ichida nozik namunalashi, biroq boshqa modullarga sakrab o‘ta olish ehtimolini ham saqlashi kerak.

Ish taklif qilgan uzluksiz vaqtli jarayon horseshoe-Langevin diffuziyasi deb belgilanadi:

\[ d\theta_t = -S_t \nabla U(\theta_t)dt + \sqrt{2S_t}dW_t \]

Bu formulada S_t lahzaviy masshtab yoki volatilitet jarayonidir. Ishda u quyidagicha belgilanadi:

\[ S_t = \tau^2 \lambda_t^2 \]

Bu yerda τ global masshtab parametri. λ_t ijobiy, cadlag — ya’ni o‘ngdan uzluksiz va chapdan limitga ega — bo‘lgan jarayon; uning marjinal taqsimoti yarim-Cauchy C⁺(0,1) deb olinadi. S_t kattalashganda ham tortishish, ham tasodifiy qadam kattalashadi; kichrayganda zanjir ko‘proq lokal harakat qiladi.

Bu yerda juda muhim muvozanat bor. Agar faqat katta sakrashlar qiladigan namunachi yaratilsa, u modullar orasidan o‘ta oladi, lekin modul ichidagi batafsil posterior shaklini yomon namunalashi mumkin. Agar faqat kichik qadamlar oladigan namunachi ishlatilsa, lokal tuzilma yaxshi namunalandi, lekin modullar orasida o‘tish bo‘lmaydi. Horseshoe masshtab aralashmasi bu ikki xulqni bitta mexanizmda birlashtirishga urinadi.

Ishning birinchi nazariy natijasi maqsad taqsimotni saqlab qolish bilan bog‘liq. Theorem 2 ga ko‘ra, S_t deyarli hamma joyda ijobiy, Brown harakatidan mustaqil va quyidagi shartni qanoatlantirsa:

\[ \int_0^\infty S_s ds = \infty \quad \text{a.s.} \]

u holda maqsad taqsimot π horseshoe-Langevin jarayoni uchun yagona barqaror taqsimot bo‘lib qoladi. Bu natija muhim; chunki shovqin masshtabini tasodifiy va og‘ir dumli qilish maqsad taqsimotni buzishi shart emas. Jarayon vaqtni tasodifiy tezlashtiradigan yoki sekinlashtiradigan soat kabi talqin qilinishi mumkin; mos sharoitlarda u standart Langevinning barqaror taqsimotini saqlab qoladi.

Theorem 2 ning sezgili izohi shuki, standart Langevin jarayoni to‘g‘ri maqsad taqsimotga yaqinlashadi. Horseshoe-Langevin jarayoni esa shu dinamikani tasodifiy tezlashib-sekinlashadigan soat bilan ishlatadi. Agar bu soat doimo oldinga yurishda davom etsa, ya’ni jami yig‘ilgan masshtab cheksiz bo‘lsa, jarayon baribir o‘sha maqsad taqsimotga yetadi. Bu og‘ir dumli qadam masshtabining maqsad taqsimotni buzmasligini ko‘rsatadigan asosiy kafolatdir.

Ishda yarim-Cauchy masshtabni amalda hosil qilish uchun Makalic–Schmidt augmentatsiyasi ishlatiladi:

\[ \lambda^2|\nu \sim IG\left(\frac{1}{2},\nu^{-1}\right),\quad \nu \sim IG\left(\frac{1}{2},1\right) \]

Bu yerda IG inverse-gamma taqsimotini bildiradi. Bu ifoda yarim-Cauchy masshtabni ikki inverse-gamma orqali hosil qilishga imkon beradi. Amalga oshirish bo‘limidagi kod parchalari ham har iteratsiyada bu masshtab qanday olinayotganini ko‘rsatadi.

Ish uchta diskret vaqtli namunachini ta’riflaydi. Birinchisi HS-RWM, ya’ni horseshoe-scaled random-walk Metropolis usulidir. Taklif quyidagicha amalga oshiriladi:

\[ \theta' = \theta + \tau \lambda \xi,\quad \xi \sim N(0,I_p),\quad \lambda \sim C^+(0,1) \]

Bu formulada ξ p o‘lchamli standart Gaussian vektor. λ yarim-Cauchy masshtab o‘zgaruvchisidir. Taklif taqsimoti simmetrik bo‘lgani uchun standart Metropolis qabul ehtimoli ishlatiladi:

\[ \alpha(\theta,\theta') = \min\left\{1,\frac{\pi(\theta')}{\pi(\theta)}\right\} \]

Bu usul π ga nisbatan teskari bo‘lib qoladi. Ya’ni zanjir uzoq muddatda maqsad taqsimotni saqlaydi. HS-RWM nazariy tahlilda asosiy usuldir; ayniqsa modullar orasidagi birinchi o‘tish vaqtiga polinomsal yuqori chegara shu usulda isbotlanadi.

Ikkinchi usul HS-jump+MALAdir. Bu usul aralash yadrodir. Ma’lum ehtimol bilan horseshoe masshtabli katta sakrash qilinadi; qolgan ehtimolda standart MALA qadami ishlatiladi. Bu dizayn mantiqi ravshan: horseshoe sakrashlari modlar orasidagi o‘tishga yordam beradi, MALA qadamlari esa modul ichida gradient ma’lumoti bilan samarali lokal namunalashni ta’minlaydi.

Uchinchi usul HS-axis+MALAdir. Bu usul yuqori o‘lchamlar uchun yaratilgan. Izotrop katta sakrash butun p o‘lchamga birdan tarqalsa, yuqori o‘lchamda to‘g‘ri modul yo‘nalishiga tushish ehtimoli kamayishi mumkin. Axis-aligned yondashuvda avval tasodifiy koordinata tanlanadi, so‘ng horseshoe masshtabli sakrash faqat shu koordinatada amalga oshiriladi:

\[ \theta'_j = \theta_j + \tau\lambda z,\quad z\sim N(0,1) \]

Boshqa koordinatalar o‘zgarmaydi. So‘ng standart Metropolis qabul qo‘llanadi. Bu yadro ham MALA bilan aralashtirilganda π-teskari bo‘lib qoladi. Ishning yuqori o‘lchamli tajribalarida HS-axis+MALA ning izotropik HS-RWM ga qaraganda mustahkamroq ko‘rinishining asosiy sababi shu.

Tadqiqotning nazariy markazida horseshoe masshtabli o‘sishlarning to‘siqni yengib o‘tish ehtimoli bor. Lemma 8 quyidagi natijani beradi:

\[ P(\langle \tau\lambda\xi,u\rangle > R) \geq \frac{1}{4\pi}\arctan\left(\frac{\tau}{R}\right) \]

R katta bo‘lganda bu ifoda:

\[ \frac{\tau}{4\pi R} + O(R^{-3}) \]

xulqini ko‘rsatadi. Bu yerda u istalgan birlik vektor, R esa yengib o‘tilishi kerak bo‘lgan masofa yoki modlar ajratilishi. Natija horseshoe masshtabli qadamning ma’lum yo‘nalishda katta masofani bosib o‘tish ehtimoli 1/R tartibida polinomsal kamayishini ko‘rsatadi.

Bu Gaussian takliflar bilan keskin farq qiladi. Gaussian o‘sishlarda xuddi shu turdagi katta og‘ish ehtimoli taxminan:

\[ \exp\left(-\frac{R^2}{2\tau^2}\right) \]

tarzida eksponent kamayadi. Ishning butun mexanizmi shu farqdan kelib chiqadi. Gaussian shovqinda uzoq modulga bir qadamda sakrash ehtimoli deyarli yo‘qolib boradi, horseshoe og‘ir dumi esa bu ehtimolni polinomsal darajada jonli saqlaydi.

Theorem 11 ideallashtirilgan ikki-basin maqsad farazi ostida HS-RWM uchun birinchi o‘tish vaqtiga polinomsal yuqori chegara beradi:

\[ E[T_{B_2}] \leq \frac{C R^{p+1}}{r^p \tau \rho} \]

Bu formulada T_B2 zanjirning ikkinchi havzaga birinchi kirish vaqti. R ikki mod orasidagi masofa. p o‘lcham. r maqsad mod atrofidagi qabul qilinadigan kichik hudud radiusi. τ horseshoe taklif masshtabi. ρ esa ikkinchi mod yaqinidagi zichlik nisbatiga bog‘liq qabul qilingan parametr. C — sonli konstanta.

Bu chegaraning ma’nosi shuki, HS-RWM uchun modlar ajralishi kattalashgan sari kutilgan o‘tish vaqti polinom darajada oshadi. Bu klassik Langevin uchun berilgan eksponent past chegaraga nisbatan muhim nazariy farqdir:

\[ E[T^L_{B_2}] \geq C\exp(\Delta U/h) \]

Bu yerda ΔU ikki mod orasidagi energiya to‘sig‘i balandligi; h esa discretized Langevin qadam kattaligi. To‘siq balandligi oshgan sari klassik Langevin o‘tish vaqti eksponent ko‘payadi, horseshoe taklif mexanizmi esa og‘ir dumi sabab polinomsal xulq ko‘rsatishi mumkin.

Biroq bu nazariy natijaning chegaralari aniq tushunilishi kerak. Ish ham buni ochiq aytadi. Theorem 11 — hitting-time, ya’ni birinchi o‘tish vaqtiga chegara; bu esa umumiy aralashish vaqtiga keskin baho emas. Shuningdek, u ikki-basin ideallashtirilgan maqsadni faraz qiladi. Tajribalardagi ko‘p modali aralashmalar yoki yuqori o‘lchamli kub burchaklari bu faraz bilan aynan bir xil emas. Shunga qaramay, natija og‘ir dumli takliflar modlarni sakrab o‘tish xulqi uchun nega kuchli bo‘lishini matematik jihatdan tushuntiradi.

Tadqiqotning eksperimental qismi to‘rtta benchmarkni o‘z ichiga oladi. Birinchi tajriba ikki o‘lchamli to‘rt Gaussian moduldan iborat aralashmadir. Modlar (±4,0) va (0,±4) nuqtalarda joylashgan; umumiy dispersiya σ² = 0.16 deb olinadi. Zanjirlar (4,0) nuqtasidan boshlanadi va 15.000 iteratsiya davom ettiriladi. Taqqoslangan usullar RWM, MALA, PT-MALA, HS-RWM va HS-jump+MALA dir.

1-shakl bu tajribaning qisqacha mazmunini uch panelda beradi. Chap panel modlar orasidan nechta modul ziyorat qilinganini ko‘rsatuvchi mod qamrovidir. O‘rta panel moduldan modulga o‘tishlar sonini ko‘rsatadi. O‘ng panel esa haqiqiy taqsimotga sliced Wasserstein-2 masofasini ko‘rsatadi. Asosiy natija aniq: RWM va MALA faqat boshlang‘ich modulda qoladi; ularning mod qamrovi 0.25 atrofida. PT-MALA va HS-RWM barcha modlarni ziyorat qiladi. HS-RWM eng past sliced W2 qiymatini ham beradi.

1-jadvalda sonli natijalar quyidagicha. HS-RWM mod qamrovida 1.00 ± 0.00 ga erishadi, taxminan 87 ± 13 marta modul o‘tishi qiladi va sliced W2 1.05 ± 0.29 bo‘ladi. PT-MALA ham mod qamrovida 1.00 ± 0.00 oladi va ko‘proq cold-chain o‘tishlarni bildiradi; biroq sliced W2 1.62 ± 0.45 bilan yuqoriroq hamda beshta temperatura nusxasi ishlatgani uchun har qadamda taxminan besh baravar hisoblash xarajatiga ega.

Bu natija HS-RWM ning ikki o‘lchamli benchmarkda bitta zanjir bilan barcha modlarni qamrab ola bilishini va taqsimot sifati bo‘yicha kuchli natija berishini ko‘rsatadi. Biroq bu benchmark cheklangan va nazoratli ekanini ham unutmaslik kerak. Haqiqiy yuqori o‘lchamli posteriorlarda ayni shu samaradorlik avtomatik saqlanadi degan xulosa bu tajribadan chiqmaydi.

Ikkinchi tajriba o‘lcham masshtablash sinovidir. Maqsad taqsimot p o‘lchamli fazoga joylashtirilgan sakkiz modulga ega. Modlar 3-kubning burchaklarida joylashgan:

\[ \mu_k \in \{-3,+3\}^3 \times \{0\}^{p-3} \]

Umumiy dispersiya:

\[ \sigma^2 = 0.36 \]

deb olinadi. O‘lchamlar p ∈ {5,10,15,20} tarzida o‘zgartiriladi. Maqsad usullarning o‘lcham oshgani sari sakkiz modulni qanchalik qamrab olishini o‘lchashdir.

2-shakl va 2-jadval bu tajribaning asosiy natijasini beradi. MALA barcha o‘lchamlarda taxminan 0.12 atrofida qoladi; ya’ni sakkiz moduldan faqat bittasini topadi. Izotrop HS-RWM p = 5 da yaxshi ko‘rinadi va 0.83 ± 0.12 qamrov beradi; lekin p = 10 da 0.17 ± 0.06, p = 15 va p = 20 da taxminan 0.12 ga tushadi. Buning sababi katta sakrash kattaligining barcha o‘lchamlarga tarqalib ketishi va to‘g‘ri yo‘nalishga tushish ehtimolining o‘lcham bilan kamayishidir.

PT-MALA va HS-axis+MALA esa p = 20 gacha ahamiyatli qamrovni saqlaydi. PT-MALA p = 20 da 0.71 ± 0.12, HS-axis+MALA esa 0.62 ± 0.10 qamrov bildiradi. Uch seed bilan bu farq shovqin ichida qolishi mumkin. Ammo hisoblash xarajati turlicha: PT-MALA besh temperatura nusxasidan foydalanadi; HS-axis+MALA esa bitta zanjir ishlatadi. Bu axis-aligned horseshoe sakrashlari yuqori o‘lchamli ko‘p modali maqsadlarda amaliy alternativa bo‘lishi mumkinligini ko‘rsatadi.

Uchinchi tajriba to‘siq balandligi bilan mod o‘tish vaqtini bevosita solishtiradi. Bir o‘lchamli ikki-quduqli maqsadlarda to‘siq balandligi:

\[ \Delta U \in \{4.5,8,12.5,18,24.5,32\} \]

tarzida o‘zgartiriladi. Modlar orasidagi masofa:

\[ R = \sqrt{2\Delta U} \]

deb belgilanadi. HS-RWM va Langevin uchun 60 mustaqil zanjirda mediana birinchi o‘tish vaqtlari o‘lchanadi.

3-shaklda y o‘qi log shkalada berilgan. Langevin zanjiri ΔU oshgani sari tez sekinlashadi va ΔU ≥ 12.5 uchun 50.000 iteratsiyalik zanjir budjetiga uriladi. 3-jadvalda Langevin uchun mediana o‘tish vaqtlari ΔU = 4.5 da 1145, ΔU = 8.0 da 28552, undan yuqori barcha to‘siqlarda esa ≥ 50000 sifatida berilgan. Bunga qarama-qarshi ravishda HS-RWM shu to‘siqlarda 18, 16, 28, 24, 35, 30 iteratsiya oralig‘ida qoladi.

Bu tajriba ishning nazariy xabarini eng ochiq ko‘rsatadi. Brownian/Gaussian shovqin to‘siq balandligi oshganda eksponent tarzda “qotib” qolsa, horseshoe og‘ir dumi bitta qadamli katta sakrashlarni mumkin qiladi. p = 1 uchun nazariy chegara R bo‘yicha kvadratikdir; tajribada esa o‘tish vaqtlari deyarli tekis qoladi. Ish buni shu masshtablarda bitta qadamli mod o‘tishlar ustun bo‘lib qolishi bilan izohlaydi.

To‘rtinchi tajriba Bayescha o‘zgaruvchi tanlash misolidir. Bu yerda n = 40 kuzatuv va d = 8 predictor ishlatiladi. Birinchi va ikkinchi o‘zgaruvchi orasida korrelyatsiya ϱ = 0.95, uchinchi va to‘rtinchi o‘zgaruvchi orasida ham ϱ = 0.95 bor. Haqiqiy koeffitsient vektori:

\[ \beta_{true} = (2,0,2,0,0,0,0,0) \]

deb olinadi. Shovqin standart og‘ishi σ_y = 0.4 va doimiy spike-and-slab prior ishlatiladi. Zanjirlar β = 0 dan boshlanadi va 60.000 iteratsiya davom ettiriladi.

Bu tajribada maqsad korrelyatsiya tufayli yuzaga keladigan muqobil posterior tayanch naqshlari topiladimi-yo‘qmi, shuni ko‘rishdir. Agar ikki predictor juda kuchli korrelyatsiyalashgan bo‘lsa, haqiqiy modelda birinchi o‘zgaruvchi faol bo‘lsa ham, ikkinchi o‘zgaruvchi faol bo‘lgan muqobil tayanch naqshi ham posterior mod sifatida paydo bo‘lishi mumkin. Bunday modlar o‘zgaruvchi tanlash talqinida muhim; chunki ma’lumot qaysi o‘zgaruvchini qo‘llab-quvvatlayotgani noaniq bo‘lishi mumkin.

4-shakl β₁ va β₂ tekisligidagi posterior namunalarni ko‘rsatadi. Qizil x belgi haqiqiy modulni, to‘q sariq plyus esa korrelyatsiyadan kelib chiqqan swap modulini bildiradi. RWM, ULA va HS-RWM bu swap tayanch naqshini topa olmagan bo‘lsa, HS-axis+ULA muqobil modulni kashf etgan yagona usuldir. 4-jadvalda HS-axis+ULA 5 ta turli tayanch naqsh topgani, ULA 4, RWM 3, HS-RWM esa 2 tayanch topgani ko‘rinadi.

Biroq bu tajribada muhim metodologik ogohlantirish bor. HS-axis+ULA va ULA Metropolis tuzatmasiz unadjusted usullar bo‘lgani uchun ularning π uchun to‘liq teskari bo‘lish kafolatlari 4-bo‘limdagi Metropolis-adjusted usullar bilan bir xil emas. Ish bu natijani kashfiyotchilik namoyishi sifatida ko‘rsatadi. HS-axis+ULA ning swap modulni topgani muhim, ammo bu variant exact posterior namunalash qiladi, deb aytib bo‘lmaydi.

Ish muhokama qismida horseshoe diffuziyalarini score-based generative diffusion bilan bog‘laydi. Gaussian forward noise o‘rniga horseshoe scale mixture ishlatilsa, oldinga jarayon og‘ir dumli marjinallar hosil qilishi va ma’lumot taqsimotining ko‘p modali hududlarini yaxshiroq ziyorat qilishi mumkin. Bu generative Bayesian computation va og‘ir dumli diffuziya modellar uchun kelajakdagi tadqiqot yo‘nalishi sifatida beriladi.

Shuningdek, axis-aligned usul qachon zaiflashishi ham muhokama qilinadi. HS-axis+MALA modul ajratuvchi yo‘nalishlar koordinata o‘qlariga yaqin bo‘lishini taxmin qiladi. Ammo modlar qiya yo‘nalishda yoki korrelyatsiyalangan koordinata bloklari bo‘ylab ajralsa, bitta koordinatadagi sakrashlar yetarli bo‘lmasligi mumkin. Bunday holda horseshoe masshtabni o‘rganilgan bazada, Hessian eigenvektorlarida, normalizing-flow koordinatalarida yoki blok-koordinata tuzilmalarida qo‘llash kerak bo‘lishi mumkin.

Ishning kuchli tomonlari orasida maqsad taqsimotni saqlovchi uzluksiz vaqtli nazariy ramka, mod o‘tish vaqti uchun polinomsal chegara, Gaussian/Brownian usullar bilan aniq nazariy taqqoslash, ko‘p seed bilan berilgan benchmarklar va yuqori o‘lcham uchun axis-aligned variantni sinab ko‘rish bor. Shuningdek, o‘zgaruvchi tanlash misoli og‘ir dumli sakrashlar faqat sun’iy aralashma benchmarklarda emas, balki korrelyatsiyalangan posterior modlarda ham foydali bo‘lishi mumkinligini ko‘rsatadi.

Cheklovlari ham bir xil darajada muhim. Theorem 11 faqat HS-RWM uchun va ikki-basin ideallashtirilgan faraz ostida amal qiladi. HS-axis+MALA uchun yuqori o‘lchamli nazariy kafolat hali berilmagan. Benchmarklar cheklangan miqdordagi muammolar ustida bajarilgan. Bayescha o‘zgaruvchi tanlash tajribasidagi HS-axis+ULA Metropolis tuzatmasiga ega emasligi sababli u exact MCMC deb talqin qilinmaydi. Bundan tashqari, haqiqiy katta miqyosli Bayescha neyron tarmoq posteriorlari bu ishda sinovdan o‘tkazilmagan.

Ish aytayotgani bilan aytmayotganini aniq ajratish kerak. Ish horseshoe diffuziyalari ko‘p modali posteriorlarda mod o‘tishni jiddiy ravishda yaxshilashi mumkinligini nazariy va tajribaviy ravishda ko‘rsatadi. Ammo bu har bir ko‘p modali Bayes muammosida avtomatik muvaffaqiyat kafolati emas. Og‘ir dumli sakrashlar mod qamrovini oshirishi mumkin, lekin yuqori o‘lchamda yo‘nalish, blok tuzilma, qabul darajasi, lokal aralashuv va hisoblash xarajati birgalikda baholanishi kerak. Eng to‘g‘ri o‘qish shuki: ish Brownian/Gaussian MCMC ning eksponent to‘siq muammosiga qarshi og‘ir dumli horseshoe masshtab aralashmasi kuchli va o‘rganishga arziydigan alternativ ekanini ko‘rsatadi.

Tadqiqot usuli va natijalari

Tadqiqot usuli horseshoe-Langevin diffuziyasini uzluksiz vaqtli ta’riflash, maqsad taqsimotni saqlashni isbotlash, Metropolis-adjusted diskret vaqtli namunachilarni qurish, modlar orasidagi birinchi o‘tish uchun polinomsal nazariy chegara berish va to‘rtta tajribaviy benchmark orqali usul xulqini tekshirishdan iborat.

1. Maqsad taqsimot va standart Langevin boshlanishi

Maqsad posterior taqsimoti:

\[ \pi(\theta) \propto \exp(-U(\theta)) \]

Standart overdamped Langevin diffuziyasi:

\[ d\theta_t = -\nabla U(\theta_t)dt + \sqrt{2}dW_t \]

2. Horseshoe-Langevin diffuziyasi

Ishning taklif qilgan asosiy jarayoni:

\[ d\theta_t = -S_t \nabla U(\theta_t)dt + \sqrt{2S_t}dW_t \]

Masshtab jarayoni:

\[ S_t = \tau^2\lambda_t^2 \]

3. Barqaror taqsimotni saqlash

Theorem 2 ning asosiy sharti:

\[ \int_0^\infty S_s ds = \infty \quad \text{a.s.} \]

Ushbu shart ostida π horseshoe-Langevin jarayonining yagona barqaror taqsimoti sifatida saqlanadi. Isbot vaqtni o‘zgartirish g‘oyasiga tayanadi. Jarayon standart Langevin dinamikasining tasodifiy tezlashtirilgan-sekinlashtirilgan shakli kabi harakat qiladi; jami vaqt masshtabi cheksizlikka borishi bilan maqsad taqsimotga yaqinlashuv saqlanadi.

4. Half-Cauchy masshtabni augmentatsiya qilish

Maqoladagi Makalic–Schmidt ifodasi:

\[ \lambda^2|\nu \sim IG\left(\frac{1}{2},\nu^{-1}\right) \]

\[ \nu \sim IG\left(\frac{1}{2},1\right) \]

Bu ifoda yarim-Cauchy masshtab o‘zgaruvchisini ikki inverse-gamma olish orqali namunalash imkonini beradi va amaliyotda har iteratsiyada λ hosil qilish uchun ishlatiladi.

5. Diskret vaqtli namunachilar

HS-RWM taklifi:

\[ \theta'=\theta+\tau\lambda\xi,\quad \xi\sim N(0,I_p),\quad \lambda\sim C^+(0,1) \]

HS-axis+MALA sakrash taklifi:

\[ \theta'_j=\theta_j+\tau\lambda z,\quad z\sim N(0,1) \]

6. Horseshoe o‘sishining dum xulqi

Lemma 8:

\[ P(\langle\tau\lambda\xi,u\rangle>R)\geq \frac{1}{4\pi}\arctan\left(\frac{\tau}{R}\right) \]

Asimptotik xulq:

\[ \frac{\tau}{4\pi R}+O(R^{-3}) \]

Gaussian mosligi:

\[ \Phi(R/\tau)\asymp \exp\left(-\frac{R^2}{2\tau^2}\right) \]

7. Birinchi o‘tish vaqti teoremalari

HS-RWM uchun polinomsal yuqori chegara:

\[ E[T_{B_2}] \leq \frac{C R^{p+1}}{r^p \tau \rho} \]

Brownian-driven Langevin uchun eksponent past chegara:

\[ E[T^L_{B_2}] \geq C\exp(\Delta U/h) \]

8. Benchmark 1: 2-D to‘rt modali Gaussian aralashma

9. Benchmark 2: O‘lcham masshtablash

Mod tuzilmasi:

\[ \mu_k \in \{-3,+3\}^3\times\{0\}^{p-3} \]

O‘lchamlar:

\[ p\in\{5,10,15,20\} \]

10. Benchmark 3: To‘siq balandligi va o‘tish vaqti

To‘siq balandliklari:

\[ \Delta U \in \{4.5,8,12.5,18,24.5,32\} \]

Mod ajralishi:

\[ R=\sqrt{2\Delta U} \]

Bu tajriba Brownian/Langevin zanjiri to‘siq balandligi oshgani sari budjetga tiqilib qolishini, HS-RWM esa sinov qilingan oralikda 16–35 iteratsiya ichida qolishini ko‘rsatadi.

11. Benchmark 4: Bayescha o‘zgaruvchi tanlash

12. Shakllarning ilmiy mazmuni

• 1-shakl: 2 o‘lchamli to‘rt modali Gaussian aralashmada mod qamrovi, mod o‘tishlari soni va sliced Wasserstein-2 masofasi solishtiriladi. HS-RWM to‘liq qamrov va eng past sliced W2 bilan kuchli natija bergani ko‘rinadi.
• 2-shakl: O‘lcham oshgani sari mod qamrovining qanday o‘zgarishi ko‘rsatiladi. MALA va izotropik HS-RWM buziladi, PT-MALA va HS-axis+MALA esa p = 20 gacha ahamiyatli qamrovni saqlaydi.
• 3-shakl: To‘siq balandligi oshgani sari Langevin ning birinchi o‘tish vaqti budjetga urilishi, HS-RWM ning esa sinov qilingan barcha to‘siqlarda past o‘tish vaqtlarini saqlab qolishi ko‘rsatiladi.
• 4-shakl: Bayescha o‘zgaruvchi tanlash tajribasida β₁ va β₂ tekisligidagi namunalar ko‘rsatiladi. HS-axis+ULA yuqori korrelyatsiyadan kelib chiqqan muqobil swap modulni topgan yagona usuldir.

13. Ishning asosiy natijalari

• Brownian-driven Langevin va MALA turidagi usullar ko‘p modali posteriorlarda energiya to‘siqlarini yengishda eksponent o‘tish vaqti muammosiga duch kelishi mumkin.
• Horseshoe masshtabli shovqin kichik lokal qadamlar bilan nodir katta sakrashlarni bir mexanizmda birlashtiradi.
• Horseshoe-Langevin jarayoni mos ijobiy stokastik volatilitet shartlari ostida maqsad taqsimot π ni barqaror taqsimot sifatida saqlaydi.
• HS-RWM uchun modlar orasidagi birinchi o‘tish vaqti mod ajralishi R bo‘yicha polinomsal yuqori chegaraga ega.
• 2-D to‘rt modali benchmarkda HS-RWM barcha modlarni qamrab oladi va eng past sliced Wasserstein-2 masofasini oladi.
• O‘lcham masshtablashda HS-axis+MALA bitta zanjir bilan p = 20 gacha ahamiyatli mod qamrovi beradi.
• To‘siq balandligi tajribasida HS-RWM Langevin ning eksponent sekinlashuviga nisbatan amalda ancha tez o‘tishlar ko‘rsatadi.
• Bayescha o‘zgaruvchi tanlash misolida axis-aligned horseshoe varianti korrelyatsiyadan kelib chiqqan muqobil tayanch modulni kashf qilishi mumkin.

14. Cheklovlar

• Tadqiqot hakamligi matn orqali tasdiqlanmagan preprint xarakteridadir.
• Theorem 11 faqat HS-RWM uchun va ikki-basin ideallashtirilgan maqsad farazi ostida amal qiladi.
• HS-axis+MALA uchun yuqori o‘lchamli nazariy qamrov kafolati hali berilmagan.
• Izotropik HS-RWM yuqori o‘lchamda sezilarli darajada buziladi; bu nazariy cheklovdagi o‘lcham bog‘liqligi bilan mos keladi.
• Bayescha o‘zgaruvchi tanlash tajribasida qo‘llangan HS-axis+ULA Metropolis tuzatmasiga ega bo‘lmagani uchun exact π-teskari namunachi emas.
• Haqiqiy katta miqyosli Bayescha neyron tarmoq posteriorlari bu ishda sinovdan o‘tkazilmagan.
• Blok-koordinatali horseshoe sakrashlari, o‘rganilgan koordinata tizimlari va score-based generative diffusion kengaytmalari kelajakdagi ishlar sifatida qoldirilgan.

Manba va usul izohi

Ushbu maqola Aleksandar Mijatović, Nicholas G. Polson va Vadim Sokolov tomonidan tayyorlangan “Horseshoe Diffusions for Multimodal Bayesian Posteriors” nomli ishga asoslanib tayyorlangan. Ishda mualliflar bilan bog‘lanishlar University of Warwick Department of Statistics, University of Chicago Booth School of Business va George Mason University sifatida berilgan. Matn sanasi June 1, 2026 deb ko‘rsatilgan.

Manba turi, matn tuzilmasi, sana ma’lumoti va taqdim etish shakli inobatga olinganda preprint / akademik tadqiqot maqolasi loyihasi sifatida baholanishi kerak. Matnda hakamli jurnal qabulі, DOI yoki ochiq hakamlik ma’lumoti tasdiqlanmaganligi sababli bu ish uchun matn orqali hakamligi tasdiqlanmagan ish iborasi qo‘llanishi kerak.

Bu kontent tayyorlanayotganda ishda berilgan horseshoe-Langevin SDE ta’rifi, barqaror taqsimot teoremasi, HS-RWM, HS-jump+MALA va HS-axis+MALA namunachilari, half-Cauchy dum lemmasi, polinomsal birinchi o‘tish vaqti teoremasi, Eyring–Kramers taqqoslash, 2-D Gaussian aralashmasi benchmarki, o‘lcham masshtablash tajribasi, to‘siq balandligi tajribasi, Bayescha o‘zgaruvchi tanlash misoli, shakllar, jadvallar va muhokama qismidagi cheklovlar asos qilib olindi.

Matnda umumiy MCMC muvaffaqiyat kafolati, barcha ko‘p modali posteriorlarda ustunlik, yuqori o‘lchamli Bayescha neyron tarmoqlarda tasdiqlangan natija, HS-axis+MALA uchun yakunlangan nazariy kafolat yoki hakamli nashr qabulі kabi da’volar qo‘shilmagan. Tadqiqotning natijalari ayniqsa ko‘p modali posteriorlarda og‘ir dumli takliflar mod qamrovini yaxshilashi mumkinligini ko‘rsatgani uchun muhim; ammo amaliyotda usul tanlash maqsad geometriyasi, o‘lcham, mod ajralish yo‘nalishi, qabul darajasi, hisoblash xarajati va posterior aniqligi birgalikda ko‘rib chiqilib amalga oshirilishi kerak.