Bayes statistikasında məqsəd müşahidə olunan məlumatlar əsasında naməlum parametrlər haqqında posterior paylanma əldə etməkdir. Bu posterior paylanma çox vaxt sadə zəng əyrisi kimi tək mərkəzli olmur. Xüsusilə real tətbiqlərdə paylanmanın bir neçə zirvəyə malik olması çox yayğındır. Belə paylanmalara çoxmodlu posterior deyilir.

Çoxmodluluq yalnız texniki detal deyil; çıxarışın etibarlılığına birbaşa təsir edir. Əgər MCMC zənciri posteriorun yalnız bir modunda qalır və digər modları heç ziyarət etmirsə, tədqiqatçı paylanmanın hamısını görmüş kimi davrana bilər, halbuki əslində yalnız lokal bir bölgədən nümunə götürmüş olur. Bu halda qeyri-müəyyənlik natamam təmsil edilir, model alternativləri gözdən qaçır və posterior xülasələri yanıltıcı olur.

Tədqiqatın girişində çoxmodlu posteriorlara səbəb olan bir neçə mühüm nümunə verilir. Qarışıq modellərdə label switching, yəni etiket dəyişməsi, eyni statistik izahın fərqli parametr etiketləri ilə yenidən ortaya çıxmasına səbəb ola bilər. Seyrək reqressiyada hansı dəyişənlərin modelə daxil edilməli olduğu qeyri-müəyyəndir; oxşar izah gücünə malik fərqli dəyişən kombinasiyaları ayrıca posterior modları yarada bilər. Bayes neyron şəbəkələrində çəki simmetriyaları eyni funksiyanı təmsil edən fərqli çəki konfiqurasiyaları yaradır. İyerarxik modellərdə zəif identifikasiya oluna bilmə də posteriorun bir neçə bölgədə sıxlaşmasına gətirib çıxara bilər.

Klassik MCMC iş axınlarında tez-tez istifadə edilən üsullardan biri Langevin dinamikasına əsaslanan nümunələmədir. Standart overdamped Langevin diffuziyası belə yazılır:

\[ d\theta_t = -\nabla U(\theta_t)dt + \sqrt{2}dW_t \]

Burada θ_t zəncirin t zamanındakı mövqeyidir. U(θ) hədəf paylanmanın mənfi loqarifmik sıxlığı kimi davranan potensial funksiyadır. Hədəf paylanma:

\[ \pi(\theta) \propto \exp(-U(\theta)) \]

şəklindədir. ∇U(θ) zənciri yüksək ehtimallı bölgələrə yönəldən qradiyent məlumatıdır. W_t Braun hərəkətidir və √2dW_t Qauss təsadüfiliyini təmsil edir.

Bu quruluş təkmodlu və ya yaxşı əlaqələnmiş paylanmalarda effektiv ola bilər. Lakin iki yüksək ehtimallı mod arasında aşağı ehtimallı enerji baryeri varsa problem yaranır. Zəncirin bir moddan digərinə keçməsi üçün aşağı sıxlıqlı bölgədən keçməsi lazımdır. Qauss addımları əsasən kiçik və orta ölçülü olur; çox böyük addımların ehtimalı çox sürətlə, yəni eksponensial şəkildə azalır. Buna görə zəncir mövcud modun ətrafında uzun müddət dolaşa bilər, lakin digər moda keçə bilməz.

Tədqiqatda bu problem Eyring–Kramers qanunu ilə əlaqələndirilir. Brownian-driven Langevin dinamikasında baryerin aşılma müddəti baryer hündürlüyü ΔU və addım ölçüsü h ilə təxminən aşağıdakı eksponensial davranışı göstərir:

\[ E[T_{cross}] \asymp \exp(\Delta U/h) \]

Bu formulun praktik mənası çox sərtdir. Baryer hündürlüyü bir qədər artdıqda keçid müddəti sadəcə ikiqat olmur; eksponensial şəkildə böyüyə bilər. Buna görə klassik Langevin tipli nümunələyicilər həqiqətən ayrılmış modlara malik posteriorlarda etibarsız ola bilər. Zəncirin yalnız bir mod daxilində yaxşı hərəkət etdiyi üçün yaxşı qarışdığını düşünmək yanıltıcıdır.

Bu tədqiqatın təklif etdiyi əsas həll zəncirin səs-küy strukturunu dəyişdirməkdir. Brownian/Qauss səs-küyünün əvəzinə horseshoe paylanmalı stoxastik volatillik istifadə olunur. Horseshoe paylanması Bayes statistikasında xüsusilə seyrək siqnal və dəyişən seçimi problemlərində tanınır. Onun ən mühüm xüsusiyyəti iki ekstremal davranışı eyni vaxtda daşımasıdır: sıfır ətrafında güclü sıxlaşma və ağır quyruq.

Bu iki xüsusiyyət nümunələmə baxımından belə şərh oluna bilər. Sıfır ətrafındakı sıxlaşma zəncirin çox vaxt kiçik və lokal addımlar atmasına imkan verir. Ağır quyruq isə nadir hallarda çox böyük addımlar yaradır. Çoxmodlu posteriorlarda məhz buna ehtiyac var: zəncir bir modun daxilində dəqiq nümunələmə aparmalı, eyni zamanda digər modlara sıçrama ehtimalını da saxlamalıdır.

Tədqiqatın təklif etdiyi fasiləsiz zamanlı proses horseshoe-Langevin diffuziyası kimi müəyyən edilir:

\[ d\theta_t = -S_t \nabla U(\theta_t)dt + \sqrt{2S_t}dW_t \]

Bu formulda S_t ani miqyas və ya volatillik prosesidir. Tədqiqatda:

\[ S_t = \tau^2 \lambda_t^2 \]

kimi müəyyən edilir. Burada τ qlobal miqyas parametridir. λ_t müsbət, cadlag, yəni sağdan fasiləsiz və soldan limitli prosesdir; marjinal paylanması yarım-Koşi C⁺(0,1) kimi götürülür. S_t böyüdükdə həm drift, həm də təsadüfi addım ölçüsü böyüyür; kiçildikdə zəncir daha lokal hərəkət edir.

Burada çox mühüm tarazlıq var. Əgər yalnız böyük sıçrayışlar edən nümunələyici hazırlansaydı, modlar arasında keçə bilərdi, lakin modların daxilindəki detallı posterior formasını zəif nümunələyərdi. Əgər yalnız kiçik addımlar atan nümunələyici istifadə olunsaydı, lokal struktur yaxşı nümunələnərdi, lakin modlararası keçid olmazdı. Horseshoe miqyas qarışığı bu iki davranışı vahid mexanizmdə birləşdirməyə çalışır.

Tədqiqatın ilk nəzəri nəticəsi hədəf paylanmanın qorunması ilə bağlıdır. Theorem 2-yə görə, S_t demək olar ki, həmişə müsbət, Braun hərəkətindən müstəqil və aşağıdakı şərti ödəyən prosesdirsə:

\[ \int_0^\infty S_s ds = \infty \quad \text{a.s.} \]

onda hədəf paylanma π horseshoe-Langevin prosesi üçün yeganə stasionar paylanmadır. Bu nəticə vacibdir; çünki səs-küy miqyasını təsadüfi və ağır quyruqlu etmək hədəf paylanmanı mütləq pozmur. Proses zamanı təsadüfi sürətləndirib-yavaşladan vaxt dəyişimi kimi şərh edilə bilər; uyğun şərtlərdə standart Langevin-in stasionar paylanmasını qoruyur.

Theorem 2-nin intuitiv izahı belədir. Standart Langevin prosesi düzgün hədəf paylanmaya yaxınlaşır. Horseshoe-Langevin prosesi isə eyni dinamikanı təsadüfi sürətlənən və yavaşıyan saatla işlədir. Əgər bu saat sonsuzadək irəliləməyə davam edirsə, yəni ümumi yığılmış miqyas sonsuzdursa, proses yenə eyni hədəf paylanmaya çatır. Bu, ağır quyruqlu addım miqyasının hədəf paylanmanı pozmadığını göstərən əsas təminatdır.

Tədqiqatda yarım-Koşi miqyasının praktik yaradılması üçün Makalic-Schmidt augmentasiyasından istifadə olunur:

\[ \lambda^2|\nu \sim IG\left(\frac{1}{2},\nu^{-1}\right),\quad \nu \sim IG\left(\frac{1}{2},1\right) \]

Burada IG inverse-gamma paylanmasını ifadə edir. Bu təqdimat yarım-Koşi miqyasını iki inverse-gamma nümunəsi ilə yaratmağa imkan verir. Tətbiq bölməsində verilən kod fraqmenti də hər iterasiyada bu miqyasın necə çəkildiyini göstərir.

Tədqiqat üç diskret zamanlı nümunələyici müəyyən edir. Birincisi HS-RWM, yəni horseshoe-scaled random-walk Metropolis üsuludur. Təklif belə verilir:

\[ \theta' = \theta + \tau \lambda \xi,\quad \xi \sim N(0,I_p),\quad \lambda \sim C^+(0,1) \]

Bu formulda ξ p-ölçülü standart Qauss vektorudur. λ yarım-Koşi miqyas dəyişənidir. Təklif paylanması simmetrik olduğuna görə standart Metropolis qəbul ehtimalı istifadə olunur:

\[ \alpha(\theta,\theta') = \min\left\{1,\frac{\pi(\theta')}{\pi(\theta)}\right\} \]

Bu üsul π-yə görə reversiv qalır. Yəni zəncir uzun müddətdə hədəf paylanmanı qoruyur. HS-RWM nəzəri təhlildə istifadə olunan əsas üsuldur; xüsusilə modlararası ilk keçid müddəti üçün polinomial yuxarı sərhəd bu üsul üzərində sübut edilir.

İkinci üsul HS-jump+MALA-dır. Bu üsul qarışıq nüvədir. Müəyyən ehtimalla horseshoe miqyaslı böyük sıçrayış edilir; qalan ehtimalla standart MALA addımı istifadə olunur. Bu dizaynın məntiqi aydındır: horseshoe sıçrayışları modlararası keçidə kömək edərkən, MALA addımları mod daxilində qradiyent məlumatı ilə səmərəli lokal nümunələmə təmin edir.

Üçüncü üsul HS-axis+MALA-dır. Bu üsul yüksək ölçülər üçün hazırlanıb. İzotrop böyük sıçrayış bütün p ölçüyə birdən yayıldıqda, yüksək ölçüdə doğru moda düşmə ehtimalı azala bilər. Ox-istiqamətli yanaşmada əvvəlcə təsadüfi koordinat seçilir, sonra horseshoe miqyaslı sıçrayış yalnız həmin koordinatda edilir:

\[ \theta'_j = \theta_j + \tau\lambda z,\quad z\sim N(0,1) \]

Digər koordinatlar sabit saxlanılır. Sonra standart Metropolis qəbulu tətbiq edilir. Bu nüvə də MALA ilə qarışdırıldıqda π-reversiv qalır. Tədqiqatın yüksək ölçülü təcrübələrində HS-axis+MALA-nın izotrop HS-RWM-yə nisbətən daha dayanıqlı görünməsinin əsas səbəbi budur.

Tədqiqatın nəzəri mərkəzində horseshoe miqyaslı artımların baryeri aşma ehtimalı dayanır. Lemma 8 aşağıdakı nəticəni verir:

\[ P(\langle \tau\lambda\xi,u\rangle > R) \geq \frac{1}{4\pi}\arctan\left(\frac{\tau}{R}\right) \]

R böyük olduqda bu ifadə:

\[ \frac{\tau}{4\pi R} + O(R^{-3}) \]

davranışını göstərir. Burada u istənilən vahid vektordur. R aşılmalı olan məsafə və ya modlararası ayrılmadır. Bu nəticə horseshoe miqyaslı addımın müəyyən istiqamətdə böyük məsafəni aşma ehtimalının 1/R tərtibində polinomial azaldığını göstərir.

Bu, Qauss təklifləri ilə kəskin ziddiyyət yaradır. Qauss artımlarında eyni tip böyük sapma ehtimalı təxminən:

\[ \exp\left(-\frac{R^2}{2\tau^2}\right) \]

kimi eksponensial azalır. Tədqiqatın bütün mexanizmi bu fərqdən yaranır. Qauss səs-küyündə uzaq moda bir addımda sıçrama ehtimalı demək olar ki, yox olduğu halda, horseshoe ağır quyruğu bu ehtimalı polinomial səviyyədə canlı saxlayır.

Theorem 11 ideallaşdırılmış iki-basin hədəf fərziyyəsi altında HS-RWM üçün ilk keçid müddətinə polinomial yuxarı sərhəd verir:

\[ E[T_{B_2}] \leq \frac{C R^{p+1}}{r^p \tau \rho} \]

Bu formulda T_B2 zəncirin ikinci basin-ə ilk giriş müddətidir. R iki mod arasındakı məsafədir. p ölçüdür. r hədəf mod ətrafındakı qəbul edilə bilən kiçik bölgənin radiusunu təmsil edir. τ horseshoe təklif miqyasıdır. ρ ikinci mod yaxınlığındakı sıxlıq nisbəti ilə bağlı qəbul edilə bilmə parametridir. C isə ədədi sabitdir.

Bu sərhədin mənası budur: HS-RWM üçün mod ayrılması artdıqca gözlənilən keçid müddəti polinomial tərtibdə artır. Bu, klassik Langevin üçün verilən eksponensial aşağı sərhədlə müqayisədə mühüm nəzəri fərqdir:

\[ E[T^L_{B_2}] \geq C\exp(\Delta U/h) \]

Burada ΔU iki mod arasındakı enerji baryerinin hündürlüyü, h isə discretized Langevin addım ölçüsüdür. Baryer hündürlüyü artdıqca klassik Langevin keçid müddəti eksponensial böyüyərkən, horseshoe təklif mexanizmi ağır quyruğu sayəsində polinomial davranış göstərə bilər.

Lakin bu nəzəri nəticənin sərhədləri yaxşı başa düşülməlidir. Tədqiqat da bunu açıq şəkildə qeyd edir. Theorem 11 hitting-time, yəni ilk keçid müddəti sərhədidir; tam variasiya qarışma müddəti üçün kəskin bound deyil. Bundan əlavə, iki basinli ideallaşdırılmış hədəf fərz edir. Təcrübələrdəki çoxmodlu qarışıqlar və ya yüksək ölçülü kub küncü modları bu fərziyyə ilə tam eyni deyil. Bununla belə, nəticə ağır quyruqlu təkliflərin mod sıçrayış davranışı üçün niyə güclü ola biləcəyinə riyazi izah verir.

Tədqiqatın eksperimental hissəsində dörd benchmark var. Birinci təcrübə iki ölçülü dörd Qauss modundan ibarət qarışıqdır. Modlar (±4,0) və (0,±4) nöqtələrindədir; ümumi variasiya σ² = 0.16 götürülür. Zəncirlər (4,0) nöqtəsindən başladılır və 15.000 iterasiya işlədilir. Müqayisə olunan üsullar RWM, MALA, PT-MALA, HS-RWM və HS-jump+MALA-dır.

Şəkil 1 bu təcrübənin xülasəsini üç paneldə verir. Sol panel dörd moddan neçəsinin ziyarət edildiyini göstərən mod əhatəsini göstərir. Orta panel moddan moda keçid sayını göstərir. Sağ panel həqiqi paylanmaya sliced Wasserstein-2 məsafəsini göstərir. Buradakı əsas nəticə çox aydındır: RWM və MALA yalnız başlanğıc modunda qalır; mod əhatələri 0.25 səviyyəsindədir. PT-MALA və HS-RWM bütün modları ziyarət edir. HS-RWM həmçinin ən aşağı sliced W2 dəyərini verir.

Cədvəl 1-də ədədi nəticələr belə bildirilir. HS-RWM mod əhatəsində 1.00 ± 0.00 dəyərinə çatır, təxminən 87 ± 13 mod keçidi edir və sliced W2 dəyəri 1.05 ± 0.29 olur. PT-MALA da mod əhatəsində 1.00 ± 0.00 dəyərini alır və daha çox cold-chain keçidi bildirir; lakin sliced W2 dəyəri 1.62 ± 0.45 ilə daha yüksəkdir və beş temperatur nüsxəsi istifadə etdiyinə görə hər addım üçün təxminən beşqat hesablama xərcinə malikdir.

Bu nəticə HS-RWM-nin iki ölçülü benchmarkda tək zəncirlə bütün modları əhatə edə bildiyini və paylanma keyfiyyəti baxımından güclü performans göstərdiyini göstərir. Lakin burada nəzərə alınmalı məqam benchmarkın məhdud və idarə olunan olmasıdır. Həqiqi yüksək ölçülü posteriorlarda eyni performansın avtomatik qorunacağı bu təcrübədən nəticə kimi çıxarıla bilməz.

İkinci təcrübə ölçü miqyaslama testidir. Hədəf paylanma p-ölçülü fəzaya yerləşdirilmiş səkkiz moda malikdir. Modlar 3-kubun künclərindədir:

\[ \mu_k \in \{-3,+3\}^3 \times \{0\}^{p-3} \]

Ümumi variasiya:

\[ \sigma^2 = 0.36 \]

kimi götürülür. Ölçülər p ∈ {5,10,15,20} şəklində dəyişdirilir. Məqsəd üsulların ölçü artdıqca səkkiz modu nə dərəcədə əhatə edə bildiyini ölçməkdir.

Şəkil 2 və Cədvəl 2 bu təcrübənin əsas nəticəsini verir. MALA bütün ölçülərdə təxminən 0.12 ətrafında əhatə ilə qalır; yəni səkkiz moddan yalnız təxminən birini tapır. İzotrop HS-RWM p = 5-də yaxşı görünür və 0.83 ± 0.12 əhatə təmin edir; lakin p = 10-da 0.17 ± 0.06, p = 15 və p = 20-də təxminən 0.12 səviyyəsinə düşür. Bunun səbəbi böyük sıçrayış ölçüsünün bütün ölçülərə yayılması və doğru mod istiqamətinə düşmə ehtimalının ölçü ilə azalmasıdır.

PT-MALA və HS-axis+MALA isə p = 20-yə qədər mənalı əhatəni qoruyur. PT-MALA p = 20-də 0.71 ± 0.12, HS-axis+MALA isə 0.62 ± 0.10 əhatə bildirir. Üç seed ilə bu fərq səs-küy daxilində qala biləcək səviyyədədir. Lakin hesablama xərci fərqlidir: PT-MALA beş temperatur nüsxəsi istifadə edir; HS-axis+MALA tək zəncir istifadə edir. Bu, ox-istiqamətli horseshoe sıçrayışlarının yüksək ölçülü çoxmodlu hədəflərdə praktik alternativ ola biləcəyini düşündürür.

Üçüncü təcrübə baryer hündürlüyü ilə mod keçid müddətini birbaşa müqayisə edir. Bir ölçülü iki quyulu hədəflərdə baryer hündürlüyü:

\[ \Delta U \in \{4.5,8,12.5,18,24.5,32\} \]

kimi dəyişdirilir. Mod ayrılması:

\[ R = \sqrt{2\Delta U} \]

ilə müəyyən edilir. HS-RWM və Langevin üçün 60 müstəqil zəncirdə median ilk keçid müddətləri ölçülür.

Şəkil 3-də y oxu loqarifmik miqyasdadır. Langevin zənciri ΔU artdıqca sürətlə yavaşlayır və ΔU ≥ 12.5 üçün 50.000 iterasiyalı zəncir büdcəsinə ilişir. Cədvəl 3-də Langevin üçün median keçid müddətləri ΔU = 4.5-də 1145, ΔU = 8.0-da 28552, sonrakı bütün yüksək baryerlərdə isə ≥ 50000 kimi verilir. Buna qarşılıq HS-RWM eyni baryerlərdə 18, 16, 28, 24, 35, 30 iterasiya aralığında qalır.

Bu təcrübə tədqiqatın nəzəri mesajını ən aydın göstərən vizuallardan biridir. Brownian/Qauss səs-küyü baryer hündürlüyü artdıqda eksponensial şəkildə ilişib qalarkən, horseshoe ağır quyruğu bir addımlıq böyük sıçrayışları mümkün edir. p = 1 üçün nəzəri bound R baxımından kvadratikdir; təcrübədə isə keçid müddətləri demək olar ki, düz qalır. Tədqiqat bunu həmin miqyaslarda bir addımlıq mod aşmalarının dominant olması ilə izah edir.

Dördüncü təcrübə Bayes dəyişən seçimi nümunəsidir. Burada n = 40 müşahidə və d = 8 predictor istifadə olunur. Birinci və ikinci dəyişən arasında korrelyasiya ϱ = 0.95, üçüncü və dördüncü dəyişən arasında da ϱ = 0.95 var. Həqiqi əmsal vektoru:

\[ \beta_{true} = (2,0,2,0,0,0,0,0) \]

kimi götürülür. Səs-küy standart sapması σ_y = 0.4 və fasiləsiz spike-and-slab prior istifadə olunur. Zəncirlər β = 0-dan başladılır və 60.000 iterasiya işlədilir.

Bu təcrübədə məqsəd korrelyasiya səbəbilə yaranan alternativ posterior dəstək nümunələrinin tapılıb-tapılmadığını görməkdir. Əgər iki predictor çox yüksək korrelyasiyalıdırsa, həqiqi modeldə birinci dəyişən aktiv olsa belə ikinci dəyişənin aktiv olduğu alternativ dəstək nümunəsi də posterior mod kimi ortaya çıxa bilər. Belə modlar dəyişən seçimi şərhində vacibdir; çünki məlumatın hansı dəyişəni dəstəklədiyi qeyri-müəyyən ola bilər.

Şəkil 4 posterior nümunələrini β₁ və β₂ müstəvisinə proyeksiya edir. Qırmızı xaç həqiqi modu, narıncı plus isə korrelyasiyadan yaranan swap modunu göstərir. RWM, ULA və HS-RWM bu swap dəstək nümunəsini tapa bilmədiyi halda, HS-axis+ULA bu alternativ modu kəşf edən yeganə üsuldur. Cədvəl 4-də HS-axis+ULA-nın 5 fərqli dəstək nümunəsi tapdığı, ULA-nın 4, RWM-nin 3, HS-RWM-nin isə 2 dəstək tapdığı görünür.

Lakin bu təcrübədə mühüm metodoloji xəbərdarlıq var. HS-axis+ULA və ULA Metropolis düzəlişi olmayan unadjusted üsullardır; buna görə π üçün tam reversivlik təminatları Section 4-dəki Metropolis-adjusted üsullarla eyni deyil. Tədqiqat bu nəticəni kəşfiyyat xarakterli nümayiş kimi təqdim edir. HS-axis+ULA-nın swap modunu tapması əhəmiyyətlidir, lakin bu variantın exact posterior nümunələməsi etdiyi deyilə bilməz.

Tədqiqatın müzakirə bölməsi horseshoe diffuziyalarının score-based generative diffusion ilə əlaqəsini də qurur. Qauss forward noise əvəzinə horseshoe scale mixture istifadə edilərsə, irəli proses ağır quyruqlu marjinallar yarada və məlumat paylanmasının çoxmodlu bölgələrini daha yaxşı ziyarət edə bilər. Bu, generative Bayesian computation və ağır quyruqlu diffuziya modelləri üçün gələcək tədqiqat istiqaməti kimi təqdim olunur.

Bundan əlavə, ox-istiqamətli üsulun nə zaman zəifləyə biləcəyi də müzakirə edilir. HS-axis+MALA modları ayıran istiqamətlərin koordinat oxlarına yaxın olduğunu fərz edir. Lakin modlar maili istiqamətdə və ya korrelyasiyalı koordinat blokları boyunca ayrılırsa, tək koordinat sıçrayışları yetərsiz qala bilər. Bu halda horseshoe miqyası öyrənilmiş bazada, Hessian özvektorlarında, normalizing-flow koordinatlarında və ya blok-koordinat strukturlarında tətbiq edilməli ola bilər.

Tədqiqatın güclü tərəfləri arasında hədəf paylanmanı qoruyan fasiləsiz zamanlı nəzəri çərçivə, mod keçid müddəti üçün polinomial bound, Qauss/Brownian üsullarla aydın nəzəri müqayisə, çoxlu seed ilə bildirilən benchmarklar və yüksək ölçü üçün axis-aligned variantının sınanması var. Bundan əlavə, dəyişən seçimi nümunəsi ağır quyruqlu sıçrayışların yalnız süni qarışıq benchmarklarda deyil, korrelyasiyalı posterior modlarında da işə yaraya biləcəyini göstərir.

Məhdudiyyətləri də eyni dərəcədə vacibdir. Theorem 11 yalnız HS-RWM üçün və iki-basin ideallaşdırılmış fərziyyə altında keçərlidir. HS-axis+MALA üçün yüksək ölçülü nəzəri təminat hələ verilməyib. Benchmarklar məhdud sayda problem üzərində aparılıb. Bayes dəyişən seçimi təcrübəsində istifadə olunan HS-axis+ULA tam Metropolis düzəlişinə malik olmadığı üçün exact MCMC kimi şərh edilməməlidir. Həmçinin yüksək ölçülü həqiqi Bayes neyron şəbəkəsi posteriorlarında üsulun necə davranacağı bu tədqiqatda göstərilməyib.

Tədqiqatın nə dediyi ilə nə demədiyi aydın ayrılmalıdır. Tədqiqat horseshoe diffuziyalarının çoxmodlu posteriorlarda mod keçidini ciddi şəkildə yaxşılaşdıra biləcəyini nəzəri və eksperimental olaraq müdafiə edir. Lakin bu, hər çoxmodlu Bayes problemində avtomatik uğur zəmanəti deyil. Ağır quyruqlu sıçrayışlar mod əhatəsini artıra bilər, lakin yüksək ölçüdə istiqamət, blok strukturu, qəbul nisbəti, lokal qarışma və hesablama xərci birlikdə qiymətləndirilməlidir. Ən doğru oxunuş budur: tədqiqat Brownian/Qauss MCMC-nin eksponensial baryer probleminə qarşı ağır quyruqlu horseshoe miqyas qarışığının güclü və araşdırılmağa dəyər alternativ olduğunu göstərir.

Tədqiqatın Metodu və Nəticələri

Tədqiqatın metodu fasiləsiz zamanlı horseshoe-Langevin diffuziyasının müəyyən edilməsi, hədəf paylanmanın qorunmasının sübutu, Metropolis-adjusted diskret zamanlı nümunələyicilərin qurulması, modlararası ilk keçid üçün polinomial nəzəri bound verilməsi və dörd eksperimental benchmark ilə üsulun davranışının araşdırılmasından ibarətdir.

1. Hədəf paylanma və standart Langevin başlanğıc nöqtəsi

Hədəf posterior paylanma:

\[ \pi(\theta) \propto \exp(-U(\theta)) \]

Standart overdamped Langevin diffuziyası:

\[ d\theta_t = -\nabla U(\theta_t)dt+\sqrt{2}dW_t \]

2. Horseshoe-Langevin diffuziyası

Tədqiqatın təklif etdiyi əsas proses:

\[ d\theta_t = -S_t \nabla U(\theta_t)dt+\sqrt{2S_t}dW_t \]

Miqyas prosesi:

\[ S_t=\tau^2\lambda_t^2 \]

3. Stasionar paylanmanın qorunması

Theorem 2-nin əsas şərti:

\[ \int_0^\infty S_s ds = \infty \quad \text{a.s.} \]

Bu şərt altında π horseshoe-Langevin prosesinin yeganə stasionar paylanması kimi qorunur. Sübut vaxt dəyişimi fikrinə əsaslanır. Proses standart Langevin dinamikasının təsadüfi sürətləndirilmiş-yavaşıdılmış forması kimi davranır; ümumi vaxt miqyası sonsuza getdiyi müddətdə hədəf paylanmaya yaxınlaşma qorunur.

4. Half-Cauchy miqyasının augmentasiyası

Məqalədə verilən Makalic-Schmidt təqdimatı:

\[ \lambda^2|\nu \sim IG\left(\frac{1}{2},\nu^{-1}\right) \]

\[ \nu \sim IG\left(\frac{1}{2},1\right) \]

Bu təqdimat yarım-Koşi miqyas dəyişəninin iki inverse-gamma çəkilişi ilə nümunələnməsini təmin edir və praktikada hər iterasiyada λ yaratmaq üçün istifadə olunur.

5. Diskret zamanlı nümunələyicilər

HS-RWM təklifi:

\[ \theta'=\theta+\tau\lambda\xi,\quad \xi\sim N(0,I_p),\quad \lambda\sim C^+(0,1) \]

HS-axis+MALA sıçrayış təklifi:

\[ \theta'_j=\theta_j+\tau\lambda z,\quad z\sim N(0,1) \]

6. Horseshoe artımının quyruq davranışı

Lemma 8:

\[ P(\langle\tau\lambda\xi,u\rangle>R)\geq \frac{1}{4\pi}\arctan\left(\frac{\tau}{R}\right) \]

Asimptotik davranış:

\[ \frac{\tau}{4\pi R}+O(R^{-3}) \]

Qauss qarşılığı:

\[ \Phi(R/\tau)\asymp \exp\left(-\frac{R^2}{2\tau^2}\right) \]

7. İlk keçid müddəti teoremləri

HS-RWM üçün polinomial yuxarı sərhəd:

\[ E[T_{B_2}] \leq \frac{C R^{p+1}}{r^p\tau\rho} \]

Brownian-driven Langevin üçün eksponensial aşağı sərhəd:

\[ E[T^L_{B_2}] \geq C\exp(\Delta U/h) \]

8. Benchmark 1: 2-D dördmodlu Qauss qarışığı

9. Benchmark 2: Ölçü miqyaslaması

Mod quruluşu:

\[ \mu_k \in \{-3,+3\}^3\times\{0\}^{p-3} \]

Ölçülər:

\[ p\in\{5,10,15,20\} \]

10. Benchmark 3: Baryer hündürlüyü və keçid müddəti

Baryer hündürlükləri:

\[ \Delta U \in \{4.5,8,12.5,18,24.5,32\} \]

Mod ayrılması:

\[ R=\sqrt{2\Delta U} \]

Bu təcrübə Brownian/Langevin zəncirinin baryer hündürlüyü artdıqca büdcəyə ilişdiyini, HS-RWM-nin isə sınaqdan keçirilən intervalda 16–35 iterasiya arasında qaldığını göstərir.

11. Benchmark 4: Bayes dəyişən seçimi

12. Şəkillərin izah etdiyi elmi məzmun

• Şəkil 1: 2 ölçülü dördmodlu Qauss qarışığında mod əhatəsi, mod keçid sayı və sliced Wasserstein-2 məsafəsi müqayisə edilir. HS-RWM-nin tam əhatə və ən aşağı sliced W2 ilə güclü performans göstərdiyi görünür.
• Şəkil 2: Ölçü artdıqca mod əhatəsinin necə dəyişdiyi göstərilir. MALA və izotrop HS-RWM pisləşərkən, PT-MALA və HS-axis+MALA p = 20-yə qədər mənalı əhatəni qoruyur.
• Şəkil 3: Baryer hündürlüyü artdıqca Langevin-in ilk keçid müddətinin büdcəyə ilişdiyi, HS-RWM-nin isə sınaqdan keçirilən bütün baryerlərdə aşağı keçid müddətlərini qoruduğu göstərilir.
• Şəkil 4: Bayes dəyişən seçimi təcrübəsində β₁ və β₂ müstəvisindəki nümunələr göstərilir. HS-axis+ULA yüksək korrelyasiyadan yaranan alternativ swap modunu kəşf edən yeganə üsuldur.

13. Tədqiqatın əsas nəticələri

• Brownian-driven Langevin və MALA tipli üsullar çoxmodlu posteriorlarda enerji baryerlərini aşarkən eksponensial keçid müddəti problemi yaşaya bilər.
• Horseshoe miqyaslı səs-küy kiçik lokal addımlar ilə nadir böyük sıçrayışları eyni mexanizmdə birləşdirir.
• Horseshoe-Langevin prosesi uyğun müsbət stoxastik volatillik şərtləri altında hədəf paylanma π-ni stasionar paylanma kimi qoruyur.
• HS-RWM üçün modlararası ilk keçid müddəti mod ayrılması R baxımından polinomial yuxarı sərhədə malikdir.
• 2-D dördmodlu benchmarkda HS-RWM bütün modları əhatə edir və ən aşağı sliced Wasserstein-2 məsafəsini əldə edir.
• Ölçü miqyaslamasında HS-axis+MALA tək zəncirlə p = 20-yə qədər mənalı mod əhatəsi təmin edir.
• Baryer hündürlüyü təcrübəsində HS-RWM Langevin-in eksponensial yavaşlamasına qarşı praktikada çox daha sürətli keçidlər göstərir.
• Bayes dəyişən seçimi nümunəsində ox-istiqamətli horseshoe variantı korrelyasiyadan yaranan alternativ dəstək modunu kəşf edə bilər.

14. Məhdudiyyətlər

• Tədqiqatın hakemliyi mətn əsasında təsdiqlənməyən preprint xarakteri var.
• Theorem 11 yalnız HS-RWM üçün və iki-basin ideallaşdırılmış hədəf fərziyyəsi altında keçərlidir.
• HS-axis+MALA üçün yüksək ölçülü nəzəri əhatə təminatı hələ verilməyib.
• İzotrop HS-RWM yüksək ölçüdə nəzərəçarpacaq dərəcədə pisləşir; bu, nəzəri bound-dakı ölçü asılılığı ilə uyğundur.
• Bayes dəyişən seçimi təcrübəsində istifadə olunan HS-axis+ULA Metropolis düzəlişinə malik olmadığı üçün exact π-reversiv nümunələyici deyil.
• Həqiqi böyük miqyaslı Bayes neyron şəbəkəsi posteriorları bu tədqiqatda sınaqdan keçirilməyib.
• Blok-koordinat horseshoe sıçrayışları, öyrənilmiş koordinat sistemləri və score-based generative diffusion uzantıları gələcək tədqiqat sahələri kimi saxlanılıb.

Mənbə və Metod Qeydi

Bu məqalə Aleksandar Mijatović, Nicholas G. Polson və Vadim Sokolov tərəfindən hazırlanmış “Horseshoe Diffusions for Multimodal Bayesian Posteriors” adlı tədqiqata əsasən hazırlanıb. Tədqiqatda müəllif əlaqələri University of Warwick Department of Statistics, University of Chicago Booth School of Business və George Mason University kimi göstərilib. Mətn tarixi June 1, 2026 kimi görünür.

Mənbə növü mətnin quruluşu, tarix məlumatı və təqdimat forması nəzərə alınmaqla preprint / akademik tədqiqat məqaləsi layihəsi kimi qiymətləndirilməlidir. Mətndə hakemli jurnal qəbulu, DOI və ya açıq hakem qiymətləndirməsi məlumatı təsdiqlənmədiyi üçün bu tədqiqat üçün hakemliyi mətn üzərindən təsdiqlənməyən tədqiqat ifadəsi işlədilməlidir.

Bu məzmun hazırlanarkən tədqiqatda verilən horseshoe-Langevin SDE tərifi, stasionar paylanma teoremi, HS-RWM, HS-jump+MALA və HS-axis+MALA nümunələyiciləri, half-Cauchy quyruq lemması, polinomial ilk keçid müddəti teoremi, Eyring–Kramers müqayisəsi, 2-D Qauss qarışığı benchmarkı, ölçü miqyaslama təcrübəsi, baryer hündürlüyü təcrübəsi, Bayes dəyişən seçimi nümunəsi, şəkillər, cədvəllər və müzakirə bölməsindəki məhdudiyyətlər əsas götürülüb.

Mətndə olmayan ümumi MCMC uğur zəmanəti, bütün çoxmodlu posteriorlarda üstünlük, yüksək ölçülü Bayes neyron şəbəkələrində təsdiqlənmiş nəticə, HS-axis+MALA üçün tamamlanmış nəzəri təminat və ya hakemli nəşr qəbulu kimi iddialar əlavə edilməyib. Tədqiqatın nəticələri xüsusilə çoxmodlu posteriorlarda ağır quyruqlu təkliflərin mod əhatəsini yaxşılaşdıra biləcəyini göstərməsi baxımından vacibdir; lakin praktikada üsul seçimi hədəf geometriyası, ölçü, modların ayrılma istiqaməti, qəbul nisbəti, hesablama xərci və posterior dəqiqliyi birlikdə qiymətləndirilərək aparılmalıdır.