Akademik tadqiqotlar, tushunarli til

Verianla | O‘zbekcha akademik tadqiqotlar va ilm-fan

04 Noyabr 2026, Chorshanba
VERİANLA Mustaqil ilmiy nashriyot
Verianla on Google Play
Menyuni ochish yoki yopish
...
Bosh sahifa / Fizik fanlar / Fizika / Diffuziya Modellarini Oʻqitishda Kritik Sekinlashuv
Fizika

Diffuziya Modellarini Oʻqitishda Kritik Sekinlashuv

Diffuziya modeli (diffusion model) — maqsadli maʼlumotlar taqsimotidan olingan namunalarni avval boshqariladigan tarzda shovqinga aylantiradigan va keyin oʻrganilgan score funksiyasi yordamida bu shovqinli taqsimotdan teskari yoʻnalishda yurib yangi namunalar hosil qiladigan generativ model sinfidir.

04/11/2026  Veri Anla  54 marta ko‘rildi
Diffuziya Modellarini Oʻqitishda Kritik Sekinlashuv

Diffuziya modeli (diffusion model), maqsadli maʼlumotlar taqsimotidan olingan namunalarni avval boshqariladigan tarzda shovqinga aylantiradigan, soʻng oʻrganilgan score funksiyasi yordamida ushbu shovqinli taqsimotdan teskari yoʻnalishda harakat qilib yangi namunalar hosil qiladigan generativ modellar sinfidir. Ushbu tadqiqot diffuziya modellari fizik tizim kritik nuqtaga yaqinlashganda uchraydigan kritik sekinlashuvni haqiqatan ham yenga oladimi-yoʻqmi, analitik nazorat qilinadigan Gaussian \(O(n\rightarrow\infty)\) statistik maydon nazariyasi modeli asosida oʻrganadi. Tadqiqotchilar bu tizimda aniq score funksiyasini analitik ravishda bilganlari uchun tarmoq arxitekturasining oʻrganish dinamikasiga taʼsirini maqsad funksiyasi noaniqligisiz bevosita yecha oladilar.

Tadqiqotning birinchi asosiy natijasi hayratlanarli: aniq score-ni funksional jihatdan toʻliq ifodalay oladigan bitta chiziqli konvolyutsiya qatlamli tarmoqdan foydalanish kritik sekinlashuvni bartaraf etmaydi. Gradient tushish bilan oʻqitishda kritik nuqtadagi xarakterli oʻqitish vaqti tizimning chiziqli oʻlchami \(L\) bilan taxminan \(L^2\) kabi masshtablanadi. Bu xuddi shu Gaussian modelning standart mahalliy Langevin dinamikasidagi \(z=2\) kritik sekinlashuv bilan bir xil tizim-oʻlchami masshtablanishidir. Oʻqitishdagi xato keyinchalik denoising/generation bosqichiga oʻtadi va hosil qilingan maydonlar kovariatsiyasini toʻgʻri qayta tiklashni ham xuddi shu xarakterli masshtablanish bilan qiyinlashtiradi.

Ikkinchi asosiy natija shundan iboratki, faqat bitta qoʻshimcha chiziqli qatlam dinamikaning sifatini oʻzgartira oladi. Ikkala qatlam ham aktivatsiya funksiyasisiz chiziqli va bitta qatlamli tarmoqdan kuchliroq funksiya sinfini ifodalashi shart emas; shunga qaramay, mos boshlangʻich sharoitlarda ortiqcha parametrizatsiya gradient-tushish orqali oʻqitish vaqtining tizim oʻlchami bilan \(L^2\) oʻrniga taxminan \(\log L\) kabi masshtablanishini taʼminlaydi. Tadqiqotning nazorat qilinadigan modelida ikki qatlamli tuzilma shu tariqa kritik oʻqitish sekinlashuvini bartaraf etadi.

Biroq faqat oʻqitish vaqtining yaxshilanishi yetarli emas. Butun tizimni qamrab oladigan konvolyutsiya yadrosini real fazoda sodda qoʻllash bitta oldinga oʻtish uchun \(O(N^2)\) amal talab qiladi. Tadqiqotchilar konvolyutsiyaning Furye fazosida koʻpaytmaga aylanish xususiyatidan foydalanib, score hisobini FFT → Furye-fazosida koʻpaytirish → teskari FFT shaklida bajaradilar. Shunday qilib umumiy oldinga-oʻtish murakkabligi \(O(N\log N)\) darajasigacha tushiriladi. Bu yerda \(N=(L/a)^d\), \(d\) fazoviy oʻlcham, \(a\) esa panjara oraligʻidir.

Bu natijalarni talqin qilish chegarasi muhim. Tadqiqot haqiqiy tasvir, video yoki umumiy maqsadli katta diffuziya tarmogʻini oʻqitmaydi. Oʻrganilgan tizim Gaussian \(O(n\rightarrow\infty)\) modelidir; score chiziqli, arxitekturalar chiziqli konvolyutsiya qatlamlaridan iborat va analitik yechim maʼlum. Shuning uchun \(L^2\rightarrow\log L\) natijasini barcha zamonaviy diffuziya modellari uchun universal oʻqitish qonuni sifatida talqin qilib boʻlmaydi. Tadqiqotning qiymati kritik sekinlashuv bilan tarmoq parametrizatsiyasi orasidagi bogʻliqlikni toʻliq nazorat qilinadigan fizik modelda analitik koʻrsata olishidadir.

Kritik Sekinlashuv Nima va Bu Tadqiqotda Nega Muhim?

Kritik sekinlashuv — fizik tizim faza oʻtishining kritik nuqtasiga yaqinlashganda uzoq masofali korrelyatsiyalar paydo boʻlishi sababli mahalliy namunalash dinamikasining tobora sekinroq dekorrelyatsiya koʻrsatishidir. Oʻrganilgan \(O(n\rightarrow\infty)\) modelida standart mahalliy Langevin dinamikasining xarakterli relaksatsiya vaqti kritik nuqtada \(\tau\sim L^2\) kabi masshtablanadi; tadqiqotning asosiy savoli oʻrganilgan diffuziya namunalagichi ayni tor joyni meros qilib oladimi-yoʻqmi.

Fizik boshlangʻich model: \(O(n)\) maydon nazariyasi

Tadqiqotning asosiy fizik tizimi \(n\) komponentli \(\vec{\phi}(\vec{x})\) maydoni uchun taʼriflangan \(O(n)\) modelidir. Manba Tenglama (1) da bergan action:

\[ S(\vec{\phi}) = \frac{1}{2} \int_V d^d\vec{x} \left[ \sum_{\nu=1}^{d}\sum_{a=1}^{n} (\partial_\nu\phi_a)^2 + m^2\sum_{a=1}^{n}\phi_a^2 + \frac{g}{2n} \left( \sum_{a=1}^{n}\phi_a^2 \right)^2 \right]. \tag{1} \]

Bu yerda \(\vec{x}\) \(d\)-oʻlchovli fazodagi oʻrinni; \(a\), \(n\) maydon komponentidan qaysi biri koʻrilayotganini; \(\partial_\nu\phi_a\), maydonning fazoviy oʻzgarishini; \(m^2\), model xatti-harakatini boshqaruvchi massa parametrini; \(g>0\) esa toʻrtlik oʻzaro taʼsir kuchini ifodalaydi. Tadqiqot kontekstida \(m\) haroratga oʻxshash boshqaruv parametri rolini bajaradi.

Katta-\(n\) limitida muammo nega osonlashadi?

\(n\rightarrow\infty\) limitida model samarali ravishda Gaussian holatga keladi:

\[ S_\Lambda(\vec{\phi}) = \frac{1}{2} \int_V d^d\vec{x} \left[ \sum_{\nu=1}^{d}\sum_{a=1}^{n} (\partial_\nu\phi_a)^2 + (m^2+\Lambda g) \sum_{a=1}^{n}\phi_a^2 \right]. \tag{2} \]

\(\Lambda\) oʻz-oʻziga mos ravishda:

\[ \Lambda = \frac{1}{(2\pi)^d} \int d^d\vec{k}\, \frac{1}{ \vec{k}\cdot\vec{k}+m^2+\Lambda g }. \tag{3} \]

tenglama orqali aniqlanadi.

Shunday qilib:

\[ m_{\rm eff}^2=m^2+\Lambda g \]

effektiv massa model xatti-harakatini boshqaruvchi markaziy parametrga aylanadi. Kritik nuqta:

\[ m_{\rm eff}=0 \]

sifatida taʼriflanadi.

Bu soddalashuv tadqiqotning asosiy afzalligidir. Gaussian taqsimotlar uchun korrelyatsiyalar, score va diffuziya dinamikasi analitik hisoblanishi mumkinligi sababli tadqiqotchilar “tarmoq nishonlayotgan haqiqiy score nima?” savolining javobini aniq biladilar. Shunday qilib, oʻqitishda kuzatiladigan sekinlashuv nomaʼlum maqsad funksiyasining murakkabligidan emas, bevosita optimallashtirish va korrelyatsiya tuzilishidan kelib chiqib oʻrganilishi mumkin.

Maqsadli Boltzmann–Gibbs taqsimoti

Maqsad quyidagi taqsimotdan maydon konfiguratsiyalarini hosil qilishdir:

\[ P(\vec{\phi}) = \frac{1}{Z} e^{-S_\Lambda(\vec{\phi})}, \tag{4} \]

bu yerda:

\[ Z = \int D\vec{\phi}\, e^{-S_\Lambda(\vec{\phi})} \]

boʻlinish funksiyasidir.

Fizik kritik sekinlashuv oʻlchovi

Mahalliy namunalagich qanchalik tez dekorrelyatsiya qilishini koʻrish uchun tadqiqot avtokorrelyatsiya funksiyasidan foydalanadi:

\[ C(\vec{x},\vec{x};T) = \frac{1}{V} \int_V d^d x\, \left\langle \phi(\vec{x},T)\phi(\vec{x},0) \right\rangle . \tag{5} \]

\(T\) fizik namunalash/simulyatsiya vaqtidir. Kritik nuqtaga yaqinlashganda korrelyatsiyaning soʻnishi sekinlashadi. Chiziqli oʻlchami \(L\) boʻlgan giperkubik tizimda standart mahalliy dinamika uchun:

\[ \tau\sim L^z, \qquad z=2. \]

Demak:

\[ \tau\sim L^2. \]

Bu \(L^2\) xatti-harakat keyinchalik bitta qatlamli score oʻqitishining masshtablanishi bilan bevosita taqqoslanadi.

Past oʻlchamlarda kritik nuqta haqidagi muhim chegara

Manba \(d\leq2\) uchun chekli \(m^2\) qiymatida klassik maʼnoda chekli-harorat faza oʻtishi mavjud emasligini bildiradi. Masalan, \(d=1\) uchun:

\[ m_{\rm eff}^2 = m^2 + \frac{g}{2} \frac{1}{\sqrt{m_{\rm eff}^2}}. \tag{6} \]

\(m_{\rm eff}\rightarrow0\) boʻlganda \(m^2\) manfiy yoʻnalishda divergensiyaga ketishi kerak. \(d=2\) da ham UV kesishdan keyin logarifmik xatti-harakat yuzaga keladi. Shu sababli tadqiqot keyingi tahlillarda bevosita Gaussian nazariyasi va \(m_{\rm eff}\) ni boshqaruv parametri sifatida qoʻllab, kritik holatni \(m_{\rm eff}\rightarrow0\) shaklida oʻrganadi.

Diffuziya Modelidagi Score Funksiyasi Nima?

Score funksiyasi — maʼlum diffusion-time \(t\) dagi ehtimollik taqsimotining maydon oʻzgaruvchilariga nisbatan logarifmik hosilasidir; boshqacha aytganda, modelning mavjud shovqinli konfiguratsiyani ehtimollik yuqoriroq boʻlgan yoʻnalishlarga qanday tuzatishi kerakligini belgilaydigan vektor maydonidir. Ushbu tadqiqotning Gaussian tizimida score chiziqli va aniq hisoblanishi mumkinligi sababli oʻrganilgan tarmoqni bevosita haqiqiy score bilan taqqoslash mumkin.

Forward diffusion: maʼlumotni shovqinlantirish

Maqsadli taqsimotdan boshlangʻich konfiguratsiya olinadi:

\[ \vec{\phi}(\vec{x},0) \sim P^\ast(\vec{\phi}). \tag{7} \]

Soʻng Ornstein–Uhlenbeck jarayoni bilan shovqinlantiriladi:

\[ \frac{\partial\vec{\phi}(\vec{x},t)}{\partial t} = -\vec{\phi}(\vec{x},t) + \vec{\zeta}(\vec{x},t). \tag{8} \]

\(\vec{\zeta}\) oq Gaussian shovqini boʻlib, uning kovariatsiyasi:

\[ \left\langle \zeta(\vec{x},t) \zeta(\vec{x}',t') \right\rangle = 2\, \delta^{(d)}(\vec{x}-\vec{x}') \delta(t-t') \]

koʻrinishidadir.

Reverse diffusion: shovqindan maqsadli taqsimotga qaytish

Manba asosiy tahlilda deterministic probability-flow ODE dan foydalanadi:

\[ -\partial_t\vec{\phi}(\vec{x},t) = \vec{\phi}(\vec{x},t) + \vec{\mathcal F}_t(\vec{\phi}(\vec{x},t)). \tag{10} \]

Score:

\[ \vec{\mathcal F}_t(\vec{\phi}) = \frac{ \delta\log P_t(\vec{\phi}) }{ \delta\vec{\phi}(\vec{x}) }. \tag{11} \]

Bu yerda \(P_t\), forward diffusion davomida \(t\) paytda hosil boʻladigan taqsimotdir. Score aniq boʻlsa, reverse ODE ideal holatda shovqinli taqsimotni maqsadli taqsimotga qaytaradi.

Score matching yoʻqotishi

Agar aniq score maʼlum boʻlsa, oʻqitish yoʻqotishi:

\[ \mathcal L_t(\vec{F}_t) = \frac{1}{2} \int D\vec{\phi}\, P_t(\vec{\phi}) \left\| \vec{F}_t(\vec{\phi}) - \vec{\mathcal F}_t(\vec{\phi}) \right\|^2. \tag{12} \]

koʻrinishida yozilishi mumkin. Bu yerda \(\vec{F}_t\) oʻrganilayotgan score, \(\vec{\mathcal F}_t\) esa aniq score-dir.

Amalda aniq score koʻp masalalarda nomaʼlum boʻlgani uchun manba denoising score-matching bilan ekvivalent shaklni ham beradi:

\[ \widehat{\mathcal L}_t(\vec F_t) = \frac{1}{2} \mathbb E_{\vec\phi_0\sim P_0} \int D\vec\phi\, P_t(\vec\phi|\vec\phi_0) \left\| \vec F_t(\vec\phi) + \frac{ \vec\phi-e^{-t}\vec\phi_0 }{ \Delta_t } \right\|^2, \tag{13} \]

bu yerda:

\[ \Delta_t=1-e^{-2t}. \]

Ushbu tadqiqotda aniq score analitik ravishda maʼlum boʻlgani sababli oʻqitish dinamikasining nazariy yechimida Tenglama (12) qoʻllanadi.

Forward diffusion dan keyingi taqsimot

Bitta maydon komponenti uchun Furye fazosidagi taqsimot:

\[ P_t(\widetilde\phi) \propto \exp \left\{ -\frac{(2\pi)^d}{2} \int d^d\vec{k}\, \left[ \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} } \right] \widetilde\phi(\vec{k}) \widetilde\phi(-\vec{k}) \right\}. \tag{14} \]

Bu ifoda Gaussian tuzilish diffusion vaqti davomida saqlanishini koʻrsatadi.

Aniq score nega chiziqli konvolyutsiya?

Aniq score:

\[ \mathcal F_t(\phi) = -\int d^d\vec y\, \mathcal S_t(\vec x,\vec y)\phi(\vec y). \tag{15} \]

koʻrinishidadir. Yaʼni maydonning oʻziga chiziqli operator qoʻllanadi.

Score yadrosi:

\[ \begin{aligned} \mathcal S_t(\vec x,\vec y) =& \int\frac{d^d\vec k}{(2\pi)^d} \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} } e^{i\vec k\cdot(\vec y-\vec x)} \\ =& \frac{1}{\Delta_t} \delta^{(d)}(\vec y-\vec x) - \frac{e^{-2t}}{(2\pi)^{d/2}\Delta_t^2} \left( \frac{M_t}{|\vec y-\vec x|} \right)^{d/2-1} K_{d/2-1} \left( M_t|\vec y-\vec x| \right), \end{aligned} \tag{16} \]

bu yerda:

\[ M_t^2 = m_{\rm eff}^2 + \frac{e^{-2t}}{\Delta_t} \]

va \(K_\nu\) ikkinchi tur modifikatsiyalangan Bessel funksiyasidir.

Score yadrosi ikki qismdan iborat: delta funksiyasidan keladigan aniq mahalliy qism va fazoda yoyiladigan dum. Qisqa masofada bu dum Yukawa-ga oʻxshash daraja qonuni xatti-harakatini koʻrsatadi, uzoq masofada esa eksponensial ravishda bostiriladi. Kritik holatga tomon \(m_{\rm eff}\rightarrow0\) boʻlganda uzoq masofali tuzilish muhimlashadi.

Furye fazosida translatsion invariantlik tufayli yadro diagonal holatga keladi:

\[ \widetilde{\mathcal S}_t(\vec k) = \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} }. \tag{17} \]

Bitta qatlam aniq score-ni ifodalay oladi; nega baribir muammo bor?

Bitta qatlamli taxminiy score xuddi shu koʻrinishda yoziladi:

\[ F_t(\phi) = -\int d^d\vec y\, S_t(\vec x,\vec y) \phi(\vec y). \tag{18} \]

Bu yerda model sigʻimi asosiy muammo emas: \(S_t\) mos qiymatga yetganda tarmoq aniq \(\mathcal S_t\) ni ifodalay oladi. Tadqiqot aniqlagan kritik tor joy ifodalanish imkoniyatidan koʻra parametrlarning turli Furye modlarida qanchalik tez oʻrganilishidir.

Gradient-flow tenglamasi

Yadro uchun population loss:

\[ \mathcal L_t = \frac{1}{2} \int D\phi\,P_t(\phi) \left\| \int d^d\vec y\, [S_t(\vec x,\vec y)-\mathcal S_t(\vec x,\vec y)] \phi(\vec y) \right\|^2. \tag{19} \]

Gradient flow:

\[ \frac{ dS_t(\vec x',\vec y') }{ d\bar t } = -\eta \frac{ \delta\mathcal L_t }{ \delta S_t(\vec x',\vec y') }, \tag{20} \]

bu yerda \(\bar t\) oʻqitish vaqti, \(t\) esa diffusion/noising vaqtidir. Bu ikki vaqt oʻzgaruvchisi bir-biridan farq qiladi.

Operator koʻrinishi:

\[ \frac{dS_t}{d\bar t} = -\eta (S_t-\mathcal S_t)C_t, \tag{21} \]

va kovariatsiya:

\[ C_t(\vec x,\vec y) = \langle \phi(\vec x)\phi(\vec y) \rangle_t. \tag{22} \]

Boshlanishida oʻqitilmagan \(S_t(0)=0\) uchun yechim:

\[ S_t(\bar t) = \mathcal S_t \left( 1-e^{-\eta C_t\bar t} \right). \tag{23} \]

Bu tenglama kritik natijaning matematik manbaidir: turli kovariatsiya xos qiymatlari turli tezliklarda oʻrganiladi.

Bitta Qatlamli Tarmoqda Oʻqitish Vaqti Nega \(L^2\) Kabi Masshtablanadi?

Bitta qatlamli tarmoqda har bir Furye modining oʻrganish vaqti shu modning kovariatsiya xos qiymatiga bogʻliq; kritik nuqtada eng kichik noldan farqli impuls \(k_{\min}=2\pi/L\) boʻlgani uchun barqaror gradient-tushish oʻrganish tezligi taxminan \(k_{\min}^2\propto L^{-2}\) masshtabiga siqiladi va \(k=O(1)\) modlarini oʻrganish uchun zarur samarali oʻqitish vaqti \(L^2\) bilan ortadi.

Furye-modi kovariatsiyasi

Manba:

\[ \langle \widetilde\phi(\vec k) \widetilde\phi(\vec q) \rangle_t = \frac{ \delta^{(d)}(\vec k+\vec q) }{ (2\pi)^d } \widetilde C_t(\vec k), \tag{24} \]

va:

\[ \widetilde C_t(\vec k) = \frac{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} }{ k^2+m_{\rm eff}^2 }. \tag{25} \]

hosil qiladi.

Mos vaqt masshtabi:

\[ \tau_t(\vec k) = \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} }. \tag{26} \]

Uzoq noising-time limitida:

\[ \lim_{t\rightarrow\infty} \tau_t(\vec k) = 1. \tag{27} \]

Yaʼni barcha modlarning oʻqitish vaqtlari bir-biriga yaqinlashadi.

Qisqa-noising-time limitida esa:

\[ \lim_{t\rightarrow0} \tau_t(\vec k) = k^2+m_{\rm eff}^2. \tag{28} \]

Bu ifoda Langevin dinamikasining har bir modga toʻgʻri keladigan vaqt masshtabi bilan bir xil tuzilishga ega.

Eng kichik vaqt masshtabi:

\[ \tau_{\min} = k_{\min}^2+m_{\rm eff}^2. \tag{29} \]

Gradient tushish barqaror qolishi uchun oʻrganish tezligi eng tez modga qarab cheklanadi. Manba minimax-optimal oʻrganish tezligini:

\[ \eta_{\rm opt} = \frac{ 2 }{ \tau_{\min}^{-1} + \tau_{\max}^{-1} } \tag{30} \]

koʻrinishida beradi va maksimal barqaror oʻrganish tezligi ham ayni masshtablanishga ega ekanini tushuntiradi.

Score-yadro xato metrikasi

\[ \varepsilon_S = \frac{ \sum_{x,y} |S(x,y)-\mathcal S(x,y)| }{ \sum_{x,y} |\mathcal S(x,y)| }. \tag{31} \]

Bu oʻrganilgan yadro bilan aniq yadro oʻrtasidagi normallashtirilgan mutlaq xatodir.

Samarali oʻqitish vaqti

Kichik noising time uchun va maksimal oʻrganish tezligi masshtabida:

\[ \tau^{\rm eff}(\vec k) = \frac{ \tau(\vec k) }{ 2\tau_{\min} } = \frac{ m_{\rm eff}^2+k^2 }{ 2(m_{\rm eff}^2+k_{\min}^2) }. \tag{32} \]

Chekli tizimda nol mod alohida oʻrganilishi mumkinligi sababli eng kichik noldan farqli impuls:

\[ k_{\min} = \frac{2\pi}{L} \]

va:

\[ \tau_{\min} = \left( \frac{2\pi}{L} \right)^2 + m_{\rm eff}^2. \tag{33} \]

Kritik holatda \(m_{\rm eff}=0\) boʻlganda \(k=O(1)\) uchun:

\[ \tau^{\rm eff} \sim L^2. \]

Natija shuki, aniq score-ni ifodalaydigan bitta qatlamli tarmoq ham kritik nuqtada standart mahalliy namunalashning \(L^2\) masshtablanishini meros qilib oladi.

Boshqa optimizer-lar muammoni hal qiladimi?

Manba optimally tuned momentum usuli kritik masshtablanishni \(L^2\) dan taxminan \(L\) ga yaxshilashi mumkinligini, biroq divergent tizim-oʻlchami bogʻliqligini butunlay yoʻqotmasligini bildiradi. Real-fazo optimallashtirishida Adagrad va Adam esa bu oddiy convex masalada aniq score yadrosiga yaqinlashmagan. Shuning uchun gradient tushishga xos koeffitsiyentlar oʻzgarishi mumkin boʻlsa-da, kritik oʻqitish sekinlashuvi faqat optimizer-ni almashtirish bilan avtomatik ravishda bartaraf boʻlmaydi.

Oʻqitish xatosi generatsiyaga qanday oʻtadi?

Aniq score uchun Furye modining reverse-diffusion tenglamasi:

\[ \partial_t \widetilde\phi^\ast(\vec k,t) = - \widetilde\phi^\ast(\vec k,t) \left[ 1- \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} } \right]. \tag{34} \]

Buning aniq yechimi:

\[ \widetilde\phi^\ast(\vec k,t;t_{\max}) = \frac{ \sqrt{ e^{-2t}+ \Delta_t(k^2+m_{\rm eff}^2) } }{ \sqrt{ e^{-2t_{\max}}+ \Delta_{t_{\max}} (k^2+m_{\rm eff}^2) } } \, \widetilde\phi^\ast(\vec k,t_{\max}). \tag{35} \]

\(t_{\max}\rightarrow\infty\) limitida:

\[ \widetilde\phi^\ast(\vec k,t;\infty) = \frac{ \sqrt{ e^{-2t}+ \Delta_t(k^2+m_{\rm eff}^2) } }{ \sqrt{k^2+m_{\rm eff}^2} } \, \widetilde\phi^\ast(\vec k,\infty). \tag{36} \]

Bu yechim aniq \(P_t\) taqsimotini qayta hosil qiladi.

Chekli oʻqitish vaqtidagi taxminiy score qoʻllanganda Tenglama (37) score-ning oʻrganilmagan qismini:

\[ 1- \exp \left[ -\frac{\eta\bar t}{\tau_t(\vec k)} \right] \]

faktori orqali reverse dinamikaga kiritadi. Manba Tenglama (38) da ushbu tenglamaning eksponensial integral \(\operatorname{Ei}\) ni oʻz ichiga oladigan aniq yopiq yechimini keltirib chiqaradi. Eksponensial integral:

\[ \operatorname{Ei}(x) = - \int_{-x}^{\infty} \frac{e^{-u}}{u}\,du. \tag{39} \]

sifatida taʼriflanadi. Ushbu uzun yopiq yechimning fizik mazmuni shuki, score-ning ayrim modlarda yetarli oʻqitilmasligi reverse diffusion davomida shu modlarning dispersiyasini tizimli ravishda oʻzgartiradi.

Generation xatosi qanday oʻlchanadi?

Gaussian modelda taqsimot oʻrtachasi nol boʻlgani uchun hosil qilingan taqsimot toʻliq kovariatsiya matritsasi bilan tavsiflanadi. Manba normallashtirilgan Frobenius xatosidan foydalanadi:

\[ \varepsilon_C(\bar t,L) = \frac{ \left\| C_{\rm gen}(\bar t,L) - C^\ast(L) \right\|_F }{ \left\| C^\ast(L) \right\|_F }. \tag{42} \]

\(C^\ast\) maqsad kovariatsiyasi, \(C_{\rm gen}\) hosil qilingan maydonlar kovariatsiyasi va \(\|\cdot\|_F\) Frobenius normasidir.

Kritik holatda yetakchi nisbiy xato xatti-harakati:

\[ \sim \exp \left( -\frac{ \bar t\,t_{\max} }{ L^2 } \right) \]

koʻrinishidadir. Demak, oʻqitishdagi \(L^2\) kritik sekinlashuv toʻgʻri kovariatsiyaga ega namunalarni yaratishni ham bevosita sekinlashtiradi.

Manba tadqiqotidagi 1-rasmning asosiy ilmiy bogʻlanishlariga tayangan holda Verianla uchun tayyorlangan mustaqil va masshtabsiz sxema. Manba figurasining grafik kompozitsiyasi koʻchirilmagan.

Ikkinchi Chiziqli Qatlam Kritik Sekinlashuvni Qanday Kamaytiradi?

Ikkinchi chiziqli qatlam yangi nochiziqli funksiya sinfini qoʻshishdan koʻra score yadrosining faktorizatsiyalangan, ortiqcha parametrli ifodasini yaratadi; bu parametrizatsiya gradient-tushish yoʻnalishlarini samarali ravishda qayta shartlantirib, Furye modlari orasidagi oʻrganish-vaqti farqini bitta qatlamli holatdagi chiziqli kovariatsiya bogʻliqligidan logarifmik bogʻliqlikka oʻzgartiradi.

Ikki qatlamli score modeli

Ikki translatsion-invariant yadro qoʻllanadi:

\[ F_t^{\rm ov}(\phi) = - \int d^d\vec z\,d^d\vec y\, S_t^{(2)}(\vec x,\vec z) S_t^{(1)}(\vec z,\vec y) \phi(\vec y). \tag{46} \]

Gradient-flow tenglamalari:

\[ \frac{dS_t^{(1)}}{d\bar t} = -\eta \left(S_t^{(2)}\right)^\dagger \left( S_t^{(2)}S_t^{(1)}C_t-I \right), \tag{47} \]

\[ \frac{dS_t^{(2)}}{d\bar t} = -\eta \left( S_t^{(2)}S_t^{(1)}C_t-I \right) \left(S_t^{(1)}\right)^\dagger. \tag{48} \]

Furye fazosida har bir mod mustaqil boʻladi:

\[ \frac{ d\widetilde S_t^{(1)}(\vec k) }{ d\bar t } = -\eta \widetilde S_t^{(2)}(\vec k) \left[ \widetilde S_t^{(2)}(\vec k) \widetilde S_t^{(1)}(\vec k) \widetilde C_t(\vec k) -1 \right], \tag{49} \]

\[ \frac{ d\widetilde S_t^{(2)}(\vec k) }{ d\bar t } = -\eta \left[ \widetilde S_t^{(2)}(\vec k) \widetilde S_t^{(1)}(\vec k) \widetilde C_t(\vec k) -1 \right] \widetilde S_t^{(1)}(\vec k). \tag{50} \]

Fixed point:

\[ \widetilde S_t^{(2)}(\vec k) \widetilde S_t^{(1)}(\vec k) \widetilde C_t(\vec k) = 1. \]

Yaʼni ikki qatlamning alohida-alohida yagona majburiy optimumi yoʻq; muhim jihat ularning koʻpaytmasi aniq score-ni berishidir. Ortiqcha parametrizatsiya bu yerda aynan shu faktorizatsiya erkinligidir.

Muvozanatlangan ikki qatlamli holatda logistic tenglama

Agar ikki qatlam boshida teng boʻlsa:

\[ s= \widetilde S_t^{(1)}(\vec k) = \widetilde S_t^{(2)}(\vec k), \qquad c= \widetilde C_t(\vec k)>0 \]

va:

\[ \dot{s} = \eta s(1-cs^2). \tag{51} \]

\[ u=s^2 \]

taʼrifi bilan:

\[ \dot{u} = 2\eta u(1-cu). \tag{52} \]

Bu standart logistic tenglama va uning yechimi:

\[ u(\bar t) = \frac{ u_0 e^{2\eta\bar t} }{ 1-cu_0+cu_0e^{2\eta\bar t} }. \tag{53} \]

Demak:

\[ s(\bar t) = \operatorname{sgn}[s(0)] \sqrt{ \frac{ u_0 e^{2\eta\bar t} }{ 1-cu_0+cu_0e^{2\eta\bar t} } }. \tag{54} \]

Kritik farq shuki, bitta qatlamli Tenglama (23) da \(c\) eksponensial yaqinlashish tezligining bevosita ichida boʻlsa, ikki qatlamli Tenglama (53) da \(e^{2\eta\bar t}\) qismi \(c\) ga bogʻliq emas. Maqsad aniqligiga erishish vaqti shu tariqa \(c\) ga chiziqli emas, logarifmik bogʻliqlik koʻrsatadi.

Boshlangʻich ogʻirliklar nega muhim?

Manba barcha modlarda \(\eta=O(1)\) darajada barqaror yaqinlashish uchun boshlangʻich qatlam ogʻirliklarini taxminan:

\[ s(0)=O(1/L) \]

masshtabida tanlashni talab qiladi. Standart Kaiming kabi \(O(1)\) kattalikdagi boshlangʻich qiymatlar tizim oʻlchami ortgani sari ushbu nazariy masala uchun tobora muammoliroq boʻlishi mumkinligini bildiradi.

Qatlamlar boshida teng boʻlmasa

Umumiy holda:

\[ u(\bar t) = s_1(\bar t)s_2(\bar t), \tag{55} \]

va qatlam nomuvofiqligi:

\[ d_0=s_1^2(0)-s_2^2(0), \qquad \delta=|d_0|, \qquad \alpha=\frac{\delta}{2}. \]

Manba shuningdek:

\[ \kappa = c\alpha = \frac{c\delta}{2}, \qquad A = \sqrt{ 1+\kappa^2 } = \sqrt{ 1+\frac{c^2d_0^2}{4} }. \tag{56} \]

taʼriflaydi. Yopiq yechim Tenglama (57) da \(q_0\), \(R_0\), \(R(\bar t)\), \(q(\bar t)\) va \(u(\bar t)\) zanjiri bilan beriladi. Yaqinlashishning eksponensial qismi \(A\eta\) tomonidan boshqariladi. Tizim oʻlchami bilan polinom tarzidagi yomonlashishni oldini olish uchun:

\[ d_0 \lesssim \frac{1}{L^2} \]

sharti talab qilinadi. \(s_1,s_2=O(1/L)\) tanlovi buning uchun yetarli shartdir.

Raqamli tasdiqlash

Ikki arxitekturaning mod-asosli score xatosi:

\[ \varepsilon_{F_e}(\vec k) = \left[ \frac{ \overline{ \left| F_t^{\rm ov}[\phi_t(\vec k)] - \mathcal F_t[\phi_t(\vec k)] \right|^2 } }{ \overline{ \left| \mathcal F_t[\phi_t(\vec k)] \right|^2 } } \right]^{1/2}. \tag{58} \]

Aniq Furye score:

\[ \mathcal F_t[\phi(\vec k)] = - \widetilde{\mathcal S}_t(\vec k) \widetilde\phi(\vec k). \tag{59} \]

Manbaning 5-rasmdagi tasdiqlashida \(d=2\), \(m_{\rm eff}=0\), \(a=1\), \(t=0.01\), \(L=16\) shartlari ishlatiladi. Bitta qatlamli holatda xarakterli xato soʻnish vaqti \(1/\widetilde C(\vec k)\) bilan, ikki qatlamli holatda esa taxminan \(-\log\widetilde C(\vec k)\) bilan oʻzgaradi. Raqamli tajribalar 1024 oʻqitish konfiguratsiyasi va 500 mustaqil simulyatsiya oʻrtachasidan foydalanadi.

Koʻproq qatlam yanada yaxshimi?

Manba bu savolni \(N_\ell\) teng qatlamli soddalashtirilgan model bilan tahlil qiladi. \(u=s^{N_\ell}\) uchun:

\[ \dot u = \eta N_\ell u^{\,2-2/N_\ell} (1-cu). \tag{60} \]

Zarur boshlangʻich masshtab:

\[ s_0 \sim L^{-2/N_\ell}. \tag{61} \]

Xarakterli oʻqitish vaqti:

\[ \tau_{\rm eff} \sim L^{\,2-4/N_\ell}. \tag{62} \]

\(N_\ell=2\) maxsus holatda daraja-qonuni koʻrsatkichi nolga tushadi va batafsilroq tahlil \(\log L\) masshtablanishini beradi. Biroq \(N_\ell\geq3\) uchun yana musbat \(L\) darajasi paydo boʻladi. \(N_\ell\rightarrow\infty\) limitida koʻrsatkich 2 ga yaqinlashadi. Shu sababli tadqiqotning soddalashtirilgan muvozanatlangan modelida “koʻproq chuqurlik har doim tezroq” degan natija chiqmaydi; ikki qatlam nazariy jihatdan alohida va eng qulay holatdir.

Furye Fazosida Qoʻllash Hisoblash Xarajatini Qanday Oʻzgartiradi?

Real fazoda butun tizimni qamrab oladigan konvolyutsiyaning oldinga oʻtishi \(O(N^2)\) amal talab qilsa, ayni translatsion-invariant konvolyutsiya Furye fazosida nuqtaviy koʻpaytmaga aylanadi; FFT va teskari FFT ning \(O(N\log N)\) xarajati ustun boʻlgani uchun tadqiqot ikki qatlamli score tarmogʻining umumiy oldinga-oʻtish murakkabligini \(O(N\log N)\) darajasiga tushiradi.

Real-fazo konvolyutsiyasi nega qimmat?

Kritik nuqtada korrelyatsiya uzunligi divergensiyaga ketgani uchun aniq score yadrosi butun tizim boʻylab yoyilishi mumkin. Yadroni tizim oʻlchamini qamrab oladigan qilib real fazoda toʻgʻridan-toʻgʻri qoʻllash:

\[ O(N^2) \]

amal talab qiladi.

Bu yerda:

\[ N= \left( \frac{L}{a} \right)^d. \]

\(L\) chiziqli tizim oʻlchami, \(a\) panjara oraligʻi va \(d\) fazoviy oʻlchamdir.

FFT asosidagi hisoblash oqimi

  1. Real-fazo konfiguratsiyasi FFT orqali Furye fazosiga oʻtkaziladi.
  2. Konvolyutsiya yadrosi Furye fazosida har bir modga nuqtaviy koʻpaytirish sifatida qoʻllanadi.
  3. Natija teskari FFT orqali real fazoga qaytariladi.

Furye fazosidagi yadro koʻpaytmasining xarajati \(O(N)\), FFT xarajati esa:

\[ O(N\log N) = O\left( dL^d\log L \right) \]

boʻlgani uchun umumiy score-call xarajatini FFT belgilaydi.

Apparat tasdiqlashi

Manba 6-rasmda PyTorch real-fazo ikki qatlamli convolutional network bilan Furye implementatsiyasining oldinga-oʻtish wall time-larini taqqoslaydi. Tajribalar 1024 namunali batch-larda, \(d=1,2,3\) oʻlchamlari uchun va NVIDIA Tesla V100-SXM2-32GB GPU yordamida bajarilgan. Furye implementatsiyasi oʻlchangan oraliqda real-fazo convolution-dan tezroq va qulayroq tizim-oʻlchami masshtablanishini koʻrsatadi. Manba, shuningdek, bu tajriba oraligʻida nazariy \(\log L\) tuzatishi aniq ajratib koʻrsatilmaganini bildiradi.

Tadqiqot Usuli va Natijalari

Yakuniy tasdiqlash tajribasining tuzilishi

Furye asosidagi ikki qatlamli arxitektura faqat nazariy oʻqitish vaqtini emas, balki haqiqatan hosil qilingan konfiguratsiyalarning fizik xususiyatlarini toʻgʻri qayta tiklaydimi-yoʻqmi sinash uchun tadqiqot alohida generatsiya tajribasini bajaradi.

ParametrManba qiymatiIlmiy roli
Fazoviy oʻlcham\(d=2\)Ikki oʻlchovli Gaussian maydon tizimi
Tizim oʻlchamlari\(L=16,32,64,128\)Tizim-oʻlchami masshtablanishini sinaydi
Effektiv massa\(m_{\rm eff}=3/L\)Tizim kattalashgani sari kritik holatga yaqinlashadi
Diffusion-time oraligʻi\(t_{\max}=5\) → \(t_{\min}=10^{-4}\)Forward/reverse diffusion vaqt oraligʻi
Diffusion-time modellari3000 ta alohida vaqt nuqtasiHar bir \(t\) uchun mustaqil chiziqli tarmoq
Oʻqitish maʼlumotlar toʻplami\(M=4096\)Har bir modelning oʻqitish konfiguratsiyalari
Oʻrganish tezligi\(\eta=0.025\)Gradient-tushish qadam kattaligi
Ogʻirliklarni boshlangʻichlashOʻrtacha 0, standart ogʻish \(1/L\) GaussianNazariy ikki qatlamli yaqinlashish sharti bilan mos
Reverse ODE4-tartibli Runge–KuttaDenoising integratsiyasi
Integratsiya qadamlari1500Reverse ODE diskretlashtirish
Oʻqitish epoch sonlari175, 200, 225, 250Mos ravishda \(L=16,32,64,128\); \(\log L\) kutilishiga koʻra har ikki baravar oshirishda taxminan doimiy qoʻshimcha

Quvvat spektri

Birinchi fizik observable:

\[ P(k) = \left\langle |\widetilde\phi(k)|^2 \right\rangle . \tag{63} \]

Bu kattalik turli toʻlqin sonlaridagi maydon fluktuatsiyalarining oʻrtacha quvvatini oʻlchaydi. Kritik tizimda ayniqsa past \(k\) modlari uzoq masofali korrelyatsiyalarni ifodalagani uchun muhimdir.

Manba past-\(k\) qismini:

\[ \frac{1}{P(k)} \simeq ak^2+b \tag{64} \]

koʻrinishiga fit qiladi.

Bundan fitted effective mass:

\[ m_{\rm fit} = \sqrt{\frac{b}{a}} \]

sifatida olinadi.

\(L\)Maqsad \(m_{\rm eff}=3/L\)Hosil qilingan maʼlumotlardan \(m_{\rm fit}\)Manba talqini
160.1880.189(3)Maqsad bilan juda yaxshi moslik
320.0940.097(2)Maqsad bilan juda yaxshi moslik
640.04690.0463(8)Maqsad bilan juda yaxshi moslik
1280.02340.0234(4)Maqsad bilan juda yaxshi moslik

Har bir egri chiziq 20.000 konfiguratsiyadan foydalanib hosil qilingan. Bu test ayniqsa kritik holatga yaqinlashganda past-\(k\) spektri toʻgʻri hosil qilinyaptimi-yoʻqmi tekshiradi.

Toʻliq kritik nuqtadagi generatsiya testi

Manba 8-rasmda \(m_{\rm eff}=0\) va \(L=16,32,64,128\) uchun maqsadli \(O(n)\) konfiguratsiyalarini diffuziya modeli hosil qilgan konfiguratsiyalar bilan taqqoslaydi. Har bir tizim oʻlchamida 20.000 konfiguratsiya boʻyicha:

  • bitta maydon komponenti taqsimoti \(P(\phi)\),
  • action taqsimoti,
  • quvvat spektri \(P(k)\),
  • kovariatsiya matritsasi

tekshiriladi. Manba ushbu kuzatiladigan kattaliklarda hosil qilingan taqsimotlarni nazariy maqsadlardan raqamli jihatdan ajratib boʻlmasligini bildiradi.

Chekli oʻqitish maʼlumotlar toʻplamining taʼsiri

B ilovada oʻqitish namunalarining soni \(M\) alohida oʻrganiladi. Diskretlashtirilgan tizim \(N\) oʻzgaruvchi bilan ifodalanganda empirical covariance \(\widehat C_0\) orqali ideal cheksiz-oʻqitish-score bahosi:

\[ S_t = \left[ (1-e^{-2t})I + e^{-2t}\widehat C_0 \right]^{-1}. \tag{B1} \]

Real-fazo \(N\times N\) yadrosining har bir elementidagi chekli namuna xatosi \(M\) ortgani sari kamayadi. Manba tahlili Frobenius va \(L_{1,1}\) normalarida umumiy xato masshtablanishlarini oʻrganadi.

Translatsion invariantlik Furye fazosida yadroni diagonal qilgani sababli, bevosita impuls fazosida faqat \(O(N)\) parametrni oʻrganish mumkin. Bu holda manba:

\[ E_{1,1} \sim \frac{N}{\sqrt M}, \tag{B6} \]

va:

\[ E_F \sim \sqrt{ \frac{N}{M} }. \tag{B7} \]

masshtablanishlarini beradi. Normallashtirilgan nisbiy xato uchun muhim natija shuki, doimiy aniqlikni taʼminlash maqsadida \(M\) ning tizim oʻlchami bilan majburiy ravishda oshishi shart emas. Shu sababli chekli namuna xatosi bitta qatlamli kritik sekinlashuvning dominant \(L^2\) natijasini oʻzgartirmaydi.

Reverse ODE diskretlashtirish xatosi

Oddiy Euler diskretlashtirish:

\[ \frac{ \widetilde\phi(\vec k,t-\delta t) - \widetilde\phi(\vec k,t) }{ \delta t } = \widetilde\phi(\vec k,t) + (2\pi)^d \widetilde\phi(\vec k,t) \widetilde S_t(\vec k). \tag{B8} \]

va ekvivalent yangilash:

\[ \widetilde\phi(\vec k,t-\delta t) = \widetilde\phi(\vec k,t) \left[ 1+ \delta t \left( 1-(2\pi)^d\widetilde S_t(\vec k) \right) \right]. \tag{B9} \]

Euler usulida yakuniy xato \(O(\delta t)\) dir. Kritik past-impuls modida va doimiy \(\delta t\) da mutlaq xato katta \(L\) uchun taxminan chiziqli ortishi mumkin. Manba buni yuqori tartibli integratorlar yordamida ancha kamaytirish mumkinligini koʻrsatadi.

8-rasmda ishlatilgan toʻrtinchi tartibli Runge–Kutta usuli uchun zarur diskretlashtirish qadamining taxminan:

\[ L^{1/4} \]

masshtabida ortishi yetarli ekani bildiriladi. Bu bitta qatlamdagi \(L^2\) training tor joyiga qaraganda ancha zaif tizim-oʻlchami bogʻliqligidir.

Kritik Nuqtada Mahalliy Score Yadrosi Yetarlimi?

Yoʻq. C ilovaning asosiy natijasi shuki, cheklangan masofali score yadrosi umumiy score xatosini ayrim sharoitlarda kichik saqlashi mumkin boʻlsa ham, kritik \(m_{\rm eff}\rightarrow0\) tizimining past-impuls tuzilishini toʻgʻri qayta tiklay olmasligi mumkin; demak, faqat umumiy score xatosining kichikligi fizik kritik xatti-harakatning toʻgʻri hosil qilinganiga kafolat bermaydi.

Mahalliy yadroni kesish

Aniq score yadrosi:

\[ |\vec x-\vec y|>\frac{K}{2} \]

sohasida nolga tenglashtirilib, sunʼiy ravishda lokallashtiriladi. Bitta nuqtadagi score xatosi:

\[ \delta F_t^{(R)} = - \int_{|\vec y|>R} d^d\vec y\, \mathcal S_t(0,\vec y) \phi_t(\vec y), \tag{C1} \]

bu yerda \(R=K/2\).

Manbaning masshtab tahlili umumiy mahalliy xato dispersiyasi uchun:

\[ {\rm Var}[\delta F_t^{(R)}] \sim R^{-d}, \qquad d\geq3, \tag{C5} \]

\[ {\rm Var}[\delta F_t^{(R)}] \sim \frac{\log L}{R^2}, \qquad d=2, \tag{C6} \]

\[ {\rm Var}[\delta F_t^{(R)}] \sim \frac{L}{R^2}, \qquad d=1. \tag{C7} \]

natijalarini beradi.

Shunga koʻra umumiy score xatosini boshqarish uchun taxminan:

  • \(d=1\): \(R\sim\sqrt L\),
  • \(d=2\): \(R\) ning logarifmik ortishi,
  • \(d\geq3\): sabit \(R\)

yetarli boʻlishi mumkin.

Biroq bu “kritik fizika toʻgʻri hosil qilindi” degani emas. C ilovaning power-spectrum testi \(m_{\rm eff}\) kamaygani sari mahalliy/cropped score past-\(k\) spektrini notoʻgʻri qayta tiklashini koʻrsatadi. Yadroni kesish fizik jihatdan goʻyo chekli korrelyatsiya uzunligi mavjuddek xatti-harakat qiladi. Kritik nuqtada haqiqiy korrelyatsiya uzunligi divergensiyaga ketgani sababli mahalliy yadro kritik xatti-harakatni yoʻqotadi.

Bu natija nega muhim?

Mashinali oʻqitish modelining umumiy oʻrtacha xatosi kichik boʻlishi fizik jihatdan muhim barcha modlar toʻgʻri degani emas. Kritik tizimlarda past-\(k\) modlari umumiy normada kichik vaznga ega boʻlsa ham, uzoq masofali korrelyatsiyalarni belgilaydi. Shu sababli tadqiqot fizik kuzatiladigan kattaliklar bilan tasdiqlash faqat global score metrikasiga qaraganda xavfsizroq ekanini koʻrsatadi.

Tadqiqotning asosiy natijalari

Usul / arxitekturaKritik holatdagi asosiy masshtablanishManba talqini
Mahalliy Langevin / oddiy MCMC relaksatsiyasi\(\tau\sim L^2\)Fizik kritik sekinlashuv
Bitta chiziqli score qatlami + gradient tushish\(\tau_{\rm train}\sim L^2\)Fizik tor joyni meros qilib oladi
Optimally tuned momentumTaxminan \(L\)Sekinlashuvni kamaytiradi, lekin bartaraf etmaydi
Ikki chiziqli qatlam + mos initialization\(\tau_{\rm train}\sim\log L\)Kritik training daraja-qonuni sekinlashuvini bartaraf etadi
\(N_\ell\geq3\) muvozanatlangan chiziqli qatlam\(L^{2-4/N_\ell}\)Ikki qatlamdan yomonroq tizim-oʻlchami masshtablanishi
Sodda real-fazo toʻliq konvolyutsiyasi\(O(N^2)\)Hisoblash overhead-i afzallikni yoʻq qilishi mumkin
Furye score qoʻllanmasi\(O(N\log N)\)FFT xarajati ustun

Tadqiqot qoʻllab-quvvatlaydigan natijalar

  • Gaussian \(O(n\rightarrow\infty)\) modelining aniq diffusion score-i chiziqli va butun-tizimli chiziqli konvolyutsiya yadrosi bilan ifodalanishi mumkin.
  • Aniq score-ni ifodalay oladigan bitta qatlamli chiziqli tarmoqni gradient tushish bilan oʻqitish kritik nuqtada \(L^2\) masshtabli kritik sekinlashuvni koʻrsatadi.
  • Score oʻqitishidagi sekinlashuv generation xatosiga oʻtadi va toʻgʻri kovariatsiyani hosil qilishni ayni tizim-oʻlchami masshtablanishi bilan qiyinlashtiradi.
  • Ikkinchi chiziqli qatlamni qoʻshish mos \(1/L\)-masshtabli initialization sharoitida oʻqitish vaqtini \(L^2\) dan \(\log L\) ga tushiradi.
  • Koʻproq chiziqli qatlam ushbu soddalashtirilgan modelda avtomatik ravishda yaxshiroq emas; \(N_\ell>2\) uchun daraja-qonuni tizim-oʻlchami bogʻliqligi qaytadi.
  • Furye qoʻllanmasi toʻliq-masofali score hisobining oldinga-oʻtish xarajatini \(O(N^2)\) dan \(O(N\log N)\) ga tushiradi.
  • Furye asosidagi ikki qatlamli tarmoq hosil qilgan kritik Gaussian maydonlar power spectrum, action, bitta-maydon taqsimoti va covariance oʻlchovlarida nazariy maqsadlar bilan juda yaxshi moslik koʻrsatadi.
  • Chekli maʼlumotlar toʻplami va reverse-ODE diskretlashtirish xatolari oʻrganilgan va bitta qatlamli \(L^2\) training tor joyining dominant masshtablanishini oʻzgartirmasligi koʻrsatilgan.
  • Faqat global score xatosining kichik boʻlishi kritik fizik korrelyatsiyalar toʻgʻri hosil qilinganiga kafolat bermaydi; past-\(k\) xatti-harakatini alohida tekshirish kerak.

Tadqiqot qoʻllab-quvvatlamaydigan natijalar

  • \(L^2\rightarrow\log L\) yaxshilanishi barcha zamonaviy tasvir/video diffuziya modellari uchun universal qonun emas.
  • Tadqiqot Transformer, U-Net yoki katta nochiziqli generativ modellarda ayni masshtablanishni bevosita koʻrsatmaydi.
  • Natijalar chekli-\(n\) \(O(n)\) modellarda analitik ravishda tasdiqlanmagan.
  • Gaussian modelda erishib boʻlmaydigan \(m_{\rm eff}<0\) ferromagnit faza bevosita oʻrganilmaydi.
  • Nega aynan ikki qatlam bu masalada maxsus optimal ekani haqidagi umumiy fizik intuitsiya toʻliq yakunlangan deb daʼvo qilinmaydi; mualliflar buni kelajak tadqiqot mavzusi sifatida qoldiradilar.
  • Mahalliy yadroning umumiy score xatosini boshqarishi kritik fizik kuzatiladigan kattaliklarning toʻgʻri hosil qilinishiga kafolat emas.
  • Furye arxitekturasi barcha koʻp-masshtabli haqiqiy maʼlumotlar toʻplamida ayni samaradorlik ustunligini koʻrsatishi sinovdan oʻtkazilmagan.
  • Tadqiqot oʻqitish maʼlumotlar toʻplami qanday olinishi masalasini hal qilmaydi; mualliflar maʼlumotlar toʻplamini berilgan deb qabul qiladilar.

Asosiy cheklovlar va kelajak tadqiqot yoʻnalishlari

1. Gaussian katta-\(n\) limiti: Analitik nazoratning asosiy sababi ayni paytda asosiy cheklovdir. \(n\rightarrow\infty\) limiti modelni Gaussian qiladi; chekli-\(n\) oʻzaro taʼsirlari va haqiqiy nochiziqli score tuzilmalari asosiy tahlilda yoʻq.

2. Yuqori-harorat/kritik tomon: Tadqiqot \(m_{\rm eff}\geq0\) sohasiga qaratilgan. Gaussian limitda \(m_{\rm eff}<0\) model yaxshi taʼriflanmagani sababli ferromagnit buzilgan-simmetriya fazasi oʻrganilmaydi.

3. Chiziqli arxitekturalar: Bitta va ikki qatlamli tarmoqlar aktivatsiyasiz chiziqli konvolyutsiyalardan iborat. Bu arxitektura parametrizatsiyasi taʼsirini toza ajratib koʻrsatadi, ammo zamonaviy chuqur nochiziqli diffusion arxitekturalarini ifodalamaydi.

4. Har bir diffusion-time uchun alohida tarmoq: Yakuniy Furye tasdiqlashida bitta time-embedded tarmoq oʻrniga har bir sobit \(t\) uchun mustaqil tarmoq oʻqitiladi. Bu tanlov nazariyani bevosita qoʻllash uchun va standart amaliy diffusion arxitekturalaridan farq qiladi.

5. Maʼlumotlar toʻplami berilgan deb qabul qilinadi: Fizik namunalash masalalarida koʻpincha maqsadning oʻzi maqsadli taqsimotdan oʻqitish maʼlumotlarini hosil qilishdir. Maqola oʻqitish namunalarining xarajatini asosiy masala tashqarisida qoldiradi.

6. Lokallik muammosi: Kritik tizimda korrelyatsiya uzunligi divergensiyaga ketgani uchun toʻliq mahalliy score modellashtirish fizik past-\(k\) xatti-harakatini yoʻqotishi mumkin.

7. Maʼlumotlar ombori DOI-si: Yuklangan v3 PDF maʼlumotlarning mavjudligi bayonotida Duke Digital Repository ga havola qiladi, ammo [96] havolada DOI hanuz “10.7924/XXXXXXX” placeholder koʻrinishida. Verianla bu yetishmovchilikni toʻldirmaydi.

Manba va Usul Haqida Izoh

Asl sarlavha: The critical slowing down in training diffusion models

Mualliflar: Luca Maria Del Bono, Giulio Biroli, Patrick Charbonneau, Marylou Gabrié.

Mualliflar tartibi: Manba PDF dagi tartib aynan saqlangan.

Masʼul muallif: Luca Maria Del Bono. Manba PDF da yulduzcha bilan aniq “Corresponding author” deb koʻrsatilgan.

Teng hissa: Yuklangan manbada teng hissa/teng birinchi mualliflik bayonoti aniqlanmagan.

Affiliatsiyalar: Dipartimento di Fisica, Sapienza Università di Roma; CNR-Nanotec Rome unit; Laboratoire de Physique Statistique, École normale supérieure / PSL Research University; Department of Physics, Duke University; Department of Chemistry, Duke University.

Yuklangan manba versiyasi: arXiv:2605.12597v3 [cond-mat.dis-nn], 18 Sentabr 2026.

arXiv DOI: 10.48550/arXiv.2605.12597. Bu DOI arXiv qaydining doimiy identifikatori boʻlib, jurnal DOI-si emas.

Joriy nashr holati: Tadqiqot 28 Oktabr 2026 kuni PRX Intelligence tomonidan qabul qilingan. APS ning “Accepted Paper” qaydidagi DOI 10.1103/yskc-plm7. Ushbu Verianla matnining ilmiy mazmuni yuklangan arXiv v3 PDF ga asoslanadi; joriy qabul holati faqat bibliografik tasdiqlash maqsadida qoʻshilgan.

Jurnal: PRX Intelligence — qabul qilingan tadqiqot.

Nashriyot: American Physical Society (APS).

Manba turi: Nazariy, analitik va raqamli statistik fizika / mashinali oʻqitish tadqiqoti.

Asosiy sohalar: Disordered Systems and Neural Networks, Statistical Mechanics, Artificial Intelligence, Machine Learning va Computational Physics.

Asosiy fizik model: Gaussian \(O(n\rightarrow\infty)\) statistik maydon nazariyasi.

Asosiy mashinali oʻqitish usuli: Score-based diffusion modeli; bitta va ikki chiziqli konvolyutsiya qatlamining gradient-tushish oʻqitish dinamikasi.

Asosiy hisoblash usuli: Furye-fazo tahlili, aniq Gaussian score, gradient-flow yechimi, reverse diffusion ODE, FFT asosidagi score qoʻllanmasi va raqamli konfiguratsiya generatsiyasi.

Raqamli dasturiy taʼminot: Manba PyTorch konvolyutsiyalari ishlatilganini va diffusion-model integratsiya supertuzilmasining bir qismi Havola [87] dan moslashtirilganini bildiradi.

Raqamli apparat: Furye va real-fazo oldinga-oʻtish vaqtlarini taqqoslashda NVIDIA Tesla V100-SXM2-32GB GPU ishlatilgan.

Maʼlumotlar mavjudligi: Yuklangan v3 PDF “The data that support the findings of this article are openly available [96]” jumlasini oʻz ichiga oladi; biroq ayni PDF dagi Havola [96] “Duke Digital Repository https://doi.org/10.7924/XXXXXXX” koʻrinishida tugallanmagan DOI ni oʻz ichiga oladi. Shu sababli aniq maʼlumotlar ombori DOI-si ushbu manba versiyasidan tasdiqlanmaydi.

Moliyalashtirish / hisoblash infratuzilmasi: Tadqiqotda DARIAH HPC-AI cluster at CNR-NANOTEC, Lecce ishlatilgan. Manba bu infratuzilma “MUR PON Ricerca e Innovazione 2014–2020” PIR01_00022 loyihasi va European Union – NextGenerationEU – NRRP M4C2 doirasidagi H2IOSC Project IR0000029 tomonidan moliyalashtirilganini bildiradi.

Minnatdorchilik: Mualliflar Davide Carbone, Sebastian Goldt, Misaki Ozawa va Gilles Tarjus ga foydali muhokamalar uchun minnatdorchilik bildiradilar. Luca Maria Del Bono shuningdek École normale supérieure mehmondoʻstligini qayd etadi.

Manfaatlar toʻqnashuvi: Yuklangan v3 PDF da alohida manfaatlar toʻqnashuvi/competing interests bayonoti aniqlanmagan; Verianla manbada boʻlmagan bayonotni yaratmagan.

Muallif hissalari / CRediT: Yuklangan v3 PDF da alohida CRediT hissa jadvali aniqlanmagan.

Litsenziya: arXiv qaydi non-exclusive distribution license koʻrsatadi. Bu manba figuralarini Creative Commons doirasida erkin qayta ishlatish mumkin degan maʼnoga aylantirilmagan; Verianla manba figuralarini aynan koʻchirmagan, ilmiy bogʻlanishlardan mustaqil SVG va HTML jadvallar yaratgan.

Asosiy talqin chegarasi: Tadqiqot nazorat qilinadigan Gaussian \(O(n\rightarrow\infty)\) modeli ustida chiziqli score arxitekturalarini oʻrganadi. Natijalarni umumiy maqsadli katta nochiziqli diffusion modellarga miqdoriy jihatdan bevosita koʻchirish manba tomonidan isbotlanmagan.


Ulashish:

Izohlar ko‘rib chiqilgandan keyin e’lon qilinadi. Izohingiz tasdiqlash jarayoniga yuboriladi va ma’qullangach ko‘rinadi.

Izoh qoldiring

E-pochta manzilingiz chop etilmaydi. Majburiy maydonlar * bilan belgilangan