Diffuziya modeli (diffusion model), hədəf verilənlər paylanmasından götürülmüş nümunələri əvvəlcə idarə olunan şəkildə küyə çevirən və sonra öyrənilmiş bir score funksiyasının köməyi ilə bu küylü paylanmadan geriyə doğru irəliləyərək yeni nümunələr yaradan generativ model sinfidir. Bu tədqiqat diffuziya modellərinin fiziki sistem kritik nöqtəyə yaxınlaşarkən qarşılaşılan kritik yavaşımanı həqiqətən aradan qaldırıb-qaldırmadığını analitik olaraq idarə edilə bilən Gaussian \(O(n\rightarrow\infty)\) statistik sahə nəzəriyyəsi modeli üzərində araşdırır. Tədqiqatçılar bu sistemdə dəqiq score funksiyasını analitik şəkildə bildikləri üçün şəbəkə arxitekturasının öyrənmə dinamikasına təsirini hədəf funksiyanın qeyri-müəyyənliyi olmadan birbaşa həll edə bilirlər.

Tədqiqatın ilk əsas nəticəsi təəccüblüdür: dəqiq score-u funksional olaraq tam təmsil edə bilən bir lineer konvolyusiya qatlı şəbəkədən istifadə kritik yavaşımanı aradan qaldırmır. Qradient enişi ilə təlim zamanı kritik nöqtədə xarakterik təlim müddəti sistemin xətti ölçüsü \(L\) ilə təxminən \(L^2\) kimi miqyaslanır. Bu, eyni Gaussian modelin standart lokal Langevin dinamikasındakı \(z=2\) kritik yavaşıma ilə eyni sistem-ölçüsü miqyaslanmasıdır. Təlimdəki xəta daha sonra denoising/generation mərhələsinə ötürülür və yaradılan sahələrin kovariasiyasının düzgün bərpasını da eyni xarakterik miqyaslanma ilə çətinləşdirir.

İkinci əsas nəticə yalnız bir əlavə lineer qatın dinamikanı keyfiyyətcə dəyişə bilməsidir. Hər iki qat aktivləşdirmə funksiyası olmadan lineerdir və birqatlı şəbəkədən daha güclü funksiya sinfini təmsil etmək məcburiyyətində deyil; buna baxmayaraq uyğun başlanğıc şərtlərində həddindən artıq parametrizasiya qradient-enişi təlim müddətinin sistem ölçüsü ilə \(L^2\) əvəzinə təxminən \(\log L\) kimi miqyaslanmasını təmin edir. Tədqiqatın idarə olunan modelində ikiqatlı quruluş beləliklə kritik təlim yavaşımasını aradan qaldırır.

Lakin yalnız təlim müddətinin yaxşılaşması kifayət deyil. Bütün sistemi əhatə edən konvolyusiya nüvəsinin real fəzada sadəlövh tətbiqi bir irəli keçid üçün \(O(N^2)\) əməliyyat tələb edir. Tədqiqatçılar konvolyusiyanın Furye fəzasında vurma əməliyyatına çevrilməsi xüsusiyyətindən istifadə edərək score hesablamasını FFT → Furye-fəzası vurması → tərs FFT şəklində həyata keçirirlər. Beləliklə ümumi irəli-keçid mürəkkəbliyi \(O(N\log N)\) səviyyəsinə endirilir. Burada \(N=(L/a)^d\), \(d\) fəza ölçüsü, \(a\) isə qəfəs addımıdır.

Bu nəticələrin şərh sərhədi vacibdir. Tədqiqat real görüntü, video və ya ümumi məqsədli böyük diffuziya şəbəkəsini öyrətmir. Araşdırılan sistem Gaussian \(O(n\rightarrow\infty)\) modelidir; score lineerdir, arxitekturalar lineer konvolyusiya qatlarıdır və analitik həll məlumdur. Buna görə \(L^2\rightarrow\log L\) nəticəsi bütün müasir diffuziya modelləri üçün universal təlim qanunu kimi şərh edilə bilməz. Tədqiqatın dəyəri kritik yavaşıma ilə şəbəkə parametrizasiyası arasındakı əlaqəni tam idarə edilə bilən fiziki modeldə analitik olaraq göstərə bilməsidir.

Kritik Yavaşıma Nədir və Bu Tədqiqatda Niyə Vacibdir?

Kritik yavaşıma fiziki sistem faza keçidinin kritik nöqtəsinə yaxınlaşdıqda uzunmənzilli korrelyasiyaların yaranması səbəbindən lokal nümunələmə dinamikasının getdikcə daha yavaş dekorrelyasiya göstərməsidir. Araşdırılan \(O(n\rightarrow\infty)\) modelində standart lokal Langevin dinamikasının xarakterik relaksasiya müddəti kritik nöqtədə \(\tau\sim L^2\) kimi miqyaslanır; tədqiqatın əsas sualı öyrənilmiş diffuziya nümunələyicisinin eyni darboğazı miras alıb-almamasıdır.

Fiziki başlanğıc modeli: \(O(n)\) sahə nəzəriyyəsi

Tədqiqatın əsas fiziki sistemi \(n\) komponentli \(\vec{\phi}(\vec{x})\) sahəsi üçün təyin olunan \(O(n)\) modelidir. Mənbənin Tənlik (1)-də verdiyi action:

\[ S(\vec{\phi}) = \frac{1}{2} \int_V d^d\vec{x} \left[ \sum_{\nu=1}^{d}\sum_{a=1}^{n} (\partial_\nu\phi_a)^2 + m^2\sum_{a=1}^{n}\phi_a^2 + \frac{g}{2n} \left( \sum_{a=1}^{n}\phi_a^2 \right)^2 \right]. \tag{1} \]

Burada \(\vec{x}\) \(d\)-ölçülü fəzadakı mövqeyi; \(a\), \(n\) sahə komponentindən hansının nəzərdən keçirildiyini; \(\partial_\nu\phi_a\), sahənin fəza üzrə dəyişməsini; \(m^2\), modelin davranışını idarə edən kütlə parametrini; \(g>0\) isə dördlü qarşılıqlı təsirin gücünü ifadə edir. Tədqiqat kontekstində \(m\) temperatura bənzər idarəetmə parametri rolunu oynayır.

Böyük-\(n\) limitində problem niyə asanlaşır?

\(n\rightarrow\infty\) limitində model effektiv olaraq Gaussian hala gəlir:

\[ S_\Lambda(\vec{\phi}) = \frac{1}{2} \int_V d^d\vec{x} \left[ \sum_{\nu=1}^{d}\sum_{a=1}^{n} (\partial_\nu\phi_a)^2 + (m^2+\Lambda g) \sum_{a=1}^{n}\phi_a^2 \right]. \tag{2} \]

\(\Lambda\) öz-özünə uyğun şəkildə:

\[ \Lambda = \frac{1}{(2\pi)^d} \int d^d\vec{k}\, \frac{1}{ \vec{k}\cdot\vec{k}+m^2+\Lambda g }. \tag{3} \]

tənliyi ilə müəyyən edilir.

Beləliklə:

\[ m_{\rm eff}^2=m^2+\Lambda g \]

effektiv kütləsi modelin davranışını idarə edən mərkəzi parametrə çevrilir. Kritik nöqtə:

\[ m_{\rm eff}=0 \]

kimi təyin edilir.

Bu sadələşmə tədqiqatın əsas üstünlüyüdür. Gaussian paylanmalar üçün korrelyasiyalar, score və diffuziya dinamikası analitik olaraq hesablana bildiyi üçün tədqiqatçılar “şəbəkənin hədəflədiyi həqiqi score nədir?” sualının cavabını tam bilirlər. Beləliklə təlimdə müşahidə olunan yavaşıma naməlum hədəf funksiyasının mürəkkəbliyindən deyil, birbaşa optimallaşdırma və korrelyasiya quruluşundan araşdırıla bilir.

Hədəf Boltzmann–Gibbs paylanması

Məqsəd aşağıdakı paylanmadan sahə konfiqurasiyaları yaratmaqdır:

\[ P(\vec{\phi}) = \frac{1}{Z} e^{-S_\Lambda(\vec{\phi})}, \tag{4} \]

burada:

\[ Z = \int D\vec{\phi}\, e^{-S_\Lambda(\vec{\phi})} \]

bölmə funksiyasıdır.

Fiziki kritik yavaşlamanın ölçüsü

Lokal nümunələyicinin nə qədər sürətlə dekorrelyasiya etdiyini görmək üçün tədqiqat avtokorrelyasiya funksiyasından istifadə edir:

\[ C(\vec{x},\vec{x};T) = \frac{1}{V} \int_V d^d x\, \left\langle \phi(\vec{x},T)\phi(\vec{x},0) \right\rangle . \tag{5} \]

\(T\) fiziki nümunələmə/simulyasiya zamanıdır. Kritik nöqtəyə yaxınlaşdıqca korrelyasiyanın sönməsi yavaşıyır. Xətti ölçüsü \(L\) olan hiperkubik sistemdə standart lokal dinamika üçün:

\[ \tau\sim L^z, \qquad z=2. \]

Beləliklə:

\[ \tau\sim L^2. \]

Bu \(L^2\) davranışı daha sonra birqatlı score təliminin miqyaslanması ilə birbaşa müqayisə olunur.

Aşağı ölçülərdə kritik nöqtə haqqında vacib məhdudiyyət

Mənbə \(d\leq2\) üçün sonlu \(m^2\) qiymətində klassik mənada sonlu-temperatur faza keçidinin olmadığını bildirir. Məsələn \(d=1\) üçün:

\[ m_{\rm eff}^2 = m^2 + \frac{g}{2} \frac{1}{\sqrt{m_{\rm eff}^2}}. \tag{6} \]

\(m_{\rm eff}\rightarrow0\) olduqda \(m^2\)-nin mənfi istiqamətdə divergent olması tələb olunur. \(d=2\)-də də UV kəsilməsindən sonra loqarifmik davranış yaranır. Buna görə tədqiqat sonrakı analizlərdə birbaşa Gaussian nəzəriyyəsindən və \(m_{\rm eff}\)-dən idarəetmə parametri kimi istifadə edərək kritikliyi \(m_{\rm eff}\rightarrow0\) şəklində araşdırır.

Diffuziya Modelində Score Funksiyası Nədir?

Score funksiyası müəyyən diffusion-time \(t\)-də ehtimal paylanmasının sahə dəyişənlərinə görə loqarifmik törəməsidir; başqa sözlə, modelin mövcud küylü konfiqurasiyanı ehtimalın daha yüksək olduğu istiqamətlərə necə düzəltməli olduğunu müəyyən edən vektor sahəsidir. Bu tədqiqatın Gaussian sistemində score lineerdir və dəqiq şəkildə hesablana bildiyi üçün öyrənilmiş şəbəkə birbaşa həqiqi score ilə müqayisə edilə bilər.

Forward diffusion: verilənlərin küyləndirilməsi

Hədəf paylanmadan başlanğıc konfiqurasiya götürülür:

\[ \vec{\phi}(\vec{x},0) \sim P^\ast(\vec{\phi}). \tag{7} \]

Daha sonra Ornstein–Uhlenbeck prosesi ilə küyləndirilir:

\[ \frac{\partial\vec{\phi}(\vec{x},t)}{\partial t} = -\vec{\phi}(\vec{x},t) + \vec{\zeta}(\vec{x},t). \tag{8} \]

\(\vec{\zeta}\) ağ Gaussian küydür və kovariasiyası:

\[ \left\langle \zeta(\vec{x},t) \zeta(\vec{x}',t') \right\rangle = 2\, \delta^{(d)}(\vec{x}-\vec{x}') \delta(t-t') \]

şəklindədir.

Reverse diffusion: küydən hədəf paylanmaya qayıdış

Mənbə əsas analizdə deterministic probability-flow ODE istifadə edir:

\[ -\partial_t\vec{\phi}(\vec{x},t) = \vec{\phi}(\vec{x},t) + \vec{\mathcal F}_t(\vec{\phi}(\vec{x},t)). \tag{10} \]

Score:

\[ \vec{\mathcal F}_t(\vec{\phi}) = \frac{ \delta\log P_t(\vec{\phi}) }{ \delta\vec{\phi}(\vec{x}) }. \tag{11} \]

Burada \(P_t\), forward diffusion zamanı \(t\) anında yaranan paylanmadır. Score dəqiqdirsə, reverse ODE ideal halda küylü paylanmanı hədəf paylanmaya geri daşıyır.

Score matching itkisi

Dəqiq score məlum olsaydı, təlim itkisi:

\[ \mathcal L_t(\vec{F}_t) = \frac{1}{2} \int D\vec{\phi}\, P_t(\vec{\phi}) \left\| \vec{F}_t(\vec{\phi}) - \vec{\mathcal F}_t(\vec{\phi}) \right\|^2. \tag{12} \]

şəklində yazıla bilər. Burada \(\vec{F}_t\) öyrənilən score, \(\vec{\mathcal F}_t\) isə dəqiq score-dur.

Praktikada dəqiq score əksər problemlərdə məlum olmadığından, mənbə denoising score-matching ilə ekvivalent formanı da verir:

\[ \widehat{\mathcal L}_t(\vec F_t) = \frac{1}{2} \mathbb E_{\vec\phi_0\sim P_0} \int D\vec\phi\, P_t(\vec\phi|\vec\phi_0) \left\| \vec F_t(\vec\phi) + \frac{ \vec\phi-e^{-t}\vec\phi_0 }{ \Delta_t } \right\|^2, \tag{13} \]

burada:

\[ \Delta_t=1-e^{-2t}. \]

Bu tədqiqatda dəqiq score analitik olaraq məlum olduğuna görə təlim dinamikasının nəzəri həllində Tənlik (12)-dən istifadə edilir.

Forward diffusion-dan sonrakı paylanma

Bir sahə komponenti üçün Furye fəzasında paylanma:

\[ P_t(\widetilde\phi) \propto \exp \left\{ -\frac{(2\pi)^d}{2} \int d^d\vec{k}\, \left[ \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} } \right] \widetilde\phi(\vec{k}) \widetilde\phi(-\vec{k}) \right\}. \tag{14} \]

Bu ifadə Gaussian quruluşun diffusion müddəti ərzində qorunduğunu göstərir.

Dəqiq score niyə lineer konvolyusiyadır?

Dəqiq score:

\[ \mathcal F_t(\phi) = -\int d^d\vec y\, \mathcal S_t(\vec x,\vec y)\phi(\vec y). \tag{15} \]

şəklindədir. Yəni sahənin özünə xətti operator tətbiq olunur.

Score nüvəsi:

\[ \begin{aligned} \mathcal S_t(\vec x,\vec y) =& \int\frac{d^d\vec k}{(2\pi)^d} \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} } e^{i\vec k\cdot(\vec y-\vec x)} \\ =& \frac{1}{\Delta_t} \delta^{(d)}(\vec y-\vec x) - \frac{e^{-2t}}{(2\pi)^{d/2}\Delta_t^2} \left( \frac{M_t}{|\vec y-\vec x|} \right)^{d/2-1} K_{d/2-1} \left( M_t|\vec y-\vec x| \right), \end{aligned} \tag{16} \]

burada:

\[ M_t^2 = m_{\rm eff}^2 + \frac{e^{-2t}}{\Delta_t} \]

və \(K_\nu\), ikinci növ modifikasiya olunmuş Bessel funksiyasıdır.

Score nüvəsi iki hissədən ibarətdir: delta funksiyasından gələn dəqiq lokal hissə və fəzada yayılan quyruq. Qısa məsafədə bu quyruq Yukawa-bənzər qüvvət qanunu davranışı göstərdiyi halda, uzun məsafədə eksponensial olaraq basdırılır. Kritikliyə doğru \(m_{\rm eff}\rightarrow0\) olduqda uzunmənzilli quruluş əhəmiyyət qazanır.

Furye fəzasında translasiya invariantlığı sayəsində nüvə diaqonal hala gəlir:

\[ \widetilde{\mathcal S}_t(\vec k) = \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} }. \tag{17} \]

Bir qat dəqiq score-u təmsil edə bilir; bəs niyə yenə də problem var?

Birqatlı təxmini score eyni şəkildə yazılır:

\[ F_t(\phi) = -\int d^d\vec y\, S_t(\vec x,\vec y) \phi(\vec y). \tag{18} \]

Burada model tutumu əsas problem deyil: \(S_t\) uyğun qiymətə çatdıqda şəbəkə dəqiq \(\mathcal S_t\)-ni təmsil edə bilər. Tədqiqatın müəyyən etdiyi kritik darboğaz təmsil edilə bilməkdən daha çox parametrlərin müxtəlif Furye modlarında nə qədər sürətlə öyrənilməsidir.

Gradient-flow tənliyi

Nüvə üçün population loss:

\[ \mathcal L_t = \frac{1}{2} \int D\phi\,P_t(\phi) \left\| \int d^d\vec y\, [S_t(\vec x,\vec y)-\mathcal S_t(\vec x,\vec y)] \phi(\vec y) \right\|^2. \tag{19} \]

Gradient flow:

\[ \frac{ dS_t(\vec x',\vec y') }{ d\bar t } = -\eta \frac{ \delta\mathcal L_t }{ \delta S_t(\vec x',\vec y') }, \tag{20} \]

burada \(\bar t\) təlim zamanı, \(t\) isə diffusion/noising zamanıdır. İki zaman dəyişəni bir-birindən fərqlidir.

Operator forması:

\[ \frac{dS_t}{d\bar t} = -\eta (S_t-\mathcal S_t)C_t, \tag{21} \]

və kovariasiya:

\[ C_t(\vec x,\vec y) = \langle \phi(\vec x)\phi(\vec y) \rangle_t. \tag{22} \]

Başlanğıcda öyrədilməmiş \(S_t(0)=0\) üçün həll:

\[ S_t(\bar t) = \mathcal S_t \left( 1-e^{-\eta C_t\bar t} \right). \tag{23} \]

Bu tənlik kritik nəticənin riyazi mənbəyidir: müxtəlif kovariasiya özqiymətləri müxtəlif sürətlərlə öyrənilir.

Birqatlı Şəbəkədə Təlim Müddəti Niyə \(L^2\) Kimi Miqyaslanır?

Birqatlı şəbəkədə hər Furye modunun öyrənmə müddəti həmin modun kovariasiya özqiymətindən asılıdır; kritik nöqtədə ən kiçik sıfırdan fərqli impuls \(k_{\min}=2\pi/L\) olduğuna görə stabil qradient-enişi öyrənmə sürəti təxminən \(k_{\min}^2\propto L^{-2}\) miqyasına sıxılır və \(k=O(1)\) modlarını öyrənmək üçün tələb olunan effektiv təlim müddəti \(L^2\) ilə artır.

Furye-modu kovariasiyası

Mənbə:

\[ \langle \widetilde\phi(\vec k) \widetilde\phi(\vec q) \rangle_t = \frac{ \delta^{(d)}(\vec k+\vec q) }{ (2\pi)^d } \widetilde C_t(\vec k), \tag{24} \]

və:

\[ \widetilde C_t(\vec k) = \frac{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} }{ k^2+m_{\rm eff}^2 }. \tag{25} \]

alır.

Uyğun zaman miqyası:

\[ \tau_t(\vec k) = \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} }. \tag{26} \]

Uzun noising-time limitində:

\[ \lim_{t\rightarrow\infty} \tau_t(\vec k) = 1. \tag{27} \]

Yəni bütün modların təlim müddətləri bir-birinə yaxınlaşır.

Qısa-noising-time limitində isə:

\[ \lim_{t\rightarrow0} \tau_t(\vec k) = k^2+m_{\rm eff}^2. \tag{28} \]

Bu ifadə Langevin dinamikasının hər moda düşən zaman miqyası ilə eyni quruluşdadır.

Ən kiçik zaman miqyası:

\[ \tau_{\min} = k_{\min}^2+m_{\rm eff}^2. \tag{29} \]

Qradient enişinin stabil qalması üçün öyrənmə sürəti ən sürətli moda görə məhdudlaşdırılır. Mənbə minimax-optimal öyrənmə sürətini:

\[ \eta_{\rm opt} = \frac{ 2 }{ \tau_{\min}^{-1} + \tau_{\max}^{-1} } \tag{30} \]

kimi verir və maksimum stabil öyrənmə sürətinin eyni miqyaslanmaya malik olduğunu izah edir.

Score-nüvə xəta metrikası

\[ \varepsilon_S = \frac{ \sum_{x,y} |S(x,y)-\mathcal S(x,y)| }{ \sum_{x,y} |\mathcal S(x,y)| }. \tag{31} \]

Bu, öyrənilən nüvə ilə dəqiq nüvə arasındakı normallaşdırılmış mütləq xətadır.

Effektiv təlim müddəti

Kiçik noising time üçün və maksimum öyrənmə sürəti miqyasında:

\[ \tau^{\rm eff}(\vec k) = \frac{ \tau(\vec k) }{ 2\tau_{\min} } = \frac{ m_{\rm eff}^2+k^2 }{ 2(m_{\rm eff}^2+k_{\min}^2) }. \tag{32} \]

Sonlu sistemdə sıfır mod ayrıca öyrənilə bildiyi üçün ən kiçik sıfırdan fərqli impuls:

\[ k_{\min} = \frac{2\pi}{L} \]

və:

\[ \tau_{\min} = \left( \frac{2\pi}{L} \right)^2 + m_{\rm eff}^2. \tag{33} \]

Kritiklikdə \(m_{\rm eff}=0\) olduqda \(k=O(1)\) üçün:

\[ \tau^{\rm eff} \sim L^2. \]

Nəticə budur ki, dəqiq score-u təmsil edən birqatlı şəbəkə belə kritik nöqtədə standart lokal nümunələmənin \(L^2\) miqyaslanmasını miras alır.

Digər optimizer-lər problemi həll edirmi?

Mənbə optimal sazlanmış momentum metodunun kritik miqyaslanmanı \(L^2\)-dən təxminən \(L\)-yə yaxşılaşdıra bildiyini, lakin divergent sistem-ölçüsü asılılığını tam aradan qaldırmadığını bildirir. Real-fəza optimallaşdırmasında Adagrad və Adam isə bu sadə convex problemdə dəqiq score nüvəsinə yaxınlaşmamışdır. Buna görə qradient enişinə xas əmsallar dəyişə bilsə də, kritik təlim yavaşıması yalnız optimizer-i dəyişməklə avtomatik aradan qalxmır.

Təlim xətası generasiyaya necə ötürülür?

Dəqiq score üçün Furye modunun reverse-diffusion tənliyi:

\[ \partial_t \widetilde\phi^\ast(\vec k,t) = - \widetilde\phi^\ast(\vec k,t) \left[ 1- \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} } \right]. \tag{34} \]

Bunun dəqiq həlli:

\[ \widetilde\phi^\ast(\vec k,t;t_{\max}) = \frac{ \sqrt{ e^{-2t}+ \Delta_t(k^2+m_{\rm eff}^2) } }{ \sqrt{ e^{-2t_{\max}}+ \Delta_{t_{\max}} (k^2+m_{\rm eff}^2) } } \, \widetilde\phi^\ast(\vec k,t_{\max}). \tag{35} \]

\(t_{\max}\rightarrow\infty\) limitində:

\[ \widetilde\phi^\ast(\vec k,t;\infty) = \frac{ \sqrt{ e^{-2t}+ \Delta_t(k^2+m_{\rm eff}^2) } }{ \sqrt{k^2+m_{\rm eff}^2} } \, \widetilde\phi^\ast(\vec k,\infty). \tag{36} \]

Bu həll dəqiq \(P_t\) paylanmasını yenidən yaradır.

Sonlu təlim müddətində təxmini score istifadə olunduqda Tənlik (37) score-un öyrənilməmiş hissəsini:

\[ 1- \exp \left[ -\frac{\eta\bar t}{\tau_t(\vec k)} \right] \]

faktoru vasitəsilə reverse dinamikaya daxil edir. Mənbə Tənlik (38)-də bu tənliyin eksponensial integral \(\operatorname{Ei}\) ehtiva edən dəqiq qapalı həllini çıxarır. Eksponensial integral:

\[ \operatorname{Ei}(x) = - \int_{-x}^{\infty} \frac{e^{-u}}{u}\,du. \tag{39} \]

kimi təyin edilir. Bu uzun qapalı həllin fiziki mesajı budur ki, score-un müəyyən modlarda kifayət qədər öyrədilməməsi reverse diffusion zamanı həmin modların dispersiyasını sistematik şəkildə dəyişdirir.

Generation xətası necə ölçülür?

Gaussian modeldə paylanmanın orta qiyməti sıfır olduğuna görə yaradılan paylanma tamamilə kovariasiya matrisi ilə xarakterizə edilir. Mənbə normallaşdırılmış Frobenius xətasından istifadə edir:

\[ \varepsilon_C(\bar t,L) = \frac{ \left\| C_{\rm gen}(\bar t,L) - C^\ast(L) \right\|_F }{ \left\| C^\ast(L) \right\|_F }. \tag{42} \]

\(C^\ast\) hədəf kovariasiya, \(C_{\rm gen}\) yaradılan sahələrin kovariasiyası, \(\|\cdot\|_F\) isə Frobenius normudur.

Kritiklikdə aparıcı nisbi xəta davranışı:

\[ \sim \exp \left( -\frac{ \bar t\,t_{\max} }{ L^2 } \right) \]

şəklindədir. Beləliklə təlimdəki \(L^2\) kritik yavaşıma düzgün kovariasiyaya malik nümunələrin yaradılmasını da birbaşa yavaşıdır.

İkinci Lineer Qat Kritik Yavaşımanı Necə Azaldır?

İkinci lineer qat yeni qeyri-xətti funksiya sinfi əlavə etməkdən çox score nüvəsinin faktorlaşdırılmış, həddindən artıq parametrli təmsilini yaradır; bu parametrizasiya qradient-enişi istiqamətlərini effektiv şəkildə yenidən şərtləndirərək Furye modları arasındakı öyrənmə-müddəti fərqini birqatlı haldakı xətti kovariasiya asılılığından loqarifmik asılılığa çevirir.

İkiqatlı score modeli

İki translasiya-invariant nüvədən istifadə edilir:

\[ F_t^{\rm ov}(\phi) = - \int d^d\vec z\,d^d\vec y\, S_t^{(2)}(\vec x,\vec z) S_t^{(1)}(\vec z,\vec y) \phi(\vec y). \tag{46} \]

Gradient-flow tənlikləri:

\[ \frac{dS_t^{(1)}}{d\bar t} = -\eta \left(S_t^{(2)}\right)^\dagger \left( S_t^{(2)}S_t^{(1)}C_t-I \right), \tag{47} \]

\[ \frac{dS_t^{(2)}}{d\bar t} = -\eta \left( S_t^{(2)}S_t^{(1)}C_t-I \right) \left(S_t^{(1)}\right)^\dagger. \tag{48} \]

Furye fəzasında hər mod müstəqil olur:

\[ \frac{ d\widetilde S_t^{(1)}(\vec k) }{ d\bar t } = -\eta \widetilde S_t^{(2)}(\vec k) \left[ \widetilde S_t^{(2)}(\vec k) \widetilde S_t^{(1)}(\vec k) \widetilde C_t(\vec k) -1 \right], \tag{49} \]

\[ \frac{ d\widetilde S_t^{(2)}(\vec k) }{ d\bar t } = -\eta \left[ \widetilde S_t^{(2)}(\vec k) \widetilde S_t^{(1)}(\vec k) \widetilde C_t(\vec k) -1 \right] \widetilde S_t^{(1)}(\vec k). \tag{50} \]

Sabit nöqtə:

\[ \widetilde S_t^{(2)}(\vec k) \widetilde S_t^{(1)}(\vec k) \widetilde C_t(\vec k) = 1. \]

Yəni iki qatın ayrı-ayrılıqda vahid məcburi optimumu yoxdur; vacib olan onların hasilinin dəqiq score-u verməsidir. Həddindən artıq parametrizasiya burada məhz bu faktorlaşdırma sərbəstliyidir.

Balanslaşdırılmış ikiqatlı halda logistic tənlik

İki qat başlanğıcda bərabərdirsə:

\[ s= \widetilde S_t^{(1)}(\vec k) = \widetilde S_t^{(2)}(\vec k), \qquad c= \widetilde C_t(\vec k)>0 \]

və:

\[ \dot{s} = \eta s(1-cs^2). \tag{51} \]

\[ u=s^2 \]

tərifi ilə:

\[ \dot{u} = 2\eta u(1-cu). \tag{52} \]

Bu standart logistic tənlikdir və həlli:

\[ u(\bar t) = \frac{ u_0 e^{2\eta\bar t} }{ 1-cu_0+cu_0e^{2\eta\bar t} }. \tag{53} \]

Beləliklə:

\[ s(\bar t) = \operatorname{sgn}[s(0)] \sqrt{ \frac{ u_0 e^{2\eta\bar t} }{ 1-cu_0+cu_0e^{2\eta\bar t} } }. \tag{54} \]

Kritik fərq budur: birqatlı Tənlik (23)-də \(c\) eksponensial yaxınlaşma sürətinin birbaşa daxilində olduğu halda, ikiqatlı Tənlik (53)-də \(e^{2\eta\bar t}\) hissəsi \(c\)-dən asılı deyil. Hədəf dəqiqliyinə çatma müddəti beləliklə \(c\)-dən xətti deyil, loqarifmik asılılıq göstərir.

Başlanğıc çəkilər niyə vacibdir?

Mənbə bütün modlarda \(\eta=O(1)\) səviyyəsində stabil yaxınlaşma üçün başlanğıc qat çəkilərinin təxminən:

\[ s(0)=O(1/L) \]

miqyasında seçilməsini tələb edir. Standart Kaiming kimi \(O(1)\) böyüklüyündə başlanğıcların sistem ölçüsü artdıqca bu nəzəri problem üçün getdikcə daha problemli ola biləcəyini bildirir.

Qatlar başlanğıcda bərabər deyilsə

Ümumi halda:

\[ u(\bar t) = s_1(\bar t)s_2(\bar t), \tag{55} \]

və qat uyğunsuzluğu:

\[ d_0=s_1^2(0)-s_2^2(0), \qquad \delta=|d_0|, \qquad \alpha=\frac{\delta}{2}. \]

Mənbə həmçinin:

\[ \kappa = c\alpha = \frac{c\delta}{2}, \qquad A = \sqrt{ 1+\kappa^2 } = \sqrt{ 1+\frac{c^2d_0^2}{4} }. \tag{56} \]

təyin edir. Qapalı həll Tənlik (57)-də \(q_0\), \(R_0\), \(R(\bar t)\), \(q(\bar t)\) və \(u(\bar t)\) zənciri ilə verilir. Yaxınlaşmanın eksponensial hissəsi \(A\eta\) ilə idarə olunur. Sistem ölçüsü ilə polinom tipli pisləşmənin qarşısını almaq üçün:

\[ d_0 \lesssim \frac{1}{L^2} \]

şərti tələb olunur. \(s_1,s_2=O(1/L)\) seçimi bunun üçün kifayət şərtdir.

Nümerik doğrulama

İki arxitekturanın mod-əsaslı score xətası:

\[ \varepsilon_{F_e}(\vec k) = \left[ \frac{ \overline{ \left| F_t^{\rm ov}[\phi_t(\vec k)] - \mathcal F_t[\phi_t(\vec k)] \right|^2 } }{ \overline{ \left| \mathcal F_t[\phi_t(\vec k)] \right|^2 } } \right]^{1/2}. \tag{58} \]

Dəqiq Furye score-u:

\[ \mathcal F_t[\phi(\vec k)] = - \widetilde{\mathcal S}_t(\vec k) \widetilde\phi(\vec k). \tag{59} \]

Mənbənin Şəkil 5 doğrulamasında \(d=2\), \(m_{\rm eff}=0\), \(a=1\), \(t=0.01\), \(L=16\) şərtlərindən istifadə edilir. Birqatlı halda xarakterik xəta sönmə müddəti \(1/\widetilde C(\vec k)\) ilə, ikiqatlı halda isə təxminən \(-\log\widetilde C(\vec k)\) ilə dəyişir. Nümerik təcrübələr 1024 təlim konfiqurasiyasının və 500 müstəqil simulyasiyanın ortalamasından istifadə edir.

Daha çox qat daha yaxşıdırmı?

Mənbə bu sualı \(N_\ell\) bərabər qatlı sadələşdirilmiş modellə analiz edir. \(u=s^{N_\ell}\) üçün:

\[ \dot u = \eta N_\ell u^{\,2-2/N_\ell} (1-cu). \tag{60} \]

Tələb olunan başlanğıc miqyası:

\[ s_0 \sim L^{-2/N_\ell}. \tag{61} \]

Xarakterik təlim müddəti:

\[ \tau_{\rm eff} \sim L^{\,2-4/N_\ell}. \tag{62} \]

\(N_\ell=2\) xüsusi halında qüvvət-qanunu üstü sıfıra enir və daha ətraflı analiz \(\log L\) miqyaslanmasını verir. Lakin \(N_\ell\geq3\) üçün yenidən müsbət \(L\) qüvvəti yaranır. \(N_\ell\rightarrow\infty\) limitində üst 2-yə yaxınlaşır. Buna görə tədqiqatın sadələşdirilmiş balanslaşdırılmış modelində “daha çox dərinlik həmişə daha sürətlidir” nəticəsi çıxmır; iki qat nəzəri olaraq xüsusi və ən üstün haldır.

Furye Fəzası Tətbiqi Hesablama Xərcini Necə Dəyişdirir?

Real fəzada bütün sistemi əhatə edən konvolyusiyanın irəli keçidi \(O(N^2)\) əməliyyat tələb etdiyi halda, eyni translasiya-invariant konvolyusiya Furye fəzasında nöqtəvi vurmaya çevrilir; FFT və tərs FFT-nin \(O(N\log N)\) xərci dominant olduğuna görə tədqiqat ikiqatlı score şəbəkəsinin ümumi irəli-keçid mürəkkəbliyini \(O(N\log N)\) səviyyəsinə endirir.

Real-fəza konvolyusiyası niyə bahadır?

Kritik nöqtədə korrelyasiya uzunluğu divergent olduğuna görə dəqiq score nüvəsi bütün sistem ölçüsünə yayıla bilər. Nüvəni sistem ölçüsünü əhatə edəcək şəkildə real fəzada birbaşa tətbiq etmək:

\[ O(N^2) \]

əməliyyat tələb edir.

Burada:

\[ N= \left( \frac{L}{a} \right)^d. \]

\(L\) xətti sistem ölçüsü, \(a\) qəfəs addımı, \(d\) isə fəza ölçüsüdür.

FFT əsaslı hesablama axını

1. Real-fəza konfiqurasiyası FFT ilə Furye fəzasına çevrilir.
2. Konvolyusiya nüvəsi Furye fəzasında hər moda nöqtəvi vurma kimi tətbiq edilir.
3. Nəticə tərs FFT ilə real fəzaya qaytarılır.

Furye fəzasında nüvə vurmasının xərci \(O(N)\) olduğu halda FFT xərci:

\[ O(N\log N) = O\left( dL^d\log L \right) \]

olduğuna görə ümumi score-call xərcini FFT müəyyən edir.

Aparat doğrulaması

Mənbə Şəkil 6-da PyTorch real-fəza ikiqatlı convolutional network ilə Furye tətbiqinin irəli-keçid wall time-larını müqayisə edir. Təcrübələr 1024 nümunəli batch-lər üzərində, \(d=1,2,3\) ölçüləri üçün və NVIDIA Tesla V100-SXM2-32GB GPU istifadə olunaraq aparılmışdır. Furye tətbiqi ölçülən aralıqda real-fəza convolution-dan daha sürətlidir və daha əlverişli sistem-ölçüsü miqyaslanması göstərir. Mənbə həmçinin bu təcrübə aralığında nəzəri \(\log L\) düzəlişinin açıq şəkildə ayırd edilmədiyini bildirir.

Tədqiqatın Metodu və Nəticələri

Son doğrulama təcrübəsinin quruluşu

Furye əsaslı ikiqatlı arxitekturanın yalnız nəzəri təlim müddətini deyil, həqiqətən yaradılan konfiqurasiyaların fiziki xüsusiyyətlərini düzgün bərpa edib-etmədiyini sınamaq üçün tədqiqat ayrıca generasiya təcrübəsi aparır.

Güc spektri

İlk fiziki observable:

\[ P(k) = \left\langle |\widetilde\phi(k)|^2 \right\rangle . \tag{63} \]

Bu kəmiyyət müxtəlif dalğa ədədlərində sahə fluktuasiyalarının orta gücünü ölçür. Kritik sistemdə xüsusilə aşağı \(k\) modları uzunmənzilli korrelyasiyaları təmsil etdiyi üçün vacibdir.

Mənbə aşağı-\(k\) hissəsini:

\[ \frac{1}{P(k)} \simeq ak^2+b \tag{64} \]

formasına fit edir.

Buradan fitted effective mass:

\[ m_{\rm fit} = \sqrt{\frac{b}{a}} \]

kimi alınır.

Hər əyri 20.000 konfiqurasiyadan istifadə etməklə yaradılmışdır. Bu test xüsusilə kritikliyə yaxınlaşarkən aşağı-\(k\) spektrinin düzgün yaradılıb-yaradılmadığını yoxlayır.

Tam kritik nöqtədə generasiya testi

Mənbə Şəkil 8-də \(m_{\rm eff}=0\) və \(L=16,32,64,128\) üçün hədəf \(O(n)\) konfiqurasiyaları ilə diffuziya modeli tərəfindən yaradılan konfiqurasiyaları müqayisə edir. Hər sistem ölçüsündə 20.000 konfiqurasiya üzrə:

• bir sahə komponentinin paylanması \(P(\phi)\),
• action paylanması,
• güc spektri \(P(k)\),
• kovariasiya matrisi

yoxlanılır. Mənbə bu müşahidə olunan kəmiyyətlərdə yaradılan paylanmaların nəzəri hədəflərdən nümerik olaraq fərqləndirilə bilmədiyini bildirir.

Sonlu təlim verilənlər dəstinin təsiri

Əlavə B-də təlim nümunələrinin sayı \(M\) ayrıca araşdırılır. Diskretləşdirilmiş sistem \(N\) dəyişənlə təmsil olunduqda empirical covariance \(\widehat C_0\) üzərindən ideal sonsuz-təlim-score qiymətləndirilməsi:

\[ S_t = \left[ (1-e^{-2t})I + e^{-2t}\widehat C_0 \right]^{-1}. \tag{B1} \]

Real-fəza \(N\times N\) nüvəsinin hər elementinin sonlu nümunə xətası \(M\) artdıqca azalır. Mənbənin analizi Frobenius və \(L_{1,1}\) normalarında ümumi xəta miqyaslanmalarını araşdırır.

Translasiya invariantlığı Furye fəzasında nüvəni diaqonal etdiyinə görə birbaşa impuls fəzasında yalnız \(O(N)\) parametr öyrənmək mümkündür. Bu halda mənbə:

\[ E_{1,1} \sim \frac{N}{\sqrt M}, \tag{B6} \]

və:

\[ E_F \sim \sqrt{ \frac{N}{M} }. \tag{B7} \]

miqyaslanmalarını verir. Normallaşdırılmış nisbi xəta üçün vacib nəticə odur ki, sabit dəqiqliyi təmin etmək məqsədilə \(M\)-nin sistem ölçüsü ilə məcburi şəkildə artırılması lazım deyil. Buna görə sonlu nümunə xətası birqatlı kritik yavaşımanın dominant \(L^2\) nəticəsini dəyişdirmir.

Reverse ODE diskretləşdirmə xətası

Sadə Euler diskretləşdirməsi:

\[ \frac{ \widetilde\phi(\vec k,t-\delta t) - \widetilde\phi(\vec k,t) }{ \delta t } = \widetilde\phi(\vec k,t) + (2\pi)^d \widetilde\phi(\vec k,t) \widetilde S_t(\vec k). \tag{B8} \]

və ekvivalent yeniləmə:

\[ \widetilde\phi(\vec k,t-\delta t) = \widetilde\phi(\vec k,t) \left[ 1+ \delta t \left( 1-(2\pi)^d\widetilde S_t(\vec k) \right) \right]. \tag{B9} \]

Euler üsulunda son xəta \(O(\delta t)\)-dir. Kritik aşağı-impuls modunda və sabit \(\delta t\)-də mütləq xəta böyük \(L\) üçün təxminən xətti arta bilər. Mənbə bunun daha yüksək tərtibli inteqratorlarla xeyli azaldıla biləcəyini göstərir.

Şəkil 8-də istifadə edilən dördüncü tərtib Runge–Kutta üsulu üçün tələb olunan diskretləşdirmə addımının təxminən:

\[ L^{1/4} \]

miqyasında artmasının kifayət olduğu bildirilir. Bu, birqatlı \(L^2\) training darboğazından xeyli zəif sistem-ölçüsü asılılığıdır.

Kritik Nöqtədə Lokal Score Nüvəsi Kifayətdirmi?

Xeyr. Əlavə C-nin əsas nəticəsi budur ki, məhdud diapazonlu score nüvəsi ümumi score xətasını müəyyən şərtlərdə kiçik saxlaya bilsə də, kritik \(m_{\rm eff}\rightarrow0\) sisteminin aşağı-impuls quruluşunu düzgün bərpa etməkdə uğursuz ola bilər; buna görə yalnız ümumi score xətasının kiçik olması fiziki kritik davranışın düzgün yaradıldığına zəmanət vermir.

Lokal nüvənin kəsilməsi

Dəqiq score nüvəsi:

\[ |\vec x-\vec y|>\frac{K}{2} \]

sahəsində sıfıra qoyularaq süni şəkildə lokallaşdırılır. Bir nöqtədəki score xətası:

\[ \delta F_t^{(R)} = - \int_{|\vec y|>R} d^d\vec y\, \mathcal S_t(0,\vec y) \phi_t(\vec y), \tag{C1} \]

burada \(R=K/2\)-dir.

Mənbənin miqyas analizi ümumi lokal xəta dispersiyası üçün:

\[ {\rm Var}[\delta F_t^{(R)}] \sim R^{-d}, \qquad d\geq3, \tag{C5} \]

\[ {\rm Var}[\delta F_t^{(R)}] \sim \frac{\log L}{R^2}, \qquad d=2, \tag{C6} \]

\[ {\rm Var}[\delta F_t^{(R)}] \sim \frac{L}{R^2}, \qquad d=1. \tag{C7} \]

nəticələrini verir.

Buna görə ümumi score xətasını idarə etmək üçün təxminən:

• \(d=1\): \(R\sim\sqrt L\),
• \(d=2\): \(R\)-nin loqarifmik artması,
• \(d\geq3\): sabit \(R\)

kifayət edə bilər.

Lakin bu, “kritik fizika düzgün yaradıldı” demək deyil. Əlavə C-nin power-spectrum testi \(m_{\rm eff}\) kiçildikcə lokal/cropped score-un aşağı-\(k\) spektrini səhv bərpa etdiyini göstərir. Nüvənin kəsilməsi fiziki baxımdan sanki sonlu korrelyasiya uzunluğu varmış kimi davranır. Kritik nöqtədə həqiqi korrelyasiya uzunluğu divergent olduğuna görə lokal nüvə kritik davranışı itirir.

Bu nəticə niyə vacibdir?

Maşın öyrənməsi modelinin ümumi orta xətasının kiçik olması fiziki baxımdan vacib bütün modların düzgün olması demək deyil. Kritik sistemlərdə aşağı-\(k\) modları ümumi normada kiçik çəkiyə malik olsa da, uzunmənzilli korrelyasiyaları müəyyən edir. Buna görə tədqiqat fiziki müşahidə olunan kəmiyyətlərlə doğrulamanın yalnız qlobal score metrikasına nisbətən daha etibarlı olduğunu göstərir.

Tədqiqatın əsas nəticələri

Tədqiqatın dəstəklədiyi nəticələr

• Gaussian \(O(n\rightarrow\infty)\) modelinin dəqiq diffusion score-u lineerdir və tam-sistem lineer konvolyusiya nüvəsi ilə ifadə edilə bilər.
• Dəqiq score-u təmsil edə bilən birqatlı lineer şəbəkənin qradient-enişi ilə təlimi kritik nöqtədə \(L^2\) miqyaslı kritik yavaşıma göstərir.
• Score təlimindəki yavaşıma generation xətasına ötürülür və düzgün kovariasiyanın yaradılmasını eyni sistem-ölçüsü miqyaslanması ilə çətinləşdirir.
• İkinci lineer qatın əlavə edilməsi uyğun \(1/L\)-miqyaslı initialization altında təlim müddətini \(L^2\)-dən \(\log L\)-yə endirir.
• Daha çox lineer qat bu sadələşdirilmiş modeldə avtomatik olaraq daha yaxşı deyil; \(N_\ell>2\) üçün qüvvət-qanunu sistem-ölçüsü asılılığı geri qayıdır.
• Furye tətbiqi tam-diapazonlu score hesablamasının irəli-keçid xərcini \(O(N^2)\)-dən \(O(N\log N)\)-yə endirir.
• Furye əsaslı ikiqatlı şəbəkənin yaratdığı kritik Gaussian sahələr power spectrum, action, bir-sahə paylanması və covariance ölçmələrində nəzəri hədəflərlə çox yaxşı uyğunluq göstərir.
• Sonlu verilənlər dəsti və reverse-ODE diskretləşdirmə xətaları araşdırılmış və birqatlı \(L^2\) training darboğazının dominant miqyaslanmasını dəyişdirmədiyi göstərilmişdir.
• Yalnız qlobal score xətasının kiçik olması kritik fiziki korrelyasiyaların düzgün yaradıldığına zəmanət vermir; aşağı-\(k\) davranışı ayrıca yoxlanmalıdır.

Tədqiqatın dəstəkləmədiyi nəticələr

• \(L^2\rightarrow\log L\) yaxşılaşması bütün müasir görüntü/video diffuziya modelləri üçün universal qanun deyil.
• Tədqiqat Transformer, U-Net və ya böyük qeyri-xətti generativ modellərdə eyni miqyaslanmanı birbaşa göstərmir.
• Nəticələr sonlu-\(n\) \(O(n)\) modellərində analitik olaraq doğrulanmayıb.
• Gaussian modeldə əlçatmaz olan \(m_{\rm eff}<0\) ferromaqnit faza birbaşa araşdırılmır.
• İki qatın niyə bu problemdə xüsusilə optimal olduğu barədə ümumi fiziki intuisiyanın tamamlandığı iddia edilmir; müəlliflər bunu gələcək tədqiqat mövzusu kimi saxlayırlar.
• Lokal nüvənin ümumi score xətasını idarə etməsi kritik fiziki müşahidə olunan kəmiyyətlərin düzgün yaradılmasına zəmanət deyil.
• Furye arxitekturasının bütün çoxmiqyaslı real verilənlər dəstlərində eyni performans üstünlüyü göstərəcəyi sınaqdan keçirilməyib.
• Tədqiqat təlim verilənlər dəstinin necə əldə ediləcəyi problemini həll etmir; müəlliflər verilənlər dəstini hazır qəbul edirlər.

Əsas məhdudiyyətlər və gələcək tədqiqat sahələri

1. Gaussian böyük-\(n\) limiti: Analitik idarənin əsas səbəbi eyni zamanda əsas məhdudiyyətdir. \(n\rightarrow\infty\) limiti modelin Gaussian olmasını təmin edir; sonlu-\(n\) qarşılıqlı təsirləri və həqiqi qeyri-xətti score quruluşları əsas analizdə yoxdur.

2. Yüksək-temperatur/kritik tərəf: Tədqiqat \(m_{\rm eff}\geq0\) sahəsinə fokuslanır. Gaussian limitdə \(m_{\rm eff}<0\) model yaxşı müəyyən edilmədiyinə görə ferromaqnit qırılmış-simmetriya fazası araşdırıla bilmir.

3. Lineer arxitekturalar: Bir və iki qatlı şəbəkələr aktivləşdirməsiz lineer konvolyusiyalardan ibarətdir. Bu, arxitektura parametrizasiyasının təsirini təmiz şəkildə izolyasiya edir, lakin müasir dərin qeyri-xətti diffusion arxitekturalarını təmsil etmir.

4. Hər diffusion-time üçün ayrıca şəbəkə: Son Furye doğrulamasında vahid time-embedded şəbəkə əvəzinə hər sabit \(t\) üçün müstəqil şəbəkə öyrədilir. Bu seçim nəzəriyyəni birbaşa tətbiq etmək üçündür və standart praktik diffusion arxitekturalarından fərqlənir.

5. Verilənlər dəsti hazır qəbul edilir: Fiziki nümunələmə problemlərində məqsəd çox vaxt elə hədəf paylanmadan təlim verilənləri yaratmaqdır. Məqalə təlim nümunələrinin xərcini əsas problemdən kənarda saxlayır.

6. Lokallıq problemi: Kritik sistemdə korrelyasiya uzunluğu divergent olduğuna görə tam lokal score modelləşdirilməsi fiziki aşağı-\(k\) davranışını itirə bilər.

7. Verilənlər deposu DOI-si: Yüklənmiş v3 PDF verilənlərin əlçatanlığı bəyanatında Duke Digital Repository-yə istinad edir, lakin [96] istinadında DOI hələ də “10.7924/XXXXXXX” placeholder formasındadır. Verianla bu çatışmazlığı tamamlamır.

Mənbə və Metod Qeydi

Orijinal başlıq: The critical slowing down in training diffusion models

Müəlliflər: Luca Maria Del Bono, Giulio Biroli, Patrick Charbonneau, Marylou Gabrié.

Müəllif sırası: Mənbə PDF-dəki sıra olduğu kimi qorunmuşdur.

Məsul müəllif: Luca Maria Del Bono. Mənbə PDF-də ulduz işarəsi ilə açıq şəkildə “Corresponding author” kimi göstərilmişdir.

Bərabər töhfə: Yüklənmiş mənbədə bərabər töhfə/bərabər birinci müəlliflik bəyanatı müəyyən edilməmişdir.

Afilyasiyalar: Dipartimento di Fisica, Sapienza Università di Roma; CNR-Nanotec Rome unit; Laboratoire de Physique Statistique, École normale supérieure / PSL Research University; Department of Physics, Duke University; Department of Chemistry, Duke University.

Yüklənmiş mənbə versiyası: arXiv:2605.12597v3 [cond-mat.dis-nn], 18 Sentyabr 2026.

arXiv DOI: 10.48550/arXiv.2605.12597. Bu DOI arXiv qeydinin daimi identifikatorudur və jurnal DOI-si deyil.

Cari nəşr statusu: Tədqiqat 28 Oktyabr 2026 tarixində PRX Intelligence tərəfindən qəbul edilmişdir. APS-nin “Accepted Paper” qeydindəki DOI 10.1103/yskc-plm7-dir. Bu Verianla mətninin elmi məzmunu yüklənmiş arXiv v3 PDF-yə əsaslanır; cari qəbul statusu yalnız bibliyografik doğrulama məqsədilə əlavə edilmişdir.

Jurnal: PRX Intelligence — qəbul edilmiş tədqiqat.

Nəşriyyat: American Physical Society (APS).

Mənbə növü: Nəzəri, analitik və nümerik statistik fizika / maşın öyrənməsi tədqiqatı.

Əsas sahələr: Disordered Systems and Neural Networks, Statistical Mechanics, Artificial Intelligence, Machine Learning və Computational Physics.

Əsas fiziki model: Gaussian \(O(n\rightarrow\infty)\) statistik sahə nəzəriyyəsi.

Əsas maşın öyrənməsi metodu: Score-based diffusion modeli; bir və iki lineer konvolyusiya qatının qradient-enişi təlim dinamikası.

Əsas hesablama metodu: Furye-fəzası analizi, dəqiq Gaussian score, gradient-flow həlli, reverse diffusion ODE, FFT əsaslı score tətbiqi və nümerik konfiqurasiya generasiyası.

Nümerik proqram təminatı: Mənbə PyTorch konvolyusiyalarından istifadə edildiyini və diffusion-model inteqrasiya üstquruluşunun bir hissəsinin İstinad [87]-dən uyğunlaşdırıldığını bildirir.

Nümerik aparat: Furye və real-fəza irəli-keçid müddətlərinin müqayisəsində NVIDIA Tesla V100-SXM2-32GB GPU istifadə edilmişdir.

Verilənlərin əlçatanlığı: Yüklənmiş v3 PDF “The data that support the findings of this article are openly available [96]” ifadəsini ehtiva edir; lakin həmin PDF-dəki İstinad [96] “Duke Digital Repository https://doi.org/10.7924/XXXXXXX” formasında tamamlanmamış DOI daşıyır. Buna görə dəqiq verilənlər deposu DOI-si bu mənbə versiyasından doğrulana bilmir.

Maliyyələşdirmə / hesablama infrastrukturu: Tədqiqatda DARIAH HPC-AI cluster at CNR-NANOTEC, Lecce istifadə edilmişdir. Mənbə bu infrastrukturun “MUR PON Ricerca e Innovazione 2014–2020” PIR01_00022 layihəsi və European Union – NextGenerationEU – NRRP M4C2 çərçivəsində H2IOSC Project IR0000029 ilə maliyyələşdirildiyini bildirir.

Təşəkkür: Müəlliflər Davide Carbone, Sebastian Goldt, Misaki Ozawa və Gilles Tarjus-a faydalı müzakirələr üçün təşəkkür edirlər. Luca Maria Del Bono həmçinin École normale supérieure-in qonaqpərvərliyini qeyd edir.

Maraqların toqquşması: Yüklənmiş v3 PDF-də ayrıca maraqların toqquşması/competing interests bəyanatı müəyyən edilməmişdir; Verianla mənbədə olmayan bəyanat yaratmamışdır.

Müəllif töhfələri / CRediT: Yüklənmiş v3 PDF-də ayrıca CRediT töhfə cədvəli müəyyən edilməmişdir.

Lisenziya: arXiv qeydi non-exclusive distribution license göstərir. Bu, mənbə fiqurlarının Creative Commons çərçivəsində sərbəst şəkildə yenidən istifadə edilə biləcəyi kimi şərh edilməmişdir; Verianla mənbə fiqurlarını birəbir kopyalamamış, elmi əlaqələr əsasında müstəqil SVG və HTML cədvəlləri hazırlamışdır.

Əsas şərh məhdudiyyəti: Tədqiqat idarə olunan Gaussian \(O(n\rightarrow\infty)\) modeli üzərində lineer score arxitekturalarını araşdırır. Nəticələrin ümumi məqsədli böyük qeyri-xətti diffusion modellərinə kəmiyyət baxımından birbaşa köçürülməsi mənbə tərəfindən sübut edilməmişdir.