Модели диффузионӣ (diffusion model), синфи моделҳои тавлидкунандаест, ки намунаҳои аз тақсимоти ҳадафии додаҳо гирифташударо аввал ба таври идорашаванда ба садо табдил медиҳад ва сипас бо ёрии функсияи омӯхташудаи score аз ин тақсимоти садодор ба самти баръакс ҳаракат карда, намунаҳои нав тавлид мекунад. Ин таҳқиқот месанҷад, ки оё моделҳои диффузионӣ воқеан метавонанд сустшавии критикиро, ки ҳангоми наздик шудани системаи физикӣ ба нуқтаи критикӣ ба вуҷуд меояд, паси сар кунанд ё не; таҳлил дар модели назарияи омории майдони Gaussian \(O(n\rightarrow\infty)\), ки аз ҷиҳати аналитикӣ назоратшаванда аст, анҷом дода мешавад. Азбаски муҳаққиқон дар ин система функсияи дақиқи score-ро аналитикӣ медонанд, метавонанд таъсири меъмории шабакаро ба динамикаи омӯзиш бевосита, бе номуайянии функсияи ҳадаф, ҳал кунанд.

Натиҷаи аввалини асосии таҳқиқот ғайриинтизор аст: истифодаи шабакаи дорои як қабати хаттии конволютсионӣ, ки score-и дақиқро аз ҷиҳати функсионалӣ пурра ифода карда метавонад, сустшавии критикиро бартараф намекунад. Ҳангоми омӯзиш бо gradient descent дар нуқтаи критикӣ вақти хоси омӯзиш бо андозаи хаттии система \(L\) тақрибан ҳамчун \(L^2\) миқёс мегирад. Ин ҳамон миқёсгирии андозаи система аст, ки сустшавии критикии \(z=2\) дар динамикаи стандартии маҳаллии Langevin-и ҳамин модели Gaussian дорад. Хатои омӯзиш баъдан ба марҳилаи denoising/generation мегузарад ва бозсозии дурусти ковариатсияи майдонҳои тавлидшударо низ бо ҳамин миқёсгирии хос душвор мекунад.

Натиҷаи дуюми асосӣ ин аст, ки танҳо як қабати хаттии иловагӣ метавонад динамикаро аз ҷиҳати сифатӣ тағйир диҳад. Ҳар ду қабат бидуни функсияи фаъолсозӣ хаттӣ мебошанд ва ҳатман синфи функсионалии қавитар аз шабакаи якқабатаро ифода намекунанд; бо вуҷуди ин, дар шароити мувофиқи ибтидоӣ, параметргузории зиёдатӣ имкон медиҳад, ки вақти омӯзиши gradient descent бо андозаи система ба ҷойи \(L^2\) тақрибан ҳамчун \(\log L\) миқёс гирад. Дар модели назоратшавандаи таҳқиқот сохтори дуқабата ба ин тарз сустшавии критикии омӯзишро бартараф мекунад.

Аммо танҳо беҳтар шудани вақти омӯзиш кофӣ нест. Татбиқи соддаи ядрои конволютсионӣ, ки тамоми системаро фаро мегирад, дар фазои воқеӣ барои як гузариши пеш \(O(N^2)\) амал талаб мекунад. Муҳаққиқон аз он истифода мебаранд, ки конволютсия дар фазои Фурье ба зарб табдил меёбад ва ҳисоби score-ро ҳамчун FFT → зарб дар фазои Фурье → FFT-и баръакс иҷро мекунанд. Ҳамин тавр, мураккабии умумии гузариши пеш ба \(O(N\log N)\) поён бурда мешавад. Дар ин ҷо \(N=(L/a)^d\), \(d\) андозаи фазоӣ ва \(a\) фосилаи панҷара аст.

Ҳудуди тафсири ин натиҷаҳо муҳим аст. Таҳқиқот тасвирҳои воқеӣ, видео ё шабакаи бузурги умумимақсади диффузиониро омӯзиш намедиҳад. Системаи баррасишаванда модели Gaussian \(O(n\rightarrow\infty)\) аст; score хаттӣ, меъмориҳо қабатҳои хаттии конволютсионӣ ва ҳалли аналитикӣ маълум мебошад. Аз ин рӯ, натиҷаи \(L^2\rightarrow\log L\)-ро ҳамчун қонуни универсалии омӯзиш барои ҳамаи моделҳои муосири диффузионӣ тафсир кардан мумкин нест. Арзиши таҳқиқот дар он аст, ки робитаи байни сустшавии критикӣ ва параметргузории шабакаро дар модели физикии пурра назоратшаванда ба таври аналитикӣ нишон медиҳад.

Сустшавии Критикӣ Чист ва Чаро Дар Ин Таҳқиқот Муҳим Аст?

Сустшавии критикӣ ҳолатест, ки ҳангоми наздик шудани системаи физикӣ ба нуқтаи критикии гузариши фаза, бинобар пайдо шудани коррелятсияҳои дурмасофа, динамикаи интихобкунии маҳаллӣ декоррелятсияи торафт сусттар нишон медиҳад. Дар модели баррасишавандаи \(O(n\rightarrow\infty)\) вақти хоси релаксатсияи динамикаи стандартии маҳаллии Langevin дар нуқтаи критикӣ ҳамчун \(\tau\sim L^2\) миқёс мегирад; саволи асосии таҳқиқот ин аст, ки оё интихобкунандаи диффузионии омӯхташуда ҳамин маҳдудиятро мерос мегирад ё не.

Модели физикии ибтидоӣ: назарияи майдони \(O(n)\)

Системаи асосии физикии таҳқиқот барои майдони \(n\)-компонентии \(\vec{\phi}(\vec{x})\) бо модели \(O(n)\) муайян мешавад. Action, ки манбаъ дар Муодилаи (1) медиҳад:

\[ S(\vec{\phi}) = \frac{1}{2} \int_V d^d\vec{x} \left[ \sum_{\nu=1}^{d}\sum_{a=1}^{n} (\partial_\nu\phi_a)^2 + m^2\sum_{a=1}^{n}\phi_a^2 + \frac{g}{2n} \left( \sum_{a=1}^{n}\phi_a^2 \right)^2 \right]. \tag{1} \]

Дар ин ҷо \(\vec{x}\) мавқеъро дар фазои \(d\)-андоза; \(a\), кадоме аз \(n\) компоненти майдон баррасӣ мешавад; \(\partial_\nu\phi_a\), тағйироти фазоии майдон; \(m^2\), параметри массаеро, ки рафтори моделро идора мекунад; ва \(g>0\), қувваи таъсири мутақобилаи чордараҷаро ифода мекунад. Дар контексти таҳқиқот \(m\) нақши параметри идоракунии монанд ба ҳароратро дорад.

Чаро дар ҳадди калон-\(n\) масъала осон мешавад?

Дар ҳадди \(n\rightarrow\infty\) модел ба таври самаранок Gaussian мешавад:

\[ S_\Lambda(\vec{\phi}) = \frac{1}{2} \int_V d^d\vec{x} \left[ \sum_{\nu=1}^{d}\sum_{a=1}^{n} (\partial_\nu\phi_a)^2 + (m^2+\Lambda g) \sum_{a=1}^{n}\phi_a^2 \right]. \tag{2} \]

\(\Lambda\) ба таври худмувофиқ:

\[ \Lambda = \frac{1}{(2\pi)^d} \int d^d\vec{k}\, \frac{1}{ \vec{k}\cdot\vec{k}+m^2+\Lambda g }. \tag{3} \]

бо ин муодила муайян мешавад.

Ҳамин тавр:

\[ m_{\rm eff}^2=m^2+\Lambda g \]

массаи самаранок ба параметри марказие табдил меёбад, ки рафтори моделро идора мекунад. Нуқтаи критикӣ:

\[ m_{\rm eff}=0 \]

таъриф мешавад.

Ин соддасозӣ бартарии асосии таҳқиқот аст. Азбаски барои тақсимоти Gaussian коррелятсияҳо, score ва динамикаи диффузияро аналитикӣ ҳисоб кардан мумкин аст, муҳаққиқон ҷавоби саволи “score-и воқеие, ки шабака ҳадаф мегирад, чист?”-ро пурра медонанд. Ҳамин тавр сустшавии дар омӯзиш дидашаванда на аз мураккабии функсияи ҳадафи номаълум, балки мустақиман аз сохтори оптимизатсия ва коррелятсия омӯхта мешавад.

Тақсимоти ҳадафии Boltzmann–Gibbs

Ҳадаф тавлиди конфигуратсияҳои майдон аз тақсимоти зерин аст:

\[ P(\vec{\phi}) = \frac{1}{Z} e^{-S_\Lambda(\vec{\phi})}, \tag{4} \]

дар ин ҷо:

\[ Z = \int D\vec{\phi}\, e^{-S_\Lambda(\vec{\phi})} \]

функсияи тақсимот мебошад.

Ченаки сустшавии критикии физикӣ

Барои дидани он ки интихобкунандаи маҳаллӣ то чӣ андоза зуд декоррелятсия мекунад, таҳқиқот функсияи автокоррелятсияро истифода мебарад:

\[ C(\vec{x},\vec{x};T) = \frac{1}{V} \int_V d^d x\, \left\langle \phi(\vec{x},T)\phi(\vec{x},0) \right\rangle . \tag{5} \]

\(T\) вақти физикии интихобкунӣ/симулятсия аст. Ҳангоми наздик шудан ба нуқтаи критикӣ хомӯшшавии коррелятсия суст мешавад. Дар системаи гиперкубӣ бо андозаи хаттии \(L\), барои динамикаи стандартии маҳаллӣ:

\[ \tau\sim L^z, \qquad z=2. \]

Аз ин рӯ:

\[ \tau\sim L^2. \]

Ин рафтори \(L^2\) баъдан мустақиман бо миқёсгирии омӯзиши score-и якқабата муқоиса мешавад.

Маҳдудияти муҳим дар бораи нуқтаи критикӣ дар андозаҳои паст

Манбаъ мегӯяд, ки барои \(d\leq2\) дар қимати ниҳоии \(m^2\) гузариши фазаи ҳарорати ниҳоӣ ба маънои классикӣ вуҷуд надорад. Масалан, барои \(d=1\):

\[ m_{\rm eff}^2 = m^2 + \frac{g}{2} \frac{1}{\sqrt{m_{\rm eff}^2}}. \tag{6} \]

Ҳангоми \(m_{\rm eff}\rightarrow0\), \(m^2\) бояд ба самти манфӣ дивергенсия кунад. Дар \(d=2\) низ пас аз буриши UV рафтори логарифмӣ пайдо мешавад. Аз ин рӯ, таҳқиқот дар таҳлилҳои минбаъда бевосита назарияи Gaussian ва \(m_{\rm eff}\)-ро ҳамчун параметри идоракунӣ истифода бурда, критикалиро ба шакли \(m_{\rm eff}\rightarrow0\) меомӯзад.

Функсияи Score Дар Модели Диффузионӣ Чист?

Функсияи score ҳосилаи логарифмии тақсимоти эҳтимолият дар diffusion-time \(t\)-и муайян нисбат ба тағйирёбандаҳои майдон аст; ба ибораи дигар, ин майдони векториест, ки муайян мекунад модел конфигуратсияи кунунии садодорро ба самтҳое, ки эҳтимолият баландтар аст, чӣ гуна ислоҳ кунад. Дар системаи Gaussian-и ин таҳқиқот score хаттӣ аст ва азбаски онро дақиқ ҳисоб кардан мумкин аст, шабакаи омӯхташударо бевосита бо score-и воқеӣ муқоиса кардан мумкин аст.

Forward diffusion: садодор кардани додаҳо

Аз тақсимоти ҳадаф конфигуратсияи ибтидоӣ гирифта мешавад:

\[ \vec{\phi}(\vec{x},0) \sim P^\ast(\vec{\phi}). \tag{7} \]

Сипас бо раванди Ornstein–Uhlenbeck садодор карда мешавад:

\[ \frac{\partial\vec{\phi}(\vec{x},t)}{\partial t} = -\vec{\phi}(\vec{x},t) + \vec{\zeta}(\vec{x},t). \tag{8} \]

\(\vec{\zeta}\) садои сафеди Gaussian аст ва ковариатсияи он:

\[ \left\langle \zeta(\vec{x},t) \zeta(\vec{x}',t') \right\rangle = 2\, \delta^{(d)}(\vec{x}-\vec{x}') \delta(t-t') \]

чунин мебошад.

Reverse diffusion: бозгашт аз садо ба тақсимоти ҳадаф

Манбаъ дар таҳлили асосӣ deterministic probability-flow ODE-ро истифода мебарад:

\[ -\partial_t\vec{\phi}(\vec{x},t) = \vec{\phi}(\vec{x},t) + \vec{\mathcal F}_t(\vec{\phi}(\vec{x},t)). \tag{10} \]

Score:

\[ \vec{\mathcal F}_t(\vec{\phi}) = \frac{ \delta\log P_t(\vec{\phi}) }{ \delta\vec{\phi}(\vec{x}) }. \tag{11} \]

Дар ин ҷо \(P_t\) тақсимотест, ки ҳангоми forward diffusion дар вақти \(t\) ба вуҷуд меояд. Агар score дақиқ бошад, reverse ODE дар ҳолати идеалӣ тақсимоти садодорро ба тақсимоти ҳадаф бармегардонад.

Талафоти score matching

Агар score-и дақиқ маълум мебуд, талафоти омӯзиш:

\[ \mathcal L_t(\vec{F}_t) = \frac{1}{2} \int D\vec{\phi}\, P_t(\vec{\phi}) \left\| \vec{F}_t(\vec{\phi}) - \vec{\mathcal F}_t(\vec{\phi}) \right\|^2. \tag{12} \]

ба ин шакл навишта мешуд. Дар ин ҷо \(\vec{F}_t\) score-и омӯхташаванда ва \(\vec{\mathcal F}_t\) score-и дақиқ аст.

Азбаски дар амал score-и дақиқ дар аксари масъалаҳо номаълум аст, манбаъ шакли баробарқимати denoising score-matching-ро низ медиҳад:

\[ \widehat{\mathcal L}_t(\vec F_t) = \frac{1}{2} \mathbb E_{\vec\phi_0\sim P_0} \int D\vec\phi\, P_t(\vec\phi|\vec\phi_0) \left\| \vec F_t(\vec\phi) + \frac{ \vec\phi-e^{-t}\vec\phi_0 }{ \Delta_t } \right\|^2, \tag{13} \]

дар ин ҷо:

\[ \Delta_t=1-e^{-2t}. \]

Азбаски дар ин таҳқиқот score-и дақиқ аналитикӣ маълум аст, дар ҳалли назариявии динамикаи омӯзиш Муодилаи (12) истифода мешавад.

Тақсимот пас аз forward diffusion

Барои як компоненти майдон тақсимот дар фазои Фурье:

\[ P_t(\widetilde\phi) \propto \exp \left\{ -\frac{(2\pi)^d}{2} \int d^d\vec{k}\, \left[ \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} } \right] \widetilde\phi(\vec{k}) \widetilde\phi(-\vec{k}) \right\}. \tag{14} \]

Ин ифода нишон медиҳад, ки сохтори Gaussian дар тӯли вақти diffusion нигоҳ дошта мешавад.

Чаро score-и дақиқ конволютсияи хаттӣ аст?

Score-и дақиқ:

\[ \mathcal F_t(\phi) = -\int d^d\vec y\, \mathcal S_t(\vec x,\vec y)\phi(\vec y). \tag{15} \]

чунин аст. Яъне ба худи майдон оператори хаттӣ татбиқ мешавад.

Ядрои score:

\[ \begin{aligned} \mathcal S_t(\vec x,\vec y) =& \int\frac{d^d\vec k}{(2\pi)^d} \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} } e^{i\vec k\cdot(\vec y-\vec x)} \\ =& \frac{1}{\Delta_t} \delta^{(d)}(\vec y-\vec x) - \frac{e^{-2t}}{(2\pi)^{d/2}\Delta_t^2} \left( \frac{M_t}{|\vec y-\vec x|} \right)^{d/2-1} K_{d/2-1} \left( M_t|\vec y-\vec x| \right), \end{aligned} \tag{16} \]

дар ин ҷо:

\[ M_t^2 = m_{\rm eff}^2 + \frac{e^{-2t}}{\Delta_t} \]

ва \(K_\nu\) функсияи тағйирдодашудаи Bessel-и навъи дуюм аст.

Ядрои score ду қисм дорад: қисми дақиқи маҳаллӣ аз функсияи delta ва думе, ки дар фазо паҳн мешавад. Дар масофаи кӯтоҳ ин дум рафтори қонуни дараҷавии монанд ба Yukawa нишон медиҳад, дар масофаи дароз бошад ба таври экспоненсиалӣ фурӯ нишонда мешавад. Ҳангоми наздик шудан ба критикалӣ, вақте \(m_{\rm eff}\rightarrow0\), сохтори дурмасофа аҳамият пайдо мекунад.

Дар фазои Фурье аз ҳисоби инвариантии транслятсионӣ ядро диагоналӣ мешавад:

\[ \widetilde{\mathcal S}_t(\vec k) = \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} }. \tag{17} \]

Як қабат score-и дақиқро ифода карда метавонад; пас чаро ҳанӯз мушкил ҳаст?

Score-и тахминии якқабата ба ҳамин шакл навишта мешавад:

\[ F_t(\phi) = -\int d^d\vec y\, S_t(\vec x,\vec y) \phi(\vec y). \tag{18} \]

Дар ин ҷо иқтидори модел мушкили асосӣ нест: вақте \(S_t\) ба қимати мувофиқ мерасад, шабака метавонад \(\mathcal S_t\)-и дақиқро ифода кунад. Маҳдудияти критикие, ки таҳқиқот ёфт, бештар аз қобилияти ифода не, балки аз он иборат аст, ки параметрҳо дар модҳои гуногуни Фурье то чӣ андоза зуд омӯхта мешаванд.

Муодилаи gradient-flow

Population loss барои ядро:

\[ \mathcal L_t = \frac{1}{2} \int D\phi\,P_t(\phi) \left\| \int d^d\vec y\, [S_t(\vec x,\vec y)-\mathcal S_t(\vec x,\vec y)] \phi(\vec y) \right\|^2. \tag{19} \]

Gradient flow:

\[ \frac{ dS_t(\vec x',\vec y') }{ d\bar t } = -\eta \frac{ \delta\mathcal L_t }{ \delta S_t(\vec x',\vec y') }, \tag{20} \]

дар ин ҷо \(\bar t\) вақти омӯзиш ва \(t\) вақти diffusion/noising мебошад. Ин ду тағйирёбандаи вақт аз ҳам фарқ мекунанд.

Шакли операторӣ:

\[ \frac{dS_t}{d\bar t} = -\eta (S_t-\mathcal S_t)C_t, \tag{21} \]

ва ковариатсия:

\[ C_t(\vec x,\vec y) = \langle \phi(\vec x)\phi(\vec y) \rangle_t. \tag{22} \]

Барои \(S_t(0)=0\), ки дар оғоз омӯзонида нашудааст, ҳал:

\[ S_t(\bar t) = \mathcal S_t \left( 1-e^{-\eta C_t\bar t} \right). \tag{23} \]

Ин муодила манбаи математикии натиҷаи критикӣ аст: қиматҳои хусусии гуногуни ковариатсия бо суръатҳои гуногун омӯхта мешаванд.

Чаро Дар Шабакаи Якқабата Вақти Омӯзиш Ҳамчун \(L^2\) Миқёс Мегирад?

Дар шабакаи якқабата вақти омӯзиши ҳар як модули Фурье ба қимати хусусии ковариатсияи ҳамон мод вобаста аст; дар нуқтаи критикӣ хурдтарин импулси ғайрисифр \(k_{\min}=2\pi/L\) мебошад, бинобар ин суръати устувори омӯзиши gradient descent тақрибан ба миқёси \(k_{\min}^2\propto L^{-2}\) маҳдуд мешавад ва вақти самараноки омӯзиш барои модҳои \(k=O(1)\) бо \(L^2\) меафзояд.

Ковариатсияи модули Фурье

Манбаъ:

\[ \langle \widetilde\phi(\vec k) \widetilde\phi(\vec q) \rangle_t = \frac{ \delta^{(d)}(\vec k+\vec q) }{ (2\pi)^d } \widetilde C_t(\vec k), \tag{24} \]

ва:

\[ \widetilde C_t(\vec k) = \frac{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} }{ k^2+m_{\rm eff}^2 }. \tag{25} \]

ба даст меорад.

Миқёси мувофиқи вақт:

\[ \tau_t(\vec k) = \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} }. \tag{26} \]

Дар ҳадди noising-time-и дароз:

\[ \lim_{t\rightarrow\infty} \tau_t(\vec k) = 1. \tag{27} \]

Яъне вақтҳои омӯзиши ҳамаи модҳо ба ҳам наздик мешаванд.

Дар ҳадди noising-time-и кӯтоҳ бошад:

\[ \lim_{t\rightarrow0} \tau_t(\vec k) = k^2+m_{\rm eff}^2. \tag{28} \]

Ин ифода ҳамон сохтореро дорад, ки миқёси вақти ҳар як модули динамикаи Langevin дорад.

Хурдтарин миқёси вақт:

\[ \tau_{\min} = k_{\min}^2+m_{\rm eff}^2. \tag{29} \]

Барои устувор мондани gradient descent суръати омӯзиш аз рӯйи модули зудтарин маҳдуд карда мешавад. Манбаъ суръати омӯзиши minimax-optimal-ро:

\[ \eta_{\rm opt} = \frac{ 2 }{ \tau_{\min}^{-1} + \tau_{\max}^{-1} } \tag{30} \]

чунин медиҳад ва шарҳ медиҳад, ки суръати максималии устувори омӯзиш низ ҳамин миқёсгириро дорад.

Метрикаи хатои score-ядро

\[ \varepsilon_S = \frac{ \sum_{x,y} |S(x,y)-\mathcal S(x,y)| }{ \sum_{x,y} |\mathcal S(x,y)| }. \tag{31} \]

Ин хатои мутлақи нормализатсияшуда байни ядрои омӯхташуда ва ядрои дақиқ аст.

Вақти самараноки омӯзиш

Барои noising time-и хурд ва дар миқёси максималии суръати омӯзиш:

\[ \tau^{\rm eff}(\vec k) = \frac{ \tau(\vec k) }{ 2\tau_{\min} } = \frac{ m_{\rm eff}^2+k^2 }{ 2(m_{\rm eff}^2+k_{\min}^2) }. \tag{32} \]

Азбаски дар системаи ниҳоӣ модули сифрро алоҳида омӯхтан мумкин аст, хурдтарин импулси ғайрисифр:

\[ k_{\min} = \frac{2\pi}{L} \]

ва:

\[ \tau_{\min} = \left( \frac{2\pi}{L} \right)^2 + m_{\rm eff}^2. \tag{33} \]

Дар критикалӣ, вақте \(m_{\rm eff}=0\), барои \(k=O(1)\):

\[ \tau^{\rm eff} \sim L^2. \]

Натиҷа ин аст, ки ҳатто шабакаи якқабатае, ки score-и дақиқро ифода мекунад, дар нуқтаи критикӣ миқёсгирии \(L^2\)-и интихобкунии стандартии маҳаллиро мерос мегирад.

Оё optimizer-ҳои дигар мушкилро ҳал мекунанд?

Манбаъ мегӯяд, ки усули optimally tuned momentum метавонад миқёсгирии критикиро аз \(L^2\) то тақрибан \(L\) беҳтар кунад, аммо вобастагии дивергентӣ аз андозаи системаро пурра бартараф намекунад. Дар оптимизатсияи фазои воқеӣ Adagrad ва Adam бошанд, дар ин масъалаи оддии convex ба ядрои score-и дақиқ наздик нашудаанд. Аз ин рӯ, ҳатто агар коэффисиентҳои хоси gradient descent тағйир ёбанд, сустшавии критикии омӯзиш танҳо бо иваз кардани optimizer худкор бартараф намешавад.

Хатои омӯзиш ба generation чӣ гуна мегузарад?

Муодилаи reverse-diffusion-и модули Фурье барои score-и дақиқ:

\[ \partial_t \widetilde\phi^\ast(\vec k,t) = - \widetilde\phi^\ast(\vec k,t) \left[ 1- \frac{ k^2+m_{\rm eff}^2 }{ \Delta_t(k^2+m_{\rm eff}^2)+e^{-2t} } \right]. \tag{34} \]

Ҳалли дақиқи он:

\[ \widetilde\phi^\ast(\vec k,t;t_{\max}) = \frac{ \sqrt{ e^{-2t}+ \Delta_t(k^2+m_{\rm eff}^2) } }{ \sqrt{ e^{-2t_{\max}}+ \Delta_{t_{\max}} (k^2+m_{\rm eff}^2) } } \, \widetilde\phi^\ast(\vec k,t_{\max}). \tag{35} \]

Дар ҳадди \(t_{\max}\rightarrow\infty\):

\[ \widetilde\phi^\ast(\vec k,t;\infty) = \frac{ \sqrt{ e^{-2t}+ \Delta_t(k^2+m_{\rm eff}^2) } }{ \sqrt{k^2+m_{\rm eff}^2} } \, \widetilde\phi^\ast(\vec k,\infty). \tag{36} \]

Ин ҳал тақсимоти дақиқи \(P_t\)-ро бозсозӣ мекунад.

Вақте score-и тахминӣ дар вақти ниҳоии омӯзиш истифода мешавад, Муодилаи (37) қисми омӯхтанашудаи score-ро:

\[ 1- \exp \left[ -\frac{\eta\bar t}{\tau_t(\vec k)} \right] \]

тавассути ин фактор ба динамикаи reverse дохил мекунад. Манбаъ дар Муодилаи (38) ҳалли дақиқи пӯшидаи ин муодиларо, ки интеграли экспоненсиалии \(\operatorname{Ei}\)-ро дар бар мегирад, ҳосил мекунад. Интеграли экспоненсиалӣ:

\[ \operatorname{Ei}(x) = - \int_{-x}^{\infty} \frac{e^{-u}}{u}\,du. \tag{39} \]

таъриф мешавад. Паёми физикии ин ҳалли дарози пӯшида он аст, ки нокифоя омӯхта шудани score дар баъзе модҳо ҳангоми reverse diffusion дисперсияи ин модҳоро ба таври систематикӣ тағйир медиҳад.

Хатои generation чӣ гуна чен карда мешавад?

Азбаски дар модели Gaussian миёнаи тақсимот сифр аст, тақсимоти тавлидшуда пурра бо матритсаи ковариатсия тавсиф мешавад. Манбаъ хатои нормализатсияшудаи Frobenius-ро истифода мебарад:

\[ \varepsilon_C(\bar t,L) = \frac{ \left\| C_{\rm gen}(\bar t,L) - C^\ast(L) \right\|_F }{ \left\| C^\ast(L) \right\|_F }. \tag{42} \]

\(C^\ast\) ковариатсияи ҳадаф, \(C_{\rm gen}\) ковариатсияи майдонҳои тавлидшуда ва \(\|\cdot\|_F\) нормаи Frobenius мебошад.

Рафтори пешбари хатои нисбӣ дар критикалӣ:

\[ \sim \exp \left( -\frac{ \bar t\,t_{\max} }{ L^2 } \right) \]

чунин аст. Бинобар ин, сустшавии критикии \(L^2\) дар омӯзиш тавлиди намунаҳои дорои ковариатсияи дурустро низ мустақиман суст мекунад.

Қабати Дуюми Хаттӣ Сустшавии Критикиро Чӣ Гуна Кам Мекунад?

Қабати дуюми хаттӣ бештар аз он ки синфи нави функсияҳои ғайрихаттӣ илова кунад, ифодаи факторизатсияшуда ва аз ҳад параметрии ядрои score-ро месозад; ин параметргузорӣ самтҳои gradient descent-ро самаранок аз нав шартгузорӣ карда, фарқи вақти омӯзиш байни модҳои Фурьеро аз вобастагии хаттии ковариатсия дар ҳолати якқабата ба вобастагии логарифмӣ табдил медиҳад.

Модели score-и дуқабата

Ду ядрои транслятсионӣ-инвариант истифода мешаванд:

\[ F_t^{\rm ov}(\phi) = - \int d^d\vec z\,d^d\vec y\, S_t^{(2)}(\vec x,\vec z) S_t^{(1)}(\vec z,\vec y) \phi(\vec y). \tag{46} \]

Муодилаҳои gradient-flow:

\[ \frac{dS_t^{(1)}}{d\bar t} = -\eta \left(S_t^{(2)}\right)^\dagger \left( S_t^{(2)}S_t^{(1)}C_t-I \right), \tag{47} \]

\[ \frac{dS_t^{(2)}}{d\bar t} = -\eta \left( S_t^{(2)}S_t^{(1)}C_t-I \right) \left(S_t^{(1)}\right)^\dagger. \tag{48} \]

Дар фазои Фурье ҳар як мод мустақил мешавад:

\[ \frac{ d\widetilde S_t^{(1)}(\vec k) }{ d\bar t } = -\eta \widetilde S_t^{(2)}(\vec k) \left[ \widetilde S_t^{(2)}(\vec k) \widetilde S_t^{(1)}(\vec k) \widetilde C_t(\vec k) -1 \right], \tag{49} \]

\[ \frac{ d\widetilde S_t^{(2)}(\vec k) }{ d\bar t } = -\eta \left[ \widetilde S_t^{(2)}(\vec k) \widetilde S_t^{(1)}(\vec k) \widetilde C_t(\vec k) -1 \right] \widetilde S_t^{(1)}(\vec k). \tag{50} \]

Fixed point:

\[ \widetilde S_t^{(2)}(\vec k) \widetilde S_t^{(1)}(\vec k) \widetilde C_t(\vec k) = 1. \]

Яъне, ҳар яке аз ду қабат алоҳида як оптимуми ҳатмии ягона надорад; муҳим он аст, ки ҳосили онҳо score-и дақиқро диҳад. Параметргузории зиёдатӣ дар ин ҷо маҳз ҳамин озодии факторизатсия аст.

Муодилаи logistic дар ҳолати мутавозини дуқабата

Агар ду қабат дар ибтидо баробар бошанд:

\[ s= \widetilde S_t^{(1)}(\vec k) = \widetilde S_t^{(2)}(\vec k), \qquad c= \widetilde C_t(\vec k)>0 \]

ва:

\[ \dot{s} = \eta s(1-cs^2). \tag{51} \]

\[ u=s^2 \]

бо таърифи:

\[ \dot{u} = 2\eta u(1-cu). \tag{52} \]

Ин муодилаи стандартии logistic аст ва ҳалли он:

\[ u(\bar t) = \frac{ u_0 e^{2\eta\bar t} }{ 1-cu_0+cu_0e^{2\eta\bar t} }. \tag{53} \]

Аз ин рӯ:

\[ s(\bar t) = \operatorname{sgn}[s(0)] \sqrt{ \frac{ u_0 e^{2\eta\bar t} }{ 1-cu_0+cu_0e^{2\eta\bar t} } }. \tag{54} \]

Фарқи критикӣ ин аст: дар Муодилаи (23)-и якқабата \(c\) бевосита дар суръати наздикшавии экспоненсиалӣ қарор дорад, аммо дар Муодилаи (53)-и дуқабата қисми \(e^{2\eta\bar t}\) аз \(c\) вобаста нест. Аз ин рӯ, вақти расидан ба дақиқии ҳадаф нисбат ба \(c\) вобастагии хаттӣ не, балки логарифмӣ нишон медиҳад.

Чаро вазнҳои ибтидоӣ муҳиманд?

Манбаъ барои наздикшавии устувор дар сатҳи \(\eta=O(1)\) дар ҳамаи модҳо талаб мекунад, ки вазнҳои ибтидоии қабатҳо тақрибан:

\[ s(0)=O(1/L) \]

дар ин миқёс интихоб шаванд. Манбаъ қайд мекунад, ки оғозҳои дорои бузургии \(O(1)\), монанди Kaiming-и стандартӣ, бо афзоиши андозаи система барои ин масъалаи назариявӣ торафт мушкилтар шуда метавонанд.

Агар қабатҳо дар ибтидо баробар набошанд

Дар ҳолати умумӣ:

\[ u(\bar t) = s_1(\bar t)s_2(\bar t), \tag{55} \]

ва номувофиқии қабатҳо:

\[ d_0=s_1^2(0)-s_2^2(0), \qquad \delta=|d_0|, \qquad \alpha=\frac{\delta}{2}. \]

Манбаъ ҳамчунин:

\[ \kappa = c\alpha = \frac{c\delta}{2}, \qquad A = \sqrt{ 1+\kappa^2 } = \sqrt{ 1+\frac{c^2d_0^2}{4} }. \tag{56} \]

таъриф мекунад. Ҳалли пӯшида дар Муодилаи (57) тавассути занҷири \(q_0\), \(R_0\), \(R(\bar t)\), \(q(\bar t)\) ва \(u(\bar t)\) дода мешавад. Қисми экспоненсиалии наздикшавӣ аз ҷониби \(A\eta\) идора мешавад. Барои пешгирии бадшавии полиномиалӣ бо андозаи система:

\[ d_0 \lesssim \frac{1}{L^2} \]

ин шарт лозим аст. Интихоби \(s_1,s_2=O(1/L)\) барои ин шарти кофӣ мебошад.

Тасдиқи ададӣ

Хатои score-и мод-асоси ду меъморӣ:

\[ \varepsilon_{F_e}(\vec k) = \left[ \frac{ \overline{ \left| F_t^{\rm ov}[\phi_t(\vec k)] - \mathcal F_t[\phi_t(\vec k)] \right|^2 } }{ \overline{ \left| \mathcal F_t[\phi_t(\vec k)] \right|^2 } } \right]^{1/2}. \tag{58} \]

Score-и дақиқи Фурье:

\[ \mathcal F_t[\phi(\vec k)] = - \widetilde{\mathcal S}_t(\vec k) \widetilde\phi(\vec k). \tag{59} \]

Дар тасдиқи Расми 5-и манбаъ шартҳои \(d=2\), \(m_{\rm eff}=0\), \(a=1\), \(t=0.01\), \(L=16\) истифода мешаванд. Дар ҳолати якқабата вақти хоси хомӯшшавии хато бо \(1/\widetilde C(\vec k)\), дар ҳолати дуқабата бошад тақрибан бо \(-\log\widetilde C(\vec k)\) тағйир меёбад. Таҷрибаҳои ададӣ 1024 конфигуратсияи омӯзиш ва миёнаи 500 симулятсияи мустақилро истифода мебаранд.

Оё қабатҳои бештар боз ҳам беҳтаранд?

Манбаъ ин саволро бо модели соддакардашудаи дорои \(N_\ell\) қабати баробар таҳлил мекунад. Барои \(u=s^{N_\ell}\):

\[ \dot u = \eta N_\ell u^{\,2-2/N_\ell} (1-cu). \tag{60} \]

Миқёси зарурии ибтидоӣ:

\[ s_0 \sim L^{-2/N_\ell}. \tag{61} \]

Вақти хоси омӯзиш:

\[ \tau_{\rm eff} \sim L^{\,2-4/N_\ell}. \tag{62} \]

Дар ҳолати махсуси \(N_\ell=2\) нишондиҳандаи қонуни дараҷа ба сифр мерасад ва таҳлили муфассалтар миқёсгирии \(\log L\)-ро медиҳад. Аммо барои \(N_\ell\geq3\) боз дараҷаи мусбати \(L\) пайдо мешавад. Дар ҳадди \(N_\ell\rightarrow\infty\) нишондиҳанда ба 2 наздик мешавад. Аз ин рӯ, дар модели соддакардашуда ва мутавозини таҳқиқот натиҷаи “чуқурии бештар ҳамеша тезтар аст” ба даст намеояд; ду қабат аз ҷиҳати назариявӣ ҳолати махсус ва мусоидтарин мебошад.

Татбиқ Дар Фазои Фурье Харҷи Ҳисоббарориро Чӣ Гуна Тағйир Медиҳад?

Дар фазои воқеӣ гузариши пеши конволютсияе, ки тамоми системаро фаро мегирад, \(O(N^2)\) амал талаб мекунад, дар ҳоле ки ҳамон конволютсияи транслятсионӣ-инвариант дар фазои Фурье ба зарби нуқтавӣ табдил меёбад; азбаски харҷи \(O(N\log N)\)-и FFT ва FFT-и баръакс бартарӣ дорад, таҳқиқот мураккабии умумии гузариши пеши шабакаи score-и дуқабатаро ба \(O(N\log N)\) поён мебарад.

Чаро конволютсия дар фазои воқеӣ гарон аст?

Азбаски дар нуқтаи критикӣ дарозии коррелятсия дивергенсия мекунад, ядрои score-и дақиқ метавонад дар тамоми андозаи система паҳн шавад. Татбиқи мустақими ядро дар фазои воқеӣ ба тавре ки андозаи системаро фаро гирад:

\[ O(N^2) \]

амал талаб мекунад.

Дар ин ҷо:

\[ N= \left( \frac{L}{a} \right)^d. \]

\(L\) андозаи хаттии система, \(a\) фосилаи панҷара ва \(d\) андозаи фазоӣ мебошад.

Ҷараёни ҳисоббарории асосёфта ба FFT

1. Конфигуратсияи фазои воқеӣ бо FFT ба фазои Фурье табдил дода мешавад.
2. Ядрои конволютсия дар фазои Фурье ба ҳар як мод ҳамчун зарби нуқтавӣ татбиқ мешавад.
3. Натиҷа бо FFT-и баръакс ба фазои воқеӣ баргардонда мешавад.

Дар ҳоле ки харҷи зарби ядро дар фазои Фурье \(O(N)\) аст, харҷи FFT:

\[ O(N\log N) = O\left( dL^d\log L \right) \]

мебошад, бинобар ин харҷи умумии score-call-ро FFT муайян мекунад.

Тасдиқи сахтафзор

Манбаъ дар Расми 6 wall time-и гузариши пеши PyTorch convolutional network-и дуқабатаи фазои воқеиро бо татбиқи Фурье муқоиса мекунад. Таҷрибаҳо дар batch-ҳои 1024-намунавӣ, барои андозаҳои \(d=1,2,3\) ва бо истифода аз NVIDIA Tesla V100-SXM2-32GB GPU анҷом дода шудаанд. Татбиқи Фурье дар ҳудуди ченшуда аз convolution-и фазои воқеӣ тезтар аст ва миқёсгирии мусоидтари андозаи система нишон медиҳад. Манбаъ ҳамчунин қайд мекунад, ки дар ин ҳудуди таҷрибавӣ ислоҳи назариявии \(\log L\) ба таври равшан ҷудо карда нашудааст.

Усул ва Натиҷаҳои Таҳқиқот

Танзими таҷрибаи ниҳоии тасдиқ

Барои санҷидани он ки меъмории дуқабатаи асосёфта ба Фурье на танҳо вақти назариявии омӯзиш, балки хусусиятҳои физикии конфигуратсияҳои воқеан тавлидшударо низ дуруст бозсозӣ мекунад ё не, таҳқиқот таҷрибаи ҷудогонаи генератсия анҷом медиҳад.

Спектри қувва

Аввалин observable-и физикӣ:

\[ P(k) = \left\langle |\widetilde\phi(k)|^2 \right\rangle . \tag{63} \]

Ин бузургӣ қувваи миёнаи флуктуатсияҳои майдонро дар ададҳои мавҷии гуногун чен мекунад. Дар системаи критикӣ махсусан модҳои пасти \(k\) муҳиманд, зеро онҳо коррелятсияҳои дурмасофаро ифода мекунанд.

Манбаъ қисми паст-\(k\)-ро:

\[ \frac{1}{P(k)} \simeq ak^2+b \tag{64} \]

ба ин шакл fit мекунад.

Аз ин ҷо fitted effective mass:

\[ m_{\rm fit} = \sqrt{\frac{b}{a}} \]

ба даст меояд.

Ҳар каҷ бо истифода аз 20.000 конфигуратсия сохта шудааст. Ин санҷиш махсусан месанҷад, ки ҳангоми наздик шудан ба критикалӣ спектри паст-\(k\) дуруст тавлид мешавад ё не.

Санҷиши генератсия дар нуқтаи пурраи критикӣ

Манбаъ дар Расми 8 барои \(m_{\rm eff}=0\) ва \(L=16,32,64,128\) конфигуратсияҳои ҳадафии \(O(n)\)-ро бо конфигуратсияҳои тавлидкардаи модели диффузионӣ муқоиса мекунад. Барои ҳар андозаи система дар асоси 20.000 конфигуратсия:

• тақсимоти як компоненти майдон \(P(\phi)\),
• тақсимоти action,
• спектри қувва \(P(k)\),
• матритсаи ковариатсия

санҷида мешаванд. Манбаъ мегӯяд, ки дар ин бузургиҳои мушоҳидашаванда тақсимоти тавлидшуда аз ҳадафҳои назариявӣ аз ҷиҳати ададӣ фарқнопазиранд.

Таъсири маҷмӯи додаҳои ниҳоии омӯзиш

Дар Замимаи B шумораи намунаҳои омӯзиш \(M\) низ алоҳида баррасӣ мешавад. Вақте системаи дискретизатсияшуда бо \(N\) тағйирёбанда ифода мешавад, баҳодиҳии идеалии score-и омӯзиши беохир тавассути empirical covariance \(\widehat C_0\):

\[ S_t = \left[ (1-e^{-2t})I + e^{-2t}\widehat C_0 \right]^{-1}. \tag{B1} \]

Хатои намунагирии ниҳоии ҳар элементи ядрои \(N\times N\)-и фазои воқеӣ бо зиёд шудани \(M\) кам мешавад. Таҳлили манбаъ миқёсгирии хатои умумиро дар нормаҳои Frobenius ва \(L_{1,1}\) меомӯзад.

Азбаски инвариантии транслятсионӣ ядрои фазои Фурьеро диагоналӣ мекунад, бевосита дар фазои импулс танҳо \(O(N)\) параметрро омӯхтан мумкин аст. Дар ин ҳолат манбаъ:

\[ E_{1,1} \sim \frac{N}{\sqrt M}, \tag{B6} \]

ва:

\[ E_F \sim \sqrt{ \frac{N}{M} }. \tag{B7} \]

миқёсгириҳоро медиҳад. Натиҷаи муҳим барои хатои нисбии нормализатсияшуда ин аст, ки барои нигоҳ доштани дақиқии собит маҷбур нестем \(M\)-ро бо андозаи система зиёд кунем. Аз ин рӯ, хатои намунаи ниҳоӣ натиҷаи бартари \(L^2\)-и сустшавии критикии якқабатаро тағйир намедиҳад.

Хатои дискретизатсияи reverse ODE

Дискретизатсияи соддаи Euler:

\[ \frac{ \widetilde\phi(\vec k,t-\delta t) - \widetilde\phi(\vec k,t) }{ \delta t } = \widetilde\phi(\vec k,t) + (2\pi)^d \widetilde\phi(\vec k,t) \widetilde S_t(\vec k). \tag{B8} \]

ва навсозии эквивалентӣ:

\[ \widetilde\phi(\vec k,t-\delta t) = \widetilde\phi(\vec k,t) \left[ 1+ \delta t \left( 1-(2\pi)^d\widetilde S_t(\vec k) \right) \right]. \tag{B9} \]

Дар усули Euler хатои ниҳоӣ \(O(\delta t)\) аст. Дар модули критикии импулси паст ва ҳангоми \(\delta t\)-и собит, хатои мутлақ барои \(L\)-и калон метавонад тақрибан хаттӣ афзоиш ёбад. Манбаъ нишон медиҳад, ки инро бо интеграторҳои тартиби баландтар хеле кам кардан мумкин аст.

Барои усули Runge–Kutta-и тартиби чорум, ки дар Расми 8 истифода шудааст, қадами зарурии дискретизатсия тақрибан:

\[ L^{1/4} \]

бо ҳамин миқёс афзоиш ёфтанаш кофӣ аст. Ин вобастагии андозаи система нисбат ба маҳдудияти \(L^2\)-и training дар як қабат хеле заифтар аст.

Оё Дар Нуқтаи Критикӣ Ядрои Маҳаллии Score Кофӣ Аст?

Не. Натиҷаи асосии Замимаи C ин аст, ки ядрои score-и диапазонаш маҳдуд метавонад дар баъзе шароит хатои умумии score-ро хурд нигоҳ дорад, вале дар бозсозии дурусти сохтори импулси пасти системаи критикии \(m_{\rm eff}\rightarrow0\) ноком шавад; бинобар ин танҳо хурд будани хатои умумии score кафолат намедиҳад, ки рафтори критикии физикӣ дуруст тавлид шудааст.

Буридани ядрои маҳаллӣ

Ядрои score-и дақиқ:

\[ |\vec x-\vec y|>\frac{K}{2} \]

дар ин минтақа ба сифр гузошта шуда, сунъӣ маҳаллӣ карда мешавад. Хатои score дар як нуқта:

\[ \delta F_t^{(R)} = - \int_{|\vec y|>R} d^d\vec y\, \mathcal S_t(0,\vec y) \phi_t(\vec y), \tag{C1} \]

дар ин ҷо \(R=K/2\).

Таҳлили миқёсии манбаъ барои дисперсияи умумии хатои маҳаллӣ:

\[ {\rm Var}[\delta F_t^{(R)}] \sim R^{-d}, \qquad d\geq3, \tag{C5} \]

\[ {\rm Var}[\delta F_t^{(R)}] \sim \frac{\log L}{R^2}, \qquad d=2, \tag{C6} \]

\[ {\rm Var}[\delta F_t^{(R)}] \sim \frac{L}{R^2}, \qquad d=1. \tag{C7} \]

ин натиҷаҳоро медиҳад.

Мувофиқи ин, барои идора кардани хатои умумии score тақрибан:

• \(d=1\): \(R\sim\sqrt L\),
• \(d=2\): афзоиши логарифмии \(R\),
• \(d\geq3\): sabit \(R\)

кофӣ шуда метавонад.

Аммо ин маънои “физикаи критикӣ дуруст тавлид шуд”-ро надорад. Санҷиши power-spectrum-и Замимаи C нишон медиҳад, ки ҳангоми хурд шудани \(m_{\rm eff}\), score-и маҳаллӣ/cropped спектри паст-\(k\)-ро нодуруст бозсозӣ мекунад. Буридани ядро аз ҷиҳати физикӣ гӯё дарозии коррелятсияи ниҳоӣ вуҷуд дошта бошад, рафтор мекунад. Дар нуқтаи критикӣ дарозии ҳақиқии коррелятсия дивергенсия мекунад, бинобар ин ядрои маҳаллӣ рафтори критикиро аз даст медиҳад.

Чаро ин натиҷа муҳим аст?

Хурд будани хатои миёнаи умумии модели омӯзиши мошинӣ маънои онро надорад, ки ҳамаи модҳои аз ҷиҳати физикӣ муҳим дурустанд. Дар системаҳои критикӣ модҳои паст-\(k\), ҳатто агар дар нормаи умумӣ вазни кам дошта бошанд ҳам, коррелятсияҳои дурмасофаро муайян мекунанд. Аз ин рӯ, таҳқиқот нишон медиҳад, ки тасдиқ бо бузургиҳои мушоҳидашавандаи физикӣ нисбат ба танҳо метрикаи глобалии score боэътимодтар аст.

Натиҷаҳои асосии таҳқиқот

Натиҷаҳое, ки таҳқиқот дастгирӣ мекунад

• Score-и дақиқи diffusion дар модели Gaussian \(O(n\rightarrow\infty)\) хаттӣ аст ва бо ядрои хаттии конволютсионии тамоми система ифода шуда метавонад.
• Омӯзиши шабакаи хаттии якқабатае, ки score-и дақиқро ифода карда метавонад, бо gradient descent дар нуқтаи критикӣ сустшавии критикии миқёси \(L^2\) нишон медиҳад.
• Сустшавӣ дар омӯзиши score ба хатои generation мегузарад ва тавлиди ковариатсияи дурустро бо ҳамон миқёсгирии андозаи система душвор мекунад.
• Илова кардани қабати дуюми хаттӣ дар initialization-и мувофиқи миқёси \(1/L\) вақти омӯзишро аз \(L^2\) ба \(\log L\) кам мекунад.
• Қабатҳои хаттии бештар дар ин модели соддакардашуда худкор беҳтар нестанд; барои \(N_\ell>2\) вобастагии power-law аз андозаи система бармегардад.
• Татбиқи Фурье харҷи гузариши пеши ҳисоби score-и диапазони пурраро аз \(O(N^2)\) ба \(O(N\log N)\) коҳиш медиҳад.
• Майдонҳои критикии Gaussian, ки шабакаи дуқабатаи асосёфта ба Фурье тавлид мекунад, дар ченкуниҳои power spectrum, action, тақсимоти як майдон ва covariance бо ҳадафҳои назариявӣ мутобиқати хеле хуб нишон медиҳанд.
• Хатои маҷмӯи додаҳои ниҳоӣ ва дискретизатсияи reverse-ODE омӯхта шудаанд ва нишон дода шудааст, ки онҳо миқёсгирии бартари маҳдудияти \(L^2\)-и training-и якқабатаро тағйир намедиҳанд.
• Танҳо хурд будани хатои глобалии score кафолат намедиҳад, ки коррелятсияҳои критикии физикӣ дуруст тавлид шудаанд; рафтори паст-\(k\)-ро алоҳида санҷидан лозим аст.

Натиҷаҳое, ки таҳқиқот дастгирӣ намекунад

• Беҳбудии \(L^2\rightarrow\log L\) қонуни универсалӣ барои ҳамаи моделҳои муосири диффузионии тасвир/видео нест.
• Таҳқиқот ҳамон миқёсгириро дар Transformer, U-Net ё моделҳои бузурги генеративии ғайрихаттӣ бевосита нишон намедиҳад.
• Натиҷаҳо дар моделҳои finite-\(n\) \(O(n)\) аз ҷиҳати аналитикӣ тасдиқ нашудаанд.
• Фазаи ферромагнитии \(m_{\rm eff}<0\), ки дар модели Gaussian дастнорас аст, бевосита омӯхта намешавад.
• Даъво карда намешавад, ки интуитсияи умумии физикӣ дар бораи он ки чаро ду қабат барои ин масъала махсусан оптималӣ аст, пурра анҷом ёфтааст; муаллифон онро мавзӯи таҳқиқоти оянда мегузоранд.
• Идора шудани хатои умумии score аз ҷониби ядрои маҳаллӣ кафолати дуруст тавлид шудани бузургиҳои мушоҳидашавандаи критикии физикӣ нест.
• Санҷида нашудааст, ки меъмории Фурье дар ҳамаи маҷмӯаҳои воқеии бисёрмиқёс ҳамон бартарии иҷроишро нишон медиҳад.
• Таҳқиқот масъалаи чӣ гуна ба даст овардани маҷмӯи додаҳои омӯзишро ҳал намекунад; муаллифон маҷмӯи додаҳоро додашуда қабул мекунанд.

Маҳдудиятҳои асосӣ ва самтҳои таҳқиқоти оянда

1. Ҳадди калон-\(n\)-и Gaussian: Сабаби асосии назорати аналитикӣ ҳамзамон маҳдудияти асосист. Ҳадди \(n\rightarrow\infty\) моделро Gaussian мекунад; таъсирҳои мутақобилаи finite-\(n\) ва сохторҳои воқеии score-и ғайрихаттӣ дар таҳлили асосӣ вуҷуд надоранд.

2. Тарафи ҳарорати баланд/критикӣ: Таҳқиқот ба минтақаи \(m_{\rm eff}\geq0\) тамаркуз мекунад. Азбаски дар ҳадди Gaussian модели \(m_{\rm eff}<0\) хуб муайян нашудааст, фазаи ферромагнитии симметрияаш шикаста омӯхта намешавад.

3. Меъмориҳои хаттӣ: Шабакаҳои як ва ду қабат аз конволютсияҳои хаттии бидуни фаъолсозӣ иборатанд. Ин таъсири параметргузории меъмориро тоза ҷудо мекунад, вале меъмориҳои муосири амиқи ғайрихаттии diffusion-ро ифода намекунад.

4. Шабакаи ҷудогона барои ҳар diffusion-time: Дар тасдиқи ниҳоии Фурье ба ҷойи як шабакаи time-embedded, барои ҳар \(t\)-и собит шабакаи мустақил омӯзонида мешавад. Ин интихоб барои татбиқи мустақими назария аст ва аз меъмориҳои стандартии амалии diffusion фарқ мекунад.

5. Маҷмӯи додаҳо додашуда қабул мешавад: Дар масъалаҳои интихобкунии физикӣ аксар вақт худи ҳадаф тавлиди додаҳои омӯзиш аз тақсимоти ҳадаф аст. Мақола харҷи намунаҳои омӯзишро берун аз масъалаи асосӣ нигоҳ медорад.

6. Мушкилоти маҳаллӣ будан: Азбаски дар системаи критикӣ дарозии коррелятсия дивергенсия мекунад, моделсозии комилан маҳаллии score метавонад рафтори физикии паст-\(k\)-ро гум кунад.

7. DOI-и анбори додаҳо: PDF-и боршудаи v3 дар изҳороти дастрасии додаҳо ба Duke Digital Repository ишора мекунад, аммо дар Истиноди [96] DOI ҳанӯз ба шакли placeholder-и “10.7924/XXXXXXX” аст. Verianla ин камбудиро пур намекунад.

Ёддошт оид ба Манбаъ ва Усул

Унвони аслӣ: The critical slowing down in training diffusion models

Муаллифон: Luca Maria Del Bono, Giulio Biroli, Patrick Charbonneau, Marylou Gabrié.

Тартиби муаллифон: Тартиби PDF-и манбаъ айнан нигоҳ дошта шудааст.

Муаллифи масъул: Luca Maria Del Bono. Дар PDF-и манбаъ бо аломати ситорача ошкоро ҳамчун “Corresponding author” нишон дода шудааст.

Саҳми баробар: Дар манбаи боршуда изҳороти саҳми баробар/ҳаммуаллифии якуми баробар муайян нашудааст.

Аффилиатсияҳо: Dipartimento di Fisica, Sapienza Università di Roma; CNR-Nanotec Rome unit; Laboratoire de Physique Statistique, École normale supérieure / PSL Research University; Department of Physics, Duke University; Department of Chemistry, Duke University.

Версияи боршудаи манбаъ: arXiv:2605.12597v3 [cond-mat.dis-nn], 18 Сентябри 2026.

arXiv DOI: 10.48550/arXiv.2605.12597. Ин DOI идентификатори доимии сабти arXiv аст ва DOI-и маҷалла нест.

Ҳолати ҷории нашр: Таҳқиқот 28 Октябри 2026 аз ҷониби PRX Intelligence қабул шудааст. DOI дар сабти “Accepted Paper”-и APS — 10.1103/yskc-plm7. Мазмуни илмии ин матни Verianla ба PDF-и боршудаи arXiv v3 асос ёфтааст; ҳолати ҷории қабул танҳо бо мақсади тасдиқи библиографӣ илова шудааст.

Маҷалла: PRX Intelligence — таҳқиқоти қабулшуда.

Ношир: American Physical Society (APS).

Навъи манбаъ: Таҳқиқоти назариявӣ, аналитикӣ ва ададии физикаи оморӣ / омӯзиши мошинӣ.

Соҳаҳои асосӣ: Disordered Systems and Neural Networks, Statistical Mechanics, Artificial Intelligence, Machine Learning ва Computational Physics.

Модели асосии физикӣ: Назарияи омории майдони Gaussian \(O(n\rightarrow\infty)\).

Усули асосии омӯзиши мошинӣ: Модели score-based diffusion; динамикаи омӯзиши gradient descent барои як ва ду қабати хаттии конволютсионӣ.

Усули асосии ҳисоббарорӣ: Таҳлили фазои Фурье, score-и дақиқи Gaussian, ҳалли gradient-flow, reverse diffusion ODE, татбиқи score-и асосёфта ба FFT ва тавлиди конфигуратсияҳои ададӣ.

Нармафзори ададӣ: Манбаъ мегӯяд, ки конволютсияҳои PyTorch истифода шудаанд ва як қисми абарсохтори интегратсияи diffusion-model аз Истиноди [87] мутобиқ карда шудааст.

Сахтафзори ададӣ: Барои муқоисаи вақтҳои гузариши пеш дар Фурье ва фазои воқеӣ NVIDIA Tesla V100-SXM2-32GB GPU истифода шудааст.

Дастрасии додаҳо: PDF-и боршудаи v3 ибораи “The data that support the findings of this article are openly available [96]”-ро дар бар мегирад; аммо Истиноди [96] дар ҳамон PDF DOI-и нотамом ба шакли “Duke Digital Repository https://doi.org/10.7924/XXXXXXX” дорад. Аз ин рӯ, DOI-и дақиқи анбори додаҳоро аз ин версияи манбаъ тасдиқ кардан мумкин нест.

Маблағгузорӣ / инфрасохтори ҳисоббарорӣ: Дар таҳқиқот DARIAH HPC-AI cluster at CNR-NANOTEC, Lecce истифода шудааст. Манбаъ мегӯяд, ки ин инфрасохтор аз ҷониби лоиҳаи “MUR PON Ricerca e Innovazione 2014–2020” PIR01_00022 ва H2IOSC Project IR0000029 дар доираи European Union – NextGenerationEU – NRRP M4C2 маблағгузорӣ шудааст.

Сипосгузорӣ: Муаллифон ба Davide Carbone, Sebastian Goldt, Misaki Ozawa ва Gilles Tarjus барои муҳокимаҳои муфид сипос мегӯянд. Luca Maria Del Bono ҳамчунин меҳмоннавозии École normale supérieure-ро қайд мекунад.

Ихтилофи манфиатҳо: Дар PDF-и боршудаи v3 изҳороти ҷудогонаи ихтилофи манфиатҳо/competing interests муайян нашудааст; Verianla изҳороти дар манбаъ набударо эҷод накардааст.

Саҳми муаллифон / CRediT: Дар PDF-и боршудаи v3 ҷадвали ҷудогонаи саҳми CRediT муайян нашудааст.

Литсензия: Сабти arXiv non-exclusive distribution license-ро нишон медиҳад. Ин ба маънои он шарҳ дода нашудааст, ки фигураҳои манбаъро дар доираи Creative Commons озодона дубора истифода бурдан мумкин аст; Verianla фигураҳои манбаъро айнан нусхабардорӣ накарда, дар асоси робитаҳои илмӣ SVG ва ҷадвалҳои HTML-и мустақил сохтааст.

Ҳудуди асосии тафсир: Таҳқиқот меъмориҳои хаттии score-ро дар модели назоратшавандаи Gaussian \(O(n\rightarrow\infty)\) меомӯзад. Интиқоли мустақими миқдории натиҷаҳо ба моделҳои бузурги умумимақсади diffusion-и ғайрихаттӣ аз ҷониби манбаъ исбот нашудааст.