Utafiti huu unatengeneza usanifu shirikishi wa wingu–ukingo–ncha (cloud–edge–end) na mbinu ya uboreshaji inayotegemea ujifunzaji wa kina wa uimarishaji ili kusimamia kwa karibu na wakati halisi rasilimali za kompyuta, mawasiliano na nishati za idadi kubwa ya nodi za mwangaza wa uwanja wa ndege katika mifumo ya Mobile Airfield Lighting (MAL). Mfumo wa MAL ni mfumo wa mwangaza wa uwanja wa ndege uliosambazwa unaolenga kudhibiti taa za njia ya kukaribia, njia ya kurukia na kutua, na njia ya teksi katika maeneo ya kutua ya muda au yanayohamishika kulingana na hali za mazingira na uendeshaji. Watafiti wamefafanua tatizo la uboreshaji lenye vizuizi linalopunguza kwa pamoja ucheleweshaji wa jumla wa mfumo na matumizi ya nishati; kwa suluhisho wameunganisha ugawaji wa awali wa rasilimali kwa K-medoids na uboreshaji wa kina kwa Improved Twin Delayed Deep Deterministic Policy Gradient (ITD3). Katika uigaji wa matukio-diskreti unaotegemea Python 3.12, nodi 50–2000 za mwangaza wa uwanja wa ndege zilichunguzwa, na ITD3 ilitoa matokeo mazuri zaidi kwa ucheleweshaji wa jumla na matumizi ya nishati kuliko TAI, DDPG, PPO na TD3 ya kawaida zilizolinganishwa. Hata hivyo, matokeo haya si uthibitishaji wa uwanjani katika uwanja wa ndege halisi unaofanya kazi; majaribio halisi ya MAL uwanjani yameachwa na utafiti kama mwelekeo wa kazi ya baadaye.
Wazo kuu la mfumo uliopendekezwa ni kusambaza kompyuta katika viwango vitatu badala ya kupeleka data zote za vihisi kwenye kituo kimoja na kufanya uamuzi katika kituo hicho pekee. Nodi za mwangaza hukusanya taarifa za hali zenye masafa ya juu na kufanya uchakataji mdogo wa ndani; nodi za ukingoni hushughulikia uchakataji wa data wa kikanda, upangaji wa kazi na maamuzi yenye ucheleweshaji mdogo; wingu hufanya uchakataji wa data wa muda mrefu, mafunzo ya modeli, uboreshaji wa kimataifa na uratibu. Kwa hivyo utafiti unashughulikia ucheleweshaji, matumizi ya nishati, ugawaji wa njia na uwezo wa uchakataji katika mwangaza wa uwanja wa ndege unaohamishika ndani ya mfumo mmoja wa uboreshaji.
Tatizo la msingi katika mfumo wa mwangaza wa uwanja wa ndege unaohamishika
Mwangaza wa eneo la uwanja wa ndege huwasaidia marubani kutambua kwa kuona jiometri ya njia ya kurukia na kutua na njia ya teksi, mhimili wa kukaribia na mwongozo wa uendeshaji wakati wa kuondoka, kukaribia, kutua na kuteksi. Hasa katika hali za mwonekano mdogo, upatikanaji wa mwangaza, ucheleweshaji wa udhibiti na uundaji wa mpangilio sahihi wa taa huwa muhimu kwa uendeshaji.
Mifumo ya jadi ya mwangaza wa uwanja wa ndege kwa kiasi kikubwa hutegemea udhibiti wa kati unaotegemea mizunguko. Hata hivyo, katika hali za juu zaidi kama A-SMGCS Level IV, inaweza kuwa muhimu kudhibiti kwa nguvu maelfu ya taa kwa kuzingatia mwendo wa ndege. Chanzo kinaeleza kuwa katika hali hiyo, mizigo ya ukusanyaji wa data inayoweza kufikia makumi ya maelfu ya nukta za data kwa sekunde na mahitaji ya udhibiti katika kiwango cha milisekunde huifanya mbinu ya kati ya “pakia data zote kwenye kituo, fanya uamuzi kwenye kituo” kuwa ngumu.
Mwangaza wa uwanja wa ndege unaohamishika huongeza kipengele kingine kwenye tatizo hili la upanuzi wa mfumo. Mifumo ya MAL inalenga kurekebisha mpangilio wa mwangaza kulingana na hali za mazingira na ndege inayohudumiwa katika maeneo ya matumizi ya muda au yanayohamishika ambayo hayategemei miundombinu ya kudumu ya njia ya kurukia na kutua. Kwa hiyo kuwasha na kuzima taa pekee hakutoshi; mawasiliano ya nodi nyingi, mizigo ya kompyuta, bajeti ya nishati na mahitaji ya ucheleweshaji lazima yasimamiwe kwa pamoja.
Kwa Nini Usanifu wa Wingu–Ukingo–Ncha Unatumika katika Mwangaza wa Uwanja wa Ndege Unaohamishika?
Usanifu wa wingu–ukingo–ncha hutumika kuchakata maamuzi yanayoathiriwa na ucheleweshaji kwenye rasilimali za ukingoni zilizo karibu na nodi za mwangaza wa uwanja wa ndege huku mafunzo ya modeli yenye gharama kubwa na uboreshaji wa kimataifa yakiachwa kwenye wingu; kwa njia hiyo inalenga kupunguza ucheleweshaji, shinikizo la upana wa bendi na utegemezi wa sehemu moja ya kushindwa unaotokana na kuhamisha data zote kwenye mfumo wa kati.
Tabaka tatu za kompyuta
| Tabaka | Vipengele vikuu | Kazi kuu | Kikomo cha chanzo |
|---|---|---|---|
| End / Ncha | Taa za uwanja wa ndege, vitengo vyepesi vya kompyuta, vihisi, redio za mawasiliano | Ukusanyaji wa hali wenye masafa ya juu, uchakataji msingi wa awali na maamuzi ya usaidizi yenye mipaka | Rasilimali za kompyuta na nishati ni chache. |
| Edge / Ukingo | Nodi za kikanda za ukingoni zilizounganishwa na ALN nyingi | Ukusanyaji wa data, uchakataji wa kikanda, kompyuta, udhibiti, utabiri wa ndani na usimamizi wa kazi | Eneo kubwa sana linahitaji nodi nyingi za ukingoni. |
| Cloud / Wingu | Kituo cha data cha wingu cha kati na vipengele vya huduma | Uchakataji wa muda mrefu, usimamizi wa data, mafunzo changamano ya modeli, uboreshaji wa kimataifa na uratibu | Si kila uchakataji nyeti kwa ucheleweshaji hufanywa moja kwa moja kwenye wingu. |
Katika mgawanyo uliopendekezwa na utafiti, nodi za ukingoni si vipitishaji mawasiliano pekee. Zina rasilimali za kompyuta na hifadhi na zinaweza kuchakata data kutoka kwa nodi za mwangaza wa uwanja wa ndege ndani ya eneo lake la huduma. Wingu huchukua uboreshaji wa pamoja wa mtandao wote katika kiwango kirefu zaidi cha muda na mafunzo ya modeli.
Hatua ya kwanza ya modeli ya mawasiliano: upotevu wa njia
Chanzo kinafafanua upotevu wa njia katika anga huru kwenye umbali wa marejeo kwa Mlinganyo (1):
\[ L(d_0)=\left(\frac{4\pi d_0 f}{c_v}\right)^2 \]
Hapa \(d_0\) ni umbali wa marejeo, na chanzo kwa kawaida kinautaja kuwa 1 m. \(f\) ni masafa ya mtoa mawimbi na \(c_v\) ni kasi ya mwanga. Mlinganyo huu unaonyesha jinsi masafa na umbali vinavyoingia katika upotevu msingi wa anga huru kwenye kiungo cha mawasiliano. Masafa yanapoongezeka huku hali nyingine zikiwa sawa, kiasi hiki huongezeka kwa mraba.
Umbali kati ya ALN na nodi ya ukingoni
Umbali kati ya nodi ya n ya mwangaza wa uwanja wa ndege na nodi ya m ya ukingoni unatolewa na Mlinganyo (2):
\[ d_{n,m}=\sqrt{H^2+(x_m-x_n)^2+(y_m-y_n)^2} \]
\(x_n,y_n\) na \(x_m,y_m\) zinawakilisha viwianishi vya mlalo, huku \(H\) ikiwakilisha sehemu ya urefu inayoingia kwenye umbali wa kijiometri. Mlinganyo unaingiza utengano wa kijiometri wa pande tatu kati ya nodi kwenye modeli ya njia.
Faida ya njia chini ya Rayleigh fading
Chanzo kinafafanua faida ya njia kwa Mlinganyo (3):
\[ g_{n,m}=\frac{1}{L(d_0)} \left(\frac{d_0}{d_{n,m}}\right)^\beta h \]
\(\beta\) ni kipeo cha upotevu wa njia na chanzo kinataja thamani ya kawaida ya 2 kwa anga huru. \(h\) ni kiasi chenye usambazaji wa Rayleigh kinachowakilisha athari ya nasibu ya uenezaji wa njia nyingi kwenye amplitude ya mawimbi. Kwa hiyo ubora wa mawasiliano kati ya nodi hautegemei umbali wa kijiometri pekee bali pia athari ya fading.
Uwiano wa ishara-kelele-muingiliano
Kwa muunganisho wa ALN ya n kwenye njia ndogo c kwenda nodi ya m ya ukingoni, SNR katika Mlinganyo (4) ni:
\[ \mathrm{SNR}_{n,m,c} = \frac{P_{n,c}g_{n,m}} {\sigma^2+\sum_{n'\neq n}P_{n',c}g_{n',m}} \]
\(P_{n,c}\) ni nguvu ya utumaji ya ALN ya n kwenye njia ndogo c. \(\sigma^2\) inawakilisha nguvu ya kelele, na kiasi cha jumla kinawakilisha muingiliano unaotengenezwa na ALN nyingine kwenye njia ndogo hiyo hiyo. Kadiri nguvu muhimu inayopokelewa kwenye namba ya juu ya sehemu inavyoongezeka, SNR huongezeka; kelele au muingiliano wa njia moja unapoongezeka, SNR hupungua.
Kasi ya mawasiliano
Kwa kuanzia na uhusiano wa Shannon, chanzo kinatoa kasi ya mawasiliano ya ALN–EN kwa Mlinganyo (5):
\[ R_{n,m} = B\sum_{c=1}^{C}\log_2 \left(1+\mathrm{SNR}_{n,m,c}\right) \]
\(B\) ni upana wa bendi ya njia isiyotumia waya na \(C\) ni idadi ya njia ndogo. Thamani hii ni ingizo la moja kwa moja la hesabu za ucheleweshaji wa upakiaji zinazofuata. Kwa ukubwa uleule wa data, \(R_{n,m}\) inapoongezeka muda wa uhamisho wa data hupungua.
Ucheleweshaji wa kompyuta ya ndani
Ucheleweshaji wa uchakataji wa awali wa ndani wa ALN ya n:
\[ T_n^{local} = \frac{D_n C_n}{cf_n} \]
ni kama ulivyoonyeshwa. \(D_n\) inawakilisha kiasi cha data kinachochakatwa, \(C_n\) mzigo wa kompyuta kwa kila sampuli ya data, na \(cf_n\) uwezo wa kompyuta wa ndani wa ALN. Data na mzigo wa uchakataji vinapoongezeka ucheleweshaji huongezeka, huku uwezo wa kompyuta unapoongezeka ucheleweshaji hupungua.
Muda wa kupakia data kutoka ALN kwenda nodi ya ukingoni
\[ T_{n,m}^{up} = \frac{|w_n|}{R_{n,m}} \]
Hapa \(|w_n|\) ni ukubwa wa data ya kigezo inayopakiwa. Ikiwa kasi ya mawasiliano itaongezeka mara mbili kwa kiasi kilekile cha data, ucheleweshaji huu wa upakiaji unatarajiwa kihisabati kupungua kwa nusu.
Ucheleweshaji na nishati ya jumla kwa ALN moja
\[ T_n=T_n^{local}+T_{n,m}^{up} \]
\[ E_n= \kappa cf_n^3T_n^{local} + P_{n,c}T_{n,m}^{up} \]
Kiasi cha kwanza cha modeli ya nishati kinawakilisha kompyuta ya ndani, na cha pili gharama ya utumaji usiotumia waya. Kiasi cha \(cf_n^3\), kinachotokana na mchemraba wa masafa ya uchakataji, kinaonyesha kuwa kuongeza kasi ya kompyuta huleta gharama isiyo ya mstari ya nishati. Uhusiano huu ndio kiini cha kihisabati kinachoeleza kwa nini utafiti unaboresha ucheleweshaji na nishati kwa pamoja badala ya kupunguza ucheleweshaji pekee.
Gharama ya kompyuta ya ukingoni
Kwa nodi ya m ya ukingoni kuchakata kazi ya kigezo cha ndani, chanzo kinatumia:
\[ T_{m,k}^{com} = \sum_{n=1}^{N} \alpha_{n,m} \frac{|w_n|c_m}{cf_m} \]
\[ E_{m,k}^{com} = \kappa cf_m^3T_{m,k}^{com} \]
milinganyo hii. \(\alpha_{n,m}\) ni kigezo cha jozi kinachoamua ikiwa ALN ya n imechagua nodi ya m ya ukingoni. \(c_m\) ni mzigo wa uchakataji kwa biti wa nodi ya ukingoni, na \(cf_m\) ni uwezo wa kompyuta wa ukingoni.
Upakiaji kutoka ukingoni kwenda wingu
\[ T_{m,k}^{up} = \frac{|w_m|}{R_{m,L}} \]
\[ E_{m,k}^{up} = P_m T_{m,k}^{up} \]
\(|w_m|\) ni ukubwa wa data inayotumwa na nodi ya m ya ukingoni kwenda wingu; \(R_{m,L}\) ni kasi ya mawasiliano ukingo–wingu na \(P_m\) ni nguvu ya utumaji inayotumika kwa kiungo hiki.
Ucheleweshaji wa kompyuta ya wingu
Chanzo kinatoa muda wa uchakataji wa wingu kwa Mlinganyo (11):
\[ T_{L,k_L}^{com} = \sum_{m=1}^{M} \frac{|w_m|c_L}{cf_L} \]
\(c_L\) ni mzigo wa kompyuta kwa biti wa wingu na \(cf_L\) ni uwezo wa uchakataji wa wingu. Kwa mujibu wa chanzo, ikiwa uwezo wa ukingoni unaweza kutimiza kazi, msaada wa wingu unaweza kutotumika na ucheleweshaji husika wa kompyuta ya wingu huchukuliwa kuwa sifuri.
Usambazaji wa matokeo kutoka wingu kurudi chini
Chanzo kinatumia Mlinganyo (12) na (13) kwa usambazaji wa kurudi wingu → ukingo → ALN:
\[ T_{L,k_L}^{down} = \max_{m=1,2,\ldots,M} \left( \frac{|w_L|}{R_{L,m}} + \sum_{n=1}^{N} \alpha_{m,n} \frac{|w_L|}{R_{m,n}} \right) \]
\[ T_{m,k}^{down} = \sum_{n=1}^{N} \alpha_{m,n} \frac{|w_L|}{R_{m,n}} \]
Katika sehemu hii chanzo kinatumia ishara \(L\) kwa wingu huku kikieleza \(|w_L|\) kama ukubwa wa data wa “L-th EN”. Kwa kuwa maelezo haya hayaonekani kuendana kikamilifu na ufafanuzi wa ishara uliotangulia, maandishi ya Verianla hayajabadilisha notasheni kimya kimya.
Ucheleweshaji wa jumla wa mfumo
Vipengele vya uchakataji/uhamisho vya ALN, ukingo na wingu vinaunganishwa kuunda ucheleweshaji wa jumla katika Mlinganyo (14a):
\[ T^{all} = \max_{m\in\{1,2,\ldots,M\}} \left[ \sum_{n\in N_m} \left( T_n^{local}+T_{n,m}^{up} \right) + \left( T_{m,k}^{com} + T_{m,k}^{up} + T_{m,k}^{down} \right) \right] + \left( T_{L,k_L}^{com} + T_{L,k_L}^{down} \right) \]
Opereta ya maksimum hapa hubeba wazo kwamba miongoni mwa maeneo ya ukingoni yanayofanya kazi sambamba, mwitikio wa jumla wa mfumo unadhibitiwa na njia muhimu iliyo polepole zaidi.
Chanzo kinatoa Mlinganyo (14b) wa nishati ya jumla kwa notasheni ifuatayo:
\[ E^{all} = \sum_{n=1}^{N}E_n + \sum_{i=1}^{M}E_{i,n}^{all} \]
Kwa kuwa ishara \(E_{i,n}^{all}\) katika jumla ya pili haijafafanuliwa tena kwa kina katika maandishi ya chanzo, haijabadilishwa hapa kwa ishara tofauti.
Kwa nini ucheleweshaji na nishati vinaboreshwa pamoja?
Kupunguza ucheleweshaji pekee kunaweza kuongeza gharama ya nishati kwa kuongeza masafa ya kompyuta au nguvu ya utumaji. Kupunguza nishati pekee kunaweza kupunguza kasi ya uchakataji na uhamisho wa data, hivyo kuvuka mahitaji ya udhibiti wa wakati halisi. Kwa hiyo utafiti unaunganisha malengo hayo mawili katika kazi moja ya lengo yenye uzito.
\[ P1: \min_{\alpha_{m,n},cf_i} \lambda_1T^{all}(\alpha_{m,n},f_i) + \lambda_2E^{all}(\alpha_{m,n},cf_i) \]
Katika chanzo, notasheni \(f_i\) imetumika katika kiasi cha ucheleweshaji na \(cf_i\) katika kiasi cha nishati; msingi wa Verianla hausawazishi tofauti hii ya notasheni kimya kimya.
Vizuizi vinafafanuliwa katika Mlinganyo (16) kama ifuatavyo:
\[ C1: T_n(\alpha_{m,n},cf_i)\le T_{max} \]
\[ C2: E^{all}\le E_{max} \]
\[ C3: \sum_{n=1}^{N}\phi_{n,c}\le1 \]
\[ C4: 0<cf_i\le f_{max} \]
C1 huzuia kila nodi kuzidi ucheleweshaji wa juu unaoruhusiwa. C2 huweka kikomo kwa bajeti ya jumla ya nishati. C3 hulazimisha njia ndogo moja kutokaliwa na ALN zaidi ya moja kwa wakati mmoja. C4 hairuhusu rasilimali ya kompyuta ya ukingo/wingu kuzidi uwezo wa kimwili.
K-Medoids na ITD3 Hufanya Kazi Pamoja Vipi?
K-medoids kwanza hupanga kwa makundi idadi kubwa ya nodi za mwangaza wa uwanja wa ndege kwa nodi za ukingoni kulingana na gharama ya ucheleweshaji, hivyo kupunguza nafasi ya utafutaji; kisha ITD3 huboresha kwa usahihi zaidi uteuzi wa nodi, ugawaji wa njia na vigezo endelevu vya rasilimali juu ya mgawanyo huo wa awali chini ya vizuizi.
Ugawaji wa awali wa ALN–EN kwa K-medoids
Chanzo hutumia taarifa ya ucheleweshaji/gharama ya mwanzo-hadi-mwisho ya ALN–EN kama kipengele cha upangaji wa makundi. Mchakato una hatua tano kuu: mwanzoni huchaguliwa wagombea M wa medoid kutoka ALN; ALN zote hupewa kundi lenye gharama ndogo zaidi ya ucheleweshaji; kituo cha kila kundi huhesabiwa upya na wagombea wasiokidhi kizuizi cha ucheleweshaji huondolewa; mchakato hurudiwa hadi vituo visibadilike au mabadiliko ya umbali ndani ya kundi yawe chini ya thamani ya kizingiti; hatimaye hupatikana matriki ya awali ya ugawaji wa njia/nodi kwa ITD3.
Kazi ya hatua ya K-medoids si kupata optimum ya mwisho peke yake. Kazi yake kuu ni kufanya nafasi ya tatizo ambamo ITD3 inaanza uboreshaji wa kina iwe rahisi zaidi kusimamia wakati kuna maelfu ya nodi.
Nafasi ya hali ya ITD3
Vekta ya hali ya chanzo katika Mlinganyo (17) ni:
\[ S= \{ cf_m, cf_n, P_{n,c}, R_{n,m}, T_n, E_n, E_m^{rem} \} \]
Hali inajumuisha vigezo vinavyobadilika kama uwezo wa uchakataji wa ukingoni na ALN, nguvu ya utumaji, kasi ya mawasiliano, ucheleweshaji wa nodi moja, matumizi ya nishati ya ALN na nishati iliyobaki kwenye nodi ya ukingoni. Vigezo vyote vya hali husawazishwa katika masafa [0,1] ili kupunguza athari ya tofauti za skeli katika mafunzo ya mtandao wa neva.
Nafasi ya vitendo ya ITD3
Chanzo kinatoa nafasi ya vitendo katika Mlinganyo (18) kama ifuatavyo:
\[ A= \{ \alpha_{m,n}, \phi_{m,c}, P_m \} \]
\(\alpha_{m,n}\) inawakilisha uchaguzi wa jozi wa nodi ya ukingoni ambayo vigezo vitapakiwa, na \(\phi_{m,c}\) inawakilisha ugawaji wa njia. Maandishi ya chanzo yanaeleza \(P_m\) katika hatua hii kama mgawanyo sawia wa rasilimali za kompyuta kulingana na kazi. Hata hivyo, katika modeli ya awali ya mawasiliano/nishati, \(P_m\) ilitumika kama nguvu ya utumaji ya nodi ya ukingoni. Utata huu wa ishara ndani ya chanzo lazima uhifadhiwe na usitatuliwe kimya kimya kwa ufafanuzi tofauti.
Kazi ya zawadi
Badala ya kupunguza moja kwa moja thamani za ucheleweshaji na nishati, wakala wa ITD3 huongeza zawadi inayojumuisha thamani zao hasi zenye uzito na ukiukaji wa vizuizi:
\[ r(S,A) = -\lambda_1\frac{T^{all}(S,A)}{T_{max}} -\lambda_2\frac{E^{all}(S,A)}{E_{max}} -\gamma\sum_{k=1}^{4}Pen_k(S,A) \]
Vipengele vya adhabu katika chanzo ni:
\[ Pen_1=1 \text{ eğer } T_n>T_{max}, \text{ aksi halde } 0 \]
\[ Pen_2=1 \text{ eğer } E^{all}>E_{max}, \text{ aksi halde } 0 \]
\[ Pen_3=1 \text{ eğer } \sum_n\phi_{n,c}>1, \text{ aksi halde } 0 \]
\[ Pen_4=1 \text{ eğer } f_i>f_{max}, \text{ aksi halde } 0 \]
kama ifuatavyo. Thamani iliyopendekezwa ya mgawo wa adhabu unaotumiwa ni \(\gamma=10\). Kwa njia hii zawadi ya vitendo vinavyokiuka vizuizi hupunguzwa, ili wakala apendelee si tu suluhisho zenye ucheleweshaji mdogo bali pia suluhisho zinazoweza kutekelezwa.
Mabadiliko matatu makuu yaliyofanywa juu ya TD3 ya kawaida
| Uboreshaji | Utaratibu wa kiufundi | Lengo |
|---|---|---|
| Actor yenye matawi mawili | Vitendo endelevu na diskreti kuzalishwa kutoka matawi tofauti; Gumbel-Softmax na kizingiti kigumu cha 0,5 katika tawi la diskreti | Kuwezesha mafunzo ya nafasi mseto ya vitendo diskreti–endelevu |
| Critic inayotambua vizuizi | Kupunguza Q-values za vitendo vinavyokiuka vizuizi | Kuunda utaratibu wa pili wa utekelezekaji pamoja na adhabu ya zawadi |
| Prioritized Experience Replay | Kuweka kipaumbele kwa sampuli kulingana na TD-error na kurekebisha upendeleo wa usampulishaji kwa ISW | Kujifunza kwa ufanisi zaidi kutoka uzoefu wenye thamani kubwa ya taarifa na kuharakisha ukaribishaji |
Mitandao ya actor na critic
| Mtandao | Muundo uliotolewa katika chanzo | Uamilishaji | Optimizer |
|---|---|---|---|
| Actor | State S → “2-layer FC(256,128,64)” → matawi mawili, endelevu + diskreti | ReLU + Tanh / Softmax | Adam |
| Critic Q1 | [S,A] → “2-layer FC(256,128,64)” → 1D Q-value | ReLU + Linear | Adam |
| Critic Q2 | [S,A] → “2-layer FC(256,128)” → 1D Q-value | ReLU + Linear | Adam |
Ingawa jedwali la chanzo linatoa vipimo vitatu \(256,128,64\) kwa actor na Q1, linauita muundo huo “2-layer FC”. Hapa uwakilishi wa asili umehifadhiwa badala ya kubadilisha usanifu kwa tafsiri ya tabaka ambayo haijaandikwa katika chanzo.
Kazi za uamilishaji
ReLU:
\[ \operatorname{ReLU}(x)=\max(0,x) \]
Tanh:
\[ \tanh(x) = \frac{e^x-e^{-x}} {e^x+e^{-x}} \]
Softmax:
\[ \operatorname{Softmax}(x_i) = \frac{e^{x_i}} {\sum_{j=1}^{n}e^{x_j}} \]
Tanh hutumika katika pato endelevu la actor, na Softmax katika tawi la ugawaji wa njia diskreti. Adam optimizer hutumika kusasisha uzito wa mtandao.
Mzunguko wa mafunzo wa ITD3
Mafunzo huanza kwa kuanzisha actor, target actor, critic mbili na mitandao yao ya target. Uwezo wa buffer ya Prioritized Experience Replay umewekwa kuwa \(10^6\). Actor huzalisha kitendo katika hali ya sasa na kelele ya Gaussian huongezwa kwa ajili ya uchunguzi; kelele ya uchunguzi hupunguzwa kutoka 0,1 hadi 0,01 kadiri mafunzo yanavyoendelea.
Kutoka kila mwingiliano, uzoefu \((S,A',r,S')\) huandikwa kwenye replay buffer. Wakati wa mafunzo, batch za sampuli 64 au 128 huchaguliwa kwa kipaumbele na Importance Sampling Weights hutumika kusahihisha upendeleo unaotokana na priority sampling. Kwa target critic, thamani ndogo ya makadirio mawili ya Q hutumiwa kupunguza mwelekeo wa TD3 wa kukadiria kupita kiasi.
Mitandao ya critic husasishwa kwa hasara zinazofanana na kosa la wastani wa mraba kulingana na Q-value lengwa; actor nayo:
\[ L_\pi=-E[Q_1(S,\pi(S))] \]
husasishwa kwa kupunguza hasara ya sera.
Katika sasisho laini la mitandao ya target, \(\tau=0.005\) hutumika:
\[ \theta_{\pi_{target}} \leftarrow \tau\theta_\pi + (1-\tau)\theta_{\pi_{target}} \]
\[ \theta_{Q_{target}} \leftarrow \tau\theta_Q + (1-\tau)\theta_{Q_{target}} \]
Ikiwa wastani unaosogea wa kazi ya zawadi hauboreshwi kwa hatua 500 mfululizo au idadi ya juu ya hatua za mafunzo inafikiwa, mafunzo husitishwa.
Mbinu na Matokeo ya Utafiti
Uigaji Ulifanywa Katika Hali Gani?
Tathmini ya utendaji ilifanywa katika kiigaji cha matukio-diskreti kilichotengenezwa kwa Python 3.12, kwa kutumia nodi 50 hadi 2000 za mwangaza wa uwanja wa ndege na nodi za ukingoni kwa uwiano N/25; kila hali ilitathminiwa kwa uigaji wa dakika 6 wenye vipindi 3600 vya 100 ms na mbegu 10 huru za nasibu.
| Kigezo | Thamani |
|---|---|
| Idadi ya ALN \(N\) | 50 / 100 / 500 / 1000 / 2000 |
| Idadi ya EN \(M\) | \(N/25\) |
| Uwezo wa kompyuta wa EN \(cf_m\) | [3, 4] GHz |
| Uwezo wa kompyuta wa ALN \(cf_n\) | [0,5, 2,5] GHz |
| Nguvu ya utumaji ya ALN \(P_{n,c}\) | [0,5, 5] W |
| Upana wa bendi ya njia isiyotumia waya \(B\) | 2 MHz |
| Nguvu ya kelele \(\sigma^2\) | −50 dBm |
| Ukubwa wa data ya mafunzo \(D_n\) | [0,1, 2] MB |
| Ukubwa wa data ya upakiaji \(|w|\) | [0,1, 2] MB |
Kwa mujibu wa kanuni \(M=N/25\), skeli tano za ALN zilizochunguzwa zinahusiana mtawalia na nodi 2, 4, 20, 40 na 80 za ukingoni. Thamani hizi ni matokeo ya moja kwa moja ya kihisabati ya uparametrishaji wa chanzo; si matokeo tofauti ya jaribio.
Vigezo vya mafunzo ya ITD3
| Moduli | Kigezo | Thamani iliyopendekezwa |
|---|---|---|
| K-medoids | Idadi ya makundi K | Idadi ya EN M |
| K-medoids | Kizingiti cha ukaribishaji | \(10^{-3}\) |
| ITD3 | Batch size | 64 / 128 |
| ITD3 | Ukubwa wa tabaka fiche | 256 / 128 |
| ITD3 | Kiwango cha kujifunza cha Actor \(\mu\) | \(10^{-3}\) – \(10^{-5}\) |
| ITD3 | Kiwango cha kujifunza cha Critic \(\rho\) | \(10^{-2}\) – \(10^{-4}\) |
| ITD3 | Discount factor | 0,95 – 0,99 |
| ITD3 | Soft update rate | 0,005 |
| ITD3 | Exploration noise std | 0,1 → 0,01 |
| ITD3 | Uwezo wa Replay buffer | \(10^6\) |
| Zawadi | Mgawo wa adhabu \(\gamma\) | 10 |
| Zawadi | \(\lambda_1/\lambda_2\) | 0,7 / 0,3 |
Chanzo kimechagua \(\lambda_1=0.7\), \(\lambda_2=0.3\) kwa sababu ucheleweshaji mdogo una kipaumbele kwa udhibiti wa wakati halisi wa MAL. Mchanganyiko huu ulitoa uwiano unaofaa zaidi wa ucheleweshaji–nishati ndani ya utafiti kati ya chaguo 0,5/0,5; 0,6/0,4; 0,7/0,3 na 0,8/0,2.
Muda wa uigaji na marudio
Kila kipindi cha muda ni \(\Delta t=100\) ms. Uendeshaji mmoja hudumu vipindi \(T=3600\), sawa na sekunde 360 au dakika 6 za muda wa mfumo uliosimuliwa. Matokeo ni wastani wa uendeshaji 10 huru uliofanywa kwa random seed tofauti.
Uigaji na mafunzo yalitekelezwa kwenye jukwaa lenye Intel Core i9-10700K CPU, NVIDIA RTX 4060 GPU na Python 3.12.
Algoriti zilizolinganishwa
| Mbinu | Jukumu |
|---|---|
| TAI | Mbinu ya jadi ya alternating iteration |
| DDPG | Deep Deterministic Policy Gradient |
| PPO | Proximal Policy Optimization |
| TD3 | Twin Delayed Deep Deterministic Policy Gradient ya kawaida |
| ITD3 | Mbinu iliyoboreshwa ya TD3 ya utafiti inayotumika pamoja na K-medoids |
Ucheleweshaji na nishati kadiri mafunzo yanavyoendelea
Katika Kielelezo 5, chanzo kinalinganisha ucheleweshaji wa jumla na matumizi ya jumla ya nishati kadiri epoch za mafunzo zinavyoongezeka. Mstari wa ITD3 hufikia eneo la chini zaidi la ucheleweshaji thabiti na nishati kati ya algoriti zilizolinganishwa. Chanzo pia kinaeleza kuwa baada ya takriban epoch 2000 za mafunzo, maboresho ya ziada huwa madogo katika mbinu zote.
Kwa kuwa grafu haitoi nukta ghafi za nambari katika jedwali, maandishi ya Verianla hayazalishi asilimia mahususi au tofauti nyeti za utendaji zilizosomwa kwa macho kutoka Kielelezo 5. Hitimisho linaloungwa mkono moja kwa moja na chanzo ni mwelekeo wa kulinganisha wa algoriti na utendaji bora wa ITD3 katika hali hizi za uigaji.
Nini hutokea idadi ya nodi inapoongezeka?
Katika Kielelezo 6, tabia ya ITD3 inalinganishwa kwa \(N=50,100,500,1000,2000\). Idadi ya ALN inapoongezeka, ucheleweshaji wa jumla na matumizi ya jumla ya nishati pia huongezeka. Chanzo kinaeleza hili kwa ukweli kwamba kushirikisha nodi zaidi katika mafunzo na uchakataji huongeza muda wa kompyuta ya ndani na matumizi ya nishati.
Matokeo haya yanaonyesha kwamba dai la mbinu kuwa na uwezo wa kupanuka halimaanishi “gharama haibadiliki kadiri idadi ya nodi inavyoongezeka”. ITD3 hutoa faida ya kulinganisha katika matatizo makubwa, lakini mzigo wa kimwili na wa kompyuta bado huongezeka.
Athari ya kiwango cha kujifunza
Katika Kielelezo 7, chanzo kimebadilisha kwa pamoja kiwango cha kujifunza cha actor \(\mu\) na kiwango cha kujifunza cha critic \(\rho\). Kubadili kutoka viwango vya awali \(\mu=0.001\) na \(\rho=0.01\) kwenda thamani ndogo zaidi kunaonyesha uboreshaji wa ucheleweshaji na nishati.
Mchanganyiko wa \(\mu=0.000025\) na \(\rho=0.00025\) hukaribia polepole zaidi mwanzoni, lakini baada ya epoch 2000 unaelezwa na chanzo kama mpangilio unaotoa thamani bora zaidi thabiti za ucheleweshaji wa jumla na nishati.
Viwango vya kujifunza vilipopunguzwa zaidi hadi \(\mu=0.00001\), \(\rho=0.0001\), utendaji ulizorota tena. Chanzo kinafafanua hili kwa kuwa kiwango cha kujifunza kilicho juu sana husababisha mtikisiko wa mafunzo, na kiwango cha chini sana husababisha ukaribishaji wa polepole. Kabla ya epoch 2000, mpangilio wa \(\mu=0.0001\), \(\rho=0.001\) ulionyesha uwiano mzuri kati ya kasi ya ukaribishaji na utendaji.
Je, Matokeo ya ITD3 Yanathibitisha Mafanikio Halisi ya Uwanjani katika Uwanja wa Ndege?
Hapana. Tathmini ya kina ya utendaji katika utafiti inajumuisha uigaji wa matukio-diskreti unaotegemea Python, na waandishi wanataja majaribio ya uwanjani katika mifumo halisi ya MAL ya viwanja vya ndege kama kazi ya baadaye; kwa hiyo faida zilizoripotiwa za ucheleweshaji na nishati haziwezi kuenezwa kama utendaji uliothibitishwa katika uwanja wa ndege halisi wa uendeshaji.
Matokeo yanayoungwa mkono na utafiti
Chanzo kinaunga mkono kwamba, chini ya vigezo vya uigaji na mbinu za kulinganisha zilizofafanuliwa, mbinu ya K-medoids + ITD3 inatoa utendaji mzuri zaidi kwa ucheleweshaji wa jumla na matumizi ya jumla ya nishati kuliko TAI, DDPG, PPO na TD3 ya kawaida.
Chanzo pia kinaripoti kuwa utendaji wa ITD3 hautegemei thamani moja tu ya kiwango cha kujifunza na kwamba faida zinaendelea ndani ya masafa ya hyperparameter yanayofaa. Hata hivyo, “masafa yanayofaa” na ubora wa utendaji vimewekewa mipaka na mazingira ya uigaji yaliyofafanuliwa katika utafiti huu.
Matokeo yasiyoungwa mkono na utafiti
Utafiti hauonyeshi kuwa usalama wa ndege umeongezeka kwa kipimo katika uwanja wa ndege halisi, muda wa kutua kwa ndege halisi umepungua, au mfumo umepata uthibitisho wa uendeshaji katika mazingira ya A-SMGCS Level IV.
Utafiti pia hauripoti usambazaji wa ucheleweshaji wa mwanzo-hadi-mwisho uliopimwa katika mtandao halisi wa uwanja wa ndege, matumizi ya nishati ya uwanjani, au tabia ya muda mrefu ya kushindwa kwa vifaa. Hitimisho kama hilo linavuka utendaji wa uigaji.
Kikomo cha neno “prototype” katika chanzo
Katika sehemu ya hitimisho waandishi wanazungumzia tathmini ya majaribio na uigaji wa kina kwenye “MAL system prototype”. Hata hivyo, tathmini ya utendaji iliyoandikwa kwa undani katika sehemu ya mbinu ni uigaji wa matukio-diskreti unaotegemea Python 3.12, na majaribio halisi ya MAL uwanjani yanaonyeshwa kama utafiti wa baadaye. Kwa hiyo neno “prototype” halipaswi kuchukuliwa kuwa sawa na uthibitishaji wa uwanjani uliokamilika katika uwanja wa ndege halisi wa uendeshaji.
Kikomo cha kuzalishika tena
Chanzo kinatoa vigezo vingi vya kuzalishika tena, kama topolojia ya uigaji, vigezo vikuu vya kimwili, ulinganisho wa algoriti, viwango vya kujifunza, uwezo wa replay buffer, batch size, soft-update rate, mgawo wa adhabu, kipindi cha muda na idadi ya uendeshaji wa kurudia.
Kwa upande mwingine, sehemu ya Data Availability Statement ya makala inaeleza kuwa data za msingi haziwezi kutolewa hadharani kwa sababu ya asili ya proprietary ya data za uendeshaji wa uwanja wa ndege. Hali hii inazuia mtafiti huru kutumia tena kwa namna ileile kila ingizo la data na kufanya urudiaji kamili.
Kikomo cha tafsiri ya kitakwimu
Matokeo ya uigaji yameripotiwa kwa wastani wa uendeshaji 10 huru wa random seed. Hata hivyo, grafu za kulinganisha haziripoti masafa ya kujiamini, error bar, p-value au jaribio la umuhimu wa kitakwimu. Kwa hiyo hitimisho la kitakwimu la jumla kama “ITD3 ni bora kwa uhakika katika kila hali” haliwezi kutolewa.
Kazi ya baadaye
Waandishi wanataja majaribio ya uwanjani katika mifumo halisi ya MAL ya viwanja vya ndege, mbinu za juu zaidi za ujifunzaji wa mashine zinazobadilika, kupanua mbinu kwa matumizi mengine ya uwanja wa ndege mahiri, mifumo ya motisha iliyoendelea zaidi, na ujumuishaji wa 5G URLLC na suluhisho nyepesi za usalama kwa vifaa vya ukingoni vyenye rasilimali chache kama mada za kazi ya baadaye.
Pia inapendekezwa kuchunguza jinsi mbinu nyingine za ujifunzaji wa kina wa uimarishaji kama DDPG na PPO zitakavyobadilika zikiunganishwa na hatua hiyo hiyo ya upangaji wa makundi ya K-medoids.
Maelezo ya Chanzo na Mbinu
Kichwa asili: Edge-Based Intelligent Task Management for Mobile Airfield Lighting Control
Waandishi: Li Jiang; Hong Wen; Wenjing Hou; Fan Sun
Waandishi wa mawasiliano: Hong Wen; Wenjing Hou
Taasisi: School of Aeronautics and Astronautics, University of Electronic Science and Technology of China; Research and Development Centre, The Second Research Institute of CAAC; Sichuan Intelligent IoT Communication Technology Engineering Research Center, University of Electronic Science and Technology of China; Aircraft Swarm Intelligent Sensing and Cooperative Control Key Laboratory of Sichuan Province.
Jarida: Aerospace
Mchapishaji: MDPI
Juzuu / Toleo / Makala: 13 / 5 / 424
DOI: 10.3390/aerospace13050424
Tarehe: Imepokelewa: 10 Machi 2026; imerekebishwa: 29 Aprili 2026; imekubaliwa: 29 Aprili 2026; imechapishwa: 1 Mei 2026.
Aina ya chanzo: Makala ya utafiti iliyopitiwa na wataalamu; uundaji wa modeli ya mfumo wa kihisabati, uboreshaji unaotegemea ujifunzaji wa kina wa uimarishaji na uigaji wa matukio-diskreti.
Leseni: Creative Commons Attribution (CC BY).
Mfumo mkuu: Usimamizi wa kazi wa cloud–edge–end kwa Mobile Airfield Lighting (MAL).
Mbinu kuu ya uboreshaji: Ugawaji wa awali wa K-medoids + uboreshaji wa kina wa Improved Twin Delayed Deep Deterministic Policy Gradient (ITD3).
Mbinu zilizolinganishwa: TAI, DDPG, PPO, TD3 na ITD3.
Programu ya uigaji: discrete-event simulator inayotegemea Python 3.12.
Vifaa vya kompyuta: Intel Core i9-10700K CPU na NVIDIA RTX 4060 GPU.
Kiwango cha uigaji: ALN 50–2000; idadi ya EN N/25; kipindi cha 100 ms; vipindi 3600 / uendeshaji; random seed 10 huru.
Ufadhili: Sichuan Science and Technology Program, Grant 2024ZDZX0007; NSFC, Grants U23B2021 na 62302082.
Upatikanaji wa data: Data za msingi za makala hazishirikiwi hadharani kwa sababu ya asili ya proprietary ya data za uendeshaji wa uwanja wa ndege.
Mgongano wa maslahi: Waandishi wanaripoti kuwa hakuna mgongano wa maslahi.
Michango ya waandishi: Uundaji wa dhana: Li Jiang, Hong Wen, Wenjing Hou. Mbinu: Li Jiang, Hong Wen, Wenjing Hou. Programu: Li Jiang, Wenjing Hou. Uthibitishaji: Hong Wen. Uchambuzi rasmi na utafiti: Fan Sun. Rasimu ya awali: Li Jiang, Fan Sun, Wenjing Hou. Mapitio na uhariri: Hong Wen, Wenjing Hou.
Kikomo muhimu cha notasheni ndani ya chanzo: Maelezo ya ishara \(P_m\) inayotumiwa katika Mlinganyo (18) hayalingani kikamilifu na matumizi yake katika sehemu iliyotangulia ya nishati/mawasiliano. Vivyo hivyo, chanzo katika Table 1 kinatoa vipimo 256/128/64 vya miundo ya actor na Q1 chini ya jina “2-layer FC”. Maandishi ya Verianla hayajarekebisha kimya kimya nukta hizi na yamehifadhi notasheni asili ya chanzo.
Kikomo kikuu cha kimetodolojia: Ushahidi wa utendaji uko hasa katika kiwango cha modeli na uigaji. Majaribio halisi ya MAL uwanjani bado hayamo katika seti ya kina ya uthibitishaji ya utafiti huu na yameainishwa na waandishi kama kazi ya baadaye.
Acha maoni
Anwani yako ya barua pepe haitachapishwa. Sehemu za lazima zimewekewa alama ya *