
Ин таҳқиқот барои тоза кардани як тасвири ягонае, ки бо хатҳои борон вайрон шудааст, бо масрафи ками энергия шабакаи нейронии импулсии BiSNet-ро пешниҳод мекунад, ки аз биниши биологӣ илҳом гирифтааст. Шабакаҳои нейронии импулсӣ иттилоотро ба ҷойи фаъолсозиҳои доимии ададҳои нуқтаи шинокунанда асосан тавассути рӯйдодҳои парокандаи spike бо қиматҳои 0 ё 1 коркард мекунанд. Ин хусусият дар нейронҳои ғайрифаъол имкони кам кардани ҳисоббарориҳои нолозимро фароҳам меорад, аммо дар барқарорсозии тасвир метавонад боиси аз даст рафтани иттилооти ранг, текстура ва канорҳои нозук гардад. Ҳадафи асосии BiSNet ин аст, ки ҳангоми кам кардани чунин талафоти иттилоот бартарии каммасрафи ҳисоббарории импулсиро нигоҳ дорад.
Модел меъмории ду-шохаро истифода мебарад, ки аз тақсимоти вазифа байни роҳи вентралӣ, ки дар низоми биниши биологӣ ба ҷузъиёт ва иттилооти самтӣ ҳассос аст, ва роҳи дорсалӣ, ки контексти васеътари визуалиро арзёбӣ мекунад, илҳом гирифтааст. Шохаи маҳаллӣ аз он истифода мекунад, ки хатҳои борон аксаран амудӣ ё моил мебошанд ва бо конволютсияҳои импулсии бар асоси Gabor хусусиятҳои самтиро истихроҷ мекунад. Шохаи глобалӣ бошад сохтори умумии тасвир, минтақаҳои аз борон осебдида ва вайроншавиҳои басомади баландро дар соҳаи басомад арзёбӣ мекунад. Ду шоха дар тӯли рамзгузор бо ҳам таъсир мекунанд ва ба марҳилаи рамзкушо пайвастҳои гузариши дорои иттилооти самтиро мефиристанд.
BiSNet се ҷузъи махсуси асосӣ дорад. Gabor Spiking Residual Block хатҳои боронро бо ядроҳои Gabor, ки ба самтҳои 0°, 45°, 90° ва 135° ҳассосанд, муайян мекунад. Модули FMECA ҳангоми мутобиқ кардани амплитудаи спектрӣ дар соҳаи Fourier иттилооти фазаро нигоҳ медорад; дар шохаи фазоӣ бошад ниқобе месозад, ки минтақаҳои аз борон осебдидаро муайян мекунад. Модули DiSA дар хусусиятҳое, ки аз рамзгузор ба рамзкушо интиқол меёбанд, ҷавобҳои боронро дар самтҳои 45°, 90° ва 135° бо иттилооти семантикӣ якҷо карда, кӯшиш мекунад канорҳои воқеии объектҳоро аз хатҳои борон фарқ намояд.
Дар маҷмӯаҳои додаҳои синтетикии Rain200H, Rain200L ва Rain1200, BiSNet дар байни ҳамаи усулҳои муқоисашуда баландтарин қиматҳои PSNR ва SSIM-ро нишон додааст. Модел дар Rain200H ба 29,88 dB ва 0,9180; дар Rain200L ба 40,31 dB ва 0,9877; дар Rain1200 ба 34,61 dB ва 0,9398 расидааст. Дар Rain1200 бартарии PSNR нисбат ба рақиби наздиктарин танҳо 0,02 dB буд, дар ҳоле ки дар Rain200L фарқ ба 0,78 dB расид. Аз ин рӯ, андозаи бартарӣ вобаста ба маҷмӯаи додаҳо тағйир меёбад.
BiSNet дорои 1,108 миллион параметр, 12,494 миллиард FLOP ва хароҷоти энергия мебошад, ки ҳамчун \(1{,}562\times10^5\) µJ гузориш шудааст. Энергияи он нисбат ба модели CNN-и NAFNet, ки дар ҷадвал камтарин энергияро дар байни CNN-ҳо дорад, тақрибан фоиз 22,2 камтар аст. Бо вуҷуди ин, моделҳои импулсии хурдтар ESDNet ва VLIF нисбат ба BiSNet камтар энергия истеъмол мекунанд. Саҳми BiSNet дар додани камтарин қимати энергия нест, балки дар он аст, ки тавозуни дақиқӣ–энергияи шабакаҳои импулсиро ба самти сифати баландтари тасвир беҳтар кунад.
Аз нуқтаи назари Туркия: Равиши BiSNet метавонад дар соҳаҳое чун камераҳои ҳаракати роҳ дар зери бориш, низомҳои ёрирасони ронанда, ҳавопаймоҳои бесарнишин, камераҳои амниятӣ, тасвирбардории кишоварзӣ, низомҳои мониторинги роҳи оҳан ва шоҳроҳҳо таҳқиқ карда шавад. Пеш аз татбиқ дар Туркия бояд маҷмӯаҳои додаҳои маҳаллӣ сохта шаванд, ки шароити рӯз ва шаб, инъикоси чароғҳои мошин, туман, борони омехта бо барф, қатраҳо рӯи линза ва бориши аз шамол уфуқӣ шударо дар минтақаҳои Баҳри Сиёҳ, Мармара ва шаҳрҳои сербориш дар бар гиранд. Модел бояд дар дастгоҳи воқеии канорӣ ё протсессори нейроморфикӣ аз рӯи таъхир, қувва бо воҳиди watt, истифодаи хотира ва таъсир ба вазифаҳои минбаъдаи ошкоркунии объект санҷида шавад. Аз ин таҳқиқот наметавон натиҷа гирифт, ки дар низомҳои нақлиётӣ ё амниятии Туркия маҳсулоти омодаи истифода вуҷуд дорад, дар ҳамаи шаклҳои бориш натиҷа боэътимод аст ё сарфаи физикии энергия тасдиқ шудааст.
Масъалаи бартараф кардани борон аз як тасвир чист?
Дар тасвирҳое, ки ҳангоми борон гирифта мешаванд, хатҳои борик, тасмаҳои зичи сафед, контрасти паст, парокандашавии рӯшноӣ ва норавшании маҳаллӣ пайдо шуда метавонанд. Ин вайроншавиҳо на танҳо сифати эстетикии тасвирро паст мекунанд; онҳо инчунин вуруди вазифаҳои минбаъдаи биниши компютерӣ, аз ҷумла ошкоркунии объект, пайгирӣ, тасниф ва фаҳмиши саҳнаро тағйир медиҳанд.
Бартараф кардани борон аз як тасвир ҳадаф дорад, ки танҳо аз як кадри боронӣ тасвири тозаро тахмин кунад. Бар хилофи усулҳои видеоӣ, иттилооти ҳаракат аз кадрҳои пешина ва баъдӣ гирифта намешавад. Модел бояд ҳамзамон ду ҳадафи муқобилро мувозинат кунад:
- Бартараф кардани хатҳои борон ва вайроншавиҳои басомади баланд, ки аз бориш ба вуҷуд меоянд
- Нигоҳ доштани канорҳои нозуки объектҳо, мӯй, растанӣ, сим, хатҳои роҳ ва сохторҳои воқеии монанд
Азбаски хатҳои борон ва канорҳои воқеии тасвир метавонанд самтҳо ва хусусиятҳои басомади баланд дошта бошанд, бартарафсозии аз ҳад қавӣ метавонад текстураҳои воқеиро нест кунад. Бартарафсозии нокифоя бошад метавонад боқимондаҳои боронро дар тасвир нигоҳ дорад.
Чаро шабакаи нейронии импулсӣ истифода шудааст?
Шабакаҳои анъанавии конволютсионӣ ва моделҳои Transformer шумораи зиёди амалиётҳои зарб-ҷамъи қиматҳои пайвастаро иҷро мекунанд. Шабакаҳои нейронии импулсӣ бошад ба он асос меёбанд, ки нейронҳо танҳо ҳангоми гузаштани остона spike тавлид мекунанд. Имкони ҳисоббарории пароканда ва аз рӯйдод идорашаванда дар ҷойҳое, ки spike ба вуҷуд намеояд, махсусан дар сахтафзори мувофиқи нейроморфикӣ иқтидори сарфаи энергияро фароҳам меорад.
Ба назари муҳаққиқон, пикселҳои аз борон таъсирдида нисбат ба атрофи худ тағйироти ногаҳонии шиддат нишон медиҳанд ва ин бо ҷавобҳои дуҳолатаи spike мутобиқати табиӣ дорад. Бо вуҷуди ин, барқарорсозии тасвир баромади зич ва қиматҳои пайвастаро талаб мекунад. Табиати дуҳолатаи фаъолсозиҳои spike метавонад боиси аз даст рафтани иттилооти зерин шавад:
- Гузаришҳои нозуки ранг
- Канорҳои дорои контрасти паст
- Текстураҳои нозуки сатҳ
- Дараҷаи шаффофияти хати борон
- Фарқҳои хурди шиддат байни замина ва вайроншавӣ
BiSNet бо истихроҷи хусусиятҳои ду-роҳа, prior-ҳои самтии Gabor, коркарди соҳаи басомад ва механизмҳои диққат кӯшиш мекунад ин талафоти иттилоотро кам кунад.
Меъмории умумии BiSNet чӣ гуна аст?
Расми 1 дар саҳифаи 3 ва нақшаи пурраи меъморӣ дар саҳифаи 14 ҷараёни шабакаро аз тасвири боронӣ то тасвири тоза нишон медиҳанд.
- Як тасвири боронӣ дар меҳвари вақт такрор карда шуда, ба пайдарпаии spike табдил дода мешавад.
- Тасвир ба ду шоха — шохаи маҳаллии GaborConv ва шохаи глобалии истихроҷи хусусиятҳо — тақсим мешавад.
- Дар шохаи маҳаллӣ блокҳои GaborSRB хусусиятҳои самтии борон ва канорҳоро истихроҷ мекунанд.
- Дар шохаи глобалӣ Spiking Residual Block-и стандартӣ ва модулҳои FMECA иттилооти контекст, басомад ва ниқоби боронро коркард мекунанд.
- Хусусиятҳои ду шоха дар сатҳҳои гуногуни рамзгузор якҷо мешаванд.
- Модулҳои DiSA хусусиятҳои рамзгузорро аз рӯи самт ва семантика филтр карда, ба рамзкушо интиқол медиҳанд.
- Блокҳои SRB дар рамзкушо ҳалли фазоӣ ва ҷузъиёти тасвирро аз нав месозанд.
- Нақша нишон медиҳад, ки байни вуруди боронӣ ва баромади шабака пайвасти residual вуҷуд дорад.
Меъморӣ ҳадаф дорад, ки иттилооти самтии маҳаллӣ ба шохаи глобалӣ роҳнамоӣ диҳад. Бо ин роҳ шабака на танҳо контексти васеи тасвир, балки самти хатҳои борон ва муносибати онҳоро бо сарҳадҳои воқеии объектҳо истифода мебарад.
Монандии ду роҳи биологӣ чӣ гуна истифода мешавад?
Муҳаққиқон шохаи маҳаллии Gabor-ро бо интихобпазирии ҷузъиёту самти роҳи вентралӣ дар биниши биологӣ ва шохаи глобалиро бо коркарди контексти васеи визуалӣ дар роҳи дорсалӣ алоқаманд мекунанд. Ин монандӣ асоси тарҳрезии меъморӣ мебошад.
Дар таҳқиқот дар низоми биниши инсон ё ҳайвон таҷриба гузаронида нашудааст ва фаъолиятҳои модел бо сабтҳои нейронҳои биологӣ муқоиса нашудаанд. Аз ин рӯ, ибораи “аз биология илҳом гирифташуда” танҳо монандии меъморӣ ва prior-ҳои майдони қабулкунандаи Gabor-ро ифода мекунад; он нишон намедиҳад, ки шабака биниши биологиро пурра модел мекунад.
Spiking Residual Block кадом ҷузъҳоро дар бар мегирад?
Расми 2 дар саҳифаҳои 5 ва 15 сохтори Spiking Residual Block-и стандартӣ ва GaborSRB-ро муқоиса мекунад. Дар блоки стандартӣ:
- Нейрони LIF
- Конволютсияи импулсӣ
- Нормализатсияи гурӯҳии вобаста ба вақт ё tdBN
- Пайвасти residual
- Mixed Attention Unit
мавҷуд аст. Mixed Attention Unit дар нақша ҷузъҳои диққати вақтӣ, диққати каналӣ ва диққати фазоиро дар бар мегирад. Дар матни асосӣ муодилаҳои муфассали ин се зерҷузъ дода нашудаанд.
Gabor Spiking Residual Block чӣ гуна кор мекунад?
Филтрҳои Gabor филтрҳое мебошанд, ки ба хатҳо дар самти муайян ва басомади фазоии муайян ҷавоби қавӣ медиҳанд. Дар таҳқиқот амудӣ ё моил будани аксари хатҳои борон сабаби асосии интихоби ядроҳои ибтидоии Gabor мебошад.
Дар GaborSRB вазнҳои конволютсия собит нигоҳ дошта намешаванд. Онҳо аввал бо функсияҳои Gabor, ки ба самтҳои борон ҳассосанд, ибтидоӣ карда мешаванд ва сипас ҳангоми омӯзиш ҳамроҳ бо додаҳо мутобиқ мегарданд. Ҳамин тавр кӯшиш мешавад байни нигоҳ доштани интихобпазирии ибтидоии самт ва омӯзиши махсуси вазифа мувозинат ба вуҷуд ояд.
Ядроҳое, ки дар қабатҳои сатҳӣ истифода мешаванд, ба фарқи байни майдонҳои қабулкунандаи марказӣ ва периферӣ асос меёбанд. Сохтори асосӣ дар таҳқиқотро метавон чунин ҷамъбаст кард:
\[ K_1 = \operatorname{Gabor}(x,y;\theta_1,\sigma_3) -\beta\,\operatorname{Gabor}(x,y;0^\circ,\sigma_4) \]
ва ядрои ҷуфти он бо самти аломати баръакс. Сохтори дуюм ду самти гуногунро муқоиса мекунад:
\[ K_2 = \operatorname{Gabor}(x,y;\theta_1,\sigma_1) -\operatorname{Gabor}(x,y;\theta_2,\sigma_2) \]
Сохтори сеюм, ки дар қабатҳои амиқ истифода мешавад, самти асосиро аз якҷояшавии ҷузъҳои ёрирасони уфуқӣ ва моил ҷудо мекунад:
\[ K_3 = \operatorname{Gabor}(x,y;\theta_1,\sigma_1) -\left[ \alpha\,\operatorname{Gabor}(x,y;0^\circ,\sigma_2) +\operatorname{Gabor}(x,y;\theta_2,\sigma_2) \right] \]
Кунҷҳои истифодашуда дар таҳқиқот:
- \(\theta_1\in\{0^\circ,45^\circ,90^\circ,135^\circ\}\)
- \(\theta_2\in\{45^\circ,135^\circ\}\)
- \(\alpha=18\%\)
- \(\beta=26\%\)
муайян шудаанд. \(\sigma_1\) ва \(\sigma_2\) майдонҳои марказӣ ва атрофиро дар қабатҳои сатҳӣ, \(\sigma_3\) ва \(\sigma_4\) бошад андозаҳои майдонро дар қабатҳои амиқ ифода мекунанд.
Ин сохтор ба хатҳои амудӣ ва диагоналии борон ҷавоби ибтидоии қавӣ медиҳад. Аммо барои борони наздик ба уфуқӣ, изҳои каҷи қатра, қатраҳои калони рӯи линза ё парокандашавии рӯшноӣ натиҷаҳои алоҳидаи вобаста ба самт гузориш нашудаанд.
Визуализатсияи GaborSRB чиро нишон медиҳад?
Дар Расми 8 дар саҳифаҳои 10 ва 21 ҷавобҳои сатҳи пасти Gabor дар оғози омӯзиш ва харитаҳои хусусиятҳои амиқтар пас аз омӯзиш нишон дода шудаанд.
- Дар оғоз филтрҳо ба бисёр хатҳои моили борон ва канорҳои объектҳо ҷавоби қавӣ медиҳанд.
- Дар қабатҳои миёна ҷавобҳо интихобпазиртар мешаванд ва баъзе хатҳои замина пахш мешаванд.
- Гуфта мешавад, ки қабатҳои амиқ сарҳадҳои объектҳо ва сохторҳои абстракттарро бештар намоён мекунанд.
Ин тасвирҳо ба таври сифатӣ нишон медиҳанд, ки модел ба кадом минтақаҳо ҷавоб медиҳад. Аммо харитаи хусусият худ ба худ далел намедиҳад, ки модули муайян ба таври сабабӣ ҷудокунии дурусти боронро иҷро мекунад. Илова бар ин, ҳар ду тамғаи ду сатри охири расм “Gabor Converge-Mid” навишта шудаанд; дар шарҳ сатри сеюм ҳамчун хусусияти сатҳи баланд тавсиф шудааст.
Модули FMECA соҳаи басомадро чӣ гуна истифода мебарад?
FMECA дар бахшҳои гуногуни матн бо ибораҳои Spiking Frequency Mask Attention Block ва Frequency-Mask-guided Efficient Channel Attention тавсиф шудааст. Модул аз се қисми асосӣ иборат аст:
- FrequencyMixerBlock
- RainMaskHead ва RainMaskGate
- Efficient Channel Attention
Дар шохаи басомадӣ ба харитаи хусусият дар ҳар қадами вақт табдили дученакаи воқеии Fourier татбиқ мешавад. Амплитудаи спектр бо конволютсияи 1 × 1 мутобиқ карда мешавад, дар ҳоле ки ҷузъи фаза нигоҳ дошта мешавад. Спектри тағйирёфта бо табдили баръакси Fourier ба соҳаи фазоӣ баргардонда мешавад.
Хусусияти бо басомад пурқувватшуда \(F\) бо вуруди аслии \(x_{tb}\) дар пайвасти residual якҷо мешавад:
\[ Y=x_{tb}+F \]
Ҳадафи ин равиш равшантар кардани ҷузъҳои спектрии басомади баланд ва самтии хатҳои борон дар дохили контексти глобалӣ мебошад.
Ниқоби борон чӣ гуна сохта мешавад?
RainMaskHead аввал аз тензори хусусиятҳои spike \(p\) ҷавоби маҳаллии канорро ҳосил мекунад:
\[ E_t=\operatorname{tdBN} \left( \operatorname{Conv}_{3\times3}(\operatorname{LIF}(p)) \right) \]
Миёнаи ҷавобҳои мусбат дар ҳар қадами вақт гирифта мешавад:
\[ M=\frac{1}{T}\sum_{t=1}^{T}\operatorname{ReLU}(E_t) \]
Сипас бо конволютсияи 1 × 1 ва Sigmoid ниқоби намоёнии борон дар фосилаи 0–1 сохта мешавад:
\[ M_{\mathrm{rain}}= \operatorname{Sigmoid} \left( \operatorname{Conv}_{1\times1}(M) \right) \]
RainMaskGate ба минтақаҳои борон ва замина конволютсияҳои алоҳида татбиқ мекунад:
\[ Y_{\mathrm{gate}} = \operatorname{Conv}_{\mathrm{rain}}(f)\odot M_{\mathrm{rain}} + \operatorname{Conv}_{\mathrm{bg}}(f)\odot (1-M_{\mathrm{rain}}) \]
Ин ҷудокунии минтақаҳо ҳадаф дорад, ки шабака коркарди қавитари минтақаҳои аз борон осебдидаро омӯзад ва дар минтақаҳои тоза ё сохторӣ ҷузъиётро нигоҳ дорад.
Тасвирҳои ниқоби борон чиро нишон медиҳанд?
Дар Расми 7 дар саҳифаҳои 9 ва 20 панҷ сутун мавҷуд аст:
- Вуруди боронӣ
- Ниқоби псевдореференсӣ, ки аз фарқи тасвири боронӣ ва тоза сохта шудааст
- Ниқобе, ки BiSNet пешгӯӣ кардааст
- Натиҷаи тозашуда
- Ҳадафи тоза
Ниқобҳои пешгӯишуда дар хатҳои зич ва моили борон ҷавобҳои қавӣ ҳосил мекунанд. Ниқобҳо нусхаи дақиқи псевдореференс нестанд; онҳо минтақаҳои васеътар ва пайвастаро ташкил медиҳанд. Муҳаққиқон инро нишонаи он медонанд, ки шабака ба ҷойи танҳо тақлид кардани фарқи пиксел минтақаҳои вайроншударо меомӯзад.
Барои дақиқии ниқоб ченакҳои алоҳидаи миқдорӣ, монанди IoU, F1, дақиқӣ ё ҳассосият пешниҳод нашудаанд. Монандии визуалӣ дуруст ҷудо кардани минтақаҳои боронро аз ҷониби шохаи ниқоб дастгирӣ мекунад, аммо дақиқии пурраи онро муайян намекунад.
Чаро модули DiSA зарур аст?
Дар шабакаҳои рамзгузор–рамзкушо пайвастҳои гузариш хусусиятҳои дорои ҳалли баландро ба рамзкушо интиқол медиҳанд. Аммо хусусиятҳои рамзгузор метавонанд ҳам канорҳои воқеии объект ва ҳам хатҳои боронро дар бар гиранд. Агар онҳо мустақиман интиқол дода шаванд, рамзкушо метавонад борони бартарафшударо боз ба тасвир ворид кунад.
Direction-Integrated Skip Attention ё DiSA байни хусусияти рамзгузор \(x\) ва хусусияти рамзкушо \(g\) ҳамоҳангии семантикӣ ва ҷудокунии самтиро ташкил медиҳад.
Аввал ҳар ду хусусият тавассути проексияҳои 1 × 1 ба фазои умумӣ гузаронда мешаванд:
\[ q=w_g(g)+w_x(x) \]
Ба намоиши якҷояшудаи хусусиятҳои рамзгузор ва рамзкушо филтрҳои Gabor дар 45°, 90° ва 135° татбиқ мешаванд:
\[ O_k=\left|G_{\theta_k}*s\right|, \qquad \theta_k\in\{45^\circ,90^\circ,135^\circ\} \]
Дарвозаи семантикӣ вазнҳоеро тавлид мекунад, ки дар ҳар пиксел муайян мекунанд кадом самт муҳимтар аст:
\[ W= \operatorname{Softmax} \left( \operatorname{Conv}_{1\times1} (\operatorname{Sigmoid}(q)) \right) \]
Ҷавобҳои самтӣ бо вазн якҷо карда мешаванд:
\[ A_{\mathrm{dir}} = \sum_{k=1}^{K}W_k\odot O_k \]
Аз иттилооти самтӣ ва семантикӣ харитаи ниҳоии диққат ҳисоб мешавад:
\[ A= \operatorname{Sigmoid} \left( \operatorname{Conv}_{1\times1} \left[ A_{\mathrm{dir}}, \operatorname{Conv}_{1\times1}(q) \right] \right) \]
Хусусияти гузариш бо ин харита филтр мешавад:
\[ x_{\mathrm{out}}=A\odot x \]
Дар дохили DiSA филтрҳои самтии Gabor ҳамчун prior-ҳои собит истифода мешаванд ва сарбории параметрҳои иловагии омӯзишшаванда маҳдуд нигоҳ дошта мешавад.
Кадом маҷмӯаҳои додаҳо истифода шудаанд?
| Маҷмӯаи додаҳо | Тасвирҳои омӯзишӣ | Тасвирҳои санҷишӣ | Хусусияти борон | Шакли арзёбӣ |
|---|---|---|---|---|
| Rain200L | 1.800 | 200 | Хатҳои борони пароканда ё сабук | PSNR ва SSIM |
| Rain200H | 1.800 | 200 | Хатҳои зичи борон | PSNR ва SSIM |
| Rain1200 | 12.000 | 1.200 | Самтҳо ва шиддатҳои гуногун | PSNR ва SSIM |
| RW-Data | Зикр нашудааст | 185 тасвири воқеии боронӣ | Бориши воқеӣ, номунтазам ва вайроншавии замина | Муқоисаи визуалии сифатӣ |
Дар маҷмӯаҳои додаҳои синтетикӣ ҳадафи тозаи тасвири боронӣ мавҷуд аст, аз ин рӯ монандии пикселӣ ва сохториро чен кардан мумкин аст. Дар RW-Data ҳадафи тозаи мувофиқ мавҷуд нест, бинобар ин PSNR ё SSIM ҳисоб нашудааст.
PSNR ва SSIM чиро чен мекунанд?
PSNR ба хатои сатҳи пиксел байни тасвири барқароршуда ва ҳадафи тоза ҳассос аст. Қимати баландтар одатан маънои хатои миёнаи пикселии пасттарро дорад.
SSIM бошад тасвирҳоро аз рӯи равшанӣ, контраст ва монандии сохторӣ арзёбӣ мекунад. Қимати баланди SSIM нишон медиҳад, ки сарҳадҳои объектҳо ва сохторҳои маҳаллӣ ба ҳадаф наздиктар нигоҳ дошта шудаанд.
Ҳарчанд ин ду ченак дар барқарорсозии тасвир васеъ истифода мешаванд, онҳо табиияти идрокӣ, дақиқии ранг ё иҷрои минбаъдаи ошкоркунии объектро худ ба худ пурра ифода намекунанд.
Танзимоти омӯзиш ва татбиқ кадомҳоянд?
| Танзим | Қимати додаи таҳқиқот |
|---|---|
| Чаҳорчӯбаи омӯзиши амиқ | PyTorch 2.1.0 |
| Китобхонаи SNN | SpikingJelly 0.0.0.0.15 |
| GPU | NVIDIA GeForce RTX 4090, дар матн 48 GB навишта шудааст |
| Оптимизатсия | Adam |
| Андозаи batch | 12 |
| Суръати ибтидоии омӯзиш | \(1\times10^{-3}\) |
| Суръати ниҳоии омӯзиш | \(1\times10^{-7}\) |
| Нақшаи суръати омӯзиш | Косинусӣ annealing |
| Epoch | 1.000 |
| Қитъаи омӯзиш | 90 × 96 пиксел |
| Шумораи SRB/GaborSRB дар рамзгузор | [4, 4, 8, 8] |
| Шумораи SRB дар рамзкушо | [2, 2, 2, 2] |
| Қадами интихобшудаи вақт | 4 |
Дар таҳқиқот афзоиши додаҳои тасвир, нормализатсияи ранг, функсияи талафот, қиматҳои остонаи LIF, доимиҳои вақти нейрон, функсияи surrogate gradient, ҳамаи ибтидосозиҳои вазн ва меъёри боздошти барвақт муфассал шарҳ дода нашудаанд.
Натиҷаҳои асосии муқоиса кадомҳоянд?
| Меъморӣ | Усул | Rain200H PSNR / SSIM | Rain200L PSNR / SSIM | Rain1200 PSNR / SSIM | Параметр (M) | FLOPs (G) | Энергия (µJ) |
|---|---|---|---|---|---|---|---|
| CNN | MSPFN | 28,35 / 0,9034 | 38,58 / 0,9827 | 32,39 / 0,9165 | 13,350 | 595,512 | \(7{,}444\times10^6\) |
| CNN | RCDNet | 28,65 / 0,8935 | 37,65 / 0,9787 | 32,62 / 0,9181 | 2,958 | 194,501 | \(2{,}431\times10^6\) |
| CNN | MPRNet | 29,36 / 0,9059 | 39,47 / 0,9869 | 32,91 / 0,9160 | 3,637 | 548,651 | \(6{,}858\times10^6\) |
| CNN | EffDerain | 26,87 / 0,8438 | 36,89 / 0,9804 | 32,87 / 0,9151 | 27,654 | 52,915 | \(6{,}614\times10^5\) |
| CNN | NAFNet | 29,17 / 0,9088 | 38,66 / 0,9829 | 34,58 / 0,9365 | 29,102 | 16,064 | \(2{,}008\times10^5\) |
| CNN | SFNet | 29,28 / 0,9105 | 39,42 / 0,9861 | 34,55 / 0,9362 | 13,234 | 124,439 | \(1{,}555\times10^6\) |
| CNN | CPRA | 29,62 / 0,9126 | 39,53 / 0,9863 | 34,59 / 0,9360 | 0,261 | 35,882 | \(4{,}485\times10^5\) |
| Transformer | DRT | 28,69 / 0,8894 | 38,85 / 0,9803 | 33,91 / 0,9288 | 1,176 | 166,045 | \(2{,}075\times10^6\) |
| Transformer | ELFFormer | 28,73 / 0,8941 | 38,50 / 0,9843 | 33,75 / 0,9359 | 1,532 | 66,392 | \(2{,}958\times10^5\) |
| Transformer | HPCNet | 29,28 / 0,8968 | 39,44 / 0,9849 | 34,48 / 0,9371 | 1,416 | 72,180 | \(3{,}692\times10^5\) |
| Transformer | SmartAssign | 28,18 / 0,8736 | 38,72 / 0,9814 | 33,17 / 0,9154 | 1,359 | 90,386 | \(1{,}129\times10^6\) |
| SNN | ESDNet | 28,26 / 0,9021 | 38,91 / 0,9862 | 33,92 / 0,9325 | 0,166 | 7,320 | \(9{,}150\times10^4\) |
| SNN | VLIF | 28,63 / 0,8935 | 38,46 / 0,9847 | 32,74 / 0,9184 | 0,088 | 2,794 | \(1{,}166\times10^4\) |
| SNN | BiSNet | 29,88 / 0,9180 | 40,31 / 0,9877 | 34,61 / 0,9398 | 1,108 | 12,494 | \(1{,}562\times10^5\) |
Натиҷаҳои Rain200H чӣ гуна бояд тафсир шаванд?
Дар Rain200H, ки аз хатҳои зичи борон иборат аст, BiSNet ба 29,88 dB PSNR ва 0,9180 SSIM расидааст. Дуюмин PSNR-и баланд 29,62 dB ва дуюмин SSIM-и баланд 0,9126 ба CPRA тааллуқ дорад.
- Фарқи PSNR: 0,26 dB
- Фарқи SSIM: 0,0054
Дар муқоисаи визуалии саҳифаҳои 7 ва 18 нишон дода шудааст, ки BiSNet хатҳои зичи борони салибшаклро бартараф карда, ҷузъиёти марҷон ва сатҳи обро ба ҳадафи тоза наздик нигоҳ доштааст. Дар баъзе рақибон боқимондаҳои хурди борон, тағйири ранг ё нишонаҳои нармшавӣ қайд шудаанд.
Натиҷаҳои Rain200L чӣ гуна бояд тафсир шаванд?
Дар маҷмӯаи додаҳои борони парокандаи Rain200L, BiSNet 40,31 dB PSNR ва 0,9877 SSIM додааст.
- Дуюмин PSNR-и баланд: CPRA, 39,53 dB
- Фарқи PSNR: 0,78 dB
- Дуюмин SSIM-и баланд: MPRNet, 0,9869
- Фарқи SSIM: 0,0008
Дар ин маҷмӯаи додаҳо фарқи PSNR назаррас аст, дар ҳоле ки фарқи SSIM хурд мебошад. Ин нишон медиҳад, ки дар хатои пикселӣ беҳбудии қавитар ба даст омадааст, вале аз рӯи монандии сохторӣ моделҳои рақиб низ ба ҳадаф хеле наздиканд.
Натиҷаҳои Rain1200 чӣ гуна бояд тафсир шаванд?
Дар маҷмӯаи додаҳои калонтар ва гуногуни Rain1200, BiSNet ба 34,61 dB PSNR ва 0,9398 SSIM расидааст.
- Дуюмин PSNR-и баланд: CPRA, 34,59 dB
- Фарқи PSNR: 0,02 dB
- Дуюмин SSIM-и баланд: HPCNet, 0,9371
- Фарқи SSIM: 0,0027
Гарчанде BiSNet дар ҷадвал қимати баландтарин дорад, бартарии PSNR танҳо 0,02 dB аст. Азбаски танҳо як иҷро ва ҳеҷ гуна тағйирёбии оморӣ дода нашудааст, муайян кардан мумкин нест, ки ин фарқи хурд аз тағйирёбии тасодуфии омӯзиш калонтар аст ё не.
Бартарӣ нисбат ба усулҳои SNN чӣ қадар аст?
| Муқоиса | Фарқи PSNR дар Rain200H | Фарқи PSNR дар Rain200L | Фарқи PSNR дар Rain1200 |
|---|---|---|---|
| BiSNet – ESDNet | +1,62 dB | +1,40 dB | +0,69 dB |
| BiSNet – VLIF | +1,25 dB | +1,85 dB | +1,87 dB |
BiSNet нисбат ба рақибони импулсӣ дақиқии баландтари барқарорсозиро таъмин мекунад, вале дар иваз параметр, FLOP ва энергияи гузоришшудаи бештарро истифода мебарад.
Тавозуни энергия ва ҳисоббарории модел чӣ гуна аст?
- Шумораи параметрҳои BiSNet 1,108 миллион аст.
- VLIF, ESDNet ва CPRA параметрҳои камтар доранд.
- Қимати 12,494 миллиард FLOP-и BiSNet танҳо аз VLIF ва ESDNet баландтар аст; дар ҷадвал сеюмин қимати паст мебошад.
- Энергияи гузоришшудаи BiSNet 156.200 µJ аст.
- Нисбат ба 200.800 µJ-и NAFNet тақрибан фоиз 22,2 камтар аст.
- BiSNet нисбат ба ESDNet тақрибан фоиз 70,7 бештар энергия истифода мебарад.
- Энергияи гузоришшудаи BiSNet тақрибан 13,4 маротиба аз VLIF зиёд аст.
Ин натиҷаҳо нишон медиҳанд, ки BiSNet мутлақан самараноктарин шабака нест. Модел ҳадаф дорад, ки дар ивази хароҷоти бештари ҳисоббарории SNN сифати тасвиреро таъмин кунад, ки ба сатҳи CNN ва Transformer наздик ё аз он баландтар аст.
Азбаски тарзи ҳисоб кардани ҷадвали энергия шарҳ дода нашудааст, қиматҳои µJ-ро наметавон бевосита ҳамчун истеъмоли қувваи дастгоҳи воқеӣ, давомнокии батарея ё иҷрои саҳроӣ тафсир кард.
Дар тасвирҳои воқеии боронӣ чӣ нишон дода шудааст?
Дар муқоисаи RW-Data дар саҳифаҳои 8 ва 19 тасвири роҳи боронӣ ва растаниҳо истифода шудааст. Муҳаққиқон мегӯянд, ки дар баъзе усулҳо:
- Боқимондаи борон
- Аз ҳад нарм шудани текстураи растанӣ
- Аз даст рафтани сохтори маҳаллӣ
- Гузариши ғайритабиии ранг
мавҷуд аст, дар ҳоле ки BiSNet тасвири тозатар ва табиитар тавлид мекунад.
Азбаски барои RW-Data ҳадафи тоза вуҷуд надорад, “беҳтарин” натиҷа танҳо ба тафсири сифатии тасвирҳои интихобшуда такя мекунад. Арзёбии кӯри инсон, холҳои корбар, NIQE, BRISQUE ё дақиқии вазифаҳои минбаъда гузориш нашудаанд.
Таҷрибаҳои хориҷ кардани модулҳо чиро нишон медиҳанд?
| Модел | Ду роҳ | GaborSRB | FMECA | DiSA | Параметр (M) | FLOPs (G) | PSNR | SSIM |
|---|---|---|---|---|---|---|---|---|
| (a) | Не | Не | Не | Не | 0,029 | 2,127 | 38,89 | 0,9826 |
| (b) | Ҳа | Не | Не | Не | 0,063 | 2,633 | 39,53 | 0,9848 |
| (c) | Ҳа | Не | Ҳа | Не | 0,983 | 10,286 | 39,71 | 0,9853 |
| (d) | Не | Не | Ҳа | Не | 0,949 | 9,782 | 39,25 | 0,9833 |
| (e) | Ҳа | Ҳа | Ҳа | Не | 1,010 | 11,990 | 39,95 | 0,9866 |
| (f) | Ҳа | Ҳа | Не | Ҳа | 0,159 | 2,712 | 39,82 | 0,9858 |
| (g) | Ҳа | Ҳа | Ҳа | Ҳа | 1,108 | 12,494 | 40,31 | 0,9877 |
Саҳми роҳи дугона чист?
Ҳангоми муқоисаи модели асосӣ (a) бо модели танҳо дорои роҳи дугона (b):
- PSNR аз 38,89 ба 39,53 dB баланд шудааст.
- Беҳбудӣ 0,64 dB аст.
- SSIM аз 0,9826 ба 0,9848 баланд шудааст.
- Шумораи параметрҳо аз 0,029 миллион ба 0,063 миллион афзудааст.
Фарқи 0,46 dB байни моделҳои (c) ва (d), ки FMECA доранд, низ саҳми роҳи дугонаро дастгирӣ мекунад.
Саҳми FMECA чист?
Ҳангоми муқоисаи модели ду-роҳа (b) бо модели дорои FMECA (c), PSNR 0,18 dB ва SSIM 0,0005 афзудааст. Аммо шумораи параметрҳо аз 0,063 миллион ба 0,983 миллион ва FLOP аз 2,633 миллиард ба 10,286 миллиард расидааст.
Ҳангоми муқоисаи модели (f), ки GaborSRB ва DiSA дорад, бо модели пурраи (g), илова кардани FMECA:
- PSNR-ро 0,49 dB зиёд кардааст.
- SSIM-ро 0,0019 зиёд кардааст.
- FLOP-ро тақрибан 9,782 миллиард зиёд кардааст.
FMECA дар ҷадвали ablation ба дақиқӣ саҳми қавӣ медиҳад, вале ҳамзамон қисми зиёди афзоиши ҳисоббарориро ташкил медиҳад.
Саҳми GaborSRB чист?
Ҳангоми муқоисаи модели (c), ки роҳи дугона ва FMECA дорад, бо модели дорои GaborSRB (e):
- PSNR аз 39,71 ба 39,95 dB расидааст.
- Беҳбудӣ 0,24 dB аст.
- SSIM аз 0,9853 ба 0,9866 баланд шудааст.
- Сарбории иловагии параметр ва FLOP маҳдуд мондааст.
Ин муқоиса дастгирӣ мекунад, ки prior-ҳои самтии Gabor дар ҳамон меъмории глобалӣ саҳми иловагии барқарорсозӣ медиҳанд.
Оё саҳми мустақили DiSA муайян шудааст?
Не. Дар мақола гуфта мешавад, ки азбаски DiSA ба хусусиятҳои Gabor ва пайвастҳои байниқабатӣ вобаста аст, ablation-и алоҳида барои он иҷро нашудааст.
Ҳангоми муқоисаи модели (b) бо модели (f), PSNR аз 39,53 ба 39,82 dB баланд мешавад. Аммо дар ин муқоиса ҳам GaborSRB ва ҳам DiSA якбора илова шудаанд. Аз ин рӯ, муайян кардан мумкин нест, ки аз фарқи 0,29 dB чӣ қадар ба GaborSRB ва чӣ қадар ба DiSA тааллуқ дорад.
Модели пурра нисбат ба модели асосӣ чӣ медиҳад?
| Ченак | Модели асосӣ | BiSNet-и пурра | Тағйир |
|---|---|---|---|
| PSNR | 38,89 dB | 40,31 dB | +1,42 dB |
| SSIM | 0,9826 | 0,9877 | +0,0051 |
| Параметр | 0,029 M | 1,108 M | Тақрибан 38 маротиба |
| FLOPs | 2,127 G | 12,494 G | Тақрибан 5,9 маротиба |
Натиҷаҳои ablation нишон медиҳанд, ки беҳбудии дақиқӣ ройгон нест. Модели пурра аз шабакаи асосӣ муваффақтар аст, вале ба таври назаррас калонтар ва ҳисобталабтар мебошад.
Шумораи қадамҳои вақт ба иҷро чӣ гуна таъсир мекунад?
| Қадами вақт | FLOPs (G) | PSNR | SSIM |
|---|---|---|---|
| 1 | 11,179 | 39,42 | 0,9847 |
| 2 | 11,618 | 39,88 | 0,9862 |
| 4 | 12,494 | 40,31 | 0,9877 |
| 6 | 13,371 | 40,39 | 0,9881 |
Шаш қадами вақт баландтарин ченакҳоро додааст. Аммо ҳангоми гузариш аз чор ба шаш қадам:
- PSNR танҳо 0,08 dB зиёд шудааст.
- SSIM танҳо 0,0004 зиёд шудааст.
- FLOP 0,877 миллиард зиёд шудааст.
Муҳаққиқон бинобар тавозуни дақиқӣ–ҳисоббарорӣ дар модели асосӣ чор қадами вақтро интихоб кардаанд.
Ҷиҳатҳои қавии таҳқиқот кадомҳоянд?
- Шабакаҳои нейронии импулсиро на танҳо ба тасниф, балки ба масъалаи зичи барқарорсозии тасвир татбиқ мекунад.
- Иттилооти самтии маҳаллӣ ва контексти глобалиро дар шохаҳои алоҳида коркард мекунад.
- Prior-ҳои Gabor ҳангоми омӯзиш мутобиқшаванда нигоҳ дошта шудаанд.
- Ниқоби фазоии борон ва коркарди соҳаи басомад дар як модул якҷо шудаанд.
- Кӯшиш мекунад интиқоли дубораи иттилооти борон аз пайвастҳои гузариш ба тасвирро кам кунад.
- Дар се маҷмӯаи додаҳои синтетикӣ муқоисаи фарогири моделҳоро бо як ченакҳо пешниҳод мекунад.
- Оилаҳои CNN, Transformer ва SNN-ро дар як ҷадвал арзёбӣ мекунад.
- Параметр, FLOP ва баҳодиҳии энергияро ҳамроҳ бо дақиқӣ гузориш медиҳад.
- Барои модулҳои асосӣ таҷрибаҳои ablation иҷро шудаанд.
- Муносибати қадами вақт бо дақиқӣ–ҳисоббарорӣ таҳқиқ шудааст.
- Ниқобҳои борон ва ҷавобҳои Gabor визуализатсия шудаанд.
- Дар тасвирҳои воқеии боронӣ санҷиши сифатӣ гузаронида шудааст.
Маҳдудиятҳои асосии таҳқиқот кадомҳоянд?
- Таҳқиқот preprint аст ва аз арзёбии ҳамсолон нагузаштааст.
- Усул ва фарзияҳои ҳисоб кардани энергия шарҳ дода нашудаанд.
- Дар протсессори нейроморфикӣ андозагирии воқеии энергия ва таъхир иҷро нашудааст.
- Фарқи байни омӯзиши GPU ва inference-и нейроморфикӣ арзёбӣ нашудааст.
- Дар маҷмӯаи додаҳои ҷаҳони воқеӣ арзёбии миқдорӣ бо референс вуҷуд надорад.
- Арзёбии кӯри инсон ё омӯзиши корбар иҷро нашудааст.
- Барои натиҷаҳо тухми тасодуфӣ, инҳирофи стандартӣ ё фосилаи эътимод дода нашудааст.
- Устувории омории бартарии 0,02 dB дар Rain1200 нишон дода нашудааст.
- Модули DiSA мустақилона ҷудо карда нашудааст.
- Функсияи талафот шарҳ дода нашудааст.
- Усули surrogate gradient ва параметрҳои нейрони LIF дода нашудаанд.
- Нисбати spike ва зичии рӯйдодҳо аз рӯи қабат гузориш нашудаанд.
- Пайванди байни қимати энергия ва фаъолияти spike нишон дода нашудааст.
- Вақти омӯзиш ва таъхири inference барои ҳар тасвир дода нашудааст.
- Истифодаи хотира ва шумораи тасвир дар як сония гузориш нашудааст.
- Санҷиши дастгоҳи мобилӣ, embedded ё edge иҷро нашудааст.
- Барои самтҳои гуногуни борон таҳлили алоҳидаи иҷро нест.
- Борони уфуқӣ, қатраи линза, туман ва барф таҳқиқ нашудаанд.
- Борони шабона, дурахши чароғ ва шароити рӯшноии паст алоҳида санҷида нашудаанд.
- Пас аз бартараф кардани борон иҷрои ошкоркунии объект ё пайгирӣ чен нашудааст.
- Пешгӯии ниқоб бо ченакҳои алоҳидаи сегментатсия арзёбӣ нашудааст.
- Тафсилоти омӯзиши дубораи моделҳои муқоисавӣ шарҳ дода нашудааст.
- Танзимоти афзоиши додаҳо ва нормализатсия дода нашудаанд.
- Барои коди манбаъ, вазнҳои омӯзонидашуда ва файлҳои такрорсозӣ пайванд пешниҳод нашудааст.
- Дар Расми 8 носозгории тамға вуҷуд дорад.
- Ихтисораи FRB дар меъмории умумӣ равшан таъриф нашудааст.
Таҳқиқот чиро дастгирӣ мекунад?
- Дастгирӣ мекунад, ки prior-ҳои самтии Gabor метавонанд дар барқарорсозии импулсии тасвир муфид бошанд.
- Нишон медиҳад, ки коркарди хусусиятҳои маҳаллӣ ва глобалӣ дар роҳи дугона метавонад нисбат ба SNN-и асосӣ дақиқии баландтар диҳад.
- Нишон медиҳад, ки истифодаи якҷояи соҳаи басомад ва ниқоби борон метавонад иҷрои моделро беҳтар кунад.
- Нишон медиҳад, ки BiSNet дар се маҷмӯаи додаҳои синтетикии интихобшуда аз усулҳои муқоисашуда PSNR ва SSIM-и баландтар додааст.
- Нишон медиҳад, ки BiSNet аз ду усули мавҷудаи бартарафсозии борон бо SNN дақиқтар аст.
- Дастгирӣ мекунад, ки чор қадами вақт метавонад бо FLOP-и камтар натиҷаҳои наздик ба шаш қадам диҳад.
- Нишон медиҳад, ки дар шабакаҳои импулсӣ байни дақиқӣ ва самаранокии энергия тавозуни танзимшаванда сохтан мумкин аст.
Таҳқиқот чиро исбот намекунад?
- Исбот намекунад, ки BiSNet дар ҳамаи маҷмӯаҳои додаҳои борон беҳтарин усул аст.
- Нишон намедиҳад, ки фарқҳои хурд, мисли 0,02 dB, дар такрорҳои гуногуни омӯзиш ҳифз мешаванд.
- Исбот намекунад, ки қимати энергияи гузоришшуда дар дастгоҳи воқеӣ ҳамин тавр ба даст меояд.
- Нишон намедиҳад, ки BiSNet камэнергиятари SNN аст.
- Исбот намекунад, ки модел дар вақти воқеӣ кор мекунад.
- Нишон намедиҳад, ки дар тасвирҳои воқеии боронӣ объективона беҳтарин сифати визуалиро таъмин мекунад.
- Исбот намекунад, ки бартараф кардани борон ошкоркунии объект ё бехатарии ронандагиро беҳтар мекунад.
- Нишон намедиҳад, ки кори низоми биниши биологиро дуруст аз нав тавлид мекунад.
- Саҳми мустақили DiSA-ро қатъӣ муайян намекунад.
- Дар борони уфуқӣ, қатраи линза, туман, барф ё дурахши шабона ҳамон муваффақиятро кафолат намедиҳад.
Усул ва Натиҷаҳои Таҳқиқот
Тарҳи таҳқиқот
Ин таҳқиқот кори таҷрибавии биниши компютерӣ аст, ки таҳияи меъмории нави шабакаи нейронии импулсӣ, омӯзиши назоратшаванда бо тасвирҳои синтетикии ҷуфтшуда, муқоисаи CNN–Transformer–SNN, баррасии сифатӣ дар тасвирҳои воқеӣ, таҷрибаҳои хориҷ кардани ҷузъҳо ва таҳлили қадами вақтро дар бар мегирад.
Вуруд ва баромади модел
| Ҷузъ | Шарҳ |
|---|---|
| Вуруд | Як тасвири RGB-и боронӣ |
| Намоиши вақтӣ | Такрор кардани тасвир ба T қадами вақт |
| Роҳи маҳаллӣ | Истихроҷи хусусиятҳои самтӣ бо GaborConv ва GaborSRB |
| Роҳи глобалӣ | Коркарди контекст, басомад ва ниқоб бо SRB ва FMECA |
| Пайвасти гузариш | Филтркунии самтӣ ва семантикӣ бо DiSA |
| Баромад | Тасвири барқароршуда бо хатҳои борони камшуда |
Модулҳои асосӣ
- Spiking Convolution Unit бар асоси нейрони LIF
- Нормализатсияи гурӯҳии вобаста ба вақт
- Spiking Residual Block
- Gabor Spiking Residual Block
- Mixed Attention Unit
- FrequencyMixerBlock
- RainMaskHead
- RainMaskGate
- Efficient Channel Attention
- Direction-Integrated Skip Attention
Маҷмӯаҳои додаҳои таҷрибавӣ
| Маҷмӯаи додаҳо | Шумораи умумии намунаҳои истифодашуда | Ҳадафи асосӣ |
|---|---|---|
| Rain200H | 2.000 | Дақиқӣ дар борони зичи синтетикӣ |
| Rain200L | 2.000 | Дақиқӣ дар борони сабук ва пароканда |
| Rain1200 | 13.200 | Умумисозӣ дар гуногунии самт ва шиддат |
| RW-Data | 185 | Арзёбии сифатӣ дар тасвирҳои воқеии боронӣ |
Бозёфтҳои асосӣ
- BiSNet дар се маҷмӯаи додаҳои синтетикӣ баландтарин PSNR ва SSIM-ро додааст.
- Бузургтарин беҳбудии PSNR-и SNN нисбат ба VLIF дар Rain1200 1,87 dB аст.
- Дар Rain1200 фарқи PSNR нисбат ба рақиби умумии наздиктарин танҳо 0,02 dB аст.
- Роҳи дугона ба модели асосӣ 0,64 dB PSNR илова кардааст.
- GaborSRB ба ҳамон сохтори роҳи дугона ва FMECA 0,24 dB илова кардааст.
- FMECA дар сохтори пурра 0,49 dB PSNR-и иловагӣ додааст.
- Модели пурра нисбат ба модели асосӣ 1,42 dB PSNR-и баландтар додааст.
- Чор қадами вақт нисбат ба шаш қадам танҳо 0,08 dB пасттар аст.
- BiSNet нисбат ба модели камэнергиятари CNN дар байни моделҳои муқоисашуда тақрибан фоиз 22,2 энергияи гузоришшудаи камтар дорад.
- VLIF ва ESDNet нисбат ба BiSNet камтар энергия истеъмол мекунанд.
Ҳудуди тафсири ченакҳои муваффақият
Дар маҷмӯаҳои додаҳои синтетикӣ PSNR ва SSIM нисбат ба тасвирҳои ҳадафи тоза ҳисоб шудаанд. Ин ченакҳо ҳамчун қиматҳои ягона барои ҳамон тасвирҳои санҷишӣ дода шудаанд. Тақсимоти аз рӯи тасвир, фосилаи эътимод ё тағйир байни такрорҳо нашр нашудааст.
Дар тасвирҳои воқеӣ ҳадафи тоза вуҷуд надорад, бинобар ин натиҷаҳо ба намунаҳои визуалӣ асос ёфтаанд. Дар таҳқиқот арзёбии мустақили миқдорӣ барои дастгирии муваффақияти ҷаҳони воқеӣ вуҷуд надорад.
Маълумоти нокифоя барои такрорпазирӣ
- Функсияҳои талафоти омӯзиш ва валидатсия
- Функсияи surrogate gradient
- Остона, reset ва доимиҳои вақти LIF
- Тафсилоти рамзгузории spike
- Нисбатҳои spike аз рӯи қабат
- Муодилаи ҳисоб кардани энергия ва фарзияҳои сахтафзор
- Тухмҳои тасодуфӣ ва такрорҳои таҷриба
- Танзимоти афзоиши тасвир
- Вақти inference ва истифодаи хотира
- Расмиёти омӯзиши дубораи моделҳои рақиб
- Коди манбаъ ва вазнҳои модел
Қадамҳои зарурӣ барои гузариш ба татбиқи воқеӣ
- Андозагирии воқеии watt ва joule дар протсессори нейроморфикӣ
- Санҷиши таъхир дар GPU-и мобилӣ, FPGA ва протсессорҳои edge
- Маҷмӯаҳои додаҳои шаб, туман, дурахши чароғ ва борони шамолӣ
- Моделсозии алоҳида барои қатраҳо рӯи линза ва ҷамъшавии борон
- Валидатсияи беруна бо тасвирҳои воқеии бориш аз Туркия
- Муқоисаи ошкоркунии объект пеш ва пас аз бартараф кардани борон
- Ҷадвали иҷро барои кунҷҳои гуногуни борон
- Фосилаҳои эътимод бо чанд тухми тасодуфӣ
- Таҷрибаи мустақили ablation барои DiSA
- Арзёбии дақиқии ниқоб бо ченакҳое монанди IoU ва F1
- Арзёбии кӯри инсон дар тасвирҳои воқеӣ
- Нашри код, вазнҳо ва конфигуратсияи омӯзиш
Ёддошт оид ба Манбаъ ва Усул
Номи аслии таҳқиқот: Bio-inspired Spiking Neural Network for Single Image Deraining
Муаллифон: Yuwei Chen; Yuwei Deng; Zhefei Cai; Tong Zhu; Bin Zhao; Yingle Fan.
Тартиби муаллифон: Тартиби боло тартиби аслии муаллифонро дар таҳқиқот нигоҳ медорад.
Маълумот дар бораи саҳми баробар: Дар таҳқиқот изҳороти ҳаммуаллифи аввал ё саҳми баробар вуҷуд надорад.
Муаллифи масъул: Yingle Fan.
Почтаи электронии муаллифон:
- Yuwei Chen: yuweichen@hdu.edu.cn
- Yuwei Deng: yuweideng@hdu.edu.cn
- Zhefei Cai: zfcai@cjlu.edu.cn
- Yingle Fan: fan@hdu.edu.cn
Почтаи электронии дигар муаллифон: Барои Tong Zhu ва Bin Zhao дар саҳифаи асосии унвон суроғаи почтаи электронӣ дода нашудааст.
Маълумоти ORCID:
- Yuwei Chen: 0009-0007-2123-2651
- Yingle Fan: 0000-0002-7478-9687
Муассисаҳо:
- School of Automation, Hangzhou Dianzi University, Hangzhou 310018, Чин.
- College of Information Engineering, China Jiliang University, Hangzhou 310018, Чин.
Платформаи расмии нашр: SSRN.
Пайванди расмии таҳқиқот:Саҳифаи таҳқиқот дар SSRN
Санаи боргузорӣ ба SSRN: 31 июли 2026.
Соли нашр: 2026.
Дарозии файл: Дар сабти SSRN 21 саҳифа. Рақамгузории худи мақолаи асосӣ 13 саҳифа аст; дар файли боргузоришуда тасвирҳои иловагии расмҳои пурсаҳифа мавҷуданд.
Маҷалла: Барои ин версия номи муайяни маҷаллаи ҳамсоларзёбишуда ё қарори қабул мавҷуд нест.
Вазъи нашр: Дар ҳуҷҷат ибораи “Preprint submitted to Elsevier” мавҷуд аст. Ин маънои онро надорад, ки таҳқиқот аз ҷониби маҷаллаи Elsevier қабул шудааст ё аз арзёбии ҳамсолон гузаштааст.
Навъи манбаъ: Таҳқиқоти preprint дар соҳаи биниши компютерӣ, ки меъмории шабакаи нейронии импулсӣ, муқоисаҳои benchmark-и синтетикӣ, арзёбии сифатӣ дар тасвирҳои воқеӣ ва таҷрибаҳои ablation-ро дар бар мегирад.
Вазъи арзёбии ҳамсолон: Таҳқиқот аз арзёбии ҳамсолон нагузаштааст. Дар ҳар саҳифаи файл огоҳии “Preprint not peer reviewed” мавҷуд аст.
Маблағгузорӣ: Таҳқиқот аз ҷониби Xinmiao Project дар доираи Zhejiang Provincial Applied Basic Research Program бо гранти 2026XMHD023 маблағгузорӣ шудааст.
Саҳми муаллифон:
- Yuwei Chen: Консептуализатсия, усул, нармафзор, валидатсия, таҳлили формалӣ, таҳқиқот ва навиштан.
- Yuwei Deng: Усул ва тартибдиҳии додаҳо.
- Zhefei Cai: Таҳлили формалӣ, захираҳо ва бозбинӣ.
- Tong Zhu: Нармафзор ва визуализатсия.
- Bin Zhao: Захираҳо ва машварат.
- Yingle Fan: Консептуализатсия, машварат ва бозбинӣ.
Баръхӯрди манфиатҳо: Дар матни асосӣ изҳороти равшани бархӯрди манфиатҳо мавҷуд нест.
Дастрасӣ ба додаҳо: Маҷмӯаҳои додаҳои мавҷудаи Rain200L, Rain200H, Rain1200 ва RW-Data истифода шудаанд. Дар матни асосӣ пайвандҳои мустақими зеркашии ин маҷмӯаҳо дода нашудаанд.
Дастрасӣ ба код ва модел: Барои коди манбаъ, вазнҳои омӯзонидашуда, файлҳои пурраи конфигуратсия ва журналҳои таҷриба пайванди дастрасии кушод пешниҳод нашудааст.
Ёддошт дар бораи андозагирии энергия: Дар ҷадвали муқоиса қиматҳои энергия бо воҳиди µJ дода шудаанд; аммо дастгоҳи физикии ченкунӣ, формулаи ҳисоб кардани энергия, коэффисиентҳои MAC ва AC, нисбати spike ё сахтафзори нейроморфикии ҳадаф шарҳ дода нашудаанд. Аз ин рӯ, ин қиматҳоро ҳамчун истеъмоли воқеии қувва дар саҳро тасдиқ кардан мумкин нест.
Носозгориҳои визуалӣ ва усулӣ: Дар шарҳи Расми 8 дар бораи хусусиятҳои сатҳи паст, миёна ва баланд сухан меравад, вале ду тасвири поёнӣ бо як тамғаи “Gabor Converge-Mid” нишон дода шудаанд. Таърифи равшани ихтисораи FRB, ки дар меъмории умумӣ дида мешавад, низ дар матни асосии усул вуҷуд надорад.
Ин шарҳи тоҷикӣ пас аз баррасии нақшаҳои меъморӣ, таърифҳои ядроҳои Gabor, муодилаҳои FMECA ва DiSA, шарҳи маҷмӯаҳои додаҳо, танзимоти омӯзиш, ҷадвали PSNR–SSIM, муқоисаи параметр–FLOP–энергия, намунаҳои тасвирҳои воқеӣ, ниқобҳои борон, визуализатсияи хусусиятҳои Gabor, ҷадвали ablation ва натиҷаҳои қадами вақт дар таҳқиқоти боргузоришуда омода шудааст. Ба натиҷаҳои илмӣ аз берун аз таҳқиқот таҷриба ё қимати иҷрои нав илова нашудааст.
Таҳқиқот дастгирӣ мекунад, ки prior-ҳои Gabor, ки аз интихобпазирии самтии биологӣ илҳом гирифтаанд, бо механизмҳои диққати басомадӣ ва ниқобӣ метавонанд дар барқарорсозии импулсии тасвир афзоиши дақиқӣ диҳанд. Маҳдудияти асосӣ он аст, ки ин муваффақиятҳо ба ченакҳои ягонаи маҷмӯаҳои додаҳои синтетикӣ ва баҳодиҳии энергияе такя мекунанд, ки усули он шарҳ дода нашудааст. То замоне ки модел дар сахтафзори воқеии нейроморфикӣ, низоми тасвирбардории вақти воқеӣ ё занҷири биниши компютерии барои амният муҳим тасдиқ нашавад, набояд онро омодаи татбиқ ҳисобид.

Шарҳ гузоред
Нишонии почтаи электронии шумо нашр намешавад. Майдонҳои ҳатмӣ бо * нишон дода шудаанд