
Jinfan Li və Xiangru Li tərəfindən hazırlanmış LGADNet, güçlü küynün içindeki zayıf və yerli sinyal örüntülerini belirlerken aynı zamanda ardıcıllığın uzak bölümleri arasındaki əlaqəleri modellemeyi hədəfləyən bir dərin öyrənmə memarlığıdir. Tədqiqatçılar; örneğe görə değişebilen dinamik konvolyusiyaleri kullanan Dinamik Yerli Yönləndirmə modülünü, öyrənilə bilən mövqesəl kodlama və qapılama mekanizması içeren Qapılı Qlobal Küy Giderme modülüyle birleştirmiştir.
Metod ilk olarak aşşəbəkəı siqnal-küy nisbətli ulduz spektrlərindan effektiv temperatur, səth cazibəsi, metal bolluğu və karbon bolluğu təxmininde sınanmıştır. Tədqiqatçıların hazırladığı LSS veri dəsti, kamuya açık astronomik taramaların çapraz eşleştirilmesiyle oluşturulan 59.983 spektrtan oluşmaktadır. LGADNet; effektiv temperatur üçün 50,18, [C/Fe] üçün 0,045 və [Fe/H] üçün 0,042 orta mütləq xəta elde ederek karşılaştırılan metodler arasında bu üç meyarte en aşşəbəkəı xətayı vermiştir. Yüzey çekimi üçün 0,079 dəyərine ulaşmış, lakin bu meyarte MSFL-IECW’nin 0,078 sonucunun az fərqla gerisinde kalmıştır.
Tahmin edilen yıldız parametrelerinden türetilen karbonca zəngin metalca kasıb yıldız belirleme görəvinde LGADNet 0,816 dəqiqlik və 0,725 F1 skoru elde etmiştir. Duyarlılık dəyəri 0,652 ilə en yüksək nəticə değildir; StarGRUNet 0,697 duyarlılığa ulaşmıştır. Bu səbəbdən metodin temel avantajı daha fazla aday yakalamaktan çok yanlış pozitivleri azaltarak dəqiqlik və F1 dengesini yükseltmesidir.
Model ayrıca MIT-BIH ürək ritmi veri tabanında beş siniflı aritmiya təsnifatına uyarlanmış və 0,991 genel doğruluk bildirmiştir. Bununla belə bu deney, astronomi verileriyle eğitilen modelin birbaşa ECG sinyallerine aktarılması değildir. Ağın blok sayısı və çıktı katmanı değiştirilmiş, model ECG görəvi üçün yeniden eğitilmiştir. Dolayısıyla nəticəlar sıfır örnekli alan aktarımını değil, aynı memarlıq fikrin ikinci bir veri alanında uygulanabilirliğini göstərir.
Çalışmanın en önemli məhdudiyyətləri; yalnız təlim və doğrulama kümelerinin açıklanması, müstəqil test dəstinin bulunmaması, ECG verilerinin pasiyent əsasında ayrılıp ayrılmadığının belirtilmemesi, təlim ayarlarının önemli bölümünün raporlanmaması və kod ilə LSS veri dəstinin inceleme sırasında erişilebilir olmamasıdır. Tapıntılar LGADNet’in umut verici olduğunu göstərir; lakin klinik kullanım, astronomik katalog üretimi və ya fərqli araştırma gruplarında genellenebilirlik üçün müstəqil doğrulama gereklidir.
Araştırmanın ele aldığı temel problem
Astronomik spektrlar, elektrokardiyogramlar və benzeri ardıcıl bilimsel sinyaller, incelenen sistem hakkında dəyərli bilgiler taşır. Ancak ölçüm cihazlarının həssaslıq sınırları, çevresel etkiler, iletim kayıpları və arka plan girişimleri nedeniyle ayırt edici bilgi çoğu zaman küynün içinde zayıf və yerli örüntüler hâlinde kalır.
Bir ulduz spektrinda karbon bolluğunu gösteren moleküler bantlar yalnız belirli dalğa uzunluğu aralıklarında ortaya çıkabilir. Bir ECG kaydında ritim bozukluğuna işaret eden morfolojik değişiklikler ise ürək döyüntüsünın kısa bir zaman aralığında bulunabilir. Buna karşılık doğru təxmin üçün yalnız bu yerli ayrıntılar değil, spektrın fərqli dalga boyları və ya ürək döyüntüsünın fərqli zaman noktaları arasındaki daha uzun menzilli əlaqəler de önemlidir.
Araştırmanın hedeflediği ikili gereksinim şöyledir:
- Küy içinde kalan zayıf, kısa menzilli və örneğe özgü yapıların yakalanması
- Dizinin birbirinden uzak bölümleri arasındaki qlobal bşəbəkəımlılıkların modellenmesi
Mevcut metodlerin məhdudiyyətləri
Geleneksel xüsusiyyət mühendisliği; dalgacık dönüşümü, temel bileşen analizi, şablon eşleştirme və istatistiksel indikatorler gibi önceden tasarlanmış xüsusiyyətlere dayanır. Bu xüsusiyyətler yüksək kaliteli sinyallerde yorumlanabilir olabilir; lakin küy arttığında və örneklerin morfolojileri değiştiğinde genellenebilirlikleri azalabilir.
Standart konvolyusiyali sinir şəbəkəları yerli örüntüleri başarıyla yakalayabilir. Bununla belə təlim tamamlandıktan sonra bütün örneklere aynı konvolyusiya nüvəlerini uygular. Küy dşəbəkəılımı və ya sinyal morfolojisi örnekten örneğe önemli ölçüde değiştiğinde sabit nüvəlerin uyarlanabilirliği sınırlı kalabilir.
Transformer memarlıqleri, öz-diqqət mekanizmasıyla ardıcıllığın uzak mövqeları arasındaki əlaqəleri modelleyebilir. Fakat öz-diqqət hangi yanıtın gerçek sinyal, hangisinin küy olduğunu kendiliğinden bilmez. Küylü xüsusiyyətlerin birbaşa qlobal etkileşime sokulması, istenmeyen yanıtların uzun menzilli bşəbəkəlantılar boyunca yayılmasına neden olabilir.
CNN–Transformer birleşimleri iki yaklaşımın güçlü yanlarını bir araya getirse de tədqiqatçılar mevcut yapıların aşşəbəkəı SNR şərtlərında iki temel eksik taşıdığını savunmaktadır:
- Yerli aşamada çoğunlukla sabit konvolyusiya nüvəlerinin kullanılması
- Küresel aşamadan önce küyyü seçici biçimde bastıran açık bir mekanizmanın bulunmaması
LGADNet’in temel yaklaşımı
LGADNet, önce yerli yapıları örneğe uyarlanmış biçimde güçlendirir, ardından bu güçlendirilmiş temsilleri seçici bir süzgeçten geçirerek qlobal əlaqəleri modeller. Ana işlem zinciri şöyledir:
\[ \text{Girdi dizisi} \rightarrow \text{özellik izdüşümü} \rightarrow \text{DLG} \rightarrow \text{GGD} \rightarrow \text{tahmin başlığı} \]
Bir boyutlu giriş ardıcıllıqsi:
\[ X\in\mathbb{R}^{L} \]
olarak tanımlanır. Burada L ardıcıllığın uzunluğudur. İlk izdüşüm katmanı girdiyi C kanallı xüsusiyyət uzayına dönüştürür:
\[ X_{\mathrm{proj}}\in\mathbb{R}^{C\times L} \]
Bu temsil önce Dinamik Yerli Yönləndirmə modülüne, daha sonra Qapılı Qlobal Küy Giderme modülüne aktarılır.
Şəkil 1: Mimari akış ne göstərir?
Dokuzuncu sayfadaki Şəkil 1, LGADNet’in üç temel səviyyəini göstərir. Ana akışta tek boyutlu sinyal önce yüksək boyutlu xüsusiyyət xəritəsina dönüştürülmekte, ardından DLG və GGD modüllerinden geçirilerek çok katmanlı algılayıcı təxmin başlığına ulaştırılmaktadır.
Şeklin üst kısmındaki DLG ayrıntısında aynı girdiyi işleyen üç paralel kol yer almaktadır:
- Yerli xüsusiyyət kolu
- Dinamik konvolyusiya kolu
- Kararlı kısa yol kolu
Dinamik konvolyusiya alt şeması, girişten üretilen şəbəkəırlıkların dört aday konvolyusiya çekirdeğini bir araya getirdiğini göstərir. Alt bölümdeki GGD şeması ise öyrənilə bilən mövqesəl kodlamanın xüsusiyyətlere eklendiğini, kapı dəyərləriyle eleman bazında çarpıldığını və seçilen xüsusiyyətlerin Transformer kodlayıcısına gönderildiğini göstərir.
Dinamik Yerli Yönləndirmə modülü
DLG modülü, aynı giriş özelliğini paralel olarak işleyen üç tamamlayıcı koldan oluşur. Amaç, tamamen dinamik bir yapının təlim kararsızlığından kaçınırken örneğe özgü yerli yapıları güçlendirmektir.
Birinci kol: Doğrusal olmayan yerli xüsusiyyət çıkarımı
Birinci kol, ReLU etkinleştirmeli iki ardıcıl bir boyutlu konvolyusiya katmanı kullanır. Ardışık konvolyusiyaler tek katmana görə daha geniş etkili alıcı alan oluşturarak yakın mövqelar arasındaki karmaşık yerli örüntüleri yakalamaya çalışır.
Bu kol örneğe görə değişen dinamik parametreler üretmez. Modülün sabit və güvenilir yerli xüsusiyyət tabanını sşəbəkəlar.
İkinci kol: Dinamik konvolyusiya
Dinamik konvolyusiya kolunda dört namizəd nüvə yaradılmışdır:
\[ \{W_g\}_{g=1}^{G},\qquad G=4 \]
Her namizəd nüvə:
\[ W_g\in\mathbb{R}^{C_{\mathrm{out}}\times C_{\mathrm{in}}\times K} \]
boyutundadır. Burada Cin giriş kanal sayısını, Cout çıkış kanal sayısını, K ise konvolyusiya çekirdeği uzunluğunu ifadə edir.
Giriş xüsusiyyətlerinin kanal istatistikleri qlobal orta havuzlamayla çıkarılır:
\[ X_{\mathrm{glob}}=\operatorname{GAP}(X) \in\mathbb{R}^{C_{\mathrm{in}}\times1} \]
Hafif bir qapılama şəbəkəı, dört namizəd nüvə üçün örneğe özgü qarışım əmsalları üretir:
\[ \boldsymbol{\alpha} =[\alpha_1,\alpha_2,\ldots,\alpha_G] \]
Katsayıların negatif olmaması və toplamlarının bire eşit olması gerekir:
\[ \alpha_g\geq0,\qquad \sum_{g=1}^{G}\alpha_g=1 \]
Örneğe uygulanacak dinamik nüvə:
\[ W_{\mathrm{mix}} =\sum_{g=1}^{G}\alpha_gW_g \]
şeklinde oluşturulur. Böylece fərqli küy seviyesine və ya fərqli yerli morfolojiye sahip girişler üçün dört temel çekirdeğin fərqli karışımları kullanılabilir.
Bu mekanizma her mövqe üçün tamamen yeni bir nüvə üretmez. Girişin qlobal kanal özetine görə önceden öğrenilmiş dört aday çekirdeği çəki verilmiş biçimde birleştirir.
Üçüncü kol: Kararlı kısa yol
Üçüncü kol, tek konvolyusiya katmanından oluşan bir kısa yol haritalamasıdır. Temel xüsusiyyətleri korumayı, qradiyent akışını kolaylaştırmayı və dinamik kolun oluşturabileceği təlim dalgalanmalarını azaltmayı amaçlar.
Üç kolun birleştirilmesi
Üç kolun çıktıları kanal birleştirme əvəzinə eleman bazında toplanır:
\[ F_{\mathrm{out}} =\phi\left( F_{\mathrm{res1}}+ F_{\mathrm{res2}}+ F_{\mathrm{res3}} \right) \]
Burada φ, araştırmada ReLU olarak uygulanan doğrusal olmayan etkinleştirme fonksiyonudur. Toplama işlemi, xüsusiyyətlerin art arda eklenmesine kıyasla kanal sayısını və parametre maliyetini sınırlamaktadır.
Qapılı Qlobal Küy Giderme modülü
DLG’den çıkan temsil ayırt edici yerli yapılar içerse de artık küy və gereksiz yanıtlar barındırabilir. GGD modülü, bu xüsusiyyətleri Transformer öz-diqqət işlemine göndermeden önce mövqesəl məlumat və öğrenilebilir kapılarla süzer.
Öğrenilebilir mövqesəl kodlama
Maksimum ardıcıllıq uzunluğu 1000 olarak belirlenmiş və şu öyrənilə bilən mövqesəl kodlama matrisi müəyyən edilmişdir:
\[ P\in\mathbb{R}^{L_{\max}\times C_{\mathrm{final}}}, \qquad L_{\max}=1000 \]
DLG çıkışı ardıcıllıq-öncelikli biçime çevrilir və mevcut uzunluğa karşılık gelen ilk mövqe vektörleri eklenir:
\[ F_{\mathrm{pos}} =F_{\mathrm{dlg}}^{\mathsf{T}} +P_{1:L_d} \]
Öğrenilebilir kodlama, sabit sinüs və kosinüs işlevleri əvəzinə görəvin təlim verisi üzerinden ayarlanabilen mövqe temsilleri üretir.
Eleman bazlı qapılama
Konumsal bilgi eklenmiş xüsusiyyətlerden bir qapı matrisi hesaplanır:
\[ G= \rho\left(F_{\mathrm{pos}}A_g+b_g\right) \]
Burada ρ Sigmoid fonksiyonudur. Bu səbəbdən her kapı dəyəri sıfır ilə bir arasında bulunur.
Kapılar xüsusiyyətlerle eleman bazında çarpılır:
\[ F_{\mathrm{sel}} =F_{\mathrm{pos}}\odot G \]
Bir kapı dəyərinin bire yaklaşması ilgili mövqe və kanal yanıtının korunmasını, sıfıra yaklaşması ise bastırılmasını sşəbəkəlar. Ancak kapının gerçekten “küy” ilə “sinyali” fiziksel olarak ayırdığı birbaşa denetlenmemiştir; bu ayrım təlim kaybını azaltacak temsil şəbəkəırlıkları üzerinden öğrenilmektedir.
Küresel bşəbəkəımlılık modellemesi
Süzülen xüsusiyyətler iki Transformer kodlayıcı bloğuna gönderilir:
\[ F_{\mathrm{trans}} =\mathcal{T}_{N}(F_{\mathrm{sel}}), \qquad N=2 \]
Her kodlayıcı blok çox başlı öz-diqqət, irəli qidalanan şəbəkə, qat normallaşdırması və dropout bileşenlerini içermektedir. Nəticə yeniden kanal-öncelikli biçime çevrilir:
\[ F_{\mathrm{ggd}} =F_{\mathrm{trans}}^{\mathsf{T}} \]
Araştırmada Transformer başlık sayısı, kanal genişlikleri, ileri beslemeli katman boyutu və dropout nisbətı açıqlanmamışdır.
LSS ulduz spektri veri dəsti nasıl oluşturuldu?
LSS, aşşəbəkəı SNR şərtlərındaki yıldız parametresi kestirimini dəyərlendirmek amacıyla hazırlanmıştır. Girişler LAMOST DR12 aşşəbəkəı çözünürlüklü spektrlarından, hedef etiketler ise APOGEE DR17, LAMOST–Subaru katalogları və SAGA veri tabanından əldə edilmişdir.
Yalnızca siqnal-küy nisbəti 5’in üzerinde olan örnekler istifadə edilmişdir. Eşleştirme TOPCAT yazılımıyla və en fazla üç yay saniyelik uyğunlaşdırma radiusuyla yapılmıştır. İlk aşamada 189.780 örnek əldə edilmişdir.
Ön işleme zinciri şunları içermektedir:
- Doppler düzəlişi
- Dalga boyu aralığının kesilmesi və yenidən nümunələnməsi
- Kübik spline enterpolasyonu
- Savitzky–Golay yumuşatması
- Süreklilik normalizasyonu
- Üç standart sapmalık kənar dəyər kəsilməsi
Savitzky–Golay işlemi spektrları modele vermeden önce yumuşattığı üçün LGADNet tamamen işlenmemiş ham küylü sinyaller üzerinde dəyərlendirilmemiştir. Model başarısı, sinyal işleme adımları ilə şəbəkə memarlığınin ortak sonucudur.
[C/Fe] və [Fe/H] dşəbəkəılımlarındaki dengesizliği azaltmak üçün iki xüsusiyyətli kutulama tabanlı örnekleme uygulanmış və 59.983 spektrlık son küme yaradılmışdır.
| Veri bölümü | Örnek sayısı | Toplam içindeki pay |
|---|---|---|
| Eğitim | 47.984 | Yaklaşık %80 |
| Doğrulama | 11.999 | Yaklaşık %20 |
| Toplam | 59.983 | %100 |
Ayrı bir test dəsti raporlanmamıştır. Bu səbəbdən sunulan nəticəların model və hiperparametre seçiminde kullanılan doğrulama verisinden tamamen müstəqil olup olmadığı belirlenememektedir.
LSS sinif paylanması gerçekten dengeli midir?
LSS örnekleri üç gruba ayrılmıştır:
| Sınıf | Eğitim nisbətı | Doğrulama nisbətı |
|---|---|---|
| CEMP | %0,742 | %0,742 |
| MP-no-CEMP | %2,955 | %2,959 |
| Diğer | %96,303 | %96,300 |
Bu dşəbəkəılım sinif sayıları bakımından dengeli değildir. “Dengeli örnekleme” ifadesi, [C/Fe] və [Fe/H] etiket uzayındaki kutuların örneklenmesine karşılık gelmektedir; CEMP, MP-no-CEMP və Diğer siniflarının eşitlenmesi anlamına gelmemektedir.
CEMP sinifının təxminən yüzde 0,74’lük payı nedeniyle 0,996 gibi yüksək bir genel doğruluk dəyəri tek başına yeterli değildir. Nadir sinif performansı üçün həssaslıq, dəqiqlik və F1 skoru daha açıklayıcıdır.
Şəkil 2: Üç yıldız sinifının spektrları
On yedinci sayfadaki Şəkil 2; CEMP, MP-no-CEMP və Diğer gruplarından birer işlenmiş spektr örneğini göstərir. Yatay eksen dalğa uzunluğunu, dikey eksen normalleştirilmiş akıyı temsil eder.
Kırmızı kesikli çizgiler CH G-bandı və C2 Swan bantları gibi karbonla əlaqəli bölgeleri, mavi çizgiler ise demir udulma xətlərini işaretlemektedir. Üç örneğin küy səviyyəleri və yerli çizgi morfolojileri birbirinden belirgin biçimde fərqlidır.
Şəkil, modelin karşılaştığı yerli örüntü problemini görselleştirmektedir; lakin yalnız üç seçilmiş örnek içerdiğinden veri dəstinin genel dşəbəkəılımını və ya bütün SNR seviyelerini temsil etmez.
Yıldız parametreleri üçün hangi nəticəlar elde edildi?
| Model | log g MAE | Teff MAE | [C/Fe] MAE | [Fe/H] MAE |
|---|---|---|---|---|
| Inception | 0,086 | 59,13 | 0,049 | 0,050 |
| ResNet | 0,091 | 59,91 | 0,050 | 0,050 |
| StarGRUNet | 0,080 | 55,01 | 0,048 | 0,047 |
| RRNet | 0,101 | 70,19 | 0,050 | 0,054 |
| StarNet | 0,092 | 60,69 | 0,047 | 0,049 |
| MSFL-IECW | 0,078 | 55,58 | 0,048 | 0,044 |
| LGADNet | 0,079 | 50,18 | 0,045 | 0,042 |
Daha aşşəbəkəı MAE daha iyi təxmin mənasına gəlir. LGADNet effektiv temperatur, karbon bolluğu və metal bolluğunda en aşşəbəkəı xətayı vermiştir. Yüzey çekimi meyaründe ikinci sıradadır.
ResNet tabanına görə xəta değişimleri şöyledir:
- log g xətasında təxminən %13,2 azalma
- Teff xətasında təxminən %16,2 azalma
- [C/Fe] xətasında %10 azalma
- [Fe/H] xətasında %16 azalma
Nəticə cədvəlsu parametrelerin fiziksel vahidlerini ayrıca belirtmemektedir. Ayrıca MAE dışında RMSE, açıklanan varyans, güven aralığı və ya fərqli SNR dilimlerindeki xəta dəyərləri təqdim edilməmişdir.
Şəkil 3: Tahmin edilen və gerçək dəyərler
Yirmi birinci sayfadaki Şəkil 3; effektiv temperatur, səth cazibəsi, [Fe/H] və [C/Fe] üçün təxmin edilen dəyərləri gerçək dəyərlerle müqayisəktadır. Siyah kesikli köşegen ideal y=x əlaqəsini, kırmızı kesikli çizgiler ise artı və eksi üç standart sapmalık sınırları göstərir.
Noktaların büyük bölümü köşegen çevresinde yoğunlaşmaktadır. Renk skalası nokta yoğunluğunu göstermekte və təxminlerin en yoğun parametre bölgelerinde daha sık kümelendiğini ortaya koymaktadır.
Bu qrafik genel uyumu destekler; lakin seyrek parametre bölgelerindeki performansın daha zayıf olup olmadığını tek başına belirlemek üçün yeterli değildir. Parametre aralıklarına və ya SNR seviyelerine görə ayrı xəta cədvəlları verilməmişdir.
CEMP yıldızlarının belirlenmesi
Tədqiqatçılar birbaşa CEMP sinifını təxmin eden ayrı bir siniflandırıcı kullanmamıştır. Önce yıldız parametrelerini təxmin etmiş, ardından önceki bir çalışmada tanımlanan fiziksel meyarları bu təxminlere uygulayarak CEMP kararını üretmiştir.
| Model | Doğruluk | Duyarlılık | Kesinlik | F1 |
|---|---|---|---|---|
| Inception | 0,995 | 0,573 | 0,718 | 0,638 |
| ResNet | 0,995 | 0,640 | 0,633 | 0,637 |
| StarGRUNet | 0,996 | 0,697 | 0,705 | 0,701 |
| RRNet | 0,995 | 0,551 | 0,731 | 0,628 |
| StarNet | 0,995 | 0,663 | 0,671 | 0,667 |
| MSFL-IECW | 0,996 | 0,640 | 0,722 | 0,679 |
| LGADNet | 0,996 | 0,652 | 0,816 | 0,725 |
LGADNet’in kesinliği, yanlış pozitivlerin diğer metodlere görə daha az olduğunu göstərir. Buna karşılık 0,652 həssaslıq, gerçek CEMP örneklerinin təxminən üçte birinin belirlenemediği mənasına gəlir. Bu səbəbdən yüksək F1 dəyəri metodin bütün nadir yıldızları yakaladığı biçiminde yorumlanmamalıdır.
MIT-BIH ECG deneyi nasıl gerçekleştirildi?
İkinci veri alanında MIT-BIH Arrhythmia Database istifadə edilmişdir. Veri tabanı 48 hastadan alınmış, 360 Hz hızında örneklenmiş yarım saatlik iki kanallı ECG kayıtları və təxminən 109.446 etiketli ürək döyüntüsü içerir.
Kalp atımları AAMI düzenine görə beş sinifa ayrılmıştır:
- N: Normal
- S: Supraventriküler
- V: Ventriküler
- F: Füzyon
- Q: Bilinmeyen və ya diğer
Tayf ardıcıllıqleri 4901 noktadan oluştuğu üçün astronomi görəvinde altı DLG bloğu kullanılmış və her blokta iki kat küçültmeyle uzunluk təxminən 75’e indirilmiştir. ECG ardıcıllıqleri 187 noktadan oluştuğu üçün yalnız iki DLG bloğu kullanılmış və uzunluk təxminən 46’ya düşürülmüştür.
Azınlık sinifları üçün sinifa bşəbəkəlı olasılıklarla veri artırma tətbiq edilmişdir. İşlemler şunlardır:
- 0,9–1,1 arasında genlik ölçəkləmə
- Artı və ya eksi beş örnek zaman kaydırma
- Standart sapması 0,01 olan Gauss küysü
- α=0,2 ilə Mixup
- 0,1 etiket yumuşatma
Sınıfa özgü veri artırma olasılıklarının kesin dəyərləri verilməmişdir. Eğitim, doğrulama və test ayrımının pasiyent əsasında mı yoksa ürək döyüntüsü bazında mı yapıldığı da belirtilmemektedir. Aynı hastanın atımlarının hem təlim hem dəyərlendirme kümelerine girmesi hâlinde ölçülen performans gerçek hastalar arası genellenebilirliği olduğundan yüksək gösterebilir.
ECG siniflandırma nəticəları
| Metod | Doğruluk | N F1 | S F1 | V F1 | F F1 | Q F1 |
|---|---|---|---|---|---|---|
| CNN tabanlı | 0,953 | 0,974 | 0,916 | 0,950 | Raporlanmadı | Raporlanmadı |
| Özellik tabanlı | 0,931 | 0,969 | 0,334 | 0,773 | Raporlanmadı | Raporlanmadı |
| Rastgele Orman tabanlı | 0,986 | Raporlanmadı | 0,815 | 0,970 | Raporlanmadı | Raporlanmadı |
| MB-CNN-BiLSTM | 0,992 | 0,962 | 0,908 | 0,982 | Raporlanmadı | 0,991 |
| PathFusion-Net | 0,947 | 0,973 | 0,832 | 0,914 | 0,064 | Raporlanmadı |
| LGADNet | 0,991 | 0,996 | 0,975 | 0,887 | 0,846 | 0,996 |
LGADNet genel doğrulukta en iyi nəticətan 0,001 geride kalmıştır. N, S, F və Q siniflarında yüksək F1 dəyərləri vermiş; V sinifında ise bazı müqayisə metodlerinden belirgin biçimde aşşəbəkəı kalmıştır.
Karşılaştırılan yayınların tamamı aynı sinif kümesini və ya aynı veri ayrımını kullanmamıştır. Bazı metodlerde F və ya Q sinifı bulunmamakta, bazılarında belirli siniflar dəyərlendirme dışı bırakılmaktadır. Bu səbəbdən cədvəl ortak bir kontrollü deneyden çok fərqli yayınlardaki bildirilen dəyərlərin müqayisəsıdır.
ECG sonucu, astronomik verilerde öğrenilen şəbəkəırlıkların biyomedikal alana taşındığını göstermemektedir. Mimari ECG üçün değiştirilmiş və yeniden eğitilmiştir. “Alanlar arası uyarlanabilirlik”, aynı tasarımın iki ayrı görəvde kullanılabilmesi anlamında dəyərlendirilmelidir.
Model yorumlanabilirliği nasıl incelendi?
Yirmi ikinci sayfadaki Şəkil 4, temsilî bir CEMP yıldızı üçün giriş qradiyentına dayalı saliency xəritəsinı göstərir. Üst panelde normalleştirilmiş spektr və fiziksel olarak önemli çizgiler, alt panelde ise her dalğa uzunluğunun [C/Fe] təxmini üzerindeki qradiyent büyüklüğü yer almaktadır.
İşaretlenen xüsusiyyətler arasında şunlar bulunmaktadır:
- Yaklaşık 4300 Å çevresindeki CH G-bandı
- C2 Swan moleküler bantları
- Fe və Ca udulma xətləri
- Hidrojen çizgileri
- Yüzey çekimine duyarlı olduğu belirtilen çizgiler
Yoğun saliency yanıtlarının büyük bölümü 3900–5500 Å arasındaki mavi spektr bölgesinde görülmektedir. Tədqiqatçılar bunu, şəbəkəın karbon və metal bolluğuyla bşəbəkəlantılı fiziksel spektr yapılarına odaklandığının indikatorsi olarak yorumlamıştır.
Saliency haritası tek bir seçilmiş CEMP örneğine aittir. Giriş qradiyentı, modelin küçük giriş değişikliklerine yerli duyarlılığını gösterir; ilgili dalga boylarının nedensel olarak kullanıldığını və ya modelin bütün örneklerde aynı fiziksel əlaqəyi öğrendiğini tek başına kanıtlamaz. Çok sayıda yıldız üzerinde toplu saliency istatistikleri, karşı-olgusal testler və ya çizgi maskeleme deneyleri yapılmamıştır.
DLG və GGD ablasiyaunun nəticəları
| DLG | GGD | FLOPs | log g | Teff | [C/Fe] | [Fe/H] |
|---|---|---|---|---|---|---|
| Yok | Yok | 133,1 M | 0,091 | 59,91 | 0,050 | 0,050 |
| Var | Yok | 333,8 M | 0,081 | 52,59 | 0,046 | 0,044 |
| Yok | Var | 157,7 M | 0,080 | 54,50 | 0,047 | 0,045 |
| Var | Var | 420,0 M | 0,079 | 50,18 | 0,045 | 0,042 |
DLG tek başına effektiv temperatur və bolluk parametrelerinde GGD’den daha aşşəbəkəı xəta vermiştir. GGD ise yalnız başına log g meyaründe DLG’den az fərqla daha iyi nəticə elde etmiştir. İki modülün birlikte kullanılması dört parametrenin tamamında tek modüllü sürümlerden daha iyi nəticə vermiştir.
Bu kazancın hesablama xərci vardır. Tam modelin 420 milyon FLOP dəyəri, 133,1 milyon FLOP’luk tabanın təxminən 3,16 katıdır. Başka bir ifadeyle hesaplama yükü təxminən yüzde 216 artmıştır.
Ablasyonun CEMP belirleme nəticəları
| Yapı | Duyarlılık | Kesinlik | F1 |
|---|---|---|---|
| Temel model | 0,640 | 0,633 | 0,637 |
| Yalnız DLG | 0,584 | 0,788 | 0,671 |
| Yalnız GGD | 0,663 | 0,711 | 0,686 |
| DLG və GGD | 0,652 | 0,816 | 0,725 |
DLG tek başına kesinliği yükseltirken duyarlılığı düşürmüştür. GGD tek başına duyarlılığı artırmıştır. İki modül birlikte en yüksək dəqiqlik və F1 dəyərini sşəbəkəlamış, lakin en yüksək duyarlılığa ulaşmamıştır.
Bu nəticəlar tədqiqatçıların iki modülün tamamlayıcı rol oynadığı yorumunu desteklemektedir. Bununla belə ablasiyaların tek təlim çalışmasına mı, birden fazla rastgele başlangıcın ortalamasına mı ait olduğu açıqlanmamışdır.
Dinamik konvolyusiya hangi kola yerleştirilmelidir?
| DLG düzeni | log g | Teff | [C/Fe] | [Fe/H] |
|---|---|---|---|---|
| Statik artık yapı | 0,080 | 54,50 | 0,047 | 0,045 |
| Dinamik artık kolu | 0,079 | 50,18 | 0,045 | 0,042 |
| Dinamik ana kol | 0,078 | 52,56 | 0,047 | 0,041 |
| Tümü dinamik | 0,090 | 59,30 | 0,047 | 0,042 |
Dinamik artık kolu effektiv temperatur və karbon bolluğunda en iyi sonucu verirken dinamik ana kol log g və [Fe/H] meyarlarınde daha aşşəbəkəı xəta vermiştir. Tədqiqatçılar çoklu meyar dengesi nedeniyle dinamik artık kolunu standart yapı olarak seçmiştir.
Bütün kolların dinamik hâle getirilmesi Teff xətasını 59,30’a yükseltmiştir. Bu nəticə daha fazla dinamik parametrenin otomatik olarak daha iyi model oluşturmadığını və kararlı sabit yolların optimizasyon açısından önemli olabileceğini göstərir.
Konumsal kodlama və qapılama etkileşimi
| GGD düzeni | log g | Teff | [C/Fe] | [Fe/H] |
|---|---|---|---|---|
| Sabit mövqesəl kodlama, kapısız | 0,086 | 54,82 | 0,047 | 0,041 |
| Öğrenilebilir kodlama, kapısız | 0,080 | 52,28 | 0,047 | 0,042 |
| Sabit kodlama və qapılama | 0,089 | 57,07 | 0,046 | 0,042 |
| Öğrenilebilir kodlama və qapılama | 0,079 | 50,18 | 0,045 | 0,042 |
Kapılama, sabit mövqesəl kodlamayla birleştirildiğinde log g və Teff nəticəlarını kötüleştirmiştir. Öğrenilebilir mövqesəl kodlamayla birleştirildiğinde ise üç meyarte en iyi və ya ortak en iyi nəticəlara ulaşmıştır.
Makalenin “bütün meyarlerde en iyi” yorumu tam olarak cədvəlyla uyuşmamaktadır. [Fe/H] üçün en aşşəbəkəı xəta 0,041 ilə kapısız sabit mövqesəl kodlama düzeninde əldə edilmişdir; tam GGD düzeninin dəyəri 0,042’dir.
Çalışmanın güclü tərəfləri
- Yerli örüntü və qlobal bşəbəkəımlılık problemleri tek memarlıq içinde açık işlevlere ayrılmıştır.
- Dinamik konvolyusiyain tamamen dinamik bir blok əvəzinə kararlı sabit kollarla birlikte kullanılması sınanmıştır.
- DLG və GGD üçün ayrı və birleşik ablasiyalar sunulmuştur.
- Konumsal kodlama ilə qapılama mekanizmasının etkileşimi 2×2 deneyle incələnmişdir.
- Astronomik regresyon nəticəları yalnız genel ortalamayla değil dört fiziksel parametre üçün ayrı ayrı raporlanmıştır.
- CEMP gibi nadir bir alt grup üçün həssaslıq, dəqiqlik və F1 dəyərləri sunulmuştur.
- Modelin dikkat ettiği spektr bölgeleri fiziksel çizgilerle karşılaştırılmıştır.
- Aynı memarlıq fikri fərqli uzunlukta biyomedikal ardıcıllıqlere uyarlayan ikinci bir deney gerçekleştirilmiştir.
- Hesaplama maliyeti FLOP cinsinden ablasiya cədvəlsuna eklenmiştir.
Çalışmanın temel məhdudiyyətləri
- Hakemlik vəziyyətu: Araştırma resenziyadan keçməmişdir.
- Bşəbəkəımsız test dəsti: LSS üçün yalnız təlim və doğrulama bölümleri verilmiştir.
- Veri erişimi: LSS’nin halka açık olduğu ileri sürülmesine rşəbəkəmen veri və kodun yayın sonrasında paylaşılacşəbəkəı belirtilmektedir.
- Eğitim ayrıntıları: Optimizasyon algoritması, öğrenme nisbətı, batch büyüklüğü, dönem sayısı, kayıp fonksiyonu, şəbəkəırlık azaltma və öğrenme nisbətı programı açıqlanmamışdır.
- Mimari ayrıntılar: Kanal sayıları, nüvə uzunlukları, dikkat başlığı sayısı, irəli qidalanan şəbəkə genişliği və dropout dəyərləri eksiktir.
- Tekrarlanabilirlik: Rastgele toxumlar, müstəqil təlim tekrarları və ortalama±standart sapma nəticəları raporlanmamıştır.
- İstatistiksel müqayisə: Modeller arasındaki fərqların anlamlılığı üçün güven aralığı və ya istatistiksel test təqdim edilməmişdir.
- SNR analizi: Örnekler yalnız S/N>5 şərtuyla seçilmiş; performans fərqli SNR aralıklarına görə ayrılmamıştır.
- Ön işleme etkisi: Savitzky–Golay yumuşatması dâhil güçlü bir işleme zinciri istifadə edilmişdir.
- Sınıf dengesizliği: CEMP nisbətı yalnız təxminən %0,74’tür.
- ECG veri ayrımı: Hasta bazlı müstəqil test protokolü açıqlanmamışdır.
- ECG müqayisəsı: Önceki çalışmalar aynı sinifları və aynı bölme protokolünü kullanmamıştır.
- Alanlar arası aktarım: Astronomik model şəbəkəırlıkları ECG görəvine aktarılmamış; model yeniden yapılandırılıp eğitilmiştir.
- Yorumlanabilirlik kapsamı: Saliency analizi tek bir seçilmiş yıldız örneğiyle sınırlıdır.
- Hesaplama maliyeti: Tam şəbəkə temel memarlıqnin təxminən 3,16 katı FLOP gerektirmektedir.
- Donanım performansı: Eğitim müddətsi, çıkarım müddətsi, bellek tüketimi və kullanılan donanım bildirilmemiştir.
Araştırmanın desteklediği nəticəlar
- LGADNet, kullanılan LSS doğrulama düzeninde Teff, [C/Fe] və [Fe/H] MAE meyarlarınde karşılaştırılan modellerden daha aşşəbəkəı xəta vermiştir.
- DLG və GGD birlikte kullanıldığında tek başlarına kullanıldıkları vəziyyəta görə daha dengeli parametre təxmini əldə edilmişdir.
- Dinamik konvolyusiyain bütün kollara uygulanması performansı artırmamış, bazı meyarlerde belirgin biçimde kötüleştirmiştir.
- Öğrenilebilir mövqesəl kodlama, qapılama mekanizmasının daha yararlı çalıştığı düzeni oluşturmuştur.
- CEMP belirlemede LGADNet en yüksək dəqiqlik və F1 skoruna ulaşmıştır.
- MIT-BIH deneyinde metod beş siniflı düzen altında yüksək genel doğruluk və bazı siniflarda yüksək F1 dəyəri vermiştir.
Araştırmanın kanıtlamadığı nəticəlar
- LGADNet’in bütün aşşəbəkəı SNR sinyal türlerinde en iyi metod olduğu gösterilmemiştir.
- Modelin daha önce görülmemiş müstəqil astronomik taramalarda aynı doğruluğu koruyacşəbəkəı doğrulanmamıştır.
- Metodin fərqli teleskoplar, çözünürlükler və ya dalğa uzunluğu kalibrasyonlarında genellenebilirliği sınanmamıştır.
- LGADNet’in gerçek zamanlı və ya yüksək hacimli üretim sistemlerine uygun olduğu gösterilmemiştir.
- Saliency haritası, model kararlarının nedensel olarak fiziksel çizgilere dayandığını sübut etmir.
- ECG nəticəları klinik tanı güvenliği və ya hasta bazlı dış genellenebilirlik kanıtı değildir.
- Astronomiden ECG alanına sıfır örnekli və ya şəbəkəırlık aktarımlı öğrenme gerçekleştirilmemiştir.
- LSS veri dəstinin inceleme sırasında müstəqil tədqiqatçılar tarafından indirilebilir və yeniden üretilebilir olduğu gösterilmemiştir.
Bilimsel və teknolojik anlamı
LGADNet’in temel katkısı, küylü ardıcıllıqlerde yerli xüsusiyyət çıkarımını və qlobal bşəbəkəımlılık modellemesini art arda yerleştirmekle yetinmemesi; qlobal aşamayı yerli xüsusiyyətlerin uyarlanmış və kapılanmış bir sürümüyle beslemesidir.
Bu yaklaşım, ayırt edici bilginin kısa bölgelerde yoğunlaştığı lakin nihai təxminin ardıcıllığın daha geniş bşəbəkəlamına bşəbəkəlı olduğu problemler üçün dəyərlendirilebilir. Astronomik spektrlar və ECG sinyalleri araştırmada kullanılan iki örnektir; metod fərqli sensör və ya bilimsel veri türlerinde henüz sınanmamıştır.
Astronomide model, büyük spektr arşivlerinden yıldız parametreleri və nadir yıldız adayları çıkarmaya yardımcı olabilir. Bunun üçün fərqli teleskoplarda dış doğrulama, belirsizlik təxmini, veri erişimi və müstəqil testler gereklidir.
Biyomedikal alanda ise çalışma klinik cihaz və ya tanı sistemi sunmamaktadır. Hasta bazlı dəyərlendirme, fərqli merkezlerden kayıtlar, artefakt analizleri, həssaslıq–özgüllük dengesi və hekim müqayisəları yapılmadan nəticəlar klinik kullanıma genellenmemelidir.
Çalışmanın Metodi və Tapıntıları
Teknik metod özeti
| Bileşen | Araştırmada kullanılan metod |
|---|---|
| Model | LGADNet |
| Yerli modül | Dinamik Yerli Yönləndirmə — DLG |
| DLG kolları | İki konvolyusiyali yerli kol, dört namizəd nüvəli dinamik kol və tek konvolyusiyali kısa yol |
| Dinamik nüvə sayısı | G=4 |
| Dinamik şəbəkəırlık üretimi | Küresel ortalama havuzlama və hafif qapılama şəbəkəı |
| Küresel modül | Qapılı Qlobal Küy Giderme — GGD |
| Konumsal kodlama | Öğrenilebilir, azami uzunluk 1000 |
| Kapılama | Sigmoid və eleman bazlı çarpma |
| Transformer derinliği | İki kodlayıcı blok |
| Astronomi giriş uzunluğu | 4901 nokta |
| Astronomi DLG sayısı | Altı blok |
| ECG giriş uzunluğu | 187 nokta |
| ECG DLG sayısı | İki blok |
| Astronomi görəvi | Dört müddətkli yıldız parametresinin regresyonu |
| Biyomedikal görəv | Beş siniflı ürək döyüntüsü siniflandırması |
LSS veri özeti
| Öğe | Bilgi |
|---|---|
| Giriş kaynşəbəkəı | LAMOST DR12 aşşəbəkəı çözünürlüklü spektrları |
| Etiket mənbəları | APOGEE DR17, LAMOST–Subaru və SAGA |
| Eşleştirme yarıçapı | 3 yay saniyesi |
| SNR şərtu | S/N>5 |
| İlk eşleşmiş örnekler | 189.780 |
| Son veri dəsti | 59.983 spektr |
| Eğitim kümesi | 47.984 |
| Doğrulama kümesi | 11.999 |
| Ayrı test dəsti | Raporlanmamıştır |
| Tahmin hedefleri | Teff, log g, [Fe/H] və [C/Fe] |
Ana nicel tapıntılar
- LGADNet log g MAE: 0,079
- LGADNet Teff MAE: 50,18
- LGADNet [C/Fe] MAE: 0,045
- LGADNet [Fe/H] MAE: 0,042
- CEMP belirleme doğruluğu: 0,996
- CEMP duyarlılığı: 0,652
- CEMP kesinliği: 0,816
- CEMP F1 skoru: 0,725
- MIT-BIH genel doğruluk: 0,991
- N sinifı F1: 0,996
- S sinifı F1: 0,975
- V sinifı F1: 0,887
- F sinifı F1: 0,846
- Q sinifı F1: 0,996
- Temel model maliyeti: 133,1 milyon FLOP
- Tam LGADNet maliyeti: 420 milyon FLOP
Şəkil və cədvəlların temel mesajları
| Görsel | İçerik | Yorum sınırı |
|---|---|---|
| Şəkil 1 | DLG, dinamik nüvə karışımı, GGD və təxmin başlığının memarlıq akışı | Kanal sayıları və təlim hiperparametreleri gösterilmemektedir. |
| Şəkil 2 | CEMP, MP-no-CEMP və Diğer siniflarından üç temsilî ulduz spektri | Üç seçilmiş örnek genel veri dşəbəkəılımını temsil etmez. |
| Şəkil 3 | Dört yıldız parametresi üçün təxmin–gerçək dəyər dşəbəkəılımları | SNR və parametre alt gruplarına görə xəta ayrımı mövcud deyil. |
| Şəkil 4 | [C/Fe] təxmini üçün spektr çizgileri və giriş qradiyentı saliency xəritəsi | Tek örneklik saliency nedensel yorum sşəbəkəlamaz. |
| Cədvəl 2 | Dört yıldız parametresi üçün MAE müqayisəsı | Tekrar varyansı və anlamlılık testi verilməmişdir. |
| Cədvəl 3 | CEMP belirleme doğruluk, həssaslıq, dəqiqlik və F1 dəyərləri | Sınıf dşəbəkəılımı ciddi ölçüde dengesizdir. |
| Cədvəl 4 | MIT-BIH beş siniflı ECG müqayisəsı | Karşılaştırılan yayınların sinif və veri bölme protokolleri aynı değildir. |
| Cədvəl 5–6 | DLG və GGD modüllerinin müstəqil və ortak katkıları | Nəticəların kaç təlim tekrarından geldiği belirtilmemiştir. |
| Cədvəl 7 | Dinamik konvolyusiyain fərqli kollardaki yerleşimi | Farklı parametrelerde fərqli düzenler en iyi sonucu vermektedir. |
| Cədvəl 8 | Konumsal kodlama və qapılama etkileşimi | Tam düzen [Fe/H] üçün en aşşəbəkəı xətayı vermemiştir. |
Yeniden üretilebilirlik üçün eksik bilgiler
- Ayrı və kilitlenmiş test dəsti
- Optimizasyon algoritması
- Öğrenme nisbətı və öğrenme nisbətı programı
- Batch büyüklüğü
- Eğitim dönemlerinin sayısı
- Regresyon və siniflandırma kayıp fonksiyonları
- Kanal genişlikleri və konvolyusiya çekirdeği boyutları
- Transformer dikkat başlığı sayısı
- Dropout nisbətları
- Model parametre sayısı
- Rastgele toxumlar
- Bşəbəkəımsız tekrarların ortalama və standart sapmaları
- Eğitim və çıkarım donanımı
- Eğitim müddətsi, çıkarım gecikmesi və bellek tüketimi
- MIT-BIH üçün hasta bazlı veri ayrım protokolü
- LSS veri dəsti və mənbə kodunun erişilebilir deposu
Mənbə və Metod Notu
- Çalışmanın tam özgün adı: LGADNet: A Local-Guided Adaptive Denoising Network for Low-SNR Sequential Signal Modeling
- Yazarlar və sıraları: Jinfan Li; Xiangru Li
- Eş katkı və ya eş birinci yazarlık: Belirtilmemiştir.
- Sorumlu yazar: Xiangru Li
- Sorumlu yazar e-posta adresi: xiangru.li@gmail.com
- Birinci yazar e-posta adresi: joinfancy2024@163.com
- Kurum: South China Normal University, School of Computer Science, No. 55 Zhongshan West Road, Guangzhou, Guangdong, Çin
- ORCID: Çalışmada ORCID tanımlayıcısı verilməmişdir.
- Mənbə türü: Derin öğrenme, astronomik spektr analizi və biyomedikal sinyal işleme alanında preprint araştırma makalesi
- Hakemlik vəziyyətu: Hakem dəyərlendirmesinden geçmemiştir.
- Preprint platformu: SSRN
- SSRN kayıt numarası: 6958831
- DOI: 10.2139/ssrn.6958831
- Dergi: Belirli bir hakemli dergi doğrulanamamıştır.
- Yayın vəziyyətu: Çalışmada “Preprint submitted to Elsevier” ifadesi bulunmaktadır; bu ifade kabul və ya hakemli yayın anlamına gelmemektedir.
- Özgün hakemli yayınevi: Doğrulanamamıştır.
- Resmî bşəbəkəlantı:SSRN çalışma kaydı
- Finansman: Tədqiqatçılar kamu, ticari və ya kâr amacı gütmeyen kuruluşlardan özel finansman alınmadığını bildirmiştir.
- Çıkar çatışması: Tədqiqatçılar bilinen bir mali çıkar çatışması və ya kişisel əlaqə bulunmadığını beyan etmiştir.
- Yazar katkıları: Jinfan Li; kavramsallaştırma, metod, yazılım, doğrulama, biçimsel analiz, ilk taslak və görselleştirme. Xiangru Li; danışmanlık, inceleme və düzenleme.
- Veri və kod erişimi: Veri erişimi bölümünde mənbə kodu ilə veri dəstinin yayın sonrasında yazarların GitHub deposunda paylaşılacşəbəkəı belirtilmektedir. İnceleme sırasında açık depo bşəbəkəlantısı verilməmişdir.
Bu Verianla makalesi; araştırmanın kuramsal gerekçesi, şəbəkə memarlığı, matematiksel tanımları, veri hazırlama müddətci, astronomik regresyon nəticəları, CEMP belirleme meyarları, ECG siniflandırması, saliency analizi və ablasiya deneyleri temel alınarak hazırlanmıştır. Araştırmada bulunmayan bir klinik yarar, astronomik keşif və ya üretim sistemi başarısı eklenmemiştir.
Nəticəlar müstəqil test dəsti əvəzinə açıklanan doğrulama düzenine dayanmaktadır. Eğitim və dəyərlendirme protokolünün temel ayrıntıları eksik olduğundan cədvəllar metodler arasında kesin və nihai bir üstünlük kanıtı olarak görülmemelidir. LSS’nin erişilebilirliği, hasta bazlı ECG ayrımı, modelin fərqli SNR seviyelerindeki davranışı və müstəqil araştırma gruplarında yeniden üretilebilirliği açıklığa kavuşturulmalıdır.
LGADNet’in en güçlü sonucu, kullanılan LSS düzeninde effektiv temperatur, karbon bolluğu və metal bolluğu xətalarını azaltmasıdır. Buna karşılık metod səth cazibəsinde mutlak en iyi sonucu, CEMP belirlemede en yüksək duyarlılığı, ECG deneyinde en yüksək genel doğruluğu və ya V sinifı üçün en yüksək F1 skorunu elde etmemiştir. Bu ayrımlar, çalışmanın nəticəlarının dengeli yorumlanması açısından korunmalıdır.

Şərh yazın
E-poçt ünvanınız yayımlanmayacaq. Məcburi sahələr * ilə işarələnib