
Jinfan Li ve Xiangru Li tarafından geliştirilen LGADNet, güçlü gürültünün içindeki zayıf ve yerel sinyal örüntülerini belirlerken aynı zamanda dizinin uzak bölümleri arasındaki ilişkileri modellemeyi amaçlayan bir derin öğrenme mimarisidir. Araştırmacılar; örneğe göre değişebilen dinamik evrişimleri kullanan Dinamik Yerel Yönlendirme modülünü, öğrenilebilir konumsal kodlama ve kapılama mekanizması içeren Kapılı Küresel Gürültü Giderme modülüyle birleştirmiştir.
Yöntem ilk olarak düşük sinyal-gürültü oranlı yıldız tayflarından etkin sıcaklık, yüzey çekimi, metal bolluğu ve karbon bolluğu tahmininde sınanmıştır. Araştırmacıların hazırladığı LSS veri kümesi, kamuya açık astronomik taramaların çapraz eşleştirilmesiyle oluşturulan 59.983 tayftan oluşmaktadır. LGADNet; etkin sıcaklık için 50,18, [C/Fe] için 0,045 ve [Fe/H] için 0,042 ortalama mutlak hata elde ederek karşılaştırılan yöntemler arasında bu üç ölçütte en düşük hatayı vermiştir. Yüzey çekimi için 0,079 değerine ulaşmış, ancak bu ölçütte MSFL-IECW’nin 0,078 sonucunun az farkla gerisinde kalmıştır.
Tahmin edilen yıldız parametrelerinden türetilen karbonca zengin metalce fakir yıldız belirleme görevinde LGADNet 0,816 kesinlik ve 0,725 F1 skoru elde etmiştir. Duyarlılık değeri 0,652 ile en yüksek sonuç değildir; StarGRUNet 0,697 duyarlılığa ulaşmıştır. Bu nedenle yöntemin temel avantajı daha fazla aday yakalamaktan çok yanlış pozitifleri azaltarak kesinlik ve F1 dengesini yükseltmesidir.
Model ayrıca MIT-BIH kalp ritmi veri tabanında beş sınıflı aritmi sınıflandırmasına uyarlanmış ve 0,991 genel doğruluk bildirmiştir. Bununla birlikte bu deney, astronomi verileriyle eğitilen modelin doğrudan ECG sinyallerine aktarılması değildir. Ağın blok sayısı ve çıktı katmanı değiştirilmiş, model ECG görevi için yeniden eğitilmiştir. Dolayısıyla sonuçlar sıfır örnekli alan aktarımını değil, aynı mimari fikrin ikinci bir veri alanında uygulanabilirliğini göstermektedir.
Çalışmanın en önemli sınırlılıkları; yalnızca eğitim ve doğrulama kümelerinin açıklanması, bağımsız test kümesinin bulunmaması, ECG verilerinin hasta bazında ayrılıp ayrılmadığının belirtilmemesi, eğitim ayarlarının önemli bölümünün raporlanmaması ve kod ile LSS veri kümesinin inceleme sırasında erişilebilir olmamasıdır. Bulgular LGADNet’in umut verici olduğunu göstermektedir; ancak klinik kullanım, astronomik katalog üretimi veya farklı araştırma gruplarında genellenebilirlik için bağımsız doğrulama gereklidir.
Araştırmanın ele aldığı temel problem
Astronomik tayflar, elektrokardiyogramlar ve benzeri ardışık bilimsel sinyaller, incelenen sistem hakkında değerli bilgiler taşır. Ancak ölçüm cihazlarının duyarlılık sınırları, çevresel etkiler, iletim kayıpları ve arka plan girişimleri nedeniyle ayırt edici bilgi çoğu zaman gürültünün içinde zayıf ve yerel örüntüler hâlinde kalır.
Bir yıldız tayfında karbon bolluğunu gösteren moleküler bantlar yalnızca belirli dalga boyu aralıklarında ortaya çıkabilir. Bir ECG kaydında ritim bozukluğuna işaret eden morfolojik değişiklikler ise kalp atımının kısa bir zaman aralığında bulunabilir. Buna karşılık doğru tahmin için yalnızca bu yerel ayrıntılar değil, tayfın farklı dalga boyları veya kalp atımının farklı zaman noktaları arasındaki daha uzun menzilli ilişkiler de önemlidir.
Araştırmanın hedeflediği ikili gereksinim şöyledir:
- Gürültü içinde kalan zayıf, kısa menzilli ve örneğe özgü yapıların yakalanması
- Dizinin birbirinden uzak bölümleri arasındaki küresel bağımlılıkların modellenmesi
Mevcut yöntemlerin sınırlılıkları
Geleneksel özellik mühendisliği; dalgacık dönüşümü, temel bileşen analizi, şablon eşleştirme ve istatistiksel göstergeler gibi önceden tasarlanmış özelliklere dayanır. Bu özellikler yüksek kaliteli sinyallerde yorumlanabilir olabilir; ancak gürültü arttığında ve örneklerin morfolojileri değiştiğinde genellenebilirlikleri azalabilir.
Standart evrişimli sinir ağları yerel örüntüleri başarıyla yakalayabilir. Bununla birlikte eğitim tamamlandıktan sonra bütün örneklere aynı evrişim çekirdeklerini uygular. Gürültü dağılımı veya sinyal morfolojisi örnekten örneğe önemli ölçüde değiştiğinde sabit çekirdeklerin uyarlanabilirliği sınırlı kalabilir.
Transformer mimarileri, öz-dikkat mekanizmasıyla dizinin uzak konumları arasındaki ilişkileri modelleyebilir. Fakat öz-dikkat hangi yanıtın gerçek sinyal, hangisinin gürültü olduğunu kendiliğinden bilmez. Gürültülü özelliklerin doğrudan küresel etkileşime sokulması, istenmeyen yanıtların uzun menzilli bağlantılar boyunca yayılmasına neden olabilir.
CNN–Transformer birleşimleri iki yaklaşımın güçlü yanlarını bir araya getirse de araştırmacılar mevcut yapıların düşük SNR koşullarında iki temel eksik taşıdığını savunmaktadır:
- Yerel aşamada çoğunlukla sabit evrişim çekirdeklerinin kullanılması
- Küresel aşamadan önce gürültüyü seçici biçimde bastıran açık bir mekanizmanın bulunmaması
LGADNet’in temel yaklaşımı
LGADNet, önce yerel yapıları örneğe uyarlanmış biçimde güçlendirir, ardından bu güçlendirilmiş temsilleri seçici bir süzgeçten geçirerek küresel ilişkileri modeller. Ana işlem zinciri şöyledir:
\[ \text{Girdi dizisi} \rightarrow \text{özellik izdüşümü} \rightarrow \text{DLG} \rightarrow \text{GGD} \rightarrow \text{tahmin başlığı} \]
Bir boyutlu giriş dizisi:
\[ X\in\mathbb{R}^{L} \]
olarak tanımlanır. Burada L dizinin uzunluğudur. İlk izdüşüm katmanı girdiyi C kanallı özellik uzayına dönüştürür:
\[ X_{\mathrm{proj}}\in\mathbb{R}^{C\times L} \]
Bu temsil önce Dinamik Yerel Yönlendirme modülüne, daha sonra Kapılı Küresel Gürültü Giderme modülüne aktarılır.
Şekil 1: Mimari akış ne göstermektedir?
Dokuzuncu sayfadaki Şekil 1, LGADNet’in üç temel düzeyini göstermektedir. Ana akışta tek boyutlu sinyal önce yüksek boyutlu özellik haritasına dönüştürülmekte, ardından DLG ve GGD modüllerinden geçirilerek çok katmanlı algılayıcı tahmin başlığına ulaştırılmaktadır.
Şeklin üst kısmındaki DLG ayrıntısında aynı girdiyi işleyen üç paralel kol yer almaktadır:
- Yerel özellik kolu
- Dinamik evrişim kolu
- Kararlı kısa yol kolu
Dinamik evrişim alt şeması, girişten üretilen ağırlıkların dört aday evrişim çekirdeğini bir araya getirdiğini göstermektedir. Alt bölümdeki GGD şeması ise öğrenilebilir konumsal kodlamanın özelliklere eklendiğini, kapı değerleriyle eleman bazında çarpıldığını ve seçilen özelliklerin Transformer kodlayıcısına gönderildiğini göstermektedir.
Dinamik Yerel Yönlendirme modülü
DLG modülü, aynı giriş özelliğini paralel olarak işleyen üç tamamlayıcı koldan oluşur. Amaç, tamamen dinamik bir yapının eğitim kararsızlığından kaçınırken örneğe özgü yerel yapıları güçlendirmektir.
Birinci kol: Doğrusal olmayan yerel özellik çıkarımı
Birinci kol, ReLU etkinleştirmeli iki ardışık bir boyutlu evrişim katmanı kullanır. Ardışık evrişimler tek katmana göre daha geniş etkili alıcı alan oluşturarak yakın konumlar arasındaki karmaşık yerel örüntüleri yakalamaya çalışır.
Bu kol örneğe göre değişen dinamik parametreler üretmez. Modülün sabit ve güvenilir yerel özellik tabanını sağlar.
İkinci kol: Dinamik evrişim
Dinamik evrişim kolunda dört aday çekirdek oluşturulmuştur:
\[ \{W_g\}_{g=1}^{G},\qquad G=4 \]
Her aday çekirdek:
\[ W_g\in\mathbb{R}^{C_{\mathrm{out}}\times C_{\mathrm{in}}\times K} \]
boyutundadır. Burada Cin giriş kanal sayısını, Cout çıkış kanal sayısını, K ise evrişim çekirdeği uzunluğunu ifade eder.
Giriş özelliklerinin kanal istatistikleri küresel ortalama havuzlamayla çıkarılır:
\[ X_{\mathrm{glob}}=\operatorname{GAP}(X) \in\mathbb{R}^{C_{\mathrm{in}}\times1} \]
Hafif bir kapılama ağı, dört aday çekirdek için örneğe özgü karışım katsayıları üretir:
\[ \boldsymbol{\alpha} =[\alpha_1,\alpha_2,\ldots,\alpha_G] \]
Katsayıların negatif olmaması ve toplamlarının bire eşit olması gerekir:
\[ \alpha_g\geq0,\qquad \sum_{g=1}^{G}\alpha_g=1 \]
Örneğe uygulanacak dinamik çekirdek:
\[ W_{\mathrm{mix}} =\sum_{g=1}^{G}\alpha_gW_g \]
şeklinde oluşturulur. Böylece farklı gürültü seviyesine veya farklı yerel morfolojiye sahip girişler için dört temel çekirdeğin farklı karışımları kullanılabilir.
Bu mekanizma her konum için tamamen yeni bir çekirdek üretmez. Girişin küresel kanal özetine göre önceden öğrenilmiş dört aday çekirdeği ağırlıklı biçimde birleştirir.
Üçüncü kol: Kararlı kısa yol
Üçüncü kol, tek evrişim katmanından oluşan bir kısa yol haritalamasıdır. Temel özellikleri korumayı, gradyan akışını kolaylaştırmayı ve dinamik kolun oluşturabileceği eğitim dalgalanmalarını azaltmayı amaçlar.
Üç kolun birleştirilmesi
Üç kolun çıktıları kanal birleştirme yerine eleman bazında toplanır:
\[ F_{\mathrm{out}} =\phi\left( F_{\mathrm{res1}}+ F_{\mathrm{res2}}+ F_{\mathrm{res3}} \right) \]
Burada φ, araştırmada ReLU olarak uygulanan doğrusal olmayan etkinleştirme fonksiyonudur. Toplama işlemi, özelliklerin art arda eklenmesine kıyasla kanal sayısını ve parametre maliyetini sınırlamaktadır.
Kapılı Küresel Gürültü Giderme modülü
DLG’den çıkan temsil ayırt edici yerel yapılar içerse de artık gürültü ve gereksiz yanıtlar barındırabilir. GGD modülü, bu özellikleri Transformer öz-dikkat işlemine göndermeden önce konumsal bilgi ve öğrenilebilir kapılarla süzer.
Öğrenilebilir konumsal kodlama
Maksimum dizi uzunluğu 1000 olarak belirlenmiş ve şu öğrenilebilir konumsal kodlama matrisi tanımlanmıştır:
\[ P\in\mathbb{R}^{L_{\max}\times C_{\mathrm{final}}}, \qquad L_{\max}=1000 \]
DLG çıkışı dizi-öncelikli biçime çevrilir ve mevcut uzunluğa karşılık gelen ilk konum vektörleri eklenir:
\[ F_{\mathrm{pos}} =F_{\mathrm{dlg}}^{\mathsf{T}} +P_{1:L_d} \]
Öğrenilebilir kodlama, sabit sinüs ve kosinüs işlevleri yerine görevin eğitim verisi üzerinden ayarlanabilen konum temsilleri üretir.
Eleman bazlı kapılama
Konumsal bilgi eklenmiş özelliklerden bir kapı matrisi hesaplanır:
\[ G= \rho\left(F_{\mathrm{pos}}A_g+b_g\right) \]
Burada ρ Sigmoid fonksiyonudur. Bu nedenle her kapı değeri sıfır ile bir arasında bulunur.
Kapılar özelliklerle eleman bazında çarpılır:
\[ F_{\mathrm{sel}} =F_{\mathrm{pos}}\odot G \]
Bir kapı değerinin bire yaklaşması ilgili konum ve kanal yanıtının korunmasını, sıfıra yaklaşması ise bastırılmasını sağlar. Ancak kapının gerçekten “gürültü” ile “sinyali” fiziksel olarak ayırdığı doğrudan denetlenmemiştir; bu ayrım eğitim kaybını azaltacak temsil ağırlıkları üzerinden öğrenilmektedir.
Küresel bağımlılık modellemesi
Süzülen özellikler iki Transformer kodlayıcı bloğuna gönderilir:
\[ F_{\mathrm{trans}} =\mathcal{T}_{N}(F_{\mathrm{sel}}), \qquad N=2 \]
Her kodlayıcı blok çok başlı öz-dikkat, ileri beslemeli ağ, katman normalizasyonu ve dropout bileşenlerini içermektedir. Sonuç yeniden kanal-öncelikli biçime çevrilir:
\[ F_{\mathrm{ggd}} =F_{\mathrm{trans}}^{\mathsf{T}} \]
Araştırmada Transformer başlık sayısı, kanal genişlikleri, ileri beslemeli katman boyutu ve dropout oranı açıklanmamıştır.
LSS yıldız tayfı veri kümesi nasıl oluşturuldu?
LSS, düşük SNR koşullarındaki yıldız parametresi kestirimini değerlendirmek amacıyla hazırlanmıştır. Girişler LAMOST DR12 düşük çözünürlüklü tayflarından, hedef etiketler ise APOGEE DR17, LAMOST–Subaru katalogları ve SAGA veri tabanından elde edilmiştir.
Yalnızca sinyal-gürültü oranı 5’in üzerinde olan örnekler kullanılmıştır. Eşleştirme TOPCAT yazılımıyla ve en fazla üç yay saniyelik eşleştirme yarıçapıyla yapılmıştır. İlk aşamada 189.780 örnek elde edilmiştir.
Ön işleme zinciri şunları içermektedir:
- Doppler düzeltmesi
- Dalga boyu aralığının kesilmesi ve yeniden örneklenmesi
- Kübik spline enterpolasyonu
- Savitzky–Golay yumuşatması
- Süreklilik normalizasyonu
- Üç standart sapmalık aykırı değer kırpması
Savitzky–Golay işlemi tayfları modele vermeden önce yumuşattığı için LGADNet tamamen işlenmemiş ham gürültülü sinyaller üzerinde değerlendirilmemiştir. Model başarısı, sinyal işleme adımları ile ağ mimarisinin ortak sonucudur.
[C/Fe] ve [Fe/H] dağılımlarındaki dengesizliği azaltmak için iki özellikli kutulama tabanlı örnekleme uygulanmış ve 59.983 tayflık son küme oluşturulmuştur.
| Veri bölümü | Örnek sayısı | Toplam içindeki pay |
|---|---|---|
| Eğitim | 47.984 | Yaklaşık %80 |
| Doğrulama | 11.999 | Yaklaşık %20 |
| Toplam | 59.983 | %100 |
Ayrı bir test kümesi raporlanmamıştır. Bu nedenle sunulan sonuçların model ve hiperparametre seçiminde kullanılan doğrulama verisinden tamamen bağımsız olup olmadığı belirlenememektedir.
LSS sınıf dağılımı gerçekten dengeli midir?
LSS örnekleri üç gruba ayrılmıştır:
| Sınıf | Eğitim oranı | Doğrulama oranı |
|---|---|---|
| CEMP | %0,742 | %0,742 |
| MP-no-CEMP | %2,955 | %2,959 |
| Diğer | %96,303 | %96,300 |
Bu dağılım sınıf sayıları bakımından dengeli değildir. “Dengeli örnekleme” ifadesi, [C/Fe] ve [Fe/H] etiket uzayındaki kutuların örneklenmesine karşılık gelmektedir; CEMP, MP-no-CEMP ve Diğer sınıflarının eşitlenmesi anlamına gelmemektedir.
CEMP sınıfının yaklaşık yüzde 0,74’lük payı nedeniyle 0,996 gibi yüksek bir genel doğruluk değeri tek başına yeterli değildir. Nadir sınıf performansı için duyarlılık, kesinlik ve F1 skoru daha açıklayıcıdır.
Şekil 2: Üç yıldız sınıfının tayfları
On yedinci sayfadaki Şekil 2; CEMP, MP-no-CEMP ve Diğer gruplarından birer işlenmiş tayf örneğini göstermektedir. Yatay eksen dalga boyunu, dikey eksen normalleştirilmiş akıyı temsil eder.
Kırmızı kesikli çizgiler CH G-bandı ve C2 Swan bantları gibi karbonla ilişkili bölgeleri, mavi çizgiler ise demir soğurma çizgilerini işaretlemektedir. Üç örneğin gürültü düzeyleri ve yerel çizgi morfolojileri birbirinden belirgin biçimde farklıdır.
Şekil, modelin karşılaştığı yerel örüntü problemini görselleştirmektedir; ancak yalnızca üç seçilmiş örnek içerdiğinden veri kümesinin genel dağılımını veya bütün SNR seviyelerini temsil etmez.
Yıldız parametreleri için hangi sonuçlar elde edildi?
| Model | log g MAE | Teff MAE | [C/Fe] MAE | [Fe/H] MAE |
|---|---|---|---|---|
| Inception | 0,086 | 59,13 | 0,049 | 0,050 |
| ResNet | 0,091 | 59,91 | 0,050 | 0,050 |
| StarGRUNet | 0,080 | 55,01 | 0,048 | 0,047 |
| RRNet | 0,101 | 70,19 | 0,050 | 0,054 |
| StarNet | 0,092 | 60,69 | 0,047 | 0,049 |
| MSFL-IECW | 0,078 | 55,58 | 0,048 | 0,044 |
| LGADNet | 0,079 | 50,18 | 0,045 | 0,042 |
Daha düşük MAE daha iyi tahmin anlamına gelir. LGADNet etkin sıcaklık, karbon bolluğu ve metal bolluğunda en düşük hatayı vermiştir. Yüzey çekimi ölçütünde ikinci sıradadır.
ResNet tabanına göre hata değişimleri şöyledir:
- log g hatasında yaklaşık %13,2 azalma
- Teff hatasında yaklaşık %16,2 azalma
- [C/Fe] hatasında %10 azalma
- [Fe/H] hatasında %16 azalma
Sonuç tablosu parametrelerin fiziksel birimlerini ayrıca belirtmemektedir. Ayrıca MAE dışında RMSE, açıklanan varyans, güven aralığı veya farklı SNR dilimlerindeki hata değerleri sunulmamıştır.
Şekil 3: Tahmin edilen ve gerçek değerler
Yirmi birinci sayfadaki Şekil 3; etkin sıcaklık, yüzey çekimi, [Fe/H] ve [C/Fe] için tahmin edilen değerleri gerçek değerlerle karşılaştırmaktadır. Siyah kesikli köşegen ideal y=x ilişkisini, kırmızı kesikli çizgiler ise artı ve eksi üç standart sapmalık sınırları göstermektedir.
Noktaların büyük bölümü köşegen çevresinde yoğunlaşmaktadır. Renk skalası nokta yoğunluğunu göstermekte ve tahminlerin en yoğun parametre bölgelerinde daha sık kümelendiğini ortaya koymaktadır.
Bu grafik genel uyumu destekler; ancak seyrek parametre bölgelerindeki performansın daha zayıf olup olmadığını tek başına belirlemek için yeterli değildir. Parametre aralıklarına veya SNR seviyelerine göre ayrı hata tabloları verilmemiştir.
CEMP yıldızlarının belirlenmesi
Araştırmacılar doğrudan CEMP sınıfını tahmin eden ayrı bir sınıflandırıcı kullanmamıştır. Önce yıldız parametrelerini tahmin etmiş, ardından önceki bir çalışmada tanımlanan fiziksel ölçütleri bu tahminlere uygulayarak CEMP kararını üretmiştir.
| Model | Doğruluk | Duyarlılık | Kesinlik | F1 |
|---|---|---|---|---|
| Inception | 0,995 | 0,573 | 0,718 | 0,638 |
| ResNet | 0,995 | 0,640 | 0,633 | 0,637 |
| StarGRUNet | 0,996 | 0,697 | 0,705 | 0,701 |
| RRNet | 0,995 | 0,551 | 0,731 | 0,628 |
| StarNet | 0,995 | 0,663 | 0,671 | 0,667 |
| MSFL-IECW | 0,996 | 0,640 | 0,722 | 0,679 |
| LGADNet | 0,996 | 0,652 | 0,816 | 0,725 |
LGADNet’in kesinliği, yanlış pozitiflerin diğer yöntemlere göre daha az olduğunu göstermektedir. Buna karşılık 0,652 duyarlılık, gerçek CEMP örneklerinin yaklaşık üçte birinin belirlenemediği anlamına gelir. Bu nedenle yüksek F1 değeri yöntemin bütün nadir yıldızları yakaladığı biçiminde yorumlanmamalıdır.
MIT-BIH ECG deneyi nasıl gerçekleştirildi?
İkinci veri alanında MIT-BIH Arrhythmia Database kullanılmıştır. Veri tabanı 48 hastadan alınmış, 360 Hz hızında örneklenmiş yarım saatlik iki kanallı ECG kayıtları ve yaklaşık 109.446 etiketli kalp atımı içerir.
Kalp atımları AAMI düzenine göre beş sınıfa ayrılmıştır:
- N: Normal
- S: Supraventriküler
- V: Ventriküler
- F: Füzyon
- Q: Bilinmeyen veya diğer
Tayf dizileri 4901 noktadan oluştuğu için astronomi görevinde altı DLG bloğu kullanılmış ve her blokta iki kat küçültmeyle uzunluk yaklaşık 75’e indirilmiştir. ECG dizileri 187 noktadan oluştuğu için yalnızca iki DLG bloğu kullanılmış ve uzunluk yaklaşık 46’ya düşürülmüştür.
Azınlık sınıfları için sınıfa bağlı olasılıklarla veri artırma uygulanmıştır. İşlemler şunlardır:
- 0,9–1,1 arasında genlik ölçekleme
- Artı veya eksi beş örnek zaman kaydırma
- Standart sapması 0,01 olan Gauss gürültüsü
- α=0,2 ile Mixup
- 0,1 etiket yumuşatma
Sınıfa özgü veri artırma olasılıklarının kesin değerleri verilmemiştir. Eğitim, doğrulama ve test ayrımının hasta bazında mı yoksa kalp atımı bazında mı yapıldığı da belirtilmemektedir. Aynı hastanın atımlarının hem eğitim hem değerlendirme kümelerine girmesi hâlinde ölçülen performans gerçek hastalar arası genellenebilirliği olduğundan yüksek gösterebilir.
ECG sınıflandırma sonuçları
| Yöntem | Doğruluk | N F1 | S F1 | V F1 | F F1 | Q F1 |
|---|---|---|---|---|---|---|
| CNN tabanlı | 0,953 | 0,974 | 0,916 | 0,950 | Raporlanmadı | Raporlanmadı |
| Özellik tabanlı | 0,931 | 0,969 | 0,334 | 0,773 | Raporlanmadı | Raporlanmadı |
| Rastgele Orman tabanlı | 0,986 | Raporlanmadı | 0,815 | 0,970 | Raporlanmadı | Raporlanmadı |
| MB-CNN-BiLSTM | 0,992 | 0,962 | 0,908 | 0,982 | Raporlanmadı | 0,991 |
| PathFusion-Net | 0,947 | 0,973 | 0,832 | 0,914 | 0,064 | Raporlanmadı |
| LGADNet | 0,991 | 0,996 | 0,975 | 0,887 | 0,846 | 0,996 |
LGADNet genel doğrulukta en iyi sonuçtan 0,001 geride kalmıştır. N, S, F ve Q sınıflarında yüksek F1 değerleri vermiş; V sınıfında ise bazı karşılaştırma yöntemlerinden belirgin biçimde düşük kalmıştır.
Karşılaştırılan yayınların tamamı aynı sınıf kümesini veya aynı veri ayrımını kullanmamıştır. Bazı yöntemlerde F veya Q sınıfı bulunmamakta, bazılarında belirli sınıflar değerlendirme dışı bırakılmaktadır. Bu nedenle tablo ortak bir kontrollü deneyden çok farklı yayınlardaki bildirilen değerlerin karşılaştırmasıdır.
ECG sonucu, astronomik verilerde öğrenilen ağırlıkların biyomedikal alana taşındığını göstermemektedir. Mimari ECG için değiştirilmiş ve yeniden eğitilmiştir. “Alanlar arası uyarlanabilirlik”, aynı tasarımın iki ayrı görevde kullanılabilmesi anlamında değerlendirilmelidir.
Model yorumlanabilirliği nasıl incelendi?
Yirmi ikinci sayfadaki Şekil 4, temsilî bir CEMP yıldızı için giriş gradyanına dayalı saliency haritasını göstermektedir. Üst panelde normalleştirilmiş tayf ve fiziksel olarak önemli çizgiler, alt panelde ise her dalga boyunun [C/Fe] tahmini üzerindeki gradyan büyüklüğü yer almaktadır.
İşaretlenen özellikler arasında şunlar bulunmaktadır:
- Yaklaşık 4300 Å çevresindeki CH G-bandı
- C2 Swan moleküler bantları
- Fe ve Ca soğurma çizgileri
- Hidrojen çizgileri
- Yüzey çekimine duyarlı olduğu belirtilen çizgiler
Yoğun saliency yanıtlarının büyük bölümü 3900–5500 Å arasındaki mavi tayf bölgesinde görülmektedir. Araştırmacılar bunu, ağın karbon ve metal bolluğuyla bağlantılı fiziksel tayf yapılarına odaklandığının göstergesi olarak yorumlamıştır.
Saliency haritası tek bir seçilmiş CEMP örneğine aittir. Giriş gradyanı, modelin küçük giriş değişikliklerine yerel duyarlılığını gösterir; ilgili dalga boylarının nedensel olarak kullanıldığını veya modelin bütün örneklerde aynı fiziksel ilişkiyi öğrendiğini tek başına kanıtlamaz. Çok sayıda yıldız üzerinde toplu saliency istatistikleri, karşı-olgusal testler veya çizgi maskeleme deneyleri yapılmamıştır.
DLG ve GGD ablasyonunun sonuçları
| DLG | GGD | FLOPs | log g | Teff | [C/Fe] | [Fe/H] |
|---|---|---|---|---|---|---|
| Yok | Yok | 133,1 M | 0,091 | 59,91 | 0,050 | 0,050 |
| Var | Yok | 333,8 M | 0,081 | 52,59 | 0,046 | 0,044 |
| Yok | Var | 157,7 M | 0,080 | 54,50 | 0,047 | 0,045 |
| Var | Var | 420,0 M | 0,079 | 50,18 | 0,045 | 0,042 |
DLG tek başına etkin sıcaklık ve bolluk parametrelerinde GGD’den daha düşük hata vermiştir. GGD ise yalnız başına log g ölçütünde DLG’den az farkla daha iyi sonuç elde etmiştir. İki modülün birlikte kullanılması dört parametrenin tamamında tek modüllü sürümlerden daha iyi sonuç vermiştir.
Bu kazancın hesaplama maliyeti vardır. Tam modelin 420 milyon FLOP değeri, 133,1 milyon FLOP’luk tabanın yaklaşık 3,16 katıdır. Başka bir ifadeyle hesaplama yükü yaklaşık yüzde 216 artmıştır.
Ablasyonun CEMP belirleme sonuçları
| Yapı | Duyarlılık | Kesinlik | F1 |
|---|---|---|---|
| Temel model | 0,640 | 0,633 | 0,637 |
| Yalnız DLG | 0,584 | 0,788 | 0,671 |
| Yalnız GGD | 0,663 | 0,711 | 0,686 |
| DLG ve GGD | 0,652 | 0,816 | 0,725 |
DLG tek başına kesinliği yükseltirken duyarlılığı düşürmüştür. GGD tek başına duyarlılığı artırmıştır. İki modül birlikte en yüksek kesinlik ve F1 değerini sağlamış, ancak en yüksek duyarlılığa ulaşmamıştır.
Bu sonuçlar araştırmacıların iki modülün tamamlayıcı rol oynadığı yorumunu desteklemektedir. Bununla birlikte ablasyonların tek eğitim çalışmasına mı, birden fazla rastgele başlangıcın ortalamasına mı ait olduğu açıklanmamıştır.
Dinamik evrişim hangi kola yerleştirilmelidir?
| DLG düzeni | log g | Teff | [C/Fe] | [Fe/H] |
|---|---|---|---|---|
| Statik artık yapı | 0,080 | 54,50 | 0,047 | 0,045 |
| Dinamik artık kolu | 0,079 | 50,18 | 0,045 | 0,042 |
| Dinamik ana kol | 0,078 | 52,56 | 0,047 | 0,041 |
| Tümü dinamik | 0,090 | 59,30 | 0,047 | 0,042 |
Dinamik artık kolu etkin sıcaklık ve karbon bolluğunda en iyi sonucu verirken dinamik ana kol log g ve [Fe/H] ölçütlerinde daha düşük hata vermiştir. Araştırmacılar çoklu ölçüt dengesi nedeniyle dinamik artık kolunu standart yapı olarak seçmiştir.
Bütün kolların dinamik hâle getirilmesi Teff hatasını 59,30’a yükseltmiştir. Bu sonuç daha fazla dinamik parametrenin otomatik olarak daha iyi model oluşturmadığını ve kararlı sabit yolların optimizasyon açısından önemli olabileceğini göstermektedir.
Konumsal kodlama ve kapılama etkileşimi
| GGD düzeni | log g | Teff | [C/Fe] | [Fe/H] |
|---|---|---|---|---|
| Sabit konumsal kodlama, kapısız | 0,086 | 54,82 | 0,047 | 0,041 |
| Öğrenilebilir kodlama, kapısız | 0,080 | 52,28 | 0,047 | 0,042 |
| Sabit kodlama ve kapılama | 0,089 | 57,07 | 0,046 | 0,042 |
| Öğrenilebilir kodlama ve kapılama | 0,079 | 50,18 | 0,045 | 0,042 |
Kapılama, sabit konumsal kodlamayla birleştirildiğinde log g ve Teff sonuçlarını kötüleştirmiştir. Öğrenilebilir konumsal kodlamayla birleştirildiğinde ise üç ölçütte en iyi veya ortak en iyi sonuçlara ulaşmıştır.
Makalenin “bütün ölçütlerde en iyi” yorumu tam olarak tabloyla uyuşmamaktadır. [Fe/H] için en düşük hata 0,041 ile kapısız sabit konumsal kodlama düzeninde elde edilmiştir; tam GGD düzeninin değeri 0,042’dir.
Çalışmanın güçlü yönleri
- Yerel örüntü ve küresel bağımlılık problemleri tek mimari içinde açık işlevlere ayrılmıştır.
- Dinamik evrişimin tamamen dinamik bir blok yerine kararlı sabit kollarla birlikte kullanılması sınanmıştır.
- DLG ve GGD için ayrı ve birleşik ablasyonlar sunulmuştur.
- Konumsal kodlama ile kapılama mekanizmasının etkileşimi 2×2 deneyle incelenmiştir.
- Astronomik regresyon sonuçları yalnızca genel ortalamayla değil dört fiziksel parametre için ayrı ayrı raporlanmıştır.
- CEMP gibi nadir bir alt grup için duyarlılık, kesinlik ve F1 değerleri sunulmuştur.
- Modelin dikkat ettiği tayf bölgeleri fiziksel çizgilerle karşılaştırılmıştır.
- Aynı mimari fikri farklı uzunlukta biyomedikal dizilere uyarlayan ikinci bir deney gerçekleştirilmiştir.
- Hesaplama maliyeti FLOP cinsinden ablasyon tablosuna eklenmiştir.
Çalışmanın temel sınırlılıkları
- Hakemlik durumu: Araştırma hakem değerlendirmesinden geçmemiştir.
- Bağımsız test kümesi: LSS için yalnızca eğitim ve doğrulama bölümleri verilmiştir.
- Veri erişimi: LSS’nin halka açık olduğu ileri sürülmesine rağmen veri ve kodun yayın sonrasında paylaşılacağı belirtilmektedir.
- Eğitim ayrıntıları: Optimizasyon algoritması, öğrenme oranı, batch büyüklüğü, dönem sayısı, kayıp fonksiyonu, ağırlık azaltma ve öğrenme oranı programı açıklanmamıştır.
- Mimari ayrıntılar: Kanal sayıları, çekirdek uzunlukları, dikkat başlığı sayısı, ileri beslemeli ağ genişliği ve dropout değerleri eksiktir.
- Tekrarlanabilirlik: Rastgele tohumlar, bağımsız eğitim tekrarları ve ortalama±standart sapma sonuçları raporlanmamıştır.
- İstatistiksel karşılaştırma: Modeller arasındaki farkların anlamlılığı için güven aralığı veya istatistiksel test sunulmamıştır.
- SNR analizi: Örnekler yalnızca S/N>5 koşuluyla seçilmiş; performans farklı SNR aralıklarına göre ayrılmamıştır.
- Ön işleme etkisi: Savitzky–Golay yumuşatması dâhil güçlü bir işleme zinciri kullanılmıştır.
- Sınıf dengesizliği: CEMP oranı yalnızca yaklaşık %0,74’tür.
- ECG veri ayrımı: Hasta bazlı bağımsız test protokolü açıklanmamıştır.
- ECG karşılaştırması: Önceki çalışmalar aynı sınıfları ve aynı bölme protokolünü kullanmamıştır.
- Alanlar arası aktarım: Astronomik model ağırlıkları ECG görevine aktarılmamış; model yeniden yapılandırılıp eğitilmiştir.
- Yorumlanabilirlik kapsamı: Saliency analizi tek bir seçilmiş yıldız örneğiyle sınırlıdır.
- Hesaplama maliyeti: Tam ağ temel mimarinin yaklaşık 3,16 katı FLOP gerektirmektedir.
- Donanım performansı: Eğitim süresi, çıkarım süresi, bellek tüketimi ve kullanılan donanım bildirilmemiştir.
Araştırmanın desteklediği sonuçlar
- LGADNet, kullanılan LSS doğrulama düzeninde Teff, [C/Fe] ve [Fe/H] MAE ölçütlerinde karşılaştırılan modellerden daha düşük hata vermiştir.
- DLG ve GGD birlikte kullanıldığında tek başlarına kullanıldıkları duruma göre daha dengeli parametre tahmini elde edilmiştir.
- Dinamik evrişimin bütün kollara uygulanması performansı artırmamış, bazı ölçütlerde belirgin biçimde kötüleştirmiştir.
- Öğrenilebilir konumsal kodlama, kapılama mekanizmasının daha yararlı çalıştığı düzeni oluşturmuştur.
- CEMP belirlemede LGADNet en yüksek kesinlik ve F1 skoruna ulaşmıştır.
- MIT-BIH deneyinde yöntem beş sınıflı düzen altında yüksek genel doğruluk ve bazı sınıflarda yüksek F1 değeri vermiştir.
Araştırmanın kanıtlamadığı sonuçlar
- LGADNet’in bütün düşük SNR sinyal türlerinde en iyi yöntem olduğu gösterilmemiştir.
- Modelin daha önce görülmemiş bağımsız astronomik taramalarda aynı doğruluğu koruyacağı doğrulanmamıştır.
- Yöntemin farklı teleskoplar, çözünürlükler veya dalga boyu kalibrasyonlarında genellenebilirliği sınanmamıştır.
- LGADNet’in gerçek zamanlı veya yüksek hacimli üretim sistemlerine uygun olduğu gösterilmemiştir.
- Saliency haritası, model kararlarının nedensel olarak fiziksel çizgilere dayandığını kanıtlamamaktadır.
- ECG sonuçları klinik tanı güvenliği veya hasta bazlı dış genellenebilirlik kanıtı değildir.
- Astronomiden ECG alanına sıfır örnekli veya ağırlık aktarımlı öğrenme gerçekleştirilmemiştir.
- LSS veri kümesinin inceleme sırasında bağımsız araştırmacılar tarafından indirilebilir ve yeniden üretilebilir olduğu gösterilmemiştir.
Bilimsel ve teknolojik anlamı
LGADNet’in temel katkısı, gürültülü dizilerde yerel özellik çıkarımını ve küresel bağımlılık modellemesini art arda yerleştirmekle yetinmemesi; küresel aşamayı yerel özelliklerin uyarlanmış ve kapılanmış bir sürümüyle beslemesidir.
Bu yaklaşım, ayırt edici bilginin kısa bölgelerde yoğunlaştığı ancak nihai tahminin dizinin daha geniş bağlamına bağlı olduğu problemler için değerlendirilebilir. Astronomik tayflar ve ECG sinyalleri araştırmada kullanılan iki örnektir; yöntem farklı sensör veya bilimsel veri türlerinde henüz sınanmamıştır.
Astronomide model, büyük tayf arşivlerinden yıldız parametreleri ve nadir yıldız adayları çıkarmaya yardımcı olabilir. Bunun için farklı teleskoplarda dış doğrulama, belirsizlik tahmini, veri erişimi ve bağımsız testler gereklidir.
Biyomedikal alanda ise çalışma klinik cihaz veya tanı sistemi sunmamaktadır. Hasta bazlı değerlendirme, farklı merkezlerden kayıtlar, artefakt analizleri, duyarlılık–özgüllük dengesi ve hekim karşılaştırmaları yapılmadan sonuçlar klinik kullanıma genellenmemelidir.
Çalışmanın Yöntemi ve Bulguları
Teknik yöntem özeti
| Bileşen | Araştırmada kullanılan yöntem |
|---|---|
| Model | LGADNet |
| Yerel modül | Dinamik Yerel Yönlendirme — DLG |
| DLG kolları | İki evrişimli yerel kol, dört aday çekirdekli dinamik kol ve tek evrişimli kısa yol |
| Dinamik çekirdek sayısı | G=4 |
| Dinamik ağırlık üretimi | Küresel ortalama havuzlama ve hafif kapılama ağı |
| Küresel modül | Kapılı Küresel Gürültü Giderme — GGD |
| Konumsal kodlama | Öğrenilebilir, azami uzunluk 1000 |
| Kapılama | Sigmoid ve eleman bazlı çarpma |
| Transformer derinliği | İki kodlayıcı blok |
| Astronomi giriş uzunluğu | 4901 nokta |
| Astronomi DLG sayısı | Altı blok |
| ECG giriş uzunluğu | 187 nokta |
| ECG DLG sayısı | İki blok |
| Astronomi görevi | Dört sürekli yıldız parametresinin regresyonu |
| Biyomedikal görev | Beş sınıflı kalp atımı sınıflandırması |
LSS veri özeti
| Öğe | Bilgi |
|---|---|
| Giriş kaynağı | LAMOST DR12 düşük çözünürlüklü tayfları |
| Etiket kaynakları | APOGEE DR17, LAMOST–Subaru ve SAGA |
| Eşleştirme yarıçapı | 3 yay saniyesi |
| SNR koşulu | S/N>5 |
| İlk eşleşmiş örnekler | 189.780 |
| Son veri kümesi | 59.983 tayf |
| Eğitim kümesi | 47.984 |
| Doğrulama kümesi | 11.999 |
| Ayrı test kümesi | Raporlanmamıştır |
| Tahmin hedefleri | Teff, log g, [Fe/H] ve [C/Fe] |
Ana nicel bulgular
- LGADNet log g MAE: 0,079
- LGADNet Teff MAE: 50,18
- LGADNet [C/Fe] MAE: 0,045
- LGADNet [Fe/H] MAE: 0,042
- CEMP belirleme doğruluğu: 0,996
- CEMP duyarlılığı: 0,652
- CEMP kesinliği: 0,816
- CEMP F1 skoru: 0,725
- MIT-BIH genel doğruluk: 0,991
- N sınıfı F1: 0,996
- S sınıfı F1: 0,975
- V sınıfı F1: 0,887
- F sınıfı F1: 0,846
- Q sınıfı F1: 0,996
- Temel model maliyeti: 133,1 milyon FLOP
- Tam LGADNet maliyeti: 420 milyon FLOP
Şekil ve tabloların temel mesajları
| Görsel | İçerik | Yorum sınırı |
|---|---|---|
| Şekil 1 | DLG, dinamik çekirdek karışımı, GGD ve tahmin başlığının mimari akışı | Kanal sayıları ve eğitim hiperparametreleri gösterilmemektedir. |
| Şekil 2 | CEMP, MP-no-CEMP ve Diğer sınıflarından üç temsilî yıldız tayfı | Üç seçilmiş örnek genel veri dağılımını temsil etmez. |
| Şekil 3 | Dört yıldız parametresi için tahmin–gerçek değer dağılımları | SNR ve parametre alt gruplarına göre hata ayrımı bulunmamaktadır. |
| Şekil 4 | [C/Fe] tahmini için tayf çizgileri ve giriş gradyanı saliency haritası | Tek örneklik saliency nedensel yorum sağlamaz. |
| Tablo 2 | Dört yıldız parametresi için MAE karşılaştırması | Tekrar varyansı ve anlamlılık testi verilmemiştir. |
| Tablo 3 | CEMP belirleme doğruluk, duyarlılık, kesinlik ve F1 değerleri | Sınıf dağılımı ciddi ölçüde dengesizdir. |
| Tablo 4 | MIT-BIH beş sınıflı ECG karşılaştırması | Karşılaştırılan yayınların sınıf ve veri bölme protokolleri aynı değildir. |
| Tablo 5–6 | DLG ve GGD modüllerinin bağımsız ve ortak katkıları | Sonuçların kaç eğitim tekrarından geldiği belirtilmemiştir. |
| Tablo 7 | Dinamik evrişimin farklı kollardaki yerleşimi | Farklı parametrelerde farklı düzenler en iyi sonucu vermektedir. |
| Tablo 8 | Konumsal kodlama ve kapılama etkileşimi | Tam düzen [Fe/H] için en düşük hatayı vermemiştir. |
Yeniden üretilebilirlik için eksik bilgiler
- Ayrı ve kilitlenmiş test kümesi
- Optimizasyon algoritması
- Öğrenme oranı ve öğrenme oranı programı
- Batch büyüklüğü
- Eğitim dönemlerinin sayısı
- Regresyon ve sınıflandırma kayıp fonksiyonları
- Kanal genişlikleri ve evrişim çekirdeği boyutları
- Transformer dikkat başlığı sayısı
- Dropout oranları
- Model parametre sayısı
- Rastgele tohumlar
- Bağımsız tekrarların ortalama ve standart sapmaları
- Eğitim ve çıkarım donanımı
- Eğitim süresi, çıkarım gecikmesi ve bellek tüketimi
- MIT-BIH için hasta bazlı veri ayrım protokolü
- LSS veri kümesi ve kaynak kodunun erişilebilir deposu
Kaynak ve Yöntem Notu
- Çalışmanın tam özgün adı: LGADNet: A Local-Guided Adaptive Denoising Network for Low-SNR Sequential Signal Modeling
- Yazarlar ve sıraları: Jinfan Li; Xiangru Li
- Eş katkı veya eş birinci yazarlık: Belirtilmemiştir.
- Sorumlu yazar: Xiangru Li
- Sorumlu yazar e-posta adresi: xiangru.li@gmail.com
- Birinci yazar e-posta adresi: joinfancy2024@163.com
- Kurum: South China Normal University, School of Computer Science, No. 55 Zhongshan West Road, Guangzhou, Guangdong, Çin
- ORCID: Çalışmada ORCID tanımlayıcısı verilmemiştir.
- Kaynak türü: Derin öğrenme, astronomik tayf analizi ve biyomedikal sinyal işleme alanında preprint araştırma makalesi
- Hakemlik durumu: Hakem değerlendirmesinden geçmemiştir.
- Preprint platformu: SSRN
- SSRN kayıt numarası: 6958831
- DOI: 10.2139/ssrn.6958831
- Dergi: Belirli bir hakemli dergi doğrulanamamıştır.
- Yayın durumu: Çalışmada “Preprint submitted to Elsevier” ifadesi bulunmaktadır; bu ifade kabul veya hakemli yayın anlamına gelmemektedir.
- Özgün hakemli yayınevi: Doğrulanamamıştır.
- Resmî bağlantı:SSRN çalışma kaydı
- Finansman: Araştırmacılar kamu, ticari veya kâr amacı gütmeyen kuruluşlardan özel finansman alınmadığını bildirmiştir.
- Çıkar çatışması: Araştırmacılar bilinen bir mali çıkar çatışması veya kişisel ilişki bulunmadığını beyan etmiştir.
- Yazar katkıları: Jinfan Li; kavramsallaştırma, yöntem, yazılım, doğrulama, biçimsel analiz, ilk taslak ve görselleştirme. Xiangru Li; danışmanlık, inceleme ve düzenleme.
- Veri ve kod erişimi: Veri erişimi bölümünde kaynak kodu ile veri kümesinin yayın sonrasında yazarların GitHub deposunda paylaşılacağı belirtilmektedir. İnceleme sırasında açık depo bağlantısı verilmemiştir.
Bu Verianla makalesi; araştırmanın kuramsal gerekçesi, ağ mimarisi, matematiksel tanımları, veri hazırlama süreci, astronomik regresyon sonuçları, CEMP belirleme ölçütleri, ECG sınıflandırması, saliency analizi ve ablasyon deneyleri temel alınarak hazırlanmıştır. Araştırmada bulunmayan bir klinik yarar, astronomik keşif veya üretim sistemi başarısı eklenmemiştir.
Sonuçlar bağımsız test kümesi yerine açıklanan doğrulama düzenine dayanmaktadır. Eğitim ve değerlendirme protokolünün temel ayrıntıları eksik olduğundan tablolar yöntemler arasında kesin ve nihai bir üstünlük kanıtı olarak görülmemelidir. LSS’nin erişilebilirliği, hasta bazlı ECG ayrımı, modelin farklı SNR seviyelerindeki davranışı ve bağımsız araştırma gruplarında yeniden üretilebilirliği açıklığa kavuşturulmalıdır.
LGADNet’in en güçlü sonucu, kullanılan LSS düzeninde etkin sıcaklık, karbon bolluğu ve metal bolluğu hatalarını azaltmasıdır. Buna karşılık yöntem yüzey çekiminde mutlak en iyi sonucu, CEMP belirlemede en yüksek duyarlılığı, ECG deneyinde en yüksek genel doğruluğu veya V sınıfı için en yüksek F1 skorunu elde etmemiştir. Bu ayrımlar, çalışmanın sonuçlarının dengeli yorumlanması açısından korunmalıdır.

Bir yorum bırakın
E-posta adresiniz yayınlanmayacaktır. Gerekli alanlar * ile işaretlenmiştir