Академиялык изилдөөлөр, түшүнүктүү тил

Verianla | Кыргызча академиялык изилдөөлөр жана илим

27 сентябрь 2026, Жекшемби
VERİANLAКөз карандысыз илимий басма
Менюну ачуу же жабуу
...
Башкы бет / Саламаттык сактоо илимдери / Медициналык изилдөөлөр / Hetero-MedSAM: Медициналык Сүрөт Segmentasyonunu Гетерогендик Uzmanlar жана Эволюциялык Budamayla Жеңилдеткен Yapay Zekâ Алкагы
Медициналык изилдөөлөр

Hetero-MedSAM: Медициналык Сүрөт Segmentasyonunu Гетерогендик Uzmanlar жана Эволюциялык Budamayla Жеңилдеткен Yapay Zekâ Алкагы

Медициналык сүрөт сегментацияu; компьютердик томография, магниттик-резонанстык, рентген, ультраүндүү, эндоскопия, дермоскопия жана көз түбү сүрөтlerinde organların, tümörlerin, damarların же başka anatomik yapıların sınırlarının piksel düzeyinde belirlenmesidir.

20/07/2026  Veri Anla 33 көрүү
Hetero-MedSAM: Медициналык Сүрөт Segmentasyonunu Гетерогендик Uzmanlar жана Эволюциялык Budamayla Жеңилдеткен Yapay Zekâ Алкагы

Медициналык сүрөт сегментацияu; компьютердик томография, магниттик-резонанстык, рентген, ультраүндүү, эндоскопия, дермоскопия жана көз түбү сүрөтlerinde organların, tümörlerin, damarların же başka anatomik yapıların sınırlarının piksel düzeyinde belirlenmesidir. Bu işlem radyoterapi planlaması, оору ilerlemesinin izlenmesi, cerrahi hazırlık жана nicel сүрөт analizi gibi alanlarda маанилүү bilgiler sağlayabilir.

MedSAM gibi медициналык сүрөт негизги модельleri, көп çeşitli сегментация görevlerinde kullanılabilecek генel görsel temsil yeteneklerine sahiptir. Ancak bu модельlerin чоң сүрөт kodlayıcıları жогорку эсептөө, эс тутум жана enerji gereksinimi oluşturur. Bu durum модельlerin taşınabilir cihazlarda, төмөн güçlü клиникалык terminallerde же sınırlı donanıma sahip sağlık kuruluşlarında kullanılmasını güçleştirir.

Bu preprint изилдөөda изилдөөчүлөр, MedSAM’in önceden eğitilmiş өзөкsını koruyarak гана göreve uyum sağlayan кичине yan modüllerin eğitildiği Hetero-MedSAM adlı bir çerçeve önermektedir. Modelin merkezinde birbirinin ошол эле olmayan, ар башка işlevlere экспертlaşmış dört modül bulunmaktadır:

  • Farklı büyüklükteki anatomik hedefleri yakalamaya çalışan Ölçek Farkındalıklı Uzman,
  • Uzun, ince жана düzensiz sınırları izlemeye çalışan Anizotropik Kenar Uzmanı,
  • Yerel ayrıntıları сүрөтnün генel bağlamıyla birleştiren Bağlam Modülasyonu Uzmanı,
  • BT, MRG, рентген жана başka сүрөттөө yöntemleri arasındaki fiziksel sinyal farklarını telafi etmeye çalışan Uyarlanabilir Modalite Uzmanı.

Model, сүрөтnün модалдуулукsini, anatomik hedefi, клиникалык görevi жана сүрөт içeriğini birlikte değerlendirerek ilk üç эксперт үчүн dinamik ağırlıklar üretmektedir. Eğitim sırasında эксперттерın katkıları hareketli ortalamayla izlenmekte; uzun süre төмөн katkı veren dallar fiziksel катары devre dışı bırakılmaktadır. Изилдөөcılar bu süreci “эволюциялык бутоо” катары adlandırmaktadır.

Yaklaşık 20.000 медициналык сүрөт kesitinden жана sekiz сүрөттөө модалдуулукsinden түзүлгөн HeteroMedSeg маалымат топтомуnde модельin bildirilen генel Dice Benzerlik Katsayısı 0,8644, HD95 değeri 5,37 жана инференс hızı 4,42 kare/saniyedir. Bildirilen eğitilebilir параметр ölçeği 4,40 milyondur.

Karşılaştırmada негизги MedSAM модельi 0,8037 Dice skoru, 7,50 HD95 жана 0,23 kare/saniye hız elde etmiştir. Hetero-MedSAM, bu deney düzeninde daha жогорку bölgesel örtüşme, daha төмөн sınır hatası жана daha жогорку işlem hızı göstermiştir. Bununla birlikte yerel катары dört катмарa yerleştirilen MedSegX модельi 4,69 kare/saniye менен Hetero-MedSAM’den biraz daha hızlıdır; Hetero-MedSAM’in avantajı esas катары сегментация doğruluğu жана sınır uyumunda görülmektedir.

Изилдөөnın маанилүү sonucu, эксперт modüllerinin ağın her катмарına yerleştirilmesinin faydalı olmadığıdır. Bütün катмарларa гетерогендик эксперт eklenen ilk модель гана 0,8428 Dice skoru elde etmiştir. En iyi sonuç, эксперттерın MedSAM сүрөт kodlayıcısının derin катмарларından 6, 7, 9 жана 11 numaralı bloklara yerleştirilmesiyle alınmıştır.

Жыйынтыктар, ар башка сүрөттөө problemleri үчүн ар башка эксперттерın öne çıktığını көрсөтөт. Dermoskopide düzensiz sınırlar nedeniyle kenar экспертı, MRG’de birbirinden kopuk hedef bölgeler nedeniyle bağlam экспертı, BT’de ise ар башка büyüklükteki hedefler nedeniyle ölçek экспертı daha sık korunmuştur.

Bununla birlikte изилдөө gerçek клиникалык kullanım kanıtı sunmamaktadır. Deneyler kamuya açık veri kaynaklarından derlenen сүрөтler үстүндө yapılmıştır. Prospektif бейтап изилдөөsı, gerçek бейтапne iş akışı, taşınabilir медициналык cihaz testi же klinisyen performans karşılaştırması bulunmamaktadır. Ayrıca 4,40 milyon değeri модельin eğitilebilir uyarlama параметрlerini ifade etmektedir; dondurulmuş MedSAM өзөкsının эс тутумte tutulması жана инференс sırasında çalıştırılması gereksinimi ortadan kalkmamaktadır.

Медициналык сүрөт сегментацияu nedir?

Bir медициналык сүрөт sınıflandırma sistemi, сүрөтnün tamamı үчүн “tümör var” же “tümör yok” gibi tek bir karar üretebilir. Segmentasyon sistemi ise bunun ötesine geçerek hedef yapının hangi piksellerde bulunduğunu belirlemeye çalışır.

Örneğin bir karaciğer BT сүрөтsünde сегментация модельi:

  • Karaciğerin dış чегиnı,
  • Karaciğer içindeki lezyonu,
  • Lezyonun çevresindeki dokuyu,
  • Gerekirse damar же safra yolu yapılarını

ayrı maskeler hâlinde gösterebilir.

Bu nedenle сегментация гана “nesnenin varlığını” değil, nesnenin konumunu, alanını, hacmini, şeklini жана sınırlarını da tanımlamaya çalışır.

Медициналык сүрөтlerde bu görev zordur çünkü:

  • Aynı organ ар башка бейтапlarda ар башка büyüklük жана biçime sahip olabilir.
  • Tümör чеги çevre dokudan keskin biçimde ayrılmayabilir.
  • İnce damarlar жана sinirler uzun, kıvrımlı жана birkaç piksel генişliğinde olabilir.
  • BT, MRG, ультраүндүү жана рентген сүрөтleri birbirinden ар башка fiziksel sinyal mekanizmalarıyla oluşur.
  • Aynı модалдуулукde ар башка cihazlar жана çekim protokolleri ар башка сүрөт dağılımları üretebilir.
  • Bazı hedefler сүрөтnün чоң bölümünü kaplarken bazıları көп кичине olabilir.

MedSAM neden doğrudan hafif bir модель эмес?

MedSAM, генel amaçlı Segment Anything Model mimarisinin медициналык сүрөтlere uyarlanmış biçimidir. Model чоң bir сүрөт kodlayıcısı kullanarak сүрөтyü жогорку boyutlu özellik temsillerine dönüştürür. İstem kodlayıcısı, kullanıcı tarafından verilen kutu gibi yönlendirmeleri işler; maske kod çözücüsü ise hedef yapının сегментация maskesini üretir.

Büyük негизги модельlerin güçlü yönü, көп çeşitli сүрөтler үстүндө öğrenilmiş генel özellikleri yeniden kullanabilmeleridir. Ancak чоң сүрөт kodlayıcısının:

  • Yüksek параметр sayısı,
  • Yüksek FLOP gereksinimi,
  • Bellek tüketimi,
  • Düşük güçlü işlemcilerde gecikme oluşturması

клиникалык uç cihazlara dağıtımı sınırlandırabilir.

Изилдөөnın karşılaştırma tablosunda негизги MedSAM үчүн 93,74 milyon параметр, 371,99 GFLOP жана Intel Xeon E5-2680 v4 işlemci үстүндө 0,23 kare/saniye bildirilmektedir.

Hetero-MedSAM tamamen жаңы жана кичине bir негизги модель oluşturmamaktadır. MedSAM сүрөт kodlayıcısını жана istem kodlayıcısını dondurarak bunların içine же yanına az sayıda eğitilebilir эксперт yolu eklemektedir.

Bu ayrım önemlidir:

  • Az eğitilebilir параметр, модельin uyarlanması sırasında güncellenen ağırlıkların az olduğu anlamına gelir.
  • Küçük toplam модель, бардык өзөкnın fiziksel катары кичине olduğu anlamına gelir.

Hetero-MedSAM birinci hedefe güçlü biçimde odaklanmaktadır. Ancak dondurulan MedSAM өзөкsı инференс sırasında yine çalıştırıldığı үчүн 4,40 milyonluk sayı, бардык модельin toplam эс тутум ayak izinin гана 4,40 milyon параметрye düştüğü biçiminde yorumlanmamalıdır.

Parametre-verimli ince ayar nedir?

Parametre-verimli ince ayar, önceden eğitilmiş чоң модельin бардык ağırlıklarını yeniden eğitmek yerine ana өзөкyı sabit tutarak az sayıda ek параметрyi günceller.

Gündelik bir benzetmeyle, чоң bir бейтапneyi baştan inşa etmek yerine mevcut бейтапnenin belirli bölümlerine кичине эксперт ekipler eklemek gibidir. Ana altyapı korunur; жаңы göreve uyum эксперт ekipler üzerinden sağlanır.

Bu yaklaşım:

  • Eğitim belleğini azaltabilir.
  • Göreve özgü ağırlık dosyasını küçültebilir.
  • Aynı өзөкnın ар башка görevlerde yeniden kullanılmasını kolaylaştırabilir.
  • Tam модель ince ayarına боюнча окутуу maliyetini düşürebilir.

Ancak бардык görevler үчүн ошол эле yapıda tek bir adaptör kullanılırsa, ар башка медициналык сүрөтlerin ihtiyaçları yeterince temsil edilmeyebilir. Hetero-MedSAM’in çıkış noktası bu sınırlamadır.

Neden “гетерогендик” эксперттер kullanılıyor?

Klasik эксперттер karışımı mimarilerinde birden fazla benzer ağ dalı bulunabilir. Bu dallar ошол эле негизги yapıyı taşır бирок ар башка örneklerde ар башка oranlarda etkinleştirilir.

Hetero-MedSAM’de ise эксперттерın гана ağırlıkları değil, iç mimarileri жана görevleri de farklıdır. Her эксперт belirli bir медициналык сүрөт sorununa yöneliktir:

UzmanHedeflediği problemTemel işlem
Ölçek Farkındalıklı UzmanKüçük lezyonlarla чоң organların ошол эле модельde işlenmesiFarklı генişleme oranlarına sahip paralel derinliksel evrişimler
Anizotropik Kenar UzmanıUzun, ince, kıvrımlı же asimetrik sınırlarYatay жана dikey şerit evrişimleri менен tek taraflı dolgulama
Bağlam Modülasyonu UzmanıYerel ayrıntılarla генiş anatomik bağlamın birleştirilmesiGlobal ortalama жана maksimum havuzlama менен kanal modülasyonu
Uyarlanabilir Modalite UzmanıBT, MRG, рентген жана başka модалдуулукler arasındaki sinyal farklarıModaliteye özgü эксперт yönlendirmesi жана параметр telafisi

Bu tasarımın mantığı, bir radyoloğun kemik рентгенi, beyin MRG’si жана дермоскопия сүрөтsünü ошол эле görsel kurallarla değerlendirmemesine benzetilebilir. Сүрөтlerin fiziksel üretim biçimleri жана клиникалык hedefleri ар башка olduğu үчүн модельin kullandığı yardımcı temsil yolları da farklılaştırılmaktadır.

Modelin генel mimarisi

Сүрөт 1’de модельin бардык işlem zinciri gösterilmektedir. Temel akış şöyledir:

  1. Медициналык сүрөт dondurulmuş MedSAM сүрөт kodlayıcısına girer.
  2. Сүрөт özellikleri Transformer bloklarında işlenir.
  3. Seçilmiş derin bloklara HeCon-MoAE эксперт modülü paralel yol катары eklenir.
  4. Modalite, organ, görev жана сүрөт bağlamı bir yönlendirme ağına girer.
  5. Uzmanların katkı ağırlıkları hesaplanır.
  6. Uzman çıktıları MedSAM’in özgün ileri beslemeli ağ çıktısıyla birleştirilir.
  7. Kutu istemi dondurulmuş istem kodlayıcısıyla işlenir.
  8. Сүрөт жана istem temsilleri maske kod çözücüsünde birleştirilir.
  9. Hedef yapının сегментация maskesi oluşturulur.

Bu mimari, MedSAM’in önceden öğrendiği генel медициналык сүрөт bilgisini korurken belirli görevlerin gerektirdiği ek özelliklerin кичине эксперт yollarıyla tamamlanmasını максат кылат.

MedSegDB’nin anatomik bilgi hiyerarşisi

Изилдөө, daha önce geliştirilen MedSegDB adlı anatomik bilgi жана сегментация veri түзүлүшүnı deneysel referans катары kullanmaktadır. MedSegDB, 129 kamuya açık veri kaynağından gelen медициналык сүрөтleri hiyerarşik bir anatomik ağaç altında birleştirmektedir.

Сүрөт 2’de gösterilen yapı bir kök катмар жана dört anatomik düzeyden oluşur:

DüzeyİçerikBildirilen kapsam
Kök катмарGenel адам vücudu temsiliOrtak başlangıç vektörü
Katman 1Vücut sistemiBaş-boyun, gövde, iskelet, damar жана deri olmak üzere 5 alt ağaç
Katman 2Anatomik bölgeGöğüs, karın жана pelvis gibi 12 bölge
Katman 3Organ же doku39 organ жана doku varlığı
Katman 4Klinik сегментация görevi111 ayrıntılı görev

Örneğin модель үчүн şu anlamsal yol oluşturulabilir:

\[ \mathrm{İnsan\ vücudu} \rightarrow \mathrm{Gövde} \rightarrow \mathrm{Karın} \rightarrow \mathrm{Karaciğer} \rightarrow \mathrm{Karaciğer\ tümörü} \]

Bu hiyerarşi модельin гана сүрөт piksellerine değil, сүрөтnün hangi модалдуулукye, organa жана клиникалык göreve ait olduğuna ilişkin yapılandırılmış bilgiye de erişmesini sağlar.

Ortak bağlam tanımlayıcısı кантип oluşturuluyor?

Model dört bilgi kaynağını birleştirir:

  • Сүрөтleme модалдуулукsi gömmesi: Em
  • Anatomik yapı gömmesi: Ea
  • Klinik görev gömmesi: Et
  • Global катары havuzlanmış сүрөт özelliği: X̄

Изилдөөda verilen ortak bağlam denklemi şöyledir:

\[ C_{\mathrm{all}} = \mathrm{Concat}(E_m,E_a,E_t,\bar{X}) \]

Burada:

  • Call, эксперт yönlendirmesinde kullanılacak birlчек bağlam tanımlayıcısıdır.
  • Concat, özellik vektörlerinin kanal boyutunda yan yana eklenmesidir.
  • Em, сүрөтnün BT, MRG, рентген же başka bir модалдуулукye ait olduğunu kodlar.
  • Ea, anatomik konumu жана organ bilgisini temsil eder.
  • Et, hangi yapının сегментацияunun istendiğini temsil eder.
  • X̄, сүрөтnün генel içerik özetidir.

Gündelik anlamıyla sistem гана “сүрөтde ne görüyorum?” sorusunu değil, “bu сүрөт hangi cihazdan geldi, hangi organı gösteriyor жана benden hangi yapıyı bulmam isteniyor?” sorularını birlikte değerlendirmektedir.

Uzman ağırlıkları кантип hesaplanıyor?

İlk üç morfolojik экспертın ağırlıkları yönlendirme ağı tarafından hesaplanır:

\[ [w_1,w_2,w_3]^T = \mathrm{Softmax}(W_g \cdot \sigma(W_{in}\cdot C_{\mathrm{all}})) \]

Bu formülde:

  • w1, Ölçek Farkındalıklı Uzmanın ağırlığıdır.
  • w2, Anizotropik Kenar Uzmanının ağırlığıdır.
  • w3, Bağlam Modülasyonu Uzmanının ağırlığıdır.
  • Win жана Wg, окутуу sırasında öğrenilen matrislerdir.
  • σ, sigmoid aktivasyonudur.
  • Softmax, üç ağırlığı pozitif değerlere dönüştürerek toplamlarını bire eşitler.

Ağırlıkların негизги koşulu şöyledir:

\[ \sum_{i=1}^{3} w_i = 1 \]

Böylece модель, üç morfolojik эксперт арасында sınırlı bir dikkat bütçesi dağıtır. Bir сүрөтde düzensiz sınırlar öne çıkıyorsa kenar экспертının payı artabilir; hedeflerin boyutları көп değişiyorsa ölçek экспертı daha fazla ağırlık alabilir.

Dördüncü эксперт olan Uyarlanabilir Modalite Uzmanı bu rekabetin dışında tutulmaktadır. Изилдөөda kontrol ağırlığı:

\[ w_4 = 1 \]

olarak sabitlenmiştir. Bunun amacı модалдуулукye özgü sinyal telafisinin ilk üç эксперт arasındaki ağırlık rekabetinden etkilenmeden sürekli изилдөөsıdır.

Uzman çıktıları MedSAM’e кантип ekleniyor?

Uzmanların ürettiği özellikler MedSAM’in özgün ileri beslemeli ağ yoluyla birleştirilir:

\[ Y = \mathrm{MLP}(X) + s \cdot \left(\sum_{i=1}^{3} w_iE_i(X)+w_4E_4(X)\right) \]

Burada:

  • X, Transformer bloğuna giren özelliktir.
  • MLP(X), MedSAM’in özgün ileri beslemeli ağ çıktısıdır.
  • E1-E3, üç morfolojik экспертın dönüşümleridir.
  • E4, модалдуулук экспертıdır.
  • wi, эксперт katkı ağırlıklarıdır.
  • s, эксперт katkısının генel büyüklüğünü kontrol eden ayarlanabilir ölçek katsayısıdır.
  • Y, özgün жана эксперт yollarının birleşmiş çıktısıdır.

Bu yapı özgün MedSAM temsilini silmek yerine ona artık bir düzeltme же tamamlayıcı bilgi eklemektedir. Böylece эксперт yolları yanlış же yetersiz öğrenirse önceden eğitilmiş өзөкnın негизги temsili korunmaya çalışılır.

Ölçek Farkındalıklı Uzman кантип çalışıyor?

Медициналык сүрөтlerde hedef boyutları чоң ölçüde değişebilir. Bir сүрөтde бардык karaciğer сегментацияu yapılırken başka bir сүрөтde birkaç milimetrelik lezyon aranabilir.

Ölçek Farkındalıklı Uzman önce özellik kanallarını 1×1 evrişimle төмөн boyutlu bir darboğaza indirir. Ardından ар башка генişleme oranlarına sahip üç paralel derinliksel evrişim uygular:

\[ x_r = \mathrm{DConv}_r(\mathrm{Conv}^{down}_{1\times1}(X)), \quad r\in\{1,2,3\} \]

Burada:

  • r, генişletilmiş evrişimin генişleme oranıdır.
  • r=1, daha yerel ayrıntıları görür.
  • r=2 жана r=3, daha генiş çevresel bağlamı örnekler.
  • DConv, her kanal үстүндө daha төмөн maliyetle uygulanan derinliksel evrişimdir.

Üç ölçek daha sonra birleştirilir:

\[ X_{\mathrm{scale}} = \mathrm{Conv}^{up}_{1\times1}\left(\mathrm{GELU}(\mathrm{Concat}(x_1,x_2,x_3))\right) \]

Bu işlem кичине ayrıntılarla генiş anatomik konturların ошол эле temsil içinde bir araya getirilmesini amaçlar.

Сүрөт 3’ün эксперт diyagramında üç dalın үстүндө de “R=1” etiketi görünürken yöntem metni жана denklem генişleme oranlarını 1, 2 жана 3 катары tanımlamaktadır. Bu, preprint içindeki görsel менен matematiksel açıklama арасында bir belge tutarsızlığıdır. Kesin uygulamanın kod üzerinden doğrulanması gerekir.

Anizotropik Kenar Uzmanı кантип çalışıyor?

“Anizotropik” ifadesi, yapının her yönde ошол эле görünmediğini anlatır. Bir karaciğer kitlesi görece yuvarlak olabilirken damar, sinir, bağırsak duvarı же deri lezyonunun чеги uzun, ince жана belirli bir yöne uzanan biçimde olabilir.

Klasik kare evrişim çekirdeği uzun жана ince bir yapıyı incelerken çevredeki gereksiz arka planı da işleme katabilir. Model bu nedenle yatay жана dikey şerit çekirdekler kullanmaktadır:

\[ y_h^{(i)} = \mathrm{Conv}_{1\times k}(\mathrm{Pad}^{(i)}_h(X)), \quad i\in\{0,1\} \]

\[ y_v^{(i)} = \mathrm{Conv}_{k\times1}(\mathrm{Pad}^{(i)}_v(X)), \quad i\in\{0,1\} \]

Bu formüllerde:

  • yh, yatay yöndeki özellikleri temsil eder.
  • yv, dikey yöndeki özellikleri temsil eder.
  • Pad, çekirdeğin sola, sağa, yukarıya же aşağıya daha fazla ağırlık verebilmesini sağlayan tek taraflı asimetrik doldurmadır.
  • Сүрөтde çekirdekler 1×3 жана 3×1 катары gösterilmiştir.

Dört yönlü çıktı birleştirilir:

\[ X_{\mathrm{edge}} = \mathrm{Conv}_{1\times1}\left(\mathrm{SiLU}(\mathrm{Concat}(y_h^{(0)},y_h^{(1)},y_v^{(0)},y_v^{(1)}))\right) \]

Bu эксперт, özellikle düzensiz deri lezyonu sınırları, ince damar yapıları жана yönlü anatomik konturlar үчүн tasarlanmıştır.

Bağlam Modülasyonu Uzmanı кантип çalışıyor?

Bazı сегментация hataları, модельin кичине bir ayrıntıya fazla odaklanıp сүрөтnün генel anatomik düzenini gözden kaçırmasından kaynaklanır.

Bağlam экспертı iki global özet kullanmaktadır:

  • Global ortalama havuzlama: Сүрөтdeki генel özellik dağılımını özetler.
  • Global maksimum havuzlama: En belirgin sinyalleri öne çıkarır.

Kanal ağırlıkları şu ilişkiyle üretilir:

\[ W = \sigma(\mathrm{FC}(\mathrm{Concat}(\mathrm{GAP}(Z),\mathrm{GMP}(Z)))) \]

Burada:

  • Z, төмөн boyutlu darboğaz özelliğidir.
  • GAP, global ortalama havuzlamadır.
  • GMP, global maksimum havuzlamadır.
  • FC, tam bağlantılı dönüşümdür.
  • W, hangi özellik kanallarının güçlendirilip hangilerinin azaltılacağını belirleyen ağırlıktır.

Modüle edilmiş özellik:

\[ U = \mathrm{BN}(\mathrm{DWConv}_{3\times3}(Z\odot W)) \]

\[ X_{\mathrm{context}} = \mathrm{Conv}_{1\times1}(U) \]

⊙ işareti kanal düzeyinde eleman bazlı çarpmayı, BN ise toplu normalizasyonu ifade eder.

Bu эксперт özellikle MRG сүрөтlerinde birbirinden kopuk кичине hedef bölgelerin генel anatomik bağlam içinde fark edilmesine yardımcı olmayı максат кылат.

Uyarlanabilir Modalite Uzmanı ne yapıyor?

BT’de ölçülen Hounsfield birimleriyle MRG’nin sinyal yoğunluğu, рентгенin projeksiyon түзүлүшү же эндоскопияnin renk жана aydınlatma özellikleri ошол эле эмес.

Uyarlanabilir Modalite Uzmanı, сүрөт модалдуулукsine боюнча ayrılan кичине эксперт yollarından uygun olanı yönlendirmeyle seçer. Изилдөөnın mimari şemasında CT, MRI, X-ray жана diğer модалдуулук эксперттерı ayrı dallar катары gösterilmektedir.

Bu dalın hedefi, ошол эле anatomik yapının ар башка сүрөттөө sistemlerinde түздүğu dağılım kaymasını telafi etmektir.

Ancak yöntem metninde модалдуулук экспертının ağırlığı 1 катары sabitlenirken daha sonraki бутоо bölümünde toplam эксперт sayısı dört катары verilmekte жана бутоо maskesi бардык эксперттерı kapsayabilecek biçimde tanımlanmaktadır. Uzman evrimi tablosunda ise гана ilk üç эксперт raporlanmaktadır. Bu nedenle dördüncü экспертın бутоо sırasında tam катары кантип ele alındığı preprint metninde bütünüyle açık эмес.

Uzman bankasının эсептөө yükü

Изилдөөda бардык эксперттер 768×16×16 giriş/çıkış özelliği жана 64 kanallı ortak darboğaz altında салыштырылган.

ModülParametreHesaplama yükü
Standart evrişim karşılaştırması135,17 bin34,60 milyon FLOP
Derinliksel evrişim karşılaştırması98,88 bin25,31 milyon FLOP
Dörtlü grup evrişimi107,52 bin27,53 milyon FLOP
Ölçek Farkındalıklı Uzman198,34 bin50,77 milyon FLOP
Anizotropik Kenar Uzmanı124,48 bin51,18 milyon FLOP
Bağlam Modülasyonu Uzmanı100,54 bin25,38 milyon FLOP
Uyarlanabilir Modalite Uzmanı98,30 bin25,17 milyon FLOP
Toplam эксперт bankası521,66 bin152,50 milyon FLOP

Bu tablo tek bir эксперт bankasının maliyetini көрсөтөт. Son модельde эксперт bankaları seçilmiş birden fazla Transformer bloğuna yerleştirildiği үчүн модель düzeyindeki toplam değerler ayrı катары raporlanmıştır.

Эволюциялык бутоо mekanizması

Dört эксперт dalının her seçili катмарda sürekli çalıştırılması модельin hafiflik hedefini zayıflatabilir. Изилдөөcılar bu nedenle окутуу sırasında эксперт katkılarını izleyen bir mekanizma geliştirmiştir.

Her экспертın hareketli ortalama katkı skoru şu formülle güncellenir:

\[ S_{\mathrm{avg}}^{(t)}=(1-\lambda)S_{\mathrm{avg}}^{(t-1)}+\lambda\cdot\mathrm{Mean}(w^{(t)}) \]

Burada:

  • Savg(t), t anındaki yumuşatılmış katkı skorudur.
  • w(t), güncel mini partideki эксперт ağırlıklarıdır.
  • Mean, örnekler üzerindeki ortalamadır.
  • λ, hareketli ortalamanın жаңы bilgiye ne hızla uyum sağlayacağını belirler.

Изилдөөda:

\[ \lambda = 0{,}1 \]

olarak kullanılmıştır.

Tek bir сүрөтde эксперт ağırlığı rastlantısal biçimde artıp azalabilir. Hareketli ortalama, geçici dalgalanmalardan көп uzun dönemli katkıya odaklanmayı amaçlar.

Uzmanın katkısı önceden belirlenen чек değerin altında kalırsa бутоо maskesi uygulanır. Изилдөөda чек:

\[ \tau = 0{,}01 \]

olarak belirlenmiştir.

Değerlendirmeler окутууin 8., 16. жана 24. dönemlerinde yapılmıştır.

Budama sonrası ağırlık эсептөөsı şöyledir:

\[ \hat{w}=\mathrm{Softmax}\left((W_g\cdot\sigma(W_{in}\cdot C_{\mathrm{all}}))\odot(1-m)-M\cdot m\right) \]

Burada:

  • m, her эксперт үчүн 0 же 1 değerini alan бутоо maskesidir.
  • m=1, байланыштуу эксперт yolunun kapatıldığını gösterir.
  • M, budanan экспертın Softmax öncesi skorunu көп чоң negatif değere iten чоң bir sayıdır.
  • ŵ, бутоо sonrasındaki жаңы эксперт ağırlıklarıdır.

Amaç гана эксперт çıktısını sıfıra çarpmak değil, инференс sırasında байланыштуу fiziksel dalın çalıştırılmasını durdurarak gerçek эсептөө tasarrufu sağlamaktır.

Kayıp fonksiyonu

Modelin сегментация окутууi ikili çapraz entropi жана Dice kaybının toplamıyla yapılmaktadır:

\[ \mathcal{L}_{\mathrm{mask}}=\lambda_1\mathcal{L}_{\mathrm{BCE}}+\lambda_2\mathcal{L}_{\mathrm{Dice}} \]

Изилдөөda iki katsayı da 1 катары ayarlanmıştır:

\[ \lambda_1=\lambda_2=1 \]

İkili çapraz entropi kaybı:

\[ \mathcal{L}_{\mathrm{BCE}}=-\frac{1}{N}\sum_{i=1}^{N}\left(y_i\log p(y_i)+(1-y_i)\log(1-p(y_i))\right) \]

Burada:

  • yi, i pikselinin gerçek etiketidir жана 0 же 1 değerini alır.
  • p(yi), модельin piksel үчүн ürettiği olasılıktır.
  • N, сүрөтdeki toplam piksel sayısıdır.

Dice kaybı:

\[ \mathcal{L}_{\mathrm{Dice}}=1-\frac{2\sum_{i=1}^{N}p(y_i)y_i+\epsilon}{\sum_{i=1}^{N}p(y_i)+\sum_{i=1}^{N}y_i+\epsilon} \]

Bu formülde ε, paydanın sıfır olmasını önleyen кичине sayısal sabittir.

Çapraz entropi her pikselin sınıfını doğru tahmin etmeye, Dice kaybı ise tahmin edilen bölгенin gerçek bölgeyle toplu örtüşmesine odaklanır.

Model bir сүрөт үчүн birden fazla maske adayı üretir. Eğitimde gerçek maskeye en iyi uyan aday seçilir:

\[ \mathcal{L}_{\mathrm{total}}=\min_{j\in\{1,\ldots,M\}}\{\mathcal{L}_{\mathrm{mask}}(P_j,Y)\} \]

Burada:

  • M, maske adayı sayısıdır.
  • Pj, j numaralı tahmindir.
  • Y, gerçek сегментация maskesidir.

HeteroMedSeg маалымат топтому

Изилдөөcılar kamuya açık медициналык сүрөт kaynaklarından yaklaşık 20.000 iki boyutlu сүрөт kesiti derleyerek HeteroMedSeg adlı deneysel маалымат топтомуni түзгөн.

Veri kümesinde sekiz модалдуулук bulunmaktadır:

  • Röntген,
  • Dermoskopi,
  • Bilgisayarlı tomografi,
  • Göz dibi сүрөттөө,
  • Manyetik rezonans сүрөттөө,
  • Ultrason,
  • Endoskopi,
  • Kolonoskopi.

Сүрөт 4’te модалдуулукler арасында örnek sayılarının eşit olmadığı görülmektedir. Bu dağılım модельin daha kalabalık модалдуулукlerden daha fazla öğrenme sinyali almasına yol açabilir.

Сүрөт adları “Modalite-Görev Varlığı” biçiminde düzenlenmiş жана модельin модалдуулук менен anatomik bağlam kodlarını dosya adından ayrıştırmasına olanak sağlanmıştır.

Veriler:

  • Yüzde 70 окутуу,
  • Yüzde 15 doğrulama,
  • Yüzde 15 test

olarak ayrılmıştır.

Metin, bölmenin бейтап düzeyinde mi, сүрөт kesiti düzeyinde mi же kaynak маалымат топтому düzeyinde mi yapıldığını ayrıntılı biçimde açıklamamaktadır. Aynı бейтапya ait komşu kesitlerin ар башка bölümlere düşmesi durumunda veri sızıntısı oluşabileceği үчүн bu ayrıntı модель performansının güvenilirliği açısından önemlidir.

Ön işleme

Bütün сүрөтler 256×256 piksele yeniden boyutlandırılmıştır.

BT сүрөтlerinde Hounsfield birimleri:

\[ -150 \leq \mathrm{HU} \leq 250 \]

aralığında kırpılmış жана daha sonra doğrusal катары normalize edilmiştir.

Bu pencere yumuşak doku ağırlıklı bir aralığı temsil eder. Ancak kemik, өпкө же көп төмөн yoğunluklu dokuların bazı sinyalleri bu kırpma sırasında kaybolabilir.

MRG жана diğer модалдуулукlerde piksel değerleri:

\[ 0 \leq x \leq 1 \]

aralığına ölçeklenmiştir.

Eğitim sırasında:

  • 0,9-1,1 арасында rastgele ölçekleme,
  • Rastgele çevirme

колдонулган.

Eğitim ayarları

YazılımPyTorch
DonanımNVIDIA GPU ortamı; GPU модельi belirtilmemiştir
OptimizasyonAdamW
Başlangıç öğrenme oranı1 × 10-4
Ağırlık azalması0,01
Öğrenme oranı programıKosinüs tavlama
Mini parti büyüklüğü24
Eğitim süresi50 dönem
Budama kontrolleri8., 16. жана 24. dönemler

GPU модельinin, rastgele tohumların жана deney tekrar sayısının belirtilmemesi окутуу süresi жана sonuç değişkenliğinin bağımsız катары değerlendirilmesini zorlaştırmaktadır.

Değerlendirme ölçütleri

Dice Benzerlik Katsayısı: Tahmin edilen maske менен gerçek maskenin ne ölçüde örtüştüğünü gösterir. Değer bire yaklaştıkça bölgesel uyum artar.

HD95: Tahmin edilen sınır менен gerçek sınır arasındaki çift yönlü mesafelerin yüzde 95’lik değerini ölçer. Düşük değer daha iyi sınır uyumunu gösterir. En uç yüzde 5’lik hatayı dışarıda bıraktığı үчүн tek bir gürültülü piksele каршы klasik Hausdorff mesafesinden daha dayanıklıdır.

Parametre sayısı: Modelin depolama жана öğrenilebilir kapasite ölçeğini gösterir. Hetero-MedSAM үчүн bildirilen değer eğitilebilir uyarlama параметрlerine odaklanmaktadır.

FLOP: Bir ileri geçişteki yaklaşık kayan nokta işlem sayısını gösterir.

FPS: Saniyede işlenen сүрөт sayısıdır. Изилдөөda Intel Xeon E5-2680 v4 CPU үстүндө ölçülmüştür.

Neden бардык катмарларa эксперт eklenmedi?

MedSAM сүрөт kodlayıcısı 12 Transformer bloğundan oluşmaktadır. Изилдөөcılar önce бардык катмарларa эксперт yerleştirmeyi denemiştir.

Tam катмарlı гетерогендик эксперт модельi:

\[ \mathrm{DSC}=0{,}8428 \]

elde etmiştir.

Bu sonuç, MedSegX’in tam катмарlı homojen эксперт модельinin 0,8567 skorundan жана Hetero-MedSAM’in son seçilen түзүлүшүndan daha төмөнtür.

Изилдөөcılar bu durumu şöyle yorumlamaktadır:

  • Sığ катмарлар негизги kenar жана doku özelliklerini çıkarır.
  • Farklı yapıda көп sayıda эксперт erken катмарларa eklendiğinde önceden öğrenilmiş негизги temsiller bozulabilir.
  • Гетерогендик yollar ар башка büyüklükte жана yönde gradyanlar üreterek görevler arası çatışmayı artırabilir.
  • Derin катмарларda anatomik жана semantik özellikler daha kararlı hâle gelir.
  • Uzmanların bu катмарларda göreve özgü düzeltme yapması daha az bozucu olabilir.

Bu sonuç, daha fazla modülün otomatik катары daha iyi performans anlamına gelmediğini көрсөтөт.

Katman sayısı жана konumu deneyleri

Изилдөөda bir, iki, üç, dört жана beş катмарa эксперт yerleştirilen көп sayıda düzen test edilmiştir.

Sığ катмар же karma катмар düzenlerinin чоң bölümü 0,83 Dice чегиnı aşamamıştır. Derin катмар düzenleri daha iyi sonuç vermiştir.

Öne çıkan sonuçlar:

YerleşimKatmanlarDSCBaşlangıç → son параметр
Üç derin катмар6, 9, 110,85344,20M → 4,05M
Dört derin катмар6, 7, 9, 110,86444,63M → 4,40M
Beş derin катмар6, 7, 8, 9, 110,86005,05M → 4,69M

Dört катмарlı düzen, beş катмарlı модельden daha az параметрyle daha жогорку sonuç vermiştir. Bu nedenle son модельde dört эксперт yerleşim noktası seçilmiştir.

Neden 6, 7, 9 жана 11. катмарлар seçildi?

Изилдөөcılar derin bölgede mümkün olan 15 ар башка dört катмар kombinasyonunu karşılaştırmıştır.

En iyi sonuç:

\[ [6,7,9,11] \rightarrow \mathrm{DSC}=0{,}8644 \]

olarak raporlanmıştır.

Bu yapı üç pencere dikkat bloğu жана bir global dikkat bloğu içermektedir. Yazarlar bu düzeni “önce yerel, sonra global” iş birliği катары yorumlamaktadır:

  • 6., 7. жана 9. катмарларdaki pencere dikkati yerel yapıları işler.
  • Uzmanlar yerel ölçek жана sınır özelliklerini tamamlar.
  • 11. катмарdaki global dikkat генiş anatomik bağlamı birleştirir.
  • Son эксперт modülü yerel özelliklerin global düzeyde bütünleşmesine katkı sağlar.

Karşılaştırmalı performans

ModelDSC ↑HD95 ↓Parametre (M) ↓FLOP (G) ↓FPS ↑
MedSAM0,80377,5093,74371,990,23
SwinLite-MedSAM0,81127,8514,29101,052,25
LiteMedSAM0,81507,479,7974,951,68
Med-FastSAM0,82346,8526,4194,152,17
Rep-MedSAM0,82956,199,2850,852,92
MedSegX, 6-7-9-110,84555,724,5069,544,69
MedSegX, бардык bloklar0,85675,435,4169,953,87
Hetero-MedSAM0,86445,374,4069,614,42

Hetero-MedSAM, изилдөөdaki en жогорку генel Dice skorunu жана en төмөн HD95 değerini elde etmiştir. FPS bakımından ise yerel MedSegX модельi biraz daha hızlıdır.

Bu tablo, модельin her ölçütte tek başına en iyi olmadığını; doğruluk, sınır kalitesi, параметр ölçeği жана hız арасында bir denge sunduğunu көрсөтөт.

FLOP değeri Rep-MedSAM’den daha жогоркуtir. Dolayısıyla “hafif” ifadesi her эсептөө ölçütünde en төмөн değere sahip olmak anlamına gelmemektedir.

Modalitelere боюнча performans

Сүрөт 5, MedSAM, tam катмарlı MedSegX жана Hetero-MedSAM’i модалдуулук düzeyinde karşılaştırmaktadır.

Изилдөөnın yorumuna боюнча Hetero-MedSAM:

  • MRG,
  • Göz dibi,
  • Röntген,
  • Dermoskopi,
  • Diğer модалдуулукler

üzerinde olumlu sonuçlar göstermiştir.

BT модалдуулукsinde ise MedSegX’in sonucu Hetero-MedSAM’den marjinal biçimde daha жогоркуtir. Bu durum tek bir генel ortalamanın бардык модалдуулукlerde üstünlük anlamına gelmediğini gösterir.

Uzmanların модалдуулукye боюнча evrimi

Таблица 5, окутуу ilerledikçe эксперт ağırlıklarının кантип değiştiğini көрсөтөт. Son dönemde her seçili катмарda ilk üç morfolojik экспертdan гана biri korunmuştur.

ModaliteKatman 6Katman 7Katman 9Katman 11
BTÖlçekBağlamÖlçekKenar
EndoskopiBağlamKenarKenarBağlam
DermoskopiKenarKenarKenarÖlçek
MRGBağlamÖlçekBağlamBağlam

Bu örüntüler mimarinin tasarım amacıyla uyumludur:

  • BT’de hedef boyutları değiştiği үчүн ölçek экспертı sık korunmuştur.
  • Endoskopide bulanık sınırlar жана генiş sahne bağlamı nedeniyle kenar жана bağlam эксперттерı birlikte öne çıkmıştır.
  • Dermoskopide düzensiz lezyon konturları nedeniyle kenar экспертı baskın hâle gelmiştir.
  • MRG’de birbirinden kopuk bölgelerin birlikte tanınması gerektiği үчүн bağlam экспертı çoğu катмарda korunmuştur.

Nitel сегментация örnekleri

Сүрөт 6’da dört zorlu клиникалык görünüm салыштырылган:

  • BT’de кичине lezyon,
  • Endoskopide bulanık sınır,
  • Dermoskopide düzensiz topoloji,
  • MRG’de birbirinden ayrılmış hedef bölgeler.

Изилдөөcılara боюнча Hetero-MedSAM, дермоскопияde sınırların aşırı yumuşatılmasını azaltmış; MRG’de ana hedef bölгенin dışında bulunan кичине kopuk bölgeleri daha iyi fark etmiştir.

Bununla birlikte MRG örneğinde global bağlama ayrılan kapasitenin ana чоң bölgedeki yerel uyumu bir miktar azaltabileceği de belirtilmektedir. Bu, модельin global bütünlük менен yerel piksel uyumu арасында bir denge kurduğunu gösterir.

Ablasyon изилдөөsı ne gösterdi?

Model bileşenleri sırayla eklenerek her экспертın katkısı incelenmiştir.

YapıDSC ↑HD95 ↓
Yalnızca Ölçek Farkındalıklı Uzman0,83126,72
Ölçek + Kenar0,83386,01
Ölçek + Kenar + Bağlam0,84525,86
Dört экспертın tamamı0,85515,49
Dört эксперт + эволюциялык бутоо0,86445,37

Her bileşenin eklenmesi Dice skorunu artırmış жана sınır hatasını düşürmüştür. Budama гана модельi küçültmekle kalmamış, performansı da iyileştirmiştir.

Изилдөөcılar bunu төмөн katkılı dalların kaldırılmasıyla эксперттер arasındaki özellik çatışmasının жана aşırı uyumun azalabileceği biçiminde yorumlamaktadır.

Bununla birlikte ablasyon tek bir ekleme sırası üzerinden yapılmıştır. Örneğin гана kenar экспертı же гана bağlam экспертı gibi бардык olası kombinasyonlar raporlanmamıştır. Dolayısıyla her эксперт үчүн bağımsız katkı miktarı tam катары ayrıştırılamamaktadır.

Изилдөөнүн күчтүү жактары

  • MedSAM tamamen yeniden eğitilmek yerine dondurulmuş өзөк үстүндө параметр-verimli uyarlama yapılmıştır.
  • Uzmanların ошол эле yapıyı tekrarlaması yerine birbirini tamamlayan dört ар башка işlev tasarlanmıştır.
  • Сүрөт içeriği модалдуулук, organ жана клиникалык görev bilgisiyle birlikte yönlendirmede kullanılmıştır.
  • Katman yerleşimi көп sayıda ablasyon deneyiyle araştırılmıştır.
  • Uzman katkıları окутуу boyunca izlenmiş жана төмөн katkılı yollar fiziksel катары budanmıştır.
  • Bölge örtüşmesi yanında sınır kalitesi HD95 менен бааланган.
  • Parametre, FLOP жана CPU hızı birlikte raporlanmıştır.
  • Sekiz ар башка сүрөт модалдуулукsi kullanılmıştır.
  • Bileşenlerin aşamalı katkısını gösteren ablasyon изилдөөsı sunulmuştur.
  • Kodun kamuya açık olduğu belirtilmiştir.

Изилдөөнүн чектөөлөрү

Hakem değerlendirmesi bulunmamaktadır: Изилдөө preprinttir жана bağımsız bilimsel hakemler tarafından henüz değerlendirilmemiştir.

Gerçek клиникалык doğrulama yoktur: Model prospektif бейтапne verisinde, rutin клиникалык iş akışında же hekim gözetiminde test edilmemiştir.

“Hafif” параметр sayısının yorumu: Bildirilen 4,40 milyon değer eğitilebilir uyarlama параметрlerine odaklanmaktadır. Dondurulmuş MedSAM өзөкsı модельden çıkarılmamıştır.

Gerçek uç cihaz testi yoktur: FPS ölçümü Intel Xeon E5-2680 v4 sunucu sınıfı CPU үстүндө yapılmıştır. Telefon, taşınabilir ультраүндүү, gömülü GPU же төмөн güçlü клиникалык terminal үстүндө ölçüm bulunmamaktadır.

Toplam эс тутум tüketimi raporlanmamıştır: RAM, GPU belleği, модель dosyası boyutu, enerji tüketimi жана gecikme dağılımı verilmemiştir.

Veri bölme ayrıntısı sınırlıdır: Eğitim, doğrulama жана test ayrımının бейтап же kaynak маалымат топтому düzeyinde yapılıp yapılmadığı açıklanmamaktadır.

Veri dengesizliği: Sekiz модалдуулукnin örnek sayıları eşit эмес. Genel ortalama daha kalabalık модалдуулукlerden daha fazla etkilenebilir.

Bağımsız dış test sınırlıdır: Изилдөө ар башка бейтапnelerden elde edilen tamamen bağımsız, модель geliştirmede kullanılmamış көп merkezli клиникалык test seti sunmamaktadır.

İstatistiksel belirsizlik raporlanmamıştır: DSC жана HD95 sonuçları үчүн standart sapma, güven aralığı же ар башка rastgele tohumlarla tekrarlanan deney dağılımları verilmemiştir.

GPU ayrıntısı yoktur: Kullanılan NVIDIA GPU модельi жана окутуу donanımı açıklanmadığından окутуу süreleri tam катары yeniden karşılaştırılamaz.

Budama hiperпараметрleri elle seçilmiştir: 0,01 чек değeri менен 8., 16. жана 24. dönem kontrolleri үчүн kapsamlı duyarlılık analizi raporlanmamıştır.

Katman yerleşimi otomatik эмес: En iyi 6, 7, 9 жана 11 düzeni manuel ablasyon taramasıyla bulunmuştur.

Budama кийин örnek düzeyinde esneklik azalır: Uzmanlar fiziksel катары kapatıldığında ар башка bir сүрөтnün ihtiyaç duyabileceği dal tekrar etkinleşemez.

Dördüncü экспертla байланыштуу açıklık sorunu: Modalite экспертının ağırlığı sabit 1 катары verilirken бутоо formülü dört экспертı kapsamakta, evrim tablosu ise гана üç экспертı көрсөтөт.

Mimari şekil tutarsızlığı: Ölçek экспертı diyagramında üç dal R=1 görünürken denklemlerde 1, 2 жана 3 генişleme oranları tanımlanmıştır.

Kutu istemi protokolü ayrıntılı эмес: Kutu istemlerinin gerçek maskelerden кантип üretildiği, ne kadar rastgelelik içerdiği жана test sırasında ne kadar doğru olması gerektiği açık biçimde raporlanmamaktadır.

İki boyutlu kesit yaklaşımı: Veri kümesi сүрөт kesitlerinden oluşmaktadır. Üç boyutlu hacim sürekliliği жана komşu kesit bilgisi doğrudan kullanılmamaktadır.

Klinik sonuç ölçülmemiştir: Daha жогорку Dice skoru otomatik катары daha doğru tanı, daha güvenli cerrahi же daha iyi бейтап sonucu anlamına gelmez.

Изилдөө эмнени айтат, эмнени айтпайт?

Изилдөөnın desteklediği ifadeИзилдөөnın desteklemediği ifade
Гетерогендик эксперттер bu deney маалымат топтомуnde сегментация sonuçlarını iyileştirmiştir.Hetero-MedSAM бардык бейтапnelerde жана бардык медициналык сүрөтlerde en iyi модельdir.
Derin катмар yerleşimi sığ катмар yerleşiminden daha başarılı olmuştur.Uzmanların her olası mimaride гана derin катмарларda bulunması gerekir.
Эволюциялык бутоо параметр sayısını azaltırken performansı artırmıştır.Budama her маалымат топтомуnde doğruluğu mutlaka artırır.
Model 4,40 milyon eğitilebilir параметрyle uyarlanmıştır.Dağıtılan бардык модель гана 4,40 milyon параметрden oluşmaktadır.
CPU testinde 4,42 FPS elde edilmiştir.Her taşınabilir же төмөн güçlü cihazda gerçek zamanlı çalışacağı kanıtlanmıştır.
DSC 0,8644 жана HD95 5,37 elde edilmiştir.Model клиникалык tanı жана дарылоо kararlarında güvenli biçimde kullanılabilir.
Uzman yönlendirmesi модалдуулукlere боюнча ар башка örüntüler göstermiştir.Uzman ağırlıkları doğrudan biyolojik же клиникалык açıklama sağlamaktadır.
Kamuya açık көп модалдуулукli verilerde olumlu sonuç alınmıştır.Çapraz бейтапne жана çapraz cihaz генellemesi kesin катары kanıtlanmıştır.

Өткөн, бүгүнкү жана келечек жагынан мааниси

Geçmiş açısından: Медициналык сүрөт сегментацияunda hafifletme изилдөөları çoğunlukla чоң сүрөт kodlayıcısını кичине bir өзөкyla değiştirmeye же бардык görevlere ошол эле adaptör түзүлүшүnı uygulamaya odaklanmıştır. Hetero-MedSAM, hafif adaptörlerin de kendi içinde ар башка işlevlere экспертlaşabileceğini göstermeye изилдөөktadır.

Bugün açısından: Изилдөө, чоң bir негизги модельin бардык ağırlıklarını yeniden eğitmeden ар башка модалдуулукlere uyarlanabileceğini жана doğru эксперт yerleşimiyle doğruluk-hız dengesinin iyileştirilebileceğini көрсөтөт.

Gelecek açısından: Bu yaklaşım şu изилдөө yönlerini destekleyebilir:

  • Uzmanların yerleşimini otomatik belirleyen sinir mimarisi araması,
  • Сүрөт başına değişebilen daha hafif dinamik yönlendirme,
  • Üç boyutlu медициналык hacimlere uyarlama,
  • Hasta жана бейтапne düzeyinde bağımsız dış doğrulama,
  • Farklı üreticilere ait cihazlar арасында генelleme testi,
  • Gerçek gömülü donanım жана taşınabilir cihazlarda enerji ölçümü,
  • Segmentasyon belirsizliğinin raporlanması,
  • Hekim düzeltmesiyle etkileşimli сегментация,
  • Düşük kontrastlı жана көп кичине lezyonlarda özel эксперт tasarımları,
  • Uzman kararlarının açıklanabilirliğinin geliştirilmesi.

Күнүмдүк жашоо жана саламаттык сактоо кызматтары жагынан мааниси

Bir медициналык сүрөт модельinin taşınabilir cihazlarda çalışabilmesi, teorik катары сүрөтlerin гана чоң veri merkezlerinde değil; ameliyathane terminallerinde, taşınabilir ультраүндүү cihazlarında, төмөн donanımlı бейтапne bilgisayarlarında же uzak sağlık merkezlerinde de işlenebilmesine yardımcı olabilir.

Daha hızlı сегментация:

  • Radyoloğun ölçüm işini hızlandırabilir.
  • Lezyon hacminin otomatik hesaplanmasına yardımcı olabilir.
  • Radyoterapi konturlarının ilk taslağını üretebilir.
  • Cerrahi planlamada anatomik yapıların görselleştirilmesini kolaylaştırabilir.

Ancak bu olasılıklar изилдөөda клиникалык катары gösterilmemiştir. Modelin gerçek бейтап bakımında kullanılması үчүн veri güvenliği, hata analizi, ар башка cihazlarda doğrulama, klinisyen denetimi, düzenleyici değerlendirme жана prospektif клиникалык изилдөөlar gereklidir.

Изилдөөнүн ыкмасы жана жыйынтыктары

Техникалык изилдөө дизайны

Изилдөө türüHesaplamalı модель geliştirme жана көп модалдуулукli сегментация karşılaştırması
Temel модельMedSAM
Uyarlama yaklaşımıParametre-verimli ince ayar жана гетерогендик эксперттер karışımı
Ana modülHeteroгенeous Contextual Mixture of Experts, HeCon-MoAE
Uzman sayısıDört işlevsel эксперт türü
Son yerleşimTransformer катмарларı 6, 7, 9 жана 11
Veri kümesiHeteroMedSeg
Сүрөт sayısıYaklaşık 20.000 iki boyutlu kesit
Modalite sayısıSekiz
Сүрөт boyutu256 × 256 piksel
DeğerlendirmeDSC, HD95, параметр, FLOP жана FPS

Modelin негизги matematiksel akışı

Bağlam birleştirme:

\[ C_{\mathrm{all}}=\mathrm{Concat}(E_m,E_a,E_t,\bar{X}) \]

İlk üç эксперт үчүн yönlendirme:

\[ [w_1,w_2,w_3]^T=\mathrm{Softmax}(W_g\sigma(W_{in}C_{\mathrm{all}})) \]

Ağırlık koşulu:

\[ \sum_{i=1}^{3}w_i=1,\qquad w_4=1 \]

Uzman жана өзөк birleşimi:

\[ Y=\mathrm{MLP}(X)+s\left(\sum_{i=1}^{3}w_iE_i(X)+w_4E_4(X)\right) \]

Hareketli katkı skoru:

\[ S_{\mathrm{avg}}^{(t)}=(1-\lambda)S_{\mathrm{avg}}^{(t-1)}+\lambda\mathrm{Mean}(w^{(t)}),\quad\lambda=0{,}1 \]

Budama eşiği:

\[ \tau=0{,}01 \]

Birlчек kayıp:

\[ \mathcal{L}_{\mathrm{mask}}=\mathcal{L}_{\mathrm{BCE}}+\mathcal{L}_{\mathrm{Dice}} \]

Son модельin bildirilen sonuçları

ÖlçütHetero-MedSAM sonucuAnlamı
DSC0,8644Tahmin жана gerçek maske арасында жогорку bölgesel örtüşme
HD955,37Karşılaştırılan модельler içindeki en төмөн sınır sapması
Parametre4,40 milyonBildirilen eğitilebilir uyarlama параметр ölçeği
FLOP69,61 milyarBir ileri geçişin yaklaşık эсептөө yükü
CPU hızı4,42 FPSIntel Xeon E5-2680 v4 üzerindeki bildirilmiş hız

Temel MedSAM’e боюнча fark

ÖlçütMedSAMHetero-MedSAMMutlak değişim
DSC0,80370,8644+0,0607
HD957,505,37-2,13
FLOP371,99 G69,61 G-302,38 G
FPS0,234,42+4,19 FPS

Uzman katkılarının aşamalı sonucu

AşamaDSCHD95
Ölçek экспертı0,83126,72
+ Kenar экспертı0,83386,01
+ Bağlam экспертı0,84525,86
+ Modalite экспертı0,85515,49
+ Эволюциялык бутоо0,86445,37

Сүрөтlerin birlikte anlattığı süreç

  • Сүрөт 1: MedSAM өзөкsına HeCon-MoAE modüllerinin кантип bağlandığını gösterir.
  • Сүрөт 2: İnsan vücudundan клиникалык сегментация görevine uzanan anatomik bilgi ağacını gösterir.
  • Сүрөт 3: Yönlendirme ağı менен dört эксперт dalının iç mimarisini ayrıntılandırır.
  • Сүрөт 4: Sekiz модалдуулук arasındaki örnek dağılımının eşit olmadığını gösterir.
  • Сүрөт 5: Modellerin BT, MRG, көз түбү, рентген, дермоскопия жана diğer gruplardaki sonuçlarını karşılaştırır.
  • Сүрөт 6: Küçük lezyon, bulanık sınır, düzensiz topoloji жана kopuk hedef bölgelerdeki nitel сегментация farklarını gösterir.

Техникалык жыйынтык

Изилдөөnın deneyleri, MedSAM’in бардык өзөкsını yeniden eğitmeden işlevsel катары ар башка эксперт yollarıyla uyarlanabileceğini көрсөтөт. En жогорку sonuç, эксперттерın ağın бардык катмарларına değil, жогорку düzeyli semantik özelliklerin oluştuğu seçili derin bloklara yerleştirilmesiyle elde edilmiştir.

Эволюциялык бутоо, гана төмөн katkılı dalları kaldırarak параметр sayısını azaltmamış; ошол эле zamanda эксперттер arasındaki olası özellik çatışmasını azaltarak DSC жана HD95 sonuçlarını iyileştirmiştir.

Bununla birlikte sonuçlar, Hetero-MedSAM’in клиникалык kullanıma hazır olduğunu же бардык медициналык сүрөт сегментация görevlerinde üstün olduğunu көрсөтпөйт. Жыйынтыктар, belirli bir derlenmiş маалымат топтому жана изилдөөчүлөрın bildirdiği deney düzeni үчүн geçerlidir.

Булак жана ыкма боюнча эскертүү

Бул мазмун, Lieqiang Liu жана Chengping Zhao tarafından hazırlanan “Hetero-MedSAM: A Lightweight Medical Image Segmentation Framework Based on Heteroгенeous Mixture of Experts and Evolutionary Pruning” аттуу изилдөөгө негизделет.

Булак, SSRN үстүндө bulunan жана Elsevier’e gönderilmek üzere hazırlanmış bir preprint изилдөө makalesidir. Metinde açıkça “This preprint research paper has not been peer reviewed” ifadesi yer almaktadır. Dolayısıyla изилдөө bağımsız bilimsel илимий рецензиядан өтө элек. Metinde dergi kabulü же makaleye ait DOI bilgisi bulunmamaktadır.

Изилдөө bir клиникалык изилдөө, бейтап müdahale deneyi же медициналык cihaz коопсуздук изилдөөsı эмес. Kamuya açık медициналык сүрөт veri kaynaklarında gerçekleştirilen эсептөөlı модель geliştirme жана karşılaştırmalı сегментация изилдөөsıdır.

Изилдөөda kullanılan медициналык сүрөтlerin kamuya açık жана yerlчек veri kaynaklarından alındığı, bu nedenle ayrıca etik kurul onayı gerekmediği belirtilmektedir. Yazarlar çıkar çatışması bildirmemiştir.

Verilerin bir Google Drive klasöründe, kodun ise изилдөөda belirtilen GitHub deposunda kamuya açık olduğu ifade edilmektedir. Bununla birlikte sonuçların tam катары yeniden üretilebilmesi; veri bölme yöntemi, istem üretimi, rastgele tohumlar, GPU модельi жана bazı mimari ayrıntıların daha açık raporlanmasını gerektirebilir.

Bildirilen 4,40 milyon параметр модельin eğitilebilir uyarlama ölçeğini ifade etmektedir. Dondurulmuş MedSAM өзөкsı инференс sırasında hâlâ kullanılmaktadır. Bu nedenle изилдөө, бардык модельin гана 4,40 milyon параметрyle depolandığını же her төмөн güçlü cihazda çalışacağını көрсөтпөйт.

CPU hız testi Intel Xeon E5-2680 v4 үстүндө yapılmıştır. Taşınabilir ультраүндүү, gömülü işlemci, telefon, төмөн güçlü клиникалык terminal же gerçek медициналык uç cihaz үстүндө performans ölçümü raporlanmamıştır.

Modelin жогорку Dice жана төмөн HD95 sonuçları сегментация performansını көрсөтөт; tanı doğruluğu, дарылоо başarısı, cerrahi коопсуздук же бейтап sonuçlarında iyileşme kanıtı эмес.

Bu makale гана yüklenen preprintteki mimari tanımlar, formüller, veri hazırlama süreci, tablolar, grafikler, ablasyonlar, karşılaştırmalı sonuçlar, sınırlılıklar жана yazar yorumları негизги alınarak hazırlanmıştır. PDF’de bulunmayan клиникалык başarı, düzenleyici onay, gerçek zamanlı cihaz performansı же бейтап yararı iddiaları eklenmemiştir.


Бөлүшүү:

Пикирлер текшерилгенден кийин жарыяланат.Пикириңиз жактыруу процессине жөнөтүлүп, ылайыктуу деп табылганда көрүнөт.

Пикир калтырыңыз

E-mail дарегиңиз жарыяланбайт. Милдеттүү талаалар * менен белгиленген

Бул сайтта кукилерге уруксат берүү тажрыйбаңызды жакшыртат. Куки саясаты