Bu tədqiqat, ikiölçülü görüntülər üzərində önceden öyrədilmiş DINOv2 görsel təməl modelinin üçölçülü beyin MR həcmlərinin təsnifatında kullanılıp kullanılamayacşəbəkəını incelemiştir. Her MR həcmi eksenel ikiölçülü kəsiklərə ayrılmış, kəsiklərden DINOv2 ilə xüsusiyyət vəktörleri çıkarılmış və bu xüsusiyyətler öyrənilə bilən bir yumşaq diqqət mekanizmasıyla tək bir həcm temsiline çevrilmişdir. Önerilən çərçivə, Alzheimer xəstəliyi Nörogörüntüleme Girişimi vərilənlər dəstinde %89,3 dəqiqlik və %95,6 AUROC; çok siniflı baş şəbəkərısı kohortunda ise %78,6 dəqiqlik və %89,2 AUROC bildirmiştir. Bununla belə tədqiqat resenziyadan keçməmişdir; institusional vəri kaynşəbəkəı, görüntüleme protokolleri və xarici doğrulama ayrıntıları çatışmayantir. Bundan əlavə deneyler real anlamda naməlum anomaliya aşkarlanmasınden çok, önceden tanımlanmış siniflərin nəzarətli təsnifatını ölçmektedir.

Modelin temel yanaşması, üçölçülü bir sinir şəbəkəını sıfırdan eğitmek yerine her MR kəsikini hazır bir ikiölçülü təməl modelle temsil etmektir. Sistem daha sonra bütün kəsiklərə eşit davranmak yerine, təsnifat açısından daha bilgiləndirici olduğunu öğrendiği kəsiklərə daha yüksek çəki vərmektedir. Eğitim sırasında çarpaz entropiya itkisina nəzarətli kontrastiv öyrənmə və sinif içi dispersiya nizamlayıcısı eklenmiştir. Bu yapı, az sayıda etiketli örnek və dengesiz siniflar altında daha ayırt edici həcm temsilleri üretmeyi amaçlamaktadır.

Türkiyə baxımından qiymətləndirmə: Yaklaşım, Türkiyədəki radyoloji tədqiqatlarında sınırlı etiketli vərilərle beyin MR təsnifat modelleri geliştirilmesi, farklı xəstənelerden gelen üçölçülü görüntülərin daha düşük hesablama maliyetiyle işlenmesi və tədqiqat amaçlı karar destək sistemlerinin değerlendirilmesi baxımından əhəmiyyətlidir. Ancaq Türkiyədə klinik kullanım düşünülmeden önce çok merkezli yerel vəriyle xarici doğrulama, farklı MR cihazları və çekim protokolleri altında dayanıklılık analizi, radioloq müqayisəsı, vəri koruma və etik kurul süreçleri, model kalibrasyonu və iləriye dönük klinik değerlendirme yapılmalıdır. Bu tədqiqatdan Türk xəstəlarındaki tanısal başarı, Türkiyədəki xəstənelerde güvənli kullanım və ya klinik nəticələrda iyiləşme çıkarılamaz.

Araştırmanın əsas sualsu nədir?

Araştırmanın əsas sualsu, təbii görüntülər üzərində önceden öyrədilmiş ikiölçülü bir təməl modelin üçölçülü tıbbi görüntülərdeki təsnifat görevlerine necə aktarılabiləceğidir. Üç boyutlu MR vəriləri həcmsel bir yapı taşırken DINOv2 gibi yaygın görsel təməl modeller ikiölçülü görüntülər üzərində tədqiqatktadır. Bu nə üçünle yalnızca her kəsiki ayrı ayrı təsnifatk, komşu kəsiklər arasındaki həcmsel bşəbəkəlamın kaybolmasına nə üçün olabilir.

Tədqiqat bu sorunu, her ikiölçülü kəsikden çıkarılan xüsusiyyətləri öyrənilə bilən diqqət çəki əmsallarıyla birleştirerek çözmeyi önermektedir. Amaç, tüm kəsiklərin basit ortalamasını almak yerine xəstəlik və ya sinif ayrımı açısından daha əhəmiyyətli olduğu öğrenilən kəsiklərin həcm temsilindeki etkisini artırmaktır.

Tədqiqat nə üçün əhəmiyyətlidir?

Üç boyutlu tıbbi görüntü modelleri genellikle çok sayıda etiketlenmiş inceleme, yüksek hesablama kapasitesi və kapsamlı yaddaş gerektirir. Tıbbi görüntülərin uzmanlar tarafından etiketlenmesi ise maliyetli və zaman alıcıdır. Nadir vəziyyətların sayısı daha da az olduğundan sinif dengesizliği ortaya çıkabilir.

Araştırma, büyük bir üçölçülü modeli baştan eğitmek yerine önceden öyrədilmiş DINOv2 modelini dondurulmuş xüsusiyyət çıkarıcı olarak kullanmıştır. Böylece yalnızca diqqət modülü ilə təsnifat başlığı görev vəriləri üzərində öyrədilmiştir. Bu tercih, az vərili koşullarda aşırı uyum riskini və eğitiləcek parametre sayısını azaltmayı hedeflemektedir.

Kullanılan DINOv2 modeli necə tədqiqatktadır?

DINOv2, etiket gerektirmeyen öz-nəzarətli öyrənməyle önceden öyrədilmiş bir Vision Transformer modelidir. Tədqiqatda 86 milyon parametreli ViT-Base sürümü istifadə edilmişdir. Model, bir görüntüyü küçük parçalara ayırarak bu parçalar arasındaki ilişkiləri öz-diqqət mekanizması üzərindən temsil etmektedir.

Her beyin MR həcmi eksenel kəsiklərə ayrılmıştır. Dilimler yeniden boyutlandırma, normalleştirme və modelin beklediği görüntü biçimine dönüştürme işlemlerinden sonra DINOv2’ye vərilmiştir. Her kəsik üçün modelin sondan bir önceki katmanından bir xüsusiyyət vəktoru çıxarılmışdır. DINOv2 çəki əmsalları təlim sırasında değiştirilmemiştir.

Dikkat tabanlı küresel birleştirme nədir?

Dikkat tabanlı küresel birleştirme, farklı MR kəsiklərinin həcm düzeyindeki təsnifatya eşit katkı yapmak zorunda olmadığı varsayımına dayanır. Bazı kəsiklər siniflar arasındaki ayrımı sşəbəkəlayan anatomik və ya patolojik xüsusiyyətləri taşırken bazıları daha az bilgi içerebilir.

Tədqiqatdaki diqqət modülü, her kəsikin DINOv2 xüsusiyyət vəktorunü tək katmanlı bir çok katmanlı algılayıcıya aktarır. Gizli boyutu 256 olan bu modül her kəsik üçün bir önem puanı üretir. Softmax işlemi puanları toplamı 1 olan çəkilara çevirir. Hacim temsili, kəsik xüsusiyyətlərinin bu çəkilarla hesaplanan çəkilı toplamıdır.

1. Üç boyutlu MR həcmi ikiölçülü eksenel kəsiklərə ayrılır.
2. Her kəsik üçün DINOv2 xüsusiyyət vəktoru çıxarılır.
3. Dikkat modülü her kəsike içerik temelli bir önem puanı vərir.
4. Softmax, puanları karşılaştırılabilir çəkilara çevirir.
5. Dilim xüsusiyyətləri çəkilı olarak toplanır və tək bir həcm vəktörü elde edilir.
6. Hacim vəktörü təsnifat başlığına aktarılır.

Bu üsul basit ortalamadan farklı olarak bilgi içermeyen kəsiklərin etkisini azaltabilir. Maksimum havuzlamadan farklı olarak yalnızca tək bir kəsik və ya xüsusiyyət değerine dayanmaz. Bununla belə kəsiklərin sıralamasını koruyan tam bir üçölçülü uzamsal model değildir; komşu kəsiklər arasındaki geometrik ilişkilər açık biçimde modellenmemektedir.

Biləşik təlim hedefi neyi amaçlamaktadır?

Tədqiqat üç itki biləşenini birlikte kullanmıştır:

• Çapraz entropi kaybı: Modelin tahmin ettiği sinif olasılıkları ilə real sinif etiketleri arasındaki uyuşmazlığı azaltır.
• Denetimli kontrastiv öyrənmə: Aynı sinifa ait həcm temsillerini xüsusiyyət uzayında birbirine yaklaştırırken farklı sinifləri birbirinden uzaklaştırır.
• Sınıf içi dispersiya nizamlayıcısı: Aynı siniftaki örneklerin temsilleri arasında aşırı değişkenlik oluşmasını engellemeyi amaçlar.

Karşıt itki üçün 0,5, sinif içi dispersiya nizamlayıcısı üçün 0,1 çəki istifadə edilmişdir. Karşıt öyrənmənin sıcaklık parametresi 0,1 olarak belirlenmiştir. Tədqiqatda toplam itki fonksiyonunun açık matematiksel formülü vərilməmişdir; bu səbəbdən biləşenlerin sxüsusi tanımının ötesinde yeni bir formül üretmek doğru olmayacaktır.

Hangi vəri setleri istifadə edilmişdir?

Birinci vərilənlər dəsti, Alzheimer xəstəlığı tədqiqatlarında istifadə olunan Alzheimer’s Disease Neuroimaging Initiativə (ADNI) koleksiyonudur. Tədqiqatda normal fərdlerle Alzheimer xəstəlığı sinifı müqayisə edilmişdir. Her iki sinif üçün 190’ar kişi olmak üzere toplam 380 inceleme bildirilmişdir.

İkinci vərilənlər dəsti, normal kontrol, migren, gerilim tipi baş şəbəkərısı və küme baş şəbəkərısı siniflərindan oluşan institusional bir kohorttur. Toplam örnek sayısı 410’dur. Ancaq vərilənlər dəstinin toplandığı qurumun adı, etiketleme meyarları, xəstəların demografik xüsusiyyətləri və görüntüleme protokolü tədqiqatda açıqlanmamışdır.

Verilər kişi düzeyinde təlim, doğrulama və test kümelerine ayrılmıştır. Aynı kişiye ait kəsiklərin farklı vəri kümelerine dşəbəkəılmasını önlemek üçün bölmenin kişi düzeyinde yapıldığı belirtilmiştir. Bu yanaşma kəsik düzeyinde vəri sızıntısını önlemek açısından əhəmiyyətlidir.

Ana nəticələr ne göstərir?

Önerilən çərçivə her iki vərilənlər dəstinde de tədqiqatda istifadə olunan beş temel müqayisə üsulunden daha yüksek nəticə vərmiştir. ADNI testinde dəqiqlik %89,3, F1 skoru %89,3 və AUROC %95,6 olarak bildirilmişdir. Baş şəbəkərısı kohortunda dəqiqlik %78,6, F1 skoru %78,6 və AUROC %89,2’dir.

ADNI vərilənlər dəstinde təklif edilən üsul, ImageNet köçürməı temel çizgisine göre dəqiqlikta 2,5 yüzde puan; sıfırdan eğitilən 3B CNN’ye göre 3,7 yüzde puan daha yüksek nəticə vərmiştir. Baş şəbəkərısı kohortunda ImageNet köçürməına göre fark 4,5 yüzde puan, 3B CNN’ye göre 5,8 yüzde puandır. Ancaq bu farkların istatistiksel anlamlılığı üçün ayrı bir müqayisə testi və ya p değeri sunulmamıştır.

Baş şəbəkərısı sinifləri arasında performans necə değişmiştir?

Baş şəbəkərısı kohortunda en yüksek F1 skoru migren sinifında %81,0, en düşük F1 skoru ise küme baş şəbəkərısı sinifında %72,1 olarak bildirilmişdir. Küme baş şəbəkərısı sinifı aynı zamanda en az təlim və test örneğine sahip siniftır. Bu nəticə, daha küçük siniflardaki performansın ayrıca değerlendirilmesi gerektiğini göstərir; ancak tədqiqat sinif ölçüsü ilə hata oranı arasında nə üçünsel bir analiz yapmamıştır.

Ablasyon deneyleri hansı biləşenin daha əhəmiyyətli olduğunu göstərir?

Ablasyon deneylerinde en büyük düşüş diqqət mekanizması kaldırıldığında görülmüştür. Dikkatin kaldırılması ADNI doğruluğunu %89,3’ten %86,8’e, baş şəbəkərısı doğruluğunu ise %78,6’dan %75,2’ye düşürmüştür. Başka bir ifadeyle diqqət modülünün katkısı iki vərilənlər dəstinde sırasıyla 2,5 və 3,4 yüzde puan olarak hesaplanmaktadır.

Karşıt öyrənmənin çıkarılması doğruluğu ADNI’de 1,8, baş şəbəkərısı kohortunda 2,3 yüzde puan azaltmıştır. Sınıf içi dispersiya nizamlayıcısınin etkisi daha sınırlıdır; düşüşler sırasıyla 1,2 və 1,5 yüzde puandır. Bu müqayisəlar, biləşenlerin model sonucuyla ilişkili olduğunu göstərir. Bununla belə farklı təlim çalıştırmaları, təsadüfi başlangıçlar və istatistiksel müqayisəlar ayrıntılı biçimde raporlanmadığı üçün katkıların kesinliği sınırlıdır.

Tədqiqatnın destəklediği nəticələr nelerdir?

• DINOv2’den çıkarılan ikiölçülü kəsik xüsusiyyətləri, öyrənilə bilən diqqət mekanizmasıyla həcm düzeyinde birleştiriləbilir.
• Önerilən yapı, tədqiqatda istifadə olunan vəri bölünmelerinde basit ortalama, maksimum havuzlama, 2B CNN, 3B CNN və standart köçürmə öyrənməsi temel çizgilərinden daha yüksek nəticə vərmiştir.
• Ablasyon nəticələrında en büyük tək biləşen katkısı diqqət tabanlı kəsik çəkilandırmasında görülmüştür.
• Karşıt öyrənmə və sinif içi dispersiya nizamlayıcısı tam modelin nəticələrına ek katkı sşəbəkəlamıştır.
• Modelin başarımı iki siniflı ADNI görevinde, dört siniflı baş şəbəkərısı görevine göre daha yüksektir.

Tədqiqat neyi sübut etmir?

• Modelin klinik tanı koyabildiğini və ya radyoloğun yerini alabiləceğini sübut etmir.
• Modelin təlim sırasında görülmeyen yeni xəstəlikları və ya naməlum anomaliləri yakalayabildiğini göstermemektedir.
• Baş şəbəkərısı təsnifatsının farklı xəstənelerde, cihazlarda və ya xəstə topluluklarında aynı sonucu vəreceğini göstermemektedir.
• Yüksek AUROC değeri, modelin klinikte güvənli, kalibre edilmiş və ya xəstə nəticələrını iyiləştiren bir sistem olduğu anlamına gelmemektedir.
• Dikkat çəki əmsallarının real bir xəstəlik mekanizmasını və ya nə üçünsel anatomik ilişkiyi gösterdiği kanıtlanmamıştır.
• Türkiyədəki xəstə qrupları və ya sşəbəkəlık kuruluşları üçün doğrudan nəticə sunmamaktadır.

Görsel açıklamalarındaki çatışmayanlik nə məna daşıyır?

Tədqiqat, birinci şeklin ADNI örneklerindeki kəsik diqqət çəki əmsallarını, ikinci şeklin ise həcm temsillerinin t-SNE izdüşümünü gösterdiğini belirtmektedir. Metne göre model Alzheimer xəstəlığında hipokampal atrofi və vəntrikül genişlemesiyle ilişkiləndirilən orta beyin kəsiklərine daha yüksek çəki vərmiştir. t-SNE gösteriminin de normal və Alzheimer sinifləri arasında ayrışma sunduğu iləri sürülmektedir.

Ancaq yüklenen sürümde her iki şeklin yalnızca başlığı bulunmaktadır; diqqət eğriləri, MR kəsikləri və t-SNE grafiği görünmemektedir. Bu nə üçünle metindeki görsel yorumlar bşəbəkəımsız olarak incelenememiştir. Bundan əlavə diqqət şəbəkəırlığı tək başına modelin karar nə üçünini güvənilir biçimde açıklayan bir klinik kanıt olarak kabul edilmemelidir.

Tədqiqatnın güclü tərəfləri nelerdir?

• İki farklı vərilənlər dəsti və iki farklı təsnifat zorluğu istifadə edilmişdir.
• Veri bölünmesinin kişi düzeyinde yapıldığı belirtilmiştir.
• Basit bir temel çizgi yerine beş farklı müqayisə üsulu sunulmuştur.
• Dikkat, kontrastiv öyrənmə və dispersiya nizamlayıcısı ayrı ayrı ablasyon deneyleriyle değerlendirilmiştir.
• Doğruluk dışında dəqiqlik, həssaslıq, F1 və AUROC değerleri raporlanmıştır.
• Sonuçların değişkenliğini değerlendirmek amacıyla 1.000 yinelemeli bootstrap kullanıldığı belirtilmiştir.

Tədqiqatnın məhdudiyyətləri nelerdir?

En əhəmiyyətli məhdudiyyət, vərilərin və deneylerin tam olarak yeniden üretiləbilmesi üçün gerekli ayrıntıların çatışmayan olmasıdır. Kurumsal kohortun kaynşəbəkəı, xəstə seçimi, etiketleme süreci, cihaz xüsusiyyətləri, MR sekansları və vəri erişimi açıqlanmamışdır. Kullanılan ön işleme adımları genel düzeyde vərilmiş; kafatası çıkarma, atlas kaydı, yeniden örnekleme və sıxlıq normalleştirmesinde istifadə olunan yazılımlar ilə parametreler belirtilmemiştir.

ADNI dışındaki vəri tək bir institusional kohorta dayanmaktadır. Çok merkezli xarici doğrulama bulunmamaktadır. Model kalibrasyonu, karar eşiği, yanlış pozitif və yanlış negatif örneklerin sayısı, qarışıqlıq matrisi, özgüllük və pozitif öngörü değeri gibi klinik yorum açısından əhəmiyyətli ayrıntılar sunulmamıştır.

Tədqiqatda “anomaliya aşkarlanması” ifadesi kullanılmasına rşəbəkəmen üsul normal vəriden sapmayı açık uçlu biçimde belirleyen tək siniflı və ya denetimsiz bir sistem değildir. Model, təlim sırasında tanımlanmış sinifləri birbirinden ayırmaktadır. Araştırmacı da bu vəziyyətu məhdudiyyətlar arasında kabul etmekte və real anomaliya aşkarlanması üçün yalnızca normal vərilərle eğitilən tək siniflı bir yapının gelecekte incelenmesini önermektedir.

Tədqiqatnın Yöntemi və Bulguları

Veri hazırlama və model akışı

Kayıp fonksiyonu və vəri artırma

Toplam təlim hedefinde çapraz entropi ana biləşen olarak istifadə edilmişdir. Denetimli karşıt itki 0,5, sinif içi dispersiya nizamlayıcısı 0,1 çəkila eklenmiştir. Veriləre təsadüfi döndürme, çevirme və sıxlıq dönüşümleri uygulanmıştır. Ancaq dönüşümlerin aralıkları və olasılıkları raporlanmamıştır.

Değerlendirme meyarları

• Doğruluk: Doğru siniflandırılan test örneklerinin bütün örneklere oranı.
• Kesinlik: Bir sinifa ait olduğu tahmin edilən örneklerin ne kadarının realten o sinifa ait olduğunu gösterir.
• Duyarlılık: Gerçek sinif örneklerinin ne kadarının model tarafından yakalandığını gösterir.
• F1 skoru: Kesinlik və duyarlılığın harmonik ortalamasıdır.
• AUROC: Modelin farklı karar eşikleri boyunca sinifləri ayırabilme gücünü özetler.

Metriklerin sinif bazında hesaplanarak ortalandığı belirtilmiştir. Belirsizlik tahmini üçün 1.000 bootstrap yinelemesi istifadə edilmişdir. Bununla belə tablolardaki “±” değerlerinin hansı güvən düzeyini temsil ettiği açıkça yazılmamıştır.

Sonuçların təknik yorumu

ADNI görevindeki %95,6 AUROC, modelin istifadə olunan test kümesinde normal və Alzheimer siniflərinı sıralama baxımından güclü bir ayrım ürettiğini göstərir. Ancaq test kümesi yalnızca 80 kişiden oluşmaktadır. AUROC değeri tək başına belirli bir klinik karar eşiğindeki yanlış negatif və yanlış pozitif sayılarını göstermemektedir.

Baş şəbəkərısı kohortundaki %89,2 AUROC və %78,6 dəqiqlik, dört siniflı görevin iki siniflı ADNI görevinden daha zor olduğunu göstərir. En düşük sinif başarımı küme baş şəbəkərısında görülmüştür. Bu sinifta test kümesi yalnızca 15 kişiden oluştuğundan ölçümlerdeki qeyri-müəyyənlik diğer siniflardan daha yüksek olabilir.

Ablasyon analizleri diqqət mekanizmasının modeldeki en etkili ek biləşen olduğunu dəstəkləyir. Yine de tədqiqat farklı diqqət mimariləri, 3B təməl modeller və ya tıbbi görüntülər üzərində önceden öyrədilmiş təməl modellerle kapsamlı bir müqayisə yapmamıştır. Bu nə üçünle nəticələr diqqət yanaşmasının bütün alternatiflerden üstün olduğunu değil, yalnızca tədqiqatda seçilən temel çizgiləre göre daha yüksek nəticə vərdiğini göstərir.

Kaynak və Yöntem Notu

Tədqiqatnın tam özgün adı: Levəraging Foundation Models for 3D Image Anomaly Detection

Yazar: Michael Harris

Yazar sıralaması: Tek müəlliflı tədqiqat

Eş birinci müəllif: Bulunmuyor.

Sorumlu müəllif: SSRN kaydında Michael Harris rabitə müəllifı olarak gösterilmektedir.

Kurum: The Univərsity of Texas at Austin, Texas, ABD

DOI:10.2139/ssrn.6979438

Dergi: Tədqiqat bir dergide yayımlanmamıştır.

Yayınevi: Özgün bir dergi nəşrevi bilgisi bulunmamaktadır.

Platform: SSRN

Yayın yılı: 2026

Kaynak türü: Deneysel makine öyrənməsi tədqiqatsı niteliğinde preprint

Hakemlik vəziyyətu: Bu tədqiqat hakem değerlendirmesinden geçmemiş bir preprinttir; nəticələrı bu məhdudiyyət diqqəte alınarak okunmalıdır.

Resmî keçid:SSRN tədqiqat sayfası

Bu məqalə yüklenen 37 sayfalık tədqiqat baştan sona incelenerek hazırlanmıştır. Bilimsel üsul, vəri sayıları və performans nəticələrı yalnızca tədqiqatda bildirilən bilgiləre dayanmaktadır. Tədqiqatda bulunmayan klinik başarı, tanı güvənliği və ya Türkiye’ye özgü performans iddiası eklenmemiştir.

Kaynak kimliğinde açıklığa kavuşturulması gereken bir uyğunsuzluq bulunmaktadır: görünür tədqiqat kapşəbəkəı və SSRN kaydı Michael Harris’i müəllif gösterirken faylnın təknik üstvərisindeki müəllif alanında farklı bir ad yer almaktadır. Bundan əlavə institusional baş şəbəkərısı kohortunun kaynşəbəkəı, görüntüleme protokolleri, ayrıntılı etik süreç və vəri erişim koşulları açıqlanmamışdır.

Tədqiqat klinik bir doğrulama tədqiqatsı değildir. Model radioloqlarla karşılaştırılmamış, iləriye dönük klinik ortamda denenmemiş, farklı xəstənelerde xarici doğrulamadan geçirilmemiş və xəstə nəticələrı üzərindəki etkisi değerlendirilmemiştir. Sonuçlar yalnızca bildirilən vəri kümeleri, vəri bölünmeleri və deney koşulları üçün geçerlidir.