Тадқиқоти академӣ, забони фаҳмо

Verianla | Тадқиқоти академӣ ва илм ба забони тоҷикӣ

05 октябр 2026, душанбе
VERİANLAНашри мустақили илмӣ
Кушодан ё бастани меню
...
Саҳифаи асосӣ / Илмҳои амалӣ / Илми компютер / Таъсири Вазнгузории Хусусиятҳо бо Crossover-и Бар Пояи Harmony дар Эволютсияи Дифференсиалӣ ба Иҷрои KNN
Илми компютер

Таъсири Вазнгузории Хусусиятҳо бо Crossover-и Бар Пояи Harmony дар Эволютсияи Дифференсиалӣ ба Иҷрои KNN

Вазнгузории хусусиятҳо равиши табдили додаҳоест, ки дар модели омӯзиши мошин аз фарзияи яксон будани аҳамияти ҳамаи хусусиятҳо даст кашида, ба ҳар хусусият коэффисиенти аҳамияти гуногун доданро ҳадаф мегирад.

03/10/2026  Veri Anla 102 боздид
Таъсири Вазнгузории Хусусиятҳо бо Crossover-и Бар Пояи Harmony дар Эволютсияи Дифференсиалӣ ба Иҷрои KNN

Вазнгузории хусусиятҳо, равиши табдили додаҳоест, ки дар модели омӯзиши мошин аз фарзияи яксон будани аҳамияти ҳамаи хусусиятҳо даст кашида, ба ҳар хусусият коэффисиенти аҳамияти гуногун доданро ҳадаф мегирад. Ин таҳқиқот махсусан барои алгоритми k-наздиктарин ҳамсоя (KNN), ки ба ҳисобҳои масофа такя мекунад, оптимизатсияи вазнҳои хусусиятҳоро тавассути Эволютсияи Дифференсиалӣ (Differential Evolution, DE) ва иваз кардани оператори классикии crossover бо механизми наве, ки аз принсипҳои Harmony Search илҳом гирифтааст, меомӯзад.

Дар усули пешниҳодшудаи DE-HX ҳар як ҳалли номзад вектори вазнҳои хусусиятҳо мебошад. Бо ин вазнҳо маҷмӯаи додаҳо аз нав миқёсбандӣ мешавад ва дақиқии 5-fold cross-validation-и KNN ҳамчун функсияи мувофиқат истифода мегардад. Ба ҷойи якҷоя кардани вектори мутант ва вектори ҳадаф бо binomial crossover дар DE-и классикӣ, DE-HX популятсияи мавҷударо ҳамчун хотира истифода бурда, барои ҳар андоза дар асоси Harmony Memory Considering Rate (HMCR) ва Pitch Adjusting Rate (PAR) арзишҳои нави номзад эҷод мекунад.

Усул дар 20 маҷмӯаи додаҳои гуногун аз манбаъҳои Kaggle ва UCI арзёбӣ шудааст. Натиҷаҳо нишон медиҳанд, ки DE-HX дар бисёр маҷмӯаҳои дода нисбат ба DE-и классикӣ, KNN-и стандартӣ, distance-weighted KNN ва ReliefF+KNN Accuracy ва Macro-F1-и баландтар таъмин кардааст. Хусусан дар маҷмӯаҳои додае чун ME/CFS vs. Depression, Diabetes Multiclass, Drug 200, Cryotherapy ва Migraine Classification беҳбудиҳои назаррас гузориш шудаанд.

Бо вуҷуди ин, усул механизми универсалии беҳбудӣ нест. Ҳангоми интиқоли вазнҳои DE-HX ба ANN ва Random Forest, натиҷаҳо вобаста ба маҷмӯаи дода метавонанд беҳтар шаванд, бетағйир монанд ё коҳиш ёбанд. Хулосаи умумии таҳқиқот ин аст, ки манфиати табиӣ ва устувори вазнҳои оптимизатсияшудаи хусусиятҳо бештар дар моделҳое чун KNN дида мешавад, ки мустақиман аз геометрияи масофа вобастаанд.

Чаро KNN аз вазнгузории хусусиятҳо таъсир мегирад?

KNN ҳангоми таснифи намунаи нав масофаи онро бо дигар намунаҳои маҷмӯаи дода ҳисоб мекунад ва синфи аксарияти \(k\) ҳамсояи наздиктаринро ба намунаи нав таъин мекунад.

Дар масофаи стандартии Евклидӣ саҳми ҳамаи хусусиятҳо дар як миқёси математикӣ арзёбӣ мешавад. Аммо дар маҷмӯаҳои додаҳои воқеӣ баъзе хусусиятҳо синфҳоро хеле хуб ҷудо мекунанд, дар ҳоле ки баъзеи дигар барои тасниф иттилои камтар дошта метавонанд.

Аз ин рӯ, таҳқиқот пешниҳод мекунад, ки арзиши ҳар хусусият бо вазни ҷудогона зарб карда шавад:

\[ a_i^{(w)} = w_i a_i \]

Дар ин ҷо \(a_i\) арзиши аслии хусусият, \(w_i\) вазни хусусияти дахлдор ва \(a_i^{(w)}\) арзиши вазнгузоришуда мебошад.

Бо зиёд шудани вазн, хусусияти дахлдор дар ҳисоби масофаи KNN нақши муайянкунандатар мегирад. Вазни хурд бошад, саҳми он андозаро дар масофа коҳиш медиҳад.

DE-HX Аз Эволютсияи Дифференсиалии Классикӣ Чӣ Фарқ Дорад?

DE-HX сохтори популятсия, арзёбӣ ва интихобро дар алгоритми классикии Эволютсияи Дифференсиалӣ нигоҳ медорад; аммо марҳилаи стандартии binomial crossover-ро ҳазф карда, ба ҷойи он механизми эҷоди номзадро аз рӯи андоза истифода мебарад, ки аз принсипҳои Harmony Search илҳом гирифтааст.

Эволютсияи Дифференсиалии Классикӣ

DE усули метаэвристикии популятсиябунёд барои масъалаҳои оптимизатсияи пайваста мебошад. Дар таҳқиқот ҳар фард:

\[ W=[w_1,w_2,\ldots,w_n] \]

вектори вазнҳои хусусиятҳоро ифода мекунад.

Вектори мутант ба таври классикӣ:

\[ v_i^{g}=x_{r1}^{g}+F(x_{r2}^{g}-x_{r3}^{g}) \]

бо ин баробарӣ ҳосил мешавад.

Дар ин ҷо \(F\) омили миқёсбандии мутация аст; \(r_1\), \(r_2\) ва \(r_3\) фардҳои гуногуне мебошанд, ки аз популятсия интихоб шудаанд.

Сипас вектори мутант ва вектори ҳадаф бо binomial crossover якҷоя карда мешаванд:

\[ u_{i,j}^{g}= \begin{cases} v_{i,j}^{g}, & rand_j \leq CR \text{ veya } j=j_{rand}\\ x_{i,j}^{g}, & \text{aksi halde} \end{cases} \]

Агар вектори нави озмоишӣ мувофиқати баландтар диҳад, он ҷойи фарди мавҷударо мегирад.

Эҷоди номзад бар асоси Harmony

Фарқи асосии DE-HX дар марҳилаи crossover аст. Система Harmony Memory-и ҷудогона намесозад. Популятсияи мавҷудаи DE ҳамзамон ҳамчун хотирае хизмат мекунад, ки ҷузъҳои номзад аз он интихоб мешаванд.

Барои ҳар андозаи \(j\):

  • агар эҳтимолият \(HMCR\) бошад, арзиш аз ҳалли дигари популятсияи мавҷуда гирифта мешавад,
  • дар акси ҳол он ба таври тасодуфӣ аз ҳудудҳои ҷустуҷӯии \([L_b,U_b]\) ҳосил мешавад,
  • агар эҳтимолият \(PAR\) бошад, ба арзиши интихобшуда танзими маҳаллӣ татбиқ мешавад,
  • арзиш дар ҳудудҳои иҷозашуда нигоҳ дошта мешавад.

Дар таҳқиқот:

HMCR = 0,85

ва

PAR = 0,75

истифода шудаанд.

Ин сохтор тавозуни exploration–exploitation байни истифодаи ҳалли хуби мавҷуда ва ҷустуҷӯи минтақаҳои навро нисбат ба crossover-и классикӣ ба таври дигар танзим мекунад.

Функсияи мувофиқат

Ҳар вектори вазни номзад аввал ба маҷмӯаи додаҳо татбиқ мешавад. Сипас додаҳои вазнгузоришуда бо KNN тасниф мешаванд.

Дар таҳқиқот функсияи мувофиқат:

\[ fitness(W)=Accuracy(KNN(D\odot W)) \]

ба ҳамин мантиқ асос меёбад.

Дар ин ҷо \(D\) маҷмӯаи додаҳо, \(W\) вектори вазн ва \(\odot\) вазнгузории хусусиятӣ-асосро ифода мекунад.

Барои KNN \(k=5\) ва масофаи Евклидӣ истифода шудааст.

Додаҳо Чӣ Гуна Омода Шуданд?

Дар таҳқиқот 20 маҷмӯаи додаи гуногун аз манбаъҳои Kaggle ва UCI Machine Learning Repository истифода шудааст.

Маҷмӯаҳои дода соҳаҳои гуногуни масъала, аз ҷумла саломатӣ, рафтор, шаҳодатномаи ронандагӣ, таркиби нӯшокӣ, рафтори бозӣ, шахсият, сифати об ва таснифи шаробро фаро мегиранд.

Тағйирёбандаҳои категориявӣ бо ду роҳ табдил дода шудаанд:

  • барои категорияҳое, ки тартиби табиӣ доранд, ordinal encoding,
  • барои категорияҳое, ки муносибати тартибӣ надоранд, one-hot encoding.

Арзишҳои ададӣ ба фосилаи 1–10 нормализатсия шудаанд:

\[ Norm(x_i) = \frac{x_i-x_{min}} {x_{max}-x_{min}} \times 9 + 1 \]

Муаллифон қайд мекунанд, ки ин миқёсро махсусан барои кор накардан бо арзишҳои хеле хурди floating-point ва осон кардани ислоҳи хатоҳо истифода кардаанд.

Усул ва Натиҷаҳои Таҳқиқот

Протоколи таҷрибавӣ

Ҳамаи таҷрибаҳо бо 5-fold cross-validation анҷом дода шудаанд.

Параметрҳои асосӣ:

ПараметрАрзиш
Шумораи ҳамсояҳои KNN5
МасофаЕвклидӣ
Популятсияи DE12
Омили миқёсбандии DE \(F\)1
DE-HX HMCR0,85
DE-HX PAR0,75
Фосилаи вазн[0,1)
Random seed42

DE ва DE-HX аз сохтори ибтидоии якхела, функсияи мувофиқати якхела ва меъёри қатъкунии асосёфта ба stagnation истифода кардаанд.

Муқоисаи DE-HX ва DE-и стандартӣ

Маҷмӯаи додаDE-HX AccuracyDE Accuracy
Cirrhosis Patient Survival61,2855,76
Cryotherapy97,7892,22
Diabetes Multiclass98,8796,23
Drug 20099,0097,50
ME/CFS vs. Depression99,6090,80
Migraine Classification91,5086,25
Spotify Recommendations96,4193,85

DE-HX дар ҳар маҷмӯаи дода бартарӣ надорад. Масалан, дар баъзе маҷмӯаҳои дода чун Body Performance ва Customer Behavior, DE-и стандартӣ Accuracy-и баландтар додааст. Аз ин рӯ, усул набояд ҳамчун оптимизатсияе тафсир шавад, ки дар ҳамаи маҷмӯаҳои дода бартарии кафолатнок медиҳад.

Муқоисаи WeightedKNN ва ReliefF+KNN

DE-HX ҳамчунин бо distance-weighted KNN ва KNN-и асосёфта ба ReliefF муқоиса шудааст.

Масалан:

  • Diabetes Multiclass: DE-HX %98,87, WeightedKNN %85,98, ReliefF+KNN %92,42
  • Heart Failure Clinical: DE-HX %90,30, WeightedKNN %84,75, ReliefF+KNN %83,44
  • Migraine Classification: DE-HX %91,50, WeightedKNN %79,50, ReliefF+KNN %81,00
  • Spotify Recommendations: DE-HX %96,41, WeightedKNN %90,26, ReliefF+KNN %91,79

Ин натиҷаҳо нишон медиҳанд, ки дар тарҳи таҷрибавии баррасишуда DE-HX дар бисёр маҷмӯаҳои дода як равиши қавии вазнгузории хусусиятҳо мебошад.

Беҳбудиҳо нисбат ба KNN-и стандартӣ

Афзоиши Accuracy-и KNN-и вазнгузоришуда бо DE-HX нисбат ба KNN-и стандартӣ дар баъзе маҷмӯаҳои дода назаррас аст:

Маҷмӯаи додаKNNDE-HXАфзоиш
ME/CFS vs. Depression65,6099,6034,00 хол
Drug 20080,0099,0019,00 хол
Diabetes Multiclass80,8898,8717,99 хол
Migraine Classification78,5091,5013,00 хол
Body Performance55,6968,4412,75 хол

Беҳбудиҳои Macro-F1

Аз рӯи Macro-F1 низ дар баъзе маҷмӯаҳои дода фарқҳои муҳим гузориш шудаанд:

  • ME/CFS vs. Depression: +39,16 хол
  • Migraine Classification: +37,21 хол
  • Drug 200: +27,13 хол
  • Diabetes Multiclass: +18,21 хол
  • Body Performance: +12,70 хол

Macro-F1 махсусан дар маҷмӯаҳои додае, ки тақсимоти синфҳо метавонад номутавозин бошад, нисбат ба танҳо Accuracy арзёбии мутавозинтари иҷроиш медиҳад.

Санҷишҳои Оморӣ Чӣ Нишон Медиҳанд?

Санҷиши Friedman нишон дод, ки дар рейтинги умумии ҳафт усул фарқи маънодор вуҷуд дорад:

\[ \chi^2(6)=61{,}870,\quad p<0{,}001 \]

Рейтингҳои миёна:

УсулРейтинги миёна
DE-HX6,58
DE5,25
Random Forest4,58
ANN3,50
ReliefF+KNN3,20
WeightedKNN2,53
KNN2,38

Пас аз ислоҳи Holm post hoc, DE-HX аз RF, ANN, ReliefF+KNN, WeightedKNN ва KNN ба таври маънодор фарқ дошт. Аммо арзиши ислоҳшуда байни DE-HX ва DE-и стандартӣ:

p = 0,0515

буд. Ин арзиш каме болотар аз ҳади анъанавии 0,05 аст.

Дар муқобил, дар санҷиши мустақими Wilcoxon signed-rank:

DE-HX vs. DE: p = 0,006, r = 0,652

натиҷа гузориш шудааст.

Аз ин рӯ, ду таҳлили оморӣ бояд дар заминаҳои гуногуни ислоҳ хонда шаванд; умумисозии натиҷаҳои манбаъ ба шакли «DE-HX дар ҳамаи санҷишҳо бартарии бебаҳси маънодор нишон дод» дуруст нест.

Оё Вазнҳои DE-HX ANN ва Random Forest-ро Ҳам Беҳтар Мекунанд?

Ҳамеша не. Вазнҳои омӯхташудаи DE-HX ба ANN ва Random Forest бе оптимизатсияи иловагии махсуси модел татбиқ шудаанд. ANN дар баъзе маҷмӯаҳои дода беҳбудии назаррас нишон дода, дар баъзеи дигар коҳиш ёфтааст; дар Random Forest бошад тағйирот асосан хурд ва вобаста ба маҷмӯаи дода аст.

Таъсир ба ANN

Масалан, ANN Accuracy:

  • дар Cryotherapy аз %85,56 то %93,26,
  • дар Diabetes Multiclass аз %80,30 то %86,31,
  • дар ME/CFS vs. Depression аз %92,50 то %98,70

афзоиш ёфтааст.

Аммо дар Migraine Classification аз %89,50 то %82,46 коҳиш ёфтааст.

Ин рафтор нишон медиҳад, ки вазнҳои берунии хусусиятҳо на ҳамеша бо динамикаи дохилии омӯзиши намояндагии шабакаи нейронӣ мувофиқ мешаванд.

Таъсир ба Random Forest

Натиҷаҳои Random Forest камтар тағйир меёбанд. Дар манбаъ ин ба он нисбат дода шудааст, ки RF аллакай механизмҳои дохилии интихоби хусусият, монанди random feature selection ва bagging, дорад.

Аз ин рӯ, вазнгузории берунии пешакӣ татбиқшуда ба RF мисли KNN манфиати иловагии равшан намедиҳад.

Соҳаи табиии истифодаи усул

Тибқи арзёбии умумии манбаъ, DE-HX таъсири қавитарини худро дар моделҳои масофабунёде, ки мустақиман аз геометрияи фазои хусусиятҳо вобастаанд нишон медиҳад.

KNN аз ин ҷиҳат ҳадафи табиӣ аст, зеро ҳар вазни хусусият ҳисоби масофаро мустақиман тағйир медиҳад.

Маҳдудиятҳои Таҳқиқот Кадомҳоянд?

  • Якчанд иҷроиши мустақили оптимизатсия анҷом дода нашудааст.
  • Nested cross-validation истифода нашудааст.
  • Муқоисаҳо бо runtime-и собит ё буҷаи баробари ҳисоббарорӣ анҷом дода нашудаанд.
  • Convergence plot пешниҳод нашудааст.
  • Барои HMCR, PAR ва дигар гиперпараметрҳо sensitivity analysis-и муфассал анҷом дода нашудааст.
  • Устувории вазнҳои омӯхташуда байни иҷроишҳо таҳлил нашудааст.
  • Таҷрибаҳои интиқоли ANN ва RF бе tuning-и махсуси модел анҷом дода шудаанд.
  • Натиҷаҳо ба маҷмӯаи дода вобастаанд ва DE-HX дар ҳар ҳолат иҷроиши баландтарин намедиҳад.

Муаллифон барои корҳои оянда таҳлили runtime ва convergence, ҳамгироии ҷустуҷӯи маҳаллӣ, сохторҳои гибридӣ ва ensemble ва истифодаи вазнҳои наздик ба сифр барои feature selection-ро пешниҳод мекунанд.

Ёддошт оид ба Манбаъ ва Усул

Ин муҳтавои Verianla мустақилона бар асоси кори академии Assessing Performance and Crossover Operators on Differential Evolution for Attribute Weighting таҳия шудааст, ки аз ҷониби Andrea Ortega-Guzmán, Salvador Ibarra-Martínez, José Antonio Castan-Rocha, J. David Teran-Villanueva, Mayra Guadalupe Treviño-Berrones ва Aurelio Alejandro Santigo-Pineda омода шудааст.

Мақола дар маҷаллаи AI соли 2026, Ҷилди 7, Мақолаи 163 нашр шудааст. DOI: 10.3390/ai7050163. Санаи нашр 7 майи 2026 аст. Таҳқиқот аз ҷониби MDPI бо иҷозатномаи Creative Commons Attribution (CC BY) ҳамчун дастрасии кушода нашр шудааст.

Усули асосии таҳқиқот раванди оптимизатсияи асосёфта ба Эволютсияи Дифференсиалӣ мебошад, ки ба ҳар хусусияти маҷмӯаи дода вазни пайваста таъин мекунад. DE-HX-и пешниҳодшуда марҳилаи binomial crossover-и DE-и классикиро бо механизми эҷоди номзад, ки аз Harmony Search илҳом гирифтааст, иваз мекунад. Популятсияи мавҷудаи DE бе Harmony Memory-и ҷудогона ҳамчун хотираи манбаъ истифода мешавад.

Дақиқии 5-fold cross-validation-и KNN функсияи мувофиқати оптимизатсия аст. Дар таҷрибаҳо барои KNN k=5 ва масофаи Евклидӣ; барои DE-HX HMCR=0,85 ва PAR=0,75; барои DE-и классикӣ F=1 истифода шудааст.

Усул дар 20 маҷмӯаи дода арзёбӣ шуда, аз рӯи Accuracy ва Macro-F1 бо DE-и стандартӣ, KNN, WeightedKNN, ReliefF+KNN, ANN ва Random Forest муқоиса шудааст. Санҷишҳои Friedman, Holm ва Wilcoxon барои муқоисаҳои умумӣ ва ҷуфтии оморӣ истифода шудаанд.

Ҳарчанд гузориш шудааст, ки DE-HX дар санҷиши мустақими Wilcoxon нисбат ба DE-и стандартӣ бартарии маънодор нишон додааст, пас аз ислоҳи муқоисаҳои сершумори Holm фарқи DE-HX–DE p=0,0515 будааст. Аз ин рӯ, натиҷаҳои оморӣ бояд бо нигоҳ доштани заминаи санҷиш тафсир шаванд.

Муаллифон хабар додаанд, ки маблағгузории беруна гирифта нашудааст. Дастрас будани коди таҷриба ва маҷмӯаҳои додаҳои аслӣ ва пешакӣ коркардшуда қайд шудааст.


Мубодила:

Шарҳҳо пас аз баррасӣ нашр мешаванд.Шарҳи шумо ба раванди тасдиқ фиристода шуда, пас аз пазируфта шудан намоён мегардад.

Шарҳ гузоред

Нишонии почтаи электронии шумо нашр намешавад. Майдонҳои ҳатмӣ бо * нишон дода шудаанд

Иҷозат додан ба кукиҳо таҷрибаи шуморо дар ин сомона беҳтар мекунад. Сиёсати кукиҳо