Kwanza swali kuu: je, akili bandia inaweza kupata mlio?

Baadhi ya mifumo ya akili bandia haishughulikii tu kutabiri; pia hutafuta fomula za kihisabati zinazolingana na data. Hii inaitwa urejeleaji wa alama.

Kwa mfano, tunaweza kuwa na joto, shinikizo, kasi au vipimo vingine. Lengo la urejeleaji wa alama ni kupata fomula inayoeleza uhusiano kati ya data hizi. Fomula hii wakati mwingine inaweza kuwa rahisi:

y = 2x + 3

Wakati mwingine inaweza kuwa ngumu zaidi:

y = 10 / (5 + (x - 3)² + (z - 3)²)

Katika mifumo kama hii lengo si «utabiri sahihi» pekee. Pia ni muhimu kupata usemi wa kihisabati unaosomeka na unaoweza kufasiriwa na binadamu.

Kwa hiyo urejeleaji wa alama ni eneo muhimu kwa ugunduzi wa kisayansi, uundaji wa mifano ya uhandisi, uchambuzi wa data na akili bandia inayoelezeka.

Uprogramu wa kijenetiki maana yake nini?

Uprogramu wa kijenetiki ni njia ya utafutaji inayochochewa na mageuzi ya kibiolojia. Kwa maneno rahisi, kompyuta hutengeneza matoleo mengi ya suluhu. Kisha inayajaribu, kuchagua bora na kuunda vizazi vipya.

Katika mchakato huu kuna mbinu kuu mbili:

Mutationsi:
Mabadiliko madogo ya nasibu hufanywa kwenye suluhu ya mgombea.

Crossover / Rekombinasyon:
Sehemu za suluhu mbili za mgombea huunganishwa ili kuunda wagombea wapya.

Katika mageuzi ya asili, viumbe huhamisha taarifa za kijenetiki kwa vizazi vijavyo. Katika uprogramu wa kijenetiki pia programu au fomula za mgombea hubadilishwa, kuchanganywa na kuboreshwa kwa njia hiyo hiyo.

Cartesian Genetic Programming ni nini?

Njia inayolengwa na makala ni Cartesian Genetic Programming, kwa kifupi CGP. Kwa Kiswahili inaweza kusemwa «Uprogramu wa kijenetiki wa Cartesian».

Katika CGP programu haziwakilishwi kama msimbo wa mstari kwa mstari wa kawaida, bali kama muundo wa grafu. Grafu hii ina nodi. Kila nodi inaweza kutekeleza operesheni: kuongeza, kutoa, kuzidisha, kugawanya au kazi nyingine za kihisabati.

Jedwali la 1 linaonyesha muundo huu. Genotip, yaani uwakilishi wa ndani, huandikwa kama orodha ya nambari. Orodha hii inaeleza nodi gani inafanya operesheni gani na imeunganishwa na pembejeo gani. Fenotip ni programu inayofanya kazi kwa kweli. Yaani grafu ya hesabu inayotumika iliyotatuliwa kutoka orodha ya nambari.

Hapa kuna tofauti muhimu:

Baadhi ya nodi huuchangia matokeo kwa njia hai.
Baadhi ya nodi zipo kwenye genotip lakini hazitumiwi katika hesabu.

Sehemu hizi zisizotumika huitwa «non-coding», yaani sehemu zisizo za usimbaji. Mojawapo ya mambo ya kuvutia kuhusu CGP ni hili: ndani ya programu kunaweza kuwa na sehemu ambazo hazitumiwi kwa sasa lakini zinaweza kuwa na manufaa baadaye katika mchakato wa mageuzi.

Kwa nini rekombinasyon inajadiliwa?

Katika uprogramu wa kijenetiki crossover mara nyingi huonekana kama operesheni muhimu. Kwa sababu sehemu za suluhu mbili nzuri zinaweza kuunganishwa ili kupata suluhu bora zaidi.

Lakini katika CGP hali si daima hivyo. Katika utafiti wa zamani imeonekana kuwa mbinu za crossover wakati mwingine huharibu utafutaji katika CGP au hazileti faida inayotarajiwa. Kwa hiyo katika CGP kwa muda mrefu mutationsi ilikuwa operesheni kuu.

Utafiti huu unalenga hasa hatua hii:

«Je, rekombinasyon katika CGP ni dhaifu kwa kweli, au inaweza kutoa matokeo bora kwa mipangilio bora?»

Watafiti wanachunguza swali hili kwa kutathmini mbinu mbili za rekombinasyon:

• Subgraph crossover (kukata subgraph)
• Discrete phenotypic recombination (rekombinasyon ya fenotipia ya tofauti)

Subgraph Crossover ni nini?

Subgraph crossover hujaribu kuunda programu mpya kwa kuzingatia sehemu hai za grafu kutoka kwa programu mbili za wazazi. Lengo ni kutumia kwa uangalifu sehemu zinazofanya kazi kweli badala ya kuchanganya jeni kwa nasibu.

Tunaweza kuifikiria hivi:

Katika mti wa fomula au grafu baadhi ya sehemu huuchangia matokeo. Subgraph crossover inaheshimu sehemu hizi hai na hujaribu kuhamisha subgraph zenye maana kutoka kwa suluhu mbili za mgombea.

Lengo la mbinu hii ni kuzuia uharibifu kamili wa miundo yenye manufaa. Lakini katika majaribio ufanisi wa mbinu hii umeonyesha kutofautiana kulingana na seti ya data.

Discrete Phenotypic Recombination ni nini?

Discrete phenotypic recombination, yaani rekombinasyon ya fenotipia ya tofauti, tena hubadilishana nyenzo za kijenetiki kati ya programu mbili za wazazi; lakini hufanya hivyo kwa kuzingatia zaidi nodi hai na tabia inayoonekana ya programu.

Neno «fenotipia» hapa ni muhimu. Kwa sababu lengo si tu kuchanganya orodha ya nambari kwenye genotip, bali pia kuzingatia miundo hai inayowakilisha tabia ya programu inayofanya kazi.

Kulingana na matokeo ya makala, katika seti za data za urejeleaji wa alama zilizochunguzwa, rekombinasyon ya fenotipia ya tofauti mara nyingi ilionyesha ufanisi wa median bora ikilinganishwa na Subgraph crossover.

Kwa nini uboreshaji wa hyperparameter ni muhimu?

Mafanikio ya njia ya akili bandia hayategemei tu algoriti yenyewe. Mipangilio pia ni muhimu sana.

Mipangilio hii huitwa hyperparameter. Kwa mfano, katika utafiti huu mipangilio ifuatayo ni muhimu:

• Ukubwa wa idadi ya watu
• Ukubwa wa uteuzi wa mashindano
• Kiwango cha mutationsi
• Kiwango cha crossover
• Idadi ya nodi za kazi
• Kikomo cha Levels-back

Ikiwa mipangilio hii imechaguliwa vibaya, njia nzuri inaweza kuonekana dhaifu. Kinyume chake, njia iliyopangwa vizuri inaweza kutathminiwa kwa usawa zaidi.

Kwa hiyo watafiti hutumia zana ya uboreshaji wa hyperparameter inayoitwa SMAC3. SMAC3 hujaribu mipangilio mbalimbali kwa utaratibu ili kupata usanidi bora. Katika mchakato huu ulitumika uthibitishaji wa cross-validation wa safu 5 na bajeti ya uboreshaji ya majaribio 200.

Moja ya mambo muhimu ya kujifunza katika makala hii ni hili:

Wakati wa kutathmini njia ya akili bandia, kusema «nilitumia mipangilio ya kawaida, matokeo ni haya» si daima sawa. Hasa ikiwa operesheni au modeli mpya inalinganishwa, kila njia inapaswa kupangwa kwa busara.

Majaribio yalifanywaje?

Watafiti walitumia seti tano za data ndani ya SRBench kwa urejeleaji wa alama. Seti hizi zilichaguliwa kutoka kwa mkusanyiko wa Penn Machine Learning Benchmarks.

Jedwali la 1 linaonyesha idadi ya vigezo na uchunguzi wa seti za data:

• 192_vineyard: vigezo 3, uchunguzi 52
• 210_cloud: vigezo 6, uchunguzi 108
• 579_fri_c0_250_5: vigezo 6, uchunguzi 250
• 650_fri_c0_500_50: vigezo 20, uchunguzi 500
• 678_visualizing_environmental: vigezo 4, uchunguzi 11

Seti hizi za data zilichaguliwa kama matatizo madogo ya urejeleaji wa alama. Seti kubwa na matatizo yenye lengo la nambari kamili hayakujumuishwa katika utafiti huu.

Kwa kila seti mifano iligawanywa katika sehemu za mafunzo na majaribio. Katika sehemu ya mafunzo modeli ilitengenezwa, na katika sehemu ya majaribio ufanisi wa mtu bora zaidi aliyepatikana ulipimwa.

MSE ilitumika kupima ufanisi. MSE ni wastani wa kosa la mraba kati ya thamani iliyotabiriwa na halisi. Hapa MSE ya chini inamaanisha ufanisi bora.

Grafu zinaonyesha nini?

Picha ya 2 inaonyesha matokeo kwa mbinu tatu tofauti:

• Mutation-only, yaani CGP inayotumia mutationsi pekee
• CGP inayotumia Discrete recombination
• CGP inayotumia Subgraph crossover

Katika grafu, kwa kila njia mipangilio miwili muhimu iliyochaguliwa kwa mkono ililinganishwa na mipangilio kutoka kwa uboreshaji wa hyperparameter.

Katika CGP inayotumia mutationsi pekee, athari ya uboreshaji wa hyperparameter inaonekana mdogo. Yaani mipangilio iliyoboreshwa haikuleta uboreshaji wa kiasi kwa kulinganisha na iliyochaguliwa kwa mkono.

Kinyume chake, katika mbinu zinazotumia rekombinasyon athari ya uboreshaji wa hyperparameter ni wazi zaidi. Hasa katika baadhi ya seti usanidi ulioboreshwa ulipe thamani za MSE za chini kuliko mipangilio ya mkono.

Katika grafu pia inaonekana kuwa Subgraph crossover inaweza kutoa matokeo yanayobadilika sana katika baadhi ya seti. Upana wa mistari ya makosa unaonyesha njia inaweza kuwa nzuri katika baadhi ya uendeshaji na mbaya sana katika nyingine.

Ujumbe mkuu wa grafu hizi ni huu:

Ikiwa uboreshaji wa hyperparameter haufanywi wakati wa kutathmini mbinu za CGP zinazotegemea rekombinasyon, uwezo wa kweli wa njia unaweza kuonekana vibaya.

Jedwali la 3 linasema nini?

Jedwali la 3 linalinganisha matokeo ya median MSE ya mifano ya CGP iliyoboreshwa katika seti tano. Hapa kuna mbinu tatu:

• Discrete recombination (rekombinasyon ya tofauti)
• Subgraph crossover (kukata subgraph)
• Mutation-only (mutationsi pekee)

Kulingana na matokeo, Discrete recombination ilionyesha ufanisi wa median wa chini au unaohusiana kwa takwimu na bora zaidi katika seti nne kati ya tano.

Baadhi ya mifano inayovutia:

192_vineyard:
Discrete recombination median MSE: 6.20
Subgraph crossover median MSE: 10.55
Mutation-only median MSE: 8.31

210_cloud:
Discrete recombination median MSE: 0.18
Subgraph crossover median MSE: 20.34
Mutation-only median MSE: 0.18

579_fri_c0_250:
Discrete recombination median MSE: 0.54
Subgraph crossover median MSE: 2.62
Mutation-only median MSE: 0.68

678_visualizing_environmental:
Subgraph crossover median MSE: 7.26
Discrete recombination median MSE: 7.69
Mutation-only median MSE: 8.45

Jedwali hili linaonyesha kuwa njia ya Discrete recombination inaonekana imara na nguvu zaidi katika matatizo ya urejeleaji wa alama yaliyochunguzwa. Lakini matokeo hayapaswi kufasiriwa kama hakika ya jumla kwa matatizo yote ya urejeleaji wa alama.

Utafiti unasema nini?

Matokeo makuu ya utafiti ni haya:

Uboreshaji wa hyperparameter unaweza kuboresha ufanisi, hasa katika mbinu za CGP zinazotegemea rekombinasyon.

Ugunduzi huu ni muhimu kwa sababu zamani baadhi ya mbinu za rekombinasyon zinaweza kuwa zimetathminiwa kuwa «si nzuri vya kutosha kwa CGP». Lakini tathmini hizo mara nyingi zilifanywa kwa mipangilio iliyochaguliwa kwa mkono. Ikiwa mipangilio haifai kwa njia, njia inaweza kuonekana dhaifu kuliko ilivyo.

Watafiti pia wanalinganisha mbinu mbili za rekombinasyon. Katika seti zilizochunguzwa Discrete phenotypic recombination kwa ujumla ilionyesha ufanisi wa median bora ikilinganishwa na Subgraph crossover. Subgraph crossover ilipe matokeo yanayobadilika zaidi katika baadhi ya seti.

Mutation-only CGP inaweza wakati mwingine kutoa matokeo yanayofanana na mbinu za rekombinasyon. Hii inaonyesha mutationsi bado ni operesheni kuu yenye nguvu katika CGP.

Kwa nini hii ni muhimu?

Utafiti huu si jaribio la kiufundi kuhusu CGP pekee. Pia unakumbusha somo pana zaidi la akili bandia:

Ili kutathmini njia kwa usawa, mipangilio yake pia inapaswa kuboreshwa kwa usawa.

Katika ujifunzaji wa mashine na akili bandia wakati mwingine mbinu mpya hulinganishwa na za zamani. Lakini ikiwa njia ya zamani imepangwa vizuri na mpya vibaya, matokeo yanaweza kupotosha. Au kinyume chake.

Kwa hiyo uboreshaji wa hyperparameter una jukumu muhimu katika ulinganisho wa kisayansi. Hasa katika mbinu zinazotumia utafutaji wa nasibu kama uprogramu wa kijenetiki hii ni muhimu zaidi. Kwa sababu mipangilio kama ukubwa wa idadi, kiwango cha mutationsi na crossover inaweza kuathiri matokeo moja kwa moja.

Utafiti pia unaonyesha umuhimu wa urejeleaji wa alama. Urejeleaji wa alama hujaribu kupata usemi wa kihisabati unaolingana na data badala ya mifano ya sanduku nyeusi inayotabiri tu. Hii ni eneo la utafiti muhimu kwa akili bandia inayoelezeka na ugunduzi wa mifano ya kisayansi.

Mambo ya kuzingatia

Matokeo ya utafiti huu yanapaswa kusomwa kwa uangalifu.

Kwanza, majaribio yalifanywa tu kwenye seti tano ndogo za urejeleaji wa alama. Katika seti kubwa, ngumu zaidi au zenye sifa tofauti matokeo yanaweza kubadilika.

Pili, MSE ilitumika kupima ufanisi. MSE ya chini inaweza kumaanisha utabiri bora; lakini urahisi, uwezo wa kufasiriwa au maana ya kifizikia ya usemi wa alama uliopatikana inapaswa kutathminiwa kando.

Tatu, uboreshaji wa hyperparameter pia ni ghali. Kupata mipangilio bora inahitaji majaribio mengi. Kwa hiyo faida ya ufanisi na gharama ya uboreshaji zinapaswa kuzingatiwa pamoja.

Nne, ufanisi unaobadilika wa Subgraph crossover haimaanishi kuwa imeshindwa kabisa. Matokeo yanaweza kubadilika na seti tofauti, nyanja za mipangilio au uwakilishi tofauti wa CGP.

Hatimaye, utafiti huu unaendelea kulingana na benchmark fulani na programu ya TinyverseGP. Majaribio ya ziada yanahitajika katika mifumo mingine au kazi nyingine za urejeleaji wa alama.

Hitimisho

Utafiti huu unaonyesha kuwa ulinganisho wa mbinu katika uprogramu wa kijenetiki hauwezi kufanywa kwa kutazama jina la algoriti pekee. Algoriti moja inaweza kutoa matokeo tofauti sana kwa mipangilio tofauti ya hyperparameter.

Cartesian Genetic Programming ilitumika kwa muda mrefu hasa na mutationsi. Mbinu za rekombinasyon zamani zilitathminiwa kwa uangalifu kuwa zilitoa faida finyu. Utafiti huu unaonyesha, hasa wakati uboreshaji wa hyperparameter unafanywa, CGP inayotegemea rekombinasyon inaweza kutoa matokeo bora katika baadhi ya matatizo ya urejeleaji wa alama.

Somo muhimu zaidi ni hili:

Akili bandia inahitaji si tu algoriti nzuri, bali pia majaribio yaliyopangwa vizuri.

Kwa hiyo inatarajiwa kuwa katika utafiti wa baadaye wa uprogramu wa kijenetiki na urejeleaji wa alama, wakati operesheni au mbinu mpya zinapolinganishwa, uboreshaji wa hyperparameter utabaki hatua ya kawaida ya tathmini.

Kumbuka la chanzo na mbinu

Maudhui haya yameandaliwa kwa uhuru katika muundo wa uhariri wa Verianla kulingana na kazi ya kisayansi «Improving Evaluation of Recombination-based Cartesian Genetic Programming» iliyoandaliwa na Duy Long Tran, Anja Jankovic, Marie Anastacio, Holger Hoos na Roman Kalkreuth.

Katika PDF kuna taarifa ya mkutano wa ACM GECCO Companion '26 na toleo la arXiv. Maudhui ni kwa madhumuni ya habari na elimu. Hayiwezi kuchukua nafasi ya ushauri wa kitaalamu kuhusu akili bandia, programu, sayansi ya data au uchaguzi wa modeli.