Önce Temel Soru: Yapay Zekâ Bir Denklem Bulabilir mi?

Bazı yapay zekâ sistemleri yalnızca tahmin yapmakla kalmaz; veriye uyan matematiksel ifadeler de arar. Buna sembolik regresyon denir.

Örneğin elimizde sıcaklık, basınç, hız veya başka ölçümler olabilir. Sembolik regresyonun amacı, bu veriler arasındaki ilişkiyi açıklayan bir formül bulmaktır. Bu formül bazen basit olabilir:

y = 2x + 3

Bazen de daha karmaşık olabilir:

y = 10 / (5 + (x - 3)² + (z - 3)²)

Bu tür sistemlerde amaç yalnızca “doğru tahmin” değildir. Aynı zamanda insanın okuyabileceği ve yorumlayabileceği bir matematiksel ifade bulmak da önemlidir.

Bu yüzden sembolik regresyon; bilimsel keşif, mühendislik modelleme, veri analizi ve açıklanabilir yapay zekâ açısından önemli bir alandır.

Genetik Programlama Ne Demek?

Genetik programlama, biyolojik evrimden esinlenen bir arama yöntemidir. Basitçe söylemek gerekirse, bilgisayar birçok aday çözüm üretir. Sonra bu çözümleri test eder, daha iyi olanları seçer ve yeni nesiller oluşturur.

Bu süreçte iki temel mekanizma öne çıkar:

Mutasyon:
Bir aday çözümde küçük rastgele değişiklikler yapılır.

Crossover / Rekombinasyon:
İki aday çözümün bazı parçaları birleştirilerek yeni adaylar oluşturulur.

Doğadaki evrimde canlılar genetik bilgilerini sonraki nesillere aktarır. Genetik programlamada da aday programlar veya formüller benzer şekilde değiştirilir, karıştırılır ve daha iyi hale getirilmeye çalışılır.

Cartesian Genetic Programming Nedir?

Makalenin odaklandığı yöntem Cartesian Genetic Programming, kısaca CGP’dir. Türkçede “Kartezyen Genetik Programlama” denebilir.

CGP’de programlar klasik satır satır kod gibi değil, grafik yapısı gibi temsil edilir. Bu grafikte düğümler vardır. Her düğüm bir işlem yapabilir: toplama, çıkarma, çarpma, bölme veya başka matematiksel fonksiyonlar gibi.

Şekil 1’de bu yapı gösteriliyor. Genotip, yani iç temsil, sayı listesi gibi kodlanır. Bu sayı listesi hangi düğümün hangi işlemi yaptığını ve hangi girdilere bağlandığını belirtir. Fenotip ise gerçekten çalışan programdır. Yani sayı listesinden çözümlenmiş aktif hesaplama grafiğidir.

Burada önemli bir ayrım vardır:

Bazı düğümler aktif olarak sonuca katkı verir.
Bazı düğümler ise genotipte bulunur ama hesaplamada kullanılmaz.

Bu kullanılmayan bölgelere “non-coding” yani kodlamayan kısımlar denir. CGP’nin ilginç taraflarından biri de budur: Programın içinde şimdilik kullanılmayan ama evrim sırasında ileride işe yarayabilecek parçalar bulunabilir.

Neden Rekombinasyon Tartışmalı?

Genetik programlamada crossover çoğu zaman önemli bir operatör olarak görülür. Çünkü iki iyi çözümün parçaları birleştirilerek daha iyi bir çözüm elde edilebilir.

Fakat CGP’de durum her zaman böyle değildir. Geçmiş çalışmalarda crossover tekniklerinin CGP’de bazen aramayı bozabildiği veya beklenen performans kazancını sağlamadığı görülmüştür. Bu yüzden CGP’de uzun süre mutasyon ana operatör olarak kullanılmıştır.

Bu çalışma tam bu noktaya odaklanıyor:

“CGP’de rekombinasyon gerçekten zayıf mı, yoksa daha iyi ayarlarla daha iyi sonuç verebilir mi?”

Araştırmacılar bu soruyu test etmek için iki rekombinasyon yöntemini inceliyor:

• Subgraph crossover
• Discrete phenotypic recombination

Subgraph Crossover Nedir?

Subgraph crossover, iki ebeveyn programdan aktif grafik parçalarını dikkate alarak yeni bir program üretmeye çalışır. Amaç, rastgele gen karıştırmak yerine, programın gerçekten çalışan bölümlerini daha dikkatli kullanmaktır.

Bunu şöyle düşünebiliriz:

Bir formül ağacında veya grafiğinde bazı parçalar sonuca katkı verir. Subgraph crossover, bu aktif parçaları önemser ve iki aday çözümden anlamlı alt grafikler aktarmaya çalışır.

Bu yaklaşımın hedefi, işe yarayan yapıların tamamen bozulmasını engellemektir. Ancak deneylerde bu yöntemin performansı veri setine göre değişkenlik gösterebilmiştir.

Discrete Phenotypic Recombination Nedir?

Discrete phenotypic recombination, yani ayrık fenotipik rekombinasyon, yine iki ebeveyn program arasında genetik materyal değiştirir; fakat bunu aktif düğümlere ve programın görünen davranışına daha fazla odaklanarak yapar.

Buradaki “fenotipik” kelimesi önemlidir. Çünkü amaç yalnızca genotipteki sayı listesini karıştırmak değil, gerçekten çalışan program davranışını temsil eden aktif yapıları dikkate almaktır.

Makalenin sonuçlarına göre, incelenen sembolik regresyon veri setlerinde ayrık fenotipik rekombinasyon çoğu durumda subgraph crossover’a göre daha iyi medyan performans göstermiştir.

Hiperparametre Optimizasyonu Neden Önemli?

Bir yapay zekâ yönteminin başarısı yalnızca algoritmanın kendisine bağlı değildir. Ayarlar da çok önemlidir.

Bu ayarlara hiperparametre denir. Örneğin bu çalışmada şu ayarlar önemlidir:

• Popülasyon büyüklüğü
• Turnuva seçimi boyutu
• Mutasyon oranı
• Crossover oranı
• Fonksiyon düğümü sayısı
• Levels-back sınırı

Bu ayarlar kötü seçilirse iyi bir yöntem zayıf görünebilir. Tersine, iyi ayarlanmış bir yöntem daha adil biçimde değerlendirilebilir.

Araştırmacılar bu nedenle SMAC3 adlı hiperparametre optimizasyon aracını kullanıyor. SMAC3, farklı ayarları sistemli biçimde deneyerek daha iyi yapılandırmalar bulmaya çalışıyor. Bu süreçte 5 katlı çapraz doğrulama ve 200 denemelik bir optimizasyon bütçesi kullanılmıştır.

Bu yazının en önemli öğretici noktalarından biri şudur:

Bir yapay zekâ yöntemini değerlendirirken “varsayılan ayarlarla çalıştırdım, sonuç bu” demek her zaman adil olmayabilir. Özellikle yeni bir operatör veya model karşılaştırılıyorsa, her yöntemin makul biçimde ayarlanması gerekir.

Deneyler Nasıl Yapılmış?

Araştırmacılar sembolik regresyon için SRBench içindeki beş veri setini kullanmış. Bu veri setleri Penn Machine Learning Benchmarks koleksiyonundan seçilmiş.

Tablo 1’de veri setlerinin değişken ve gözlem sayıları verilmiştir:

• 192_vineyard: 3 değişken, 52 gözlem
• 210_cloud: 6 değişken, 108 gözlem
• 579_fri_c0_250_5: 6 değişken, 250 gözlem
• 650_fri_c0_500_50: 20 değişken, 500 gözlem
• 678_visualizing_environmental: 4 değişken, 11 gözlem

Bu veri setleri küçük ölçekli sembolik regresyon problemleri olarak seçilmiştir. Büyük veri setleri ve tam sayı hedefli problemler bu çalışmada kapsam dışı bırakılmıştır.

Her veri seti için modeller eğitim ve test bölümlerine ayrılmıştır. Eğitim bölümünde model geliştirilmiş, test bölümünde ise bulunan en iyi bireyin performansı ölçülmüştür.

Performans ölçütü olarak MSE kullanılmıştır. MSE, tahmin edilen değer ile gerçek değer arasındaki ortalama kare hatadır. Burada düşük MSE daha iyi performans anlamına gelir.

Grafikler Ne Gösteriyor?

Şekil 2, üç farklı yaklaşım için sonuçları gösteriyor:

• Mutation-only, yani yalnızca mutasyon kullanan CGP
• Discrete recombination kullanan CGP
• Subgraph crossover kullanan CGP

Grafiklerde her yöntem için manuel seçilmiş iki temel ayar ile hiperparametre optimizasyonundan gelen ayar karşılaştırılmıştır.

Yalnızca mutasyon kullanılan CGP’de hiperparametre optimizasyonunun etkisi sınırlı görünüyor. Yani optimize edilmiş ayarlar, manuel ayarlardan çok farklı bir iyileşme getirmemiştir.

Buna karşılık rekombinasyon kullanılan yöntemlerde hiperparametre optimizasyonunun etkisi daha belirgindir. Özellikle bazı veri setlerinde optimize edilmiş yapılandırmalar, manuel ayarlardan daha düşük MSE değerleri elde etmiştir.

Grafiklerde subgraph crossover’ın bazı veri setlerinde oldukça değişken sonuçlar verdiği de görülüyor. Hata çubuklarının çok geniş olması, yöntemin bazı çalıştırmalarda iyi, bazı çalıştırmalarda ise çok kötü sonuçlar verebildiğini düşündürüyor.

Bu grafiklerin ana mesajı şudur:

Rekombinasyon tabanlı CGP yöntemlerini değerlendirirken hiperparametre optimizasyonu yapılmazsa, yöntemin gerçek potansiyeli doğru görülemeyebilir.

Tablo 3 Ne Anlatıyor?

Tablo 3, optimize edilmiş CGP modellerinin beş veri setindeki medyan MSE sonuçlarını karşılaştırıyor. Burada üç yaklaşım var:

• Discrete recombination
• Subgraph crossover
• Mutation-only

Sonuçlara göre discrete recombination, beş veri setinin dördünde daha düşük veya en iyiyle istatistiksel olarak bağlı medyan performans göstermiştir.

Bazı dikkat çekici örnekler:

192_vineyard:
Discrete recombination medyan MSE: 6.20
Subgraph crossover medyan MSE: 10.55
Mutation-only medyan MSE: 8.31

210_cloud:
Discrete recombination medyan MSE: 0.18
Subgraph crossover medyan MSE: 20.34
Mutation-only medyan MSE: 0.18

579_fri_c0_250:
Discrete recombination medyan MSE: 0.54
Subgraph crossover medyan MSE: 2.62
Mutation-only medyan MSE: 0.68

678_visualizing_environmental:
Subgraph crossover medyan MSE: 7.26
Discrete recombination medyan MSE: 7.69
Mutation-only medyan MSE: 8.45

Bu tablo, discrete recombination yönteminin incelenen sembolik regresyon problemlerinde daha istikrarlı ve güçlü göründüğünü gösteriyor. Ancak sonuçlar tüm sembolik regresyon problemleri için genel bir kesinlik olarak yorumlanmamalıdır.

Araştırma Ne Söylüyor?

Çalışmanın ana sonucu şudur:

Hiperparametre optimizasyonu, özellikle rekombinasyon tabanlı CGP yöntemlerinde performansı iyileştirebilir.

Bu bulgu önemlidir çünkü geçmişte bazı rekombinasyon yöntemleri “CGP için yeterince iyi değil” diye değerlendirilmiş olabilir. Ancak bu değerlendirmeler çoğu zaman elle seçilmiş ayarlarla yapılmıştır. Eğer ayarlar yöntem için uygun değilse, yöntem olduğundan daha zayıf görünebilir.

Araştırmacılar ayrıca iki rekombinasyon yöntemini karşılaştırıyor. İncelenen veri setlerinde discrete phenotypic recombination, subgraph crossover’a göre genel olarak daha iyi medyan performans göstermiştir. Subgraph crossover ise bazı veri setlerinde daha değişken sonuçlar vermiştir.

Mutation-only CGP ise bazı durumlarda rekombinasyon yöntemleriyle benzer sonuçlar verebilmiştir. Bu da mutasyonun CGP’de hâlâ güçlü bir temel operatör olduğunu gösteriyor.

Bu Neden Önemli?

Bu çalışma, yalnızca CGP üzerine teknik bir deney değildir. Daha geniş bir yapay zekâ dersini de hatırlatır:

Bir yöntemi adil değerlendirmek için ayarlarını da adil optimize etmek gerekir.

Makine öğrenmesi ve yapay zekâ alanında bazen yeni yöntemler eski yöntemlerle karşılaştırılır. Ancak eski yöntem iyi ayarlanmış, yeni yöntem kötü ayarlanmışsa sonuç yanıltıcı olabilir. Ya da tam tersi olabilir.

Bu nedenle hiperparametre optimizasyonu, bilimsel karşılaştırmalarda önemli bir rol oynar. Özellikle genetik programlama gibi rastgele arama kullanan yöntemlerde bu daha da önemlidir. Çünkü popülasyon büyüklüğü, mutasyon oranı ve crossover oranı gibi ayarlar sonucu doğrudan etkileyebilir.

Çalışma ayrıca sembolik regresyonun önemini de gösteriyor. Sembolik regresyon, yalnızca tahmin yapan kara kutu modeller yerine, veriye uygun matematiksel ifadeler bulmaya çalışır. Bu da açıklanabilir yapay zekâ ve bilimsel model keşfi için değerli bir araştırma alanıdır.

Dikkat Edilmesi Gereken Noktalar

Bu çalışmanın sonuçları dikkatli okunmalıdır.

İlk olarak, deneyler yalnızca beş küçük sembolik regresyon veri seti üzerinde yapılmıştır. Daha büyük, daha karmaşık veya farklı özellikte veri setlerinde sonuçlar değişebilir.

İkinci olarak, performans ölçütü olarak MSE kullanılmıştır. MSE düşük olduğunda modelin tahminleri daha iyi olabilir; ancak bulunan sembolik ifadenin sadeliği, yorumlanabilirliği veya fiziksel anlamı ayrıca değerlendirilmelidir.

Üçüncü olarak, hiperparametre optimizasyonu da kendi başına maliyetlidir. Daha iyi ayar bulmak için çok sayıda deneme yapmak gerekir. Bu nedenle performans kazancı ile optimizasyon maliyeti birlikte düşünülmelidir.

Dördüncü olarak, subgraph crossover’ın değişken performansı onun tamamen başarısız olduğu anlamına gelmez. Farklı veri setleri, farklı ayar alanları veya farklı CGP temsilleriyle sonuçlar değişebilir.

Son olarak, bu çalışma belirli bir benchmark ve TinyverseGP uygulaması üzerinden ilerlemektedir. Diğer uygulama çerçevelerinde veya farklı sembolik regresyon görevlerinde ek testler gerekir.

Sonuç

Bu araştırma, genetik programlamada yöntem karşılaştırmasının yalnızca algoritma adına bakılarak yapılamayacağını gösteriyor. Aynı algoritma, farklı hiperparametre ayarlarıyla oldukça farklı sonuçlar verebilir.

Cartesian Genetic Programming uzun süre çoğunlukla mutasyonla birlikte kullanılmıştır. Rekombinasyon yöntemleri ise geçmişte sınırlı fayda sağladığı düşüncesiyle daha temkinli değerlendirilmiştir. Bu çalışma, özellikle hiperparametre optimizasyonu yapıldığında rekombinasyon tabanlı CGP’nin bazı sembolik regresyon problemlerinde daha iyi sonuçlar verebildiğini gösteriyor.

En önemli ders şudur:

Yapay zekâ yalnızca iyi algoritmalara değil, iyi ayarlanmış deneylere de ihtiyaç duyar.

Bu nedenle gelecekte genetik programlama ve sembolik regresyon çalışmalarında, yeni operatörler veya yöntemler karşılaştırılırken hiperparametre optimizasyonunun daha standart bir değerlendirme adımı haline gelmesi beklenebilir.

Kaynak ve Yöntem Notu

Bu içerik, Duy Long Tran, Anja Jankovic, Marie Anastacio, Holger Hoos ve Roman Kalkreuth tarafından hazırlanan “Improving Evaluation of Recombination-based Cartesian Genetic Programming” başlıklı akademik çalışmadan yararlanılarak Verianla editoryal formatında özgün olarak hazırlanmıştır.

PDF üzerinde ACM GECCO Companion ’26 konferans bilgisi ve arXiv sürümü yer almaktadır. İçerik bilgilendirme ve eğitim amacı taşır. Yapay zekâ, yazılım geliştirme, veri bilimi veya model seçimi konusunda profesyonel danışmanlık yerine geçmez.