AI Summary & Key Takeaways
AI InsightModel performance was evaluated across ten mathematical test functions, including six Genz benchmark functions, over 30 repetitions, considering overall approximation performance, dimensionality scaling, noise robustness, and hyperparameter sensitivity.
📌 3 Key Takeaways
Abstract
This study systematically compares five Kolmogorov-Arnold Network (KAN) variants based on different basis function families (B-Spline, RBF, Chebyshev, Fourier, and Wavelet) against the classical Multi-Layer Perceptron (MLP) under a parameter-matched configuration. Model performance was evaluated across ten mathematical test functions, including six Genz benchmark functions, over 30 repetitions, considering overall approximation performance, dimensionality scaling, noise robustness, and hyperparameter sensitivity. The Friedman test revealed a statistically significant performance difference among the six models (χ²(5) = 29.03, p = 0.00002); the Nemenyi post-hoc test showed that RBF was significantly superior to Fourier, Wavelet, and MLP, while the difference with B-Spline and Chebyshev could not be statistically confirmed. Under matched parameter budgets, MLP's general performance ranked among the lowest of the six models (mean rank 5.0), marginally ahead of Wavelet (mean rank 5.1), which was the lowest-ranked model overall; this indicates that MLP's earlier competitiveness under unequal parameter settings was partly attributable to its larger capacity. Nevertheless, under increasing dimensionality, MLP achieved the lowest scaling exponent (b = 0.017) and remained the most stable model under noise, even after the parameter budget was equalized. The findings indicate that KAN variants, particularly RBF, Chebyshev, and B-Spline, achieved the best average ranks under fair comparison conditions, although the Nemenyi test could not statistically distinguish these three from one another; MLP retains an architectural advantage in dimensional scaling and noise robustness; the choice of basis function family should therefore be made carefully according to the characteristics of the target problem.
Özet
Bu çalışmada, Kolmogorov-Arnold Ağları'nın (KAN) farklı temel fonksiyon ailelerine dayalı beş varyantı (B-Spline, RBF, Chebyshev, Fourier ve Wavelet), klasik çok katmanlı algılayıcı (MLP) ile parametre sayısı eşitlenmiş bir yapılandırma altında karşılaştırılmıştır. Altısı Genz test fonksiyonları olmak üzere toplam on farklı matematiksel test fonksiyonu üzerinde, 30 tekrarlı deneylerle modellerin performansı; genel yaklaşım performansı, boyut ölçeklenebilirliği, gürültü dayanıklılığı ve hiperparametre duyarlılığı açısından değerlendirilmiştir. Friedman testi, altı model arasında istatistiksel olarak anlamlı bir performans farkı ortaya koymuş (χ²(5) = 29,03, p = 0,00002); Nemenyi post-hoc testine göre RBF, Fourier, Wavelet ve MLP'ye karşı anlamlı üstünlük göstermiş, ancak B-Spline ve Chebyshev ile aradaki fark istatistiksel olarak doğrulanamamıştır. Parametre bütçesi eşitlendiğinde MLP, altı model arasında en düşük ortalama sıralardan birinde (5,0) yer almıştır. Bu sıra, en son sırada yer alan Wavelet'in sırasına (5,1) çok yakındır; MLP teknik olarak son sırada değildir, ancak bu sonuç yine de MLP'nin eşit olmayan parametre koşullarındaki eski rekabetçi görünümünün kısmen daha büyük kapasiteden kaynaklandığını göstermektedir. Buna karşın, artan boyutlulukta MLP en düşük ölçeklenme katsayısına (b = 0,017) sahip olup, parametre bütçesi eşitlenmiş olmasına rağmen gürültü altında da en kararlı model olarak kalmıştır. Bulgular, adil karşılaştırma koşullarında özellikle RBF ve Chebyshev varyantlarının daha düşük yaklaşım hatası sağladığını, buna karşın MLP'nin boyutsal ölçeklenme ve gürültü dayanıklılığında mimari bir avantaj koruduğunu; dolayısıyla temel fonksiyon seçiminin problem karakteristiğine göre dikkatle yapılması gerektiğini göstermektedir.