SavedAdd your journal

Journals / Gazi Üniversitesi Mühendislik Mimarlık Fakültesi Dergisi / 2025 / Cilt: 40 Sayı: 4

Karcı kesir dereceli yapay sinir ağı (KarcıFANN): öğrenme oranı, aşırı uyum ve yetersiz uyum sorunlarını çözme

Hulya Saygili(İNÖNÜ ÜNİVERSİTESİ)0000-0003-1926-9918
Meral Karakurt(osmaniye korkut ata üniversitesi)0000-0001-7318-2798
Ali Karci(İNÖNÜ ÜNİVERSİTESİ)0000-0002-8489-8617
Pages
2499–2514
Publication Date
2025-12-31
🏛️Bibliographic metadata and full text access for this article are provided via DergiPark.
DergiPark Record ↗
✨

AI Summary & Key Takeaways

AI Insight
⚡ TL;DR(Too Long; Didn't Read)

Ayrıca, KarcıFANN yönteminin genelleştirilebildiği, birden çok veri setinde çalıştırılarak deneyimlenmiştir.

📌 3 Key Takeaways

🎯
Objective & Hypothesis:Yapay sinir ağlarının (YSA) başarımı hiper parametrelerin seçiminden etkilenmektedir.
📊
Key Findings & Data:Öğrenme katsayısı, bu başarımı önemli ölçüde etkileyen bir hiper parametredir.
💡
Conclusion & Impact:Ayrıca, KarcıFANN yönteminin genelleştirilebildiği, birden çok veri setinde çalıştırılarak deneyimlenmiştir.
🔬Design:Review & Systematic Survey
📍Scope:Comprehensive Sample
⚙️Variables:Yapay sinir ağları · stokastik gradyan iniş · öğrenme oranı

Özet

Yapay sinir ağlarının (YSA) başarımı hiper parametrelerin seçiminden etkilenmektedir. Öğrenme katsayısı, bu başarımı önemli ölçüde etkileyen bir hiper parametredir. Farklı modeller ve veri kümeleri ile optimum başarıyı elde etmek için doğru bir öğrenme katsayısının seçilmesi zor ve zaman alıcı bir süreçtir. Uygun olmayan öğrenme katsayısı, ağın öğrenememe, ezberleme, gradyan patlaması ve kaybolması gibi sorunlara neden olabilir. Bu makalede önerilen Karcı Kesir Dereceli Yapay Sinir Ağı (KarcıFANN) yönteminde, Stokastik gradyan iniş (SGD) yönteminin kullanıldığı Klasik YSA’lardaki sabit bir sayı olan öğrenme katsayısı yerine kesir dereceli türevden faydalanılarak ağırlık güncelleme işlemi yapılmaktadır. Böylece KarcıFANN yönteminde, her iterasyonda elde edilen hata değerine göre değişen bir kesir dereceli türev kullanılarak ve bu sayede ağa dışarıdan müdahale minimuma indirilerek literatüre katkıda bulunulacaktır. Çalışmada, Kuzushiji_MNIST, GinaPrior2 ve SignMnist veri setlerini sınıflandırmak amacıyla aynı başlangıç ve parametre değerlerine sahip Klasik YSA ve KarcıFANN yöntemleri kullanılarak sonuçları karşılaştırılmıştır. Kesir dereceli türevin kesir derecesi olan alfa parametresine ve Klasik YSA’da öğrenme katsayısına 0.1-5.0 aralığında değerler verilerek yapılan deneysel çalışmalarda, KarcıFANN yönteminin Kuzushiji-Mnist ve gina_prior2 veri setlerinin sınıflandırılmasında özellikle 3.0-5.0 arasında Klasik YSA’dan daha iyi performans gösterdiği gözlemlenmiştir. Klasik YSA’da karşılaşılan ezberleme ve öğrenememe problemlerinin KarcıFANN yönteminde giderildiği görülmüştür. Ayrıca, KarcıFANN yönteminin genelleştirilebildiği, birden çok veri setinde çalıştırılarak deneyimlenmiştir.

🔖

Cite This Article

Saygili, H., Karakurt, M., Karci, A. (2025). Karcı kesir dereceli yapay sinir ağı (KarcıFANN): öğrenme oranı, aşırı uyum ve yetersiz uyum sorunlarını çözme. Gazi Üniversitesi Mühendislik Mimarlık Fakültesi Dergisi, Cilt: 40 Sayı: 4, 2499–2514. https://doi.org/10.17341/gazimmfd.1558859

📄 Full Text PDF Viewer

📄

PDF görüntüleyici hazırlanıyor...

References (33)

  1. Li, P. Optimization algorithms for deep learning. Department of Systems Engineering and Engineering Management, The Chinese University of Hong Kong, 2017.
  2. Smith, L. N. ve Nicholay Topin. Super-Convergence: Very Fast Training of Neural Networks Using Large Learning Rates, 2018.
  3. Moghanloo, F., Yazdizadeh, A. ve Fomani, A. A New Modified Elman Neural Network with Stable Learning Algorithms for Identification of Nonlinear Systems. Studies in Computational Intelligence. 2015.
  4. Smith, L. N., Cyclical Learning Rates for Training Neural Networks, 2017 IEEE Winter Conference on Applications of Computer Vision (WACV), Santa Rosa, CA, USA, 464-472.
  5. Smith, L. N., A Dıscıplıned Approach To Neural Network Hyper-parameters: part 1 – learnıng rate, Batch sıze, momentum, and weıght decay, 2018.
  6. Li,Y., Wei,C., Ma, T., Towards explaining the regularization effect of initial large learning rate in training neural networks. Proceedings of the 33rd International Conference on Neural Information Processing Systems. Curran Associates Inc., Red Hook, NY, USA, Article 1047, 11674–11685, 2019.
  7. You, K., Long, M., Wang, J., Jordan, M.I. How Does Learning Rate Decay Help Modern Neural Networks. arXiv: Learning, 2019.
  8. Iranmanesh,S., Mahadevi M. A., Differential adaptive learning rate method for back propagation neural networks, World Academy of Science, Engineering and Technology 50, 285-288, 2009.
  9. Fetanat M, Stevens M, Jain P, Hayward C, Meijering E, Lovell NH. Fully Elman Neural Network: A Novel Deep Recurrent Neural Network Optimized by an Improved Harris Hawks Algorithm for Classification of Pulmonary Arterial Wedge Pressure. IEEE Trans Biomed Eng. 2022 May;69 (5), 1733-1744, 2022.
  10. Takase, T., Oyama, S., Kurihara, M., Effective Neural Network Training with Adaptive Learning Rate Based on Training Loss, Neural Networks, 101, 68-78, 2018.
  11. Sheel, S., Varshney, T., Varshney, R., Accelerated Learning in MLP Using Adaptive Learning Rate with Momentum Coefficient, International Conference on Industrial and Information Systems, 307-310, 2007.
  12. Üstün, O., Yıldız, İ., Geri-Yayılmalı Öğrenme Algoritmasındaki Öğrenme Parametrelerinin Genetik Algoritma ile Belirlenmesi, UTBD, 1(2), 61-73, 2009.
  13. Wei, J., Zhang, X., Ji, Z., Wei, Z., Li, J., DPLRS: Distributed Population Learning Rate Schedule, Future Generation Computer Systems, 132, 40-50, 2022.
  14. Zheng, D. D., Li, X., Ren, X., Na, J., Intelligent Control for Robotic Manipulator with Adaptive Learning Rate and Variable Prescribed Performance Boundaries, Journal of the Franklin Institute, 360 (11), 7037-7062, 2023.
  15. Krenker, A., Bester, J., Kos, A., Introduction to the Artificial Neural Networks, InTech, 2011.
  16. Fırat, M., Güngör, M., Askı Madde Konsantrasyonu ve Miktarının Yapay Sinir Ağları ile Belirlenmesi, Teknik Dergi, 15(73), 2004.
  17. Dongare, A. D., Kharde, R. R., Kachare, D. A., Introduction to Artificial Neural Network, International Journal of Engineering and Innovative Technology (IJEIT), 2 (1), 1-4, 2012.
  18. Mustapha, A., Mohamed, L., Ali, K., An Overview of Gradient Descent Algorithm Optimization in Machine Learning: Application in the Ophthalmology Field, 2020.
  19. Ruder, S., An Overview of Gradient Descent Optimization Algorithms, 2016.
  20. Donges, N., Gradient Descent, Builtin.com. https://builtin.com/data-science/gradient-descent, Yayın tarihi 2024, Erişim tarihi: 19 Eylül 2024.
  21. Karakurt, M., Oymak, E. A., Hark, H., Erdoğan, M. C., Karcı, A., Karcı Sinir Ağlarının Uygulaması ve Performans Analizi, Journal of Computer Science, 7, 68-80, 2022.
  22. Karcı, A., A New Approach for Fractional Order Derivative and Its Applications, Universal Journal of Engineering Sciences, 1, 110-117, 2013.
  23. Karcı, A., Properties of Fractional Order Derivatives for Groups of Relations/Functions, Universal Journal of Engineering Sciences, 3, 39-45, 2015.
  24. Karcı A., The Properties of New Approach of Fractional Order Derivative, Journal of the Faculty of Engineering and Architecture of Gazi University, 30 (3), 487-501, 2015.
  25. Karcı, A., Chain Rule For Fractional Order Derivative, Science Innovation, 3, 63-67, 2015.
  26. Karcı, A., Properties of Karcı’s Fractional Order Derivative, Universal Journal of Engineering Science, 7, 32-38, 2019.
  27. Karcı, A., Fractional Order Integration: A New Perspective Based on Karcı’s Fractional Order Derivative, Computer Science, 6 (2), 102-105, 2021
  28. Karakurt, M., Saygılı, H., Karcı, A., KarcıFANN Yönteminde Aktivasyon Fonksiyonlarının Karşılaştırılması, 8th International Artificial Intelligence and Data Processing Symposium (IDAP2024), IEEE, 2024.
  29. Saygılı, H., Karakurt, M., Karcı, A., KarcıFANN Yönteminde Kayıp Fonksiyonlarının Karşılaştırılması, 8th International Artificial Intelligence and Data Processing Symposium (IDAP2024), IEEE, 2024.
  30. LeCun, Y., Boser, B., Denker, J. S., Henderson, D., Howard, R. E., Hubbard, W., Jackel, L. D., Backpropagation Applied to Handwritten Zip Code Recognition, Neural Computation, 1 (4), 541-551, 1989.
  31. Xiao, H., Rasul, K., Vollgraf, R., Fashion-MNIST: A Novel Image Dataset for Benchmarking Machine Learning Algorithms, arXiv:1708.07747, 2017.
  32. Akkurt T., Sarıçiçek İ., KPI based performance estimation in production systems using deep learning techniques, Journal of the Faculty of Engineering and Architecture of Gazi University, 39 (3), 1499-1508, 2024.
  33. Çekiç İ., Çavdar K., Detection of the cracks in metal sheets using convolutional neural network (CNN), Journal of the Faculty of Engineering and Architecture of Gazi University, 38 (1), 153-162, 2022.