AI Summary & Key Takeaways
AI InsightPerformance was measured by accuracy, precision, and F1-score; the overall ranking of the methods was examined using the Friedman test.
📌 3 Key Takeaways
Abstract
The performance of Multi-Layer Perceptron (MLP) models depends on the effective optimization of weight and bias parameters during the training process. Gradient-based learning methods may not always produce stable and high-performance results due to factors such as initial sensitivity, the need for derivative information, and stagnation at local minima in complex, high-dimensional search spaces. In this study, four current metaheuristic algorithms for optimizing the weight and bias parameters of MLPs were evaluated comparatively: Hippopotamus Optimization Algorithm (HO), Puma Optimizer, Starfish Optimization Algorithm (SFOA), and War Strategy Optimization Algorithm (WSO). The algorithms were tested on the Diabetes, Diagnosis, Mammographic Mass, and Wisconsin Breast Cancer datasets. The same MLP architecture and experimental conditions were used for each dataset; the data were evaluated with an 80% training and 20% testing split. Each method was run in 10 independent runs, with a population size of 30 and a number of iterations of 100, and candidate solutions were limited to the range [-10, 10]. Performance was measured by accuracy, precision, and F1-score; the overall ranking of the methods was examined using the Friedman test. The findings show that metaheuristic performance is sensitive to the dataset. In general, Puma-based training produced more competitive results in accuracy and F1-scores in most datasets, while HO excelled in precision and stability in some scenarios. Although SFOA and WSO produced competitive results in certain datasets, they did not exhibit consistent superiority across all metrics. The results demonstrate that the selection of meta-heuristic methods for MLP training should consider dataset characteristics and target metrics and provide a practical comparison framework for medical decision support applications. In addition, mean and standard deviation values are reported for each dataset, and the strengths of the methods are discussed based on the best run results.
Özet
Çok Katmanlı Algılayıcı (Multi-Layer Perceptron, MLP) modellerinin başarımı, eğitim sürecinde ağırlık ve bias parametrelerinin etkin biçimde optimize edilmesine bağlıdır. Gradyan temelli öğrenme yöntemleri; başlangıca duyarlılık, türev bilgisi gereksinimi ve karmaşık, yüksek boyutlu arama uzaylarında yerel minimumlarda duraksama gibi nedenlerle her zaman kararlı ve yüksek performanslı sonuçlar üretemeyebilir. Bu çalışmada, MLP’nin ağırlık ve bias parametrelerinin optimizasyonu için dört güncel meta-sezgisel algoritma karşılaştırmalı olarak değerlendirilmiştir: Hippopotamus Optimization Algorithm (HO), Puma Optimizer, Starfish Optimization Algorithm (SFOA) ve War Strategy Optimization Algorithm (WSO). Algoritmalar, Diabetes, Diagnosis, Mammographic Mass ve Wisconsin Breast Cancer veri kümeleri üzerinde test edilmiştir. Her veri kümesi için aynı MLP mimarisi ve aynı deney koşulları kullanılmış; veriler %80 eğitim ve %20 test ayrımıyla değerlendirilmiştir. Her yöntem 10 bağımsız koşumda çalıştırılmış, popülasyon büyüklüğü 30 ve iterasyon sayısı 100 olarak belirlenmiş, aday çözümler [-10, 10] aralığında sınırlandırılmıştır. Başarım doğruluk (accuracy), kesinlik (precision) ve F1-skoru ile ölçülmüş; yöntemlerin genel sıralaması Friedman testiyle incelenmiştir. Bulgular, meta-sezgisel performansın veri kümesine duyarlı olduğunu göstermektedir. Genel olarak Puma tabanlı eğitim çoğu veri kümesinde doğruluk ve F1-skorunda daha rekabetçi sonuçlar üretirken, HO bazı senaryolarda kesinlik değerlerinde ve kararlılıkta öne çıkmıştır. SFOA ve WSO belirli veri kümelerinde rekabetçi sonuçlar üretebilse de tüm metriklerde tutarlı bir üstünlük sergilememiştir. Elde edilen sonuçlar, MLP eğitimi için meta-sezgisel yöntem seçiminin veri seti özellikleri ve hedef metrikler dikkate alınarak yapılması gerektiğini ortaya koymakta ve tıbbi karar destek uygulamaları için pratik bir karşılaştırma çerçevesi sunmaktadır. Ek olarak her veri kümesi için ortalama ve standart sapma değerleri raporlanmış, en iyi koşum sonuçları üzerinden yöntemlerin güçlü yönleri tartışılmıştır.