A multi-scale approach for selecting the optimized activiation function in multi-layer artifical neural networks

Çok katmanlı yapay sinir ağlarında en iyi etkinleştirme fonksiyonu seçimi için çok ölçekli bir yaklaşım

Abstract

In this study, a new algorithm using the distributed system structure is developed in order to improve the training of the artificial neural network classifiers used in pattern recognition. With this algorithm, selection of the most suitable type of the activation functions for the artificial neural networks can be realized by trying with a multi-scale approach usage all the possibilities in the distributed system within a short time. The algorithm is tested for the pattern recognition of the radar receiver signals by using the multi-layer neural networks with the back propagation-learning rule. Hence, by shortening the selection process of the activation function, which takes long time and requires experience, the desired high speed and accuracy are obtained in the pattern recognition.

Özet

Bu çalışmada, örüntü tanımda kullanılan çok katmanlı yapay sinir ağı sınıflandırıcılarının eğitimini iyileştirmek için dağıtık sistem temelli yeni bir algoritma geliştirilmiştir. Bu algoritma ile yapay sinir ağı için en uygun etkinleştirme fonksiyon türü seçimi, dağıtık sistemde tüm olasılıklar çok ölçekli bir yaklaşımla denenerek kısa sürede gerçekleştirilebilmektedir. Algoritma, hata geri yayma öğrenme kuralını kullanan çok katmanlı yapay sinir ağlarına uygulanarak radar alıcısı sinyal örüntülerinin tanımlanması ile test edilmiştir. Böylece uzun zaman alan ve tecrübe gerektiren etkinleştirme fonksiyonu seçim süreci kısaltılarak, örüntü tanımada istenen yüksek hız ve doğruluk sağlanmıştır.