Kısıtlanmış Boltzmann Makinesi Ve Farklı Sınıflandırıcılarla Oluşturulan Sınıflandırma İş Hatlarının Başarımının Değerlendirilmesi

Performance Evaluation of Classification Pipelines Builded with Restricted Boltzmann Machine and Several Classifiers

Özet

Literatürdeki birçok sınıflandırıcı yöntemi en yüksek sınıflandırma doğruluğuna ulaşılması için kullanılmaktadır. Kısıtlanmış Boltzmann makinesi danışmansız öğrenmenin yapıldığı bir yapay sinir ağı olmasının yanı sıra, öznitelik elde etmekte kullanılan öğrenen bir bileşen olarak önem kazanmıştır. Çalışmamızda Bernoulli tipli kısıtlanmış Boltzmann makinesi ve farklı sınıflandırıcılar kullanılarak oluşturulan beş farklı iş hattının başarımları kıyaslanmaktadır. Bu iş hatlarında sırasıyla lojistik regresyon, karar ağacı, Gauss saf Bayes, Ada Boost ve rasgele orman sınıflandırıcı kullanılmıştır. Sınıflandırma sonucu değişiklikleri, bu sınıflandırıcıların elde ettiği tek başına sınıflandırma sonuçlarına kıyasla iş hatları kullanılarak gözlemlenmiştir. Deneysel sonuçlar, MNIST el yazısı rakam tanıma veri kümesi kullanılarak elde edilmiştir. Bu deneylerde kısıtlanmış Boltzmann makinesinin üstün parametrelerinin iki farklı düzeni kullanılmıştır. Bu sonuçlara göre, tek başına sınıflandırıcının sınıflandırma doğruluğunun deneylerdeki iş hatları kullanımı sayesinde daha iyi hale geldiği görülmüştür. En yüksek başarım %97,19'luk bir sınıflandırma başarı oranıyla elde edilmiştir. Önerilen iş hattı tasarımını kullanan modeller ilgili bireysel sınıflandırıcı ortalama başarımlarını en az %1 ilâ en çok %33 arasında iyileştirmiştir. Makalede tartışmaya da yer verilmektedir.

Abstract

Many classification methods in the literature are used to achieve the highest classification accuracy. The restricted Boltzmann machine is an artificial neural network with unsupervised learning, however it is gained importance as a learning component to extract attributes. In our study, we compared the performances of five different pipelines builded with the Bernoulli-type restricted Boltzmann machine and different classifiers. Experiments have been carried out on these pipelines by using logistic regression, decision tree, Gaussian naive Bayes, Ada Boost, and random forest classifier, respectively. The classification resultant changes were observed through the use of pipelines compared to the stand alone classification results obtained by these classifiers. Experimental results were obtained with the use of MNIST handwriting digit recognition data set. In these experiments, two different orders of hyper parameters of the restricted Boltzmann machine were used. According to these results, it was seen that the classification accuracy of the stand alone classifier became better through the use of pipelines in the experiments. The highest performance was achieved with a classification success rate of 97.19%. Models using the proposed pipeline design have improved the average performance of related invidividual classifiers from at least 1% to at most 33%. Discussions are also included.