AI Summary & Key Takeaways
AI InsightMoreover, when tested in wireless mesh networks, the SLFN delivers promising smart steering capabilities.
📌 3 Key Takeaways
Abstract
Random Fourier features (RFF) provide one of the most prominent means for nonlinear classification in especially large scale data settings. However, considering the original proposal of RFF, Fourier features are randomly drawn from a certain distribution and used unoptimized. In this paper, we investigate Fourier features via a single hidden layer feedforward neural network (SLFN) and optimize, i.e., learn, those features (instead of drawing randomly). The learned Fourier features are deduced from the radial basis function (rbf kernel), and implemented in the hidden layer of the SLFN which is followed by the output layer. We present extensive experiments with 10 different classification datasets from various fields, e.g., bioinformatics. The learning of Fourier features is observed to be highly superior over the competing techniques such as perceptron in the rbf kernel space or a greedy forward feature selection strategy. On the other hand, the Fourier feature learning performs comparably with SVM (support vector machines with rbf kernel) while providing substantial computational benefits, and this is even without using the max margin regularization. Moreover, when tested in wireless mesh networks, the SLFN delivers promising smart steering capabilities.
Özet
Rastgele Fourier öznitelikleri (RFÖ), doğrusal olmayan sınıflandırma için özellikle büyük ölçekli veri koşullarında en önemli araçlardan biridir. Bununla birlikte, RFÖ'nün orijinal önerisi dikkate alındığında, Fourier öznitelikleri belirli bir dağılımdan rastgele seçilir ve eniyilenmeden kullanılır. Bu yazıda, Fourier özniteliklerini tek gizli katmanlı bir ileri beslemeli sinir ağı (TKİS) aracılığıyla incelemekte ve bu öznitelikleri (rastgele seçim yerine) optimize etmekte, yani öğrenmekteyiz. Öğrenilen Fourier öznitelikleri radyal taban fonksiyonundan (rtf çekirdeği) üretildikten sonra TKİS'nin gizli katmanında gerçeklenir ve sonra takip eden çıktı katmanında kullanılır. Biyoinformatik gibi çeşitli alanlardan 10 farklı sınıflandırma veri kümeleri ile kapsamlı deneyler sunmaktayız. Fourier öznitelik öğrenmesinin, rtf çekirdek uzayında perseptron uygulama veya ileri yönlü fırsatçı öznitelikleri seçme stratejileri gibi rakip tekniklere göre oldukça üstün olduğu gözlemlenmiştir. Öte yandan, Fourier öznitelik öğrenmesi, DVM (rtf çekirdekli destek vektör makineleri) ile karşılaştırılabilir bir performans sergilerken, önemli hesaplama avantajlarını marjin büyütmesini kullanmadan dahi sağlayabilmektedir. Ayrıca, TKİS'yi kablosuz örgü ağlarında test ettiğimizde akıllı yönlendirme açısından umut vaat ettiğini gözlemlemekteyiz.