AI Summary & Key Takeaways
AI InsightAs a result, the advantage of the proposed method on the performance of recent online LSTM, GRU, and transformer models is clearly demonstrated.
📌 3 Key Takeaways
Abstract
The performance of learning methods and sliding window size has gained significant importance with the increasing volume of data in online time series modeling and prediction. In the literature, fixed window lengths are traditionally chosen based on prior experience, and the information of the new data is transferred to the model. However, a fixed window length is insufficient due to the dynamic nature of time series data. In this paper, a novel method for intelligent tuning of the sliding window size based on fuzzy logic is proposed to improve the online prediction performance of deep learning models. The main contributions of the study are as follows: i) The well-known stochastic gradient-descent learning with fixed window lengths were used to train the well-known LSTM, GRU, and transformer models, and their success in financial time series estimation was recorded in tables. An important comparison is provided at this stage. These tables provide us with detailed information about the performance of existing models in online time series forecasting. ii) A fuzzy logic model is proposed, and the optimal sliding window size is selected based on the performance values calculated at each sample index. With the proposed method, the size of the sliding window is tuned automatically. Fuzzy rule base is constructed based on the mean absolute error performance of offline training data. The reason for using the MAE value in offline training is that it is still desired to maintain the offline success of the model in case new data arrives. iii) The best and worst-performing models obtained with fixed window length are redesigned with fuzzy logic sliding window size, and their performances are recorded. As a result, the advantage of the proposed method on the performance of recent online LSTM, GRU, and transformer models is clearly demonstrated.
Özet
Çevrimiçi zaman serisi modelleme ve tahmininde artan veri hacmiyle birlikte öğrenme yöntemlerinin performansı ve kayan pencere boyutu büyük önem kazanmıştır. Literatürde geleneksel olarak sabit pencere uzunlukları önceki deneyimlere dayalı olarak seçilmekte ve yeni verinin bilgisi modele aktarılmaktadır. Ancak, zaman serisi verilerinin dinamik yapısı nedeniyle sabit bir pencere uzunluğu yetersiz kalmaktadır. Bu makalede, derin öğrenme modellerinin çevrimiçi tahmin performansını iyileştirmek için bulanık mantığa dayalı kayan pencere boyutunun uygun biçimde ayarlanması için yeni bir yöntem önerilmektedir. Çalışmanın ana katkıları şunlardır: i) LSTM, GRU ve transformatör modellerini eğitmek için sabit pencere uzunluklarına sahip iyi bilinen stokastik gradyan inişli öğrenme kullanılmış ve finansal zaman serisi tahminindeki başarıları tablolara kaydedilmiştir. Bu aşamada önemli bir karşılaştırma sağlanmıştır. Bu tablolar bize mevcut modellerin çevrimiçi zaman serisi tahminindeki performansları hakkında detaylı bilgi vermektedir. ii) Bir bulanık mantık modeli önerilmiş ve her örnek indeksinde hesaplanan performans değerlerine göre en uygun kayan pencere boyutu seçilmiştir. Önerilen bu yöntem ile kayan pencerenin boyutu otomatik olarak ayarlanmaktadır. Bulanık kural tabanı, çevrimdışı eğitim verilerinin ortalama mutlak hata (MAE) performansına dayalı olarak oluşturulur. Çevrimdışı eğitimde elde edilen MAE değerinin kullanılmasının nedeni, yeni veri gelmesi durumunda da modelin çevrimdışı başarısının korunmak istenmesidir. iii) Sabit pencere uzunluğu ile elde edilen en iyi ve en kötü performanslı modeller, bulanık mantık kayan pencere boyutu ile yeniden tasarlanır ve performansları kaydedilir. Sonuç olarak, önerilen yöntemin son çevrimiçi LSTM, GRU ve transformatör modellerinin performansı üzerindeki avantajı açıkça gösterilmiştir.