Etkili değişkenlerin cezalı regresyon yöntemleri ile belirlenmesi: Diyabet veri kümesi üzerine bir uygulama

Determining the effective variables by penalized regression methods: An application on diabetes data set

Özet

Amaç: Bu çalışmada etkili değişkenlerin bulunması amacıyla uygulanan klasik regresyon analizine alternatif olarak kullanılması önerilen ve son yıllarda sağlık verilerinde oldukça popüler hale gelen cezalı regresyon yöntemlerinden En Küçük Açı regresyonu (LARS) ve En Küçük Mutlak Küçülme ve Seçim Operatörü (LASSO) yöntemleri ele alınmıştır. Diyabet veri kümesi üzerine etkili değişkenlerin belirlenmesinde cezalı regresyon yöntemleri ve klasik regresyon analizi sonuçlarının hata kareler ortalaması (HKO) ve belirtme katsayıları (R2) bakımından karşılaştırılması amaçlanmıştır. Yöntem: Diyabet tanısı almış 442 hastaya ait veri kümesine En Küçük Açı regresyonu, En Küçük Mutlak Küçülme ve Seçim Operatörü ve çoklu doğrusal regresyon yöntemleri uygulanmıştır. Bulgular: En Küçük Açı regresyonu ve En Küçük Mutlak Küçülme ve Seçim Operatörü regresyon yöntemleri aynı değişkenleri seçerek model tahmini yapmıştır. Cezalı regresyon yöntemleri, belirtme katsayıları ve hata kareler ortalamaları dikkate alındığında çoklu doğrusal regresyondan daha iyi sonuçlar vermiştir. Sonuç: Diyabet veri seti için cezalı regresyon yöntemleri ile en az sayıda ve modeli en iyi açıklayan değişkenler elde edilmiştir. Daha az sayıda değişkenle anlamlı modeller oluşturulmak istendiğinde tercih edilebilir yöntemlerdir.

Abstract

Aim: Least Angle Regression (LARS) and Least Absolute Shrinkage Selection Operator (LASSO) methods, which have become quite popular in recent years, were discussed as an alternative to classical regression analysis in this study. It is aimed to compare the results of classical regression analysis with these penalized regression methods for determination the effective variables on diabetes dataset in terms of mean square error (MSE) and coefficient of determination (R2). Methods: Least Angle Regression, Least Absolute Shrinkage and Selection Operator and multiple regression methods were applied to data set of 442 patients diagnosed with diabetes. Results: Least Angle Regression and Least Absolute Shrinkage Selection Operator methods predict the model by selecting the same variables. However, these methods were better than multiple regression in terms of coefficient of determination and mean square error. Conclusion: Penalized regression methods constituted the best model for the diabetes data set with the least number of independent variables. These methods should be preferable to obtain significant models with fewer variables.