Performance of a New Restricted Biased Estimator in Logistic Regression

Abstract

It is known that the variance of the maximum likelihood estimator (MLE)inflates when the explanatory variables are correlated. This situation is called the multicollinearityproblem. As a result, the estimations of the model may not be trustful.Therefore, this paper introduces a new restricted estimator (RLTE) that may be appliedto get rid of the multicollinearity when the parameters lie in some linear subspace inlogistic regression. The mean squared errors (MSE) and the matrix mean squared errors(MMSE) of the estimators considered in this paper are given. A Monte Carlo experimentis designed to evaluate the performances of the proposed estimator, the restricted MLE(RMLE), MLE and Liu-type estimator (LTE). The criterion of performance is chosen tobe MSE. Moreover, a real data example is presented. According to the results, proposedestimator has better performance than MLE, RMLE and LTE.

Özet

Açıklayıcı de˘gi¸skenler ili¸skili oldu˘gunda en çok olabilirlik tahmincisinin (MLE) varyansının ¸si¸sti˘gi bilinmektedir. Bu durum çoklu-ba˘glantı problemi olarak adlandırılır. Sonuç olarak, modelin tahminleri güvenilir olmayabilir. Bu nedenle, bu makale, lojistik regresyon modelinde, dü¸sük boyutlu veriler için (n > p), çoklu-ba˘glantı problemini gidermek için parametrelerin bir alt uzayda oldu˘gu durumda uygulanabilecek yeni kısıtlı bir tahminciyi ortaya koymaktadır. Bu makalede ele alınan tahmin edicilerin hata kareler ortalamaları (MSE) ve matris MSE’leri(MMSE) verilmi¸stir. Monte Carlo deneyi, önerilen tahmincinin (RLTE), kısıtlı en çok olabilirlik tahmincisinin (RMLE), MLE ve Liu tipi tahmincisinin (LTE) performanslarını de˘gerlendirmek üzere tasarlanmı¸stır. Ayrıca gerçek veri üzerinde bir örnek gösterilmi¸stir. Performans de˘gerlendirme kriteri olarak MSE seçilmi¸stir. Sonuçlara göre, yeni tahmincinin MLE, RMLE ve LTE’den daha iyi performansı vardır.