SavedAdd your journal

Journals / Türkiye Teknoloji ve Uygulamalı Bilimler Dergisi / 2026 / Sayı: 2026

Resolving the Multicollinearity Problem Using Principal Component Regression: A Biostatistical Application on C-Reactive Protein Level

Temel Bileşenler Regresyonu ile Çoklu Doğrusal Bağlantı Sorununun Giderilmesi: C-Reaktif Protein Düzeyi Üzerine Biyoistatistik Bir Uygulama

Suat Sönmez(VAN YÜZÜNCÜ YIL ÜNİVERSİTESİ, TIP FAKÜLTESİ)0009-0002-9297-5499
Yusuf Dilbilir(HAKKARİ ÜNİVERSİTESİ, SAĞLIK HİZMETLERİ MESLEK YÜKSEKOKULU, TIBBİ HİZMETLER VE TEKNİKLER BÖLÜMÜ)0000-0002-4569-251X
Sadi Elasan(VAN YÜZÜNCÜ YIL ÜNİVERSİTESİ, TIP FAKÜLTESİ)0000-0002-3149-6462
Pages
92–59
Publication Date
2026-08-17
🏛️Bibliographic metadata and full text access for this article are provided via DergiPark.
DergiPark Record ↗
✨

AI Summary & Key Takeaways

AI Insight
⚡ TL;DR(Too Long; Didn't Read)

In regression models containing numerous related clinical variables, systematic CDB diagnosis before analysis and evaluation of TBR when necessary are recommended.

📌 3 Key Takeaways

🎯
Objective & Hypothesis:Objective: To examine, at both theoretical and applied levels, the statistical advantages offered by Principal Component Regression (PCR) compared to the standard Least Squares (LS) method in addressing the multicollinearity (MCR) problem in high-dimensional clinical datasets.
📊
Key Findings & Data:Method: An open-source clinical dataset (n=1003) was used.
💡
Conclusion & Impact:In regression models containing numerous related clinical variables, systematic CDB diagnosis before analysis and evaluation of TBR when necessary are recommended.
🔬Design:Modeling & Simulation
📍Scope:Comprehensive Sample
⚙️Variables:Temel bileşenler regresyonu · çoklu doğrusal bağlantı · boyut indirgeme

Abstract

Objective: To examine, at both theoretical and applied levels, the statistical advantages offered by Principal Component Regression (PCR) compared to the standard Least Squares (LS) method in addressing the multicollinearity (MCR) problem in high-dimensional clinical datasets. Method: An open-source clinical dataset (n=1003) was used. C-Reactive Protein (CRP) was defined as the dependent variable, and 28 biochemical and hematological parameters were defined as independent variables. MCR was diagnosed using Variance Magnification Factor (VIF); Principal Component Analysis (PCA) and PCR analyses, based on the eigenvalue ≥ 1.5 criterion, were performed using IBM SPSS Statistics 26.0. Findings: In the LSR model, VIF values for hemogram and leukocyte variables were found to be above 1000; this confirmed severe MCR. The 6 principal components selected according to the eigenvalue ≥ 1.5 criterion explained 60.8% of the total variance. In the TBR model, all VIF values were set to 1.000, eliminating the CDB problem. The TBR model showed superiority over the EKK model (R²=0.402) with an R²=0.587; however, the corrected R² differed in favor of EKK (0.340 vs. 0.385). The inflammation/age component (β=0.562, p<0.001) showed the strongest effect on CRP. Conclusion: TBR offers a statistically robust alternative to EKK in biostatistical datasets where CDB is prominent, but it also carries disadvantages such as biased estimation and the need for indirect interpretation. In regression models containing numerous related clinical variables, systematic CDB diagnosis before analysis and evaluation of TBR when necessary are recommended.

Özet

Amaç: Yüksek boyutlu klinik veri setlerinde çoklu doğrusal bağlantı (ÇDB) problemini gidermede Temel Bileşenler Regresyonunun (TBR) standart En Küçük Kareler (EKK) yöntemine kıyasla sunduğu istatistiksel avantajları teorik ve uygulamalı düzeyde incelemek. Yöntem: Açık kaynaklı bir klinik veri seti (n=1003) kullanılmıştır. C-Reaktif Protein (CRP) bağımlı değişken, 28 biyokimyasal ve hematolojik parametre bağımsız değişken olarak tanımlanmıştır. Varyans Büyütme Faktörü (VIF) ile ÇDB teşhisi yapılmış; özdeğer≥1,5 kriteri esas alınarak gerçekleştirilen Temel Bileşenler Analizi (TBA) ve TBR analizleri IBM SPSS Statistics 26.0 ile yürütülmüştür. Bulgular: EKK modelinde hemogram ve lökosit değişkenlerine ait VIF değerlerinin 1000'in üzerinde olduğu saptanmış; bu durum ciddi ÇDB'yi teyit etmiştir. Özdeğer≥1,5 kriterine göre seçilen 6 temel bileşen toplam varyansın %60,8'ini açıklamıştır. TBR modelinde tüm VIF değerleri 1,000'e eşitlenmiş, ÇDB problemi ortadan kaldırılmıştır. TBR modeli R²=0,587 ile EKK modeline (R²=0,402) üstünlük sağlamış; ancak düzeltilmiş R² EKK lehine farklılaşmıştır (0,340 ile 0,385). İnflamasyon/yaş bileşeni (β=0,562, p<0,001) CRP üzerindeki en güçlü etkiyi göstermiştir. Sonuç: TBR, ÇDB'nin belirgin olduğu biyoistatistik veri setlerinde EKK'ye istatistiksel açıdan sağlam bir alternatif sunmakta, ancak yanlı tahmin ve dolaylı yorumlama gerektirme gibi dezavantajlar da taşımaktadır. Çok sayıda ilişkili klinik değişken içeren regresyon modellerinde, analiz öncesi sistematik ÇDB teşhisi ve gerektiğinde TBR'nin değerlendirilmesi önerilmektedir.

🔖

Cite This Article

Sönmez, S., Dilbilir, Y., Elasan, S. (2026). Resolving the Multicollinearity Problem Using Principal Component Regression: A Biostatistical Application on C-Reactive Protein Level. Türkiye Teknoloji ve Uygulamalı Bilimler Dergisi, Sayı: 2026, 92–59. https://doi.org/10.70562/tubid.1914303

📄 Full Text PDF Viewer

📄

PDF görüntüleyici hazırlanıyor...

References (14)

  1. Albayrak, A. (2005). Çoklu doğrusal bağlantı halinde en küçük kareler tekniğinin alternatifi yanlı tahmin teknikleri ve bir uygulama. Afyon Kocatepe Üniv Sosyal Bilim Derg, 1 (1), 105–126.
  2. Alibuhtto, M. and Peiris, T. (2015). ‘Principal component regression for solving multicollinearity problem’. 5th International Symposium, SEUSL.
  3. Belsley, D., Kuh, E. and Welsch, R. (2005). Regression diagnostics: Identifying influential data and sources of collinearity, New York, John Wiley & Sons.
  4. Ferrucci, L. and Fabbri, E. (2018). Inflammageing: Chronic inflammation in ageing, cardiovascular disease, and frailty. Nat Rev Cardiol, 15 (9), 505–522.
  5. Frank, I. and Friedman, J. (1993). A statistical view of some chemometrics regression tools. Technometrics, 35 (2), 109–135.
  6. Hair, J., Black, W., Babin, B. and Anderson, R. (2010). Multivariate data analysis, Upper Saddle River, Pearson Prentice Hall.
  7. Hoerl, A. and Kennard, R. (1970). Ridge regression: Biased estimation for nonorthogonal problems. Technometrics, 12 (1), 55–67.
  8. Jolliffe, I. (2002). Principal component analysis, New York, Springer.
  9. Kutner, M., Nachtsheim, C., Neter, J. and Li, W. (2005). Applied linear statistical models, New York, McGraw-Hill Irwin.
  10. Massy, W. (1965). Principal components regression in exploratory statistical research. J Am Stat Assoc, 60 (309), 234–256.
  11. Montgomery, D., Peck, E. and Vining, G. (2021). Introduction to linear regression analysis, New York, John Wiley & Sons.
  12. Peyman, M. (2020) Covid19 blood sample and biochemistry tests [Online]. Kaggle Inc. Available: https://www.kaggle.com/datasets/paymanmh/covid19-blood-sample-and-biochemistry-tests [Accessed:19.06.2026].
  13. Tibshirani, R. (1996). Regression shrinkage and selection via the lasso. J R Stat Soc Series B Stat Methodol, 58 (1), 267–288.
  14. Topal, M., Eyduran, E., Yağanoğlu, A., Sönmez, A. ve Keskin, S. (2010). Çoklu doğrusal bağlantı durumunda ridge ve temel bileşenler regresyon analiz yöntemlerinin kullanımı. Atatürk Univ J Agric Fac, 41 (1), 53–57.