Journals / Eurasian Journal of Critical Care / 2026 / Cilt: 8 Sayı: 2

Beyond the AUROC: data leakage, random splitting, and neglected calibration in critical care machine learning

AUROC’nin Ötesinde: Kritik Bakımda Makine Öğrenmesinde Veri Sızıntısı, Rastgele Veri Bölme ve İhmal Edilen Kalibrasyon

Ömer Faruk Çakıroğlu(UNIVERSITY OF HEALTH SCIENCES, İSTANBUL KARTAL DR. LÜTFİ KIRDAR HEALTH RESEARCH CENTER, DEPARTMENT OF INTERNAL MEDICINE, DEPARTMENT OF ACADEMIC EMERGENCY MEDICINE)0000-0001-8254-6821
Pages
113–114
Publication Date
2026-08-10
🏛️Bibliographic metadata and full text access for this article are provided via DergiPark.
DergiPark Record ↗
✨

AI Summary & Key Takeaways

AI Insight
⚡ TL;DR(Too Long; Didn't Read)

We urge editors and reviewers to require adherence to current reporting and risk of bias standards, and to constrain claims of clinical readiness without external and prospective validation.

📌 3 Key Takeaways

🎯
Objective & Hypothesis:Machine learning is increasingly proposed for predicting triage acuity, deterioration, and mortality in emergency and critical care, yet reported performance is often optimistic.
📊
Key Findings & Data:Systematic reviews show that such models are frequently poorly reported and at high risk of bias.
💡
Conclusion & Impact:We urge editors and reviewers to require adherence to current reporting and risk of bias standards, and to constrain claims of clinical readiness without external and prospective validation.
🔬Design:Review & Systematic Survey
📍Scope:Comprehensive Sample
⚙️Variables:makine öğrenmesi · klinik karar kuralları · kalibrasyon

Abstract

Machine learning is increasingly proposed for predicting triage acuity, deterioration, and mortality in emergency and critical care, yet reported performance is often optimistic. Systematic reviews show that such models are frequently poorly reported and at high risk of bias. We highlight four recurring problems: data leakage, when preprocessing, feature selection, resampling, or hyperparameter tuning extends beyond the training partition; random splitting of a single dataset, which is neither external validation nor statistically efficient; evaluation confined to discrimination or accuracy, disregarding calibration and clinical utility; and unfair comparison of complex algorithms with simpler models and established clinical scores. We urge editors and reviewers to require adherence to current reporting and risk of bias standards, and to constrain claims of clinical readiness without external and prospective validation.

Özet

Makine öğrenmesi, acil ve kritik bakım ortamlarında triyaj önceliğini, klinik kötüleşmeyi ve mortaliteyi öngörmek amacıyla giderek daha fazla önerilmektedir; ancak bildirilen performans çoğu zaman aşırı iyimserdir. Sistematik derlemeler, bu tür modellerin sıklıkla yetersiz raporlandığını ve yüksek yanlılık riski taşıdığını göstermektedir. Bu yazıda dört tekrarlayan soruna dikkat çekiyoruz: ön işleme, değişken seçimi, yeniden örnekleme veya hiperparametre optimizasyonunun eğitim veri setinin dışına taşmasıyla ortaya çıkan veri sızıntısı; tek bir veri setinin rastgele bölünmesi ki bu yaklaşım ne dış doğrulama niteliğindedir ne de istatistiksel açıdan verimlidir; değerlendirmenin yalnızca ayırt edicilik veya doğrulukla sınırlandırılarak kalibrasyon ve klinik yararın göz ardı edilmesi; ve karmaşık algoritmaların daha basit modeller ve yerleşik klinik skorlarla adil olmayan biçimde karşılaştırılması. Editörleri ve hakemleri, güncel raporlama ve yanlılık riski standartlarına uyumu zorunlu tutmaya ve dış doğrulama ile prospektif değerlendirme yapılmadan klinik kullanıma hazır olunduğuna ilişkin iddiaları sınırlandırmaya davet ediyoruz.

🔖

Cite This Article

Çakıroğlu, Ö. F. (2026). Beyond the AUROC: data leakage, random splitting, and neglected calibration in critical care machine learning. Eurasian Journal of Critical Care, Cilt: 8 Sayı: 2, 113–114. https://doi.org/10.55994/ejcc.1993408

📄 Full Text PDF Viewer

📄

PDF görüntüleyici hazırlanıyor...