Journals / Eğitimde ve Psikolojide Ölçme ve Değerlendirme Dergisi / 2019 / Cilt: 10 - Sayı: 1

A Preliminary Study to Evaluate the Reproducibility of Factor Analysis Results: The Case of Educational Research Journals in Turkey

Türkiye Adresli Eğitim Araştırmaları Dergilerinde Yayınlanmış Faktör Analizi Sonuçlarının Tekrarlanabilirliği Üzerine Bir Ön Çalışma

Pages
1–11
Publication Date
2019-03-29
DOI
—
🏛️Bibliographic metadata and full text access for this article are provided via DergiPark.
DergiPark Record ↗
✨

AI Summary & Key Takeaways

AI Insight
⚡ TL;DR(Too Long; Didn't Read)

Results showed that 77.8% of the studies did not include an explicit definition of the population under interest, and in 50.9% of the studies, the sampling method was either not clear or reported to be convenience sampling.

📌 3 Key Takeaways

🎯
Objective & Hypothesis:In quantitative research, an attempt to reproduce previously reported results requires at least a transparent definition of the population, sampling method, and the analyses procedures used in the prior studies.
📊
Key Findings & Data:Focusing on the articles published between 2010 and 2017 by the four prestigious educational research journals in Turkey, this study aimed to investigate the reproducibility of the factor analysis results from a theoretical perspective.
💡
Conclusion & Impact:Results showed that 77.8% of the studies did not include an explicit definition of the population under interest, and in 50.9% of the studies, the sampling method was either not clear or reported to be convenience sampling.
🔬Design:Modeling & Simulation
📍Scope:2010 Verileri
⚙️Variables:Reproducibility · factor analysis · descriptive content analysis

Abstract

In quantitative research, an attempt to reproduce previously reported results requires at least a transparent definition of the population, sampling method, and the analyses procedures used in the prior studies. Focusing on the articles published between 2010 and 2017 by the four prestigious educational research journals in Turkey, this study aimed to investigate the reproducibility of the factor analysis results from a theoretical perspective. A total of 275 articles were subject to descriptive content analysis. Results showed that 77.8% of the studies did not include an explicit definition of the population under interest, and in 50.9% of the studies, the sampling method was either not clear or reported to be convenience sampling. Moreover, information about the missing data or a missing data dealing technique was absent in the 76% of the articles. Approximately, half of the studies were found to have inadequate model fit. Furthermore, in almost all studies, it could not be determined whether the item types (i.e., levels of measurement scales) were taken into consideration during the analyses. In conclusion, the majority of the investigated factor analysis results were evaluated to be non-reproducible in practice.

Özet

Akademik çalışmalarda istatistiksel çıkarımlarla erişilen sonuçları tekrar edebilmek; evrenin, örnekleme yönteminin ve çözümleme süreçlerinin şeffaf olarak tanımlanmaması durumunda mümkün değildir. Bu çalışmada Türkiye’de eğitim araştırmalarında saygın olarak kabul edilen dört dergide 2010-2017 yılları arasında yayınlanmış makalelerde yer alan faktör analizleri, sonuçlarının tekrarlanabilirliği açısından incelenmiştir. Toplamda 275 makalenin betimsel içerik analizi yapılmıştır. Çalışmaların %77.8’inde evren tanımının açıkça yapılmadığı, %50.9’unda örnekleme yönteminin belirtilmediği veya uygun örneklem kullanıldığı, %76’sında kayıp verilerden bahsedilmediği görülmüştür. Model-veri uyumu açısından çalışmaların yaklaşık yarısının eleştirilebilir olduğu değerlendirilmiştir. Araştırmalarda verilerin yapısının (sürekli/kategorik) dikkate alınıp alınmadığı da tespit edilememiştir. İncelenen çalışmalarda raporlanan sonuçları tekrar edilebilmenin büyük oranda mümkün olmayacağı değerlendirilmiştir.

🔖

Cite This Article

AYDIN, B., KAPLAN, M., ATILGAN, H., GÜREL, S. (2019). A Preliminary Study to Evaluate the Reproducibility of Factor Analysis Results: The Case of Educational Research Journals in Turkey. Eğitimde ve Psikolojide Ölçme ve Değerlendirme Dergisi, Cilt: 10 - Sayı: 1, 1–11. https://ajindex.com/articles/137285

📄 Full Text PDF Viewer

📄

PDF görüntüleyici hazırlanıyor...

References (14)

  1. Acar, T. (2014). Ölçek geliştirmede geçerlik kanıtları: Çapraz geçerlik, sınıflama ve sıralama geçerliği uygulaması. Kuram ve Uygulamada Eğitim Bilimleri, 14, 1-11.
  2. Akbaş, U., & Tavşancıl, E. (2015). Farklı Örneklem büyüklüklerinde ve kayıp veri örüntülerinde ölçeklerin psikometrik özelliklerinin kayıp veri baş etme teknikleri ile incelenmesi. Eğitimde ve Psikolojide Ölçme ve Değerlendirme Dergisi, 6, 38-57.
  3. Allison, P. D. (2003). Missing data techniques for structural equation modeling. Journal of Abnormal Psychology, 112, 545-557.
  4. Anderson, C. J., Bahník, Š., Barnett-Cowan, M., Bosco, F. A., Chandler, J., Chartier, C. R.,. & Della, N. P. (2016). Response to Comment on" Estimating the reproducibility of psychological science". Science (New York, NY), 351(6277), 1037-1037.
  5. Atılgan, H., Kan, A., & Aydın, B. (2017). Eğitimde Ölçme ve Değerlendirme. Ankara:
  6. Anı Yayıncılık. Balcı, A. (2015) Sosyal Bilimlerde Araştırma: Yöntem, Teknik ve İlkeler. Ankara:
  7. Pegem Yayınları.
  8. Beauducel, A., & Herzberg, P. Y. (2006). On the performance of maximum likelihood versus means and variance adjusted weighted least squares estimation in CFA. Structural Equation Modeling, 13, 186-203.
  9. Bornstein, M. H., Jager, J., & Putnick, D. L. (2013). Sampling in developmental science: Situations, shortcomings, solutions, and standards. Developmental Review, 33, 357-370.
  10. Bryant, F. B., & Yarnold, P. R. (1995). Principal-components analysis and exploratory and confirmatory factor analysis. In L. G. Grimm & P. R. Yarnold (Eds.), Reading and understanding multivariate statistics (pp. 99-136).
  11. Washington, DC, US: American Psychological Association. Büyüköztürk, Ş. (2002). Faktör analizi: Temel kavramlar ve ölçek geliştirmede kullanımı. Kuram ve Uygulamada Eğitim Yönetimi, 32, 470-483.
  12. Collaboration, O. S., & others. (2015). Estimating the reproducibility of psychological science. Science, 349(6251). Crocker, L. M., & Algina, J. (1986). Introduction to classical and modern test theory. New York: Holt, Rinehart, Winston. Çüm, S., & Gelbal, S. (2015). Kayıp veriler yerine yaklaşık değer atamada kullanılan farklı yöntemlerin model veri uyumu Üzerindeki etkisi. Mehmet Akif Ersoy Üniversitesi Eğitim Fakültesi Dergisi, 1(35), 87-111.
  13. Çüm, S., & Koç, N. (2013). Türkiye’de psikoloji ve eğitim bilimleri dergilerinde yayımlanan ölçek geliştirme ve uyarlama çalışmalarının incelenmesi. Journal of Educational Sciences & Practices, 12(24), 115-135.
  14. Delice, A. (2010). Nicel araştırmalarda örneklem sorunu. K