Journals / Eğitimde ve Psikolojide Ölçme ve Değerlendirme Dergisi / 2021 / Cilt: 12 - Sayı: 2

PISA 2015 Reading Test Item Parameters Across Language Groups: A measurement Invariance Study with Binary Variables

PISA 2015 Dil Gruplarına Göre Madde Parametreleri: İkili Değişkenlerle Ölçme Değişmezliği Çalışması

Pages
112–128
Publication Date
2022-10-12
DOI
—
🏛️Bibliographic metadata and full text access for this article are provided via DergiPark.
DergiPark Record ↗
✨

AI Summary & Key Takeaways

AI Insight
⚡ TL;DR(Too Long; Didn't Read)

Measurement invariance studies taking into account the binary structure of the data set for thesetwo groups revealed that eight of the twenty-eight items in the PISA-2015 reading skills test had possiblelimitations in equivalence.

📌 3 Key Takeaways

🎯
Objective & Hypothesis:Large-scale international assessments, including PISA, might be useful for countries to receive feedback on theireducation systems.
📊
Key Findings & Data:In this respect, the purpose of ourstudy is to investigate whether there is a measurement invariance problem across native English and non-nativeEnglish speaker groups in the PISA-2015 reading skills subtest.
💡
Conclusion & Impact:Measurement invariance studies taking into account the binary structure of the data set for thesetwo groups revealed that eight of the twenty-eight items in the PISA-2015 reading skills test had possiblelimitations in equivalence.
🔬Design:Research Article
📍Scope:2015 Verileri
⚙️Variables:Domain Parameters

Abstract

Large-scale international assessments, including PISA, might be useful for countries to receive feedback on theireducation systems. Measurement invariance studies are one of the active research areas for these assessments,especially cross-cultural and linguistic comparability have attracted attention. PISA questions are prepared in theEnglish language, and students from many countries answer the translated form. In this respect, the purpose of ourstudy is to investigate whether there is a measurement invariance problem across native English and non-nativeEnglish speaker groups in the PISA-2015 reading skills subtest. The study sample included students from Canada,the USA, and the UK as the native speaker group and students from Japan, Thailand, and Turkey as the non-nativespeaker group. Measurement invariance studies taking into account the binary structure of the data set for thesetwo groups revealed that eight of the twenty-eight items in the PISA-2015 reading skills test had possiblelimitations in equivalence.

Özet

PISA gibi uluslararası düzeyde yapılan sınavlarda, ülkelerin eğitim sistemlerinin etkililiği hakkında değerlendirmeler yapılmaktadır. Dolayısıyla bu uygulamalar için hazırlanan ölçme araçlarının geçerliği incelenirken farklı değişkenlere göre eşdeğerliğinin sınanması önemli konulardan biridir. PISA uygulamasının soruları İngilizce dilinde hazırlanmaktadır. Birçok ülkeden katılan öğrenciler, testin orijinal formunu değil çeviri formunu cevaplamaktadırlar. PISA’nın uygulama dilinden farklı bir dil kökeninden katılım sağlayan öğrenciler ile testi orijinal formda alan öğrenciler arasında dil değişkenine göre bir ölçme değişmezliği sorunu olmaması gerekmektedir. Bu bağlamda çalışmanın amacı PISA-2015 okuma becerileri alt testinde ana dili İngilizce olan ülkeler ile ana dili İngilizce olmayan ülkelerarasında çeviriden kaynaklanan bir ölçme değişmezliği sorunu olup olmadığını araştırmaktır. Araştırmanın amacı doğrultusunda ana dili İngilizce olan ülkelerden Kanada, ABD ve İngiltere; ana dili İngilizce olmayan ülkelerden ise Japonya, Tayland ve Türkiye örneklemleri araştırmaya dahil edilmiştir. Bu araştırmada PISA-2015 okuma becerileri testinin ana dili değişkenine göre ölçme değişmezliği veri setinin ikili kategorik yapısına uygun olarak test edilmiştir. Yapılan analizler ile elde edilen bulgular doğrultusunda, PISA-2015 okuma becerileri testindeki 28 maddeden 8’inin ana dili İngilizce olan ve olmayan ülkelere göre eşdeğerliğinde büyük ölçüde sınırlamalar olduğu sonucuna ulaşılmıştır. PISA gibi uluslararası sınavların ülkeler arasında karşılaştırılabilir olması için ölçme değişmezliğini sınırlandıran faktörlerin belirlenerek etkisinin en aza indirilmesi gerektiği önerilmiştir.

🔖

Cite This Article

ATILGAN, H., SÖYLER, P. B., AYDIN, B. (2022). PISA 2015 Reading Test Item Parameters Across Language Groups: A measurement Invariance Study with Binary Variables. Eğitimde ve Psikolojide Ölçme ve Değerlendirme Dergisi, Cilt: 12 - Sayı: 2, 112–128. https://ajindex.com/articles/497153

📄 Full Text PDF Viewer

📄

PDF görüntüleyici hazırlanıyor...

References (11)

  1. Adams, R., & Rowe, K. (1988). Educational research, methodology, and measurement:An international handbook. Oxford: Pergamon Press.
  2. Akbaş, U. ve Tavşancıl, E. (2015). Farklı örneklem büyüklüklerinde ve kayıp veri örüntülerinde ölçeklerin psikometrik özelliklerinin kayıp veri baş etme teknikleri ile incelenmesi., Journal of Measurement and Evaluation in Education and Psychology, 6(1), 38-57
  3. Algina, J. & Crocker, L., (1986). Introduction to classical and modern test theory. New York: Holt, Rinehart and Winston. Arffman, I. (2002). In search of equivalence: Translation problems in international literacy studies. Finland. Arffman, I. (2010). Equivalence of translations in international reading literacy studies. Scandinavian Journal of Educational Research, 54(1), 37-59.
  4. Asil, M., & Gelbal, S. (2012). Cross-cultural equivalence of the PISA student questionnaire. Education ve Science, 236-249. Asil M., & Brown, G. (2015). Comparing OECD PISA reading in English to other languages: Identifying potential sources of non-invariance. International Journal of Testing, 16(1), 71-93.
  5. Baker, F. B. (2016). The basics of item response theory. Ankara:
  6. Pegem Academy. Baykal, A., & Circi, R. (2010). Item revision to improve construct validity: A study on released science items in Turkish PISA 2006. Procedia Social and Behavioral Sciences, 2(2), 1931-1935.
  7. Bollen, K. A. (1989). Structural equations with latent variables. New York: Wiley. Bonnet, G. (2002). Reflections in a critical eye: on the pitfalls of international assessment. Assessment in Education: Principles, Policy & Practice, 9(3), 387–399.
  8. Brown, T. A. (2006). Confirmatory factor analysis for applied research. New York: Guilford. Cheema, J. (2012). Handling missing data in educational research using SPSS. Yayınlanmamış Doktora Tezi, George Mason University Downey, R., & King, C. (1998). Missing data in likert ratings: A comparison of replacement methods. The Journal of General Psychology, 175-191.
  9. Elosua, P. (2011). Assessing Measurement Equivalence in Ordered-Categorical Data. Psicológica, 403-421.
  10. Enders, C. K. (2010). Applied missing data analysis. (1. Ed.). New York: The Guilford Publications, Inc Ercikan, K., & Koh, K. (2005). Examining the construct comparability of the English and French versions of TIMMS. International Journal Of Testing, 23-3
  11. Ercikan, K., & Lyons-Thomas, J. (2013). Adapting test for use in other languages and cultures. APA Handbook of Testing and Assesment in Psychology (s. 545-569). için