Journals / Eğitimde ve Psikolojide Ölçme ve Değerlendirme Dergisi / 2018 / Cilt: 9 - Sayı: 3

The Examination of Item Difficulty Distribution, Test Length and Sample Size in Different Ability Distribution

Farklı Yetenek Dağılımlarında Madde Güçlük Dağılımı, Test Uzunluğu ve Örneklem Büyüklüğünün İncelenmesi

Pages
277–294
Publication Date
2018-09-29
DOI
—
🏛️Bibliographic metadata and full text access for this article are provided via DergiPark.
DergiPark Record ↗
✨

AI Summary & Key Takeaways

AI Insight
⚡ TL;DR(Too Long; Didn't Read)

Also it was observed that the change in the sample size and test length didn’t affect the measurement precision significantly in the left-skewed distribution.

📌 3 Key Takeaways

🎯
Objective & Hypothesis:This is a post-hoc simulation study which investigates the effect of different item difficulty distributions, sample sizes, and test lengths on measurement precision while estimating the examinee parameters in right and left-skewed distributions.
📊
Key Findings & Data:First of all, the examinee parameters were obtained from 20-item real test results for the right-skewed and left-skewed sample groups of 500, 1000, 2500, 5000, and 10000.
💡
Conclusion & Impact:Also it was observed that the change in the sample size and test length didn’t affect the measurement precision significantly in the left-skewed distribution.
🔬Design:Research Article
📍Scope:Comprehensive Sample
⚙️Variables:Madde tepki kuramı · madde güçlük dağılımı · örneklem büyüklüğü

Abstract

This is a post-hoc simulation study which investigates the effect of different item difficulty distributions, sample sizes, and test lengths on measurement precision while estimating the examinee parameters in right and left-skewed distributions. First of all, the examinee parameters were obtained from 20-item real test results for the right-skewed and left-skewed sample groups of 500, 1000, 2500, 5000, and 10000. In the second phase of the study, four different tests were formed according to the b parameter values: normal, uniform, left skewed and right skewed distributions. A total of 80 conditions were formed within the scope of this research by selecting 20-item and 30-item condition as the test length variable. In determining the measurement precision, the RMSE and AAD values were calculated. The results were evaluated in terms of the item difficulty distributions, sample sizes, and test lengths. As a result, in right-skewed examinee distribution, the highest measurement precision was obtained at the normal b distribution and the lowest measurement precision was obtained at the right skewed b distribution. A higher measurement precision was obtained in the 30-item test, however, it was observed that the change in the sample size didn’t affect the measurement precision significantly in right-skewed examinee distribution. In the left skewed distribution, the highest measurement precision was obtained at the normal b distribution and the lowest measurement precision was obtained at the left-skewed b distribution. Also it was observed that the change in the sample size and test length didn’t affect the measurement precision significantly in the left-skewed distribution.

Özet

Bu çalışma sağa ve sola çarpık yetenek dağılımlarında farklı madde güçlük dağılımı, örneklem büyüklüğü ve test uzunluklarının yetenek parametresi kestiriminde ölçme kesinliğine etkisinin incelendiği bir post-hoc simülasyon çalışmasıdır. Araştırma kapsamında ilk olarak, yetenek parametreleri 500, 1000, 2500, 5000 ve 10000 kişilik sağa ve sola çarpık örneklem grupları için 20 maddelik gerçek test sonuçlarından elde edilmiştir. Araştırmanın ikinci aşamasında b parametre değerlerine göre normal dağılım, tekdüze dağılım, sola çarpık ve sağa çarpık dağılım olmak üzere dört farklı test oluşturulmuştur. Test uzunluğu değişkeni olarak 20 madde ve 30 madde seçilerek araştırma kapsamında toplam 80 koşul incelenmiştir. Veri üretimi WinGen 3 programı ile yapılırken parametre kestirimleri MULTILOG 7.03 programıyla yapılmıştır. Kestirim yöntemi olarak ise en çok olabilirlik yöntemi kullanılmıştır. Ölçme kesinliğini belirlemede ise RMSE ve AAD değerleri hesaplanmıştır ve bu değerler kritere dayalı olarak ve kıyaslanarak yorumlanmıştır. Sonuçlar, madde güçlük dağılımı, örneklem büyüklüğü ve test uzunluğu kapsamında değerlendirilmiştir. Sağa çarpık yetenek dağılımında en yüksek ölçme kesinliği normal b dağılımında, en düşük ölçme kesinliği ise sağa çarpık b dağılımında elde edilmiştir. 30 maddelik testte ölçme kesinliği daha yüksek elde edilirken, örneklem büyüklüğünün değişiminin ölçme kesinliğine önemli bir etkisi olmadığı gözlemlenmiştir. Sola çarpık yetenek dağılımında ise en yüksek ölçme kesinliği normal b dağılımında en düşük ölçme kesinliği ise sola çarpık b dağılımında elde edilmiştir. Ayrıca sola çarpık yetenek dağılımında örneklem büyüklüğü ve test uzunluğunun önemli bir etkisi olmamıştır.

🔖

Cite This Article

ŞAHİN, M. G., YILDIRIM, Y. (2018). The Examination of Item Difficulty Distribution, Test Length and Sample Size in Different Ability Distribution. Eğitimde ve Psikolojide Ölçme ve Değerlendirme Dergisi, Cilt: 9 - Sayı: 3, 277–294. https://ajindex.com/articles/137448

📄 Full Text PDF Viewer

📄

PDF görüntüleyici hazırlanıyor...

References (4)

  1. Ackerman, T. A. (1994). Using multidimensional item response theory to understand what items and tests are measuring. Applied Measurement in Education, 7(4), 255-278. doi: 10.1207/s15324818ame0704_1 Andrich, D. (1978). A rating formulation for ordered response categories. Psychometrika, 43, 561-573. doi: 10.1007/BF02293814 Ankenmann, R. D., & Stone, C. A. (1992, April). A Monte Carlo study of marginal maximum likelihood parameter estimates for the graded model. Paper presented at the annual meeting of the National Council on Measurement in Education, San Francisco, CA. Bahry, L. M. (2012). Polytomous item response theory parameter recovery: An investigation of non-normal distributions and small sample size (Unpublished Master Thesis, University of Alberta Department of Educational Psychology, Edmonton). Retrieved from https://era.library.ualberta.ca/items/55cebca1-82a2-44b5-ab78-aad933bbf147.
  2. Baker, F. B. (1998). An investigation of the item parameter recovery characteristics of a Gibbs sampling procedure. Applied Psychological Measurement, 22(2), 153-169. doi: 10.1177/01466216980222005
  3. Bhakta, B., Tennant, A., Horton, M., Lawton, G., & Andrich, D. (2005). Using item response theory to explore the psychometric properties of extended matching questions examination in undergraduate medical education. BMC Medical Education, 5(1), 9. doi: 10.1186/1472-6920-5-9
  4. Bıkmaz Bilgen, Ö., & Doğan, N. (2017). Çok kategorili parametrik ve parametrik olmayan madde tepki kuramı modellerinin karşılaştırılması. Eğitimde ve Psikolojide Ölçme ve Değerlendirme Dergisi, 8(4), 354-372. doi: 10.21031/epod.346650 Bock, R. D. (1972). Estimating item parameters and latent ability when responses are scored in two or more nominal categories. Psychometrika, 37(1), 29-51. doi: 10.1007/BF02291411 Boughton, K. A., Klinger, D. A., & Gierl, M. J. (2001, April). Effects of random rater error on parameter recovery of the generalized partial credit model and graded response model. Paper presented at the annual meeting of the National Council on Measurement in Education, Seattle, WA. Cheng, Y., & Yuan, K. H. (2010). The impact of fallible item parameter estimates on latent trait recovery. Psychometrika, 75(2), 280-291. doi: 10.1007/s11336-009-9144-x Craig, S. B., & Kaiser, R. B. (2003). Applying item response theory to multisource performance ratings: What are the consequences of violating the independent observations assumption? Organizational Research Methods, 6(1), 44-60. doi: 10.1177/10944281