Dergiler / Eğitimde ve Psikolojide Ölçme ve Değerlendirme Dergisi / 2021 / Cilt: 12 - Sayı: 2

Yükseköğretim Öğrencilerinin Akademik Yazma Becerilerinin Değerlendirilmesinde Puanlayıcı Eğitiminin Farklılaşan Puanlayıcı Fonksiyonu Üzerindeki Etkisinin İncelenmesi

Investigating the Effect of Rater Training on Differential Rater Function in Assessing Academic Writing Skills of Higher Education Students

Sayfa
163–181
Yayın Tarihi
2022-10-12
DOI
—
🏛️Bu makalenin bibliyografik verileri ve tam metin bağlantısı DergiPark üzerinden sağlanmıştır.
DergiPark Kaydı ↗
✨

Yapay Zeka Hızlı Bakış & Çıkarımlar

AI Insight
⚡ TL;DR(1 Cümlede Hızlı Çıkarım)

Araştırmanın bulguları incelendiğinde verilen puanlayıcı eğitiminin farklılaşan puanlayıcı fonksiyonu üzerinde etkili olduğu bulunmuş ve bu sonuca dayalı öneriler sunulmuştur.

📌 3 Maddede Bu Makale

🎯
Amaç & Hipotez:Bu araştırmanın amacı, yükseköğretimdeki öğrencilerin akademik yazma becerilerinin değerlendirilmesi sürecinde puanlayıcı eğitiminin farklılaşan puanlayıcı fonksiyonu (puanlayıcı hatası) üzerindeki etkisini incelemektir.
📊
Temel Bulgular & Veri:Araştırmanın çalışma grubu 22 deney ve 23 kontrol grubundan olmak üzere toplam 45 puanlayıcıdan oluşmaktadır.
💡
Sonuç & Katkı:Araştırmanın bulguları incelendiğinde verilen puanlayıcı eğitiminin farklılaşan puanlayıcı fonksiyonu üzerinde etkili olduğu bulunmuş ve bu sonuca dayalı öneriler sunulmuştur.
🔬Tür:Modelleme & Sayısal Simülasyon
📍Kapsam:Genişletilmiş Akademik Örneklem
⚙️Değişkenler:Alan Parametreleri

Özet

Bu araştırmanın amacı, yükseköğretimdeki öğrencilerin akademik yazma becerilerinin değerlendirilmesi sürecinde puanlayıcı eğitiminin farklılaşan puanlayıcı fonksiyonu (puanlayıcı hatası) üzerindeki etkisini incelemektir. Araştırma yarı deneysel desenlerden ön test son test kontrol gruplu deneysel desen ile yürütülmüştür. Araştırmanın çalışma grubu 22 deney ve 23 kontrol grubundan olmak üzere toplam 45 puanlayıcıdan oluşmaktadır. Puanlayıcılar, daha önce herhangi bir puanlayıcı eğitimine katılmayan ve puanlama deneyimlerinin benzer olduğu tespit edilen öğretmen adaylarından oluşmaktadır. Araştırma kapsamındaki veri, araştırmacılar tarafından geliştirilmiş olan analitik dereceli puanlama anahtarı ve Uluslararası İngilizce Dil Test Sistemi tarafından hazırlanmış olan düşünce temelli bir yazma görevi kullanılarak toplanmıştır. Araştırma kapsamında 39 öğrencinin ikinci dilde (İngilizce) yazmış oldukları kompozisyonlar değerlendirilmiştir. Veri analizi olarak çok yüzeyli Rasch modeli kullanılmış olup, bu analiz tamamen çaprazlanmış desen altında yürütülmüştür. Araştırmanın bulguları incelendiğinde verilen puanlayıcı eğitiminin farklılaşan puanlayıcı fonksiyonu üzerinde etkili olduğu bulunmuş ve bu sonuca dayalı öneriler sunulmuştur.

Abstract

This study aimed to examine the effect of rater training on the differential rater function (rater error) in theprocess of assessing the academic writing skills of higher education students. The study was conducted with apre-test and post-test control group quasi-experimental design. The study group of the research consisted of 45raters, of whom 22 came from experimental, and 23 came from control groups. The raters were pre-serviceteachers who did not participate in any rater training before, and it was investigated that they had similarexperiences in assessment. The data were collected using an analytical rubric developed by the researchers andan opinion-based writing task prepared by the International English Language Testing System (IELTS). Withinthe scope of the research, the compositions of 39 students that were written in a foreign language (English) wereassessed. Many Facet Rasch Model was used for the analysis of the data, and this analysis was conducted underthe Fully Crossed Design. The findings of the study revealed that the given rater training was effective ondifferential rater function, and suggestions based on these results were presented.

🔖

Bu Makaleye Atıf Yap

ŞATA, M., KARAKAYA, İ. (2022). Yükseköğretim Öğrencilerinin Akademik Yazma Becerilerinin Değerlendirilmesinde Puanlayıcı Eğitiminin Farklılaşan Puanlayıcı Fonksiyonu Üzerindeki Etkisinin İncelenmesi. Eğitimde ve Psikolojide Ölçme ve Değerlendirme Dergisi, Cilt: 12 - Sayı: 2, 163–181. https://ajindex.com/articles/497163

📄 Tam Metin PDF Okuyucu

📄

PDF görüntüleyici hazırlanıyor...

Kaynakça (7)

  1. Aryadoust, V. (2016). Understanding the growth of ESL paragraph writing skills and its relationships with linguistic features. Educational Psychology, 36(10), 1742-1770. https://doi.org/10.1080/01443410.2014.950946
  2. Attali, Y., Bridgeman, B., & Trapani, C. (2010). Performance of a generic approach in automated essay scoring. Journal of Technology, Learning, and Assessment, 10(3), 1-16. https://ejournals.bc.edu/ojs/index.php/jtla/article/view/1603 sayfasından erişilmiştir. Baştürk, M. (2012). İkinci dil öğrenme algılarının belirlenmesi: Balıkesir örneği. Balikesir University Journal of Social Sciences Institute, 15(28-1), 251-270. http://dspace.balikesir.edu.tr/xmlui/handle/20.500.12462/4594 sayfasından erişilmiştir. Bayat, N. (2014). Öğretmen adaylarının eleştirel düşünme düzeyleri ile akademik yazma başarıları arasındaki ilişki. Eğitim ve Bilim, 39(173), 155-168. http://eb.ted.org.tr/index.php/EB/article/view/2333 sayfasından erişilmiştir. Bernardin, H. J. & Pence, E. C. (1980). Effects of rater training: New response sets and decreasing accuracy. Journal ofApplied Psychology, 65, 60-66. https://doi.org/10.1037/0021-9010.65.1.60
  3. Bernardin, H. J., & Buckley, M. R. (1981). Strategies in rater training. Academy of Management Review, 6(2), 205-212. https://journals.aom.org/doi/abs/10.5465/amr.1981.4287782 sayfasından erişilmiştir. Bijani, H. (2018). Investigating the validity of oral assessment rater training program: A mixed-methods study of raters’ perceptions and attitudes before and after training. Cogent Education, 5(1), 1-20. https://doi.org/10.1080/2331186X.2018.1460901
  4. Bitchener, J., Young, S., & Cameron, D. (2005). The effect of different types of corrective feedback on ESL students. Journal of Second Language Writing, 14, 191–205. https://doi.org/10.1016/j.jslw.2005.08.001
  5. Bond, T., & Fox, C. M. (2015). Applying the Rasch model: Fundamental measurement in the human sciences. New York and London: Routledge. https://doi.org/10.4324/9781315814698
  6. Brennan, R.L., Gao, X., & Colton, D.A. (1995). Generalizability analyses of work key listening and writing tests. Educational and Psychological Measurement, 55(2), 157-176. https://doi.org/10.1177/0013164495055002001
  7. Brijmohan, A. (2016). A many-facet Rasch measurement analysis to explore rater effects and rater training in medical school admissions. (Doktora Tezi). http://www.proquest.com/ sayfasından erişilmiştir. Brookhart, S. M. (2013). How to create and use rubrics for formative assessment and grading. Ale