Dergiler / Adıyaman Üniversitesi Eğitim Bilimleri Dergisi / 2022 / Cilt: 12 - Sayı: 1

Bloklanmış Üç Düzeyli Regresyon Süreksizlik Tasarımlarının Tasarım ve Analizinde Bir Düzeyinin Yok Sayılmasının Sonuçları: Güç ve Tip I Hata Oranları

Consequences of Ignoring a Level of Nesting on Design and Analysis of Blocked Three-level Regression Discontinuity Designs: Power and Type I Error Rates

Sayfa
42–55
Yayın Tarihi
2022-06-30
DOI
—
🏛️Bu makalenin bibliyografik verileri ve tam metin bağlantısı DergiPark üzerinden sağlanmıştır.
DergiPark Kaydı ↗
✨

Yapay Zeka Hızlı Bakış & Çıkarımlar

AI Insight
⚡ TL;DR(1 Cümlede Hızlı Çıkarım)

Üst düzey göz ardı edildiğinde, bir BIRD3 tasarımını planlamak için BIRD2 modelindeki parametreleri kullanmaktan kaçınılması gerekmektedir.

📌 3 Maddede Bu Makale

🎯
Amaç & Hipotez:Çok düzeyli regresyon süreksizliği tasarımları, politika ve programların etkililiğini değerlendirme amacıyla eğitim araştırmalarında giderek daha fazla kullanılmaktadır.
📊
Temel Bulgular & Veri:Üç düzeyli bir veri yapısında (öğrenciler sınıflarda/öğretmenlerde, sınıflar/öğretmenler okullarda kümelenmiştir) bir düzeyin, ister veri analizi sırasında farkında olmadan ister planlama aşamasında kaynak kısıtlamaları nedeniyle göz ardı edilmesi yaygın bir sorundur.
💡
Sonuç & Katkı:Üst düzey göz ardı edildiğinde, bir BIRD3 tasarımını planlamak için BIRD2 modelindeki parametreleri kullanmaktan kaçınılması gerekmektedir.
🔬Tür:Modelleme & Sayısal Simülasyon
📍Kapsam:Genişletilmiş Akademik Örneklem
⚙️Değişkenler:bloke edilmiş regresyon süreksizlik tasarımları · bir yuvalama seviyesinin göz ardı edilmesi · güç analizi

Özet

Çok düzeyli regresyon süreksizliği tasarımları, politika ve programların etkililiğini değerlendirme amacıyla eğitim araştırmalarında giderek daha fazla kullanılmaktadır. Üç düzeyli bir veri yapısında (öğrenciler sınıflarda/öğretmenlerde, sınıflar/öğretmenler okullarda kümelenmiştir) bir düzeyin, ister veri analizi sırasında farkında olmadan ister planlama aşamasında kaynak kısıtlamaları nedeniyle göz ardı edilmesi yaygın bir sorundur. Bu çalışma, veri analizi ve planlama sırasında bloke edilmiş üç düzeyli regresyon süreksizlik tasarımlarında (BIRD3; müdahale 1. seviyededir) orta veya üst düzeyin göz ardı edilmesinin sonuçlarını araştırmaktadır. Monte Carlo simülasyon sonuçları, analiz sırasında bir düzeyin göz ardı edilmesinin müdahale etkisi tahminlerinin doğruluğunu etkilemediğini ancak standart hata, güç ve Tip I hata oranlarını etkilediğini göstermiştir. Orta düzeyin göz ardı edilmesi analiz aşamasında önemli bir sorun yaratmamıştır. Güç oranları nispeten daha küçük olsa bile Tip I hata oranları sabit kalmıştır. Buna karşılık, üst düzeyi göz ardı etmek daha büyük güç oranlarının elde edilmesine yardımcı olurken öte yandan Tip I hatada ciddi bir artışa yol açmaktadır. Tasarım aşamasına gelince, orta düzey göz ardı edildiğinde bir BIRD3 tasarımını planlamak için iki düzeyli bloke edilmiş regresyon süreksizlik modelinden (BIRD2) gelen parametreleri kullanmak uygundur. Ancak BIRD3 tasarımında, BIRD2 modelindeki 2. düzeye ait parametreleri 3. düzey parametrelerinin yerine kullanmak gerekir. Üst düzey göz ardı edildiğinde, bir BIRD3 tasarımını planlamak için BIRD2 modelindeki parametreleri kullanmaktan kaçınılması gerekmektedir.

Abstract

Multilevel regression discontinuity designs have been increasingly used in education research to evaluate the effectiveness of policy and programs. It is common to ignore a level of nesting in a three-level data structure (students nested in classrooms/teachers nested in schools), whether unwittingly during data analysis or due to resource constraints during the planning phase. This study investigates the consequences of ignoring intermediate or top level in blocked three-level regression discontinuity designs (BIRD3; treatment is at level 1) during data analysis and planning. Monte Carlo simulation results indicated that ignoring a level during analysis did not affect the accuracy of treatment effect estimates; however, it affected the precision (standard errors, power, and Type I error rates). Ignoring the intermediate level did not cause a significant problem. Power rates were slightly underestimated, whereas Type I error rates were stable. In contrast, ignoring a top-level resulted in overestimated power rates; however, severe inflation in Type I error deemed this strategy ineffective. As for the design phase, when the intermediate level was ignored, it is viable to use parameters from a two-level blocked regression discontinuity model (BIRD2) to plan a BIRD3 design. However, level 2 parameters from the BIRD2 model should be substituted for level 3 parameters in the BIRD3 design. When the top level was ignored, using parameters from the BIRD2 model to plan a BIRD3 design should be avoided.

🔖

Bu Makaleye Atıf Yap

BULUS, M., DONG, N. (2022). Bloklanmış Üç Düzeyli Regresyon Süreksizlik Tasarımlarının Tasarım ve Analizinde Bir Düzeyinin Yok Sayılmasının Sonuçları: Güç ve Tip I Hata Oranları. Adıyaman Üniversitesi Eğitim Bilimleri Dergisi, Cilt: 12 - Sayı: 1, 42–55. https://ajindex.com/articles/450878

📄 Tam Metin PDF Okuyucu

📄

PDF görüntüleyici hazırlanıyor...

Kaynakça (11)

  1. Balu, R., Zhu, P., Doolittle, F., Schiller, E., Jenkins, J., & Gersten, R. (2015). Evaluation of response to intervention practices for elementary school reading (NCEE 2016-4000).
  2. Washington, DC: National Center for Education Evaluation and Regional Assistance, Institute of Education Sciences, U.S. Department of Education. https://files.eric.ed.gov/fulltext/ED560820.pdf
  3. Bickel, R. (2007). Multilevel analysis for applied research: It's just regression! Guilford Press.
  4. Bulus, M. (2022). Minimum detectable effect size computations for cluster-level regression discontinuity: Specifications beyond the linear functional form. Journal of Research on Education Effectiveness, 15(1), 151-177. https://doi.org/10.1080/19345747.2021.1947425
  5. Bulus, M., & Dong, N. (2021a). Bound constrained optimization of sample sizes subject to monetary restrictions in planning of multilevel randomized trials and regression discontinuity studies. The Journal of Experimental Education, 89(2), 379-401. https://doi.org/10.1080/00220973.2019.1636197
  6. Bulus, M., & Dong, N. (2021b). cosa: Bound constrained optimal sample size allocation. R package version 2.1.0. https://CRAN.R-project.org/package=cosa
  7. Bulus, M., & Dong, N. (2022). Minimum detectable effect size computations for blocked individual-level regression discontinuity: Specifications beyond the linear functional form. Manuscript in preparation. Cortes, K. E., Goodman, J. S., & Nomi, T. (2015). Intensive math instruction and educational attainment long-run impacts of double-dose algebra. Journal of Human Resources, 50(1), 108-158. https://doi.org/10.3368/jhr.50.1.108
  8. Deke, J., Dragoset, L., Bogen, K., & Gill, B. (2012). Impacts of Title I Supplemental Educational Services on student achievement. NCEE 2012-4053. National Center for Education Evaluation and Regional Assistance. https://ies.ed.gov/ncee/pubs/20124053/pdf/20124053.pdf
  9. Dong, N., & Maynard, R. (2013). PowerUp!: A tool for calculating minimum detectable effect sizes and minimum required sample sizes for experimental and quasi-experimental design studies. Journal of Research on Educational Effectiveness, 6(1), 24-67. https://doi.org/10.1080/19345747.2012.673143
  10. Finch, W. H., & Bolin, J. E. (2017). Multilevel modeling using Mplus. CRC Press.
  11. Fox, J. (1997). Applied regression analysis, linear models, and related methods. Sage Publications. Goldstein, H. (2011). Multilevel statistical models (4th ed). John Wiley & Sons. Harrington, J. R., Muñoz, J., Curs, B. R., & Ehlert, M. (20