A comparative investigation of analyzing sources of variation in the observational rating system

• 영문명: A comparative investigation of analyzing sources of variation in the observational rating system
• 발행기관: 한국교육평가학회
• 저자명: 김성숙(Sungsook KIM)
• 간행물 정보: 『교육평가연구』제18권 제1호, 227~248쪽, 전체 22쪽
• 주제분류: 사회과학 > 교육학
• 파일형태: PDF
• 발행일자: 2005.05.01

국문 초록

관찰에 의한 측정상황의 오차요인이 다양하므로 측정 결과자료의 분석방법에 대한 연구 역시 활발하게 진행되어 왔다. 특히 일반화가능도 이론은 관찰 또는 논술채점 등 평정에 있어 영향을 미치는 오차요인을 분석하고 적정 수준을 보장하는 측정조건을 제시하는 연구로 진행되어온 반면, 문항반응이론을 근거로 하는 다국면 라쉬모형은 주로 채점자 효과를 배제한 피험자 능력을 추정하는 방법으로 측정결과에 대한 조정을 가능하게 하였다. 이 연구는 채점의 변동요인을 분석하는 대표적인 두 방법, 즉 일반화가능도 이론과 다국면 라쉬모형을 적용한 연구로 그동안 지적하지 못한 방법론적 비교결과에 대한 시사점과 측정상황에 따라 어떤 방법을 선택해야 하는지에 대한 준거를 제시하고자 하였다. 실제 관찰상황 자료에 대하여 일반화가능도 이론을 적용하여 분석한 결과 기존의 연구와 달리 채점자간의 변동이 학생들의 수행과제에 따른 변동보다 상대적으로 크게 나타났으며 채점준거에 대한 변동은 매우 작게 보이고 있다. 한편 다국면 라쉬모형을 적용한 결과에서도 채점자 효과가 의미있게 나타났음은 물론 수행과제와 채점자의 상호작용효과로 인한 피험자 능력값 추정도 필요한 과정으로 나타났다. 결론적으로 복합적 측정상황에서 각 오차의 영향력을 분석하고 평가시행의 측정조건에 대한 정보를 제공하고자 할때 일반화가능도 이론을 활용하는 것이 바람직하지만 이러한 오차의 영향력을 고려하여 개별점수를 재조정하고 개인에 대한 공정한 능력모수값을 산출할 수있다는 점에서 다국면 라쉬모형은 유용한 분석방법으로 재조명되었다. 분석결과 관찰자 효과 또는 관찰자의 엄격성에 대한 결과는 유사하게 나타났으나 일반화가능도 이론은 관찰자 효과를 줄이기 위해 또는 일반화가능도 계수를 향상시키기 위해 관찰자 수를 늘리는 반면 다국면 라쉬모형에서는 개별점수를 재조정함으로써 관찰자 효과를 제거시키고 있다. 특히 이 연구에서 두 분석 모형을 비교한 의의는 오차로 발생할수 있는 변산원에 대한 분석을 비교함으로써 각 분석틀의 차이가 어떻게 다른 결과를 유도하고 그에 따른 해석과 시사점을 달리할 수 있는가를 제시한 점이다. 채점자 효과 또는 채점자간 엄격성에 따른 차이에 대한 해석과 함께 상호작용효과 차이에 따라 결과가 다르게 나타난 점도 주지하여야 한다. 이와 같이 두 분석방법을 접목하여 시사점을 지적함으로써 관찰상황 등 수행평가 적용시 활용할 수 있는 통합적 틀을 제공하고자 하였다. 각 모형의 차이에서 오는 해석의 주의는 반드시 검토되어야 한다.

영문 초록

The purpose of this study is to investigate a further implication after several comparative researches of analyzing observational data using two different methods: Generalizability theory and the Many-facet Rasch Model (MFRM). G theory provides a general summary including an estimation of the relative influence of each facet on a measure and the reliability of a decision based on the data. MFRM concentrates on the individual examinee or rater and provides as fair a measure as it is possible to derive from the data as well as summary information such as reliability indices and ways to express the relative influence of the facets. This study suggests the criteria for choosing between two analytic approaches to provide a better decision on a performance assessment.

목차

ABSTRACT

Ⅰ. Introduction

Ⅱ. Theoretical Comparison

Ⅲ. Methodology

Ⅳ. Results

Ⅴ. Discussion

References

요약