구형성 검정 (Mauchly's Test of Sphericity)

통계
한 줄 정의: 같은 대상을 세 번 이상 반복 측정했을 때, 그 측정 시점들 사이의 차이 점수들이 서로 비슷한 정도로 흩어져 있는지(분산이 같은지)를 검정하는 방법입니다.

쉽게 풀면

반복측정 분산분석은 같은 사람을 여러 번(예: 1주차, 4주차, 8주차) 측정해서 시간에 따른 변화를 봅니다. 그런데 이 분석이 정확하려면 "1주차와 4주차의 차이", "4주차와 8주차의 차이", "1주차와 8주차의 차이"처럼 두 시점을 짝지어 뺀 값들이 서로 비슷한 정도로 들쭉날쭉해야 한다는 전제가 필요합니다.

이 전제를 "구형성(sphericity)"이라고 부르고, Mauchly's Test는 바로 이 전제가 지켜지는지를 확인하는 검정입니다.

검정 결과 p값이 작으면(예: p < 0.05) 구형성 가정이 깨졌다는 뜻이므로, 그대로 결과를 믿지 않고 자유도를 보정한 값(Greenhouse-Geisser, Huynh-Feldt 보정 등)을 사용해야 합니다.

왜 중요한가

Mauchly의 구형성 검정은 반복측정 분산분석 결과를 신뢰할 수 있는지를 판가름하는 사전 점검 절차이기 때문에, 심리학, 의학, 교육학 등 동일 대상을 여러 시점에 걸쳐 반복 측정하는 연구에서 필수적으로 보고됩니다.

구형성 가정이 깨졌는데도 이를 무시하고 분석하면 F검정의 유의확률이 실제보다 과소추정되어 존재하지 않는 효과를 유의하다고 잘못 결론 내릴 위험이 커집니다. 이 때문에 반복측정 설계를 사용한 논문에서는 결과표에 이 검정의 통계량과 함께 어떤 자유도 보정 방법을 적용했는지가 관례적으로 함께 제시됩니다.

언제 쓰나

같은 대상을 세 번 이상 측정한 자료를 반복측정분산분석으로 분석하기 전에, ‘모든 두 조건의 차이 점수의 분산이 같다’는 구형성 가정을 점검할 때 씁니다.

결과는 이렇게 읽는다

검정통계량 W는 0~1이며 1이면 완벽한 구형성입니다. 귀무가설 H₀: 구형성이 성립한다. p가 .05보다 작으면 구형성이 깨졌다고 보고 엡실론(ε)으로 자유도를 줄입니다. ε은 1이면 구형성, 작을수록 위배가 심하다는 뜻이며, 하한은 1 ÷ (조건 수 − 1)입니다.

작은 예(가상의 자료: 8명, 3시점, 계산 결과). W = 0.504, χ²(2) = 4.11, p = .128로 구형성 위배가 유의하지 않았습니다. 그런데 엡실론은 Greenhouse-Geisser 0.668, Huynh-Feldt 0.767로 1보다 꽤 작습니다. 표본이 8명뿐이라 검정이 위배를 잡아내지 못한 것입니다. 이 자료의 반복측정 F는 보정 전 F(2, 14) = 44.04이고, Greenhouse-Geisser 보정 후에는 같은 F에 자유도 (1.34, 9.36)을 적용해 p < .001입니다.

논문에는 이렇게 보고한다

W, 카이제곱 통계량, 자유도, p, 그리고 보정 시 ε과 보정 방식을 적습니다.

Mauchly의 구형성 검정 결과 구형성 가정이 위배되어(W = 0.31, χ²(2) = 12.4, p = .002) Greenhouse-Geisser 보정(ε = 0.59)을 적용하였다. 시점의 주효과는 유의하였다, F(1.18, 21.2) = 9.80, p = .004, η²p = .35. (형식을 보여 주려는 가상의 문장)

논문에서는 이렇게 쓰입니다

실제 논문에서

국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.

예시 문장

아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.

"Mauchly's test indicated that the assumption of sphericity had been violated (χ²(2) = 8.42, p = .015); therefore, degrees of freedom were corrected using Greenhouse-Geisser estimates."

이 문장은 "구형성 검정 결과 가정이 위배되었으므로, 반복측정 분산분석의 자유도를 보정된 값으로 다시 계산해 결과를 해석했다"는 뜻입니다.

"세 번의 측정 시점(사전, 중간, 사후) 간 구형성 가정은 충족되었으므로(p = .312) 별도의 자유도 보정 없이 반복측정 분산분석 결과를 그대로 보고하였다."

이 문장은 구형성 가정이 위배되지 않은 경우로, 이때는 보정 절차 없이 표준적인 F검정 결과를 그대로 신뢰할 수 있다는 뜻입니다. 임상시험에서 치료 전후 여러 시점의 반응을 비교할 때 흔히 나타나는 서술입니다.

"측정 시점이 네 개로 늘어나면서 구형성 위배 가능성이 커짐에 따라, 사전에 Huynh-Feldt 보정을 적용하는 것을 분석 계획에 명시하였다."

이 문장은 측정 횟수가 늘어날수록 구형성 가정이 깨지기 쉬워진다는 점을 고려해, 분석을 시작하기 전부터 보정 방법을 미리 정해두는 사전등록 방식의 연구설계에서 자주 볼 수 있는 표현입니다.

조금 더 깊게 보면

구형성 가정이 위배되었을 때 흔히 쓰이는 보정 방법으로는 Greenhouse-Geisser 보정과 Huynh-Feldt 보정이 있으며, 두 방법 모두 자유도에 엡실론(ε) 값을 곱해 F검정의 유의확률을 더 보수적으로 계산합니다.

일반적으로 엡실론 값이 1에 가까울수록 구형성 위배 정도가 작다는 뜻이며, 엡실론이 낮게 추정될수록 Greenhouse-Geisser 보정이 더 보수적인 결과를 주는 경향이 있어 두 값을 함께 확인하는 경우가 많습니다.

반복측정 요인의 수준이 늘어날수록 구형성 가정이 깨지기 쉬워지므로, 측정 시점이 많은 연구일수록 이 검정 결과를 더 주의 깊게 살펴볼 필요가 있습니다.

주의할 점

구형성 검정은 표본 수가 적을 때는 위배 여부를 제대로 잡아내지 못하고, 표본 수가 많을 때는 사소한 차이에도 쉽게 유의하게 나오는 경향이 있습니다. 그래서 p값 하나만 보고 판단하기보다, 위배 정도를 나타내는 엡실론(ε) 값을 함께 확인하고, 필요하면 애초에 보정된 자유도를 기본값으로 보고하는 경우도 많습니다. 반복 측정 요인이 두 수준(예: 사전-사후 단 두 번)뿐이라면 구형성 가정 자체가 자동으로 충족되므로 이 검정이 필요 없습니다.

헷갈리기 쉬운 용어

‘구형성’은 이름이 비슷한 다른 검정과도 자주 섞입니다.

용어무엇을 확인하나쓰는 곳
Mauchly의 구형성 검정차이 점수들의 분산이 같은지반복측정분산분석 전
Bartlett의 구형성 검정변수들이 서로 상관 없는 단위행렬 형태인지요인분석 전(KMO와 함께)
Greenhouse-Geisser 교정구형성 위배 시 자유도를 줄이는 보정Mauchly 검정 뒤의 후속 조치
반복측정분산분석시점·조건 간 평균 차이구형성이 전제인 분석

요인분석 논문의 ‘구형성 검정’은 대개 Bartlett 검정이고, 반복측정 논문의 ‘구형성 검정’은 대개 Mauchly 검정입니다. 서로 목적이 전혀 다릅니다.

참고 문헌

  1. Mauchly, J. W. (1940). Significance test for sphericity of a normal n-variate distribution. The Annals of Mathematical Statistics, 11(2), 204–209.
  2. Greenhouse, S. W., & Geisser, S. (1959). On methods in the analysis of profile data. Psychometrika, 24(2), 95–112.
  3. Huynh, H., & Feldt, L. S. (1976). Estimation of the Box correction for degrees of freedom from sample data in randomized block and split-plot designs. Journal of Educational Statistics, 1(1), 69–82.
  4. Girden, E. R. (1992). ANOVA: Repeated Measures. Sage.

표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.

관련 용어