구형성 검정 (Mauchly's Test of Sphericity)
쉽게 풀면
반복측정 분산분석은 같은 사람을 여러 번(예: 1주차, 4주차, 8주차) 측정해서 시간에 따른 변화를 봅니다. 그런데 이 분석이 정확하려면 "1주차와 4주차의 차이", "4주차와 8주차의 차이", "1주차와 8주차의 차이"처럼 두 시점을 짝지어 뺀 값들이 서로 비슷한 정도로 들쭉날쭉해야 한다는 전제가 필요합니다.
이 전제를 "구형성(sphericity)"이라고 부르고, Mauchly's Test는 바로 이 전제가 지켜지는지를 확인하는 검정입니다.
검정 결과 p값이 작으면(예: p < 0.05) 구형성 가정이 깨졌다는 뜻이므로, 그대로 결과를 믿지 않고 자유도를 보정한 값(Greenhouse-Geisser, Huynh-Feldt 보정 등)을 사용해야 합니다.
왜 중요한가
Mauchly의 구형성 검정은 반복측정 분산분석 결과를 신뢰할 수 있는지를 판가름하는 사전 점검 절차이기 때문에, 심리학, 의학, 교육학 등 동일 대상을 여러 시점에 걸쳐 반복 측정하는 연구에서 필수적으로 보고됩니다.
구형성 가정이 깨졌는데도 이를 무시하고 분석하면 F검정의 유의확률이 실제보다 과소추정되어 존재하지 않는 효과를 유의하다고 잘못 결론 내릴 위험이 커집니다. 이 때문에 반복측정 설계를 사용한 논문에서는 결과표에 이 검정의 통계량과 함께 어떤 자유도 보정 방법을 적용했는지가 관례적으로 함께 제시됩니다.
언제 쓰나
같은 대상을 세 번 이상 측정한 자료를 반복측정분산분석으로 분석하기 전에, ‘모든 두 조건의 차이 점수의 분산이 같다’는 구형성 가정을 점검할 때 씁니다.
- 반복측정 요인이 2수준(사전-사후)이면 차이 점수가 하나뿐이어서 구형성 가정이 성립하므로 이 검정은 필요 없습니다.
- 구형성이 깨지면 F검정이 지나치게 쉽게 유의해집니다(1종 오류 증가). 이를 막으려고 자유도를 줄이는 보정을 합니다.
- 혼합설계(집단 간 + 반복측정)에서는 집단들을 합친 공분산 구조에 대해 검정합니다.
결과는 이렇게 읽는다
검정통계량 W는 0~1이며 1이면 완벽한 구형성입니다. 귀무가설 H₀: 구형성이 성립한다. p가 .05보다 작으면 구형성이 깨졌다고 보고 엡실론(ε)으로 자유도를 줄입니다. ε은 1이면 구형성, 작을수록 위배가 심하다는 뜻이며, 하한은 1 ÷ (조건 수 − 1)입니다.
작은 예(가상의 자료: 8명, 3시점, 계산 결과). W = 0.504, χ²(2) = 4.11, p = .128로 구형성 위배가 유의하지 않았습니다. 그런데 엡실론은 Greenhouse-Geisser 0.668, Huynh-Feldt 0.767로 1보다 꽤 작습니다. 표본이 8명뿐이라 검정이 위배를 잡아내지 못한 것입니다. 이 자료의 반복측정 F는 보정 전 F(2, 14) = 44.04이고, Greenhouse-Geisser 보정 후에는 같은 F에 자유도 (1.34, 9.36)을 적용해 p < .001입니다.
- 보정 선택 규칙으로 ‘ε이 .75보다 작으면 Greenhouse-Geisser, 크면 Huynh-Feldt’가 자주 인용됩니다(Girden, 1992). 관례입니다.
- 이 검정은 정규성에서 벗어난 자료에 민감하고, 표본이 작으면 힘이 약하며 표본이 크면 사소한 위배에도 유의해집니다. 그래서 p만 보지 말고 ε도 함께 봅니다.
논문에는 이렇게 보고한다
W, 카이제곱 통계량, 자유도, p, 그리고 보정 시 ε과 보정 방식을 적습니다.
Mauchly의 구형성 검정 결과 구형성 가정이 위배되어(W = 0.31, χ²(2) = 12.4, p = .002) Greenhouse-Geisser 보정(ε = 0.59)을 적용하였다. 시점의 주효과는 유의하였다, F(1.18, 21.2) = 9.80, p = .004, η²p = .35. (형식을 보여 주려는 가상의 문장)
- 보정 전 자유도 대신 보정된 자유도를 보고합니다.
- 구형성에 의존하지 않는 다변량 분석(MANOVA)이나 혼합모형을 대안으로 쓴 경우 그 이유를 적습니다.
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“Mauchly의 구형성 검정을 충족하지 않을 때는 Greenhouse-Geisser 보정을 적용하였다.”
등척성 운동 유형이 고혈압 전단계 젊은 남성의 24시간 활동혈압에 미치는 영향 비교: 급성 예비 연구, The Korean Journal of Sports Medicine, 2026 · KoreaMed Synapse · 원문 보기 ↗
“성별을 개체 간 요인으로, 측정 시점을 개체 내 요인으로 설정하였으며, 분석 전 Mauchly의 구형성 검정(Sphericity test)을 실시하였고, 구형성 가정이 위배된 경우 Greenhouse-Geisser 보정값을 적용하여 결과를 해석하였다.”
유치원 기반 구강건강교육 사업을 통한 구강위생 개선과 치아우식 예방 효과 분석, Journal of Korean Academy of Oral Health, 2026 · KoreaMed Synapse · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
이 문장은 "구형성 검정 결과 가정이 위배되었으므로, 반복측정 분산분석의 자유도를 보정된 값으로 다시 계산해 결과를 해석했다"는 뜻입니다.
이 문장은 구형성 가정이 위배되지 않은 경우로, 이때는 보정 절차 없이 표준적인 F검정 결과를 그대로 신뢰할 수 있다는 뜻입니다. 임상시험에서 치료 전후 여러 시점의 반응을 비교할 때 흔히 나타나는 서술입니다.
이 문장은 측정 횟수가 늘어날수록 구형성 가정이 깨지기 쉬워진다는 점을 고려해, 분석을 시작하기 전부터 보정 방법을 미리 정해두는 사전등록 방식의 연구설계에서 자주 볼 수 있는 표현입니다.
조금 더 깊게 보면
구형성 가정이 위배되었을 때 흔히 쓰이는 보정 방법으로는 Greenhouse-Geisser 보정과 Huynh-Feldt 보정이 있으며, 두 방법 모두 자유도에 엡실론(ε) 값을 곱해 F검정의 유의확률을 더 보수적으로 계산합니다.
일반적으로 엡실론 값이 1에 가까울수록 구형성 위배 정도가 작다는 뜻이며, 엡실론이 낮게 추정될수록 Greenhouse-Geisser 보정이 더 보수적인 결과를 주는 경향이 있어 두 값을 함께 확인하는 경우가 많습니다.
반복측정 요인의 수준이 늘어날수록 구형성 가정이 깨지기 쉬워지므로, 측정 시점이 많은 연구일수록 이 검정 결과를 더 주의 깊게 살펴볼 필요가 있습니다.
주의할 점
구형성 검정은 표본 수가 적을 때는 위배 여부를 제대로 잡아내지 못하고, 표본 수가 많을 때는 사소한 차이에도 쉽게 유의하게 나오는 경향이 있습니다. 그래서 p값 하나만 보고 판단하기보다, 위배 정도를 나타내는 엡실론(ε) 값을 함께 확인하고, 필요하면 애초에 보정된 자유도를 기본값으로 보고하는 경우도 많습니다. 반복 측정 요인이 두 수준(예: 사전-사후 단 두 번)뿐이라면 구형성 가정 자체가 자동으로 충족되므로 이 검정이 필요 없습니다.
헷갈리기 쉬운 용어
‘구형성’은 이름이 비슷한 다른 검정과도 자주 섞입니다.
| 용어 | 무엇을 확인하나 | 쓰는 곳 |
|---|---|---|
| Mauchly의 구형성 검정 | 차이 점수들의 분산이 같은지 | 반복측정분산분석 전 |
| Bartlett의 구형성 검정 | 변수들이 서로 상관 없는 단위행렬 형태인지 | 요인분석 전(KMO와 함께) |
| Greenhouse-Geisser 교정 | 구형성 위배 시 자유도를 줄이는 보정 | Mauchly 검정 뒤의 후속 조치 |
| 반복측정분산분석 | 시점·조건 간 평균 차이 | 구형성이 전제인 분석 |
요인분석 논문의 ‘구형성 검정’은 대개 Bartlett 검정이고, 반복측정 논문의 ‘구형성 검정’은 대개 Mauchly 검정입니다. 서로 목적이 전혀 다릅니다.
참고 문헌
- Mauchly, J. W. (1940). Significance test for sphericity of a normal n-variate distribution. The Annals of Mathematical Statistics, 11(2), 204–209.
- Greenhouse, S. W., & Geisser, S. (1959). On methods in the analysis of profile data. Psychometrika, 24(2), 95–112.
- Huynh, H., & Feldt, L. S. (1976). Estimation of the Box correction for degrees of freedom from sample data in randomized block and split-plot designs. Journal of Educational Statistics, 1(1), 69–82.
- Girden, E. R. (1992). ANOVA: Repeated Measures. Sage.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.