구형성 검정 (Mauchly's Test of Sphericity)

한 줄 정의: 같은 대상을 세 번 이상 반복 측정했을 때, 그 측정 시점들 사이의 차이 점수들이 서로 비슷한 정도로 흩어져 있는지(분산이 같은지)를 검정하는 방법입니다.

쉽게 풀면

반복측정 분산분석은 같은 사람을 여러 번(예: 1주차, 4주차, 8주차) 측정해서 시간에 따른 변화를 봅니다. 그런데 이 분석이 정확하려면 "1주차와 4주차의 차이", "4주차와 8주차의 차이", "1주차와 8주차의 차이"처럼 두 시점을 짝지어 뺀 값들이 서로 비슷한 정도로 들쭉날쭉해야 한다는 전제가 필요합니다. 이 전제를 "구형성(sphericity)"이라고 부르고, Mauchly's Test는 바로 이 전제가 지켜지는지를 확인하는 검정입니다. 검정 결과 p값이 작으면(예: p < 0.05) 구형성 가정이 깨졌다는 뜻이므로, 그대로 결과를 믿지 않고 자유도를 보정한 값(Greenhouse-Geisser, Huynh-Feldt 보정 등)을 사용해야 합니다.

왜 중요한가

Mauchly의 구형성 검정은 반복측정 분산분석 결과를 신뢰할 수 있는지를 판가름하는 사전 점검 절차이기 때문에, 심리학, 의학, 교육학 등 동일 대상을 여러 시점에 걸쳐 반복 측정하는 연구에서 필수적으로 보고됩니다. 구형성 가정이 깨졌는데도 이를 무시하고 분석하면 F검정의 유의확률이 실제보다 과소추정되어 존재하지 않는 효과를 유의하다고 잘못 결론 내릴 위험이 커집니다. 이 때문에 반복측정 설계를 사용한 논문에서는 결과표에 이 검정의 통계량과 함께 어떤 자유도 보정 방법을 적용했는지가 관례적으로 함께 제시됩니다.

논문에서는 이렇게 쓰입니다

"Mauchly's test indicated that the assumption of sphericity had been violated (χ²(2) = 8.42, p = .015); therefore, degrees of freedom were corrected using Greenhouse-Geisser estimates."

이 문장은 "구형성 검정 결과 가정이 위배되었으므로, 반복측정 분산분석의 자유도를 보정된 값으로 다시 계산해 결과를 해석했다"는 뜻입니다.

"세 번의 측정 시점(사전, 중간, 사후) 간 구형성 가정은 충족되었으므로(p = .312) 별도의 자유도 보정 없이 반복측정 분산분석 결과를 그대로 보고하였다."

이 문장은 구형성 가정이 위배되지 않은 경우로, 이때는 보정 절차 없이 표준적인 F검정 결과를 그대로 신뢰할 수 있다는 뜻입니다. 임상시험에서 치료 전후 여러 시점의 반응을 비교할 때 흔히 나타나는 서술입니다.

"측정 시점이 네 개로 늘어나면서 구형성 위배 가능성이 커짐에 따라, 사전에 Huynh-Feldt 보정을 적용하는 것을 분석 계획에 명시하였다."

이 문장은 측정 횟수가 늘어날수록 구형성 가정이 깨지기 쉬워진다는 점을 고려해, 분석을 시작하기 전부터 보정 방법을 미리 정해두는 사전등록 방식의 연구설계에서 자주 볼 수 있는 표현입니다.

조금 더 깊게 보면

구형성 가정이 위배되었을 때 흔히 쓰이는 보정 방법으로는 Greenhouse-Geisser 보정과 Huynh-Feldt 보정이 있으며, 두 방법 모두 자유도에 엡실론(ε) 값을 곱해 F검정의 유의확률을 더 보수적으로 계산합니다. 일반적으로 엡실론 값이 1에 가까울수록 구형성 위배 정도가 작다는 뜻이며, 엡실론이 낮게 추정될수록 Greenhouse-Geisser 보정이 더 보수적인 결과를 주는 경향이 있어 두 값을 함께 확인하는 경우가 많습니다. 반복측정 요인의 수준이 늘어날수록 구형성 가정이 깨지기 쉬워지므로, 측정 시점이 많은 연구일수록 이 검정 결과를 더 주의 깊게 살펴볼 필요가 있습니다.

주의할 점

구형성 검정은 표본 수가 적을 때는 위배 여부를 제대로 잡아내지 못하고, 표본 수가 많을 때는 사소한 차이에도 쉽게 유의하게 나오는 경향이 있습니다. 그래서 p값 하나만 보고 판단하기보다, 위배 정도를 나타내는 엡실론(ε) 값을 함께 확인하고, 필요하면 애초에 보정된 자유도를 기본값으로 보고하는 경우도 많습니다. 반복 측정 요인이 두 수준(예: 사전-사후 단 두 번)뿐이라면 구형성 가정 자체가 자동으로 충족되므로 이 검정이 필요 없습니다.