바틀렛 검정 (Bartlett's Test)

한 줄 정의: 데이터가 정규분포를 따른다는 전제 아래, 여러 집단의 분산이 서로 같은지를 검정하는 방법입니다.

쉽게 풀면

ANOVA로 세 집단 이상의 평균을 비교하려면 "각 집단의 분산이 비슷하다"는 전제(등분산성)가 필요합니다. 바틀렛 검정은 이 전제를 확인하는 대표적인 방법 중 하나로, 각 집단의 분산이 얼마나 차이 나는지를 하나의 통계량으로 계산해 검정합니다. p-value가 작으면(보통 0.05 미만) "집단 간 분산이 다르다"고 판단합니다. 다만 이 방법은 데이터가 정규분포에서 크게 벗어나면 결과가 왜곡되기 쉽다는 약점이 있어서, 정규성이 의심되는 경우에는 레빈 검정처럼 정규성에 덜 민감한 방법을 쓰는 것이 더 안전합니다.

왜 중요한가

ANOVA, t검정, 회귀분석의 오차항 등 많은 통계 기법이 "집단 간 분산이 같다"는 가정 위에서 유의확률을 계산합니다. 이 가정이 무너지면 검정 결과가 실제보다 유의하거나 유의하지 않게 왜곡될 수 있어서, 본 분석에 들어가기 전에 등분산성을 확인하는 절차가 방법론 섹션에 관행적으로 포함됩니다. 바틀렛 검정은 이러한 사전 점검 단계에서 가장 오래 쓰여온 방법 중 하나이기 때문에, 통계적 가정 검증을 다루는 논문에서 자주 언급됩니다.

논문에서는 이렇게 쓰입니다

"세 처리 집단의 등분산성을 확인하기 위해 바틀렛 검정(Bartlett's test)을 실시한 결과 유의한 차이가 없어(p = .312) 등분산 가정을 만족하는 것으로 나타났다."

이 문장은 세 집단의 분산이 통계적으로 유의하게 다르지 않았기 때문에, 등분산을 전제로 하는 일반적인 ANOVA를 그대로 사용해도 된다는 뜻입니다.

"실험군과 대조군의 반응시간 분산을 비교하기 위해 바틀렛 검정을 적용한 결과 두 집단 간 분산 차이가 유의하였다(p < .05). 이에 따라 등분산을 가정하지 않는 Welch's t검정을 사용하였다."

심리학·인지과학 계열 연구에서 흔히 볼 수 있는 서술로, 등분산 가정이 깨졌을 때 이를 보완하는 대안적 검정 방법으로 넘어가는 전형적인 흐름을 보여줍니다.

"토양 시료별 중금속 농도의 분산 동질성을 검토하기 위해 바틀렛 검정을 수행하였으며, 정규성 검정 결과가 양호하였으므로 레빈 검정 대신 바틀렛 검정을 채택하였다."

환경과학·생태학 논문에서는 정규성이 확보된 데이터임을 먼저 밝히고, 그 조건 위에서 바틀렛 검정을 정당화하는 방식으로 서술하는 경우가 많습니다.

조금 더 깊게 보면

바틀렛 검정 통계량은 각 집단의 표본분산과 전체를 합친 통합분산(pooled variance)의 차이를 카이제곱분포에 근사시켜 계산합니다. 이 근사 과정이 정규분포 가정에 크게 의존하기 때문에, 데이터가 정규분포에서 벗어나면 검정 통계량 자체가 왜곡되어 신뢰하기 어려워집니다. 그래서 논문에서는 흔히 바틀렛 검정에 앞서 샤피로-윌크 검정 등으로 정규성을 먼저 확인하거나, 정규성이 불확실한 경우 중앙값 기반으로 계산되어 정규성에 덜 민감한 레빈 검정을 대체 방법으로 함께 제시하는 구성을 취합니다.

주의할 점

바틀렛 검정은 정규성 가정에 매우 민감합니다. 데이터가 정규분포에서 벗어나 있으면 실제로는 분산이 같아도 유의하다고 잘못 판단할 수 있으므로, 정규성이 확실하지 않다면 정규성 위반에 더 강건한 레빈 검정을 대신 사용하는 것이 권장됩니다.