바틀렛 검정 (Bartlett's Test)

한 줄 정의: 데이터가 정규분포를 따른다는 전제 아래, 여러 집단의 분산이 서로 같은지를 검정하는 방법입니다.

쉽게 풀면

ANOVA로 세 집단 이상의 평균을 비교하려면 "각 집단의 분산이 비슷하다"는 전제(등분산성)가 필요합니다. 바틀렛 검정은 이 전제를 확인하는 대표적인 방법 중 하나로, 각 집단의 분산이 얼마나 차이 나는지를 하나의 통계량으로 계산해 검정합니다. p-value가 작으면(보통 0.05 미만) "집단 간 분산이 다르다"고 판단합니다. 다만 이 방법은 데이터가 정규분포에서 크게 벗어나면 결과가 왜곡되기 쉽다는 약점이 있어서, 정규성이 의심되는 경우에는 레빈 검정처럼 정규성에 덜 민감한 방법을 쓰는 것이 더 안전합니다.

왜 중요한가

ANOVA, t검정, 회귀분석의 오차항 등 많은 통계 기법이 "집단 간 분산이 같다"는 가정 위에서 유의확률을 계산합니다. 이 가정이 무너지면 검정 결과가 실제보다 유의하거나 유의하지 않게 왜곡될 수 있어서, 본 분석에 들어가기 전에 등분산성을 확인하는 절차가 방법론 섹션에 관행적으로 포함됩니다. 바틀렛 검정은 이러한 사전 점검 단계에서 가장 오래 쓰여온 방법 중 하나이기 때문에, 통계적 가정 검증을 다루는 논문에서 자주 언급됩니다.

언제 쓰나

k개 집단(k ≥ 2)의 모집단 분산이 모두 같은지 검정합니다. H₀: σ₁² = σ₂² = … = σ_k², H₁: 적어도 두 집단의 분산이 다릅니다.
ANOVA 같은 방법이 요구하는 등분산 가정을 본 분석 전에 점검할 때 쓰입니다.
자료가 각 집단에서 정규분포를 따른다고 전제합니다. 이 전제가 흔들리면 검정이 분산 차이가 아니라 비정규성에 반응할 수 있습니다.
통계량은 로그 분산을 이용한 우도비 검정의 변형으로, M. S. Bartlett이 1937년 Proceedings of the Royal Society A 논문에서 제안했습니다.

결과는 이렇게 읽는다

통계량은 다음과 같고, H₀ 아래에서 근사적으로 자유도 k − 1의 카이제곱분포를 따릅니다.

χ² = [ (N − k)·ln(S_p²) − Σ(n_i − 1)·ln(S_i²) ] / [ 1 + (1/(3(k − 1)))·( Σ 1/(n_i − 1) − 1/(N − k) ) ]

여기서 N은 전체 표본 수, S_i²는 집단별 표본분산, S_p²는 합동분산 Σ(n_i − 1)S_i² / (N − k)입니다. 분자는 합동분산의 로그와 집단 분산 로그의 가중 평균의 차이이므로, 집단 분산이 서로 다를수록 커집니다.

가상의 예입니다. 세 집단(각 6명)의 측정값이 다음과 같습니다.

집단	측정값	표본분산
A	12, 14, 11, 13, 15, 12	2.17
B	10, 18, 9, 16, 20, 13	19.47
C	11, 13, 12, 14, 12, 13	1.10

합동분산은 약 7.58, 통계량은 χ² ≈ 10.28, 자유도 2, p ≈ .006입니다. 유의수준 .05라면 H₀를 기각하고 “세 집단의 분산이 같다고 보기 어렵다”고 읽습니다. 집단 B의 분산이 다른 집단의 약 9~18배라 이런 결과가 나옵니다.

논문에는 이렇게 보고한다

보고 형식 예: “Bartlett 검정 결과 집단 간 분산이 동일하다는 가정이 기각되었다, χ²(2) = 10.28, p = .006.” 통계 소프트웨어는 이 통계량을 “Bartlett’s K-squared” 같은 이름으로 출력하기도 하므로 쓰는 프로그램의 표기를 따릅니다.
정규성 점검 순서: 이 항목 본문대로 정규성을 먼저 확인하고 그 결과를 함께 적습니다. 정규성이 불확실하면 Levene 계열 검정을 대안으로 제시합니다.
기각되었을 때: 등분산 가정이 필요 없는 분석(예: Welch 방식)이나 변환, 비모수 방법으로 전환한 이유를 적습니다.
기각되지 않았을 때: “분산이 같다”가 증명된 것이 아니라 다르다고 할 근거가 부족한 것입니다. 표본이 작으면 검정력이 낮습니다.

논문에서는 이렇게 쓰입니다

실제 논문에서

이 용어를 직접 쓴 국내 논문 문장을 아직 수집하지 못했습니다. 수집되는 대로 출처와 함께 싣겠습니다.

예시 문장

아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.

"세 처리 집단의 등분산성을 확인하기 위해 바틀렛 검정(Bartlett's test)을 실시한 결과 유의한 차이가 없어(p = .312) 등분산 가정을 만족하는 것으로 나타났다."

이 문장은 세 집단의 분산이 통계적으로 유의하게 다르지 않았기 때문에, 등분산을 전제로 하는 일반적인 ANOVA를 그대로 사용해도 된다는 뜻입니다.

"실험군과 대조군의 반응시간 분산을 비교하기 위해 바틀렛 검정을 적용한 결과 두 집단 간 분산 차이가 유의하였다(p < .05). 이에 따라 등분산을 가정하지 않는 Welch's t검정을 사용하였다."

심리학·인지과학 계열 연구에서 흔히 볼 수 있는 서술로, 등분산 가정이 깨졌을 때 이를 보완하는 대안적 검정 방법으로 넘어가는 전형적인 흐름을 보여줍니다.

"토양 시료별 중금속 농도의 분산 동질성을 검토하기 위해 바틀렛 검정을 수행하였으며, 정규성 검정 결과가 양호하였으므로 레빈 검정 대신 바틀렛 검정을 채택하였다."

환경과학·생태학 논문에서는 정규성이 확보된 데이터임을 먼저 밝히고, 그 조건 위에서 바틀렛 검정을 정당화하는 방식으로 서술하는 경우가 많습니다.

조금 더 깊게 보면

바틀렛 검정 통계량은 각 집단의 표본분산과 전체를 합친 통합분산(pooled variance)의 차이를 카이제곱분포에 근사시켜 계산합니다. 이 근사 과정이 정규분포 가정에 크게 의존하기 때문에, 데이터가 정규분포에서 벗어나면 검정 통계량 자체가 왜곡되어 신뢰하기 어려워집니다. 그래서 논문에서는 흔히 바틀렛 검정에 앞서 샤피로-윌크 검정 등으로 정규성을 먼저 확인하거나, 정규성이 불확실한 경우 집단 중심(평균 또는 중앙값)에서 벗어난 절대편차를 써서 정규성에 덜 민감한 레빈 검정을 대체 방법으로 함께 제시하는 구성을 취합니다.

주의할 점

바틀렛 검정은 정규성 가정에 매우 민감합니다. 데이터가 정규분포에서 벗어나 있으면 실제로는 분산이 같아도 유의하다고 잘못 판단할 수 있으므로, 정규성이 확실하지 않다면 정규성 위반에 더 강건한 레빈 검정을 대신 사용하는 것이 권장됩니다.

헷갈리기 쉬운 용어

등분산 검정은 이름이 비슷하고 가정이 달라 자주 혼동됩니다.

검정	정규성 가정	한 줄 설명
바틀렛 검정	필요, 어긋나면 크게 흔들림	로그 분산 기반, 정규 자료에서 효율적
레빈 검정	덜 민감	집단 중심으로부터의 절대편차에 ANOVA를 적용, 평균을 쓰는 원형과 중앙값을 쓰는 변형(엄밀히는 Brown–Forsythe)이 모두 쓰임
분산분석	검정 대상이 아니라 전제를 요구하는 분석	등분산 가정을 확인해야 하는 쪽

참고 문헌

Bartlett, M. S. (1937). Properties of sufficiency and statistical tests. Proceedings of the Royal Society of London. Series A, 160(901), 268–282.
Box, G. E. P. (1953). Non-normality and tests on variances. Biometrika, 40(3–4), 318–335.
Brown, M. B., & Forsythe, A. B. (1974). Robust tests for the equality of variances. Journal of the American Statistical Association, 69(346), 364–367.
Conover, W. J., Johnson, M. E., & Johnson, M. M. (1981). A comparative study of tests for homogeneity of variances, with applications to the outer continental shelf bidding data. Technometrics, 23(4), 351–361.

표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.