용어 목록 > 웰치의 분산분석 (Welch's ANOVA)

웰치의 분산분석 (Welch's ANOVA)

쉽게 풀면

일반적인 ANOVA(분산분석)는 "비교하는 집단들의 분산이 서로 비슷하다"는 전제를 깔고 계산됩니다. 그런데 실제 데이터에서는 한 집단은 값이 옹기종기 모여 있고, 다른 집단은 값이 넓게 퍼져 있는 경우가 흔합니다.

이렇게 분산이 다른데도 일반 ANOVA를 그대로 쓰면, 특히 표본 크기가 집단마다 다를 때 결과(p-value)가 왜곡될 수 있습니다. 웰치의 분산분석은 각 집단의 분산과 표본크기를 고려해 자유도와 검정통계량을 다시 계산함으로써, 분산이 다르더라도 믿을 수 있는 결과를 내도록 만든 방법입니다.

쉽게 말해 "분산이 들쭉날쭉해도 괜찮게 손질한 ANOVA"라고 생각하면 됩니다.

왜 중요한가

실제 실험이나 설문 데이터에서는 집단 간 표본 크기가 다르거나 특성이 이질적이어서 분산이 같지 않은 경우가 매우 흔한데, 이런 상황에서 일반 ANOVA를 그대로 쓰면 1종 오류율이 부풀려질 위험이 있다.

웰치의 분산분석은 이 문제를 통계적으로 안전하게 보정해주기 때문에, 등분산 가정이 부담스러운 실험 설계나 집단 크기가 불균형한 연구에서 표준적인 대안으로 자리 잡았다. 최근에는 등분산 여부와 관계없이 처음부터 웰치 ANOVA를 기본으로 사용하도록 권고하는 통계 방법론 논문도 늘고 있다.

언제 쓰나

세 집단 이상의 평균을 비교하는데 집단별 분산이 다르다고 의심될 때 일원분산분석(ANOVA)의 대안으로 씁니다. 집단별 표본 크기가 다를수록 일반 ANOVA의 오류가 커지므로 더 중요합니다.

• 세 집단 이상 평균 비교, 독립된 집단, 종속변수는 연속형이라는 점은 일반 ANOVA와 같습니다.
• 분산이 같다는 가정만 빠집니다. 정규성은 여전히 필요합니다(표본이 어느 정도 크면 완화).
• Levene 검정으로 등분산을 검정한 뒤 일반 F와 Welch F 중에 고르는 방식은 널리 쓰이지만, 처음부터 Welch를 쓰는 편이 안전하다는 주장도 있습니다(Delacre 외, 2019).
• 두 집단이면 웰치 t검정과 같은 결과입니다.

결과는 이렇게 읽는다

집단 i의 표본 크기 n_i, 분산 s_i²로 가중치 w_i = n_i/s_i²를 두고, 가중평균 x̄_w를 중심으로 집단 평균들의 흩어짐을 잽니다. 분산이 큰 집단은 가중치가 작아집니다.

• 통계량 F*를 분모 자유도가 보정된 F 분포와 비교합니다. 분자 자유도는 k − 1이고, 분모 자유도는 소수로 나옵니다(예: 13.85).
• 사후검정은 등분산을 가정하지 않는 Games–Howell 검정을 씁니다. Tukey HSD는 등분산을 가정하므로 맞지 않습니다.
• 효과크기(ω² 등)는 p값과 별도로 계산해 보고합니다. p값만으로는 평균 차이의 크기를 알 수 없습니다.

(가상의 예, 직접 계산) 표본 크기가 8, 15, 30이고 표준편차가 10, 6, 3(작은 집단의 분산이 큰 경우)인 모의 상황에서 평균이 모두 같을 때 20,000번 반복하여 유의수준 .05에서 귀무가설을 기각한 비율을 셉니다.

작은 집단의 분산이 클 때 일반 F는 1종 오류율이 약 21%로 치솟고, 반대 조합에서는 오히려 1.2%로 지나치게 보수적입니다. Welch F는 두 경우 모두 5% 근처를 유지합니다. 한 번 뽑은 자료(집단 평균 52.2, 52.1, 54.5, SD 7.5, 5.5, 2.7)에서는 일반 F(2, 50) = 1.76, p = 0.183, Welch F(2, 13.85) = 1.49, p = 0.260로 결론은 같지만 p가 다릅니다.

논문에는 이렇게 보고한다

분산 이질성을 확인한 근거(Levene 검정 등)와 Welch 보정을 쓴 이유, 사후검정 종류를 적습니다. (아래 수치는 위 가상의 예의 형식 예시입니다.)

집단 간 분산이 동일하지 않아(Levene 검정, p = .012) Welch의 분산분석을 실시하였다. 집단 간 평균 차이는 유의하지 않았다, F(2, 13.85) = 1.49, p = 0.260.

• 유의했다면 “사후검정은 Games–Howell 검정을 사용하였다”를 함께 적습니다.
• 자유도가 소수로 보고되는 것은 정상입니다.
• SPSS에서는 일원분산분석의 옵션에 Welch와 Brown–Forsythe 통계량이 있습니다.

논문에서는 이렇게 쓰입니다

실제 논문에서

이 용어를 직접 쓴 국내 논문 문장을 아직 수집하지 못했습니다. 수집되는 대로 출처와 함께 싣겠습니다.

예시 문장

아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.

이 문장은 "먼저 집단 간 분산이 같은지 확인했더니 다르다는 것이 밝혀졌고, 그래서 일반 ANOVA 대신 분산 차이를 보정한 웰치의 방법으로 집단 간 평균 차이를 검정했다"는 뜻입니다. 자유도가 45.3처럼 소수로 나오는 것도 웰치 방법의 특징입니다.

교육학 연구에서 집단 크기와 분산이 다를 가능성을 고려해, 등분산 검정 결과를 보기 전부터 처음부터 웰치의 방법을 표준 분석법으로 정했다는 의미입니다.

농학 실험에서 재배 조건별로 생장률의 변동폭이 서로 다를 때, 이를 반영해 웰치의 방법으로 집단 간 평균 차이를 검정했다는 뜻입니다.

조금 더 깊게 보면

웰치의 분산분석은 각 집단의 분산 추정치를 가중치로 사용해 검정통계량과 자유도를 재계산하는 방식으로, 자유도가 정수가 아닌 소수 형태로 나오는 것이 특징이다. 이는 두 집단 비교에 쓰이는 웰치 t검정을 세 집단 이상으로 확장한 것으로 볼 수 있다.

다만 웰치 ANOVA는 분산의 이질성만 보정할 뿐 정규성 가정에는 여전히 민감할 수 있어, 표본이 매우 작거나 분포가 크게 치우친 경우에는 순위 기반의 비모수 검정(예: Kruskal-Wallis 검정)을 함께 고려하는 경우도 있다.

주의할 점

웰치의 분산분석에서 유의한 차이가 나왔다면, 어느 집단과 어느 집단이 다른지 확인하기 위한 사후검정도 등분산을 가정하지 않는 방법(예: Games-Howell 검정)을 사용해야 합니다. 튜키의 HSD 검정처럼 등분산을 전제로 하는 사후검정을 함께 쓰면 앞뒤가 맞지 않게 됩니다. 또한 웰치 방법은 분산 문제만 보정할 뿐, 정규분포 가정까지 해결해주지는 않습니다.

헷갈리기 쉬운 용어

분산이 다를 때의 검정과 사후검정이 짝으로 따라다닙니다.

참고 문헌

1. Welch, B. L. (1951). On the comparison of several mean values: An alternative approach. Biometrika, 38(3–4), 330–336.
2. Brown, M. B., & Forsythe, A. B. (1974). The small sample behavior of some statistics which test the equality of several means. Technometrics, 16(1), 129–132.
3. Games, P. A., & Howell, J. F. (1976). Pairwise multiple comparison procedures with unequal n’s and/or variances: A Monte Carlo study. Journal of Educational Statistics, 1(2), 113–125.
4. Delacre, M., Leys, C., Mora, Y. L., & Lakens, D. (2019). Taking parametric assumptions seriously: Arguments for the use of Welch’s F-test instead of the classical F-test in one-way ANOVA. International Review of Social Psychology, 32(1), 13.

표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.

관련 용어