분산분석 (ANOVA)
쉽게 풀면
세 가지 다른 교육 방법(A, B, C)을 쓴 반의 평균 성적을 비교한다고 해봅시다. 이럴 때 A와 B, B와 C, A와 C를 각각 t검정으로 따로따로 비교하면, 검정을 반복할수록 우연히 유의한 결과가 나올 확률(1종 오류)이 눈덩이처럼 불어납니다.
분산분석(ANOVA)은 이런 문제를 피하기 위해, 세 집단 이상의 평균 차이를 한 번의 검정으로 동시에 비교하는 방법입니다. 이름은 "분산분석"이지만 실제로 비교하는 대상은 집단 간 평균이며, 집단 간 분산과 집단 내 분산의 비율(F값)을 이용해 평균 차이가 우연 이상인지를 판단합니다.
왜 중요한가
실험이나 조사에서 비교하고 싶은 집단이 셋 이상인 경우는 매우 흔합니다. 여러 처치 조건, 여러 학년, 여러 지역 등을 동시에 비교하려면 개별 t검정을 반복하는 대신 한 번의 검정으로 전체적인 차이 여부를 판단할 필요가 있고, ANOVA는 이 문제에 대한 표준적인 해법으로 자리잡았습니다.
그래서 실험설계 기반 연구, 특히 심리학·교육학·생물학·품질관리 분야 논문에서 결과 검증의 기본 도구로 반복적으로 등장하며, 회귀분석이나 실험계획법 같은 더 복잡한 통계 기법으로 나아가는 출발점 역할도 합니다.
언제 쓰나
세 집단 이상의 평균이 모두 같은지 한 번에 검정할 때 씁니다. 집단이 둘이면 F = t²이므로 t검정과 같은 결론이 나옵니다.
- 독립변수(요인)가 하나면 일원배치, 둘이면 이원배치이고 이때는 두 요인의 상호작용도 검정합니다.
- 같은 대상을 여러 번 재면 반복측정 분산분석, 연속 공변량을 통제하려면 공분산분석, 종속변수가 둘 이상이면 다변량 분산분석입니다.
- 가정: 관측치의 독립, 집단별 오차의 정규성, 집단 간 등분산. 등분산이 의심되면 웰치의 분산분석, 정규성·서열 자료이면 크루스칼-왈리스 검정을 고려합니다. 집단별 표본 수가 같으면 등분산 위반에 더 강합니다.
유의하게 나온 뒤에는 어느 집단 사이에 차이가 있는지를 사후검정(튜키 검정 등)으로 따로 확인해야 합니다.
결과는 이렇게 읽는다
가상의 예: 세 교수법 A, B, C를 6명씩 가르친 뒤 점수를 비교했습니다. A = 72, 75, 78, 70, 74, 77 (평균 74.33), B = 80, 83, 79, 85, 82, 81 (평균 81.67), C = 76, 78, 74, 79, 77, 75 (평균 76.50).
| 변동 원천 | 제곱합 | 자유도 | 평균제곱 | F | p |
|---|---|---|---|---|---|
| 집단 간 | 170.33 | 2 | 85.17 | 14.83 | .0003 |
| 집단 내(오차) | 86.17 | 15 | 5.74 | ||
| 전체 | 256.50 | 17 |
- F = 집단 간 평균제곱 ÷ 집단 내 평균제곱 = 85.17 / 5.74 = 14.83. 집단 평균 차이가 집단 내 흩어짐에 비해 크다는 뜻입니다.
- 자유도: 집단 간 = 집단 수 − 1 = 2, 집단 내 = 전체 N − 집단 수 = 15. F(2, 15) = 14.83, p < .001.
- 효과크기: η² = 170.33 / 256.50 = .66(전체 변동 중 집단이 설명하는 비율), 덜 편향된 ω² = .61. 관례상 η²는 .01, .06, .14를 작음·중간·큼으로 부릅니다(Cohen, 1988).
- 가정 점검: 레빈 검정 p = .49로 등분산 가정을 깨는 증거는 없습니다.
- 사후검정(튜키): A–B p < .001, B–C p = .005, A–C p = .29. 즉 B가 다른 두 방법보다 높지만 A와 C는 구별되지 않습니다. ‘A와 B와 C가 모두 다르다’가 아닙니다.
논문에는 이렇게 보고한다
집단별 평균·표준편차, F와 두 자유도, p, 효과크기, 사후검정 방법과 결과를 적습니다. (위 가상 자료 기준)
교수법에 따른 점수 차이는 유의하였다, F(2, 15) = 14.83, p < .001, η² = .66. 튜키 HSD 사후검정 결과 B(M = 81.67, SD = 2.16)가 A(M = 74.33, SD = 3.01)와 C(M = 76.50, SD = 1.87)보다 높았고, A와 C 사이에는 유의한 차이가 없었다.
- 이원배치에서는 주효과 둘과 상호작용 각각에 대해 F, 자유도, p, 효과크기를 적습니다. 상호작용이 유의하면 주효과를 단독으로 해석하지 않고 단순주효과를 확인합니다.
- η²에는 전체 변동을 분모로 하는 η²와 다른 요인의 변동을 제외한 부분 η²가 있어 소프트웨어가 보여 주는 값과 논문 표기가 다를 수 있습니다. 어느 것인지 밝히세요(Levine & Hullett, 2002; Olejnik & Algina, 2003). 일원배치에서는 둘이 같습니다.
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“보호자의 특성에 따른 식품정보 이해력, 사회적 지지, 식품 소 비 접근성과 NQ-C의 비교는 일원분산분석(one-way analysis of variance, ANOVA)을 사용하였다.”
주양육자의 식품정보 이해력•사회적 지지•식품소비 접근성과 가구 소득이 학령기 아동의 영양상태에 미치는 영향 연구, Korean Journal of Community Nutrition, 2025 · KoreaMed Synapse · 원문 보기 ↗
“· 대상자의 일반적 특성 및 질병관련 특성에 따른 삶의 질은 inde- pendent t-test와 분산분석(analysis of variance)으로 분석하였으며, 사후 검정으로는 Scheffé post hoc test로 검증하였다.”
여성 류마티스 관절염 환자의 건강관련 삶의 질 구조모형, Korean Journal of Women Health Nursing, 2023 · KoreaMed Synapse · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
세 집단의 평균 점수를 한꺼번에 비교했을 때, 적어도 한 집단은 다른 집단과 우연이라고 보기 어려운 수준의 차이가 있었다는 뜻입니다. 다만 이 결과만으로는 구체적으로 어느 집단끼리 다른지는 알 수 없습니다.
농학·생태학 실험에서도 여러 처리 조건을 동시에 비교할 때 ANOVA가 널리 쓰입니다. 이 문장은 세 가지 재배 조건 사이에 생장량 평균이 다른지를 한 번의 검정으로 확인했다는 의미입니다.
교육학 연구에서는 두 개 이상의 독립변수를 동시에 고려하는 이원배치(two-way) ANOVA도 자주 쓰입니다. 이 예문은 학습 방법에 따른 차이는 있었지만, 그 차이가 성별에 따라 달라지지는 않았다는 뜻입니다.
조금 더 깊게 보면
ANOVA가 성립하려면 일반적으로 각 집단의 관측치가 독립적이고, 집단 내 분산이 서로 비슷하며(등분산성), 데이터가 정규분포에 가깝다는 가정이 필요합니다.
이 가정이 크게 어긋나면 F검정 결과를 그대로 신뢰하기 어려워, 등분산성은 Levene 검정 등으로, 정규성은 Shapiro-Wilk 검정 등으로 사전에 점검하는 경우가 많습니다.
또한 독립변수가 하나면 일원배치(one-way), 둘 이상이면 이원배치(two-way) 이상의 ANOVA로 구분하며, 반복측정 설계에서는 반복측정 분산분석(repeated measures ANOVA)이라는 변형이 쓰입니다.
유의한 결과 이후 어느 집단 간에 차이가 있는지 밝히는 사후검정으로는 Tukey, Bonferroni 등의 방법이 흔히 사용됩니다.
주의할 점
ANOVA에서 유의한 결과가 나왔다는 것은 "어딘가에 차이가 있다"는 것만 말해줄 뿐, 어느 집단과 어느 집단 사이에 차이가 있는지는 알려주지 않습니다. 구체적인 집단 간 차이를 확인하려면 사후검정(post-hoc test)을 추가로 실시해야 합니다.
헷갈리기 쉬운 용어
집단 평균을 비교하는 검정은 집단 수와 가정으로 갈립니다.
| 검정 | 언제 | 대표 가정 위반 시 대안 |
|---|---|---|
| t검정 | 두 집단(또는 한 집단 대 기준값) | 웰치 t검정 |
| 분산분석(ANOVA) | 세 집단 이상, 등분산·정규성 | 웰치 ANOVA |
| 웰치의 분산분석 | 세 집단 이상, 분산이 다를 수 있음 | — |
| 크루스칼-왈리스 검정 | 세 집단 이상, 서열·비정규 자료 | — |
“집단 평균이 같은지”를 검정하는데 이름이 ‘분산’분석인 이유는 평균 차이를 두 종류의 분산(집단 간, 집단 내)의 비로 판정하기 때문입니다.
참고 문헌
- Fisher, R. A. (1925). Statistical methods for research workers. Oliver & Boyd.
- Maxwell, S. E., & Delaney, H. D. (2004). Designing experiments and analyzing data: A model comparison perspective (2nd ed.). Lawrence Erlbaum.
- Cohen, J. (1988). Statistical power analysis for the behavioral sciences (2nd ed.). Lawrence Erlbaum.
- Levine, T. R., & Hullett, C. R. (2002). Eta squared, partial eta squared, and misreporting of effect size in communication research. Human Communication Research, 28(4), 612–625.
- Olejnik, S., & Algina, J. (2003). Generalized eta and omega squared statistics: Measures of effect size for some common research designs. Psychological Methods, 8(4), 434–447.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.