귀무가설 (Null Hypothesis)
쉽게 풀면
법정에서 피고인은 유죄가 증명되기 전까지 무죄로 추정됩니다. 통계에서도 비슷한 논리를 씁니다. 연구자가 정말 보고 싶은 것은 "새로운 약이 효과가 있다"는 것이지만, 통계 검정은 일단 "효과가 없다(차이가 없다)"는 귀무가설을 기본값으로 세워놓고 시작합니다. 그리고 데이터가 이 귀무가설과 얼마나 어긋나는지를 계산해서, 어긋남이 충분히 크면 "우연이라고 보기 어렵다"며 귀무가설을 기각하고 대립가설(효과가 있다)을 채택합니다.
왜 중요한가
귀무가설은 사실상 모든 실증 연구에서 가설검정의 출발점이 되기 때문에, 통계 방법을 사용하는 거의 모든 분야의 논문에서 빠지지 않고 등장합니다. 연구자의 주장이 단순한 우연의 산물이 아니라는 것을 보이려면 반드시 "차이가 없다"는 귀무가설을 반증하는 절차를 거쳐야 하기 때문에, 결과 해석의 신뢰성을 뒷받침하는 근간이 됩니다. 최근에는 p값에만 의존하는 귀무가설 검정의 한계를 지적하며 효과크기나 신뢰구간을 함께 보고해야 한다는 방법론적 논의도 활발합니다.
핵심 정리
- 귀무가설(H₀)은 검정이 일단 참이라고 가정하고 출발하는 가설입니다. 보통 “차이가 없다, 효과가 없다, 관계가 없다(모수가 0이다)”의 형태입니다.
- 대립가설(H₁)은 H₀가 틀렸을 때 받아들이는 쪽, 대개 연구자가 보이고 싶은 주장입니다. “두 집단의 평균이 다르다(양측)”, “A가 B보다 크다(단측)” 등으로 씁니다.
- 검정은 “H₀가 참이라면 이 정도 자료는 얼마나 드문가”를 계산(p값)해서, 충분히 드물면(p가 유의수준 α보다 작으면) H₀를 기각합니다.
- 결론은 두 가지뿐입니다: H₀ 기각 또는 H₀ 기각 실패. “H₀를 채택한다/증명했다”는 표현은 피합니다.
- 가설은 자료를 보기 전에 세웁니다. 결과를 본 뒤에 가설을 바꾸면 p값의 의미가 깨집니다.
예시로 보기
동전 하나를 10번 던져 앞면이 9번 나왔다고 해 봅시다.
- H₀: 이 동전은 공정하다(앞면 확률 = .5). H₁: 공정하지 않다(앞면 확률 ≠ .5, 양측).
- H₀가 참이라면 앞면이 9번 이상 또는 1번 이하 나올 확률은 2 × 11/1,024 ≈ .021입니다.
- 사전에 α = .05로 정했다면 .021 < .05이므로 H₀를 기각합니다. “이 자료는 공정한 동전이라고 보기에는 드문 결과다”라는 뜻입니다.
- α를 .01로 정했다면 기각하지 못합니다. 같은 자료도 기준에 따라 결론이 달라지므로 α는 분석 전에 정해야 합니다.
만약 10번 중 6번 앞면이 나왔다면 p는 .75 정도로 커서 기각하지 못합니다. 이때 “동전이 공정함이 증명되었다”가 아니라 “공정하지 않다고 할 근거가 부족하다”로 읽어야 합니다. 겨우 10번의 시행으로는 약간 치우친 동전도 걸러 내지 못하기 때문입니다.
자주 하는 오해
| 오해 | 바로잡기 |
|---|---|
| H₀를 기각했으니 H₁(연구가설)이 증명되었다. | H₀를 기각하면 H₁을 지지하는 증거가 생길 뿐이며, 연구가설이 맞다는 증명은 아닙니다. 표본 선정, 측정, 교란 등 다른 설명이 남아 있을 수 있습니다. |
| H₀를 기각하지 못했으니 H₀가 참이다. | 검정력이 낮거나 표본이 작으면 실제 효과도 놓칩니다. 동등성을 보이려면 동등성 검정이나 신뢰구간을 이용합니다. |
| p값이 .03이면 H₀가 참일 확률이 3%다. | p는 H₀가 참이라는 전제 아래 자료의 드문 정도를 나타낼 뿐, H₀ 자체가 참일 확률이 아닙니다. |
| 귀무가설은 항상 ‘차이가 0’이다. | 가장 흔한 형태일 뿐입니다. “평균이 100이다”, “효과가 임상적으로 의미 있는 최소 크기 이하이다” 같은 귀무가설도 있습니다. |
| 귀무가설 검정만 하면 연구가 끝난다. | 유의 여부 외에 효과의 크기와 불확실성(효과크기, 신뢰구간)을 보고하는 것이 현재의 권고입니다. |
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“크루스칼 왈리스 일원배치 분산분석 결과. 6가지의 경쟁력 요소 중 품질 경쟁력과 마케팅 경쟁력이 유의수준 .05 하에서 귀무가설을 기각시킴에 두 경쟁력의 효율성 분포가 다름을 알 수 있었다.”
제4차 산업혁명시대의 벤처기업 성과 측정 연구: 소프트웨어 벤처 기업의 효율성 측정을 중심으로, 기업가정신과 벤처연구, 2019 · KCI 한국학술지인용색인 · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
"차이가 없다"는 전제가 통계적으로 받아들이기 어려울 만큼 데이터와 어긋났기 때문에, 실제로는 두 집단 사이에 차이가 있다고 결론 내렸다는 뜻입니다.
사회과학 연구에서 귀무가설을 기각하지 못한 결과를 보고하는 예시이다.
범주형 자료 분석에서 귀무가설을 설정하고 검정을 수행하는 임상연구의 예시이다.
조금 더 깊게 보면
귀무가설 검정은 항상 유의수준(흔히 α=.05)을 미리 정해두고, 이 기준보다 p값이 작으면 귀무가설을 기각하는 방식으로 진행됩니다. 하지만 p값은 "귀무가설이 참일 확률"이 아니라 "귀무가설이 참이라고 가정했을 때 관측된 것만큼 극단적인 결과가 나올 확률"이라는 점에서 자주 오해되며, 최근 방법론 논문에서는 p값 단독보다 효과크기, 신뢰구간, 사전등록(preregistration) 등을 함께 보고하도록 권고하는 흐름이 강해지고 있습니다.
주의할 점
귀무가설을 기각하지 못했다고 해서 "차이가 없다는 것이 증명됐다"는 뜻은 아닙니다. 이는 단지 그 차이를 통계적으로 검출할 만한 충분한 증거를 찾지 못했다는 의미일 뿐입니다.
헷갈리기 쉬운 용어
가설검정에는 비슷하게 생긴 용어가 모여 있습니다.
| 용어 | 한 줄 설명 | 정하는 시점 |
|---|---|---|
| 귀무가설(H₀) | 일단 참이라고 가정하고 기각 여부를 따지는 가설(보통 효과 없음) | 분석 전 |
| 대립가설(H₁) | H₀가 기각될 때 받아들이는 가설, 연구가설과 같은 경우가 많음 | 분석 전 |
| 유의수준(α) | H₀가 참일 때 잘못 기각해도 좋다고 허용하는 확률 | 분석 전 |
| 유의확률(p) | H₀가 참일 때 관측값 이상으로 극단적인 결과가 나올 확률 | 분석 후(자료에서 계산) |
| 가설검정 | 위 요소를 모아 기각 여부를 결정하는 절차 전체 | — |
참고 문헌
- Fisher, R. A. (1935). The Design of Experiments. Oliver and Boyd.
- Neyman, J., & Pearson, E. S. (1933). On the problem of the most efficient tests of statistical hypotheses. Philosophical Transactions of the Royal Society of London, Series A, 231, 289–337.
- Gigerenzer, G. (2004). Mindless statistics. The Journal of Socio-Economics, 33(5), 587–606.
- Lehmann, E. L., & Romano, J. P. (2005). Testing Statistical Hypotheses (3rd ed.). Springer.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.