귀무가설 (Null Hypothesis)

한 줄 정의: "차이가 없다"를 기본 전제로 놓고 통계적으로 기각을 시도하는 가설.

쉽게 풀면

법정에서 피고인은 유죄가 증명되기 전까지 무죄로 추정됩니다. 통계에서도 비슷한 논리를 씁니다. 연구자가 정말 보고 싶은 것은 "새로운 약이 효과가 있다"는 것이지만, 통계 검정은 일단 "효과가 없다(차이가 없다)"는 귀무가설을 기본값으로 세워놓고 시작합니다. 그리고 데이터가 이 귀무가설과 얼마나 어긋나는지를 계산해서, 어긋남이 충분히 크면 "우연이라고 보기 어렵다"며 귀무가설을 기각하고 대립가설(효과가 있다)을 채택합니다.

왜 중요한가

귀무가설은 사실상 모든 실증 연구에서 가설검정의 출발점이 되기 때문에, 통계 방법을 사용하는 거의 모든 분야의 논문에서 빠지지 않고 등장합니다. 연구자의 주장이 단순한 우연의 산물이 아니라는 것을 보이려면 반드시 "차이가 없다"는 귀무가설을 반증하는 절차를 거쳐야 하기 때문에, 결과 해석의 신뢰성을 뒷받침하는 근간이 됩니다. 최근에는 p값에만 의존하는 귀무가설 검정의 한계를 지적하며 효과크기나 신뢰구간을 함께 보고해야 한다는 방법론적 논의도 활발합니다.

논문에서는 이렇게 쓰입니다

"귀무가설(두 집단 간 평균 차이는 없다)은 기각되었다 (p < .01)."

"차이가 없다"는 전제가 통계적으로 받아들이기 어려울 만큼 데이터와 어긋났기 때문에, 실제로는 두 집단 사이에 차이가 있다고 결론 내렸다는 뜻입니다.

"두 변수 간에는 상관관계가 없다는 귀무가설을 기각할 만한 충분한 증거를 찾지 못하였다 (p = .34)."

사회과학 연구에서 귀무가설을 기각하지 못한 결과를 보고하는 예시이다.

"처리군과 대조군의 반응 비율이 동일하다는 귀무가설 하에서 카이제곱 검정을 실시하였다."

범주형 자료 분석에서 귀무가설을 설정하고 검정을 수행하는 임상연구의 예시이다.

조금 더 깊게 보면

귀무가설 검정은 항상 유의수준(흔히 α=.05)을 미리 정해두고, 이 기준보다 p값이 작으면 귀무가설을 기각하는 방식으로 진행됩니다. 하지만 p값은 "귀무가설이 참일 확률"이 아니라 "귀무가설이 참이라고 가정했을 때 관측된 것만큼 극단적인 결과가 나올 확률"이라는 점에서 자주 오해되며, 최근 방법론 논문에서는 p값 단독보다 효과크기, 신뢰구간, 사전등록(preregistration) 등을 함께 보고하도록 권고하는 흐름이 강해지고 있습니다.

주의할 점

귀무가설을 기각하지 못했다고 해서 "차이가 없다는 것이 증명됐다"는 뜻은 아닙니다. 이는 단지 그 차이를 통계적으로 검출할 만한 충분한 증거를 찾지 못했다는 의미일 뿐입니다.