비모수검정 (Nonparametric Test)
쉽게 풀면
t검정이나 ANOVA 같은 방법(모수검정)은 "데이터가 정규분포를 따른다"는 전제를 깔고 계산합니다. 하지만 표본 수가 아주 적거나, 데이터가 한쪽으로 심하게 치우쳐 있거나, 애초에 숫자가 아니라 "순위"로만 매길 수 있는 데이터(예: 만족도 1~5점)라면 이 전제가 성립하지 않습니다. 비모수검정은 이런 상황에서 정규분포 가정 없이도 쓸 수 있도록, 원래 값 대신 값을 크기순으로 줄 세운 "순위"나 "부호(+/-)"만 이용해서 집단 간 차이를 판단하는 방법입니다. 정규분포라는 안전장치 없이도 작동하는 대신, 같은 데이터라면 보통 모수검정보다 통계적 검정력(효과를 찾아낼 확률)은 다소 떨어집니다.
왜 중요한가
실제 연구 데이터는 표본 수가 적거나 분포가 치우친 경우가 많아, 정규성 가정의 충족 여부를 확인하고 적절한 검정법을 선택하는 일은 통계 분석의 타당성을 좌우하는 기본 절차입니다. 특히 소규모 임상시험, 설문조사의 서열척도 응답, 생태학의 개체수 자료처럼 정규분포를 가정하기 어려운 분야에서는 비모수검정이 사실상 표준 분석 방법으로 자리잡고 있습니다.
언제 쓰나
모집단이 특정 분포(주로 정규분포)를 따른다는 가정 없이 검정하고 싶을 때, 또는 자료가 서열 척도이거나 표본이 작고 분포가 심하게 치우쳐 있을 때 씁니다. 대부분의 비모수검정은 원래 값 대신 순위로 계산하기 때문에 이상치의 영향을 덜 받습니다. 대응되는 모수검정과 짝으로 외워 두면 편합니다.
| 상황 | 모수검정 | 비모수 대안 |
|---|---|---|
| 독립 두 집단 비교 | 독립표본 t검정 | 맨-휘트니 U 검정 |
| 대응 두 측정 비교 | 대응표본 t검정 | 윌콕슨 부호순위검정 |
| 독립 세 집단 이상 | 일원분산분석 | 크루스칼-왈리스 검정 |
| 반복측정 세 조건 이상 | 반복측정 분산분석 | 프리드먼 검정 |
| 두 변수의 관계 | Pearson 상관 | 스피어만 상관 |
- 표본이 충분히 크면 평균의 분포가 정규분포에 가까워지므로(중심극한정리) 모수검정도 정규성 위반에 꽤 강합니다. “정규성이 깨졌으니 무조건 비모수”는 아닙니다.
- 정규성 검정(Shapiro-Wilk 등)의 p값만 보고 검정법을 갈라 쓰면, 표본이 크면 사소한 이탈에도 기각되고 작으면 큰 이탈도 못 잡습니다. Q-Q 도표 같은 그림과 자료의 성격(서열인지, 이상치가 있는지)을 함께 보는 것이 좋습니다.
결과는 이렇게 읽는다
- 검정통계량은 순위에서 만들어집니다: U(맨-휘트니), W 또는 T(윌콕슨), H(크루스칼-왈리스), χ²(프리드먼), ρ(스피어만). 값 자체보다 p와 효과크기를 함께 읽습니다.
- 요약 통계는 평균·표준편차 대신 중앙값(사분위범위) 또는 평균 순위를 씁니다.
- 비교하는 대상은 ‘평균’이 아니라 분포의 위치(순위)입니다. 분포의 모양이 비슷할 때에 한해 중앙값의 차이로 읽을 수 있습니다.
- 효과크기는 순위 기반 지표를 씁니다: r = |z|/√N, 순위 이연상관, ‘한쪽이 더 클 확률’ 등.
- 정규분포 자료에서도 윌콕슨·맨-휘트니 검정의 상대 효율은 t검정의 약 95%(점근상대효율 3/π ≈ 0.955)로, 가정이 맞는 자료에서 잃는 검정력은 크지 않습니다. 꼬리가 두꺼운 분포에서는 오히려 더 좋을 수 있습니다.
논문에는 이렇게 보고한다
왜 비모수 검정을 골랐는지를 방법 절에 한 문장으로 적고, 결과에는 중앙값과 검정통계량, p, 효과크기를 함께 적습니다. (수치는 형식을 보여 주려는 가상의 값입니다.)
Shapiro-Wilk 검정에서 두 집단 모두 정규성이 기각되어(p < .05) 맨-휘트니 U 검정을 사용하였다. 실험집단의 중앙값(Mdn = 12.0)이 통제집단(Mdn = 9.5)보다 유의하게 높았다(U = 180.0, p = .016, r = .34).
한국어 논문에서는 “정규성 가정이 충족되지 않아 비모수 검정을 실시하였다”가 가장 흔한 문장이며, 어떤 검정을 썼는지는 괄호로 병기합니다. 정규성 판단 근거(검정, 왜도·첨도, 도표 중 무엇인지)를 함께 밝히면 설득력이 높아집니다.
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“학업적 흥미도 점수가 정규성을 만족하는 경우 대응 표본 t 검정을 시행하였고, 정규성을 만족하지 않는 경우 비모수 검정방법으로 Wilcoxon 부호 순위 검정을 시행하였다.”
게이미피케이션(Gamification)을 활용한 수학 수업이 초등학교 6학년 수학 학업 흥미도에 미치는 영향, 아시아태평양융합연구교류논문지, 2022 · KCI 한국학술지인용색인 · 원문 보기 ↗
“화학 과목의 학업성취도는 1학년 1학기 화학II 학기말 성적을 ‘상’과 ‘하’ 수준별로 구분하여 활용하였고, R&E 연구활동반에 따른 화학 과목의 인식론적 신념을 비교하기 위해 기술통계, 교차분석, 비모수 검정 등을 SPSS 28 프로그램으로 분석하였다.”
과학고 학생들의 R&E 연구활동반에 따른 화학 과목의 인식론적 신념과 화학 학업성취도에 미치는 영향, 학습자중심교과교육연구, 2024 · KCI 한국학술지인용색인 · 원문 보기 ↗
“고교학점제에서 과학 과목 선택에 따른 화학 학업성취도 경향성을 분석하기 위해, SPSS 28 프로그램으로 기술통계, 교차분석, 비모수검정 등을 수행하였다.”
고교학점제에서 과학 선택 과목의 경향성 분석: 화학Ⅰ과목을 중심으로, 학습자중심교과교육연구, 2024 · KCI 한국학술지인용색인 · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
이 문장은 "데이터가 정규분포를 따르지 않아서 t검정 대신, 순위를 이용하는 비모수검정 방법을 선택했다"는 분석 방법의 근거를 설명하는 것입니다.
정규성 가정이 어려운 서열척도 자료에서 세 집단 이상을 비교할 때 쓰이는 비모수검정 사례다.
소규모 대응표본 설계에서 비모수검정이 선택되는 전형적인 상황을 보여준다.
조금 더 깊게 보면
비모수검정을 선택하기 전에는 흔히 Shapiro-Wilk 검정이나 Q-Q 플롯 등으로 정규성을 사전에 확인하는 절차를 거칩니다. 비모수검정은 원값을 순위로 변환해 계산하기 때문에 이상치의 영향을 덜 받는다는 장점이 있지만, 평균 차이가 아니라 분포 전체의 위치 차이(또는 중앙값 차이)를 검정한다는 점에서 모수검정과 해석의 대상이 다르다는 점도 함께 이해할 필요가 있습니다. 효과크기를 보고할 때도 Cohen's d 대신 순위 기반의 효과크기 지표(예: r, rank-biserial correlation)를 함께 제시하는 경우가 많습니다.
주의할 점
비모수검정은 정규성 가정이 필요 없다는 장점 때문에 무조건 "더 안전한" 선택처럼 보이지만, 표본이 충분히 크고 정규성 가정이 실제로 충족되는 상황이라면 모수검정보다 효과를 덜 민감하게 잡아낼 수 있습니다. 대응되는 모수검정과 비모수검정의 짝을 알아두면 편리합니다: 독립표본 t검정 ↔ 맨-휘트니 U 검정, 대응표본 t검정 ↔ 윌콕슨 부호순위검정, ANOVA ↔ 크루스칼-왈리스 검정.
헷갈리기 쉬운 용어
정규성을 만족하지 못할 때 쓸 수 있는 방법은 비모수검정만이 아닙니다.
| 방법 | 하는 일 | 예 |
|---|---|---|
| 비모수검정 | 분포 가정 없이 순위 등으로 검정 | 맨-휘트니 U, 윌콕슨, 크루스칼-왈리스 |
| 변환 | 값에 로그 등을 취해 정규분포에 가깝게 만든 뒤 모수검정 | 로그 변환 후 t검정 |
| 강건한 표준오차 | 분포나 분산 가정이 틀려도 오차를 바로잡는 추정 | 회귀에서 이분산성 대응 |
| 부트스트랩 | 표본에서 반복 재추출해 분포를 직접 근사 | 정규성 없이 평균 차이의 신뢰구간 구하기 |
참고 문헌
- Conover, W. J. (1999). Practical Nonparametric Statistics (3rd ed.). Wiley.
- Hollander, M., Wolfe, D. A., & Chicken, E. (2014). Nonparametric Statistical Methods (3rd ed.). Wiley.
- Fagerland, M. W. (2012). t-tests, non-parametric tests, and large studies—a paradox of statistical practice? BMC Medical Research Methodology, 12, 78.
- Siegel, S. (1956). Nonparametric Statistics for the Behavioral Sciences. McGraw-Hill.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.