맨-휘트니 U 검정 (Mann-Whitney U test)

한 줄 정의: 데이터가 정규분포를 따르지 않을 때, 두 독립된 집단의 값들을 순위로 바꿔 비교함으로써 두 집단이 서로 다른지를 검정하는 비모수 방법입니다.

쉽게 풀면

두 반의 시험 점수를 비교하고 싶은데, 한쪽 반에 유난히 점수가 낮은 학생이 몇 명 섞여 있어서 평균이 왜곡된다고 해봅시다. 이럴 때 원래 점수 대신 "전체를 한 줄로 세웠을 때 몇 등인가"라는 순위만 가지고 비교하면 극단적인 값의 영향을 덜 받습니다. 맨-휘트니 U 검정이 바로 이 방식입니다. 두 집단의 값을 모두 합쳐 순위를 매긴 뒤, 한쪽 집단의 순위가 다른 쪽보다 전반적으로 높은지 낮은지를 통계적으로 따져서 "두 집단이 정말 다른가"를 판단합니다. 정규분포를 가정하는 t검정을 쓸 수 없을 때 대신 사용하는 대표적인 방법입니다.

왜 중요한가

맨-휘트니 U 검정은 표본 크기가 작거나 이상치가 많아 정규성 가정이 성립하지 않는 실제 연구 상황에서 t-검정의 대안으로 폭넓게 쓰이기 때문에 다양한 분야의 논문에서 중요하게 다뤄집니다. 특히 리커트 척도처럼 서열 자료를 다루는 사회과학 연구나, 표본이 적은 임상시험, 왜곡된 분포가 흔한 생태학·환경과학 데이터 분석에서 표준적인 비모수 검정 방법으로 자리 잡고 있습니다.

논문에서는 이렇게 쓰입니다

"자료가 정규성 가정을 만족하지 않아 Mann-Whitney U 검정을 실시한 결과, 두 집단 간 순위에 유의한 차이가 있었다(p=.014)."

이 문장은 두 그룹의 원래 점수 자체를 직접 비교하는 대신 순위로 변환해 비교했더니, 두 그룹이 우연이라 보기 어려울 만큼 다른 분포를 보였다는 뜻입니다.

"치료군과 대조군의 통증 척도 점수는 정규분포를 따르지 않아 Mann-Whitney U 검정으로 비교하였으며, 치료군의 순위가 유의하게 낮았다."

표본 크기가 작은 임상시험에서 서열형 평가 척도를 비교할 때 흔히 사용되는 표현이다.

"두 서식지에서 채집된 개체군의 크기 분포를 Mann-Whitney U 검정으로 비교한 결과 유의한 차이가 확인되지 않았다."

생태학 연구에서 표본 분포가 비대칭적이거나 이상치가 존재하는 측정값을 비교할 때 쓰이는 표현이다.

조금 더 깊게 보면

맨-휘트니 U 검정은 사실 두 독립표본 간 순위합을 비교하는 윌콕슨 순위합 검정과 수학적으로 동등하며, 두 이름이 통계 소프트웨어나 논문에서 혼용되기도 합니다. 이 검정이 정확히 검정하는 것은 "무작위로 뽑은 한 집단의 값이 다른 집단의 값보다 클 확률이 0.5인가"이므로, 엄밀히는 중앙값 차이보다 넓은 개념인 분포의 위치 이동을 검정한다는 점을 이해하고 결과를 해석해야 합니다.

주의할 점

맨-휘트니 U 검정은 엄밀히 말하면 "두 집단의 평균이 같은가"가 아니라 "두 집단의 분포(순위) 위치가 같은가"를 검정하는 것이므로, 독립표본 t검정과 결과 해석 방식이 다릅니다. 표본이 정규분포를 따른다면 굳이 순위 기반 방법을 쓸 필요 없이 t-검정이 더 검정력이 높다는 점도 함께 고려해야 합니다.