박스-콕스 변환 (Box-Cox Transformation)
쉽게 풀면
가구 소득 데이터를 히스토그램으로 그리면 대부분 낮은 금액대에 몰려 있고 소수의 고소득자가 오른쪽으로 길게 꼬리를 늘어뜨린 모양이 됩니다. 이런 데이터에 평균 비교나 회귀분석처럼 "정규분포"를 가정하는 통계 기법을 그대로 적용하면 결과가 왜곡될 수 있습니다. 흔히 쓰는 해결책은 로그를 씌우는 것이지만, 로그가 항상 최선은 아닙니다. 박스-콕스 변환은 "로그 변환을 포함해 어떤 거듭제곱 변환이 이 데이터를 가장 정규분포에 가깝게 만드는지"를 수학적으로 찾아주는 방법입니다. 변환 정도를 조절하는 값(λ, 람다)을 데이터에 맞춰 자동으로 추정하는데, λ=0이면 로그 변환과 같아지고, λ=1이면 원래 데이터를 그대로 두는 것과 같아집니다. 즉 로그 변환은 박스-콕스 변환의 특수한 한 경우라고 볼 수 있습니다. 이렇게 최적의 λ를 찾아 변환하면 치우친 분포가 훨씬 종 모양에 가까워지고, 회귀분석에서 문제가 되는 이분산성(구간마다 오차가 들쭉날쭉한 현상)도 함께 완화되는 경우가 많습니다.
왜 중요한가
회귀분석, 분산분석, t-검정 등 고전적 통계 기법 상당수는 오차항이 정규분포를 따르고 분산이 일정하다는 가정 위에 세워져 있습니다. 그런데 소득, 의료비, 반응시간처럼 현실의 많은 변수는 한쪽으로 치우쳐 있어 이 가정을 위반하기 쉽고, 이를 무시하면 유의성 검정 결과나 신뢰구간이 실제보다 과도하게 낙관적이거나 왜곡될 수 있습니다. 박스-콕스 변환은 이런 문제를 해결하는 대표적인 사전처리 기법이라, 계량경제학·의학통계·환경과학 등 데이터의 분포 형태를 다루는 거의 모든 실증 연구 논문에서 방법론 절 단골로 등장합니다. 또한 로그 변환처럼 임의로 정한 변환이 아니라 데이터에 맞춰 변환 강도를 수학적으로 추정한다는 점에서, 분석의 재현성과 객관성을 높이는 절차로도 자주 언급됩니다.
논문에서는 이렇게 쓰입니다
이 문장은 원본 데이터가 정규분포 가정을 위반해 그대로 분석하면 통계적 추론이 왜곡될 수 있으므로, 최적의 λ 값을 추정해 변환한 뒤 분석을 진행했다는 뜻입니다.
실험군마다 데이터의 흩어진 정도(분산)가 다르면 분산분석의 결과를 그대로 신뢰하기 어려운데, 변환을 통해 이 흩어짐의 정도를 비슷하게 맞춘 뒤 분석했다는 의미입니다.
이 문장은 변환 강도(λ)를 임의로 정하지 않고, 데이터에 가장 잘 맞는 값을 통계적 추정 절차(최대우도법)로 찾아냈다는 점을 강조하는 표현입니다.
조금 더 깊게 보면
박스-콕스 변환에서 최적의 λ는 흔히 최대우도법(likelihood를 가장 크게 만드는 값을 찾는 방법)으로 추정하며, 이 과정은 통계 소프트웨어에서 자동으로 처리되는 경우가 많습니다. λ 값 자체도 해석에 참고할 수 있는데, λ가 0에 가까우면 로그 변환과 비슷한 효과, 1에 가까우면 사실상 변환이 필요 없다는 뜻으로 볼 수 있습니다. 논문에서는 변환 후 잔차의 정규성이나 등분산성이 실제로 개선되었는지를 샤피로-윌크 검정이나 브로이시-파간 검정 같은 별도의 검정으로 확인하는 경우가 많으므로, 변환 자체보다 그 뒤에 따라오는 검증 절차까지 함께 살펴보는 것이 논문을 정확히 읽는 데 도움이 됩니다. 또한 0 이하 값을 다루기 위한 확장판인 예오-존슨 변환도 함께 등장하는 경우가 많아, 두 방법을 구분해서 읽을 필요가 있습니다.
주의할 점
박스-콕스 변환은 값이 0보다 커야만 계산할 수 있어(수식에 거듭제곱과 로그가 포함되므로), 0이나 음수가 포함된 데이터에는 그대로 쓸 수 없습니다. 이런 경우에는 음수도 허용하는 확장판인 예오-존슨(Yeo-Johnson) 변환을 대신 사용합니다. 또한 변환 후 얻은 결과(회귀계수 등)는 원래 단위가 아니라 변환된 척도에서의 해석이므로, 실무적으로 의미를 전달하려면 역변환하거나 해석에 유의해야 합니다. 회귀분석에서 등분산성이 깨졌는지 자체를 검정하려면 브로이시-파간 검정을 함께 참고하면 좋습니다.