등분산성과 이분산성 (homoscedasticity & heteroscedasticity)
쉽게 풀면
월 소득으로 월 지출을 예측하는 회귀모형을 생각해봅시다. 소득이 낮은 사람들은 지출도 거의 비슷비슷하게 적지만, 소득이 높은 사람들은 어떤 사람은 거의 다 쓰고 어떤 사람은 거의 저축해서 지출 편차가 훨씬 크게 벌어집니다.
이렇게 예측변수(소득) 값에 따라 오차의 흩어진 정도가 나팔 모양처럼 점점 커지거나 작아지는 상태를 이분산성(heteroscedasticity)이라고 합니다. 반대로 오차의 흩어진 정도가 예측변수 값과 상관없이 어디서나 고르게 퍼져 있으면 등분산성(homoscedasticity)이라고 합니다.
회귀분석의 표준적인 검정통계량과 신뢰구간은 등분산성을 전제로 계산되기 때문에, 이분산성이 있으면 이 값들이 왜곡될 수 있습니다.
왜 중요한가
회귀분석 기반의 연구 대부분은 오차의 등분산성을 암묵적으로 전제한 채 t검정이나 F검정, 신뢰구간을 계산하기 때문에, 이 가정이 실제로 성립하는지 점검하는 과정은 결과의 신뢰도를 좌우하는 중요한 절차로 다뤄진다. 경제학, 심리학, 생물통계 등 관측 데이터를 다루는 거의 모든 실증 연구에서 이분산성 진단과 보정은 표준적인 방법론 검토 항목으로 자주 등장한다.
핵심 정리
- 등분산성은 오차의 분산이 설명변수 값(또는 예측값)에 관계없이 일정하다는 가정이고, 이분산성은 그것이 달라지는 상태입니다. 흔한 모양은 예측값이 클수록 잔차가 퍼지는 ‘깔때기’입니다.
- 이분산성이 있어도 보통최소제곱(OLS)의 회귀계수 추정치는 여전히 불편입니다. 그러나 효율적이지 않고(분산이 최소가 아님), 무엇보다 일반 표준오차 공식이 틀려서 t 값, p값, 신뢰구간이 부정확해집니다. 표준오차가 작게 나올 수도, 크게 나올 수도 있습니다.
- 자주 생기는 원인: 변수의 규모 차이(소득이 클수록 지출 편차도 큼), 집단마다 다른 변동, 비선형 관계를 직선으로 적합함, 이상치.
- 점검: 잔차 대 예측값 도표, 브로이슈-페이건 검정, 화이트 검정. 집단 비교(t검정, 분산분석)에서의 분산 동질성은 레빈 검정으로 봅니다.
- 대응: 종속변수 로그 변환, 가중최소제곱(WLS), 이분산에 강건한 표준오차(White, 1980)로 계수는 그대로 두고 표준오차만 바로잡기. 표본이 작을 때는 HC3 같은 변형이 낫다는 보고가 있습니다(Long & Ervin, 2000).
예시로 보기
가상의 모의 자료: x를 1~10에서 100개 뽑고, 오차의 표준편차를 0.5x로 두어 x가 클수록 퍼지게 만든 뒤 y = 2 + 1.5x + 오차를 생성했습니다.
- OLS 기울기 추정치는 1.38(참값 1.5). 잔차의 표준편차는 x < 5.5인 구간에서 1.43, x ≥ 5.5인 구간에서 3.78로 두 배 이상 차이납니다.
- 일반 표준오차는 0.100, 강건 표준오차는 HC0 0.120, HC3 0.124입니다. 일반 공식이 기울기의 불확실성을 약 20% 작게 보여 줍니다.
- 브로이슈-페이건 검정(잔차 제곱을 x에 회귀, Koenker 방식): LM = 16.25, df = 1, p < .001. 오차 분산이 일정한 대조 자료에서는 LM = 0.53, p = .46입니다.
- 이 어긋남이 실제로 얼마나 해로운지 보려고 오차의 표준편차가 0.5·x1.5에 비례하는 자료(n = 30)를 4,000번 만들어 기울기의 95% 신뢰구간이 참값 1.5를 포함하는 비율을 세 보았습니다. 일반 표준오차는 90.6%, HC3 강건 표준오차는 93.6%였습니다. 표본이 작으면 강건 표준오차도 완벽하지는 않다는 점도 보입니다.
자주 하는 오해
| 오해 | 바로잡기 |
|---|---|
| 이분산성이 있으면 회귀계수가 편향된다. | OLS 계수 추정치는 여전히 불편입니다. 문제는 표준오차와 이를 쓰는 검정·신뢰구간입니다. |
| 이분산성은 정규성이 깨졌다는 뜻이다. | 다른 가정입니다. 오차가 정규분포여도 분산이 변할 수 있고, 분산이 일정해도 정규가 아닐 수 있습니다. |
| 레빈 검정으로 회귀모형의 이분산성을 확인한다. | 레빈 검정은 집단 간 분산이 같은지 보는 검정입니다. 연속 설명변수가 있는 회귀모형에는 잔차 도표, 브로이슈-페이건, 화이트 검정을 씁니다. |
| 검정이 유의하지 않으면 등분산이 증명되었다. | 표본이 작으면 검정력이 낮아 못 잡아냅니다. 도표를 반드시 같이 봅니다. |
| 이분산성이 보이면 변환이나 WLS를 꼭 써야 한다. | 목적이 계수의 유의성 검정이라면 강건 표준오차만으로도 충분한 경우가 많습니다. 예측 구간이 필요하면 분산 구조 모형이 필요합니다. |
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“Levene의 등분산 검정 결과, 각 군의 분산은 통계적 으로 유의한 차이를 보이지 않아 등분산성 가정이 충족 되었다(P = 0.835).”
디지털 광원처리 방식으로 제작한 임시 수복용 3D 프린팅 레진의 레이어 두께가 굴곡강도에 미치는 영향, Journal of Dental Rehabilitation and Applied Science, 2026 · KoreaMed Synapse · 원문 보기 ↗
“또한, 구축된 재무자료가 패널자료의 특성이 있는 점을 감안하여 오차항에 대한 이분산성과 자기상관에 대한검정을 우선적으로 수행하였으며, 이전기의 투자활동과 당기의 투자활동과의 관련성은 패널GMM을 통해 분석을 시도하였다.”
우리나라 물류기업의 재무제약 수준과 투자활동과의 관련성에 관한 연구, 한국항만경제학회지, 2024 · KCI 한국학술지인용색인 · 원문 보기 ↗
“이러한 결과는 재무 보고의 불투명성을 달리 측정하거나 이분산성 및 극단 값에 의한 영향을고려하더라도 유효하였다.”
산업 내 경쟁이 재무 보고의 불투명성에 미치는 영향, Asian Tax Journal, 2023 · KCI 한국학술지인용색인 · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
이 문장은 "회귀모형의 오차가 등분산 가정을 위반하고 있음을 통계적으로 확인했고, 이를 보정하기 위해 표준오차 계산 방식을 바꾼 모형을 다시 돌렸다"는 뜻입니다.
이 문장은 "여러 개체를 시간에 걸쳐 관찰한 자료에서 개체마다 오차의 흩어진 정도가 다를 수 있다고 보고, 이를 반영해 표준오차를 다시 계산했다"는 뜻입니다.
이 문장은 "다른 방식의 검정을 추가로 실시해봐도 오차의 흩어진 정도가 구간마다 달라진다는 증거는 나타나지 않았다"는 뜻입니다.
조금 더 깊게 보면
이분산성 여부를 판단할 때는 잔차 산점도(예측값 대 잔차)를 눈으로 확인하는 방법과 함께, Breusch-Pagan 검정이나 White 검정 같은 공식적인 통계 검정을 함께 활용하는 경우가 많습니다.
검정 결과 이분산성이 확인되면 강건표준오차나 가중최소제곱(WLS)처럼 오차의 분산 구조를 반영해 표준오차를 다시 계산하는 방법이 흔히 쓰입니다. 패널 데이터처럼 관측 단위가 반복 측정되는 구조에서는 이분산성뿐 아니라 개체 간 상관까지 함께 고려하는 클러스터-강건표준오차가 널리 쓰입니다.
주의할 점
이분산성은 회귀계수 추정치 자체를 왜곡시키지는 않지만, 표준오차와 이에 기반한 유의확률·신뢰구간을 부정확하게 만들어 통계적으로 유의하지 않은 결과를 유의한 것처럼(또는 그 반대로) 보이게 할 수 있습니다. 잔차 산점도를 그려보지 않고 등분산성을 당연히 만족한다고 가정한 채 결과를 해석하는 것은 흔한 실수입니다.
헷갈리기 쉬운 용어
분산의 동질성을 말하는 용어와 검정이 여러 가지입니다.
| 용어 | 대상 | 용도 |
|---|---|---|
| 등분산성·이분산성 | 회귀 오차의 분산이 일정한가 | 가정 자체 |
| 레빈 검정 | 집단 간 분산 동질성 | t검정·ANOVA 전 점검 |
| 브로이슈-페이건 검정 | 회귀 잔차 분산이 설명변수와 관련 있는가 | 회귀의 이분산 검정 |
| 강건 표준오차 | 이분산에 대응해 표준오차만 수정 | 대응 방법 |
| 가중최소제곱 | 분산이 큰 관측치에 작은 가중치 | 대응 방법(분산 구조를 알 때) |
homo(같은)·hetero(다른) + scedastic(흩어짐)이라는 어원 때문에 ‘등분산’은 같은 흩어짐, ‘이분산’은 다른 흩어짐을 뜻합니다. 영어 표기가 homoskedasticity처럼 k를 쓰기도 합니다.
참고 문헌
- Breusch, T. S., & Pagan, A. R. (1979). A simple test for heteroscedasticity and random coefficient variation. Econometrica, 47(5), 1287–1294.
- White, H. (1980). A heteroskedasticity-consistent covariance matrix estimator and a direct test for heteroskedasticity. Econometrica, 48(4), 817–838.
- Long, J. S., & Ervin, L. H. (2000). Using heteroscedasticity consistent standard errors in the linear regression model. The American Statistician, 54(3), 217–224.
- Hayes, A. F., & Cai, L. (2007). Using heteroskedasticity-consistent standard error estimators in OLS regression: An introduction and software implementation. Behavior Research Methods, 39(4), 709–722.
- Fox, J. (2016). Applied regression analysis and generalized linear models (3rd ed.). Sage.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.