이분산성 (Heteroscedasticity)
쉽게 풀면
회귀분석은 보통 오차의 흩어진 정도(분산)가 독립변수 값과 상관없이 일정하다고 가정하는데, 실제로는 그렇지 않은 경우가 많다. 예를 들어 소득이 낮은 사람들의 지출은 비슷하지만 소득이 높은 사람들의 지출은 사람마다 크게 차이 날 수 있다. 이런 이분산성이 존재하는데도 이를 무시하면 회귀계수의 표준오차가 부정확해져 통계적 유의성 판단이 잘못될 수 있다.
왜 중요한가
회귀분석 결과를 바탕으로 통계적 유의성을 판단하고 정책이나 실무적 결론을 내리는 논문이 많기 때문에, 표준오차가 왜곡되는 이분산성 문제는 결과 해석의 신뢰도에 직결됩니다. 특히 소득, 매출액, 인구처럼 값의 규모가 개체마다 크게 차이 나는 경제·경영 데이터에서는 이분산성이 흔히 나타나므로, 계량경제학과 사회과학 논문에서 회귀분석을 수행할 때 거의 필수적으로 점검하고 보고하는 항목입니다.
핵심 정리
- 회귀모형의 오차 분산이 모든 관측치에서 같지 않고 독립변수(또는 예측값)에 따라 달라지는 현상입니다. 같은 분산인 경우는 등분산성(homoscedasticity)입니다.
- 결과: 최소제곱 계수 추정치는 여전히 불편이지만 가장 효율적이지는 않고, 일반 공식으로 구한 표준오차가 틀려서 t검정·신뢰구간·F검정이 부정확해집니다. 표준오차가 과소할 수도 과대할 수도 있습니다.
- 발견: 예측값 대 잔차 그림에서 깔때기(부채꼴) 모양이 가장 흔한 신호입니다. 검정으로는 브로이슈-파간 검정(Breusch & Pagan, 1979; 정규성에 덜 민감한 Koenker, 1981 형태가 흔함)과 White(1980) 검정이 많이 쓰입니다.
- 대응: ① 계수는 그대로 두고 표준오차만 고치는 강건 표준오차(HC0~HC3; 작은 표본에서는 HC3가 권해짐, Long & Ervin, 2000), ② 분산 구조를 알면 가중최소제곱, ③ 종속변수의 로그 변환, ④ 분산을 직접 모형화하는 방법.
- 이분산성이 확인되었다고 모형이 틀렸다고 단정하기보다, 누락된 변수나 잘못된 함수 형태 때문인지도 함께 점검합니다.
예시로 보기
컴퓨터로 만든 가상의 자료 100개입니다. 참 관계는 y = 2 + 1.0x에 오차를 더한 것으로, 오차의 표준편차가 x에 비례해 커집니다(x가 클수록 흩어짐). 최소제곱으로 적합하면 기울기 추정치는 0.896입니다.
| 계수 | 일반 표준오차 | HC3 강건 표준오차 |
|---|---|---|
| 절편 | 0.834 | 0.607 |
| 기울기 | 0.140 | 0.148 |
x가 작은 쪽(x < 4)의 잔차 표준편차는 1.56, 큰 쪽(x > 7)은 4.65로 세 배 가까이 차이가 납니다. 브로이슈-파간 검정(Koenker 형태, n·R² = 14.81, 자유도 1)은 p < .001입니다. 이 자료에서는 절편의 표준오차가 일반 공식으로 과대, 기울기는 약간 과소하게 나왔습니다. 방향과 크기는 자료에 따라 다르니, 이분산성이 있으면 일반 표준오차를 믿지 않는다는 원칙이 중요합니다.
자주 하는 오해
- “이분산성이 있으면 회귀계수가 편향된다.” 계수 추정치의 불편성은 유지됩니다. 문제는 표준오차와 이에 기초한 추론입니다.
- “종속변수가 정규분포가 아니라서 생긴다.” 정규성과는 별개의 가정입니다. 종속변수의 분포가 정규여도 오차 분산이 변할 수 있습니다.
- “검정에서 유의하지 않으면 등분산이다.” 검정력이 낮을 수 있고, 검정은 특정한 형태의 이분산성에 민감합니다. 잔차 그림을 함께 봅니다.
- “무조건 강건 표준오차를 쓰면 된다.” 표본이 작으면 강건 표준오차도 정확하지 않을 수 있고(HC0이 특히 그렇습니다), 이분산성의 원인이 모형 오류라면 근본 해결이 아닙니다.
- “분산분석의 등분산 가정과 같은 말이다.” 개념은 비슷하지만 회귀에서는 오차 분산, 분산분석에서는 집단별 분산을 가리킵니다.
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“또한, 구축된 재무자료가 패널자료의 특성이 있는 점을 감안하여 오차항에 대한 이분산성과 자기상관에 대한검정을 우선적으로 수행하였으며, 이전기의 투자활동과 당기의 투자활동과의 관련성은 패널GMM을 통해 분석을 시도하였다.”
우리나라 물류기업의 재무제약 수준과 투자활동과의 관련성에 관한 연구, 한국항만경제학회지, 2024 · KCI 한국학술지인용색인 · 원문 보기 ↗
“이러한 결과는 재무 보고의 불투명성을 달리 측정하거나 이분산성 및 극단 값에 의한 영향을고려하더라도 유효하였다.”
산업 내 경쟁이 재무 보고의 불투명성에 미치는 영향, Asian Tax Journal, 2023 · KCI 한국학술지인용색인 · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
오차의 흩어짐 정도가 일정하지 않다는 문제가 확인되어서, 이를 보정한 표준오차 계산 방식으로 다시 분석했다는 뜻이다.
검정 결과 이분산성이 뚜렷하지 않은 경우에는 별도의 보정 없이 기본적인 회귀분석 결과를 그대로 사용할 수 있음을 보여주는 문장이다.
패널자료 분석에서는 시간에 따른 상관뿐 아니라 개체별 분산 차이도 함께 고려해 표준오차를 보정하는 경우가 많다는 것을 보여주는 문장이다.
조금 더 깊게 보면
이분산성을 진단하는 대표적인 검정으로는 브로이시-파간 검정과 화이트 검정이 있으며, 이분산성이 확인되면 회귀계수 자체를 다시 추정하기보다는 표준오차만 보정하는 강건 표준오차(robust standard error)를 적용하는 것이 일반적인 대응 방식입니다. 패널 데이터처럼 여러 개체를 반복 관측한 자료에서는 개체 간 이분산성뿐 아니라 개체 내 상관까지 함께 고려하는 군집 강건 표준오차가 사용되기도 합니다.
주의할 점
이분산성 자체가 회귀계수의 추정치를 편향시키는 것은 아니지만, 표준오차와 유의성 검정 결과를 왜곡시킬 수 있어 반드시 점검해야 한다.
헷갈리기 쉬운 용어
| 용어 | 무엇인가 |
|---|---|
| 이분산성 | 오차 분산이 관측치마다 다름 |
| 등분산성 | 오차 분산이 모든 관측치에서 같음 (회귀의 표준 가정) |
| 자기상관 | 오차끼리 시간·순서에 따라 상관됨. 분산이 아닌 상관의 문제 |
| 다중공선성 | 설명변수끼리 높은 상관. 오차 분산과 무관 |
| 강건 표준오차 | 이분산성이 있어도 쓸 수 있도록 보정된 표준오차 |
| 가중최소제곱 | 분산이 큰 관측치에 낮은 가중치를 주어 추정 |
참고 문헌
- White, H. (1980). A heteroskedasticity-consistent covariance matrix estimator and a direct test for heteroskedasticity. Econometrica, 48(4), 817–838.
- Breusch, T. S., & Pagan, A. R. (1979). A simple test for heteroscedasticity and random coefficient variation. Econometrica, 47(5), 1287–1294.
- Koenker, R. (1981). A note on studentizing a test for heteroscedasticity. Journal of Econometrics, 17(1), 107–112.
- Cook, R. D., & Weisberg, S. (1983). Diagnostics for heteroscedasticity in regression. Biometrika, 70(1), 1–10.
- Long, J. S., & Ervin, L. H. (2000). Using heteroscedasticity consistent standard errors in the linear regression model. The American Statistician, 54(3), 217–224.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.