분산팽창계수 (Variance Inflation Factor)

한 줄 정의: 회귀분석에서 특정 독립변수가 다른 독립변수들과 얼마나 겹치는(상관된) 정보를 담고 있는지를 숫자로 나타내어, 다중공선성의 심각한 정도를 알려주는 지표입니다.

쉽게 풀면

회귀분석에서는 여러 독립변수를 동시에 넣어 각 변수가 결과에 미치는 영향을 따로따로 구분해내려고 합니다. 그런데 만약 "키"와 "몸무게"처럼 두 변수가 서로 너무 비슷한 정보를 담고 있다면, 모형은 둘 중 무엇 때문에 결과가 달라졌는지 헷갈리게 되고, 계수의 표준오차가 커져 추정이 불안정해집니다. 분산팽창계수는 바로 이 "헷갈리는 정도"를 숫자로 알려줍니다. 값이 1에 가까우면 문제가 거의 없고, 보통 10을 넘어가면 다중공선성이 심각하다고 판단합니다.

왜 중요한가

회귀분석은 각 독립변수가 종속변수에 미치는 고유한 영향을 추정하는 것을 목표로 하는데, 다중공선성이 존재하면 이 추정이 불안정해지고 계수의 해석이 왜곡될 수 있습니다. VIF는 이러한 문제를 진단하는 표준적인 사전 점검 절차로, 경제학·사회과학·의학 등 회귀분석을 사용하는 거의 모든 실증 연구에서 모형의 신뢰성을 뒷받침하는 근거로 보고됩니다.

논문에서는 이렇게 쓰입니다

"모든 독립변수의 분산팽창계수(VIF)는 2 미만으로 나타나, 다중공선성 문제는 심각하지 않은 것으로 확인되었다."

이 문장은 회귀모형에 투입한 독립변수들이 서로 심하게 겹치는 정보를 담고 있지 않아서, 각 변수의 회귀계수를 비교적 안정적으로 해석할 수 있다는 뜻입니다. 반대로 VIF가 10을 크게 넘는 변수가 있다면, 그 변수를 빼거나 관련 변수들을 합치는 등의 조치를 고려하게 됩니다.

"소득, 교육연수, 거주지역을 포함한 사회경제적 변수들 간 VIF를 산출한 결과 최대값이 3.5로 나타나 다중공선성으로 인한 추정 편의는 크지 않은 것으로 판단되었다."

사회과학 연구에서는 여러 사회경제적 지표를 동시에 통제변수로 투입하는 경우가 많아, VIF 점검을 통해 이들 변수 간 정보 중복을 사전에 확인하는 절차가 흔히 보고됩니다.

"임상 예측모형에 포함된 검사 수치들 중 두 항목의 VIF가 8 이상으로 나타나, 두 변수 중 임상적 해석이 용이한 항목만을 최종 모형에 포함하였다."

의학 연구에서는 서로 밀접하게 연관된 검사 수치들을 동시에 사용할 때 VIF를 근거로 변수를 선별하거나 결합하는 방식으로 모형을 단순화하는 경우가 많습니다.

조금 더 깊게 보면

VIF는 특정 독립변수를 나머지 독립변수들로 회귀했을 때 얻어지는 결정계수(R²)를 이용해 계산되며, 이 R²가 클수록(즉 그 변수가 다른 변수들로 잘 설명될수록) VIF 값도 커집니다. VIF는 다중공선성의 정도를 보여줄 뿐, 그 자체가 모형의 전반적인 적합도나 인과적 타당성을 보장하지는 않으므로 상관행렬, 공차한계(tolerance, VIF의 역수) 등 다른 진단 지표와 함께 검토하는 것이 일반적입니다. 다중공선성이 확인된 경우에는 변수를 제거하거나 주성분분석·능형회귀 같은 방법으로 대응하기도 합니다.

주의할 점

VIF가 낮다고 해서 모형에 다른 문제가 없다는 뜻은 아니며, 다중공선성은 VIF 외에도 상관행렬이나 상태지수 등 다른 방법으로도 함께 점검하는 것이 좋습니다. 또한 VIF는 어느 정도부터 "심각하다"고 볼지에 대한 절대적 기준이 없어, 연구 분야나 표본 크기에 따라 판단 기준이 달라질 수 있습니다.