가우스-마코프 정리 (Gauss-Markov Theorem)
쉽게 풀면
회귀분석을 할 때 계수를 추정하는 방법은 이론적으로 여러 가지가 있을 수 있습니다. 그런데 왜 다들 굳이 회귀분석을 쓸까요? 가우스-마코프 정리는 "오차의 평균이 0이고, 오차끼리 서로 관련이 없고, 오차의 흩어진 정도(분산)가 모든 관측치에서 똑같다"는 몇 가지 기본 조건만 지켜지면, 최소제곱법으로 구한 추정치가 '치우침 없는(unbiased) 선형 추정치들' 가운데 가장 흔들림(분산)이 적은 최선의 추정치라는 것을 수학적으로 증명해 줍니다. 이를 줄여서 BLUE(Best Linear Unbiased Estimator, 최량선형불편추정량)라고 부릅니다. 즉 이 정리 덕분에 연구자는 "굳이 더 복잡한 방법을 쓸 필요 없이, 조건만 맞다면 최소제곱법이 가장 안정적인 선택"이라고 믿고 회귀분석을 쓸 수 있는 것입니다.
왜 중요한가
가우스-마코프 정리는 최소제곱법이라는, 통계학과 계량경제학에서 가장 널리 쓰이는 추정 방법을 정당화하는 이론적 근거이기 때문에 중요합니다. 실증 연구 논문에서 회귀분석 결과를 신뢰할 수 있다고 주장하려면 이 정리의 조건이 얼마나 지켜졌는지를 먼저 점검해야 하고, 조건이 깨졌을 때 어떤 대안을 쓸지가 방법론 절의 핵심 논거가 됩니다. 이 때문에 경제학, 사회과학, 계량 분야 논문에서 모형의 타당성을 논할 때 빠짐없이 언급됩니다.
논문에서는 이렇게 쓰입니다
이 문장은 최소제곱법이 가장 안정적인 추정치를 준다고 보장받으려면 오차의 흩어진 정도가 모든 관측치에서 같아야 하는데, 실제 데이터에서는 그렇지 않아서 이를 보정하는 방법을 추가로 사용했다는 뜻입니다.
패널 데이터 분석 논문에서 오차 간 상관 문제를 언급하며 정리의 가정 위배를 보정하는 방법을 제시할 때 쓰이는 표현이다.
조금 더 깊게 보면
가우스-마코프 정리가 성립하려면 선형성, 오차의 평균이 0이라는 조건, 오차의 등분산성(동분산), 오차 간 무상관, 그리고 설명변수의 완전한 비확률성(또는 외생성)이 필요합니다. 이 중 어느 하나라도 위배되면 최소제곱법 추정치는 여전히 계산 가능하지만 더 이상 최선의 선형불편추정량이라는 보장을 잃게 되며, 대신 일반화최소제곱법(GLS)이나 강건 표준오차 같은 대안이 쓰입니다. 논문에서는 잔차 플롯이나 이분산성 검정(예: Breusch-Pagan 검정) 결과를 근거로 이러한 가정의 위배 여부를 판단하는 경우가 흔합니다.
주의할 점
가우스-마코프 정리는 최소제곱법 추정치가 "치우침 없는 선형 추정치 중에서" 가장 낫다는 것이지, 무조건 세상에서 가장 좋은 추정치라는 뜻은 아닙니다. 조건(선형성, 오차의 등분산성, 오차 간 무상관 등)이 실제로 다중회귀분석의 가정처럼 위배되면 이 보장은 더 이상 성립하지 않으므로, 회귀분석 결과를 해석하기 전에 이러한 가정이 지켜졌는지 반드시 점검해야 합니다.