용어 목록 > 쿡의 거리 (Cook's Distance)

쿡의 거리 (Cook's Distance)

쉽게 풀면

학급 30명의 평균 키를 구했는데, 그중 한 명이 유난히 키가 크다면 그 한 명을 빼고 다시 계산했을 때 평균이 크게 바뀔 것입니다. 쿡의 거리는 회귀분석에서 바로 이런 질문을 던집니다.

"이 데이터 하나를 빼면 회귀선(예측 결과)이 얼마나 크게 움직이는가?" 단순히 값이 크거나 작은 이상치라고 해서 항상 문제가 되는 건 아니지만, 그 값 하나 때문에 전체 회귀선의 기울기나 예측 결과가 크게 흔들린다면 그 관측치는 "영향점(influential point)"으로 특별히 주의해서 살펴봐야 합니다. 쿡의 거리가 크다는 것은 바로 이런 영향력이 크다는 뜻입니다.

왜 중요한가

회귀분석 결과는 소수의 관측치에 의해 크게 왜곡될 수 있는데, 쿡의 거리는 어떤 데이터가 그런 영향을 미치는지 체계적으로 짚어내는 표준적인 진단 도구입니다. 사회과학, 의학, 경제학 등 회귀모형을 활용하는 거의 모든 실증 연구에서 결과의 신뢰성을 검증하는 단계로 등장하며, 특정 소수 표본에 의한 결론 왜곡 가능성을 독자에게 투명하게 보여주는 역할을 합니다.

계산과 범위

관측치 i를 빼고 회귀를 다시 적합했을 때 모든 관측치의 예측값이 합쳐서 얼마나 변하는지를 하나의 숫자로 요약합니다. 다음 식으로도 같은 값을 얻습니다.

Di = [ei² ÷ (p × s²)] × [hi ÷ (1 − hi)²]

• e_i: 잔차, p: 모수 개수(절편 포함), s²: 잔차분산, h_i: 레버리지.
• 범위: 0 이상이며 상한은 없습니다. 0에 가까울수록 그 관측치를 빼도 모형이 거의 안 변합니다. 잔차가 크고(이상치) 동시에 레버리지가 클수록 커집니다.

작은 예(가상의 자료, 계산 결과). x = 1, 2, …, 9, 20이고 y = 2.1, 3.9, 6.2, 7.8, 10.1, 12.2, 13.8, 16.1, 18.0, 15.0인 10개 점에서 마지막 점(x = 20)만 y가 직선에서 크게 벗어나 있습니다. 모든 점으로 적합하면 y = 5.89 + 0.71x인데, 마지막 점을 빼면 y = 0.04 + 2.00x로 기울기가 거의 3배가 됩니다.

해석 기준

정해진 절대 기준은 없고, 관례적으로 다음 두 가지가 많이 쓰입니다.

• D > 1: 영향력이 크다고 보는 보수적인 기준.
• D > 4/n: 표본 크기를 반영한 더 엄격한 기준. 위 예에서 4/10 = 0.4이므로 x = 20 점(15.42)만 넘습니다.

기준보다 중요한 것은 다른 관측치와 비교해 유독 튀는지(막대그래프나 인덱스 도표)입니다.

• D가 크다고 자동으로 ‘제거 대상’이 되는 것은 아닙니다. 입력 오류인지, 다른 모집단의 사례인지, 실제로 존재하는 드문 사례인지 먼저 확인합니다.
• D가 큰 점은 레버리지가 크거나 잔차가 크기 때문입니다. 어느 쪽인지 레버리지와 표준화 잔차를 함께 보면 원인이 드러납니다.
• 한 점의 영향이 다른 점에 가려질 수 있어(마스킹), 영향력 큰 점이 둘 이상이면 하나씩 지우는 방식으로는 못 찾을 수도 있습니다.

보고 방법

검토했다는 사실과 사용한 기준, 결과를 적습니다. 영향력 큰 관측치가 있으면 포함/제외 결과를 모두 제시해 결론이 견고한지 보여 줍니다.

영향력 분석 결과 쿡의 거리의 최댓값은 0.12로 1.0보다 작아 영향력이 큰 관측치는 없었다.

쿡의 거리가 4/n를 넘은 관측치가 1건(D = 15.4) 있었다. 이 관측치를 제외하면 기울기가 0.71에서 2.00으로 달라졌으므로 두 결과를 모두 제시한다. (형식을 보여 주려는 가상의 문장)

• 제외한 경우 이유를 연구 맥락에서 설명해야 합니다. ‘결과를 좋게 만들려고’ 제외한 것으로 보이면 안 됩니다.

논문에서는 이렇게 쓰입니다

실제 논문에서

국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.

• “또한, 영향력 분석을 위해 Cook distance 기술통계량을 통해 분석한 결과 1.0 이상을 보이는 값이 없음을 확인했다.”

  여대생의 e헬스 문해력, 생식건강 증진 행위가 삶의 질에 미치는 영향, Journal of Korean Maternal and Child Health, 2026 · KoreaMed Synapse · 원문 보기 ↗

• “DFFITS, Cook’s distance 분석결과, 표류속도의 경우 데이터 index 1, 27, 28, 72, 73, 74번째, 표류방향의 경우 index 2, 8, 68, 70, 71, 73, 74번째에서 회귀모형에 영향을 미치는 것으로 나타났다.”

  실선에 의한 표류 예측모델에 관한 연구, 수산해양기술연구, 2024 · KCI 한국학술지인용색인 · 원문 보기 ↗

예시 문장

아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.

이 문장은 특정 데이터 두 건이 전체 회귀분석 결과에 지나치게 큰 영향을 주고 있음을 발견했고, 그 데이터를 빼도 결론이 유지되는지 추가로 확인했다는 뜻입니다.

경제학이나 정치학의 패널 데이터 연구에서, 특정 국가나 시기 하나가 전체 결론을 좌우하지 않는지 확인하는 강건성 점검 절차로 쓰이는 사례입니다.

의학 통계에서는 극단적으로 큰 영향력을 갖는 관측치가 실제 측정 오류나 입력 오류일 가능성을 점검하는 데도 쿡의 거리가 활용된다는 뜻입니다.

조금 더 깊게 보면

쿡의 거리는 개념적으로 레버리지(leverage, 해당 관측치의 설명변수 값이 얼마나 극단적인지)와 잔차(residual, 예측값과 실제값의 차이)를 함께 반영해 계산됩니다. 즉 설명변수 값이 극단적이면서 동시에 모형이 그 값을 잘 예측하지 못하는 관측치일수록 쿡의 거리가 커지는 구조입니다.

실무에서는 절대적인 임계값보다 관측치들 사이의 상대적인 쿡의 거리 크기를 비교하거나, 레버리지-잔차 산점도와 함께 시각적으로 확인하는 방식이 널리 쓰입니다.

주의할 점

쿡의 거리가 큰 관측치라고 해서 무조건 제거해서는 안 되며, 입력 오류인지 아니면 실제로 존재하는 극단적이지만 유효한 값인지를 먼저 확인해야 합니다. 값이 크다고 무조건 이상치인 것도 아니고, 이상치라고 해서 항상 쿡의 거리가 큰 것도 아니라는 점에서 두 개념은 구분됩니다.

헷갈리기 쉬운 용어

‘튀는 점’을 가리키는 용어들은 보는 면이 다릅니다.

이상치는 ‘값이 튀는 것’, 영향력 있는 관측치는 ‘결과를 바꾸는 것’입니다. 둘은 겹칠 수도, 아닐 수도 있습니다.

참고 문헌

1. Cook, R. D. (1977). Detection of influential observation in linear regression. Technometrics, 19(1), 15–18.
2. Cook, R. D., & Weisberg, S. (1982). Residuals and Influence in Regression. Chapman and Hall.
3. Belsley, D. A., Kuh, E., & Welsch, R. E. (1980). Regression Diagnostics: Identifying Influential Data and Sources of Collinearity. Wiley.
4. Bollen, K. A., & Jackson, D. J. (1985). Regression diagnostics: An expository treatment of outliers and influential cases. Sociological Methods & Research, 13(4), 510–542.

표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.

관련 용어