용어 목록 > 결정계수 (R-squared)

결정계수 (R-squared)

통계
한 줄 정의: 회귀모형이 종속변수의 전체 변동 중 얼마만큼을 설명해내는지를 0에서 1 사이의 비율로 나타낸 지표입니다.

쉽게 풀면

학생들의 시험 점수가 저마다 들쭉날쭉한 이유를 "공부 시간"이라는 하나의 변수로 설명하려 한다고 해봅시다. 공부 시간만으로 점수 차이를 완벽하게 설명할 수는 없겠지만, 어느 정도는 맞아떨어질 것입니다. 결정계수(R²)는 바로 이 "어느 정도"를 숫자로 알려줍니다.

예를 들어 R²가 0.42라면, 학생들 사이의 점수 차이 중 42%는 공부 시간의 차이로 설명되고, 나머지 58%는 이 모델이 포착하지 못한 다른 이유(집중력, 컨디션, 문제 난이도 등) 때문이라는 뜻입니다.

즉 R²는 "내가 만든 예측 모델이 현실을 얼마나 잘 따라잡고 있는가"를 알려주는 일종의 성적표라고 볼 수 있습니다.

왜 중요한가

R²는 회귀모형의 적합도를 한눈에 요약해 주기 때문에, 논문에서 모형이 데이터를 얼마나 잘 설명하는지 독자에게 빠르게 전달하는 핵심 수치로 자주 인용됩니다. 여러 모형을 비교하거나 변수를 추가·제거했을 때 설명력이 얼마나 향상되는지를 논의할 때도 R²의 변화량이 근거로 제시됩니다. 다만 분야에 따라 "충분히 높은" R² 수준에 대한 기대치가 크게 다르기 때문에, 어떤 학문 분야의 논문인지에 따라 같은 R² 값도 다르게 해석해야 합니다.

계산과 범위

결정계수는 종속변수의 전체 변동(SST) 중에서 회귀모형이 설명한 몫입니다.

R² = 1 − SSR/SST = 1 − Σ(y − ŷ)² / Σ(y − ȳ)²

작은 예(가상의 자료, n = 8): x = 1~8, y = 2.1, 2.9, 3.2, 4.8, 5.1, 5.2, 7.4, 7.1. 회귀식은 ŷ = 1.307 + 0.760x이고 SST = 25.715, SSR = 1.486이므로 R² = 1 − 1.486/25.715 = .942, 수정된 R² = .933입니다. x와 y의 상관계수 r = .971의 제곱과 같습니다.

해석 기준

“R²가 몇 이상이면 좋다”는 보편적 기준은 없습니다. 분야에 따라 기대 수준이 크게 다릅니다. 물리·공학의 보정 곡선은 .99를 넘기도 하지만, 사람의 태도·행동을 설명하는 연구에서는 .10~.30도 흔합니다.

효과크기로 읽을 때는 Cohen(1988)이 f² = R²/(1 − R²)에 대해 제안한 관례를 씁니다. f² = .02, .15, .35를 각각 작은·중간·큰 효과로 보며, R²로 옮기면 약 .02, .13, .26에 해당합니다. 이것도 어디까지나 편의상의 관례입니다.

보고 방법

모형 전체의 유의성 검정과 함께 적습니다. 위 작은 예라면 F = R² ÷ ((1 − R²)/6) ≈ 97.8입니다. (형식을 보여 주려는 가상의 값입니다.)

x는 y의 변동을 유의하게 설명하였다(F(1, 6) = 97.82, p < .001, R² = .94, 수정된 R² = .93).

논문에서는 이렇게 쓰입니다

실제 논문에서

국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.

예시 문장

아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.

"회귀모형의 설명력은 R²=.42로 나타나, 독립변수들이 종속변수 변동의 42%를 설명하는 것으로 확인되었다."

이 문장은 "이 연구에서 사용한 독립변수들을 모두 합쳐도 결과 변수의 변동 가운데 42%밖에 설명하지 못하며, 나머지 58%는 모형에 포함되지 않은 다른 요인들 때문일 수 있다"는 뜻입니다.

"모형 2에 상호작용항을 추가하자 R²는 소폭 증가하였으며, 이는 상호작용 효과가 종속변수 설명에 유의미하게 기여함을 시사한다."

위계적 회귀분석에서는 변수를 단계적으로 추가하면서 R²의 변화량(ΔR²)을 비교해, 새로 추가한 변수가 실질적으로 설명력을 높였는지를 판단하는 근거로 사용합니다.

"거시경제 변수를 이용한 주가수익률 예측 모형의 R²는 낮은 수준에 그쳤으나, 이는 금융 시계열 자료의 일반적인 특성과 부합한다."

경제·금융 분야에서는 시장의 예측 불확실성이 크기 때문에 R²가 다른 분야보다 낮게 나오는 것이 자연스러운 현상으로 받아들여진다는 점을 이렇게 서술합니다.

조금 더 깊게 보면

표본 하나에 대한 적합도(R²)와 새로운 데이터에 대한 예측력은 다른 문제이기 때문에, 논문에서는 교차검증(cross-validation)을 통한 예측 R²나 정보기준(AIC, BIC) 같은 지표를 함께 보고하기도 합니다.

다중회귀에서는 변수를 추가할수록 R²가 기계적으로 상승하는 문제를 보정하기 위해 수정된 결정계수를 사용하며, 로지스틱 회귀 같은 비선형모형에서는 R²의 대체 지표로 유사 결정계수(pseudo R², 예: Nagelkerke R²)가 쓰입니다.

이런 지표들의 정의와 계산 방식이 서로 다르므로, 값을 단순 비교하기보다는 같은 종류의 지표끼리 비교하는 것이 중요합니다.

주의할 점

R²가 높다고 해서 변수들 사이에 반드시 인과관계가 있다는 뜻은 아니며, 단지 통계적으로 잘 들어맞는다는 의미일 뿐입니다. 또한 독립변수를 더 추가하면 그 변수가 실제로 의미가 있든 없든 R²는 기계적으로 커지는 경향이 있어서, 변수 개수를 감안해 보정한 수정된 결정계수(adjusted R²)를 함께 보고하는 경우가 많습니다. 회귀분석 결과를 읽을 때는 R² 하나만이 아니라 개별 계수와 유의확률도 함께 살펴봐야 합니다.

헷갈리기 쉬운 용어

용어무엇인가주의
결정계수 R²모형이 설명한 변동의 비율독립변수를 추가하면 줄어들지 않음
수정된 결정계수변수 수를 감안해 낮춘 R²변수를 더해도 도움이 안 되면 오히려 내려감
상관계수 r두 변수의 선형 관계 방향과 강도(−1~1)단순회귀에서 R² = r²이지만 다중회귀에서는 해당 없음
표준화 회귀계수한 변수의 효과를 표준편차 단위로 나타낸 것모형 전체의 설명력이 아님

참고 문헌

  1. Cohen, J. (1988). Statistical Power Analysis for the Behavioral Sciences (2nd ed.). Lawrence Erlbaum.
  2. Cohen, J., Cohen, P., West, S. G., & Aiken, L. S. (2003). Applied Multiple Regression/Correlation Analysis for the Behavioral Sciences (3rd ed.). Lawrence Erlbaum.
  3. Anscombe, F. J. (1973). Graphs in statistical analysis. The American Statistician, 27(1), 17–21.
  4. Nagelkerke, N. J. D. (1991). A note on a general definition of the coefficient of determination. Biometrika, 78(3), 691–692.

표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.

개념 계통

하위 개념
수정된 결정계수 (Adjusted R-squared)

분야 전체 개념 지도 보기 →

관련 용어

다중공선성 로지스틱 회귀 카이제곱검정 회귀분석 상관관계 등분산성과 이분산성 쿡의 거리 더빈-왓슨 검정