결정계수 (R-squared)
쉽게 풀면
학생들의 시험 점수가 저마다 들쭉날쭉한 이유를 "공부 시간"이라는 하나의 변수로 설명하려 한다고 해봅시다. 공부 시간만으로 점수 차이를 완벽하게 설명할 수는 없겠지만, 어느 정도는 맞아떨어질 것입니다. 결정계수(R²)는 바로 이 "어느 정도"를 숫자로 알려줍니다. 예를 들어 R²가 0.42라면, 학생들 사이의 점수 차이 중 42%는 공부 시간의 차이로 설명되고, 나머지 58%는 이 모델이 포착하지 못한 다른 이유(집중력, 컨디션, 문제 난이도 등) 때문이라는 뜻입니다. 즉 R²는 "내가 만든 예측 모델이 현실을 얼마나 잘 따라잡고 있는가"를 알려주는 일종의 성적표라고 볼 수 있습니다.
왜 중요한가
R²는 회귀모형의 적합도를 한눈에 요약해 주기 때문에, 논문에서 모형이 데이터를 얼마나 잘 설명하는지 독자에게 빠르게 전달하는 핵심 수치로 자주 인용됩니다. 여러 모형을 비교하거나 변수를 추가·제거했을 때 설명력이 얼마나 향상되는지를 논의할 때도 R²의 변화량이 근거로 제시됩니다. 다만 분야에 따라 "충분히 높은" R² 수준에 대한 기대치가 크게 다르기 때문에, 어떤 학문 분야의 논문인지에 따라 같은 R² 값도 다르게 해석해야 합니다.
논문에서는 이렇게 쓰입니다
이 문장은 "이 연구에서 사용한 독립변수들을 모두 합쳐도 결과 변수의 변동 가운데 42%밖에 설명하지 못하며, 나머지 58%는 모형에 포함되지 않은 다른 요인들 때문일 수 있다"는 뜻입니다.
위계적 회귀분석에서는 변수를 단계적으로 추가하면서 R²의 변화량(ΔR²)을 비교해, 새로 추가한 변수가 실질적으로 설명력을 높였는지를 판단하는 근거로 사용합니다.
경제·금융 분야에서는 시장의 예측 불확실성이 크기 때문에 R²가 다른 분야보다 낮게 나오는 것이 자연스러운 현상으로 받아들여진다는 점을 이렇게 서술합니다.
조금 더 깊게 보면
표본 하나에 대한 적합도(R²)와 새로운 데이터에 대한 예측력은 다른 문제이기 때문에, 논문에서는 교차검증(cross-validation)을 통한 예측 R²나 정보기준(AIC, BIC) 같은 지표를 함께 보고하기도 합니다. 다중회귀에서는 변수를 추가할수록 R²가 기계적으로 상승하는 문제를 보정하기 위해 수정된 결정계수를 사용하며, 로지스틱 회귀 같은 비선형모형에서는 R²의 대체 지표로 유사 결정계수(pseudo R², 예: Nagelkerke R²)가 쓰입니다. 이런 지표들의 정의와 계산 방식이 서로 다르므로, 값을 단순 비교하기보다는 같은 종류의 지표끼리 비교하는 것이 중요합니다.
주의할 점
R²가 높다고 해서 변수들 사이에 반드시 인과관계가 있다는 뜻은 아니며, 단지 통계적으로 잘 들어맞는다는 의미일 뿐입니다. 또한 독립변수를 더 추가하면 그 변수가 실제로 의미가 있든 없든 R²는 기계적으로 커지는 경향이 있어서, 변수 개수를 감안해 보정한 수정된 결정계수(adjusted R²)를 함께 보고하는 경우가 많습니다. 회귀분석 결과를 읽을 때는 R² 하나만이 아니라 개별 계수와 유의확률도 함께 살펴봐야 합니다.