회귀분석 (Regression Analysis)
쉽게 풀면
상관관계가 "두 값이 함께 움직이는 정도"만 보여준다면, 회귀분석은 한 걸음 더 나아가 "공부 시간이 1시간 늘면 시험 점수는 평균 몇 점 오르는가"처럼 구체적인 영향의 크기를 수식(직선의 기울기 같은 형태)으로 계산해줍니다. 여러 개의 원인 변수를 동시에 넣어서 "다른 조건이 같을 때 이 변수만의 순수한 영향력"을 따로 떼어볼 수도 있습니다.
왜 중요한가
회귀분석은 변수 간의 관계를 정량적으로 요약하는 가장 기본적인 통계 도구이기 때문에, 사회과학·의학·경제학·공학 등 데이터를 다루는 거의 모든 분야의 논문에서 등장합니다. 단순히 두 변수의 관계를 확인하는 데 그치지 않고, 여러 변수를 통제한 상태에서 특정 변수의 순수한 영향을 추정할 수 있어 정책 평가나 원인 탐색 연구의 핵심 분석 방법으로 자리 잡고 있습니다. 이후 등장하는 로지스틱회귀, 다층모형 등 더 복잡한 통계 기법들도 대부분 회귀분석의 개념을 확장한 형태입니다.
논문에서는 이렇게 쓰입니다
운동 시간과 스트레스 점수 사이의 관계를 수식으로 추정해서, 운동 시간이 늘어날 때 스트레스 점수가 구체적으로 얼마나 줄어드는지 보여준 것입니다.
이 문장은 소득이라는 다른 요인의 영향을 수식으로 걷어낸 뒤에도, 교육연수 자체가 삶의 만족도와 독립적으로 관련이 있다는 것을 보여줍니다. 여러 변수를 동시에 고려하는 다중회귀분석의 전형적인 활용 방식입니다.
조금 더 깊게 보면
회귀분석은 독립변수와 종속변수의 형태에 따라 여러 종류로 나뉘는데, 독립변수가 하나면 단순회귀, 여럿이면 다중회귀라고 부르며, 종속변수가 범주형(예: 성공/실패)이면 일반적인 선형회귀 대신 로지스틱회귀를 사용합니다. 계수(β)의 크기와 부호는 각 변수가 종속변수에 미치는 방향과 정도를 보여주지만, 이 계수가 통계적으로 유의미한지는 p-value와 신뢰구간을 함께 살펴야 판단할 수 있습니다. 또한 회귀분석 결과가 타당하려면 선형성, 독립성, 등분산성, 정규성 같은 여러 가정이 어느 정도 충족되어야 합니다.
주의할 점
회귀분석도 기본적으로는 관찰된 데이터를 바탕으로 한 통계적 추정이라, 실험 설계(예: 무작위대조시험)가 아닌 관찰 데이터에 회귀분석을 적용했다면 인과관계로 바로 해석하기보다는 "연관성"으로 조심스럽게 받아들이는 것이 좋습니다.