용어 목록 > 위계적 회귀분석 (Hierarchical Regression)

위계적 회귀분석 (Hierarchical Regression)

쉽게 풀면

시험 성적을 예측한다고 해봅시다. 먼저 "집안 배경(부모 학력, 소득)"만으로 모형을 만들고 설명력을 확인합니다. 그다음 여기에 "공부 시간"을 추가로 투입해서 설명력이 얼마나 더 늘어나는지 봅니다. 마지막으로 "학습 동기"까지 추가해 또 얼마나 늘어나는지 확인합니다. 이렇게 변수를 한꺼번에 넣지 않고 이론적으로 의미 있는 순서(예: 통제변수 → 주요 관심변수)로 단계별로 투입하면서 "이 변수를 추가로 넣었더니 설명력이 유의하게 늘었는가?"를 검증하는 것이 위계적 회귀분석입니다. 이 방법은 조절효과를 검증할 때(1단계: 주효과, 2단계: 상호작용항 추가)도 자주 쓰입니다.

왜 중요한가

위계적 회귀분석은 통제변수의 영향을 제외한 뒤에도 관심 변수가 추가적인 설명력을 갖는지를 단계적으로 검증할 수 있어, 심리학·경영학·교육학 등 사회과학 전반에서 이론 검증의 표준적인 도구로 쓰입니다. 특히 매개효과나 조절효과 검증의 기초가 되는 절차이기 때문에, 새로운 변수나 상호작용 효과가 기존 모형을 넘어서는 설명력을 갖는지 논증할 때 자주 인용됩니다.

언제 쓰나

통제변수를 먼저 모형에 넣어 그 영향을 걷어낸 뒤, 관심 변수를 추가했을 때 설명력이 얼마나 더 늘어나는지를 보고 싶을 때 씁니다. 상호작용항을 마지막 단계에 넣어 조절효과를 검증하는 데도 흔히 쓰입니다. 이름은 비슷하지만 서로 다른 세 가지를 구분해 두세요.

결과는 이렇게 읽는다

• 모형별 R²: 각 단계까지 투입한 변수들이 종속변수 분산의 몇 %를 설명하는지입니다.
• ΔR²: 이번 단계에서 새로 늘어난 설명력(R²₂ − R²₁)입니다. 이 분석의 핵심 숫자입니다.
• ΔF와 p: 늘어난 설명력이 우연으로 보기엔 큰지를 검정합니다. ΔF = [(R²₂ − R²₁)/(k₂ − k₁)] / [(1 − R²₂)/(n − k₂ − 1)]이며, 자유도는 (k₂ − k₁, n − k₂ − 1)입니다(k는 각 모형의 독립변수 수).
• 회귀계수 B와 표준화 계수 β: 단계마다 어떻게 바뀌는지 봅니다. 새 변수를 넣었더니 앞 단계 변수의 계수가 크게 변했다면 변수들이 서로 겹치는 정보를 갖고 있다는 신호입니다(다중공선성 점검).
• R²는 변수를 추가하면 거의 항상 늘기 때문에, 변수가 많은 모형을 비교할 때는 수정된 R²도 함께 봅니다.

논문에는 이렇게 보고한다

단계별 모형 요약 표(R², ΔR², ΔF, p)와 계수 표를 함께 싣는 것이 관례입니다. (수치는 형식을 보여 주려는 가상의 값이며, n = 150, 1단계 통제변수 3개, 2단계 관심변수 1개를 가정했습니다.)

1단계에서 통제변수만 투입한 모형은 유의했고(R² = .20, F(3, 146) = 12.17, p < .001), 2단계에서 직무만족을 추가하자 설명력이 유의하게 증가했다(ΔR² = .12, ΔF(1, 145) = 25.59, p < .001, β = .41).

조절효과 검증에서는 상호작용항을 만들기 전에 두 변수를 평균 중심화했다는 점과 상호작용항을 최종 단계에 넣었다는 점을 방법 절에 밝히고, 유의했다면 단순기울기(simple slope) 그림을 덧붙입니다. 변수를 넣은 순서와 그 이론적 근거도 한두 문장으로 적어야 독자가 순서에 따른 결과 변화를 의심하지 않습니다.

논문에서는 이렇게 쓰입니다

실제 논문에서

국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.

• “결과: 전체 대상자 121명 중 29명(23.9%)이 치매위험군으로 분류되었으며, 위계적 회귀분석결과 인구사회학적․질병관련 특성을 통제한 상태에서 인지기능 수준은 노인 심부전 환자의 자가간호 이행을 통계적으로 유의하게 설명하고 있었다(β=0.209, P=0.031).”

  노인 심부전 환자의 인지기능 수준이 자가간호 이행에 미치는 영향, Korean Journal of Health Promotion, 2010 · KCI 한국학술지인용색인 · 원문 보기 ↗

• “이를 위해 101명 환자들의 유머양식, 삶의 만족도, 우울, 불안 자료를 상관분석한 뒤 위계적 회귀분석을 통해 유머양식의 조절효과를 분석했다.”

  정신건강의학과 환자들의 우울 및 불안이 삶의 만족도에 미치는 영향 : 유머양식의 조절효과, 한국융합학회논문지, 2016 · KCI 한국학술지인용색인 · 원문 보기 ↗

• “각 변인들이 우울에 미치는 영향을 살펴보기 위해 위계적 회귀분석을 사용하였으며, 다변량 분산분석법을 통해 국내 출생과 중도입국 집단에 따라 평균의 차이를 분석하였다.”

  이주배경 청년들의 우울과 인구통계학적 특성 및 개인·사회·환경적 변인 간의 관계, 문화교류와 다문화교육, 2021 · KCI 한국학술지인용색인 · 원문 보기 ↗

예시 문장

아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.

이 문장은 통제변수만으로 설명되던 것보다, 직무만족도라는 새 변수를 추가했을 때 설명력이 12%p만큼 통계적으로 유의하게 늘어났다는 뜻입니다.

경영학 연구에서 위계적 회귀분석을 조절효과 검증 절차로 사용할 때 흔히 등장하는 표현이다.

교육학 연구에서 배경 변수를 통제한 뒤 새로운 변수의 순수한 기여도를 검증할 때 사용되는 표현이다.

조금 더 깊게 보면

위계적 회귀분석에서 핵심 지표는 단계별로 증가한 설명력인 ΔR²와 그 증가분이 통계적으로 유의한지를 판단하는 ΔF 검정입니다. 단계마다 회귀계수(B)와 유의확률뿐 아니라 ΔR²와 ΔF를 함께 보고하는 것이 일반적인 관례입니다. 이 방법은 변수를 통계적 기준(예: 단계적 선택법)에 따라 자동으로 넣고 빼는 방식과 달리 연구자의 이론에 근거해 순서를 정한다는 점에서 구분되며, 조절효과를 검증할 때는 다중공선성을 줄이기 위해 상호작용항을 만들기 전 변수를 평균 중심화(centering)하는 절차가 흔히 함께 사용됩니다.

주의할 점

위계적 회귀분석에서 변수를 투입하는 순서는 통계적 기준이 아니라 연구자의 이론적 판단에 따라 미리 정해야 합니다. 순서를 바꾸면 각 단계의 ΔR² 값이 달라질 수 있으므로, 임의로 순서를 바꿔가며 유의한 결과가 나올 때까지 시도하는 것은 지양해야 합니다. 또한 각 단계마다 새로 추가하는 변수가 다중공선성을 일으키지 않는지도 함께 점검해야 합니다.

헷갈리기 쉬운 용어

‘위계적(hierarchical)’이라는 말이 붙어서 서로 혼동되는 분석들입니다.

‘위계적 회귀’는 단계를 나누어 넣는 방식일 뿐 회귀식 자체는 보통의 회귀분석입니다.

참고 문헌

1. Cohen, J., Cohen, P., West, S. G., & Aiken, L. S. (2003). Applied Multiple Regression/Correlation Analysis for the Behavioral Sciences (3rd ed.). Lawrence Erlbaum.
2. Petrocelli, J. V. (2003). Hierarchical multiple regression in counseling research: Common problems and possible remedies. Measurement and Evaluation in Counseling and Development.
3. Aiken, L. S., & West, S. G. (1991). Multiple Regression: Testing and Interpreting Interactions. Sage.

표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.

관련 용어