평균으로의 회귀 (Regression to the Mean)
쉽게 풀면
어떤 학생이 시험에서 유난히 낮은 점수를 받았다고 해봅시다. 그 학생이 실제로 실력이 나빠진 게 아니라, 그날 컨디션이 안 좋았거나 문제가 우연히 안 맞았을 뿐일 수 있습니다. 이 학생이 다음 시험을 보면, 특별한 노력을 하지 않아도 점수는 자연스럽게 평소 평균 수준으로 "돌아오는" 경향이 있습니다.
이것이 평균으로의 회귀입니다. 문제는 이런 자연스러운 되돌아옴을 보고 "특강을 들었더니 점수가 올랐다!"처럼 어떤 개입 덕분이라고 착각하기 쉽다는 점입니다. 극단값 다음에는 원래 평균으로 돌아오는 것이 통계적으로 당연한 현상인데, 이를 개입의 효과로 오해하는 것이 함정입니다.
왜 중요한가
평균으로의 회귀는 극단값을 기준으로 표본을 뽑는 연구 설계에서 개입의 효과를 실제보다 과대평가하게 만드는 대표적인 함정이기 때문에, 연구방법론과 실험설계 전반에서 반드시 고려해야 할 개념으로 다뤄집니다. 의학에서 혈압이 유난히 높았던 환자군을 대상으로 한 치료 효과 평가, 교육학에서 성적이 낮았던 학생을 대상으로 한 프로그램 평가처럼, 극단적인 사전 측정값을 기준으로 개입 대상을 선정하는 연구 전반에서 이 현상을 통제하지 않으면 잘못된 인과적 결론에 이르기 쉽습니다.
핵심 정리
- 두 변수의 상관이 완전하지 않으면(|r| < 1), 첫 측정에서 평균보다 극단적으로 높거나 낮은 사람은 두 번째 측정에서 평균 쪽으로 돌아오는 경향이 있습니다. 이를 평균으로의 회귀라고 합니다. Galton(1886)이 부모와 자녀의 키 자료에서 보고했습니다.
- 원인은 측정값 = 참값 + 우연 오차라는 구조입니다. 극단값을 고르면 참값이 높은 사람과 함께 ‘우연 오차가 우연히 같은 방향으로 크게 작용한’ 사람이 섞여 들어옵니다. 재측정에서 오차는 새로 뽑히므로 평균 쪽으로 이동합니다.
- 이동하는 정도는 두 측정의 상관(신뢰도)에 달려 있습니다. 기대 재측정값 = 평균 + r × (첫 측정값 − 평균)이고, r이 낮을수록 더 많이 돌아옵니다.
- 어떤 처치의 효과가 아니라 선택 방식(극단값을 골랐다)이 만든 착시라는 점이 핵심입니다.
예시로 보기
가상의 시뮬레이션: 참값이 평균 100, 표준편차 10이고 측정 오차가 표준편차 5인 검사를 10만 명에게 두 번 실시했습니다(코드로 계산, 두 검사의 상관 r = .80).
| 선정 집단(첫 검사 기준) | 첫 검사 평균 | 두 번째 검사 평균 |
|---|---|---|
| 상위 10% | 119.6 | 115.7 |
| 하위 10% | 80.4 | 84.2 |
아무 처치도 하지 않았는데 상위 집단은 3.9점 내려가고 하위 집단은 3.8점 올라갔습니다. 기대값 공식 100 + 0.8 × (119.6 − 100) ≈ 115.7과 일치합니다. 이때 “하위 10%에게 보충 수업을 했더니 점수가 올랐다”고 하면 회귀 효과를 처치 효과로 오해한 것입니다.
흔한 실제 맥락: 혈압·통증처럼 심할 때 병원에 오는 환자의 재측정값, 성적이 가장 낮은 학생 대상 프로그램, 사고가 가장 많았던 지점에 설치한 안전 시설.
자주 하는 오해
| 오해 | 바로잡기 |
|---|---|
| 평균으로의 회귀는 모든 값이 평균으로 모여 분산이 줄어든다는 뜻이다. | 극단값을 골랐을 때 그 집단의 재측정값이 평균 쪽으로 오는 현상이고, 전체 분산이 줄어드는 것이 아닙니다. 평균에서 가까운 사람이 멀어지는 경우도 있어 전체 분포는 유지됩니다. |
| 처치 후 점수가 올랐으니 효과가 있다. | 극단값으로 대상을 선정했다면 처치가 없어도 오를 수 있습니다. 같은 방식으로 선정한 무작위 대조군이 있어야 처치 효과와 회귀를 구분합니다. |
| 사전 점수를 공변량으로 넣으면 해결된다. | 무작위 배정이 없고 집단의 기저 평균이 서로 다르면 사전 점수 보정만으로는 충분하지 않을 수 있습니다. 설계 단계에서 같은 방식으로 선정한 대조군을 두는 것이 우선입니다. |
| 신뢰도가 높아도 똑같이 일어난다. | r = 1이면 일어나지 않고, 신뢰도가 낮을수록 더 크게 일어납니다. |
논문에서는 이렇게 쓰입니다
실제 논문에서
이 용어를 직접 쓴 국내 논문 문장을 아직 수집하지 못했습니다. 수집되는 대로 출처와 함께 싣겠습니다.
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
이 문장은 극단적으로 낮은 점수를 가진 집단을 선별해 실험했을 때, 개입이 없었어도 점수가 저절로 어느 정도 올랐을 것이라는 점을 인정하고 있습니다. 즉 관찰된 효과 전체를 개입의 공으로 돌릴 수 없다는 뜻입니다.
이 문장은 치료를 전혀 하지 않은 집단에서도 극단적으로 높았던 수치가 시간이 지나며 저절로 평균에 가까워졌다는 것을 보여줌으로써, 이후 치료 효과를 평가할 때 이 자연스러운 되돌아옴을 반드시 감안해야 한다는 점을 보여줍니다.
조금 더 깊게 보면
평균으로의 회귀가 일어나는 근본적인 이유는 측정값이 "진짜 값(개인의 실제 수준)"과 "측정 오차(우연에 의한 변동)"의 합으로 이루어져 있기 때문입니다.
극단적으로 높거나 낮은 값은 우연히 오차가 같은 방향으로 크게 작용했을 가능성이 크므로, 재측정하면 그 오차 부분이 사라지면서 값이 평균 쪽으로 이동하는 것처럼 보입니다.
이 문제를 통제하는 가장 확실한 방법은 개입군과 동일한 방식으로 극단값을 선정한 무작위 대조군을 두어, 개입군의 변화와 대조군의 자연스러운 회귀 정도를 비교하는 것입니다.
주의할 점
평균으로의 회귀는 무작위 배정이 없는 준실험설계나 극단값 기준으로 표본을 뽑는 연구에서 특히 내적타당도를 위협합니다. 이를 통제하려면 무작위 대조군을 두어 개입군과 동일한 회귀 경향을 비교 기준으로 삼아야 하며, 단순히 사전-사후 점수 변화만 보고 효과가 있다고 단정하면 안 됩니다.
헷갈리기 쉬운 용어
‘변화’나 ‘되돌아옴’이 겹치는 현상들입니다.
| 용어 | 뜻 | 구분 |
|---|---|---|
| 평균으로의 회귀 | 극단값 선택 뒤 재측정값이 평균 쪽으로 이동 | 통계적 현상, 선택 방식이 원인 |
| 성숙 효과 | 시간이 지나며 자연스럽게 일어나는 변화 | 시간이 원인, 극단값 선택과 무관 |
| 내적타당도 위협 | 처치 외 원인이 결과를 설명하는 문제 전반 | 회귀는 그 한 종류 |
참고 문헌
- Galton, F. (1886). Regression towards mediocrity in hereditary stature. Journal of the Anthropological Institute of Great Britain and Ireland, 15, 246–263.
- Bland, J. M., & Altman, D. G. (1994). Statistics notes: Regression towards the mean. BMJ, 308, 1499.
- Barnett, A. G., van der Pols, J. C., & Dobson, A. J. (2005). Regression to the mean: what it is and how to deal with it. International Journal of Epidemiology, 34(1), 215–220.
- Campbell, D. T., & Kenny, D. A. (1999). A Primer on Regression Artifacts. Guilford Press.
- Kahneman, D., & Tversky, A. (1973). On the psychology of prediction. Psychological Review, 80(4), 237–251.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.