베이지안-빈도주의 추론 논쟁 (Bayesian vs frequentist inference debate)
쉽게 풀면
통계에는 크게 두 가지 철학이 있습니다. 빈도주의는 "이 실험을 무한히 반복했을 때 나타나는 결과의 비율"로 확률을 이해하고 p값과 신뢰구간을 사용합니다. 반면 베이지안 통계는 확률을 "어떤 주장에 대한 믿음의 정도"로 보고, 기존 지식(사전확률)에 새로운 자료를 결합해 믿음을 갱신합니다. 두 접근은 같은 자료를 다르게 해석하고 다른 결론에 이를 수도 있어, 어느 쪽을 쓸지는 학문적 논쟁거리입니다.
왜 중요한가
어떤 통계 철학을 택하느냐에 따라 유의성 판단 기준, 결과 보고 방식, 표본 크기 설계까지 달라지기 때문에 이 논쟁은 단순한 이론 문제가 아니라 실제 연구 설계와 재현성 논의 전반에 영향을 미칩니다.
최근에는 임상시험, 심리학 재현성 위기, 기계학습의 불확실성 정량화 등에서 두 접근을 절충하거나 병행 보고하는 사례가 늘면서 방법론 선택 자체가 중요한 검토 대상이 되고 있습니다. 그래서 논문 심사 과정에서도 저자가 어떤 추론 틀을 택했는지, 그 근거가 무엇인지를 명시하도록 요구하는 경우가 많습니다.
핵심 정리
| 빈도주의 | 베이지안 | |
|---|---|---|
| 확률의 뜻 | 같은 절차를 무한히 반복했을 때 사건이 일어나는 비율 | 명제에 대한 믿음의 정도(불확실성) |
| 모수 | 고정된 미지의 값(확률변수가 아님) | 분포를 가진 확률변수 |
| 핵심 도구 | p값, 검정, 신뢰구간 | 사전분포 × 가능도 → 사후분포, 신용구간, 베이즈 요인 |
| 대표 질문 | 가설이 참이라면 이런 자료가 얼마나 드문가 | 자료를 본 뒤 가설(모수)이 어느 정도 그럴듯한가 |
| 사전 정보 | 공식적으로 쓰지 않음(설계·표본크기에 반영) | 사전분포로 명시적으로 반영 |
- 두 입장은 계산 방법의 차이이기 전에 “확률이 무엇인가”에 대한 해석의 차이입니다.
- 자료가 많고 사전분포가 약하면 두 방법의 수치 결과가 비슷해지는 경우가 많지만, 해석하는 문장은 여전히 다릅니다.
예시로 보기
같은 질문을 두 방식으로 읽어 봅시다. 동전을 10번 던져 앞면이 7번 나왔다고 합니다.
- 빈도주의: “동전이 공정하다(앞면 확률 = .5)”를 가정하면 앞면이 7번 이상 나올 확률은 176/1,024 ≈ .17이고, 양측이면 약 .34입니다. 이 값은 “공정한 동전이라는 가정 아래 이만큼 치우친 결과가 나올 빈도”이지, 동전이 공정할 확률이 아닙니다.
- 베이지안: 앞면 확률 θ에 사전분포(예: 구간 0~1에서 고르게 퍼진 Beta(1, 1))를 두면, 앞면 7번·뒷면 3번을 본 뒤의 사후분포는 Beta(8, 4)입니다. 사후 평균은 8/12 ≈ .67이고, “θ가 .5보다 클 확률”을 사후분포에서 직접 계산해 말할 수 있습니다.
(가상의 예, 수치는 이항분포·베타분포의 정의에서 계산한 값입니다.) 같은 자료에서 한쪽은 “자료의 드문 정도”를, 다른 쪽은 “모수에 대한 믿음의 갱신”을 말합니다. 신뢰구간(“같은 절차를 반복하면 구간의 95%가 참값을 포함”)과 신용구간(“자료가 주어졌을 때 모수가 구간에 있을 확률 95%”)의 해석 차이도 같은 맥락입니다.
자주 하는 오해
| 오해 | 바로잡기 |
|---|---|
| 베이지안은 주관적이고 빈도주의는 객관적이다. | 빈도주의도 모형, 유의수준, 검정 선택 등 연구자의 판단을 쓰고, 베이지안의 사전분포는 명시되고 민감도 분석으로 검토할 수 있습니다. 두 쪽 모두 가정이 숨어 있느냐 드러나 있느냐의 차이가 큽니다(Gelman & Shalizi, 2013). |
| p값은 가설이 참일 확률이다. | p값은 귀무가설을 가정했을 때 자료의 드문 정도입니다. “가설이 참일 확률”은 사전확률이 있어야 계산되는 베이지안의 양입니다. |
| 95% 신뢰구간 안에 참값이 있을 확률이 95%다. | 구간을 만드는 절차의 장기적 성질을 말합니다. 이미 계산된 한 구간에 대해 그렇게 말하는 것은 빈도주의 해석으로는 맞지 않습니다(Morey 등, 2016). |
| 둘 중 하나만 옳으며 섞어 쓰면 안 된다. | 실무에서는 목적에 따라 병행하거나 절충합니다(경험적 베이즈, 베이즈 요인과 p값의 병기 등). 어떤 틀을 택했는지와 그 이유를 밝히는 것이 중요합니다. |
| 베이지안이면 표본이 작아도 된다. | 사전분포가 정보를 더해 줄 뿐, 자료가 적으면 사후분포도 넓습니다. 정보가 있는 사전분포는 그 근거를 설명해야 합니다. |
논문에서는 이렇게 쓰입니다
실제 논문에서
이 용어를 직접 쓴 국내 논문 문장을 아직 수집하지 못했습니다. 수집되는 대로 출처와 함께 싣겠습니다.
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
통계적 추론의 철학적 입장을 밝히고 그에 따른 분석 방법 선택을 설명하는 문장이다.
임상연구 분야에서 표본이 충분하지 않을 때 베이지안 접근을 대안으로 채택하는 이유를 설명하는 문장이다.
공학·기계학습 분야에서 베이지안 관점이 불확실성 추정이라는 실용적 목적으로 활용됨을 보여주는 문장이다.
조금 더 깊게 보면
이 논쟁을 더 깊이 이해하려면 빈도주의의 p값·신뢰구간과 베이지안의 사후확률·신용구간(credible interval)이 해석상 다르다는 점을 알아야 합니다. 신뢰구간은 반복 표본추출을 가정한 절차의 성질을 말하는 반면, 신용구간은 주어진 자료 하에서 모수가 특정 구간에 있을 확률 자체를 의미합니다.
또한 베이지안 분석에서는 사전분포 선택(무정보적 사전분포, 약정보적 사전분포 등)과 이에 대한 민감도 분석이 결과 해석에서 중요하게 다뤄지며, 두 접근을 절충한 경험적 베이즈(empirical Bayes)나 베이즈 요인(Bayes factor) 같은 개념도 논문에서 자주 등장합니다.
주의할 점
베이지안 분석 결과는 사전확률 설정에 따라 달라질 수 있으므로, 사전확률 선택의 근거와 민감도를 함께 보고하는 것이 바람직하다.
헷갈리기 쉬운 용어
추론 방법의 이름과 그 해석을 헷갈리기 쉽습니다.
| 용어 | 무엇에 대한 말인가 | 해석 |
|---|---|---|
| p값 | 귀무가설 아래에서 자료의 드문 정도 | 가설이 참일 확률이 아님 |
| 신뢰구간 | 구간을 만드는 절차의 장기적 포함 비율 | 한 구간에 대한 확률 진술이 아님 |
| 신용구간 | 사후분포에서 모수가 놓일 구간 | 자료가 주어졌을 때의 확률 |
| 베이즈 요인 | 두 가설이 자료를 설명하는 정도의 비 | 사전확률은 별도로 곱해야 사후확률이 됨 |
참고 문헌
- Efron, B. (1986). Why isn't everyone a Bayesian? The American Statistician, 40(1), 1–5.
- Gelman, A., & Shalizi, C. R. (2013). Philosophy and the practice of Bayesian statistics. British Journal of Mathematical and Statistical Psychology, 66(1), 8–38.
- Morey, R. D., Hoekstra, R., Rouder, J. N., Lee, M. D., & Wagenmakers, E.-J. (2016). The fallacy of placing confidence in confidence intervals. Psychonomic Bulletin & Review, 23(1), 103–123.
- Wagenmakers, E.-J. (2007). A practical solution to the pervasive problems of p values. Psychonomic Bulletin & Review, 14(5), 779–804.
- Gelman, A., Carlin, J. B., Stern, H. S., Dunson, D. B., Vehtari, A., & Rubin, D. B. (2013). Bayesian Data Analysis (3rd ed.). Chapman and Hall/CRC.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.