베이지안 추론 (Bayesian Inference)
쉽게 풀면
친구가 약속에 늦으면 처음엔 "길이 막혀서겠지"라고 어느 정도 확신합니다(사전 믿음). 그런데 친구에게서 "지금 지하철 탔어"라는 문자가 오면, 이 새로운 정보를 반영해 "아, 지하철이 지연됐나 보다"로 생각을 수정합니다(사후 믿음).
베이지안 추론은 바로 이렇게 원래 가지고 있던 지식과 새로 얻은 데이터를 결합해서 확률을 계속 업데이트해 나가는 방법입니다. 전통적인 통계(빈도주의)가 "이 가설이 맞는지 틀리는지"를 정해진 규칙으로 검증한다면, 베이지안 통계는 "이 가설이 맞을 확률이 얼마나 되는지"를 직접 숫자로 계산해서 보여줍니다.
데이터가 쌓일수록 처음의 믿음(사전확률)의 영향은 줄어들고 데이터 자체가 결론을 더 많이 좌우하게 됩니다.
왜 중요한가
많은 실제 연구 데이터는 표본 수가 적거나 구조가 복잡해서 전통적인 빈도주의 방법으로는 안정적인 결론을 내리기 어려운 경우가 많습니다. 베이지안 추론은 기존 연구나 전문가 지식을 사전분포 형태로 명시적으로 반영할 수 있어, 이런 상황에서도 비교적 해석하기 쉬운 결과를 제공합니다.
그래서 심리학, 의학, 생태학처럼 표본 확보가 어려운 분야뿐 아니라, 복잡한 위계적·시계열 모형을 다루는 통계학·기계학습 분야에서도 널리 쓰입니다. 최근에는 불확실성을 정량적으로 표현해야 하는 인공지능 모델의 신뢰도 추정에도 베이지안적 접근이 자주 활용됩니다.
핵심 정리
- 베이지안 추론은
사후분포 ∝ 우도 × 사전분포로 모수에 대한 믿음을 자료로 갱신합니다(베이즈 정리). - 결과는 점 하나가 아니라 모수의 분포(사후분포)이며, 거기서 평균·중앙값, 신용구간, “모수가 어떤 값보다 클 확률” 같은 질문에 직접 답할 수 있습니다.
- 사전분포는 자료를 보기 전의 정보나 가정입니다. 자료가 충분히 많으면 사전분포의 영향은 줄어듭니다.
- 사후분포를 수식으로 풀 수 없으면 MCMC 같은 시뮬레이션으로 근사하고, 수렴 진단(R̂, 유효표본크기 등)을 반드시 확인합니다.
예시로 보기
어떤 처치가 효과 있는 환자 비율 θ를 알고 싶습니다. 10명 중 7명이 호전되었고, 사전분포를 ‘아무것도 모른다’는 뜻의 Beta(1, 1)(균등분포)로 두면 사후분포는 Beta(1 + 7, 1 + 3) = Beta(8, 4)입니다(계산 결과).
- 사후평균 = 8 ÷ 12 ≈ 0.667, 95% 신용구간 [0.39, 0.89]. 이 자료와 사전분포를 믿는다면 θ가 이 구간에 있을 확률이 95%입니다.
- θ > 0.5일 사후확률 = 0.887. 빈도주의 검정에서는 직접 얻기 어려운 형태의 답입니다.
- 비교로, 윌슨 방법의 95% 신뢰구간은 [0.40, 0.89]로 숫자는 비슷하지만 해석이 다릅니다.
사전분포의 영향. ‘0.5 근처일 것’이라는 강한 사전분포 Beta(20, 20)을 쓰면 같은 자료에서 사후평균이 0.54, 95% 신용구간이 [0.40, 0.67]로 크게 당겨집니다. 반면 100명 중 70명이면 균등 사전분포에서 사후평균 0.70, 신용구간 [0.60, 0.78]로, 자료가 사전분포를 압도합니다.
베이즈 정리의 전형적 사례. 유병률 1%, 민감도 90%, 특이도 95%인 검사에서 양성이 나왔을 때 실제 환자일 확률은 약 15%입니다. 낮은 사전확률(유병률)이 결과를 좌우합니다.
자주 하는 오해
- “베이지안은 주관적이라 임의적이다”: 사전분포를 정하는 것은 가정을 드러내는 일입니다. 근거(선행연구, 약한 정보 사전분포)를 밝히고 사전분포를 바꿔도 결론이 유지되는지(민감도 분석) 보이는 것이 표준 관행입니다.
- “신용구간은 신뢰구간의 다른 이름”이 아닙니다. 신뢰구간은 절차의 장기적 포함 비율에 대한 말이고, 신용구간은 자료와 사전분포를 조건으로 한 모수의 확률입니다.
- “MCMC 결과가 나왔으니 맞다”가 아닙니다. 사슬이 수렴했는지(R̂가 1에 가까운지; Vehtari 외, 2021은 1.01 미만을 권함), 유효표본크기가 충분한지 확인해야 합니다.
- 베이즈 인수는 사전분포에 민감하므로, 사후확률과 별개로 해석에 주의합니다.
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“본 연구에서는 이러한 선행 연구 결과를 바탕으로 연령과 CT사고력 하위 요소를 매개 변수로 사용하여 계층적 베이지안 추론 모델링을 실시하였다.”
컴퓨팅 사고력 신장을 위한 퍼즐 기반 컴퓨터과학 교육 프로그램의 효과 예측, 정보교육학회논문지, 2019 · KCI 한국학술지인용색인 · 원문 보기 ↗
“이 과정에서 통계적 추론절차, 연구관행 그리고 출판편향 등이 재현성 위기의 원인들로서 조명되었으며, 그에 따라 심리학의 재현성을 증진하기 위한 해결책들(신뢰구간, 효과 크기의 사용, 메타분석, 베이지안 통계, 연구 자료와 방법론의 투명성 증가)도 제안되고 있다.”
심리학 연구에서 재현성 위기의 현황과 원인 및 대안 모색에 대한 개관, 한국심리학회지:일반, 2017 · KCI 한국학술지인용색인 · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
이 문장은 심리학이나 의학 논문의 분석 방법 및 결과 부분에서, 표본이 작거나 모형이 복잡한 위계적 자료를 분석할 때 베이지안 방법을 사용했음을 보여줍니다. 전통적 방법으로는 추정이 불안정한 경우에도 베이지안 방법은 사전 정보를 활용해 비교적 안정적인 추정치를 얻을 수 있습니다.
생태학·환경과학 논문에서는 관측 자료가 지역별로 매우 적은 경우가 흔한데, 이때 베이지안 위계모형을 활용하면 여러 지역의 정보를 공유해 각 지역 추정치를 서로 보완할 수 있습니다.
기계학습·인공지능 분야 논문에서는 모델이 단순히 정답을 예측하는 데 그치지 않고, 그 예측이 얼마나 불확실한지를 함께 제시하기 위해 베이지안 접근을 사용하는 경우가 늘고 있습니다.
조금 더 깊게 보면
실제 논문에서 베이지안 추론이 등장할 때는 대개 사후분포를 직접 계산하기 어렵기 때문에, MCMC(Markov Chain Monte Carlo)나 변분추론(variational inference) 같은 근사 계산 방법을 함께 사용합니다.
또한 사전분포를 얼마나 강하게 설정하느냐(무정보적 사전분포 vs 정보적 사전분포)에 따라 결과가 달라질 수 있으므로, 논문에서는 대체로 사전분포를 달리해도 결론이 유지되는지 확인하는 민감도 분석(sensitivity analysis)을 함께 보고하는 경우가 많습니다.
여러 모형 중 어느 것이 데이터를 더 잘 설명하는지 비교할 때는 베이즈 요인(Bayes factor)이나 정보기준 지표가 함께 언급되기도 합니다.
주의할 점
베이지안 추론 결과로 제시되는 "신용구간(credible interval)"은 전통적 통계에서 쓰는 신뢰구간과 겉모습은 비슷하지만 해석 방식이 다릅니다. 신뢰구간은 "반복 표집했을 때 구간이 참값을 포함할 확률"을 의미하는 반면, 신용구간은 "참값이 그 구간 안에 있을 확률" 자체를 직접 의미합니다. 또한 사전분포를 어떻게 설정하느냐에 따라 결과가 달라질 수 있으므로, 논문에서는 사전분포 선택의 근거를 함께 밝혀야 합니다.
헷갈리기 쉬운 용어
베이지안 분석 보고서에는 이름이 비슷한 용어가 여러 개 나옵니다.
| 용어 | 무엇인가 | 역할 |
|---|---|---|
| 베이즈 정리 | 조건부확률을 뒤집는 공식 | 추론의 수학적 기초 |
| 우도 | 모수 값에 따라 자료가 얼마나 그럴듯한지 | 사전분포와 곱해 사후분포를 만듦 |
| 켤레사전분포 | 사후분포가 같은 계열이 되는 사전분포 | 계산이 간단해짐(예: Beta-이항) |
| 신용구간 | 사후분포에서 구한 구간 | 모수가 구간에 있을 확률로 해석 |
| 베이즈 인수 | 두 가설·모형에 대한 증거의 비 | 모형 비교. 사전분포에 민감 |
| MCMC | 사후분포에서 표본을 뽑는 계산법 | 해석이 아니라 계산 도구 |
‘사전’은 자료를 보기 전, ‘사후’는 자료를 반영한 뒤를 뜻합니다.
참고 문헌
- Bayes, T. (1763). An essay towards solving a problem in the doctrine of chances. Philosophical Transactions of the Royal Society of London, 53, 370–418.
- Gelman, A., Carlin, J. B., Stern, H. S., Dunson, D. B., Vehtari, A., & Rubin, D. B. (2013). Bayesian Data Analysis (3rd ed.). CRC Press.
- McElreath, R. (2020). Statistical Rethinking (2nd ed.). CRC Press.
- Bernardo, J. M., & Smith, A. F. M. (1994). Bayesian Theory. Wiley.
- van de Schoot, R., Depaoli, S., King, R., et al. (2021). Bayesian statistics and modelling. Nature Reviews Methods Primers, 1, 1.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.