베이지안 추론 (Bayesian Inference)

한 줄 정의: 기존에 가지고 있던 믿음(사전확률)에 새로운 데이터를 반영해 더 나은 결론(사후확률)으로 갱신해 나가는 통계적 추론 방법입니다.

쉽게 풀면

친구가 약속에 늦으면 처음엔 "길이 막혀서겠지"라고 어느 정도 확신합니다(사전 믿음). 그런데 친구에게서 "지금 지하철 탔어"라는 문자가 오면, 이 새로운 정보를 반영해 "아, 지하철이 지연됐나 보다"로 생각을 수정합니다(사후 믿음). 베이지안 추론은 바로 이렇게 원래 가지고 있던 지식과 새로 얻은 데이터를 결합해서 확률을 계속 업데이트해 나가는 방법입니다. 전통적인 통계(빈도주의)가 "이 가설이 맞는지 틀리는지"를 정해진 규칙으로 검증한다면, 베이지안 통계는 "이 가설이 맞을 확률이 얼마나 되는지"를 직접 숫자로 계산해서 보여줍니다. 데이터가 쌓일수록 처음의 믿음(사전확률)의 영향은 줄어들고 데이터 자체가 결론을 더 많이 좌우하게 됩니다.

왜 중요한가

많은 실제 연구 데이터는 표본 수가 적거나 구조가 복잡해서 전통적인 빈도주의 방법으로는 안정적인 결론을 내리기 어려운 경우가 많습니다. 베이지안 추론은 기존 연구나 전문가 지식을 사전분포 형태로 명시적으로 반영할 수 있어, 이런 상황에서도 비교적 해석하기 쉬운 결과를 제공합니다. 그래서 심리학, 의학, 생태학처럼 표본 확보가 어려운 분야뿐 아니라, 복잡한 위계적·시계열 모형을 다루는 통계학·기계학습 분야에서도 널리 쓰입니다. 최근에는 불확실성을 정량적으로 표현해야 하는 인공지능 모델의 신뢰도 추정에도 베이지안적 접근이 자주 활용됩니다.

논문에서는 이렇게 쓰입니다

"사전분포로 무정보적 사전분포(non-informative prior)를 설정하고 MCMC 표본추출을 통해 사후분포를 추정한 결과, 회귀계수의 95% 신용구간(credible interval)은 0.12~0.45로 나타나 두 변수 간 양의 관계를 지지하였다."

이 문장은 심리학이나 의학 논문의 분석 방법 및 결과 부분에서, 표본이 작거나 모형이 복잡한 위계적 자료를 분석할 때 베이지안 방법을 사용했음을 보여줍니다. 전통적 방법으로는 추정이 불안정한 경우에도 베이지안 방법은 사전 정보를 활용해 비교적 안정적인 추정치를 얻을 수 있습니다.

"생태 개체군 조사 자료가 제한적인 지역에서는 계층적 베이지안 모형(hierarchical Bayesian model)을 적용하여 지역 간 정보를 공유함으로써 개체수 추정치의 불확실성을 줄였다."

생태학·환경과학 논문에서는 관측 자료가 지역별로 매우 적은 경우가 흔한데, 이때 베이지안 위계모형을 활용하면 여러 지역의 정보를 공유해 각 지역 추정치를 서로 보완할 수 있습니다.

"딥러닝 분류기의 예측 불확실성을 정량화하기 위해 베이지안 신경망(Bayesian neural network)을 사용하였으며, 사후분포에서 얻은 예측 분산이 클수록 오분류 사례와 높은 상관을 보였다."

기계학습·인공지능 분야 논문에서는 모델이 단순히 정답을 예측하는 데 그치지 않고, 그 예측이 얼마나 불확실한지를 함께 제시하기 위해 베이지안 접근을 사용하는 경우가 늘고 있습니다.

조금 더 깊게 보면

실제 논문에서 베이지안 추론이 등장할 때는 대개 사후분포를 직접 계산하기 어렵기 때문에, MCMC(Markov Chain Monte Carlo)나 변분추론(variational inference) 같은 근사 계산 방법을 함께 사용합니다. 또한 사전분포를 얼마나 강하게 설정하느냐(무정보적 사전분포 vs 정보적 사전분포)에 따라 결과가 달라질 수 있으므로, 논문에서는 대체로 사전분포를 달리해도 결론이 유지되는지 확인하는 민감도 분석(sensitivity analysis)을 함께 보고하는 경우가 많습니다. 여러 모형 중 어느 것이 데이터를 더 잘 설명하는지 비교할 때는 베이즈 요인(Bayes factor)이나 정보기준 지표가 함께 언급되기도 합니다.

주의할 점

베이지안 추론 결과로 제시되는 "신용구간(credible interval)"은 전통적 통계에서 쓰는 신뢰구간과 겉모습은 비슷하지만 해석 방식이 다릅니다. 신뢰구간은 "반복 표집했을 때 구간이 참값을 포함할 확률"을 의미하는 반면, 신용구간은 "참값이 그 구간 안에 있을 확률" 자체를 직접 의미합니다. 또한 사전분포를 어떻게 설정하느냐에 따라 결과가 달라질 수 있으므로, 논문에서는 사전분포 선택의 근거를 함께 밝혀야 합니다.