베이즈 정리 (Bayes' Theorem)
쉽게 풀면
감기와 독감은 증상이 비슷하지만, 열이 39도를 넘으면 독감일 가능성이 더 높아집니다. 처음에는 "이 계절엔 독감보다 감기 환자가 훨씬 많다"는 배경지식(사전확률)에서 출발하지만, "고열"이라는 새로운 증거를 보고 나면 "역시 독감 쪽 확률이 더 크다"고 생각을 바꾸게 됩니다. 베이즈 정리는 바로 이 과정, 즉 "원래 생각(사전확률)"에 "새로운 증거가 나왔을 때 그 증거가 각 가설에서 얼마나 자연스러운지(우도)"를 곱해서 "증거를 본 뒤의 생각(사후확률)"으로 정확하게 업데이트하는 수학 공식입니다.
왜 중요한가
베이즈 정리는 "이미 알고 있는 것"과 "새로 관찰한 것"을 하나의 확률식으로 결합하는 원리이기 때문에, 불확실성을 다루는 거의 모든 분야에서 등장합니다. 의학 진단, 스팸 필터, 머신러닝의 확률 모델, 신호처리의 추정 문제 등은 모두 "관측된 데이터를 바탕으로 어떤 상태나 가설의 확률을 갱신한다"는 동일한 구조를 갖고 있으며, 그 갱신 규칙이 바로 베이즈 정리입니다. 그래서 논문에서 베이즈 정리는 그 자체가 결론이라기보다, 뒤이어 나오는 베이지안 추론이나 베이지안 모형 전체를 정당화하는 출발점으로 제시되는 경우가 많습니다.
핵심 정리
- 베이즈 정리는 P(A|B) = P(B|A) · P(A) / P(B)입니다(P(B) ≠ 0).
- P(A)는 증거를 보기 전의 확신 정도인 사전확률(prior), P(B|A)는 A가 참일 때 증거 B가 나올 확률인 우도(likelihood), P(B)는 증거 자체의 전체 확률(증거 또는 주변확률), P(A|B)는 증거를 반영해 갱신한 사후확률(posterior)입니다.
- Thomas Bayes의 연구는 그가 죽은 뒤인 1763년에 An Essay Towards Solving a Problem in the Doctrine of Chances로 발표되었습니다. Richard Price가 원고를 편집해 보냈고 이 글은 1763년 12월 왕립학회에서 낭독되었습니다. 라플라스(Laplace)도 베이즈와 독립적으로 같은 결과를 얻어 1774년에 발표했습니다.
예시로 보기
가상의 약물 검사 예입니다. 인구의 0.3%가 약물을 사용하고, 검사의 민감도와 특이도는 둘 다 99%라고 합시다. 검사에서 양성이 나온 사람이 실제 사용자일 확률은 다음과 같습니다.
P(사용자|양성) = (0.99 × 0.003) ÷ (0.99 × 0.003 + 0.01 × 0.997) ≈ 23.0%
사람 수로 바꾸면 이해가 쉽습니다. 10만 명 중 사용자는 300명이고 그중 297명이 양성입니다. 비사용자 99,700명 중 1%인 약 997명도 양성입니다. 양성 1,294명 가운데 실제 사용자는 297명이므로 약 23.0%입니다.
검사가 ‘99% 정확’해도 대상이 드물면 양성의 대부분이 거짓 양성이 될 수 있다는 점을 보여 줍니다.
자주 하는 오해
| 오해 | 바로잡기 |
|---|---|
| P(A|B)와 P(B|A)는 같거나 비슷하다. | 서로 다른 확률입니다. 위 예에서 P(양성|사용자)는 99%이지만 P(사용자|양성)은 약 23%입니다. |
| 검사가 정확하면 양성 결과를 거의 믿어도 된다. | 사전확률(기저율)이 낮으면 정확한 검사도 양성의 상당수가 거짓일 수 있습니다. 기저율을 무시하는 것을 기저율 오류라 부릅니다. |
| 베이즈 정리를 쓰면 베이지안 통계이다. | 정리 자체는 확률의 항등식입니다. 이를 반복 적용해 모수를 추정하는 통계적 틀을 베이지안 추론이라 부르며, 사전분포를 어떻게 잡느냐가 결과에 영향을 줍니다. |
| 증거를 얻으면 사전확률은 필요 없다. | 사후확률을 구하려면 사전확률이 필요하며, 이를 정하는 방식이 결과에 영향을 줍니다. |
논문에서는 이렇게 쓰입니다
실제 논문에서
이 용어를 직접 쓴 국내 논문 문장을 아직 수집하지 못했습니다. 수집되는 대로 출처와 함께 싣겠습니다.
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
이 문장은 연구자가 기존에 알려진 확률(사전확률)에 새로 수집한 검사 결과(우도)를 베이즈 정리로 결합해서, 각 진단이 맞을 최종 확률(사후확률)을 계산했다는 뜻입니다.
텍스트 분류 연구에서 베이즈 정리는 단어의 등장 패턴(증거)을 보고 문서가 어떤 범주(가설)에 속하는지를 확률적으로 판단하는 데 쓰입니다. 이는 나이브 베이즈 분류기와 같은 알고리즘의 이론적 근거가 됩니다.
로봇공학이나 신호처리 분야에서는 새로운 센서 측정값이 들어올 때마다 베이즈 정리를 반복 적용해 대상의 위치나 상태에 대한 추정을 계속 업데이트하는 방식이 흔히 쓰입니다.
조금 더 깊게 보면
논문에서 베이즈 정리가 실제로 쓰일 때는 사전확률(prior), 우도(likelihood), 사후확률(posterior)이라는 세 요소가 함께 언급되는 경우가 대부분이므로, 이 세 용어가 각각 무엇을 가리키는지 구분해서 읽는 것이 중요합니다. 또한 사후확률을 정확히 계산하려면 분모에 해당하는 증거(evidence, 전체 확률)를 구해야 하는데, 이 계산이 복잡한 모형에서는 어려워서 실제로는 근사적으로 사후분포를 추정하는 방법들이 함께 등장하곤 합니다. 이런 근사 계산과 반복적 갱신을 포함한 통계적 틀 전체를 다루는 것이 바로 베이지안 추론이며, 논문에서 베이즈 정리라는 단어만 나오더라도 문맥상 이러한 더 넓은 절차를 가리키는 경우가 많습니다.
주의할 점
베이즈 정리 자체는 하나의 수학적 항등식일 뿐이며, 사전확률을 어떻게 정하느냐에 따라 사후확률의 결과가 달라질 수 있습니다. 이 공식을 반복적으로 활용해 모수를 추정하는 통계적 접근 전반은 베이지안 추론이라고 부르며, 베이즈 정리는 그 이론적 토대에 해당합니다.
헷갈리기 쉬운 용어
베이즈 정리와 같은 이름 계열의 용어입니다.
| 용어 | 한 줄 설명 | 구분 포인트 |
|---|---|---|
| 베이즈 정리 | 조건부확률을 뒤집어 사후확률을 구하는 식 | 수학적 정리(항등식) |
| 베이지안 추론 | 사전분포와 자료로 사후분포를 구해 추론하는 통계 방법 | 정리를 이용하는 추론 틀 |
| 조건부확률 | 어떤 사건이 일어났다는 조건에서 다른 사건의 확률 | 베이즈 정리의 구성 요소 |
| 나이브 베이즈 분류기 | 베이즈 정리와 조건부 독립 가정으로 분류하는 알고리즘 | 정리를 응용한 분류 방법 |
참고 문헌
- Bayes, T. (1763). An essay towards solving a problem in the doctrine of chances. By the late Rev. Mr. Bayes, F. R. S. communicated by Mr. Price, in a letter to John Canton, A. M. F. R. S. Philosophical Transactions of the Royal Society of London, 53, 370–418.
- Gelman, A., Carlin, J. B., Stern, H. S., & Rubin, D. B. (1995). Bayesian Data Analysis. Chapman & Hall.
- McGrayne, S. B. (2011). The Theory That Would Not Die. Yale University Press.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.