베이즈 인수 (Bayes Factor)

한 줄 정의: 두 개의 경쟁 가설(모형) 중 어느 쪽을 데이터가 얼마나 더 지지하는지를 비율로 나타낸 값입니다.

쉽게 풀면

전통적인 p-value는 "귀무가설이 맞다고 가정했을 때 이런 데이터가 나올 확률"만 알려줄 뿐, 대립가설을 얼마나 지지하는지는 직접 말해주지 않습니다. 베이즈 인수는 이 한계를 보완하기 위해 "가설 A가 맞을 때 이 데이터가 나올 가능성"과 "가설 B가 맞을 때 이 데이터가 나올 가능성"을 비교해서 비율로 보여줍니다. 예를 들어 베이즈 인수가 10이라면 "가설 A가 가설 B보다 데이터를 10배 더 잘 설명한다"는 뜻입니다. 마치 두 용의자 중 누가 범인일 가능성이 몇 배 더 높은지 증거를 놓고 저울질하는 것과 비슷합니다.

왜 중요한가

p-value는 귀무가설을 기각할지 말지는 알려주지만, 귀무가설을 지지하는 증거인지 대립가설을 지지하는 증거인지, 그리고 그 증거가 얼마나 강한지는 말해주지 않습니다. 재현성 위기 이후 심리학, 생의학, 사회과학 등에서 "유의하지 않다"는 결과를 "효과가 없다는 증거"로 잘못 해석하는 문제가 지적되면서, 두 가설을 직접 비교하고 증거의 강도를 연속적인 척도로 보여주는 베이즈 인수에 대한 관심이 커졌습니다. 특히 표본이 작아 전통적 검정력이 부족한 연구나, 반복측정·순차적 데이터 수집처럼 베이즈적 갱신이 자연스러운 설계에서 자주 채택됩니다.

논문에서는 이렇게 쓰입니다

"베이지안 t검정을 실시한 결과, 실험군과 대조군 간 차이를 지지하는 베이즈 인수(Bayes Factor, BF10)는 15.3으로, 대립가설에 대한 강한 증거로 해석되었다."

이 문장은 데이터가 "차이가 없다"는 귀무가설보다 "차이가 있다"는 대립가설을 15.3배 더 강하게 지지한다는 뜻입니다.

"모형 비교를 위해 계산한 베이즈 인수(BF01)는 4.2로, 귀무가설(효과 없음)이 대립가설보다 상대적으로 더 지지되는 것으로 나타나 두 조건 간 실질적인 차이가 없다는 결론을 뒷받침했다."

이 예문은 베이즈 인수가 반대 방향(BF01)으로도 표기될 수 있음을 보여주며, "유의하지 않다"는 결과를 넘어 귀무가설을 적극적으로 지지하는 증거를 제시하는 데 쓰였습니다.

"뇌영상 반복측정 자료에 계층적 베이즈 모형을 적용하여 조건별 활성화 차이에 대한 베이즈 인수를 산출한 결과, 실험이 진행될수록 증거가 누적되며 대립가설 쪽으로 값이 점차 커지는 양상을 보였다."

이 예문은 데이터가 순차적으로 쌓이는 연구에서 베이즈 인수가 표본을 추가할 때마다 증거의 강도를 갱신해 보여주는 용도로 쓰인다는 점을 보여줍니다.

조금 더 깊게 보면

베이즈 인수는 사전분포 하에서 계산한 두 모형의 한계우도(marginal likelihood) 비율로 정의되며, 이 값을 흔히 Jeffreys가 제안한 것과 유사한 구간표(예: 1~3은 약한 증거, 3~10은 중간 정도, 10 이상은 강한 증거 등)를 참고해 정성적으로 해석합니다. 다만 이런 해석 기준은 절대적 규칙이 아니라 관례적 지침일 뿐이라는 점에 유의해야 합니다. 또한 사전분포의 폭이 넓을수록 복잡한 모형에 불리하게 작용하는 경향이 있는데, 이를 베이즈 오컴의 면도날(Bayesian Occam's razor) 효과라고 부르며, 베이즈 인수가 자연스럽게 모형의 복잡도에 페널티를 부여하는 이유이기도 합니다.

주의할 점

베이즈 인수는 유의확률와 달리 사전분포(prior) 설정에 따라 값이 달라질 수 있어, 사전분포를 어떻게 정했는지 함께 밝혀야 결과를 신뢰할 수 있습니다.