겔만-루빈 통계량 (Gelman-Rubin Statistic)

한 줄 정의: 서로 다른 출발점에서 시작한 여러 개의 MCMC 체인이 얼마나 비슷한 분포로 모여들었는지를 하나의 숫자(R-hat)로 나타내, 표집이 충분히 수렴했는지 판단하는 지표입니다.

쉽게 풀면

등산팀 네 개가 서로 다른 지점에서 출발해 같은 산 정상을 찾아 오른다고 해봅시다. 아직 산을 헤매는 중이라면 팀마다 완전히 다른 위치에 있겠지만, 다들 정상을 제대로 찾았다면 어느 팀이든 정상 근처의 비슷한 위치에 모여 있을 것입니다. 겔만-루빈 통계량은 바로 이 원리를 사용합니다. 여러 MCMC 체인(각각 다른 출발점에서 뽑은 표본들)이 "체인 사이의 차이"와 "체인 안에서의 차이"를 비교해서, 둘이 비슷해지면(R-hat이 1에 가까워지면) "다 같은 곳에 모였다 → 수렴했다"고 판단하고, R-hat이 1보다 많이 크면(보통 1.1 이상) "아직 서로 다른 곳을 헤매고 있다 → 더 표집해야 한다"고 판단합니다.

왜 중요한가

베이지안 통계 모형은 사후분포를 해석적으로 구하기 어려워 MCMC로 근사 표본을 뽑는 경우가 많은데, 체인이 목표 분포에 제대로 도달하지 않은 상태에서 뽑은 표본을 그대로 사용하면 추정치와 신용구간 전체가 왜곡됩니다. 그래서 생태학의 종분포모형, 심리측정의 문항반응이론, 유전체학의 계통수 추정처럼 베이지안 기법을 쓰는 거의 모든 분야의 논문에서 겔만-루빈 통계량은 "이 결과를 믿어도 되는가"를 보여주는 최소한의 품질 검증 절차로 취급됩니다. 재현성과 심사 통과를 위해 관행적으로 보고해야 하는 지표이기도 합니다.

논문에서는 이렇게 쓰입니다

"독립적인 4개의 체인을 실행하여 겔만-루빈 통계량(R-hat)을 산출한 결과 모든 모수에서 1.01 미만으로 나타나 사후분포 표집이 수렴하였음을 확인하였다."

이 문장은 "네 개의 체인이 서로 다른 출발점에서 시작했지만 결과적으로 거의 같은 분포에 도달했으므로, 이 표본들을 믿고 분석에 사용해도 된다"는 뜻입니다.

"종분포모형의 서식지 적합도 계수에 대해 서로 다른 초기값을 부여한 3개의 체인을 표집하였으며, 모든 계수의 R-hat이 1.1 이하로 나타나 수렴 기준을 충족하였다."

생태학 논문에서는 여러 환경변수 계수마다 R-hat을 개별적으로 점검해, 특정 계수만 수렴에 실패하지 않았는지 확인하는 용도로 쓰입니다.

"베이지안 계통수 추정을 위해 두 개의 독립적인 실행(run)을 수행하였고, 분할 빈도의 표준편차와 함께 겔만-루빈 통계량을 확인하여 트리 위상의 수렴 여부를 판단하였다."

계통유전학 논문에서는 R-hat을 단독으로 쓰기보다, 트리 위상의 안정성을 나타내는 다른 수렴 지표와 함께 보고하는 경우가 흔합니다.

조금 더 깊게 보면

겔만-루빈 통계량은 원래 잠재적 축소 계수(potential scale reduction factor, PSRF)라는 이름으로 제안되었으며, 이후 각 체인을 전반부·후반부로 나누어 계산하는 분할(split) R-hat, 그리고 극단값과 다봉분포에 더 강건한 순위정규화(rank-normalized) R-hat 등으로 개선되어 왔습니다. R-hat 하나만으로는 수렴을 완전히 보장할 수 없기 때문에, 실제 표본이 얼마나 독립적인 정보를 담고 있는지를 나타내는 유효표본크기(effective sample size)와 함께 보고하는 것이 일반적입니다.

주의할 점

R-hat이 1에 가깝다고 해서 반드시 완벽하게 수렴했다는 보장은 아닙니다. 여러 체인이 우연히 같은 잘못된 영역에 갇혀 있어도 R-hat이 낮게 나올 수 있으므로, 트레이스 플롯을 함께 살펴보며 눈으로도 이상 여부를 확인하는 것이 안전합니다.