트레이스 플롯 (Trace Plot)

한 줄 정의: MCMC로 뽑은 표본값을 뽑은 순서대로 이어서 그린 그래프로, 표집이 안정적으로 잘 섞이며 진행되고 있는지 눈으로 확인하는 진단용 그림입니다.

쉽게 풀면

주가 그래프를 떠올려 보세요. 시간(x축)에 따라 주가(y축)가 어떻게 움직였는지 선으로 이어 그린 것이죠. 트레이스 플롯도 똑같은 방식입니다. 다만 x축은 "MCMC로 표본을 뽑은 순서(반복 횟수)"이고, y축은 "그때 뽑힌 값"입니다. 표집이 잘 되고 있다면 이 선은 마치 털이 복슬복슬한 애벌레처럼 특정 범위 안에서 위아래로 빠르고 촘촘하게 흔들리는 모양을 보입니다. 반대로 선이 한쪽으로 서서히 흘러가거나(추세가 보이거나), 어느 구간에 오래 멈춰 있으면 아직 안정된 분포에 도달하지 못했거나 표본들이 서로 너무 비슷해서 문제가 있다는 신호입니다.

왜 중요한가

베이지안 통계 분석은 MCMC로 얻은 표본이 실제 사후분포를 제대로 대표하는지에 결과의 신뢰성이 전적으로 달려 있기 때문에, 트레이스 플롯은 이를 가장 직관적으로 점검하는 필수적인 진단 도구로 널리 쓰입니다. 심리학, 생태학, 유전체학 등 베이지안 모형을 활용하는 다양한 분야의 논문에서 모형 수렴 여부를 보고할 때 빠지지 않고 등장합니다. 겔만-루빈 통계량 같은 정량적 지표와 함께 제시되어 분석 결과의 타당성을 뒷받침하는 근거 자료로 활용됩니다.

논문에서는 이렇게 쓰입니다

"각 모수에 대한 트레이스 플롯을 육안으로 검토한 결과, 네 개의 체인 모두 뚜렷한 추세나 편차 없이 안정적으로 혼합되는 양상을 보여 수렴이 이루어진 것으로 판단하였다."

이 문장은 "표집 결과를 그래프로 그려 눈으로 확인해 보니, 값들이 이상한 패턴 없이 고르게 흔들리며 안정된 상태였다"는 뜻입니다.

"초기 반복구간에서 트레이스 플롯이 뚜렷한 상승 추세를 보여 해당 구간을 번인(burn-in)으로 제외한 뒤 나머지 표본만 사후분포 추정에 사용하였다."

표집 초반에는 아직 안정된 분포에 도달하지 못한 상태였음을 그래프로 확인하고, 그 구간을 분석에서 제외했다는 뜻입니다.

"계층적 베이지안 모형의 분산 모수에 대한 트레이스 플롯에서 일부 체인이 다른 값 범위에 오래 머무는 다봉성 패턴이 관찰되어 추가적인 모형 재설정이 필요함을 확인하였다."

생태학 연구에서 복잡한 계층모형의 특정 모수가 잘 섞이지 않고 여러 값 대역에 갇혀 있는 문제를 시각적으로 발견했다는 의미입니다.

조금 더 깊게 보면

트레이스 플롯을 볼 때는 단일 체인만 보는 것이 아니라 서로 다른 초기값에서 출발한 여러 체인을 함께 겹쳐 그려, 체인들이 서로 다른 값 대역에 머물지 않고 같은 범위에서 섞이는지를 확인하는 것이 일반적입니다. 표본들이 서로 얼마나 독립적인지를 보여주는 자기상관 플롯이나 유효표본크기(effective sample size)도 트레이스 플롯과 함께 자주 보고되는데, 트레이스 플롯이 안정적으로 보여도 자기상관이 높으면 실질적인 정보량은 표본 개수보다 훨씬 적을 수 있기 때문입니다. 이런 시각적 진단들은 겔만-루빈 통계량 같은 정량적 수렴 지표를 보완하는 역할을 합니다.

주의할 점

트레이스 플롯을 보는 것은 어디까지나 시각적·주관적인 판단이라는 한계가 있습니다. 그래프가 그럴듯해 보여도 실제로는 수렴하지 않았을 수 있으므로, 겔만-루빈 통계량과 같은 정량적 지표를 함께 확인해 보완하는 것이 일반적입니다.