번인 (Burn-in)
쉽게 풀면
샤워기를 틀면 처음엔 물 온도가 너무 차갑거나 뜨겁게 왔다갔다 하다가, 얼마쯤 지나야 원하는 온도로 안정됩니다. 그 안정되기 전의 물은 그냥 흘려보내고, 온도가 일정해진 다음부터 몸을 씻겠지요. MCMC(마르코프체인 몬테카를로) 표집도 마찬가지입니다. 컴퓨터가 아무 값에서나 출발해서 표본을 뽑기 시작하면, 처음 몇백~몇천 번은 "출발점이 이상해서" 원하는 분포와 다른 값들이 나옵니다. 이 초기 구간을 번인(burn-in)이라 부르고, 이 구간의 표본은 버린 뒤 분포가 안정된 이후의 표본만 골라서 실제 분석(사후분포 추정 등)에 사용합니다.
왜 중요한가
MCMC는 베이지안 통계학, 생태학, 유전학, 계량경제학 등 사후분포를 직접 계산하기 어려운 거의 모든 분야에서 표준적인 추정 도구로 쓰입니다. 그런데 번인 구간을 제대로 처리하지 않으면 초기값의 영향이 결과에 그대로 섞여 들어가, 모수 추정치나 신뢰구간이 실제보다 왜곡될 수 있습니다. 그래서 논문에서 MCMC 기반 분석을 보고할 때는 번인 설정과 그 근거를 명시하는 것이 재현성과 결과 신뢰도를 판단하는 기본 절차로 자리 잡았습니다.
논문에서는 이렇게 쓰입니다
이 문장은 "표집을 시작한 초반 1,000개의 값은 아직 초기값의 영향이 남아있어 믿을 수 없으니 버리고, 그 이후 안정된 값들만 결과 계산에 썼다"는 뜻입니다.
계통발생학(phylogenetics) 연구에서는 표집 횟수를 절대 개수 대신 전체 세대의 비율(예: 앞 25%)로 번인 구간을 정하는 경우가 흔합니다. 체인이 얼마나 오래 걸려야 안정되는지가 모델 복잡도에 따라 달라지기 때문입니다.
MCMC 외에도 시스템이 초기 조건의 영향에서 벗어나 정상 상태(steady state)에 도달하기까지의 구간을 넓은 의미에서 번인이라 부르기도 합니다. 이 예문은 강화학습 시뮬레이션에서 그런 용법이 쓰인 경우입니다.
조금 더 깊게 보면
번인 구간이 충분한지를 판단하는 데는 여러 체인을 동시에 돌려 서로 다른 출발점에서 시작한 체인들이 같은 분포로 수렴하는지 비교하는 방법이 널리 쓰입니다. 이때 대표적으로 쓰이는 지표가 겔만-루빈 통계량(R-hat)이며, 이 값이 1에 가까울수록 체인 간 수렴이 잘 이루어졌다고 봅니다. 또한 트레이스 플롯을 그려 표본 값이 특정 구간 없이 고르게 진동하는지 육안으로 확인하는 것도 일반적인 진단 방법입니다. 최근에는 번인 표본을 버리는 대신 적응형 표집(adaptive sampling)이나 워밍업(warm-up) 단계에서 표집 알고리즘의 파라미터 자체를 조정하는 방식도 함께 쓰이는데, 이 경우에도 초기 구간을 최종 분석에서 제외한다는 기본 아이디어는 동일합니다.
주의할 점
번인 구간을 무조건 길게 잡는다고 안전한 것은 아닙니다. 너무 짧으면 초기값의 영향이 남아 결과가 왜곡되고, 불필요하게 길면 계산 자원만 낭비합니다. 실제로 표집이 안정 상태에 도달했는지는 감으로 정하지 않고 트레이스 플롯이나 수렴 진단 통계량을 함께 확인해 판단해야 합니다.