유효표본크기 (Effective Sample Size, MCMC)
쉽게 풀면
같은 동네에 사는 친한 친구 100명에게 정치 성향을 물어본다고 해봅시다. 서로 어울려 지내다 보니 의견이 비슷하게 몰려있어서, 실제로는 낯선 사람 100명에게 물어본 것만큼 다양한 정보를 얻지 못합니다. MCMC로 뽑은 표본도 비슷한 문제를 가집니다. 다음 표본이 바로 이전 표본에서 조금씩만 움직여 만들어지는 방식이라, 이웃한 표본끼리 값이 서로 닮아 있습니다(자기상관). 그래서 10,000개를 뽑았다고 해도 실제로 담고 있는 독립적인 정보는 그보다 훨씬 적을 수 있는데, 이 "진짜 독립 정보에 해당하는 표본 개수"를 유효표본크기라고 부릅니다.
왜 중요한가
베이지안 통계 분석의 핵심인 MCMC는 사후분포를 근사하는 데 널리 쓰이는데, 그 결과가 얼마나 신뢰할 만한지는 표본 개수가 아니라 유효표본크기로 판단해야 하기 때문에 이 개념은 베이즈 추론을 다루는 거의 모든 논문에서 수렴 진단의 핵심 지표로 등장합니다. 유효표본크기가 지나치게 작으면 사후평균이나 신용구간 추정치의 몬테카를로 오차가 커져 결론의 신뢰성이 흔들리므로, 생태학·유전체학·심리측정학 등 베이지안 모형을 적용하는 다양한 응용 분야에서 결과 보고의 표준 항목으로 자리잡고 있습니다.
논문에서는 이렇게 쓰입니다
이 문장은 "겉으로는 10,000개의 표본을 뽑았지만, 표본끼리 서로 닮아 있는 정도를 감안하면 실질적으로 약 1,850개의 독립 표본만큼의 정보를 가진 것이며, 이 정도면 결과를 신뢰할 수 있는 수준"이라는 뜻입니다.
계층모형(hierarchical model)을 다루는 통계 방법론 논문에서는 특정 모수의 유효표본크기가 유독 낮게 나올 때 이를 모형 구조 문제의 신호로 보고, 재모수화 같은 개선 조치를 취하는 예입니다.
진화생물학의 베이지안 계통수 추정 연구에서는 나무 구조 자체에 대한 유효표본크기를 계산해 표집이 충분히 이루어졌는지 점검하는 예입니다.
조금 더 깊게 보면
유효표본크기는 흔히 표본들의 자기상관함수를 이용해 계산하는데, 자기상관이 완전히 사라지는 지연(lag)까지의 상관값을 합산하는 방식이 대표적입니다. 실무에서는 CODA, Stan, PyMC 같은 소프트웨어가 이를 자동으로 계산해 주며, 흔히 겔만-루빈 통계량(Ȓ) 같은 다른 수렴 진단 지표와 함께 보고됩니다. 유효표본크기가 낮게 나오는 원인은 대개 사슬(chain) 간 이동성이 낮은 표집 알고리즘, 모수 간 강한 상관관계, 또는 부적절한 모형 모수화에 있으므로, 논문에서는 이를 개선하기 위해 표집기(sampler) 변경이나 재모수화 같은 조치를 함께 언급하는 경우가 많습니다.
주의할 점
유효표본크기는 단순히 표본 개수를 늘린다고 항상 비례해서 커지는 것이 아닙니다. 자기상관이 심한 경우 반복 횟수를 늘리거나 표집 간격을 넓히는 등의 조치가 필요하며, 설문조사에서 표본 간 유사성으로 정보량이 줄어드는 설계효과와 개념적으로 비슷하지만 서로 다른 맥락에서 쓰이는 용어이므로 혼동하지 않아야 합니다.