용어 목록 > 유효표본크기 (Effective Sample Size, MCMC)

유효표본크기 (Effective Sample Size, MCMC)

쉽게 풀면

같은 동네에 사는 친한 친구 100명에게 정치 성향을 물어본다고 해봅시다. 서로 어울려 지내다 보니 의견이 비슷하게 몰려있어서, 실제로는 낯선 사람 100명에게 물어본 것만큼 다양한 정보를 얻지 못합니다. MCMC로 뽑은 표본도 비슷한 문제를 가집니다. 다음 표본이 바로 이전 표본에서 조금씩만 움직여 만들어지는 방식이라, 이웃한 표본끼리 값이 서로 닮아 있습니다(자기상관). 그래서 10,000개를 뽑았다고 해도 실제로 담고 있는 독립적인 정보는 그보다 훨씬 적을 수 있는데, 이 "진짜 독립 정보에 해당하는 표본 개수"를 유효표본크기라고 부릅니다.

왜 중요한가

베이지안 통계 분석의 핵심인 MCMC는 사후분포를 근사하는 데 널리 쓰이는데, 그 결과가 얼마나 신뢰할 만한지는 표본 개수가 아니라 유효표본크기로 판단해야 하기 때문에 이 개념은 베이즈 추론을 다루는 거의 모든 논문에서 수렴 진단의 핵심 지표로 등장합니다. 유효표본크기가 지나치게 작으면 사후평균이나 신용구간 추정치의 몬테카를로 오차가 커져 결론의 신뢰성이 흔들리므로, 생태학·유전체학·심리측정학 등 베이지안 모형을 적용하는 다양한 응용 분야에서 결과 보고의 표준 항목으로 자리잡고 있습니다.

계산과 범위

N개의 표본이 자기상관 ρ_t(지연 t)를 가질 때 유효표본크기는 다음과 같이 정의됩니다.

Neff = N / (1 + 2 Σt≥1 ρt)

• 독립 표본이면 모든 ρ_t = 0이므로 N_eff = N입니다.
• 양의 자기상관이 클수록 분모가 커져 N_eff가 N보다 작아집니다.
• 음의 자기상관(번갈아 오르내리는 표본)이면 N_eff가 N보다 클 수도 있습니다. Stan 참조 설명서는 해밀토니안 몬테카를로가 사후분포가 정규분포에 가깝고 상관이 작을 때 이런 반상관 표본을 낼 수 있다고 적고 있습니다.
• 몬테카를로 표준오차(MCSE)는 1/√N이 아니라 1/√N_eff에 비례합니다.
• 실제 자료에서는 ρ_t를 표본에서 추정해야 하고, t가 커질수록 추정에 잡음이 끼므로 합산을 어느 지점에서 끊는 절단합을 씁니다.

가상의 예: 1차 자기회귀 사슬에서 지연 t의 자기상관이 ρ^t라면 Σρ^t = ρ/(1−ρ)이므로 N_eff/N = (1−ρ)/(1+ρ)입니다. N = 10,000일 때 ρ = 0.5이면 N_eff ≈ 3,333, ρ = 0.9이면 1 + 2×9 = 19로 N_eff ≈ 526입니다. 이때 MCSE는 독립 표본일 때보다 √19 ≈ 4.4배 큽니다.

해석 기준

• “10,000번 뽑았다”와 “유효표본크기가 526이다”는 정보량 면에서 같은 말입니다. 결과를 믿을 수 있는 정도는 N이 아니라 N_eff로 가늠합니다.
• N_eff는 모수마다 따로 계산됩니다. 평균 추정에 충분해도 분산 성분이나 분위수에서는 모자랄 수 있습니다. Vehtari 외(2021)는 전통적인 Rˆ에 결함이 있음을 보이고, 순위 기반 진단과 분위수별 국소 효율 측정값을 제안했습니다.
• 몇 이상이면 충분하다는 단일한 기준은 없습니다. 보고하려는 추정치(평균인지 극단 분위수인지)와 필요한 몬테카를로 오차에 따라 정합니다.
• 사슬이 수렴하지 않았다면 분산 추정이 과대해져 자기상관은 과대, 유효표본크기는 과소 추정됩니다(Stan 참조 설명서). 유효표본크기 하나로 수렴 여부를 판정할 수 없으므로 겔만-루빈 통계량이나 추적 그림과 함께 봅니다.

보고 방법

모수별 유효표본크기를 표나 부록에 싣고, 사슬 수·사슬당 반복 수·번인 구간·사용한 소프트웨어를 함께 적습니다.

사슬 4개를 각 2,500회 표집(번인 제외)하였으며(N = 10,000), 모든 모수의 Rˆ < 1.01이고 유효표본크기는 최소 526이었다. (형식을 보여 주는 가상의 문장입니다.)

• 솎아내기(thinning)는 흔히 불필요하고 정밀도를 오히려 떨어뜨립니다. Link와 Eaton(2012)은 컴퓨터 메모리 한계가 아니라면 일상적인 솎아내기를 권하지 않습니다. 솎아냈다면 이유를 적습니다.
• 유효표본크기가 낮으면 반복 수를 늘리는 것 외에 표집기를 바꾸거나 모형을 재모수화하는 방법을 먼저 검토합니다.
• 표본조사의 설계효과(design effect)와 개념이 비슷하지만 맥락이 다르므로 같은 말로 쓰지 않습니다.

논문에서는 이렇게 쓰입니다

실제 논문에서

이 용어를 직접 쓴 국내 논문 문장을 아직 수집하지 못했습니다. 수집되는 대로 출처와 함께 싣겠습니다.

예시 문장

아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.

이 문장은 "겉으로는 10,000개의 표본을 뽑았지만, 표본끼리 서로 닮아 있는 정도를 감안하면 실질적으로 약 1,850개의 독립 표본만큼의 정보를 가진 것이며, 이 정도면 결과를 신뢰할 수 있는 수준"이라는 뜻입니다.

계층모형(hierarchical model)을 다루는 통계 방법론 논문에서는 특정 모수의 유효표본크기가 유독 낮게 나올 때 이를 모형 구조 문제의 신호로 보고, 재모수화 같은 개선 조치를 취하는 예입니다.

진화생물학의 베이지안 계통수 추정 연구에서는 나무 구조 자체에 대한 유효표본크기를 계산해 표집이 충분히 이루어졌는지 점검하는 예입니다.

조금 더 깊게 보면

유효표본크기는 흔히 표본들의 자기상관함수를 이용해 계산하는데, 지연(lag)별 자기상관을 합산하되 추정 잡음이 커지는 지점에서 합산을 끊는 방식이 대표적입니다. 실무에서는 CODA, Stan, PyMC 같은 소프트웨어가 이를 자동으로 계산해 주며, 흔히 겔만-루빈 통계량(Ȓ) 같은 다른 수렴 진단 지표와 함께 보고됩니다. 유효표본크기가 낮게 나오는 원인은 대개 사슬(chain) 간 이동성이 낮은 표집 알고리즘, 모수 간 강한 상관관계, 또는 부적절한 모형 모수화에 있으므로, 논문에서는 이를 개선하기 위해 표집기(sampler) 변경이나 재모수화 같은 조치를 함께 언급하는 경우가 많습니다.

주의할 점

유효표본크기는 단순히 표본 개수를 늘린다고 항상 비례해서 커지는 것이 아닙니다. 자기상관이 심한 경우 반복 횟수를 늘리거나 표집기를 바꾸는 등의 조치가 필요하며(표집 간격을 넓히는 솎아내기는 대개 정밀도만 떨어뜨립니다), 설문조사에서 표본 간 유사성으로 정보량이 줄어드는 설계효과와 개념적으로 비슷하지만 서로 다른 맥락에서 쓰이는 용어이므로 혼동하지 않아야 합니다.

헷갈리기 쉬운 용어

MCMC 결과를 점검하는 도구는 서로 다른 질문에 답합니다.

참고 문헌

1. Geyer, C. J. (1992). Practical Markov chain Monte Carlo. Statistical Science, 7(4).
2. Vehtari, A., Gelman, A., Simpson, D., Carpenter, B., & Bürkner, P.-C. (2021). Rank-normalization, folding, and localization: An improved Rˆ for assessing convergence of MCMC (with discussion). Bayesian Analysis, 16(2), 667–718.
3. Link, W. A., & Eaton, M. J. (2012). On thinning of chains in MCMC. Methods in Ecology and Evolution, 3(1), 112–115.

표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.

관련 용어