초기하분포 (Hypergeometric Distribution)
쉽게 풀면
상자 안에 빨간 공 10개, 파란 공 20개가 있을 때, 이 중 5개를 한 번에 뽑는다면 빨간 공이 몇 개나 나올지를 계산하는 것이 초기하분포입니다. 이항분포와 비슷해 보이지만 결정적인 차이가 있습니다.
이항분포는 매번 공을 뽑고 다시 넣는 "복원추출"을 가정해 각 시행의 확률이 항상 똑같지만, 초기하분포는 한 번 뽑은 공을 다시 넣지 않는 "비복원추출"이라서 뽑을 때마다 남은 공의 구성이 바뀌고 확률도 조금씩 달라집니다.
카드 게임에서 특정 카드가 몇 장 뽑힐지, 품질검사에서 표본 중 불량품이 몇 개일지를 계산할 때 쓰입니다.
왜 중요한가
초기하분포는 유한한 모집단에서 비복원으로 표본을 추출하는 상황을 정확히 모형화할 수 있어, 품질검사·유전학·생물정보학의 유의성 검정 등 다양한 분야에서 활용됩니다. 특히 표본 크기가 모집단에 비해 작지 않은 경우에는 이항분포로 근사하면 오차가 커질 수 있기 때문에, 정확한 확률 계산이 필요한 통계적 검정에서 중요한 역할을 합니다.
핵심 정리
- 크기 N인 유한 모집단에 “성공” 항목이 K개 있고, 그중에서 n개를 되돌려 넣지 않고(비복원) 뽑을 때 뽑힌 성공 개수 X의 분포입니다.
P(X = k) = C(K, k) · C(N − K, n − k) / C(N, n)(C는 조합의 수)- 평균은 n · K/N으로 이항분포(성공확률 K/N)와 같습니다. 분산은
n · (K/N) · (1 − K/N) · (N − n)/(N − 1)로, 이항분포의 분산에 유한모집단 수정계수 (N − n)/(N − 1)을 곱한 값이라 항상 그보다 작습니다. - 뽑을 때마다 남은 모집단의 구성이 바뀌므로 각 뽑기가 서로 독립이 아닙니다. 모집단이 표본에 비해 매우 크면 이 영향이 작아져 이항분포로 근사됩니다. 흔한 어림 기준은 표본이 모집단의 5~10% 이하일 때이며 엄밀한 규칙은 아닙니다.
- 피셔의 정확검정은 2×2 표의 한 칸이 초기하분포를 따른다는 사실에 기초합니다(Fisher, 1935). 품질검사(불량품 수), 포획-재포획 추정, 유전자 집합 과대표현 검정에도 쓰입니다.
예시로 보기
상자에 빨간 공 10개, 파란 공 20개(N = 30, K = 10)가 있고 5개를 한 번에 뽑을 때(n = 5) 빨간 공의 개수입니다.
| 빨간 공 수 k | 초기하분포 | (비교) 이항분포 n = 5, p = 1/3 |
|---|---|---|
| 0 | .109 | .132 |
| 1 | .340 | .329 |
| 2 | .360 | .329 |
| 3 | .160 | .165 |
| 4 | .030 | .041 |
| 5 | .002 | .004 |
평균은 두 분포 모두 5 × 10/30 = 1.67이지만 분산은 초기하분포가 .958, 이항분포가 1.111(비율 25/29 ≈ .862)로 작습니다. 표본이 모집단의 1/6이나 되기 때문에 두 분포가 눈에 띄게 다릅니다. 빨간 공이 2개 이상 나올 확률은 .551입니다.
맛 구별 실험. 우유를 먼저 넣은 컵 4개와 차를 먼저 넣은 컵 4개(총 8개)를 섞어 놓고, 아무 단서 없이 “우유 먼저” 4개를 고르게 한다면 모두 맞출 확률은 1/70 ≈ .014, 3개를 맞출 확률은 16/70 ≈ .229입니다. 그래서 4개 모두 맞춘 결과는 우연으로 보기 어렵다는 논리가 피셔의 정확검정의 출발점입니다.
자주 하는 오해
- “비복원추출이면 무조건 초기하분포다.” 성공/실패 두 종류로 나뉜 유한 모집단에서 성공 개수를 셀 때의 모형입니다. 세 종류 이상이면 다변량 초기하분포를 씁니다.
- “이항분포를 쓰면 틀린다.” 모집단이 표본보다 훨씬 크면 이항분포가 좋은 근사입니다. 표본 비율이 크면 이항분포는 분산을 과대평가합니다.
- “성공확률 p를 알아야 한다.” 초기하분포는 확률 p가 아니라 모집단 구성(N, K)이 모수입니다. 반대로 표본 결과에서 모르는 모집단 크기 N을 추정하는 것이 포획-재포획의 아이디어입니다.
- “크기가 큰 모집단에도 정확검정이 필요하다.” 피셔의 정확검정은 표본이 작을 때 카이제곱 근사의 대안으로 주로 쓰이며, 표본이 크면 두 방법의 결과는 비슷합니다.
논문에서는 이렇게 쓰입니다
실제 논문에서
이 용어를 직접 쓴 국내 논문 문장을 아직 수집하지 못했습니다. 수집되는 대로 출처와 함께 싣겠습니다.
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
이 문장은 모집단에서 한 번 뽑은 대상을 다시 뽑지 않는 표집 방식을 썼기 때문에, 확률 계산에 이항분포 대신 초기하분포를 적용했다는 뜻입니다.
이 예문은 생물정보학 분야에서 초기하분포가 특정 유전자군의 과대표집 여부를 통계적으로 검정하는 데 널리 쓰인다는 점을 보여줍니다.
이 문장은 품질관리 분야에서 초기하분포가 표본검사 계획을 세우는 데 활용되는 사례를 보여줍니다.
조금 더 깊게 보면
초기하분포를 실제로 적용하는 논문에서는 유의성 검정을 위해 초기하분포에 기반한 피셔의 정확검정(Fisher's exact test)을 함께 언급하는 경우가 많습니다. 이는 2x2 분할표처럼 표본 크기가 작아 카이제곱 근사가 부정확할 때, 정확한 확률을 계산해 통계적 유의성을 판단하는 방법입니다.
또한 앞서 언급했듯 모집단이 표본보다 훨씬 클 때는 초기하분포와 이항분포의 차이가 미미해지므로, 논문에서 어느 분포를 사용했는지는 모집단과 표본 크기의 상대적 비율을 함께 고려해 판단하는 것이 좋습니다.
주의할 점
모집단 크기가 표본 크기에 비해 매우 크다면, 비복원추출이어도 매번 확률이 거의 변하지 않아 초기하분포가 이항분포로 근사됩니다. 따라서 모집단이 충분히 크고 표본 비율이 작을 때는 계산이 더 간단한 이항분포를 대신 쓰는 경우가 많습니다.
헷갈리기 쉬운 용어
| 용어 | 뽑는 방식 | 핵심 |
|---|---|---|
| 초기하분포 | 비복원 | 유한 모집단에서 성공 개수. 뽑기끼리 독립이 아님 |
| 이항분포 | 복원 또는 모집단이 매우 큼 | 매 시행 성공확률이 같고 독립 |
| 기하분포 | 반복 시행 | 첫 성공이 나올 때까지의 시행 횟수 |
| 피셔의 정확검정 | — | 초기하분포로 p값을 정확히 계산하는 2×2 검정 |
참고 문헌
- Johnson, N. L., Kemp, A. W., & Kotz, S. (2005). Univariate Discrete Distributions (3rd ed.). Wiley.
- Casella, G., & Berger, R. L. (2002). Statistical Inference (2nd ed.). Duxbury.
- Fisher, R. A. (1935). The Design of Experiments. Oliver and Boyd.
- Agresti, A. (2013). Categorical Data Analysis (3rd ed.). Wiley.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.