기하분포 (Geometric Distribution)

한 줄 정의: 성공 확률이 일정한 시행을 반복할 때, "처음 성공이 나올 때까지 걸리는 시도 횟수"의 분포입니다.

쉽게 풀면

농구선수가 자유투를 성공할 확률이 30%라고 해봅시다. "몇 번째 시도에서 처음으로 성공할까?"를 확률로 나타낸 것이 기하분포입니다. 1번 만에 성공할 수도, 5번 만에 성공할 수도 있지만 각 경우의 확률은 다르게 계산됩니다.

이항분포가 "정해진 시행 횟수 중 성공 횟수"를 다룬다면, 기하분포는 "성공이 나올 때까지 걸리는 횟수"를 다룬다는 점이 다릅니다. 마케팅에서 "고객이 몇 번째 광고 노출 만에 처음 클릭하는가", 품질검사에서 "몇 번째 제품에서 처음 불량이 나오는가" 같은 문제에 쓰입니다.

왜 중요한가

기하분포는 "무기억성(memoryless property)"을 갖는 대표적인 이산 확률분포로, 대기시간이나 실패 반복 횟수를 다루는 신뢰성공학, 대기행렬이론, 강화학습의 탐색 전략 분석 등에서 기본 모형으로 활용됩니다. 또한 연속시간에서의 무기억성을 갖는 지수분포의 이산판으로도 이해되기 때문에, 확률과정론에서 다른 분포와의 관계를 설명하는 다리 역할을 합니다.

핵심 정리

성공 확률이 p인 독립 시행을 반복할 때, 첫 성공이 나오는 시행 횟수 X(1, 2, 3, …)의 분포입니다.

P(X = k) = (1 − p)^k−1 · p, P(X ≤ k) = 1 − (1 − p)^k

평균 E(X) = 1/p, 분산 Var(X) = (1 − p)/p². p가 작을수록 평균과 분산이 모두 커집니다.
무기억성: P(X > m + n | X > m) = P(X > n). 이미 m번 실패했다는 사실이 앞으로의 대기 시간에 영향을 주지 않습니다. 이산분포 중 무기억성을 갖는 것은 기하분포뿐이고, 연속분포 중에서는 지수분포가 이에 대응합니다.
“첫 성공 전의 실패 횟수”(0, 1, 2, …)로 정의하는 책도 있습니다. 이때는 P(Y = k) = (1 − p)^k · p이고 평균은 (1 − p)/p입니다. 정의를 확인해야 합니다.
기하분포를 여러 번 합치면 음이항분포가 됩니다(r번째 성공까지의 시행 수).

예시로 보기

(가상의 예, 직접 계산) 자유투 성공률 p = .3인 선수가 처음으로 성공할 때까지 던진 횟수 X입니다.

k (번째에 첫 성공)	P(X = k)	P(X ≤ k)
1	0.3000	0.3000
2	0.2100	0.5100
3	0.1470	0.6570
4	0.1029	0.7599
5	0.0720	0.8319

평균은 1/.3 ≈ 3.33번, 분산은 (1 − .3)/.3² ≈ 7.78(표준편차 약 2.79)입니다. 평균이 3.33이라고 해서 3~4번 안에 성공이 보장되는 것은 아니며, 5번 이내에 성공할 확률은 약 0.83입니다. 무기억성도 확인됩니다. 이미 5번 실패했어도 앞으로 3번을 더 실패할 확률은 처음부터 3번 실패할 확률과 같은 0.343입니다.

자주 하는 오해

“5번 연속 실패했으니 이제 성공할 때가 됐다”(도박사의 오류): 시행이 독립이므로 다음 시행의 성공 확률은 여전히 p입니다.
“평균 대기 횟수 1/p가 곧 필요한 횟수다”: 분포의 오른쪽 꼬리가 길어 평균보다 훨씬 오래 걸리는 경우도 흔합니다. 중앙값은 평균보다 작습니다.
“기하분포와 이항분포는 같은 사건을 다른 식으로 센 것이다”: 이항분포는 정해진 횟수 안의 성공 횟수이고, 기하분포는 첫 성공까지의 시행 횟수입니다. 확률변수가 다릅니다.
“첫 사건까지의 횟수라면 무조건 기하분포다”: 시행마다 성공 확률이 변하거나 서로 영향을 준다면(예: 비복원 추출) 기하분포의 가정이 깨집니다. 불량이 나오는 확률이 달라지는 생산 라인에는 맞지 않습니다.

논문에서는 이렇게 쓰입니다

실제 논문에서

이 용어를 직접 쓴 국내 논문 문장을 아직 수집하지 못했습니다. 수집되는 대로 출처와 함께 싣겠습니다.

예시 문장

아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.

"참가자가 과제를 처음 성공적으로 수행하기까지 걸린 시행 횟수는 기하분포를 따르는 것으로 가정하였다."

이 문장은 반복 시행에서 "첫 성공까지의 횟수"라는 변수를 확률모형으로 다룰 때 기하분포를 이론적 근거로 사용했다는 뜻입니다.

"통신 채널에서 패킷이 처음 성공적으로 전송되기까지의 재전송 횟수를 기하분포로 모델링하여 평균 지연시간을 추정하였다."

네트워크 공학에서 반복 재시도 과정을 기하분포로 모형화해 성능 지표를 계산한 사례를 보여주는 문장입니다.

"불량품이 처음 발견되기까지 검사한 제품 수의 분포를 기하분포로 가정하고 공정 관리 한계선을 설정하였다."

품질관리 분야에서 첫 불량 발생까지의 검사 횟수를 기하분포로 다룬 사례를 나타내는 문장입니다.

조금 더 깊게 보면

기하분포는 정의 방식에 따라 "첫 성공까지의 시행 횟수(1부터 시작)"를 다루는 형태와 "첫 성공 이전의 실패 횟수(0부터 시작)"를 다루는 형태 두 가지가 있어, 논문을 읽을 때 어느 정의를 쓰는지 확인할 필요가 있습니다. 기하분포의 핵심 성질인 무기억성은 "지금까지 몇 번 실패했든 다음 성공까지 남은 시행 횟수의 분포는 동일하다"는 뜻으로, 이는 연속형인 지수분포가 갖는 무기억성과 대응되며 대기시간 모형 사이의 이산-연속 관계를 이해하는 데 자주 언급됩니다.

주의할 점

기하분포는 매 시행의 성공 확률이 일정하고 각 시행이 서로 독립적이라는 가정이 필요합니다. 시행마다 확률이 달라지거나 이전 결과가 다음 시행에 영향을 준다면 기하분포를 그대로 적용할 수 없습니다. 정해진 횟수 안에서의 성공 개수를 다루고 싶다면 이항분포를 사용해야 합니다.

헷갈리기 쉬운 용어

성공/실패 시행에서 파생되는 분포들입니다. 무엇을 세는지가 다릅니다.

용어	세는 것	시행 수
기하분포	첫 성공까지의 시행 횟수	정해지지 않음(성공할 때까지)
이항분포	성공 횟수	n번으로 고정
음이항분포	r번째 성공까지의 시행(또는 실패) 횟수	r이 정해짐. r = 1이면 기하분포
초기하분포	성공 횟수(비복원 추출)	n번 고정, 시행이 독립이 아님
지수분포	첫 사건까지의 연속 시간	기하분포의 연속형 대응(무기억성)

참고 문헌

Casella, G., & Berger, R. L. (2002). Statistical Inference (2nd ed.). Duxbury.
Ross, S. M. (2014). A First Course in Probability (9th ed.). Pearson.
Feller, W. (1968). An Introduction to Probability Theory and Its Applications (Vol. 1, 3rd ed.). Wiley.

표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.