음이항분포 (Negative Binomial Distribution)

한 줄 정의: 평균보다 분산이 훨씬 큰(과산포된) 개수 자료를 설명하기 위해, 포아송분포를 확장하여 분산을 별도로 조정할 수 있게 만든 확률분포입니다.

쉽게 풀면

하루 평균 병원 응급실 방문 환자 수가 10명이라고 해봅시다. 포아송분포는 "평균이 10이면 분산도 대략 10 정도"라고 가정합니다. 그런데 실제로는 어떤 날은 2명, 어떤 날은 30명처럼 들쭉날쭉함이 훨씬 심할 수 있습니다(예: 전염병 유행 시기와 평상시가 섞여 있는 경우). 이렇게 "평균은 비슷한데 유난히 들쭉날쭉함(분산)이 큰" 개수 자료를 억지로 포아송분포에 끼워 맞추면 통계 모형이 실제보다 훨씬 정밀한 척 오판하게 됩니다. 음이항분포는 이런 문제를 해결하기 위해 평균과 별개로 "흩어진 정도"를 조절하는 모수를 하나 더 추가한 분포입니다.

왜 중요한가

개수 자료(count data)는 의학, 생태학, 보험통계, 사회과학 등 여러 분야에서 흔히 다뤄지는데, 실제 데이터는 포아송분포의 가정보다 훨씬 큰 산포를 보이는 경우가 많습니다. 음이항분포는 이런 과산포 문제를 통계적으로 정직하게 다루는 표준적인 방법으로 자리잡았기 때문에, 개수 자료를 회귀분석하는 거의 모든 분야의 논문에서 등장합니다. 잘못된 분포 가정을 쓰면 표준오차가 과소추정되어 통계적으로 유의하지 않은 결과를 유의하다고 잘못 판단할 위험이 있어, 모형 선택 자체가 연구 결과의 신뢰성과 직결됩니다.

논문에서는 이렇게 쓰입니다

"포아송회귀모형에서 과산포(overdispersion)가 확인되어, 음이항분포(negative binomial distribution)를 가정한 회귀모형으로 재분석하였다."

이 문장은 "처음에는 단순한 포아송회귀를 썼지만, 데이터의 흩어진 정도가 예상보다 훨씬 커서 이를 반영할 수 있는 더 유연한 분포로 바꿔 다시 분석했다"는 뜻입니다. 병원 방문 횟수, 논문 인용 수, 사고 발생 건수 등 개수 자료를 다루는 논문에서 자주 등장합니다.

"생태학 조사에서 관측된 개체 수 자료는 표본 간 이질성으로 인해 과산포 경향을 보여, 음이항분포를 이용한 일반화선형모형을 적용하였다."

서식지별 환경 차이 등으로 개체 수 변동성이 커지는 생태학 자료 분석에서도 음이항분포가 표준적으로 활용된다는 점을 보여줍니다.

"보험 청구 건수 자료를 분석한 결과 음이항회귀모형이 포아송회귀모형보다 적합도가 우수한 것으로 나타났다."

보험통계 분야에서도 청구 건수처럼 개인별 편차가 큰 개수 자료를 다룰 때 음이항분포가 흔히 쓰인다는 것을 보여주는 예입니다.

조금 더 깊게 보면

음이항분포는 수학적으로 포아송분포의 평균 모수 자체가 감마분포를 따르며 흩어져 있다고 가정한 혼합분포로 유도할 수 있으며, 이 때문에 분산이 평균보다 항상 크게 나타나는 구조를 자연스럽게 표현합니다. 실제 논문에서는 산포 정도를 나타내는 별도의 모수(흔히 theta 또는 dispersion parameter로 표기)를 함께 보고하는 경우가 많고, 이 값이 클수록 포아송분포에 가까워집니다. 모형 적합도는 우도비 검정이나 AIC 등을 이용해 포아송모형과 비교하는 방식으로 흔히 확인합니다.

주의할 점

음이항분포를 쓴다고 해서 항상 옳은 것은 아니며, 0이 지나치게 많이 관측되는 자료라면 과산포 자체보다 영과잉모형이 더 적합할 수 있습니다. 두 문제(과산포와 영과잉)가 동시에 존재하는 경우 영과잉 음이항모형처럼 두 접근을 결합하기도 합니다.