충분통계량 (Sufficient Statistic)

통계
한 줄 정의: 표본 전체가 가진 모수에 대한 정보를 손실 없이 압축하여 담고 있어서, 그 통계량만 알면 원본 자료가 더 이상 필요 없어지는 통계량.

쉽게 풀면

동전을 100번 던진 결과를 순서대로 모두 기록하지 않아도, '앞면이 몇 번 나왔는지'라는 숫자 하나만 알면 성공확률을 추정하는 데 필요한 정보는 전부 얻을 수 있다. 이렇게 원래 자료가 담고 있던 모수에 관한 정보를 하나도 잃지 않으면서 더 간단한 형태로 요약해주는 통계량을 충분통계량이라 한다. 자료를 요약해도 정보 손실이 없다는 것을 수학적으로 보장해주는 개념이다.

왜 중요한가

충분통계량은 추정량의 효율성을 높이고 계산과 저장 비용을 줄일 수 있는 이론적 근거를 제공하기 때문에, 수리통계학의 추정 이론뿐 아니라 베이지안 통계, 데이터 압축, 대용량 데이터 처리 방법론과도 연결됩니다. 특히 라오-블랙웰 정리처럼 충분통계량을 이용해 더 좋은 추정량을 구성하는 논리는 여러 통계적 추론 방법의 근간을 이룹니다.

논문에서는 이렇게 쓰입니다

"지수족 분포에서는 최소충분통계량이 자연스럽게 존재함을 이용하여 검정통계량을 구성하였다."

검정통계량이나 추정량을 구성할 때 자료를 손실 없이 요약하는 이론적 근거로 사용된다.

"라오-블랙웰 정리를 적용하여 비효율적인 초기 추정량을 충분통계량에 대한 조건부 기댓값으로 개선함으로써 분산을 줄였다."

이 문장은 처음 제시한 추정량을 충분통계량을 이용해 다듬으면, 원래보다 더 안정적이고 효율적인 추정량을 얻을 수 있다는 이론적 절차를 설명한다는 뜻입니다.

"베이지안 모형에서는 사전분포와 켤레 관계에 있는 충분통계량을 이용해 사후분포를 닫힌 형태로 계산할 수 있었다."

이 문장은 베이지안 통계에서 충분통계량을 활용하면 복잡한 수치 계산 없이도 사후분포를 수식으로 깔끔하게 구할 수 있는 경우가 있다는 뜻입니다.

조금 더 깊게 보면

충분통계량 중에서도 자료를 가장 압축적으로 요약하는 것을 최소충분통계량이라 하며, 지수족(exponential family)에 속하는 분포들은 대체로 최소충분통계량이 명시적으로 존재한다는 특징이 있어 이론 전개가 수월합니다. 충분성을 실제로 확인할 때는 통계량이 주어졌을 때 표본의 조건부 분포가 모수에 의존하지 않는지를 살펴보는 정의를 직접 이용하기보다, 가능도함수를 모수에 관련된 부분과 그렇지 않은 부분으로 나눌 수 있는지를 보는 인수분해정리(factorization theorem)를 흔히 사용합니다.

주의할 점

충분통계량은 특정 모형과 모수를 전제로 정의되는 개념이므로, 모형이 잘못 설정되면 그 통계량의 충분성도 더 이상 성립하지 않는다.

관련 용어