충분통계량 (Sufficient Statistic)
쉽게 풀면
동전을 100번 던진 결과를 순서대로 모두 기록하지 않아도, '앞면이 몇 번 나왔는지'라는 숫자 하나만 알면 성공확률을 추정하는 데 필요한 정보는 전부 얻을 수 있다. 이렇게 원래 자료가 담고 있던 모수에 관한 정보를 하나도 잃지 않으면서 더 간단한 형태로 요약해주는 통계량을 충분통계량이라 한다. 자료를 요약해도 정보 손실이 없다는 것을 수학적으로 보장해주는 개념이다.
왜 중요한가
충분통계량은 추정량의 효율성을 높이고 계산과 저장 비용을 줄일 수 있는 이론적 근거를 제공하기 때문에, 수리통계학의 추정 이론뿐 아니라 베이지안 통계, 데이터 압축, 대용량 데이터 처리 방법론과도 연결됩니다. 특히 라오-블랙웰 정리처럼 충분통계량을 이용해 더 좋은 추정량을 구성하는 논리는 여러 통계적 추론 방법의 근간을 이룹니다.
논문에서는 이렇게 쓰입니다
검정통계량이나 추정량을 구성할 때 자료를 손실 없이 요약하는 이론적 근거로 사용된다.
이 문장은 처음 제시한 추정량을 충분통계량을 이용해 다듬으면, 원래보다 더 안정적이고 효율적인 추정량을 얻을 수 있다는 이론적 절차를 설명한다는 뜻입니다.
이 문장은 베이지안 통계에서 충분통계량을 활용하면 복잡한 수치 계산 없이도 사후분포를 수식으로 깔끔하게 구할 수 있는 경우가 있다는 뜻입니다.
조금 더 깊게 보면
충분통계량 중에서도 자료를 가장 압축적으로 요약하는 것을 최소충분통계량이라 하며, 지수족(exponential family)에 속하는 분포들은 대체로 최소충분통계량이 명시적으로 존재한다는 특징이 있어 이론 전개가 수월합니다. 충분성을 실제로 확인할 때는 통계량이 주어졌을 때 표본의 조건부 분포가 모수에 의존하지 않는지를 살펴보는 정의를 직접 이용하기보다, 가능도함수를 모수에 관련된 부분과 그렇지 않은 부분으로 나눌 수 있는지를 보는 인수분해정리(factorization theorem)를 흔히 사용합니다.
주의할 점
충분통계량은 특정 모형과 모수를 전제로 정의되는 개념이므로, 모형이 잘못 설정되면 그 통계량의 충분성도 더 이상 성립하지 않는다.