확률수렴 (Convergence in Probability)
쉽게 풀면
표본평균이 모평균으로 '확률수렴'한다는 것은, 표본이 충분히 많아지면 표본평균이 모평균에서 아주 조금이라도 벗어날 확률 자체가 점점 0에 가까워진다는 뜻이다. 이는 큰 수의 법칙을 수학적으로 정확하게 표현하는 방식이며, 추정량이 일치성을 가진다는 말과 사실상 같은 의미다. 확률론에서 다루는 여러 수렴 개념(확률수렴, 분포수렴, 거의 확실한 수렴 등) 중 가장 널리 쓰이는 개념 중 하나다.
왜 중요한가
확률수렴은 통계적 추정량이나 검정 통계량이 표본이 커질수록 참값에 가까워진다는 것을 엄밀하게 정의하는 도구이기 때문에, 점근이론(asymptotic theory)을 다루는 거의 모든 논문의 이론적 기반이 된다. 새로운 추정 방법을 제안하는 논문은 대개 그 방법의 일치성부터 확률수렴 개념으로 증명한 뒤에야 신뢰구간, 검정력 등 후속 결과로 넘어간다. 계량경제학, 머신러닝 이론, 신호처리 등 표본 수가 늘어나는 상황에서 추정 성능을 논하는 거의 모든 분야에서 이 개념이 반복적으로 등장한다.
논문에서는 이렇게 쓰입니다
추정량의 일치성을 수학적으로 엄밀하게 증명할 때 사용하는 표준적인 개념이다.
계량경제학이나 생물통계학 논문에서 최대우도추정법의 대표본 성질을 정당화할 때 자주 쓰이는 서술 방식이다.
머신러닝 이론 논문에서 반복 알고리즘의 수렴성을 확률적 관점에서 논할 때도 같은 개념이 활용된다.
조금 더 깊게 보면
확률수렴을 실제로 증명할 때는 체비셰프 부등식이나 마르코프 부등식처럼 확률의 상한을 구하는 부등식을 이용해, 추정량이 목표값에서 일정 거리 이상 벗어날 확률이 표본 크기 증가에 따라 0으로 가는지를 직접 보이는 경우가 많다. 또한 확률수렴하는 두 수열의 합이나 곱, 연속함수를 취한 결과도 다시 확률수렴한다는 연속사상정리(continuous mapping theorem)나 슬러츠키 정리가 자주 함께 쓰이는데, 이는 복잡한 추정량의 점근적 성질을 개별 구성요소의 수렴 결과들로부터 조합해서 유도할 수 있게 해주기 때문이다. 논문에서 "확률수렴"이라는 표현과 함께 이런 보조 정리들이 등장한다면, 그것이 최종 결론을 이끌어내기 위한 중간 단계라는 점을 염두에 두고 읽으면 이해가 수월하다.
주의할 점
확률수렴은 분포수렴보다 더 강한 개념으로, 확률수렴하면 분포수렴도 성립하지만 그 역은 일반적으로 성립하지 않는다.