큰 수의 법칙 (Law of Large Numbers)
쉽게 풀면
동전을 10번만 던지면 앞면이 7번 나오는 등 앞면 비율이 70%처럼 이론값(50%)에서 크게 벗어날 수 있습니다. 그런데 동전을 1,000번, 10,000번 던지면 던질수록 앞면이 나온 비율은 점점 50%에 가까워집니다. 이것이 큰 수의 법칙입니다.
"운이 좋아서 잠깐 치우칠 수는 있어도, 시행을 충분히 반복하면 결국 진짜 확률에 수렴한다"는 뜻입니다. 이 원리 때문에 설문조사나 실험에서 표본 크기를 늘릴수록 관찰된 평균이 모집단의 실제 평균에 더 안정적으로 가까워진다고 기대할 수 있습니다.
왜 중요한가
큰 수의 법칙은 왜 통계적 추정에 충분히 많은 표본이 필요한지를 뒷받침하는 근본 원리이기 때문에, 표본 크기를 정당화하거나 시뮬레이션 반복 횟수를 결정하는 거의 모든 실증 연구에서 암묵적으로 전제됩니다. 또한 몬테카를로 시뮬레이션처럼 반복 시행을 통해 값을 근사적으로 추정하는 방법론의 이론적 기반이기도 하며, 보험료나 위험 산정처럼 다수의 사건을 관리하는 응용 분야에서도 핵심적인 근거로 쓰입니다.
핵심 정리
- 평균이 μ인 분포에서 독립적으로 뽑은 값들의 표본평균 X̄n은 n이 커질수록 μ에 가까워집니다. 이것이 큰 수의 법칙입니다.
- 약한 법칙: 임의의 작은 ε에 대해 |X̄n − μ| > ε일 확률이 0으로 갑니다(확률수렴). 강한 법칙: X̄n이 거의 확실하게(확률 1로) μ로 수렴합니다. 강한 법칙이 더 강한 주장입니다. 독립이고 동일한 분포를 따르는 값에 대해서는 평균이 유한하기만 하면 두 법칙이 모두 성립합니다.
- 수렴하는 대상은 평균(또는 비율)이지 합계가 아닙니다. 합계의 절대 오차는 오히려 커질 수 있습니다.
- 수렴 속도는 표준오차 σ/√n으로 느립니다. 표본을 4배로 늘려야 오차가 절반이 됩니다.
- 큰 수의 법칙은 ‘평균이 어디로 가는가’, 중심극한정리는 ‘그 주변에서 어떤 모양으로 흩어지는가’를 말합니다.
예시로 보기
주사위 평균(가상 모의 실험). 공정한 주사위의 기댓값은 3.5이고 한 번 던질 때 표준편차는 약 1.71입니다. 컴퓨터로 10만 번 던져 앞에서부터 n번째까지의 평균을 보면:
| 던진 횟수 n | 표본평균 | 3.5와의 차 | 표준오차 1.71/√n |
|---|---|---|---|
| 10 | 3.000 | 0.500 | 0.540 |
| 100 | 3.430 | 0.070 | 0.171 |
| 1,000 | 3.456 | 0.044 | 0.054 |
| 10,000 | 3.506 | 0.006 | 0.017 |
| 100,000 | 3.494 | 0.006 | 0.005 |
6의 눈이 나온 비율도 .100, .140, .166, .170, .166으로 1/6 = .167 근처에 모입니다. 같은 평균을 100번 던진 평균으로 2만 번 반복하면 평균들의 표준편차는 .170으로 이론값 .171과 거의 같고, 평균이 3.4~3.6 안에 들어올 확률은 n = 100에서 약 42%, n = 1,000에서 약 93%, n = 10,000에서 거의 100%였습니다.
‘보상’은 없다(가상 모의 실험). 동전을 200만 번 던져 앞면이 5번 연속 나온 뒤 다음 던지기를 보니 앞면 비율은 49.8%(해당 경우 61,888번)로 .5와 같았습니다. 큰 수의 법칙은 과거의 치우침을 미래가 되갚아서가 아니라, 앞으로의 많은 시행이 과거의 치우침을 희석해서 성립합니다.
자주 하는 오해
| 오해 | 바로잡기 |
|---|---|
| 앞면이 연속으로 나왔으니 이제 뒷면이 나올 때가 됐다. | 도박사의 오류(도박사의 오류). 독립인 시행에서 다음 결과의 확률은 변하지 않습니다. |
| 적은 수의 시행에서도 비율이 확률과 같아져야 한다. | 작은 표본은 크게 흔들립니다. 작은 표본이 모집단을 그대로 닮을 것이라고 믿는 경향을 ‘소수의 법칙에 대한 믿음’이라 부릅니다(Tversky & Kahneman, 1971). |
| 표본을 늘리면 편향도 사라진다. | 법칙은 무작위·독립 추출을 전제로 합니다. 대표성이 없는 표본이나 측정 편향은 표본이 커져도 그대로 남습니다(큰 표본이 큰 편향을 안정적으로 보여 줄 뿐). |
| 모든 분포의 표본평균이 수렴한다. | 평균이 존재하지 않는 분포(예: 코시 분포)는 해당하지 않습니다. 위 모의 실험에서 코시 난수의 누적 평균은 0.66(n=10), −138.6(100), −14.0(1,000), −2.2(10,000), −0.9(100,000)로 안정되지 않았습니다. |
| n = 30이면 큰 수의 법칙이 적용된다. | ‘n ≥ 30’은 중심극한정리의 편의상 경험칙으로 거론될 뿐 큰 수의 법칙과 무관합니다. 필요한 n은 분포와 요구하는 정밀도에 따라 다릅니다. |
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“그리고 상대도수를 통해 가망성을 파악할 수 있을 것이라는 기대에 대한 이상적인 조건에서의 정당화라는 큰 수의 법칙의 의미가 잘 드러나도록 이 법칙을 서술 및 해석할 것을 제언하였다.”
확률과 통계의 시행과 두 가지 확률에 대한 고찰 및 교육적 시사점, 한국수학사학회지, 2018 · KCI 한국학술지인용색인 · 원문 보기 ↗
“큰 수의 법칙을 이해하기 위해서는 시행 횟수를 늘림에 따라 나타나는 분포의 전체적인 경향과 개별 시행에서 나타나는 변이성을 동시에 파악해야 할 필요가 있다.”
확률실험 환경에서 초등학교 수학영재 학생과 일반 학생의 확률 탐구 특성 비교, 학교수학, 2019 · KCI 한국학술지인용색인 · 원문 보기 ↗
“또한큰 수의 법칙의 직관과 관련하여 시행횟수가 큰 시뮬레이션일수록 신뢰도가 높아진다는 직관을 갖고 있지만, 시뮬레이션에서 큰 시행횟수가 어떤 역할을 하는지는 알지 못했다.”
구슬 떨어뜨리기 시뮬레이션에서 초등학교 5학년 학생들의 가능성 추론 분석, 학교수학, 2022 · KCI 한국학술지인용색인 · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
논문에서 표본 수를 크게 잡는 근거를 설명할 때, 표본이 커질수록 추정값이 안정적으로 참값에 가까워진다는 원리로 큰 수의 법칙을 인용합니다.
계산과학·금융공학 분야에서는 난수를 이용한 시뮬레이션 반복 횟수를 정당화할 때 큰 수의 법칙을 근거로 제시하는 경우가 많습니다.
보험·리스크 관리 연구에서는 다수의 계약자를 모을수록 예측이 안정된다는 원리를 설명할 때 이 법칙을 인용합니다.
조금 더 깊게 보면
큰 수의 법칙에는 표본평균이 확률적으로 모평균에 가까워진다는 약한 법칙과, 거의 확실하게(1의 확률로) 수렴한다는 강한 법칙 두 가지 형태가 있으며, 둘은 수렴의 강도에서 차이가 있습니다. 실제 논문에서 "충분히 큰 표본"이라는 표현을 쓸 때는, 표본평균이 얼마나 빠르게 수렴하는지에 영향을 주는 모집단의 분산이나 표본의 독립성 여부도 함께 고려하는 것이 일반적입니다.
주의할 점
큰 수의 법칙은 표본 크기를 늘리면 평균값이 안정된다는 것이지, 개별 시행 하나하나가 "균형을 맞추기 위해" 조정된다는 뜻이 아닙니다. 동전을 던져 앞면이 5번 연속 나왔다고 해서 다음번엔 뒷면이 나올 확률이 더 높아지는 것은 아닙니다(이런 잘못된 믿음을 도박사의 오류라고 부릅니다). 큰 수의 법칙은 표본평균이 모평균으로 수렴한다는 내용이고, 그 주변에서 표본평균이 어떤 모양으로 흩어지는지(표본이 크면 정규분포에 가까워진다)를 알려 주는 중심극한정리와 함께 이해하면 좋습니다.
헷갈리기 쉬운 용어
‘표본이 크면 좋다’는 같은 말처럼 들리지만 세 개념은 다른 것을 말합니다.
| 용어 | 말하는 것 | 한 줄 요약 |
|---|---|---|
| 큰 수의 법칙 | 표본평균이 모평균에 수렴 | 평균이 어디로 가는가 |
| 중심극한정리 | 표본평균의 분포가 정규분포에 가까워짐 | 어떤 모양으로 흩어지는가 |
| 표준오차 | 표본평균이 얼마나 흩어지는지의 크기(σ/√n) | 얼마나 흩어지는가 |
| 도박사의 오류 | 독립 시행이 ‘균형을 맞춘다’는 잘못된 믿음 | 법칙의 오해 |
보험에서 말하는 ‘대수의 법칙’도 같은 법칙입니다. 가입자가 많아지면 평균 손해가 예측 가능해진다는 뜻으로 쓰입니다.
참고 문헌
- Bernoulli, J. (1713). Ars conjectandi. Thurneysen Brothers.
- Feller, W. (1968). An introduction to probability theory and its applications (Vol. 1, 3rd ed.). Wiley.
- Grimmett, G., & Stirzaker, D. (2001). Probability and random processes (3rd ed.). Oxford University Press.
- Tversky, A., & Kahneman, D. (1971). Belief in the law of small numbers. Psychological Bulletin, 76(2), 105–110.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.