분산 (Variance)
쉽게 풀면
반 학생들의 시험 점수가 모두 70점 근처에 몰려 있는 반과, 20점부터 100점까지 들쭉날쭉한 반을 상상해보세요. 두 반의 평균은 같을 수 있지만 "흩어진 정도"는 완전히 다릅니다. 분산은 각 값이 평균에서 떨어진 거리를 제곱해서 평균 낸 값으로, 이 흩어진 정도를 하나의 숫자로 표현합니다. 다만 제곱을 했기 때문에 단위가 원래 데이터와 달라지는데(예: cm의 분산은 cm²), 이를 다시 원래 단위로 되돌리기 위해 제곱근을 씌운 것이 표준편차입니다.
왜 중요한가
분산은 평균만으로는 드러나지 않는 데이터의 흩어진 정도를 수치화하기 때문에, 통계적 검정·모형 비교·품질 관리 등 거의 모든 정량 연구에서 기초 개념으로 쓰입니다. 두 집단의 평균이 같더라도 분산이 다르면 결론이 크게 달라질 수 있어, 분산분석(ANOVA)이나 회귀분석 같은 후속 통계기법의 전제조건을 점검하는 출발점이 되기도 합니다. 또한 기계학습에서는 모델의 예측이 데이터에 따라 얼마나 크게 흔들리는지를 나타내는 지표로 확장되어 쓰입니다.
논문에서는 이렇게 쓰입니다
실험군 참가자들의 반응 시간이 대조군보다 사람마다 훨씬 들쭉날쭉했다는 뜻입니다. 평균만 봐서는 이런 차이를 알 수 없습니다.
금융·경제학 연구에서는 분산을 위험이나 변동성의 대리지표로 활용하는 경우가 많으며, 이 예문은 분산의 변화 추이를 시장 상황 해석에 연결한 사례입니다.
기계학습 논문에서는 이처럼 예측 성능을 편향-분산 관점에서 분석해, 모델이 과적합되는 경향을 설명하는 데 분산 개념을 활용합니다.
조금 더 깊게 보면
분산은 계산 방식에 따라 모집단 전체를 대상으로 한 모분산과, 표본으로부터 모분산을 추정하는 표본분산으로 나뉘며, 표본분산은 일반적으로 자유도를 하나 줄인 n-1로 나누어 편향을 보정합니다. 여러 집단의 분산이 서로 다른지를 검정하는 등분산성 검정(Levene 검정, Bartlett 검정 등)은 t검정이나 분산분석을 수행하기 전에 흔히 선행되며, 등분산 가정이 위배되면 이를 보정한 검정 방법을 사용하기도 합니다. 기계학습에서는 분산이 모델이 훈련 데이터의 작은 변화에 얼마나 민감하게 반응하는지를 나타내는 개념으로 확장되어, 편향-분산 트레이드오프 논의의 핵심 축이 됩니다.
주의할 점
분산은 제곱 단위라서 원래 데이터의 감각적인 크기와 바로 비교하기 어렵습니다. 논문에서 산포도를 직관적으로 파악하려면 분산보다 표준편차 값을 함께 보는 것이 좋습니다.