분산 (Variance)

한 줄 정의: 데이터가 평균에서 얼마나 퍼져 있는지 나타내는 수치. 표준편차는 분산의 제곱근.

쉽게 풀면

반 학생들의 시험 점수가 모두 70점 근처에 몰려 있는 반과, 20점부터 100점까지 들쭉날쭉한 반을 상상해보세요. 두 반의 평균은 같을 수 있지만 "흩어진 정도"는 완전히 다릅니다. 분산은 각 값이 평균에서 떨어진 거리를 제곱해서 평균 낸 값으로, 이 흩어진 정도를 하나의 숫자로 표현합니다.

다만 제곱을 했기 때문에 단위가 원래 데이터와 달라지는데(예: cm의 분산은 cm²), 이를 다시 원래 단위로 되돌리기 위해 제곱근을 씌운 것이 표준편차입니다.

왜 중요한가

분산은 평균만으로는 드러나지 않는 데이터의 흩어진 정도를 수치화하기 때문에, 통계적 검정·모형 비교·품질 관리 등 거의 모든 정량 연구에서 기초 개념으로 쓰입니다. 두 집단의 평균이 같더라도 분산이 다르면 결론이 크게 달라질 수 있어, 분산분석(ANOVA)이나 회귀분석 같은 후속 통계기법의 전제조건을 점검하는 출발점이 되기도 합니다. 또한 기계학습에서는 모델의 예측이 데이터에 따라 얼마나 크게 흔들리는지를 나타내는 지표로 확장되어 쓰입니다.

계산과 범위

모분산 σ² = Σ(x_i − μ)² / N, 표본분산 s² = Σ(x_i − x̄)² / (n − 1)입니다. 평균에서의 거리를 제곱해서 평균한 값입니다.

범위: 0 이상. 모든 값이 같으면 0이고, 퍼질수록 커집니다. 음수는 불가능합니다.
단위: 원자료 단위의 제곱(cm → cm²). 그래서 해석에는 제곱근인 표준편차를 많이 씁니다.
n − 1로 나누는 이유: 표본평균이 표본에 맞춰져 있어 n으로 나누면 평균적으로 모분산보다 작게 나옵니다. n − 1로 나누면 불편(unbiased)이 됩니다. 이때 n − 1이 자유도입니다.
성질: Var(aX + b) = a²Var(X)(상수를 더해도 분산은 불변, 상수를 곱하면 제곱배). 서로 독립인 변수의 합의 분산은 분산의 합입니다.
극단값에 민감합니다(거리의 제곱이므로).

(직접 계산) 값 4, 8, 6, 5, 12의 평균은 7, 편차 제곱합은 40입니다. n으로 나누면 8.0, n − 1(= 4)로 나누면 표본분산 10.0(표준편차 3.16)입니다.

해석 기준

분산에는 “좋다/나쁘다”의 절대 기준이 없습니다. 같은 단위의 자료끼리, 또는 같은 변수의 집단끼리 비교할 때 의미가 있습니다. 단위가 다르면 비교할 수 없으므로 변동계수(표준편차/평균) 같은 상대 지표를 씁니다.

분산의 동질성(등분산): t검정, 분산분석의 전제입니다. Levene 검정, Bartlett 검정으로 확인하고, 깨지면 Welch 보정을 씁니다.
분산의 구성: 분산분석은 전체 분산을 집단 간 분산과 집단 내 분산으로 나눠 비교합니다. 이름의 “분산”은 이것입니다.
기계학습의 분산은 학습 자료가 바뀔 때 예측이 얼마나 변하는지를 뜻하며, 편향–분산 상충에서 쓰입니다.

(모의실험, 직접 계산) 참 분산이 4인 정규분포에서 표본 5개씩 200,000번 뽑았습니다. n으로 나눈 분산의 평균은 3.20(참값의 약 80% = (n − 1)/n), n − 1로 나눈 분산의 평균은 4.00로 참값에 맞습니다.

보고 방법

분산 자체는 결과 요약보다 분산 성분 추정(혼합모형의 σ², ICC), 등분산 검정, 이득·손실 비교 등에서 보고됩니다. 자료를 요약할 때는 보통 표준편차를 씁니다.

두 집단의 분산은 동질하였다(Levene 검정, F = 0.42, p = .52). 개체 간 분산 성분은 σ²_u = 3.4, 잔차 분산은 σ²_ε = 5.1이었다.

(위 수치는 형식을 보여 주는 가상의 값입니다.)
분산인지 표준편차인지를 표 머리글에 분명히 적습니다(SD, Var).
소프트웨어마다 기본 나눗수가 다를 수 있습니다. R의 var()와 Excel의 VAR.S는 n − 1로 나누고, 파이썬 numpy의 var()는 기본값(ddof = 0)에서 n으로 나눕니다.

논문에서는 이렇게 쓰입니다

실제 논문에서

국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.

“An independent sample t-test was performed after verifying the homogeneity of variances using Levene’s test.”
유아교육기관의 식생활•영양교육에 대한 학부모의 요구도와 인식도: 혼합연구, Korean Journal of Community Nutrition, 2025 · KoreaMed Synapse · 원문 보기 ↗
“그러나 실험군과 대조군의 정규 시험 점수의 분산은 통계적으로 유의미한 차이는 없었다.”
완전 숙달 학습 개념 기반 온라인 문제 다변화 수시 시험 프로그램을 통한 일반물리학의 학업 성취도 향상, 학습자중심교과교육연구, 2024 · KCI 한국학술지인용색인 · 원문 보기 ↗

예시 문장

아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.

"실험군의 반응 시간 분산은 대조군보다 유의하게 컸다 (Levene's test, p < .05)."

실험군 참가자들의 반응 시간이 대조군보다 사람마다 훨씬 들쭉날쭉했다는 뜻입니다. 평균만 봐서는 이런 차이를 알 수 없습니다.

"주가 수익률의 분산은 변동성의 척도로 사용되었으며, 관찰 기간 동안 분산이 확대되는 구간은 시장 불확실성이 커진 시기와 대체로 일치하였다."

금융·경제학 연구에서는 분산을 위험이나 변동성의 대리지표로 활용하는 경우가 많으며, 이 예문은 분산의 변화 추이를 시장 상황 해석에 연결한 사례입니다.

"모델의 예측 오차를 편향과 분산으로 분해한 결과, 복잡도가 높은 모델일수록 편향은 줄었으나 분산이 증가하는 경향이 관찰되었다."

기계학습 논문에서는 이처럼 예측 성능을 편향-분산 관점에서 분석해, 모델이 과적합되는 경향을 설명하는 데 분산 개념을 활용합니다.

조금 더 깊게 보면

분산은 계산 방식에 따라 모집단 전체를 대상으로 한 모분산과, 표본으로부터 모분산을 추정하는 표본분산으로 나뉘며, 표본분산은 일반적으로 자유도를 하나 줄인 n-1로 나누어 편향을 보정합니다.

여러 집단의 분산이 서로 다른지를 검정하는 등분산성 검정(Levene 검정, Bartlett 검정 등)은 t검정이나 분산분석을 수행하기 전에 흔히 선행되며, 등분산 가정이 위배되면 이를 보정한 검정 방법을 사용하기도 합니다.

기계학습에서는 분산이 모델이 훈련 데이터의 작은 변화에 얼마나 민감하게 반응하는지를 나타내는 개념으로 확장되어, 편향-분산 트레이드오프 논의의 핵심 축이 됩니다.

주의할 점

분산은 제곱 단위라서 원래 데이터의 감각적인 크기와 바로 비교하기 어렵습니다. 논문에서 산포도를 직관적으로 파악하려면 분산보다 표준편차 값을 함께 보는 것이 좋습니다.

헷갈리기 쉬운 용어

“분산”이 들어간 말이 많아 구분이 필요합니다.

용어	무엇인가	관계
분산	평균 편차 제곱의 평균	산포의 기본 척도. 단위는 제곱
표준편차	분산의 제곱근	분산을 원래 단위로 되돌림
표준오차	추정값(예: 표본평균)의 표준편차	자료의 흩어짐이 아니라 추정의 불확실성
분산분석(ANOVA)	분산을 쪼개 평균 차이를 검정	분산을 비교하는 것이 아니라 평균을 비교
분산팽창계수(VIF)	다중공선성으로 계수 분산이 커진 정도	회귀계수 추정의 문제 진단
공분산	두 변수가 함께 변하는 정도	변수 하나일 때 공분산은 분산

참고 문헌

Fisher, R. A. (1918). The correlation between relatives on the supposition of Mendelian inheritance. Transactions of the Royal Society of Edinburgh, 52(2), 399–433.
Casella, G., & Berger, R. L. (2002). Statistical Inference (2nd ed.). Duxbury.
Rice, J. A. (2007). Mathematical Statistics and Data Analysis (3rd ed.). Cengage Learning.

표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.