무선오차와 체계적오차
쉽게 풀면
체중계로 같은 사람의 몸무게를 하루에 다섯 번 잰다고 해봅시다. 잴 때마다 62.1kg, 61.9kg, 62.3kg처럼 미세하게 다르게 나온다면, 이는 발을 딛는 위치나 순간적인 흔들림 같은 우연적 요인 때문입니다. 이런 식으로 특정 방향 없이 무작위로 흩어지는 오차를 무선오차라고 합니다.
그런데 만약 체중계 자체가 고장 나서 항상 실제보다 2kg 더 무겁게 나온다면, 다섯 번을 재도 매번 똑같이 2kg씩 부풀려집니다. 이렇게 항상 같은 방향과 크기로 값을 치우치게 만드는 오차를 체계적오차라고 합니다.
무선오차는 여러 번 측정해서 평균을 내면 어느 정도 상쇄되지만, 체계적오차는 아무리 여러 번 재도 저울을 고치지 않는 한 절대 사라지지 않습니다.
왜 중요한가
무선오차와 체계적오차의 구분은 측정 결과를 어떻게 개선하고 해석해야 하는지를 결정하는 출발점입니다. 무선오차가 큰 측정은 표본 수를 늘리거나 반복 측정으로 어느 정도 보완할 수 있지만, 체계적오차는 표본을 아무리 늘려도 사라지지 않고 결과를 특정 방향으로 왜곡시킵니다.
이 때문에 심리검사 개발, 설문 설계, 실험 계측 등 측정을 다루는 거의 모든 논문에서 신뢰도(무선오차 관련)와 타당도·편향(체계적오차 관련)을 구분해 보고하는 것이 방법론의 기본 요건으로 다뤄집니다.
핵심 정리
| 무선오차 | 체계적오차 | |
|---|---|---|
| 모양 | 매번 위아래로 흩어짐 | 항상 한 방향(또는 일정한 패턴)으로 치우침 |
| 연결되는 말 | 정밀도(precision), 신뢰도(reliability) | 정확도(accuracy)·바름, 편향(bias), 타당도(validity) |
| 반복 측정·평균의 효과 | 줄어듦 | 줄지 않음 |
| 줄이는 방법 | 반복 측정, 장비·절차 표준화, 표본 확대 | 장비 교정, 표준물질과 비교, 측정 방법 변경, 편향의 원인 제거 |
- 고전검사이론에서는 관찰점수를 X = T + E(참점수 + 오차)로 쓰고, E를 평균이 0인 무선오차로 봅니다. 모든 측정에 똑같이 붙는 체계적 편향은 T 쪽에 섞여 들어가 신뢰도 계수로는 드러나지 않습니다(Lord & Novick, 1968; Crocker & Algina, 1986).
- 측정학에서는 측정 결과의 오차를 이 둘의 합으로 보고, 알려진 체계 효과는 보정하고 남는 불확실성을 따로 평가합니다(JCGM 100:2008).
예시로 보기
작은 계산 예(가상의 예). 실제 20 kg인 표준 추를 재는 저울이 항상 +2 kg만큼 높게 표시하고(체계적오차), 읽을 때마다 표준편차 0.5 kg로 흔들린다(무선오차)고 합시다. n번 재서 평균을 낼 때 평균의 표준오차는 σ/√n입니다.
| 측정 횟수 n | 평균의 무선오차(표준오차) | 평균에 남는 체계적오차 |
|---|---|---|
| 1 | 0.50 kg | +2 kg |
| 4 | 0.25 kg | +2 kg |
| 25 | 0.10 kg | +2 kg |
| 100 | 0.05 kg | +2 kg |
100번을 재면 흔들림은 0.05 kg로 줄지만 +2 kg의 치우침은 그대로입니다. 이 치우침은 표준 추로 저울을 교정해야만 드러나고 없앨 수 있습니다. 설문에서도 같습니다. 문항을 늘려 알파를 높여도 모든 응답자가 사회적으로 바람직한 쪽으로 답하는 경향은 사라지지 않습니다.
자주 하는 오해
| 오해 | 바로잡기 |
|---|---|
| 측정을 많이 반복하면 오차가 모두 없어진다. | 평균으로 줄어드는 것은 무선오차뿐입니다. 체계적오차는 반복해도 같은 크기로 남습니다. |
| 신뢰도가 높으면 정확하다. | 신뢰도가 높다는 것은 일관되다는 뜻입니다. 일관되게 틀릴 수도 있습니다(체계적오차). |
| 체계적오차는 눈에 보인다. | 측정값끼리만 비교하면 드러나지 않고, 참값에 가까운 기준(표준물질, 다른 측정 방법)과 비교해야 드러납니다. |
| 이상한 값(이상치)은 무선오차다. | 이상치는 입력 실수, 장비 이상 등 다른 원인일 수 있어 원인을 따져 봐야 합니다. 오차의 종류와 별개의 문제입니다. |
논문에서는 이렇게 쓰입니다
실제 논문에서
이 용어를 직접 쓴 국내 논문 문장을 아직 수집하지 못했습니다. 수집되는 대로 출처와 함께 싣겠습니다.
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
이 문장은 "문항 간 일관성을 높여 우연적으로 흔들리는 오차는 줄였지만, 응답자가 항상 좋게 보이려고 답하는 경향처럼 일정한 방향으로 치우치는 오차는 신뢰도 지표만으로는 잡히지 않으므로 따로 확인했다"는 뜻입니다.
실험 장비를 알려진 표준값과 비교해 항상 일정 방향으로 치우치는 오차를 미리 바로잡고, 여러 번 측정해 얼마나 들쭉날쭉한지는 별도로 수치화했다는 뜻입니다.
조금 더 깊게 보면
통계적으로 무선오차는 측정의 정밀도(precision)와, 체계적오차는 정확도(accuracy)와 연결되는 개념으로 흔히 설명됩니다.
무선오차의 크기는 반복 측정값들의 표준편차나 표준오차로 나타낼 수 있는 반면, 체계적오차는 알려진 참값이나 표준 물질과 비교해야만 드러나기 때문에 측정 도구를 표준 기준으로 교정하는 과정이 중요하게 다뤄집니다.
심리측정 분야에서는 무선오차와 관련된 개념이 신뢰도(reliability)로, 체계적오차와 관련된 개념이 타당도(validity) 중에서도 특히 편향(bias) 문제로 이어진다는 점이 자주 강조됩니다.
주의할 점
신뢰도를 높이는 작업(문항 수를 늘리거나 표현을 통일하는 것)은 주로 무선오차를 줄이는 데 효과가 있을 뿐, 체계적오차(편향)에는 거의 도움이 되지 않습니다. 검사의 신뢰도 지표인 크론바흐 알파가 높다고 해서 그 검사에 체계적 편향이 없다고 오해해서는 안 됩니다.
헷갈리기 쉬운 용어
오차의 종류와 그에 대응하는 평가 용어를 짝지어 두면 덜 헷갈립니다.
| 용어 | 어떤 오차와 연결되나 | 한 줄 설명 |
|---|---|---|
| 정밀도 | 무선오차 | 반복 측정값이 서로 얼마나 가까운가 |
| 정확도 | 체계적오차(와 무선오차) | 측정값이 참값에 얼마나 가까운가 |
| 신뢰도 | 무선오차 | 측정이 일관되고 반복해도 같은 결과가 나오는가 |
| 타당도 | 체계적오차를 포함한 여러 근거 | 측정이 재려는 것을 정말 재는가 |
| 측정 불확도 | 두 오차를 포함한 종합 평가 | 측정값에 붙는 신뢰할 수 있는 범위 |
정확도는 문헌에 따라 “정확도 = 바름(trueness) + 정밀도”로 정의하기도 합니다(ISO 5725).
참고 문헌
- Taylor, J. R. (1997). An Introduction to Error Analysis: The Study of Uncertainties in Physical Measurements (2nd ed.). University Science Books.
- Joint Committee for Guides in Metrology. (2008). Evaluation of Measurement Data: Guide to the Expression of Uncertainty in Measurement (JCGM 100:2008). Bureau International des Poids et Mesures.
- Crocker, L., & Algina, J. (1986). Introduction to Classical and Modern Test Theory. Holt, Rinehart and Winston.
- Lord, F. M., & Novick, M. R. (1968). Statistical Theories of Mental Test Scores. Addison-Wesley.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.