1종 오류 (Type I Error)
쉽게 풀면
화재경보기가 불이 나지 않았는데도 울리는 상황을 떠올려보세요. 1종 오류는 통계 검정에서 이런 "잘못된 경보"에 해당합니다. 실제로는 귀무가설(차이가 없다)이 맞는데도, 우연히 데이터가 튀는 바람에 "차이가 있다"고 잘못 결론 내리는 경우입니다.
유의수준(보통 α = .05)은 바로 이 1종 오류를 얼마나 허용할지를 미리 정해둔 확률입니다. 즉 유의수준 5%란, 실제로 효과가 없어도 우연히 유의한 결과가 나올 확률을 5%까지는 감수하겠다는 뜻입니다.
왜 중요한가
1종 오류는 통계적 유의성을 근거로 결론을 내리는 거의 모든 실증 연구에서 반드시 통제해야 하는 위험이기 때문에, 연구설계 단계에서부터 유의수준 설정과 다중비교 문제로 이어져 논문 전반에 걸쳐 다뤄집니다. 특히 여러 조건이나 변수를 동시에 비교하는 연구, 유전체나 뇌영상처럼 검정을 수천 번 반복하는 분야에서는 1종 오류를 어떻게 통제했는지가 결과의 신뢰성을 좌우하는 핵심 쟁점이 됩니다.
핵심 정리
- 1종 오류는 귀무가설이 참인데 기각하는 오류, 즉 효과가 없는데 있다고 하는 위양성(false positive)입니다. 그 확률의 상한을 유의수준 α로 정합니다.
- 2종 오류는 귀무가설이 거짓인데 기각하지 못하는 오류(위음성)이고 확률은 β, 검정력은 1 − β입니다.
- 표본 크기가 같다면 α를 낮출수록 β가 커지는 상충 관계가 있습니다.
- α는 검정 하나에 대한 확률입니다. 여러 가설을 검정하거나 분석 방법을 바꿔 가며 시도하면 실제 위양성 확률은 α보다 커집니다.
| 현실 \ 판정 | 기각 | 기각 실패 |
|---|---|---|
| H₀ 참 | 1종 오류 (확률 ≤ α) | 옳은 판정 |
| H₀ 거짓 | 옳은 판정 (검정력) | 2종 오류 (β) |
예시로 보기
모의 실험으로 확인해 봅시다(계산 결과). 효과가 전혀 없도록 두 집단을 같은 정규분포(평균 0, 표준편차 1)에서 20명씩 뽑아 t검정을 20,000번 반복했더니 p < .05가 나온 비율은 4.9%였습니다. α = .05가 이론대로 지켜진 것입니다.
그런데 한 연구에서 이런 비교를 20개 하고 그중 하나라도 유의하면 ‘발견’이라 보고한다면, 같은 모의 실험에서 연구 4,000개 중 63.7%가 적어도 하나의 ‘유의한 결과’를 얻었습니다(이론값 1 − .9520 = 64.2%). 효과가 하나도 없는데도 그렇습니다.
대응 방법은 크게 두 가지입니다. 하나라도 잘못 기각할 확률(FWER)을 묶는 본페로니·홀름 방법, 그리고 기각한 것 중 잘못된 비율(FDR)을 묶는 Benjamini-Hochberg 방법(위발견율)입니다.
자주 하는 오해
- “p < .05이면 이 결과가 틀렸을 확률이 5%”가 아닙니다. 1종 오류율은 귀무가설이 참이라는 전제에서의 확률입니다. 발견이 거짓일 확률은 사전에 효과가 있을 가능성과 검정력에 따라 크게 달라집니다(Ioannidis, 2005).
- 분석 방법을 여러 가지 시도하다가 유의한 것만 보고하면 α가 지켜지지 않습니다. 모의 실험에서 이런 융통성이 위양성률을 크게 높일 수 있음이 보고되었습니다(Simmons 외, 2011).
- 1종 오류는 ‘확률적으로 늘 존재한다’는 점을 인정하는 개념이지, 연구자의 실수가 아닙니다. 올바른 절차를 따라도 α의 비율만큼 일어납니다.
- “1종 오류가 항상 2종 오류보다 중대하다”는 일반 규칙은 없습니다. 놓쳤을 때의 비용이 큰 질병 선별에서는 2종 오류가 더 중대할 수 있습니다.
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“한편 BPRS 18개 세부 항목 분석은 탐색적 분석으로 수행하였으며, 다중비교에 따른 제1종 오류를 통제하기 위하여 Bonferroni correction을 적용하였다.”
장기 입원 정신장애 환자를 위한 구조화된 사이코드라마의 효과: 예비 연구, Korean Journal of Schizophrenia Research, 2026 · KoreaMed Synapse · 원문 보기 ↗
“개선된 제1종의 오류를 범할 확률과 검정력을 갖는다는 것을 모의실험을 통해 확인하였고 실제 자료 분석을 통해 결과를 도출하였다.”
종양 이질성을 검정을 위한 통계적 방법론 연구, 응용통계연구, 2019 · KCI 한국학술지인용색인 · 원문 보기 ↗
“본 연구에서는 몬테카를로 시뮬레이션을 통해 무선효과 구조를 검정하기 위한 LRT 영가설 분포의 모양, 1종 오류 비율, 수렴 실패율에 대해 알아보았다.”
실험자료 분석 시 무선효과 구조 선택을 위한 우도비 검정에서의 영가설 분포의 모양, 한국심리학회지:일반, 2025 · KCI 한국학술지인용색인 · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
여러 번 통계 검정을 반복하면 우연히 유의한 결과가 나올 확률(잘못된 경보)이 누적되어 커지므로, 이를 보정하는 절차를 사용했다는 뜻입니다.
검정 횟수가 극단적으로 많은 유전체 연구에서는 일반적인 유의수준(0.05)을 그대로 쓰면 우연히 유의하게 나오는 결과가 매우 많아지므로, 훨씬 엄격한 기준을 적용해 1종 오류를 관리한다는 뜻입니다.
조금 더 깊게 보면
1종 오류를 통제하는 방법은 크게 개별 검정마다 오류율을 엄격히 낮추는 방식(본페로니 보정 등)과, 여러 검정 중 잘못된 발견이 차지하는 비율을 관리하는 위양성발견율(false discovery rate, FDR) 방식으로 나뉩니다. 검정 횟수가 매우 많을 때는 본페로니 보정이 지나치게 보수적이어서 진짜 효과까지 놓칠 수 있기 때문에, 벤자미니-호크버그(Benjamini-Hochberg) 절차 같은 FDR 통제 방법이 대안으로 널리 쓰입니다.
주의할 점
여러 개의 가설을 동시에 검정할수록 1종 오류가 발생할 누적 확률이 커집니다. 검정을 많이 반복한 논문이라면 다중비교 보정을 했는지 확인해보는 것이 좋습니다.
헷갈리기 쉬운 용어
오류의 종류와 그 확률을 가리키는 이름이 많습니다.
| 용어 | 뜻 | 확률 기호 |
|---|---|---|
| 1종 오류 | 참인 H₀를 기각 (위양성) | α |
| 2종 오류 | 거짓인 H₀를 기각하지 못함 (위음성) | β |
| 검정력 | 거짓인 H₀를 옳게 기각 | 1 − β |
| 유의수준 | 1종 오류 확률의 허용 한도 | α (연구자가 정함) |
| 유의확률 | H₀ 가정 시 관측값 이상으로 극단적일 확률 | p (자료에서 나옴) |
‘1종 오류율’은 절차의 성질이고, ‘p값’은 이 자료의 결과입니다.
참고 문헌
- Neyman, J., & Pearson, E. S. (1933). On the problem of the most efficient tests of statistical hypotheses. Philosophical Transactions of the Royal Society of London, Series A, 231, 289–337.
- Benjamini, Y., & Hochberg, Y. (1995). Controlling the false discovery rate: A practical and powerful approach to multiple testing. Journal of the Royal Statistical Society, Series B, 57(1), 289–300.
- Simmons, J. P., Nelson, L. D., & Simonsohn, U. (2011). False-positive psychology: Undisclosed flexibility in data collection and analysis allows presenting anything as significant. Psychological Science, 22(11), 1359–1366.
- Ioannidis, J. P. A. (2005). Why most published research findings are false. PLoS Medicine, 2(8), e124.
- Lehmann, E. L., & Romano, J. P. (2005). Testing Statistical Hypotheses (3rd ed.). Springer.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.