제1종-제2종 오류 상충관계 (Type I-Type II Error Tradeoff)
쉽게 풀면
재판에서 무죄인 사람을 유죄로 판단하는 실수(제1종 오류)를 줄이려고 기준을 엄격하게 하면, 반대로 유죄인 사람을 무죄로 놓아주는 실수(제2종 오류)가 늘어나는 경향이 있다. 통계적 가설검정에서도 마찬가지로, 유의수준을 낮춰 제1종 오류를 줄이면 검정력이 떨어져 제2종 오류(참인 효과를 놓치는 것)가 늘어나는 상충관계가 발생한다. 이 균형을 어떻게 잡을지는 표본 크기를 늘리거나 검정 방법을 개선함으로써 어느 정도 완화할 수 있다.
왜 중요한가
연구설계 단계에서 유의수준과 표본 크기를 정하는 일은 결국 이 두 오류 사이에서 어느 쪽에 무게를 둘지 결정하는 문제이기 때문에, 통계적 방법론을 다루는 거의 모든 논문의 사전 검정력 분석(power analysis)에서 이 상충관계가 암묵적으로 전제됩니다. 특히 의학, 임상시험처럼 오류의 결과가 사람의 건강과 직결되는 분야에서는 이 균형을 명시적으로 논의하는 것이 연구설계의 정당성을 보이는 데 중요합니다.
논문에서는 이렇게 쓰입니다
연구 설계 단계에서 표본 크기를 결정하거나 유의수준을 설정하는 근거를 설명할 때 사용된다.
임상시험처럼 오류의 결과가 무겁게 작용하는 분야에서는 어느 오류를 더 경계할지 미리 판단하고, 이를 표본 크기 설계로 보완한다는 뜻입니다.
조금 더 깊게 보면
두 오류의 상충관계는 검정력 함수(power function)라는 개념으로 정식화할 수 있으며, 유의수준(α), 효과크기, 표본 크기, 검정력(1-β) 이 네 가지 값은 서로 다른 세 개가 정해지면 나머지 하나가 결정되는 관계에 있습니다. 이 때문에 연구자는 사전에 기대하는 효과크기와 원하는 검정력을 바탕으로 필요한 표본 크기를 역산하는 사전 검정력 분석을 수행하는 것이 표준적인 절차로 자리 잡고 있습니다.
주의할 점
두 오류를 동시에 0으로 만들 수는 없으며, 어느 오류를 더 중요하게 여길지는 연구의 맥락(예: 의학에서는 제2종 오류가 더 치명적일 수 있음)에 따라 달라진다.