우도비검정 (Likelihood Ratio Test)

통계
한 줄 정의: 변수를 몇 개 더 넣은 복잡한 모형이, 그 변수들을 뺀 단순한 모형보다 데이터를 통계적으로 유의하게 더 잘 설명하는지를 비교하는 검정 방법입니다.

쉽게 풀면

같은 데이터를 두 가지 모형으로 설명한다고 해봅시다. 하나는 변수 몇 개만 넣은 "단순 모형"이고, 다른 하나는 변수를 더 추가한 "복잡한 모형"입니다. 복잡한 모형은 변수가 많으니 데이터를 항상 조금이라도 더 잘 맞춥니다. 문제는 "이 차이가 진짜 의미 있는 개선인가, 아니면 변수만 늘려서 생긴 우연한 차이인가"입니다. 우도비검정은 두 모형의 우도(데이터가 그 모형에서 나올 가능성)를 비교해서, 그 차이가 우연으로 보기엔 너무 크다면 "복잡한 모형이 진짜로 더 낫다"고 판단하는 방법입니다. 두 모형의 로그우도 차이에 2를 곱한 값이 카이제곱분포를 따른다는 성질을 이용합니다.

왜 중요한가

연구자는 흔히 "이 변수를 모형에 추가할 가치가 있는가"라는 질문에 부딪히는데, 우도비검정은 이 질문에 통계적 근거를 제공하는 표준적인 방법입니다. 심리학·의학·사회과학의 회귀모형뿐 아니라 유전학의 계통모형 비교, 생태학의 개체군 모형 선택 등 폭넓은 분야에서 두 모형의 적합도 차이를 검증하는 데 쓰입니다. 그래서 모형을 단계적으로 발전시키며 결과를 보고하는 논문에서는 거의 빠짐없이 등장합니다.

언제 쓰나

한 모형이 다른 모형의 특수한 경우(변수 일부를 빼거나 모수에 제약을 건 모형)일 때, 제약을 푼 큰 모형이 유의하게 더 잘 맞는지 확인하려고 씁니다. 로지스틱 회귀의 전체 유의성(절편만 있는 모형 대 변수 포함 모형), 변수 묶음을 한꺼번에 추가·제거할 때, 다층모형에서 무선효과를 넣을지 정할 때가 대표적입니다.

방법필요한 적합비교 가능한 모형비고
우도비검정(LRT)제약 모형과 비제약 모형 둘 다중첩(nested) 모형큰 모형에서 제약을 풀어 정한 두 모형 비교
왈드 검정큰 모형 하나같은 모수에 대한 제약계산이 간단하나 표본이 작을 때 우도비검정보다 불안정
스코어 검정제약 모형 하나같은 모수에 대한 제약큰 모형을 적합하기 어려울 때 유용
AIC·BIC각 모형중첩이 아니어도 됨가설검정이 아니라 모형 선택 기준

결과는 이렇게 읽는다

작은 예. 제약 모형의 로그우도가 −245.3, 변수 2개를 추가한 모형이 −238.9라면 LR = 2 × (−238.9 + 245.3) = 12.8, 자유도 2입니다. 자유도 2의 카이제곱분포에서 12.8 이상이 나올 확률은 e−12.8/2 ≈ .002이므로 추가한 두 변수는 모형을 유의하게 개선했다고 봅니다.

다층모형에서 무선효과의 분산이 0인지 검정하는 것처럼 모수가 허용 범위의 경계에 있는 경우에는 표준 카이제곱 근사가 맞지 않습니다. 분산 성분 하나를 검정한다면 카이제곱(자유도 1)에서 구한 p를 대략 절반으로 줄여 쓰는 것이 알려진 보정입니다.

논문에는 이렇게 보고한다

비교한 두 모형이 무엇인지, 카이제곱 값, 자유도, p를 함께 적습니다. (수치는 형식을 보여 주려는 가상의 값입니다.)

연령과 소득을 추가한 모형은 절편만 있는 모형보다 적합도가 유의하게 향상되었다(χ²(2) = 12.80, p = .002).

한국어 논문에서는 “우도비 검정(likelihood ratio test, LRT)”, “−2 로그우도의 변화량(Δ−2LL)”, “모형 χ²” 등으로 표기됩니다. 구조방정식모형에서 같은 이름의 ‘χ² 차이 검정’이 쓰이는 것도 같은 원리입니다. 우도비검정은 큰 모형이 더 좋다는 것만 알려 주므로, 모형 선택에는 AIC·BIC 같은 정보기준을 함께 보고하는 경우가 많습니다.

논문에서는 이렇게 쓰입니다

실제 논문에서

국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.

예시 문장

아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.

"교호작용항을 추가한 모형은 추가하지 않은 모형에 비해 통계적으로 유의하게 적합도가 개선되었다 (우도비검정, χ² = 12.4, df = 2, p < .01)."

이 문장은 "변수를 추가한 복잡한 모형이 단순한 모형보다 데이터를 설명하는 능력이 우연이라 보기 어려울 만큼 더 좋아졌다"는 뜻입니다.

"계통유전학적 모형 선택에서 염기치환 모형의 복잡도를 높인 모형이 단순 모형보다 우도비검정 결과 유의하게 더 나은 적합도를 보였다."

진화생물학 논문에서는 DNA 서열 진화를 설명하는 여러 모형 중 어느 것이 데이터를 더 잘 설명하는지 고를 때도 같은 논리의 우도비검정이 쓰인다는 것을 보여줍니다.

"무선효과를 추가한 다층모형이 고정효과만 있는 모형보다 유의하게 적합도가 향상되었음을 우도비검정으로 확인하였다."

다층모형(위계선형모형)에서 무선효과를 넣을지 말지를 결정할 때도 우도비검정이 표준적인 판단 근거로 쓰인다는 예입니다.

조금 더 깊게 보면

우도비검정통계량은 두 모형의 로그우도 차이에 2를 곱한 값으로, 표본크기가 충분히 크면 근사적으로 두 모형의 모수 개수 차이만큼의 자유도를 가진 카이제곱분포를 따른다는 성질(윌크스 정리)에 기반합니다. 다층모형에서 무선효과의 분산을 0으로 둘지 검정하는 경우처럼 모수가 모수공간의 경계에 위치하는 상황에서는 표준 카이제곱 근사가 그대로 성립하지 않아 별도의 보정이 필요하다는 점도 알아둘 만합니다. 실무에서는 이 통계량과 함께 모형 간 비교를 보완하는 지표로 AIC, BIC 같은 정보기준을 나란히 보고하는 경우가 많습니다.

주의할 점

우도비검정은 두 모형 중 하나가 다른 하나를 포함하는 관계, 즉 "중첩모형(nested model)"일 때만 사용할 수 있습니다. 서로 다른 종류의 모형을 비교하려면 정보기준처럼 중첩 관계가 필요 없는 지표를 대신 써야 합니다.

헷갈리기 쉬운 용어

‘우도비’라는 말은 두 가지 다른 뜻으로 쓰입니다.

용어계산쓰임
우도비검정(LRT)두 모형의 최대 우도의 비(로그를 취해 −2배)중첩 모형을 비교하는 가설검정
진단검사의 우도비(LR+, LR−)LR+ = 민감도 / (1 − 특이도), LR− = (1 − 민감도) / 특이도검사 결과가 진단 확률을 얼마나 바꾸는지 나타내는 지표(민감도와 특이도에서 계산)
왈드 검정추정값 ÷ 표준오차 (제곱하면 카이제곱)회귀계수 개별 검정의 기본 출력

논문에서 ‘우도비’가 나오면 모형 비교인지 진단 지표인지 맥락으로 구분하세요.

참고 문헌

  1. Wilks, S. S. (1938). The large-sample distribution of the likelihood ratio for testing composite hypotheses. Annals of Mathematical Statistics, 9(1), 60–62.
  2. Neyman, J., & Pearson, E. S. (1933). On the problem of the most efficient tests of statistical hypotheses. Philosophical Transactions of the Royal Society of London, Series A, 231, 289–337.
  3. Self, S. G., & Liang, K.-Y. (1987). Asymptotic properties of maximum likelihood estimators and likelihood ratio tests under nonstandard conditions. Journal of the American Statistical Association, 82(398), 605–610.
  4. Casella, G., & Berger, R. L. (2002). Statistical Inference (2nd ed.). Duxbury.

표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.

관련 용어