우도함수 (likelihood function)

통계
한 줄 정의: 이미 관찰된 데이터를 고정해 놓고, 모수(파라미터)의 여러 후보 값 각각이 그 데이터를 만들어냈을 "그럴듯함"을 수치로 나타낸 함수입니다.

쉽게 풀면

동전을 10번 던져 앞면이 8번 나왔다고 해봅시다. "이 동전의 앞면 확률이 0.5일 가능성"과 "0.8일 가능성"과 "0.9일 가능성"을 각각 따져볼 수 있습니다. 확률(probability)은 "모수를 이미 알고 있을 때, 특정 데이터가 나올 확률"을 묻는 반면, 우도(likelihood)는 반대로 "데이터는 이미 나왔고(고정), 그 데이터를 만들어냈을 법한 모수 값은 무엇인가"를 묻습니다. 즉 우도함수는 모수 값을 이리저리 바꿔가며 "이 값이었다면 방금 본 데이터가 나올 그럴듯함이 얼마나 되는가"를 계산해, 그 값들을 나열한 함수입니다.

왜 중요한가

우도함수는 통계적 추론의 거의 모든 갈래가 딛고 서는 기초 개념입니다. 모수를 추정하는 최대우도추정뿐 아니라 베이지안 추론에서 사후분포를 계산할 때도 우도가 핵심 재료로 들어가며, 회귀분석·분류모형·구조방정식모형 등 다양한 통계·기계학습 기법이 내부적으로 우도함수를 최적화하는 형태로 설계되어 있습니다. 그래서 어떤 분야든 정량적 데이터를 다루는 논문이라면 방법론 절에서 우도함수를 언급할 가능성이 높습니다.

논문에서는 이렇게 쓰입니다

"모형의 우도함수(likelihood function)를 구성하고, 이를 최대화하는 모수 값을 추정치로 채택하였다."

이 문장은 "관찰된 데이터가 나올 그럴듯함을 나타내는 함수를 세운 뒤, 그 값이 가장 커지는 모수 지점을 찾아 그것을 최선의 추정값으로 삼았다"는 뜻입니다.

"두 모형의 적합도를 비교하기 위해 각각의 로그우도함수(log-likelihood function) 값을 산출하고 우도비검정을 실시하였다."

계산 편의를 위해 우도함수 대신 그 로그값인 로그우도를 다루는 경우가 많으며, 이를 이용해 두 모형 중 어느 쪽이 데이터를 더 잘 설명하는지 비교했다는 뜻입니다.

"베이즈 정리에 따라 사후분포는 사전분포와 우도함수의 곱에 비례하므로, 관측된 임상 데이터를 반영해 사후분포를 갱신하였다."

임상연구 등 베이지안 접근을 쓰는 논문에서는 우도함수가 기존 지식(사전분포)을 새 데이터로 업데이트하는 매개 역할을 한다는 점을 보여줍니다.

조금 더 깊게 보면

실제 계산에서는 우도함수를 그대로 다루기보다 로그를 취한 로그우도함수(log-likelihood)를 사용하는 경우가 대부분인데, 여러 관측치의 우도를 곱하는 대신 더하는 형태로 바꿔 계산이 안정적이고 수치적으로 다루기 쉬워지기 때문입니다. 또한 우도함수를 모수에 대해 미분해 얻는 점수함수(score function)와 그 기울기 정보를 담은 피셔 정보량(Fisher information)은 추정량의 정밀도(표준오차)를 계산하는 데 쓰입니다. 서로 다른 모형을 비교할 때는 우도값 자체보다 AIC, BIC 같은 정보기준이나 우도비검정(likelihood ratio test) 통계량을 함께 살펴보는 것이 일반적입니다.

주의할 점

우도함수의 값 자체는 확률이 아니므로 "우도가 0.3이니 30%의 확률로 맞다"는 식으로 해석하면 안 됩니다. 우도는 여러 모수 후보를 서로 비교하는 상대적인 잣대일 뿐이며, 이 함수를 최대화하는 구체적인 절차는 최대우도추정에서 다룹니다.

관련 용어