베이지안 모형평균 (Bayesian Model Averaging)
쉽게 풀면
어떤 질문에 대해 전문가 10명에게 의견을 물으면 답이 조금씩 다를 수 있습니다. 이때 한 명의 말만 믿기보다, 각 전문가의 신뢰도(과거 예측이 얼마나 잘 맞았는지)에 따라 비중을 다르게 주어 의견을 종합하면 더 안정적인 결론을 얻을 수 있습니다. 베이지안 모형평균도 같은 발상입니다. 연구자가 "이 변수들의 조합이 진짜 모형이다"라고 하나로 단정하지 않고, 가능한 여러 설명변수 조합(모형)들을 동시에 두고 각 모형이 데이터를 얼마나 잘 설명하는지에 따라 확률적 가중치를 매긴 뒤, 그 가중치로 예측과 계수를 평균 내는 것입니다. 이렇게 하면 특정 모형 하나를 잘못 고르는 데서 오는 위험을 줄일 수 있습니다.
왜 중요한가
실증 연구에서는 어떤 변수를 모형에 포함해야 하는지가 처음부터 명확하지 않은 경우가 많습니다. 연구자가 임의로 하나의 모형을 골라 결론을 내리면, 그 선택 자체가 결과를 왜곡할 수 있다는 비판(모형 선택 불확실성)을 피하기 어렵습니다. 베이지안 모형평균은 이 문제를 정면으로 다루기 때문에 경제성장 결정요인, 유전자·질병 연관성 분석, 정책 효과 추정처럼 후보 설명변수가 많고 이론적으로 어떤 조합이 옳은지 합의가 부족한 분야의 논문에서 특히 자주 등장합니다. 또한 예측 성능을 높이기 위한 앙상블 기법과도 개념적으로 맞닿아 있어, 통계·계량경제학뿐 아니라 머신러닝 인접 연구에서도 관련 논의가 이어집니다.
논문에서는 이렇게 쓰입니다
이 문장은 연구자가 어떤 변수를 모형에 넣을지 확신할 수 없는 상황에서, 가능한 모든 변수 조합의 모형을 비교하고 각 변수가 "진짜 설명력이 있을 확률"(사후포함확률)을 계산해 결과의 신뢰도를 높였다는 뜻입니다. 경제성장 결정요인 연구나 유전체 분석처럼 후보 변수가 매우 많은 분야에서 자주 쓰입니다.
거시경제 성장 결정요인 연구는 후보 변수가 수십 개에 이르는 대표적인 분야입니다. 이 문장은 연구자가 특정 모형 하나만 고집하지 않고, 여러 후보 모형의 추정 결과를 종합해 더 신뢰할 수 있는 계수를 제시했다는 의미입니다.
유전체 분석처럼 잠재적 설명변수(유전자)가 매우 많은 분야에서도 BMA는 어떤 변수가 결과와 실제로 관련이 있는지를 확률적으로 평가하는 도구로 쓰입니다. 특정 유전자 하나를 임의로 고르지 않고, 여러 조합을 비교해 상대적으로 신뢰도가 높은 후보를 걸러낸다는 점이 핵심입니다.
조금 더 깊게 보면
BMA에서 핵심적인 두 개념은 사후모형확률(posterior model probability)과 사후포함확률(posterior inclusion probability, PIP)입니다. 사후모형확률은 각 후보 모형이 데이터를 얼마나 잘 설명하는지를 반영한 가중치이고, 사후포함확률은 특정 변수가 포함된 모형들의 사후모형확률을 모두 합산한 값으로, 그 변수가 "진짜로 중요한 설명변수일 확률"을 나타냅니다. 후보 변수가 많아질수록 가능한 모형의 수가 기하급수적으로 늘어나기 때문에, 실제 연구에서는 모든 모형을 다 계산하지 않고 마르코프체인 몬테카를로(MCMC) 기반의 모형탐색 알고리즘으로 확률이 높은 모형들 위주로 근사 탐색하는 경우가 일반적입니다. 논문을 읽을 때는 어떤 사전확률(prior)을 모형과 계수에 부여했는지, 그리고 탐색이 충분히 수렴했는지를 함께 살펴보는 것이 결과 해석에 도움이 됩니다.
주의할 점
BMA는 하나의 베이지안 추론 틀 안에서 "어떤 모형이 맞는가"에 대한 불확실성까지 반영한다는 점에서, 하나의 모형을 고정해 놓고 그 모형 안의 모수만 추정하는 일반적인 통계 분석과 다릅니다. 계산량이 많아 후보 모형 수가 매우 클 경우 근사적인 탐색 알고리즘을 사용하는 경우가 많다는 점도 함께 알아두면 좋습니다.