계층적 베이즈 모형 (Hierarchical Bayesian Model)

한 줄 정의: 개별 집단(예: 학교, 병원)마다 다른 모수를 갖도록 허용하면서도, 그 모수들이 다시 상위 수준의 공통 분포에서 나온다고 가정해 여러 층위의 정보를 함께 추정하는 베이지안 모형입니다.

쉽게 풀면

여러 학교의 평균 시험 점수를 추정한다고 해봅시다. 한 학교는 학생이 딱 5명뿐이라 평균을 그대로 믿기엔 불안합니다. 계층적 베이즈 모형은 "각 학교의 평균은 저마다 다르지만, 결국 같은 지역 전체의 평균 근처에서 크게 벗어나지 않을 것"이라는 상위 층위의 정보를 함께 활용합니다. 그 결과 학생 수가 적은 학교의 추정치는 전체 평균 쪽으로 자연스럽게 당겨지고("수축, shrinkage"), 학생 수가 많은 학교의 추정치는 자기 데이터를 더 신뢰하게 됩니다. 즉 "각자 다르지만 완전히 남남은 아니다"라는 현실을 모형에 반영하는 방법입니다.

왜 중요한가

계층적 베이즈 모형은 실제 데이터가 흔히 갖는 "집단 안에 개체가 중첩된" 구조(학생-학교, 환자-병원, 반복측정-개인 등)를 자연스럽게 반영할 수 있어, 교육학·의학·심리학·생태학처럼 다수준 데이터를 다루는 분야에서 널리 쓰입니다. 특히 표본 크기가 작은 하위 집단의 추정치를 안정화하는 능력 덕분에, 소규모 임상시험이나 지역 단위 조사처럼 그룹별 데이터가 불균등한 상황에서 신뢰할 수 있는 추정을 제공한다는 점이 강조됩니다.

논문에서는 이렇게 쓰입니다

"학교 수준과 학생 수준의 변동을 동시에 반영하기 위해 계층적 베이즈 모형을 적용하였으며, 각 학교의 사전분포는 상위 수준의 초모수(hyperparameter)로부터 추정되었다."

이 문장은 개별 학교마다 추정치를 따로 구하는 대신, 학교 간 공통 경향(상위 층위)까지 함께 고려해 각 학교의 추정을 더 안정적으로 보정했다는 뜻입니다.

"다기관 임상시험 자료를 분석하기 위해 병원을 상위 수준으로 하는 계층적 베이즈 모형을 구성하였으며, 표본이 적은 병원의 치료 효과 추정치는 전체 평균 쪽으로 수축되는 경향을 보였다."

의학 통계에서 여러 기관의 자료를 통합 분석할 때 기관 간 이질성을 처리하는 방식으로 자주 등장한다.

"개체별 반복 측정치를 분석하기 위해 개체를 상위 층위로 설정한 계층적 베이즈 모형을 적용하고, 사후분포는 마르코프 연쇄 몬테카를로 방법으로 근사하였다."

생태학이나 심리학의 반복측정 설계에서 개체 간 변동과 측정 간 변동을 함께 다룰 때 사용된다.

조금 더 깊게 보면

계층적 베이즈 모형에서 하위 집단의 추정치가 전체 평균 쪽으로 당겨지는 현상을 "수축(shrinkage)"이라 부르며, 이 수축의 정도는 하위 집단의 표본 크기와 집단 간 분산의 상대적 크기에 따라 자동으로 조절됩니다. 사후분포를 직접 계산하기 어려운 경우가 많아 깁스 표집이나 해밀토니안 몬테카를로 같은 MCMC 기법, 또는 근사 계산 방법인 변분추론(variational inference)이 흔히 사용되며, 층위와 모수가 늘어날수록 수렴 진단(예: R-hat 통계량 확인)이 중요해집니다.

주의할 점

계층적 베이즈 모형은 흔히 깁스 표집과 같은 MCMC 기법으로 사후분포를 근사해서 추정하는데, 층위와 모수가 많아질수록 계산이 복잡해지고 수렴 여부를 꼼꼼히 점검해야 합니다. 단순히 그룹별로 따로 모형을 적합하는 것과 달리, 그룹 간 정보를 서로 공유한다는 점이 핵심 차이입니다.