혼합효과모형 (Mixed-Effects Model)
쉽게 풀면
여러 반 학생들의 시험 점수를 분석한다고 해봅시다. "공부 시간이 길수록 점수가 높다"는 규칙은 모든 학생에게 공통으로 적용될 수 있지만(고정효과), 동시에 어떤 반은 선생님이 잘 가르쳐서 반 전체 점수가 원래 높고 어떤 반은 낮을 수도 있습니다(무선효과). 이런 반별 차이를 무시하고 그냥 전체를 하나로 뭉쳐 분석하면 잘못된 결론이 나올 수 있습니다. 혼합효과모형은 "공부 시간의 효과"처럼 모두에게 적용되는 부분과 "반마다 다른 출발점"처럼 집단별로 다른 부분을 동시에 반영해서, 같은 집단에 속한 사람들의 자료가 서로 닮아있다는 점(반복측정, 학급, 학교 등으로 묶인 자료의 특성)을 제대로 고려하는 방법입니다.
왜 중요한가
현실의 데이터는 학생이 학급에, 학급이 학교에 속하는 것처럼 여러 층위로 묶여 있거나 같은 개체를 여러 번 반복 측정한 형태인 경우가 많습니다. 이런 자료의 위계 구조나 개체 간 상관을 무시하고 일반적인 회귀분석을 적용하면 표준오차가 왜곡되어 잘못된 결론에 이를 위험이 있습니다. 혼합효과모형은 이런 구조를 명시적으로 반영할 수 있어 교육학, 심리학, 생태학, 의학 등 위계적·반복측정 자료를 다루는 거의 모든 분야에서 표준적인 분석 도구로 자리잡았습니다.
논문에서는 이렇게 쓰입니다
이 문장은 "같은 참가자에게서 여러 번 측정한 값들이 서로 독립적이지 않다는 점을 감안해, 참가자별 차이는 무선효과로 두고 관심 있는 처치 효과는 고정효과로 추정했다"는 뜻입니다. 학생-학급-학교처럼 위계적으로 묶인 자료나 시간에 따라 반복 측정한 자료를 분석할 때 자주 쓰입니다.
교육학 연구에서는 학생이 특정 학급이나 학교에 속해 있다는 위계 구조를 무선효과로 반영함으로써, 학교 간 차이를 통제한 채 관심 있는 변수의 순수한 효과를 추정할 수 있습니다.
생태학 연구에서는 여러 조사 지점에서 반복적으로 수집한 자료를 다룰 때, 지점 간 고유한 차이를 무선효과로 처리해 서식지 효과를 보다 정확하게 추정하는 방식으로 흔히 활용됩니다.
조금 더 깊게 보면
혼합효과모형에서 무선효과는 흔히 절편(random intercept)뿐 아니라 기울기(random slope)로도 확장할 수 있어, 개체마다 처치 효과 자체가 다르게 나타나는 경우까지 반영할 수 있습니다. 모형의 적합은 대개 최대우도추정(ML)이나 제한최대우도추정(REML) 방식을 사용하며, 무선효과 구조가 복잡해질수록 모형이 수렴하지 않거나 추정이 불안정해질 수 있어 자료 크기와 무선효과의 복잡도 사이에서 균형을 잡는 것이 중요합니다.
주의할 점
혼합효과모형에서는 어떤 변수를 무선효과로 넣을지 결정하는 것이 결과에 큰 영향을 줍니다. 무선효과를 빠뜨리면 반복측정설계 자료의 개체 간 상관을 무시하게 되어 유의확률이 실제보다 과소평가될 수 있고, 반대로 표본 수에 비해 무선효과를 너무 복잡하게 넣으면 모형이 수렴하지 않을 수도 있습니다.