일반화가법모형 (Generalized Additive Model)

한 줄 정의: 변수와 결과의 관계를 직선이 아니라 유연하게 휘어지는 곡선으로 표현할 수 있게 해주는 회귀모형입니다.

쉽게 풀면

일반적인 회귀분석은 "나이가 1살 늘 때마다 혈압이 몇 mmHg씩 오른다"처럼 관계를 곧게 뻗은 직선으로 가정합니다. 하지만 현실의 관계는 그렇게 단순하지 않을 때가 많습니다. 예를 들어 나이와 건강의 관계는 젊을 때는 완만하다가 특정 나이를 지나면 급격히 나빠지는 식으로 굽어 있을 수 있습니다. GAM은 이런 굽은 관계를 억지로 직선에 끼워 맞추지 않고, 데이터가 보여주는 대로 곡선(스무스 함수)을 자동으로 찾아내 반영하는 방법입니다. "직선만 그릴 수 있던 자를 자유자재로 구부러지는 유연한 자로 바꿔준다"고 생각하면 됩니다.

왜 중요한가

현실의 많은 관계는 특정 구간에서만 급격히 변하거나 방향이 바뀌는 등 직선으로는 제대로 담아내기 어려운 형태를 띱니다. GAM은 이런 비선형 관계를 사전에 함수 형태를 정하지 않고도 데이터로부터 유연하게 추정할 수 있어서, 기온과 질병 발생, 시간에 따른 생태 지표 변화, 용량-반응 관계처럼 곡선형 패턴이 흔한 역학·생태학·환경과학 논문에서 널리 쓰입니다. 동시에 회귀계수 해석의 틀을 크게 벗어나지 않아 해석 가능성도 어느 정도 유지된다는 점이 실용적 장점으로 꼽힙니다.

논문에서는 이렇게 쓰입니다

"연령과 대사증후군 발생 위험 간의 비선형적 관계를 확인하기 위해 일반화가법모형(GAM)을 적용하였다."

이 문장은 나이가 많아질수록 위험이 일정하게 증가하는 것이 아니라 구간마다 증가 속도가 다를 수 있어서, 그 굽은 형태를 있는 그대로 곡선으로 추정했다는 뜻입니다.

"일평균 기온과 응급실 방문 건수 사이의 관계를 GAM으로 분석한 결과, 폭염과 한파 구간 모두에서 방문 건수가 급격히 증가하는 U자형 곡선이 확인되었다."

환경보건 논문에서는 기온처럼 극단값에서만 영향이 커지는 관계를 직선이 아닌 곡선으로 포착하는 데 GAM을 흔히 사용합니다.

"서식지 면적과 종 풍부도의 관계를 GAM으로 모형화한 결과, 일정 면적 이상에서는 종 풍부도 증가세가 완만해지는 것으로 나타났다."

생태학 논문에서는 서식지 면적처럼 어느 지점 이후 효과가 포화되는 관계를 설명할 때 GAM의 유연한 곡선을 활용합니다.

조금 더 깊게 보면

GAM에서 곡선 형태는 흔히 스플라인(spline)이라는 여러 개의 작은 구간별 다항함수를 이어붙여 표현하며, 곡선이 얼마나 유연하게 휘어질지는 평활 모수와 자유도(effective degrees of freedom)로 조절됩니다. 이 평활 정도는 임의로 정하기보다 교차검증이나 일반화교차검증(GCV) 같은 방법으로 데이터에 맞게 자동 선택하는 것이 일반적이며, 이렇게 얻은 곡선의 모양과 함께 신뢰구간을 그림으로 제시해 관계의 형태를 직관적으로 보여주는 것이 논문에서 흔한 보고 방식입니다.

주의할 점

GAM은 유연한 만큼 곡선이 지나치게 데이터의 잔물결까지 따라가는 과적합 위험이 있습니다. 그래서 곡선이 얼마나 유연하게 휘어질지를 조절하는 평활 모수(smoothing parameter)를 적절히 설정하는 것이 중요하며, 이를 자동으로 조정하는 방법도 함께 보고하는 것이 좋습니다.