국소회귀 (LOESS Regression)
쉽게 풀면
보통의 회귀분석은 "y = a + bx" 같은 하나의 수식으로 데이터 전체를 설명하려고 합니다. 하지만 관계가 구간마다 다르게 휘어 있다면 하나의 수식으로는 한계가 있습니다. 국소회귀(LOESS/LOWESS)는 이럴 때 x축의 특정 지점마다 "그 지점 근처에 있는 이웃 데이터들"만 모아서 그 부분만의 작은 직선(또는 곡선)을 그리고, 이런 국소적인 선들을 이어 붙여 전체적으로 부드러운 하나의 추세선을 완성합니다. 마치 긴 도로를 한 개의 자로 그리는 대신, 짧은 구간마다 그 구간에 맞는 자를 대고 이어 붙여 자연스러운 곡선 도로를 그리는 것과 비슷합니다.
왜 중요한가
국소회귀는 변수 간 관계의 형태를 미리 가정하지 않고 데이터가 스스로 말하게 한다는 점에서 탐색적 자료분석의 대표적인 도구로 자주 쓰입니다. 생태학의 시계열 추세 파악, 역학의 노출-반응 관계 탐색, 경제학의 비선형적 소득-소비 관계 시각화 등 분야를 막론하고 "이 관계가 정말 직선일까?"를 확인하는 첫 단계로 활용되며, 이후 더 정교한 통계 모형을 선택하는 데 근거를 제공합니다.
논문에서는 이렇게 쓰입니다
이 문장은 특정한 함수 형태(직선, 이차곡선 등)를 미리 가정하지 않고, 데이터가 실제로 어떤 모양의 관계를 보이는지 먼저 눈으로 확인하기 위해 유연한 추세선을 그렸다는 뜻입니다.
역학 연구에서는 오염물질 농도가 낮을 때와 높을 때 사망률에 미치는 영향이 다를 수 있다는 가설을 세우고, 이를 직선이 아닌 유연한 곡선으로 먼저 살펴봤다는 뜻입니다.
기후 시계열 자료처럼 단기적으로 들쭉날쭉한 값을 가진 데이터에서, 국소회귀로 잡음을 걸러내고 장기적인 추세만 부드럽게 드러냈다는 의미입니다.
조금 더 깊게 보면
국소회귀의 결과는 이웃의 범위를 얼마나 넓게 잡는지를 정하는 대역폭(bandwidth, span) 파라미터에 크게 좌우됩니다. 대역폭이 너무 좁으면 곡선이 잡음까지 따라가며 과도하게 울퉁불퉁해지고(과적합), 너무 넓으면 국소적인 변화를 놓치고 지나치게 매끄러워집니다(과소적합). 또한 각 국소 구간의 회귀에는 흔히 가중최소제곱법을 사용하며, 가까운 점일수록 더 큰 가중치를 주는 가중함수(kernel)의 선택도 곡선의 모양에 영향을 줍니다.
주의할 점
국소회귀는 탐색적으로 관계의 형태를 파악하는 데는 유용하지만, 회귀계수처럼 해석하기 쉬운 하나의 숫자를 제공하지는 않습니다. 결과를 논문에 정식으로 보고할 때는 관계의 형태를 참고해 일반화가법모형처럼 통계적으로 검증 가능한 모형을 함께 사용하는 경우가 많습니다.