커널밀도추정 (Kernel Density Estimation)
쉽게 풀면
어떤 반 학생들의 시험 점수를 히스토그램으로 그리면 막대가 계단처럼 뚝뚝 끊겨 보입니다. 그런데 구간을 어디서 나누느냐에 따라 모양이 크게 달라지고, 실제로는 매끈하게 이어질 데이터의 흐름이 인위적으로 잘려 보이는 문제가 생깁니다. 커널밀도추정은 막대 대신, 점수 하나하나 위에 작고 부드러운 언덕(커널) 모양을 얹고 이 언덕들을 모두 합쳐서 하나의 매끈한 곡선으로 데이터의 분포를 표현하는 방법입니다. "정규분포를 따를 것이다"처럼 형태를 미리 정하지 않고, 데이터 자체가 스스로 모양을 그리게 하는 셈입니다.
왜 중요한가
실제 데이터는 정규분포처럼 깔끔한 형태를 따르지 않는 경우가 많아, 분포를 미리 가정하지 않고도 형태를 살펴볼 수 있는 커널밀도추정은 탐색적 자료 분석의 기본 도구로 널리 쓰입니다. 지도 위 사건 발생 밀도를 시각화하는 공간통계, 이상치를 탐지하는 머신러닝, 변수의 분포 모양을 비교하는 실험 연구 등 여러 분야에서 히스토그램을 대체하거나 보완하는 방식으로 자주 등장합니다.
논문에서는 이렇게 쓰입니다
이 문장은 데이터가 정규분포 등 특정 형태를 따른다고 가정하지 않고, 관측된 값들만으로 매끄러운 확률밀도 곡선을 그려서 분포의 모양(봉우리 개수, 치우침 등)을 확인했다는 뜻입니다.
이 문장은 "사건이 일어난 지점들을 지도 위에 표시한 뒤, 어느 구역에 사건이 특히 몰려 있는지를 부드러운 밀도 지도로 나타냈다"는 뜻입니다.
이 문장은 "정상적인 패턴과 비정상적인 패턴이 각각 어떤 분포 모양을 갖는지 데이터만으로 추정해, 새로운 사례가 어느 쪽에 더 가까운지 판단하는 데 활용했다"는 뜻입니다.
조금 더 깊게 보면
커널밀도추정에서 사용하는 언덕 모양의 함수를 커널 함수라고 하며, 가우시안 커널이 가장 흔히 쓰이지만 에파네치니코프(Epanechnikov) 커널 등 다른 형태도 사용됩니다. 커널 함수의 종류보다 결과에 더 큰 영향을 미치는 것은 대역폭이며, 이를 자동으로 정하는 실버맨 규칙이나 교차검증 기반 방법이 흔히 함께 언급됩니다. 다변량 자료에도 확장할 수 있지만 차원이 늘어날수록 필요한 데이터 양이 급격히 커지는 차원의 저주 문제가 뒤따릅니다.
주의할 점
커널밀도추정의 결과는 각 언덕의 폭을 정하는 대역폭(bandwidth)에 매우 민감합니다. 대역폭이 너무 좁으면 그래프가 울퉁불퉁해지고, 너무 넓으면 실제로 존재하는 봉우리들이 뭉개져 사라질 수 있습니다. 데이터를 반복 재표집해 분포 특성을 확인하는 부트스트랩과 함께 쓰이는 경우도 많습니다.