계층적 군집분석 (Hierarchical Clustering)
쉽게 풀면
옷장을 정리한다고 생각해봅시다. 먼저 색이 비슷한 옷끼리 작은 무더기로 묶고, 그 무더기들을 다시 계절별로 묶고, 마지막엔 계절 무더기들을 "옷 전체"라는 하나의 큰 덩어리로 묶을 수 있습니다. 계층적 군집분석은 데이터에서 이런 일을 자동으로 해주는 방법입니다.
가장 비슷한 개체 두 개를 먼저 짝짓고, 그 짝을 다시 가장 가까운 것과 묶고... 이런 식으로 반복하며 나무(덴드로그램) 모양의 구조를 만듭니다.
k-평균 군집화처럼 미리 "몇 개의 그룹으로 나눌지"를 정해둘 필요가 없고, 나무를 어느 높이에서 자르느냐에 따라 2개 그룹으로도, 5개 그룹으로도 볼 수 있다는 것이 특징입니다.
왜 중요한가
계층적 군집분석은 사전에 군집 수를 정하지 않아도 되고 결과를 덴드로그램으로 시각화할 수 있어, 탐색적 분석 단계에서 데이터의 구조를 파악하는 데 널리 쓰입니다. 유전자 발현 패턴을 유사도에 따라 묶는 생물정보학 연구, 소비자나 환자를 하위 유형으로 분류하는 마케팅·의학 연구 등 다양한 분야에서 등장하며, 이후 분석(예: 하위 그룹별 특성 비교)의 기초 단계로 활용되는 경우가 많습니다.
언제 쓰나
군집의 수를 미리 정하지 않고, 개체들이 어떤 순서로 가까워지는지 나무(덴드로그램)로 보고 싶을 때 씁니다. 표본이 수천 개 이하이고 거리 행렬을 계산할 수 있는 탐색적 분류에 적합합니다.
- 응집형: 개체 하나하나에서 시작해 가장 가까운 군집 둘을 계속 합칩니다(대부분의 소프트웨어 기본).
- 입력: 거리 행렬(유클리드, 맨해튼, 상관 기반 거리 등)과 연결법. 변수 단위가 다르면 표준화를 먼저 합니다.
- 표본이 매우 크면 거리 행렬이 n²개라 메모리와 시간이 부담이 됩니다.
결과는 이렇게 읽는다
두 군집 사이의 거리를 어떻게 정의하느냐(연결법)가 결과를 정합니다.
| 연결법 | 군집 사이 거리 | 경향 |
|---|---|---|
| 단일(최단)연결 | 두 군집의 가장 가까운 두 점 사이 | 사슬처럼 길게 이어진 군집이 생기기 쉬움(chaining) |
| 완전(최장)연결 | 가장 먼 두 점 사이 | 지름이 비슷한 조밀한 군집 |
| 평균연결 | 모든 점 쌍의 거리 평균 | 두 극단의 절충 |
| Ward 연결 | 합쳤을 때 군집 내 제곱합(분산)이 늘어나는 양이 최소 | 크기가 비슷한 군집. 유클리드 거리 가정 |
(가상의 예, 직접 계산) 1차원 점 1, 2, 5, 7, 15를 합치는 순서는 같고 합치는 높이가 다릅니다. 세 번째 합병(맨 왼쪽 두 점 묶음과 5·7 묶음)의 높이는 단일연결 3.0, 평균연결 4.5, 완전연결 6.0이고, 마지막(15를 합치는) 높이는 각각 8.0, 11.25, 14.0입니다. 앞의 두 합병(1·2, 5·7)은 높이 1과 2로 연결법과 상관없이 같습니다.
- 덴드로그램의 세로축은 합쳐진 높이(거리)입니다. 높이가 크게 뛰는 곳에서 자르는 방법이 흔히 쓰입니다.
- 군집 수는 자르는 높이로 정하며, 실루엣 계수 같은 보조 지표와 연구 목적을 함께 고려합니다.
- 코페네틱 상관계수(덴드로그램의 거리와 원래 거리의 상관)로 나무가 원래 거리를 얼마나 잘 보존하는지 점검하기도 합니다.
논문에는 이렇게 보고한다
논문에는 변수, 표준화 여부, 거리 측도, 연결법, 군집 수를 정한 근거와 소프트웨어를 적습니다. (아래 문장은 형식을 보여 주는 가상의 예입니다.)
응답자의 이용 패턴을 유클리드 거리와 Ward 연결법으로 계층적 군집분석하였다. 변수는 Z점수로 표준화하였고, 덴드로그램에서 합병 거리가 크게 증가하는 지점을 기준으로 3개 군집을 선택하였다(실루엣 평균 = 0.41).
- 군집별 특성(평균 등)을 표로 제시하고, 군집 간 차이를 분산분석으로 검정하는 경우가 많지만, 군집은 자료의 차이에서 만들어졌으므로 이 검정의 p값은 서술용으로만 봅니다.
- 연결법을 바꾸어도 결론이 유지되는지(안정성) 확인하면 설득력이 높아집니다.
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“또한, 분류도(dendrogram)를 제작하여 계층적 군집 분석을 시도하고자 한다.”
방언 분포의 통계적 분석 방법 개발과 적용, 방언학, 2023 · KCI 한국학술지인용색인 · 원문 보기 ↗
“분석을위해 SPSS 프로그램을 사용하였고, 기술통계 분석, 상관관계 분석, 위계적 군집분석, K-평균 군집분석을 분석에 사용하였다.”
군집분석을 활용한 도농 복합형 도시의 복지 유형화 논의: 인구학적 모형을 중심으로, 한국산학기술학회논문지, 2024 · KCI 한국학술지인용색인 · 원문 보기 ↗
“창의적 공학문제해결력 검사는 대응표본t-검증과 계층적 군집분석을 통해 분석하였다.”
창의공학적 문제해결성향에 기여한 과학-공학 융합수업의 특성, 대한지구과학교육학회지, 2022 · KCI 한국학술지인용색인 · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
이 문장은 여러 소비 성향 문항 응답을 바탕으로, 서로 비슷한 응답 패턴을 보인 사람들을 계층적으로 묶어 나간 결과 크게 세 그룹으로 나뉘었다는 뜻입니다.
생물정보학에서 유전자 발현 데이터를 탐색적으로 분류할 때 흔히 사용되는 표현이다.
의학 연구에서 환자군을 특성에 따라 세분화해 예후 차이를 탐색할 때 등장하는 표현이다.
조금 더 깊게 보면
계층적 군집분석은 크게 개체를 하나씩 묶어 올라가는 응집형(agglomerative)과 전체를 나눠 내려가는 분리형(divisive)으로 나뉘며, 실무에서는 응집형이 훨씬 흔히 쓰입니다.
무더기를 합칠 때 쓰는 연결법에는 최단연결법, 최장연결법, 평균연결법, Ward 연결법 등이 있으며 각각 결과로 나오는 군집의 모양과 크기 경향이 달라, 논문에서는 어떤 연결법과 거리 척도를 사용했는지를 명시하는 것이 일반적입니다.
덴드로그램을 어느 높이에서 절단하느냐로 최종 군집 수가 결정되는데, 이 절단 지점은 보통 실루엣 계수 같은 보조 지표나 연구 목적에 따라 판단합니다.
주의할 점
계층적 군집분석의 결과는 개체 간 거리를 어떻게 계산하는지, 그리고 무더기와 무더기를 합칠 때 어떤 기준(연결법)을 쓰는지에 따라 크게 달라질 수 있습니다. 같은 데이터라도 방법을 바꾸면 다른 나무 구조가 나올 수 있으므로, 결과를 해석할 때는 사용한 거리 척도와 연결법을 함께 명시해야 합니다. 또한 표본이 매우 클 경우 계산량이 급격히 늘어나 k-평균 군집화 같은 다른 방법이 더 적합할 수 있습니다.
헷갈리기 쉬운 용어
군집분석의 대표 방법들은 “군집 수를 미리 정하는가”와 “군집의 모양”으로 구분합니다.
| 용어 | 군집 수 | 특징 |
|---|---|---|
| 계층적 군집분석 | 사후에 자르는 높이로 결정 | 나무 구조를 보여 줌. 한번 합친 것은 되돌리지 않음 |
| k-평균 군집화 | 미리 k를 지정 | 큰 자료에 빠름. 둥근 군집 가정, 초기값에 민감 |
| DBSCAN | 밀도로 자동 결정 | 이상치를 노이즈로 분리. 임의 모양 군집 가능 |
| 군집분석 | — | 위 방법들을 포괄하는 상위 개념 |
참고 문헌
- Ward, J. H. (1963). Hierarchical grouping to optimize an objective function. Journal of the American Statistical Association, 58(301), 236–244.
- Johnson, S. C. (1967). Hierarchical clustering schemes. Psychometrika, 32(3), 241–254.
- Kaufman, L., & Rousseeuw, P. J. (1990). Finding Groups in Data: An Introduction to Cluster Analysis. Wiley.
- Murtagh, F., & Contreras, P. (2012). Algorithms for hierarchical clustering: An overview. WIREs Data Mining and Knowledge Discovery, 2(1), 86–97.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.