k-평균 군집화 (k-means clustering)
쉽게 풀면
여러 고객의 구매 데이터를 보고 "이 고객들을 몇 가지 유형으로 나눠보고 싶다"고 할 때, 미리 유형을 정해두지 않고도 데이터 스스로 비슷한 것끼리 모이게 할 수 있습니다. k-평균 군집화는 먼저 "그룹을 몇 개로 나눌지(k)"를 정한 다음, 각 그룹의 중심점을 임의로 찍고, 모든 데이터를 가장 가까운 중심점에 배정합니다.
그다음 각 그룹에 배정된 데이터들의 평균 위치로 중심점을 다시 옮기고, 이 과정을 데이터들의 소속이 더 이상 바뀌지 않을 때까지 반복합니다. 결과적으로 서로 비슷한 특징을 가진 데이터끼리 자연스럽게 뭉치게 됩니다.
왜 중요한가
k-평균 군집화는 정답 라벨 없이도 데이터 안에 숨어 있는 구조나 유형을 탐색적으로 발견할 수 있어, 마케팅의 고객 세분화, 생물학의 유전자 발현 패턴 분류, 이미지 압축, 사회과학의 유형 분류 연구 등 매우 폭넓은 분야에서 사용됩니다. 비지도학습의 대표 알고리즘으로서 다른 군집화 기법이나 차원축소 기법과 비교되는 기준점 역할을 하기도 합니다.
언제 쓰나
정답 라벨 없이 수치형 변수만으로 비슷한 관측치끼리 묶고 싶을 때 씁니다(고객 유형화, 응답자 유형 분류, 이미지 색 압축 등). 집단의 개수 k를 분석자가 미리 정해야 합니다.
- 거리(보통 유클리드 거리)를 쓰므로 변수 단위가 다르면 표준화(z점수 변환)를 먼저 합니다. 큰 단위의 변수가 결과를 지배하기 때문입니다.
- 범주형 변수는 그대로 쓸 수 없습니다(평균을 낼 수 없음).
- 군집이 대체로 둥글고 크기가 비슷하다고 가정하는 방법이라, 길게 늘어졌거나 크기가 매우 다른 군집에는 약합니다.
- 통계적 가설검정이 아니라 탐색적 분류법입니다. 군집이 ‘존재한다’는 것을 증명하지 않습니다.
결과는 이렇게 읽는다
가상의 예: 2개 변수를 가진 10명 (1,2), (1.5,1.8), (2,1), (1,0.6), (6,8), (7,8.5), (6.5,9), (8,8), (7.5,7), (3.5,5). k = 2로 나눕니다.
- 초기 중심을 (1,2), (6,8)로 둡니다.
- 모든 점을 가까운 중심에 배정하면 앞의 네 점과 (3.5,5)가 첫 군집, 나머지 다섯 점이 둘째 군집이 됩니다.
- 각 군집의 평균으로 중심을 옮기면 (1.8, 2.08)과 (7.0, 8.1)이 되고, 다시 배정해도 아무도 옮기지 않으므로 끝납니다.
- 군집 내 제곱합(WCSS): 각 점과 자기 군집 중심의 거리 제곱 합. 이 해는 20.97입니다. k-평균은 이 값을 줄이는 방향으로만 움직입니다.
- 초기값에 따라 결과가 달라질 수 있습니다. 두 중심을 모두 왼쪽 아래 무리(예: (1,0.6), (2,1))에서 시작하면 (3.5,5)가 위쪽 군집에 배정된 다른 해(WCSS = 24.91)에서 멈춥니다. 지역 최적해입니다. 그래서 초기값을 여러 번 바꿔 가장 낮은 WCSS를 고르거나(여러 번 시작), 중심을 서로 멀리 두는 k-means++ 초기화를 씁니다(Arthur & Vassilvitskii, 2007).
- k 고르기: WCSS는 k가 커지면 항상 줄기 때문에 최소를 고를 수 없습니다. 이 자료에서는 k = 1, 2, 3, 4의 WCSS가 179.2, 21.0, 6.7, 3.6으로, 1에서 2로 갈 때 급격히 떨어지고 그 뒤로는 완만합니다. 이렇게 꺾이는 지점을 찾는 것이 엘보 방법입니다(엘보 방법).
- 실루엣 계수(실루엣 점수)는 각 점이 자기 군집에 얼마나 잘 붙어 있고 다른 군집과 얼마나 떨어져 있는지를 −1~1로 재는 값입니다. 이 k = 2 해의 평균은 0.73입니다.
논문에는 이렇게 보고한다
변수와 표준화 여부, k를 정한 근거, 초기화 방법과 시작 횟수, 난수 시드, 군집 크기와 군집별 특성을 적습니다. (위 가상 자료 기준)
모든 변수를 z점수로 표준화한 뒤 k-평균 군집분석(무작위 초기값 50회 시작 후 군집 내 제곱합이 가장 작은 해 선택, 난수 시드 0)을 실시하였다. 엘보 방법과 평균 실루엣 계수(0.73)를 근거로 군집 수를 2개로 정하였다. 군집 1(n = 5)과 군집 2(n = 5)의 변수별 평균은 표 3과 같다.
- 군집에 붙이는 이름(‘고위험군’ 등)은 해석이므로, 근거가 되는 군집별 평균 표를 함께 보입니다.
- 같은 자료를 무작위로 나눠 다시 군집을 만들어 결과가 비슷한지(안정성) 확인하면 설득력이 높아집니다.
- 군집 간 평균 차이를 분산분석으로 검정하고 ‘유의했다’고 쓰는 논문이 있는데, 군집은 애초에 차이가 커지도록 만든 것이라 이 검정은 순환적입니다. 기술 통계로만 제시하는 것이 정직합니다.
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“군인의 특성이 각기 달라 동질적이지 않은 집단임을 감안하여 연령, 재무행동, 태도점수, 지식점수, 최종학력 다섯 가지 변수를 선정해서 군집분석(K-means)한 결과, 군집1(n=71)은 높은 재무행동, 높은 생활태도, 고학력 특성을 갖고 있으며 자산과 소득이 가장 높은 집단이었다.”
직업군인 가계의 재무역량, 재무교육, 은퇴준비에 관한 연구, 한국생활과학회지, 2020 · KCI 한국학술지인용색인 · 원문 보기 ↗
“K-means 군집분석 결과, 모든 역량이 높은 전반 역량 우수집단, 융합적지식과 통합적사고에 대한 역량이 낮은 지식과 사고부족 집단, 모든 역량이 낮은 전반 역량 저조 집단 세 가지 유형이 도출되었다.”
신학대학생의 핵심역량 유형 군집화 및 특징 분석 - D신학대학교 학생들을 대상으로, 장신논단, 2025 · KCI 한국학술지인용색인 · 원문 보기 ↗
“K-평균 군집 분석 결과 427명의 표본 중 약 50%의 응답자가 위험 중립의 성향을 보이는 반면, 나머지 50%는 위험추구와 위험회피로 각각 절반씩 분류되었다.”
투자자행동에 관한 행동경제학 관점의 연구 -위험회피성향과 손실회피율을 중심으로, 부동산융복합연구, 2024 · KCI 한국학술지인용색인 · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
이 문장은 연구자가 몇 개의 그룹으로 나누는 것이 가장 자연스러운지(k=4)를 사전에 탐색한 뒤, 그 기준에 따라 고객들을 4개의 유형으로 자동 분류했다는 뜻입니다. 실루엣 계수는 각 데이터가 자신이 속한 그룹과는 가깝고 다른 그룹과는 멀리 떨어져 있는지를 수치로 평가하는 지표입니다.
생물정보학 연구에서 세포나 유전자를 발현 패턴에 따라 자동으로 그룹화할 때 쓰이는 표현이다.
사회과학, 마케팅 연구에서 응답자 유형을 탐색적으로 분류할 때 흔히 사용되는 예문이다.
조금 더 깊게 보면
적절한 k값을 정하기 위해 흔히 엘보우 방법(군집 내 분산 합의 감소폭이 완만해지는 지점을 찾는 방법)이나 실루엣 계수를 활용합니다. k-평균은 각 데이터와 중심점 사이의 유클리드 거리를 기준으로 하기 때문에 변수 단위가 다르면 결과가 왜곡될 수 있어 사전에 표준화를 거치는 경우가 많습니다.
또한 초기 중심점 위치에 따라 결과가 지역 최적해에 머물 수 있어, k-means++와 같은 초기화 방법이나 여러 번의 반복 실행을 통해 안정성을 확보하는 것이 일반적입니다.
주의할 점
k-평균 군집화는 그룹 개수 k를 분석자가 미리 정해줘야 하며, 이 값에 따라 결과가 크게 달라질 수 있습니다. 또한 초기 중심점 위치에 따라 결과가 조금씩 달라질 수 있고, 그룹의 모양이 둥글지 않거나 그룹 간 크기 차이가 크면 잘 작동하지 않을 수 있습니다. 집단이 미리 정해져 있고 그 집단들의 평균을 비교하는 분산분석 같은 방법과 달리, k-평균 군집화는 정답이 없는 상태에서 데이터의 숨은 구조를 탐색하는 방법이라는 점이 다릅니다.
헷갈리기 쉬운 용어
군집·분류·차원 축소는 서로 다른 작업입니다.
| 용어 | 하는 일 | 정답 라벨 |
|---|---|---|
| k-평균 군집 | k개 군집으로 나눔, 중심은 평균 | 불필요 |
| 계층적 군집 | 덴드로그램으로 병합 과정을 보임, k는 나중에 결정 | 불필요 |
| 주성분분석 | 변수를 적은 수의 축으로 요약(군집이 아님) | 불필요 |
| 로지스틱 회귀 | 이미 정해진 범주를 예측(분류) | 필요 |
‘k-평균’의 k는 군집 수이고, k겹 교차검증의 k는 데이터를 나누는 조각 수입니다. 이름만 비슷합니다.
참고 문헌
- MacQueen, J. (1967). Some methods for classification and analysis of multivariate observations. Proceedings of the Fifth Berkeley Symposium on Mathematical Statistics and Probability, 1, 281–297.
- Lloyd, S. P. (1982). Least squares quantization in PCM. IEEE Transactions on Information Theory, 28(2), 129–137.
- Rousseeuw, P. J. (1987). Silhouettes: A graphical aid to the interpretation and validation of cluster analysis. Journal of Computational and Applied Mathematics, 20, 53–65.
- Arthur, D., & Vassilvitskii, S. (2007). k-means++: The advantages of careful seeding. Proceedings of the Eighteenth Annual ACM-SIAM Symposium on Discrete Algorithms, 1027–1035.
- Jain, A. K. (2010). Data clustering: 50 years beyond K-means. Pattern Recognition Letters, 31(8), 651–666.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.