판별분석 (Discriminant Analysis)
쉽게 풀면
로지스틱 회귀분석과 목적은 비슷하지만, 여러 변수를 조합해서 두 개 이상의 집단을 가장 잘 갈라주는 경계선(판별함수)을 찾는 방법이다. 이렇게 찾은 판별함수를 이용하면 소속 집단을 모르는 새로운 사례가 어느 집단에 속할지 예측할 수 있다. 예를 들어 여러 재무 지표를 이용해 기업이 부도 위험군인지 아닌지 분류하는 데 사용될 수 있다.
왜 중요한가
판별분석은 이미 소속 집단이 알려진 표본을 바탕으로 새로운 사례를 분류하는 규칙을 만든다는 점에서, 예측·분류가 필요한 여러 응용 연구의 기본 틀로 쓰입니다. 재무 부도 예측, 질병 진단 분류, 생물 종 판별처럼 "이 사례가 어느 범주에 속하는가"를 다루는 논문에서 로지스틱 회귀나 기계학습 분류기와 함께 비교 대상으로 자주 등장하며, 변수들이 집단 구분에 얼마나 기여하는지를 함께 파악할 수 있다는 점에서도 활용도가 높습니다.
언제 쓰나
이미 소속이 알려진 둘 이상의 집단이 있고, 여러 연속형 변수로 집단을 가장 잘 구분하는 규칙을 만들어 새 대상을 분류하거나 어떤 변수가 구분에 기여하는지 알고 싶을 때 씁니다. 출발점은 Fisher(1936)의 선형판별입니다.
- 가정: 각 집단 안에서 변수들이 다변량 정규분포를 따르고 집단 간 공분산행렬이 같다는 것입니다(선형판별분석). 공분산행렬이 다르면 이차판별분석을 씁니다.
- 이런 가정이 의심스럽거나 설명변수에 범주형이 섞여 있으면 로지스틱 회귀가 더 안전한 대안으로 많이 권해집니다(Press & Wilson, 1978).
- 집단이 g개이고 변수가 p개이면 판별함수는 min(g − 1, p)개까지 만들 수 있습니다.
결과는 이렇게 읽는다
- 판별함수 계수: 변수의 가중합
D = w₁x₁ + w₂x₂ + …입니다. 변수들의 단위가 다르면 표준화 계수로 상대적 기여를 비교합니다. 구조계수(변수와 판별점수의 상관)는 함수의 의미를 해석할 때 봅니다. - 윌크스 람다(Λ): 집단 간 구별이 있는지 검정합니다. 작을수록(0에 가까울수록) 집단 평균이 잘 구분됩니다.
- 분류표와 적중률: 실제 소속과 예측 소속의 교차표에서 맞게 분류한 비율입니다. 이 값을 우연히 맞힐 비율과 비교합니다(집단 비율이 같다면 둘이면 50%).
- 모형을 만든 바로 그 자료로 분류하면(재대입) 적중률이 과대평가됩니다. 교차검증(남겨놓고 검증, 교차검증)이나 별도의 검증 표본으로 평가합니다.
작은 예(컴퓨터로 만든 가상의 자료): 두 변수, 집단당 30명인 두 집단입니다. 선형판별함수의 계수는 (1.44, 0.29)였습니다. 모형을 만든 자료로 분류한 적중률은 80.0%(48/60)지만, 한 명씩 빼놓고 예측하는 교차검증 적중률은 76.7%(46/60)로 더 낮습니다. 변수가 많고 표본이 작을수록 이 차이는 커집니다.
논문에는 이렇게 보고한다
- 집단의 정의와 크기, 사용한 변수, 가정(정규성, 공분산 동질성) 점검 결과를 적습니다.
- 전체 검정(윌크스 람다, χ², 자유도, p)과 표준화 판별계수 또는 구조계수를 표로 제시합니다.
- 분류 결과는 교차검증 적중률을 중심으로 적고, 우연 수준과 비교합니다. 예:
교차검증 적중률은 76.7%로 우연 수준(50%)보다 높았다.(위 가상의 예 기준입니다.) - 집단 크기가 다를 때는 사전확률을 어떻게 설정했는지(같게/집단 비율대로) 밝힙니다.
- 설명변수 선택(단계적 방법)을 썼다면 같은 자료에서 변수를 고르면 적중률이 과대평가될 수 있음을 함께 서술합니다.
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“판별분석 결과에서는 K-CBCL 8개 문제행동 증후군 척도 모두 하위군집 구분에 유의한 변인으로 확인되었고 산출된 판별함수에 따른 하위군집 분류정확도는 96.1%로 나타났다.”
심리장애 진단아동의 K-CBCL 아동 청소년 행동평가척도 군집분석, Korean Journal of Clinical Psychology, 2014 · KCI 한국학술지인용색인 · 원문 보기 ↗
“연구방법으로는 재무비율들을 T-test를 실시하여 유의수준 5%이내의 의미 있는 비율들을 찾아내어 다변량 판별분석과 도산예측모형(유의수준 1%이내)을 개발하여 검증하였다.”
대구경북지역의 섬유업체 재무비율을 통한 도산예측에 관한 연구, 지역산업연구, 2019 · KCI 한국학술지인용색인 · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
여러 재무 지표를 조합해 기업이 부도 위험군인지 안전군인지를 가장 잘 구분해주는 함수를 만들었다는 뜻이다.
생물분류학에서는 신체 크기나 형태의 여러 측정값을 조합해 종이나 아종을 구분하는 데 판별분석을 사용한다.
의학 연구에서는 여러 검사 수치를 종합해 질환 여부를 판별하는 보조적 분류 도구로 판별분석을 활용한다.
조금 더 깊게 보면
판별분석은 집단 간 분산에 비해 집단 내 분산을 최소화하는 방향으로 변수들의 선형결합을 찾는데, 이 과정은 주성분분석과 원리는 비슷하지만 목적이 다릅니다. 주성분분석이 데이터의 전체 분산을 최대한 보존하는 축을 찾는다면, 판별분석은 집단을 가장 잘 구분하는 축을 찾는다는 차이가 있습니다. 실제 데이터가 정규성이나 공분산 동질성 가정을 만족하지 못하는 경우에는 이차판별분석(QDA)이나 로지스틱 회귀 같은 대안적 방법이 함께 검토되기도 합니다.
주의할 점
판별분석은 각 집단 내 변수들이 다변량 정규분포를 따르고 집단 간 공분산행렬이 동질적이라는 가정을 필요로 한다.
헷갈리기 쉬운 용어
| 용어 | 집단 정보 | 목적 |
|---|---|---|
| 판별분석 | 알려진 집단 | 집단을 잘 가르는 변수의 결합과 분류 규칙 |
| 로지스틱 회귀 | 알려진 집단(결과) | 집단 소속 확률과 변수 효과(오즈비). 분포 가정이 덜 엄격 |
| 군집분석 | 없음 | 집단 자체를 새로 만듦 |
| 다변량 분산분석 | 알려진 집단 | 집단 평균 벡터가 다른지 검정. 판별분석과 수학적으로 닮음 |
| 주성분분석 | — | 집단 정보 없이 분산을 최대로 보존하는 축 (판별은 집단을 가르는 축) |
참고 문헌
- Fisher, R. A. (1936). The use of multiple measurements in taxonomic problems. Annals of Eugenics, 7(2), 179–188.
- McLachlan, G. J. (1992). Discriminant Analysis and Statistical Pattern Recognition. Wiley.
- Press, S. J., & Wilson, S. (1978). Choosing between logistic regression and discriminant analysis. Journal of the American Statistical Association, 73(364), 699–705.
- Huberty, C. J., & Olejnik, S. (2006). Applied MANOVA and Discriminant Analysis (2nd ed.). Wiley.
- Hastie, T., Tibshirani, R., & Friedman, J. (2009). The Elements of Statistical Learning (2nd ed.). Springer.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.