결정 트리 (Decision Tree)

한 줄 정의: 질문을 단계적으로 던지면서 예/아니오로 갈라지는 나뭇가지 구조를 따라 분류나 예측을 하는 머신러닝 모델입니다.

쉽게 풀면

스무고개 게임을 떠올려 보세요. "동물인가요?" → 예 → "다리가 네 개인가요?" → 예 → "짖나요?" → 예 → "그럼 개네요!" 처럼 질문을 하나씩 던지며 답을 좁혀가는 방식입니다. 결정 트리도 똑같은 방식으로 동작합니다. "나이가 30세 이상인가?", "소득이 얼마 이상인가?" 같은 질문(조건)을 데이터의 특징에 따라 자동으로 만들고, 그 질문에 예/아니오로 답하며 가지를 타고 내려가다 보면 최종적으로 "합격/불합격", "구매함/구매 안 함" 같은 결론(잎 노드)에 도달합니다. 나무가 뿌리에서 가지로, 가지에서 잎으로 뻗어나가는 모양과 비슷해서 '트리(나무)'라는 이름이 붙었습니다. 사람이 직접 그 판단 과정을 눈으로 따라가며 이해할 수 있다는 점이 결정 트리의 큰 장점입니다.

왜 중요한가

결정 트리는 예측 성능뿐 아니라 판단 근거를 사람이 직접 눈으로 확인할 수 있는 몇 안 되는 해석 가능한 모델이어서, 의료·금융처럼 결정 이유를 설명해야 하는 응용 분야의 논문에서 특히 자주 다뤄집니다. 또한 랜덤 포레스트나 그래디언트 부스팅처럼 널리 쓰이는 앙상블 기법들이 모두 결정 트리를 기본 구성요소로 삼기 때문에, 이 개념을 이해하는 것은 현대 머신러닝 방법론 전반을 읽는 데 필수적입니다.

논문에서는 이렇게 쓰입니다

"환자의 임상 지표를 입력변수로 결정 트리를 학습시켜 질환 유무를 분류하였으며, 모델의 판단 근거를 트리 구조로 시각화하여 해석 가능성을 확보하였다."

결정 트리를 이용해 환자를 분류하면서, 그 판단 과정을 나무 구조로 그림으로 보여줄 수 있었다는 뜻입니다.

"고객 이탈 예측을 위해 결정 트리 기반 모델을 구축하였으며, 변수 중요도 분석을 통해 이탈에 가장 큰 영향을 미치는 요인을 식별하였다."

경영학·마케팅 분석 연구에서 결정 트리를 활용해 주요 영향 요인을 파악할 때 흔히 쓰이는 표현이다.

"토양 특성 데이터를 기반으로 결정 트리를 구성하여 산사태 발생 위험 지역을 분류하였다."

환경·지질공학 연구에서 위험 지역 분류나 재해 예측에 결정 트리를 적용할 때 사용되는 표현이다.

조금 더 깊게 보면

결정 트리는 각 분기(노드)에서 어떤 질문이 데이터를 가장 잘 나누는지를 정보 이득이나 지니 불순도 같은 지표로 계산해 자동으로 선택합니다. 단일 트리는 과적합에 취약하기 때문에 실무에서는 여러 트리를 결합하는 랜덤 포레스트나 순차적으로 오차를 보완하는 그래디언트 부스팅 계열 모델이 더 널리 쓰이며, 이때도 각 변수가 예측에 얼마나 기여했는지를 나타내는 변수 중요도 지표가 함께 보고되는 경우가 많습니다.

주의할 점

결정 트리는 가지를 너무 깊게 뻗도록 내버려 두면 학습 데이터의 세세한 잡음까지 외워버려 과적합에 빠지기 쉽습니다. 그래서 실제로는 트리의 깊이를 제한하거나, 여러 개의 트리를 만들어 결과를 종합하는 앙상블 학습 방식(랜덤 포레스트 등)으로 보완하는 경우가 많습니다.