분포 외 탐지 (out-of-distribution detection)
한 줄 정의: 모델이 학습 때 본 적 없는 낯선 입력을 알아채고 답을 보류하게 하는 기법입니다.
쉽게 풀면
분류 모델은 학습하지 않은 종류의 입력이 들어와도 무조건 아는 답 중 하나를 고릅니다. 개와 고양이만 배운 모델에 코끼리 사진을 넣으면 확신에 차서 개라고 답하는 식이지요. 분포 외 탐지는 이런 입력에 대해 “이건 내가 아는 범위 밖”이라는 신호를 내도록 만드는 기술입니다.
왜 중요한가
자율주행이나 의료 진단처럼 실패 비용이 큰 분야에서 모델을 실제로 쓰기 위한 안전장치입니다. 예상 밖 입력에서 조용히 틀리는 대신 사람에게 넘기도록 설계할 수 있기 때문입니다. 신뢰할 수 있는 머신러닝을 다루는 논문에서 안전성 평가의 표준 항목으로 등장합니다.
논문에서는 이렇게 쓰입니다
"제안 기법은 분포 외 탐지에서 기존 소프트맥스 최대확률 기준보다 위양성률을 12%p 낮추었다."
낯선 입력을 정상으로 잘못 통과시키는 비율이 기존 방법보다 줄었다는 성능 비교입니다.
조금 더 깊게 보면
가장 단순한 기준선은 소프트맥스 최대 확률값이지만, 신경망이 낯선 입력에도 과신하는 경향 때문에 신뢰도가 떨어집니다. 이를 보완하려고 온도 조절과 입력 섭동을 결합한 방법, 특징 공간에서의 마할라노비스 거리, 로짓에 기반한 에너지 점수, 보조 이상 데이터로 함께 학습시키는 이상 노출 방식 등이 제안되었습니다. 평가는 보통 분포 외 표본을 양성으로 두고 AUROC와 높은 재현율 지점에서의 위양성률로 보고합니다.
주의할 점
모델 보정은 예측 확률값이 실제 정답률과 일치하도록 맞추는 문제이고, 분포 외 탐지는 입력 자체가 학습 분포에 속하는지를 판별하는 문제라는 점에서 목표가 다릅니다. 무엇을 분포 밖으로 볼지는 벤치마크 설계에 따라 크게 달라지므로 결과를 비교할 때 데이터셋 조합을 확인해야 합니다.