이상치 (Outlier)

한 줄 정의: 다른 데이터와 크게 동떨어진 값으로, 분석 결과를 왜곡할 수 있는 관측치.

쉽게 풀면

반 학생 30명의 용돈을 조사했는데 29명은 5만원 안팎인데 한 명만 500만원이라면, 그 한 명이 바로 이상치입니다. 이 값을 그대로 두고 평균을 계산하면 "우리 반 평균 용돈은 20만원"처럼 실제와 동떨어진 결론이 나올 수 있습니다. 이상치는 입력 실수나 측정 오류일 수도 있고, 실제로 존재하는 특이한 사례일 수도 있어서 무작정 지우기보다는 왜 그런 값이 나왔는지 먼저 확인하는 것이 중요합니다.

왜 중요한가

평균, 분산, 상관계수 같은 통계량은 극단값 하나에도 크게 흔들리기 때문에, 이상치를 어떻게 다루느냐에 따라 같은 데이터에서도 전혀 다른 결론이 나올 수 있습니다. 그래서 논문에서는 결과의 신뢰성을 뒷받침하기 위해 이상치 탐지와 처리 과정을 별도로 보고하는 경우가 많습니다. 또한 이상치가 단순 오류가 아니라 의미 있는 특이 사례일 수도 있어, 이를 어떻게 판단하고 다루었는지가 연구 설계 전반의 신뢰도와 재현성 문제로 이어집니다.

핵심 정리

이상치는 “다른 관측치들의 흐름에서 눈에 띄게 벗어난 값”이라는 서술이지, 틀린 값이라는 판정이 아닙니다. 같은 값이라도 원인에 따라 다루는 방법이 달라집니다.
원인은 크게 셋으로 나눕니다. ① 입력·측정 오류, ② 연구 대상이 아닌 다른 집단에서 온 값(예: 다른 단위로 기록된 자료), ③ 대상 집단 안에서 실제로 나타난 드문 극단값.
탐지에는 정해진 정답이 없고 관례만 있습니다. 상자그림의 1.5 × IQR 규칙(Tukey, 1977: 1사분위수 − 1.5×IQR보다 작거나 3사분위수 + 1.5×IQR보다 큰 값)과 |z| > 3(평균에서 표준편차 3배 이상 떨어진 값)이 가장 흔합니다. 회귀분석에서는 잔차, 레버리지, 쿡의 거리를 봅니다.
처리의 순서는 “확인 → 원인 판단 → 처리”입니다. 오류로 확인되면 정정하거나 결측으로 처리하고, 실제 값이라면 지우지 않은 채 강건한 방법이나 변환으로 영향을 줄이는 쪽을 먼저 검토합니다.
이상치를 제외했다면 기준, 제외 개수, 제외 전후의 결과를 함께 밝히는 것이 좋습니다(Aguinis 외, 2013).

예시로 보기

10명의 값이 4, 5, 5, 6, 6, 7, 7, 8, 9, 40이라고 해 봅시다(가상의 예).

방법	계산	40을 이상치로 보나?
1.5 × IQR 규칙	Q1 = 5.25, Q3 = 7.75, IQR = 2.5 → 허용 범위 1.5 ~ 11.5	예 (11.5 초과)
\|z\| > 3 규칙	평균 9.7, 표준편차 10.75 → z = 2.82	아니오 (3 미만)

같은 자료인데 결론이 다릅니다. 40 하나가 평균과 표준편차를 함께 키워서 자기 자신의 z값을 낮춘 것입니다. 실제로 표본이 n개일 때 z의 절댓값은 (n − 1)/√n을 넘을 수 없어서, n = 10이면 최댓값이 2.85입니다. 그래서 n이 작으면 |z| > 3 규칙은 아무것도 잡아내지 못합니다. (사분위수는 선형보간 방식으로 계산했으며, 프로그램에 따라 Q1·Q3 계산법이 조금씩 달라 경계값이 다를 수 있습니다.)

40을 제외하면 평균은 9.7에서 6.33으로, 중앙값은 6.5에서 6.0으로 바뀝니다. 평균이 중앙값보다 훨씬 크게 움직였다는 점이 극단값의 영향력을 보여 줍니다.

자주 하는 오해

“이상치는 지우는 것이다.” 지우는 것은 여러 선택지 중 하나일 뿐입니다. 실제로 존재하는 값을 근거 없이 지우면 결과를 연구자에게 유리한 쪽으로 만들 수 있습니다.
“|z| > 3이면 이상치다.” 정규분포에서도 |z| > 3인 값은 약 0.27%(1,000개 중 2~3개) 나옵니다. 자료가 많으면 이상치가 아닌데도 걸리고, 자료가 적거나 극단값이 SD를 키우면 못 잡습니다.
“상자그림 밖의 점은 잘못된 값이다.” 1.5 × IQR은 “살펴볼 후보를 표시하는” 관례일 뿐 오류의 증거가 아닙니다. 한쪽으로 치우친 분포에서는 정상적인 값도 많이 밖으로 나옵니다.
“이상치는 한 변수만 보면 찾을 수 있다.” 키와 몸무게가 각각은 정상이어도 조합이 이상한 값은 변수를 따로 볼 때 드러나지 않습니다(다변량 이상치).

논문에서는 이렇게 쓰입니다

실제 논문에서

국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.

“체력 요인은 상대악력, 앉아앞으로굽히기, 제자리멀리뛰기, 최대산소섭취량(VO₂max), 윗몸말아올리기, 일리노이 민첩성으로 구성하였으며, 이상치 제거 후 독립표본 t-검정 또는 Welch t-검정과 효과크기(Cohen’s d) 분석을 실시하였다.”
청소년의 허리둘레∙신장비(Waist-to-Height Ratio)와 주요 체력 요인 간 관계 - 성별 차이 분석 -, 기술경영, 2025 · KCI 한국학술지인용색인 · 원문 보기 ↗
“STL 기법은 수계 시계열 자료의 이상치를 판별하고 제거할 수 있게 하며 해당 자료의 수질 변화 추세와 계절적 특성을 분석하는 방법이다.”
다변량 통계분석을 이용한 미호강 유역 수질 특성 분석, 한국수자원학회 논문집, 2024 · KCI 한국학술지인용색인 · 원문 보기 ↗

예시 문장

아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.

"측정 오류로 판단되는 이상치 3건을 제외한 후 재분석을 실시하였다."

비정상적으로 튀는 값 3개를 걸러내고 나머지 데이터로 다시 통계 분석을 했다는 뜻입니다.

"박스플롯(box plot)을 이용해 사분위범위(IQR) 기준을 벗어나는 이상치를 시각적으로 확인하였다."

그래프로 데이터 분포를 그려보고, 대부분의 값에서 크게 벗어난 지점이 있는지 눈으로 먼저 살펴봤다는 뜻입니다.

"센서 오작동으로 발생한 이상치는 결측치로 처리하여 후속 모델 학습에서 제외하였다."

기계나 장비가 잘못 측정해서 생긴 튀는 값은 아예 없는 값 취급해서, 이후 분석이나 모델 학습에 쓰지 않았다는 뜻입니다.

조금 더 깊게 보면

이상치를 판단하는 방법에는 평균에서 표준편차의 일정 배수 이상 벗어난 값을 기준으로 삼는 방법, 사분위범위(IQR)를 이용해 상하한을 정하는 방법, 회귀분석에서 잔차나 레버리지 값을 살펴보는 방법 등 여러 가지가 있습니다.

어떤 기준을 쓰느냐에 따라 걸러지는 값의 개수가 달라질 수 있어서, 논문에서는 사용한 기준을 명확히 밝히는 것이 일반적입니다. 또한 이상치를 완전히 제거하는 대신 순위로 변환하는 등 극단값의 영향을 덜 받는 방법(로버스트 통계)을 쓰기도 합니다.

주의할 점

이상치를 제거하는 기준(예: 평균에서 표준편차 3배 이상 벗어난 값)을 논문에 명시하지 않고 임의로 데이터를 빼면 결과를 왜곡시켰다는 비판을 받을 수 있습니다. 이상치 처리 방법과 이유를 반드시 밝혀야 합니다.

헷갈리기 쉬운 용어

회귀분석에서는 “튀는 값”을 세 가지 서로 다른 성질로 나누어 봅니다.

용어	무엇을 보나	쉬운 구분
이상치	종속변수(y) 방향으로 예측에서 많이 벗어난 값	잔차가 큰 점
레버리지	독립변수(x) 값이 다른 관측치들에서 멀리 떨어진 정도	x가 극단인 점
쿡의 거리	그 관측치를 빼면 회귀 결과가 얼마나 달라지는지	영향력이 큰 점

잔차가 크지 않아도 레버리지가 높으면 회귀선을 끌어당길 수 있고, 둘 다 크면 영향력이 특히 커집니다.

참고 문헌

Tukey, J. W. (1977). Exploratory Data Analysis. Addison-Wesley.
Barnett, V., & Lewis, T. (1994). Outliers in Statistical Data (3rd ed.). Wiley.
Rousseeuw, P. J., & Leroy, A. M. (1987). Robust Regression and Outlier Detection. Wiley.
Aguinis, H., Gottfredson, R. K., & Joo, H. (2013). Best-practice recommendations for defining, identifying, and handling outliers. Organizational Research Methods, 16(2), 270–301.

표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.