용어 목록 > 신호탐지이론 (Signal Detection Theory)

신호탐지이론 (Signal Detection Theory)

쉽게 풀면

병원에서 엑스레이 사진을 보고 종양이 있는지 판단하는 의사를 떠올려 봅시다.

실제로 종양이 있고 의사도 "있다"고 판단하면 적중(hit), 실제로는 없는데 "있다"고 잘못 판단하면 오경보(false alarm), 실제로 있는데 놓치면 누락(miss), 없고 없다고 정확히 판단하면 정기각(correct rejection)입니다.

신호탐지이론은 이 네 가지 결과를 나누어 봄으로써, 판단이 틀리는 이유를 두 가지로 쪼갭니다. 하나는 신호와 소음을 실제로 얼마나 잘 구별하는 능력(민감도, d′)이고, 다른 하나는 애매할 때 "있다"고 말하는 쪽으로 기울지 "없다"고 말하는 쪽으로 기울지의 성향(반응편향, criterion)입니다.

예컨대 겁이 많은 의사는 종양이 조금이라도 의심되면 "있다"고 말할 확률이 높아지는데, 이는 능력이 아니라 반응편향의 차이일 수 있습니다.

왜 중요한가

신호탐지이론은 정답률이라는 단일 지표 뒤에 숨어 있는 "능력"과 "성향"을 분리해낼 수 있게 해주기 때문에, 지각·기억·의사결정을 다루는 심리학 연구에서 필수적인 분석 틀로 자리잡았습니다. 같은 정답률이라도 반응편향이 다르면 전혀 다른 인지 과정을 반영할 수 있다는 통찰 덕분에, 의료 영상 진단의 정확도 평가나 레이더·통신 시스템의 탐지 성능 평가 같은 응용 분야에서도 폭넓게 채택됩니다.

핵심 주장

• 불확실한 상황에서 "신호가 있다/없다"를 판단하는 일은 변별 능력과 판단 기준(반응 편향) 두 가지로 나뉩니다. 정답률 하나로는 둘을 구분할 수 없다는 것이 출발점입니다.
• 신호가 있을 때와 없을 때(소음만 있을 때)의 내적 증거 크기가 각각 분포를 이루고, 두 분포가 겹치기 때문에 오류가 생깁니다. 관찰자는 기준선을 정해 그보다 증거가 크면 "있다"고 답합니다.
• 네 결과: 적중(H), 누락, 오경보(FA), 정기각. 변별력 d′ = z(H) − z(FA) (z는 표준정규분포의 역누적함수), 기준 c = −[z(H) + z(FA)]/2 (0이면 중립, 음수면 "있다" 쪽으로 기운 자유로운 기준, 양수면 보수적 기준). 등분산 정규분포를 가정한 식입니다.

근거와 대표 연구

• Tanner와 Swets(1954)가 시각 탐지에 적용했고, Green과 Swets(1966)가 체계를 정리했습니다. 이후 기억 재인, 의료 판독, 목격자 식별, 품질 검사 등 "있다/없다" 판단이 있는 분야로 퍼졌습니다.
• 계산 예시(가상의 예, 정규 역함수를 이용해 직접 계산): 세 명의 관찰자가 신호 시행과 소음 시행을 같은 비율로 받았다고 합시다.

  관찰자	적중률	오경보율	d′	c	정답률
  A	.84	.16	1.99	0.00	.84
  B	.93	.31	1.97	−0.49	.81
  C	.69	.07	1.97	+0.49	.81

  B는 쉽게 "있다"고 말하는 자유로운 기준, C는 확실할 때만 "있다"고 말하는 보수적 기준을 쓰지만, 변별력은 A와 거의 같습니다. 정답률만 보면 A가 가장 좋아 보이지만, 변별력 차이는 거의 없습니다.
• 기준을 바꿔 가며 (오경보율, 적중률) 점을 이으면 ROC 곡선이 되고, 그 아래 면적이 AUC입니다.

비판과 한계

• 가정 의존: d′와 c의 식은 두 분포가 정규이고 분산이 같다는 가정에 의존합니다. 기억 재인 연구에서는 zROC 기울기가 1이 아닌 경우가 많아, 등분산 가정이 맞지 않는다는 보고가 있습니다. 이 경우 비모수 지표나 불등분산 모형을 씁니다.
• 극단 비율: 적중률이나 오경보율이 0 또는 1이면 z값이 무한대가 되므로, 보정(예: Hautus, 1995의 방법)이 필요합니다. 어떤 보정을 썼는지 밝혀야 합니다.
• 시행 수: 시행이 적으면 d′ 추정이 불안정합니다. 시행 수와 신호 비율을 함께 보고해야 합니다.
• 용어 혼동: 의학의 민감도(=적중률)와 특이도(=1−오경보율)는 같은 네 칸에서 나오지만, 신호탐지이론의 d′는 이 둘을 분포 기준으로 합친 지표입니다.

논문에서는 이렇게 쓰입니다

실제 논문에서

이 용어를 직접 쓴 국내 논문 문장을 아직 수집하지 못했습니다. 수집되는 대로 출처와 함께 싣겠습니다.

예시 문장

아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.

이 문장은 단순히 정답률만 계산한 것이 아니라, 참가자가 "봤다/못 봤다"를 판단할 때 실제 변별 능력과 응답 성향을 분리해서 측정했다는 뜻입니다. 인지심리학의 기억·지각 연구뿐 아니라 의료 진단, 목격자 증언의 신뢰도 연구에서도 널리 쓰입니다.

의료영상 진단 연구에서 판독자의 진단 능력을 단일 정확도가 아니라 민감도-특이도 관계로 평가하는 방식을 보여준다.

감각지각 실험에서 자극 강도와 지각 민감도의 관계를 신호탐지이론으로 정량화한 예문이다.

조금 더 깊게 보면

신호탐지이론에서 민감도(d′)와 반응편향(criterion, c 또는 β)은 적중률과 오경보율로부터 표준정규분포를 가정해 계산되며, 이 둘의 관계를 그래프로 나타낸 것이 수신자조작특성(ROC) 곡선입니다. ROC 곡선 아래 면적(AUC)은 판단 기준과 무관하게 순수한 변별 능력을 나타내는 지표로 널리 쓰이며, 여러 편향 수준에서의 수행을 종합적으로 비교할 때 유용합니다.

주의할 점

적중률(hit rate)이나 단순 정답률만으로 판단 능력을 평가하면 반응편향까지 뒤섞여 실제 지각·기억 능력을 과대 또는 과소평가할 수 있습니다. 그래서 목격자 증언의 정확도를 연구할 때도 정답률 대신 민감도와 반응편향을 분리해 분석하는 것이 권장됩니다.

헷갈리기 쉬운 용어

정답률(정확도)은 변별력과 반응 편향이 섞인 값입니다.

참고 문헌

1. Green, D. M., & Swets, J. A. (1966). Signal Detection Theory and Psychophysics. Wiley.
2. Tanner, W. P., Jr., & Swets, J. A. (1954). A decision-making theory of visual detection. Psychological Review, 61(6), 401–409.
3. Macmillan, N. A., & Creelman, C. D. (2005). Detection Theory: A User's Guide (2nd ed.). Lawrence Erlbaum.
4. Stanislaw, H., & Todorov, N. (1999). Calculation of signal detection theory measures. Behavior Research Methods, Instruments, & Computers, 31(1), 137–149.
5. Hautus, M. J. (1995). Corrections for extreme proportions and their biasing effects on estimated values of d′. Behavior Research Methods, Instruments, & Computers, 27(1), 46–51.

표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.

관련 용어