정량한계 (Limit of Quantification)
쉽게 풀면
어두운 방에서 멀리 있는 촛불을 본다고 상상해 보세요. 아주 희미해도 "불빛이 있다"는 건 알아챌 수 있지만, 그 촛불이 몇 개인지 정확히 세려면 좀 더 밝아야 합니다. 검출한계가 "불빛이 있다/없다"를 구분하는 지점이라면, 정량한계는 "몇 개인지 믿고 셀 수 있는" 지점입니다. 분석화학이나 임상검사에서는 어떤 성분의 농도가 정량한계보다 낮으면 "검출은 됐지만 정확한 수치로 보고하기엔 부족하다"고 판단하고, 그 이상일 때만 구체적인 숫자(예: 0.5mg/L)로 보고합니다.
왜 중요한가
임상시험이나 환경·식품 분석에서는 물질의 존재 여부뿐 아니라 그 농도가 기준치를 넘는지, 시간에 따라 어떻게 변하는지를 정확한 수치로 비교해야 하는 경우가 많습니다. 이때 정량한계보다 낮은 값을 마치 정확한 수치인 것처럼 사용하면 통계 분석 결과가 왜곡될 수 있기 때문에, 정량한계는 분석법의 신뢰 구간을 규정하는 중요한 기준으로서 논문의 방법론 절에서 검출한계와 함께 반드시 보고됩니다.
논문에서는 이렇게 쓰입니다
이 문장은 시료 속 물질 농도가 0.02μg/mL 이상일 때부터 이 분석법으로 신뢰할 수 있는 정확한 수치를 보고할 수 있다는 뜻입니다. 그 이하의 값은 "검출되었으나 정량 불가(detected but not quantifiable)"로 표기하는 경우가 많습니다.
임상약리학 논문에서는 약물이 체내에서 정량한계 아래로 떨어지면 그 이후 데이터를 신뢰할 수 없다고 보아 분석 대상에서 제외하는 처리 방식을 보여줍니다.
환경모니터링 연구에서는 정량한계 미만 값을 어떻게 처리할지(제외, 절반값 대체 등)를 명시하는 것이 통계 분석의 투명성을 위해 중요하다는 예시입니다.
조금 더 깊게 보면
정량한계 미만의 값을 통계 분석에서 어떻게 처리할지는 분야마다 관행이 다른데, 흔히 그 값을 아예 제외하거나, 정량한계의 절반 또는 정량한계를 0으로 대체하는 방법이 쓰이며, 최근에는 이런 값을 '검열된 자료(censored data)'로 취급해 통계적으로 더 정교하게 다루는 방법도 논의됩니다. 검출한계와 정량한계는 모두 바탕값의 변동성(표준편차)에 기반해 산출되지만, 정량한계는 더 엄격한 배수(예를 들어 검출한계보다 높은 신호대잡음비 기준)를 적용해 계산한다는 점에서 차이가 있습니다.
주의할 점
정량한계는 항상 검출한계보다 높은 값입니다. 두 지표를 혼동해서 "검출됐으니 정확한 농도"라고 해석하면 안 되며, 정량한계 미만의 값을 평균 계산에 그대로 포함시키면 결과가 왜곡될 수 있습니다.