퍼스 로지스틱 회귀 (Firth Logistic Regression)
한 줄 정의: 우도에 벌점을 더해 소표본·희귀사건 로지스틱 회귀의 편향과 분리를 해결하는 방법입니다.
쉽게 풀면
사건이 아주 드물거나 표본이 작으면 로지스틱 회귀의 계수가 과장되거나, 어떤 변수로 결과가 완벽히 갈려 추정치가 무한대로 발산하기도 합니다. 퍼스 방법은 우도함수에 벌점항을 곱해 계수가 0 쪽으로 약간 끌려오게 만듭니다. 그 결과 항상 유한한 추정치를 얻고 소표본 편향도 줄어듭니다.
왜 중요한가
희귀질환, 부작용, 소규모 임상연구처럼 사건 수가 적은 자료에서 일반 로지스틱 회귀가 실패하거나 과대추정되는 문제를 실용적으로 해결해 줍니다. 최근 예측모형과 역학 연구에서 표준 대안으로 자주 채택됩니다.
논문에서는 이렇게 쓰입니다
"사건 수가 적어 완전분리가 발생하였으므로 퍼스의 벌점우도 로지스틱 회귀로 오즈비와 프로파일 우도 신뢰구간을 산출하였다."
추정이 발산하는 상황을 벌점우도로 안정화하고 신뢰구간도 우도 기반으로 계산했다는 뜻입니다.
조금 더 깊게 보면
퍼스 벌점은 점수함수에 피셔정보량 행렬식의 로그에서 유도된 항을 더한 형태로, 최대우도추정의 1차 편향을 제거하는 역할을 합니다. 이 때문에 정규화 강도를 연구자가 고르는 릿지 회귀와 달리 조절 모수가 필요 없습니다. 벌점을 쓰면 왈드 검정이 부정확해질 수 있어 신뢰구간과 검정은 프로파일 우도 방식으로 계산하는 것이 권장되며, 예측확률이 다소 0.5 쪽으로 치우치는 성질도 보고되어 절편 보정이 제안되기도 합니다.
주의할 점
퍼스 방법은 소표본 편향을 줄이려는 벌점이고, 릿지·라쏘는 예측력 향상과 변수 축소를 목적으로 하는 정규화라 목적이 다릅니다. 또 벌점 때문에 추정치가 최대우도 결과와 정확히 같지 않으므로 표본이 충분한 자료에까지 관행적으로 적용할 필요는 없습니다.