잭나이프 재표본법 (Jackknife Resampling)
쉽게 풀면
표본이 100명이라면, 잭나이프는 "1번 사람을 뺀 99명으로 계산 → 2번 사람을 뺀 99명으로 계산 → ... → 100번 사람을 뺀 99명으로 계산"하는 식으로 딱 한 명씩 돌아가며 뺀 100개의 부분표본을 만듭니다.
각 부분표본에서 관심 있는 통계량(평균, 상관계수 등)을 계산하면, 특정 관측치 하나가 빠졌을 때 결과가 얼마나 달라지는지를 알 수 있습니다.
이 100개의 계산값이 서로 얼마나 흩어져 있는지를 보면, 원래 표본으로 구한 통계량이 전체 모집단에서도 안정적으로 나올 값인지, 아니면 몇몇 튀는 관측치에 크게 좌우된 값인지를 가늠할 수 있고, 이를 이용해 표준오차와 편향을 추정합니다.
왜 중요한가
잭나이프는 복잡한 통계량의 표준오차나 신뢰구간을 이론적 공식 없이도 계산할 수 있게 해주는 재표본 기법으로, 특히 이론적 분산 공식이 알려져 있지 않거나 유도하기 어려운 통계량을 다룰 때 유용하게 쓰입니다.
계산량이 부트스트랩보다 적고 결과가 결정론적이어서 재현이 쉽다는 장점 때문에, 계산 자원이 제한적이던 시기부터 생태학, 계량경제학 등 다양한 분야에서 표준적인 강건성 점검 도구로 자리 잡았습니다.
또한 특정 관측치 하나가 결과를 좌우하는지 확인하는 민감도 분석의 성격도 겸하고 있어, 이상치의 영향력을 진단하는 데도 활용됩니다.
언제 쓰나
평균처럼 공식이 있는 통계량이 아니라 상관계수, 비율, 복잡한 추정량의 편향과 표준오차를 구하고 싶은데 이론적 공식이 번거로울 때 씁니다. 관측치를 한 번에 하나씩 빼고 통계량을 다시 계산합니다(leave-one-out).
- n개의 표본이면 정확히 n번 다시 계산하므로 난수가 필요 없고 결과가 항상 같습니다.
- 쓰임: 편향 추정과 보정(Quenouille, 1956), 표준오차 추정(Tukey가 이를 확장), 복합표본조사의 분산 추정(여러 재현 가중치를 만드는 방식, Wolter, 2007), 영향력 큰 관측치 점검.
- 통계량이 표본에 대해 ‘매끄러운’ 함수여야 잘 작동합니다. 평균·분산·상관계수에는 잘 맞지만, 중앙값·분위수처럼 값이 뚝뚝 끊기는 통계량에는 적합하지 않습니다(Miller, 1974).
결과는 이렇게 읽는다
가상의 예: 8개 값 12, 15, 9, 20, 14, 11, 18, 13 (평균 14.0). 한 값씩 빼고 구한 평균은 14.29, 13.86, 14.71, 13.14, 14.00, 14.43, 13.43, 14.14입니다.
- 표준오차 = √((n−1)/n × Σ(θ(i) − θ̄(·))²) = 1.28. 평균에 대해서는 이것이 공식 s/√n = 1.28과 정확히 같습니다.
- 편향 추정 = (n−1) × (θ̄(·) − θ). 평균은 불편 추정량이라 0입니다. 반면 분모를 n으로 나눈 분산(11.5)은 편향 추정이 −1.64이고, 이를 빼 보정하면 13.14로 분모를 n−1로 나눈 표본분산과 같아집니다.
- 상관계수(가상 8쌍): r = .907, 하나씩 뺀 상관은 .887~.942, 잭나이프 표준오차 .038, 편향 +.032, 편향보정 r = .875. 한 점을 뺄 때 값이 얼마나 변하는지가 곧 그 점의 영향력입니다.
- 중앙값은 어긋납니다. 위 8개 값의 중앙값은 13.5이고 하나씩 뺀 중앙값은 13 또는 14 두 가지뿐입니다. 잭나이프 표준오차는 1.32, 부트스트랩(1만 회)은 1.52입니다. 표준정규 난수 40개로 모의 실험해도 잭나이프는 두 가지 값만 반복되어 표준오차 .22로, 부트스트랩의 .15와 달랐습니다. 중앙값에는 잭나이프가 일관되지 않는다는 이론과 맞는 결과입니다.
논문에는 이렇게 보고한다
어떤 통계량에 잭나이프를 썼는지, 무엇을 구했는지(표준오차, 편향 보정, 신뢰구간), 소프트웨어를 적습니다. (위 가상 자료 기준)
상관계수의 표준오차는 잭나이프 방법(leave-one-out, 8회)으로 추정하였다(r = .91, SE = 0.04).
- 반복 가중치(replicate weights)가 제공되는 복합표본조사를 분석했다면 “반복 가중치를 이용한 잭나이프 분산 추정”처럼 씁니다. 이 경우의 잭나이프는 군집 단위로 하나씩 빼는 방식입니다.
- 신뢰구간이 목적이면 오늘날에는 부트스트랩이 더 많이 쓰이므로, 잭나이프를 택한 이유(통계량이 매끄러움, 계산 비용, 재현성)가 있다면 적습니다.
- 잭나이프와 부트스트랩 결과가 크게 다르면 통계량이 매끄럽지 않거나 표본이 매우 작다는 신호일 수 있습니다.
논문에서는 이렇게 쓰입니다
실제 논문에서
국내 학술지 논문에서 이 용어가 쓰인 문장을 그대로 옮겼습니다. 제목·학술지·연도와 원문 링크를 함께 적었습니다.
“또한, 대체변동을 반영한 분산을 추정하기 위해 수정된 잭나이프분산(jackknife variance)를 구하여 세가지 대체법의 효율을 비교하였다.”
농가경제조사에 대한 대체법 비교, 통계연구, 2004 · KCI 한국학술지인용색인 · 원문 보기 ↗
“대표확률분포형 후보군으로 선정된 확률분포형에 대하여 resampling방법인 Jackknife기법을 적용하여 변동성을 파악하고, 변동성이 가장 작게 나타난 분포형을 그 지점의 대표확률분포형으로 결정하였다.”
연최대강우량의 대표확률분포형 결정을 위한 Jackknife기법의 적용, 한국수자원학회 논문집, 2009 · KCI 한국학술지인용색인 · 원문 보기 ↗
“또한 잭나이프 방법을 응용하여 태풍 대표 경로의 확률 범위와 태풍 통과 예상지역을 추정하였다.”
태풍의 대표 경로 추출 및 통과 예상지역 추정, 국토지리학회지, 2016 · KCI 한국학술지인용색인 · 원문 보기 ↗
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
이 문장은 "관측치를 하나씩 빼가며 재계산해봤더니, 특정 관측치 하나에 결과가 크게 흔들리지 않고 안정적이었다"는 뜻으로, 추정량의 신뢰성을 점검하는 방법론 섹션에서 주로 사용됩니다.
생물학의 계통수 분석에서는 관측치 대신 서열 위치(사이트)를 하나씩 빼가며 반복 계산해 나무 구조의 특정 가지가 얼마나 안정적으로 재현되는지를 확인하는 데 잭나이프가 쓰인다는 것을 보여줍니다.
조사방법론·표본설계 분야에서는 지역이나 군집 단위로 표본을 하나씩 빼가며 전체 추정치가 특정 집단에 의해 왜곡되지 않았는지 확인하는 데 잭나이프를 활용한다는 의미입니다.
조금 더 깊게 보면
잭나이프는 매번 관측치를 정확히 하나(또는 지정한 블록 단위)씩 빼는 결정론적 절차이기 때문에, 매번 무작위로 표본을 재추출하는 부트스트랩에 비해 만들어낼 수 있는 재표본의 수가 표본 크기로 제한되고, 그만큼 분산이나 신뢰구간 추정의 정밀도도 상대적으로 낮을 수 있습니다.
특히 중앙값처럼 매끄럽지 않은(불연속적인) 통계량에서는 잭나이프의 분산 추정이 잘 작동하지 않는다고 알려져 있어, 이런 경우 부트스트랩이 더 선호됩니다. 관측치를 하나가 아니라 여러 개씩 묶어서 빼는 "블록 잭나이프"는 시계열이나 군집 자료처럼 관측치 간 독립성이 없는 상황에서 자주 쓰이는 변형입니다.
주의할 점
잭나이프는 표본에서 만들어지는 부분표본의 수가 표본 크기만큼으로 제한되어 있어, 매번 무작위로 표본을 다시 뽑아 훨씬 많은 재표본을 만드는 부트스트랩보다 신뢰구간 추정의 정밀도가 떨어질 수 있습니다.
헷갈리기 쉬운 용어
‘표본을 다시 뽑는다’는 방법들이 비슷해 보이지만 목적이 다릅니다.
| 방법 | 핵심 아이디어 | 얻는 것 |
|---|---|---|
| 잭나이프 | 하나씩 제외하며 반복 | 편향·표준오차(결정적) |
| 부트스트랩 | 표본에서 복원추출 반복 | 분포 전체, 신뢰구간 |
| 순열검정 | 집단 라벨을 섞어 귀무분포 생성 | 가설검정의 p값 |
| 교차검증 | 학습/검증 자료를 나눠 반복 | 예측 오차 |
‘잭나이프’는 튜키가 이 방법을 ‘어느 문제에나 쓸 수 있는 만능 칼’에 비유해 붙인 이름으로 알려져 있습니다. 퀘누이(Quenouille)가 편향 보정의 아이디어를 먼저 냈습니다.
참고 문헌
- Quenouille, M. H. (1956). Notes on bias in estimation. Biometrika, 43(3–4), 353–360.
- Miller, R. G. (1974). The jackknife—a review. Biometrika, 61(1), 1–15.
- Efron, B. (1982). The jackknife, the bootstrap and other resampling plans. SIAM.
- Efron, B., & Tibshirani, R. J. (1993). An introduction to the bootstrap. Chapman & Hall.
- Wolter, K. M. (2007). Introduction to variance estimation (2nd ed.). Springer.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.