반사실적 추론 (counterfactual reasoning)

한 줄 정의: 실제로 일어나지 않은 대안적 상황("만약 ~하지 않았다면 어떻게 되었을까")을 상정하여 인과효과를 정의하고 추론하는 사고방식이다.

쉽게 풀면

인과관계란 결국 "그 원인이 없었다면 결과가 달랐을까"를 따지는 것입니다. 그런데 같은 사람에게 처치를 주면서 동시에 안 줄 수는 없기 때문에, 실제로 일어나지 않은 가상의 상황을 상상해서 비교해야 합니다. 이런 사고방식을 반사실적 추론이라고 부르며, 현대 인과추론 이론의 근본 틀입니다. 실험이나 준실험 방법들은 모두 이 반사실적 결과를 최대한 그럴듯하게 근사하려는 시도라고 볼 수 있습니다.

왜 중요한가

반사실적 추론은 인과추론 전체를 떠받치는 이론적 토대이기 때문에, 실험설계·준실험설계·인과매개분석 등 인과효과를 다루는 거의 모든 연구방법론 논문에서 개념적 출발점으로 언급됩니다. 경제학·역학·정책학에서는 정책 개입의 효과를 평가할 때, 최근에는 인공지능 분야에서도 설명가능 인공지능(모델이 왜 그런 판단을 내렸는지 반사실적 대안으로 설명하는 접근)에 이 개념이 응용되면서 학제간 논의로 확장되고 있습니다.

핵심 정리

각 개체 i에 대해 처치를 받았을 때의 결과 Y_i(1)과 받지 않았을 때의 결과 Y_i(0)을 모두 상정하고, 그 차이 Y_i(1) − Y_i(0)를 개체의 인과효과로 정의하는 것이 잠재적 결과 틀입니다(잠재적 결과 틀). 관련 고전 논문으로 처치의 인과효과 추정을 다룬 Rubin(1974)과 통계와 인과추론을 다룬 Holland(1986)가 있습니다.
한 사람에게서는 둘 중 하나만 관측되므로 나머지가 반사실입니다. 그래서 인과효과는 개인 수준에서는 직접 관측할 수 없고, 평균 효과 등을 식별 가정 아래 추정합니다.
무작위 배정은 처치군과 대조군이 서로의 반사실을 평균적으로 대신하게 만드는 한 방법입니다. 관찰 자료에서는 비교 가능성 가정이 필요합니다.
구조적 인과모형도 반사실을 다루는 틀의 하나입니다(Pearl 2000 참고).
인공지능 분야의 반사실적 설명은 모형이 내린 결정을 바꾸려면 입력에서 무엇을 최소한 바꿔야 하는지를, 가능한 가장 가까운 세계에 빗대어 제시합니다(Wachter 등 2018).

예시로 보기

가상의 8명(점수가 높을수록 좋은 결과)을 봅시다. 연구자가 알 수 있다고 가정한 두 결과 Y(0)과 Y(1)이 다음과 같다고 가정합니다.

번호	1	2	3	4	5	6	7	8
Y(0)	50	60	55	70	40	65	45	75
Y(1)	60	68	57	80	52	70	55	81
효과	10	8	2	10	12	5	10	6

개체 효과의 평균, 곧 평균 처치효과는 63/8 = 7.875입니다. 그런데 실제 연구에서는 각자 한 값만 보입니다. 처치 효과가 큰 사람이 처치를 선택해 1, 2, 4, 5, 7번이 처치군이 되었다고 합시다. 관측값은 처치군 평균 63, 대조군 평균 65이고 단순 비교는 63 − 65 = −2입니다. 처치군의 Y(0) 평균(53)이 대조군(65)보다 낮았기 때문에, 비교 가능하지 않은 집단을 비교한 결과 효과의 부호까지 뒤집힌 것입니다. 무작위 배정이나 보정이 필요한 이유입니다.

자주 하는 오해

오해	바로잡기
반사실은 상상일 뿐이라 과학적이지 않다.	반사실 결과는 관측되지 않지만, 정의가 분명하고 식별 가정을 명시하면 추정과 검증의 대상이 됩니다.
처치군과 대조군을 비교하면 인과효과가 된다.	두 집단이 처치 전에 이미 달랐다면 비교는 효과가 아닌 선택의 차이를 섞습니다. 위 예에서 −2는 효과가 아닙니다.
반사실적 설명(XAI)은 현실에서의 인과효과를 알려 준다.	모형이 어떤 입력에서 다른 결정을 내리는지를 설명할 뿐입니다. 입력을 실제로 바꿨을 때 현실에서 결과가 변한다는 보장은 별개의 문제입니다.
반사실적 추론과 반사실적 조건문은 같은 것이다.	반사실적 조건문은 문장의 형식과 의미를 다루는 철학·언어학 개념이고, 반사실적 추론은 그것을 이용해 인과를 추정하는 연구방법론의 틀입니다.

논문에서는 이렇게 쓰입니다

실제 논문에서

이 용어를 직접 쓴 국내 논문 문장을 아직 수집하지 못했습니다. 수집되는 대로 출처와 함께 싣겠습니다.

예시 문장

아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.

"본 연구는 반사실적 추론 틀에 기반하여 정책 미시행 시 예상되는 결과를 잠재적 결과로 설정하였다."

인과효과를 잠재적 결과 개념으로 정의하는 연구설계의 이론적 토대를 설명하는 문장이다.

"본 알고리즘은 대출 거절 사례에 대해 어떤 조건이 달랐다면 승인되었을지를 보여주는 반사실적 설명을 생성하도록 설계되었다."

설명가능 인공지능 분야에서 반사실적 추론이 모델의 판단 근거를 설명하는 도구로 응용된 사례이다.

"아동기 부정적 경험이 없었을 경우를 가정한 반사실적 시나리오를 통해 성인기 정신건강에 미치는 영향을 추정하였다."

역학·발달심리학 연구에서 실제로 관측 불가능한 대안적 삶의 경로를 상정해 인과효과를 추정하는 사례이다.

조금 더 깊게 보면

반사실적 추론은 흔히 잠재적 결과 프레임워크(potential outcomes framework)로 형식화되는데, 각 개체가 처치를 받았을 때와 받지 않았을 때의 결과를 모두 상정하되 실제로는 둘 중 하나만 관측된다는 점(관측되지 않은 나머지는 "반사실"에 해당)을 인과추론의 근본 문제로 규정합니다. 이 틀에서 인과효과 추정은 결국 관측되지 않은 반사실적 결과를 무작위배정, 도구변수, 이중차분법 등의 식별 전략으로 그럴듯하게 근사하는 작업으로 이해됩니다. 최근에는 구조적 인과모형(structural causal model)을 통해 반사실적 추론을 수학적으로 더 정교하게 표현하려는 시도도 활발합니다.

주의할 점

반사실적 상황은 관측될 수 없으므로 항상 특정 가정에 의존해 추정될 수밖에 없다는 근본적 한계를 인지해야 한다.

헷갈리기 쉬운 용어

용어	한 줄 설명	차이
잠재적 결과 틀	처치별 잠재 결과로 인과효과를 정의하는 틀	반사실적 추론의 형식화 중 하나
반사실적 조건문	가정법으로 쓰인 조건문	문장의 의미를 다루는 철학적 개념
인과의 반사실 이론	원인을 반사실 의존으로 정의하는 철학 이론	연구방법이 아닌 인과 개념의 분석

참고 문헌

Rubin, D. B. (1974). Estimating causal effects of treatments in randomized and nonrandomized studies. Journal of Educational Psychology, 66(5), 688–701.
Holland, P. W. (1986). Statistics and causal inference. Journal of the American Statistical Association, 81(396), 945–960.
Pearl, J. (2000). Causality: Models, reasoning, and inference. Cambridge University Press.
Imbens, G. W., & Rubin, D. B. (2015). Causal inference for statistics, social, and biomedical sciences. Cambridge University Press.
Wachter, S., Mittelstadt, B., & Russell, C. (2018). Counterfactual explanations without opening the black box: Automated decisions and the GDPR. Harvard Journal of Law & Technology.

표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.