귀류논증 (Reductio ad Absurdum)
쉽게 풀면
귀류법은 증명하고 싶은 것의 반대를 일단 참이라고 가정한 뒤, 그 가정에서 말도 안 되는 모순이 튀어나오는 것을 보여줌으로써 원래 가정이 틀렸다는 것을 증명하는 방법이다. 예를 들어 '2의 제곱근이 유리수'라고 가정하면 모순이 발생한다는 것을 보여, 2의 제곱근이 무리수임을 증명하는 수학적 증명이 대표적 예이다.
왜 중요한가
어떤 전제를 참으로 가정했을 때 모순이나 명백히 거짓인 결론이 도출됨을 보여 그 전제가 거짓임을 입증하는 귀류법으로, 직접 증명이 어려운 명제를 간접적으로 논증하는 강력한 논리적 방법이다.
어떤 절차인가
- 증명하려는 명제 S를 정합니다.
- S의 부정(¬S)을 임시로 가정합니다. 이 가정은 논증 끝에서 버려집니다.
- ¬S와 이미 인정된 사실로부터 연역합니다. 어느 단계에서 R과 ¬R이 함께 나오는 모순이 생기면 멈춥니다.
- 가정 ¬S가 잘못이었다고 결론짓고 S를 얻습니다.
√2가 유리수가 아님을 보이는 고전적인 증명입니다. ① √2 = a/b (a, b는 서로소인 정수)라고 가정합니다. ② 양변을 제곱하면 a² = 2b², 따라서 a²이 짝수이고 a도 짝수입니다. ③ a = 2k로 놓으면 b² = 2k²이므로 b도 짝수입니다. ④ a와 b가 모두 짝수라는 것은 서로소라는 가정과 모순입니다. ⑤ 따라서 √2는 유리수가 아닙니다.
이 증명에서 모순이 나온 것은 ‘√2가 유리수’라는 가정 때문입니다. 다른 사실(제곱, 짝수의 성질)은 이미 확립되어 있기 때문입니다.
언제 쓰고 무엇을 얻나
- 직접 증명이 어려울 때 씁니다. “~가 없다/불가능하다/무리수이다/무한히 많다”처럼 부정적이거나 무한을 다루는 명제를 증명할 때 자주 등장합니다.
- 얻는 것은 명제의 참이며 대상의 구성은 아닙니다. 존재를 귀류법으로 보이면 ‘없다고 하면 모순’임은 알지만 그 대상을 만드는 방법은 모를 수 있습니다. 구성적 수학을 따르는 관점은 이런 증명을 제한합니다.
- 논리 구분: 가정 P에서 모순을 끌어내 ¬P를 얻는 것(부정 도입)은 직관주의 논리에서도 인정됩니다. 반대로 ¬P에서 모순을 끌어내 P를 얻는 고전적 귀류법은 이중부정 제거에 의존해 직관주의에서는 인정되지 않습니다(Dummett, 2000).
- 철학에서의 용법: 상대의 입장에서 논리적 모순뿐 아니라 받아들이기 어려운 귀결이 나온다고 보이는 논법도 귀류법(reductio)이라 부릅니다. 이 경우 상대가 그 귀결을 감수하겠다고 하면(bite the bullet) 논증이 힘을 잃습니다.
- 모순이 알려 주는 것: 모순은 가정과 사용한 다른 전제 전체가 함께 성립할 수 없다는 뜻입니다. 확립된 전제만 썼을 때는 가정을 탓할 수 있지만, 그렇지 않으면 어느 전제가 틀렸는지 따로 따져야 합니다.
| 증명 방식 | 가정하는 것 | 보이는 것 |
|---|---|---|
| 직접 증명 | P | P로부터 Q를 도출 |
| 대우 증명 | ¬Q | ¬Q로부터 ¬P를 도출 (P → Q와 동치) |
| 귀류법 | P와 ¬Q를 함께 | 모순을 도출 |
논문에는 이렇게 적는다
수학 논문의 서술 형식입니다.
- “귀류법으로 증명한다. ~라고 가정하자.”
- “그러면 ~이므로 ~이다. 이는 ~와 모순이다.”
- “따라서 가정이 틀렸고, ~이다.”
철학·사회과학 논문에서는 다음 점을 지킵니다.
- 어떤 가정에서 출발했고 어떤 모순(또는 용납하기 어려운 귀결)에 이르렀는지 각각 명시합니다.
- 도출 단계마다 사용한 전제를 밝혀 독자가 점검할 수 있게 합니다.
- ‘용납 못할 귀결’은 누구에게 용납 못할 것인지 밝힙니다. 일반 상식인지, 상대 입장의 내부 기준인지에 따라 설득력이 달라집니다.
논문에서는 이렇게 쓰입니다
실제 논문에서
이 용어를 직접 쓴 국내 논문 문장을 아직 수집하지 못했습니다. 수집되는 대로 출처와 함께 싣겠습니다.
예시 문장
아래는 용어의 쓰임을 보여 주려고 만든 예시로, 실제 논문에서 가져온 문장이 아닙니다.
직접적으로 정리를 증명하는 대신, 정리의 부정을 가정한 뒤 모순을 이끌어내는 간접 증명 방식이 귀류법의 전형적인 활용임을 보여준다.
이는 귀류법이 수학사에서 가장 오래되고 널리 알려진 방식으로 쓰인 대표적인 예시다.
조금 더 깊게 보면
귀류법은 배중률을 전제하는 고전논리 안에서는 타당한 증명방식이지만, 직관주의 논리처럼 배중률을 무조건 인정하지 않는 체계에서는 귀류법의 적용범위가 제한된다는 점에 유의해야 한다.
귀류법은 자연연역 체계에서 '부정 도입' 규칙으로 공식화되며, 어떤 가정으로부터 모순(P와 ¬P가 동시에 도출됨)을 얻으면 그 가정의 부정을 결론으로 이끌어낼 수 있다는 형태로 형식화된다.
이 방법은 수학 전반에서 직접 증명이 매우 어렵거나 불가능한 명제(√2가 무리수라는 것, 소수가 무한히 많다는 것 등)를 증명하는 데 특히 강력한 도구로 활용되어 왔다.
주의할 점
귀류법이 성립하려면 무모순율과 배중률이 전제되어야 하므로, 배중률을 받아들이지 않는 직관주의 논리 체계에서는 귀류법의 사용이 제한될 수 있다는 점에 유의해야 한다. 가정 P에서 모순을 얻어 ¬P를 결론짓는 부정 도입은 직관주의 논리에서도 타당하지만, ¬P에서 모순을 얻어 P를 결론짓는 고전적 귀류법은 이중부정 제거(배중률)에 의존하므로 직관주의에서는 인정되지 않는다는 점에 유의해야 하며, 특히 존재 증명에서는 귀류법 대신 대상을 직접 구성하는 증명이 요구되는 경우가 많다는 점도 함께 기억해야 한다.
헷갈리기 쉬운 용어
같은 구조를 가진 용어와 구분합니다.
| 용어 | 문맥 | 한 줄 구분 |
|---|---|---|
| 귀류법(reductio ad absurdum) | 논리·철학 | 부조리한 귀결을 도출해 가정을 기각 |
| 귀류법(수학 증명) | 수학 | 같은 방법을 수학 증명의 맥락에서 다룬 항목 |
| 미끄러운 비탈길 | 논증 평가 | 논리적 도출이 아니라 인과적 연쇄를 주장 |
| 배중률 | 고전논리의 원리 | 고전적 귀류법이 의존하는 원리 |
참고 문헌
- Dummett, M. (2000). Elements of Intuitionism (2nd ed.). Clarendon Press.
- Hardy, G. H. (1940). A Mathematician's Apology. Cambridge University Press.
- Sorensen, R. (2003). A Brief History of the Paradox. Oxford University Press.
- Copi, I. M., Cohen, C., & McMahon, K. (2014). Introduction to Logic (14th ed.). Pearson.
표의 기준값은 위 문헌에 근거한 관례이며, 분야·학술지마다 다른 기준을 쓸 수 있습니다.