죄수의 딜레마 (Prisoner's Dilemma)
쉽게 풀면
경찰이 공범 두 명을 따로 심문한다고 해봅시다. 서로 입을 맞추지 못하는 상태에서, 각자 "자백하면 형량을 줄여주겠다"는 제안을 받습니다. 둘 다 끝까지 침묵하면(협력) 둘 다 가벼운 처벌만 받지만, 서로를 믿지 못하기 때문에 결국 둘 다 자백(배신)을 선택하게 되고, 둘 다 협력했을 때보다 더 무거운 처벌을 받게 됩니다. 이것이 죄수의 딜레마입니다. 핵심은 "각자에게는 배신이 합리적 선택이지만, 모두가 배신하면 모두가 손해를 본다"는 역설적 상황을 보여준다는 점입니다.
왜 중요한가
죄수의 딜레마는 개인의 합리적 선택이 집단 전체에는 불리한 결과를 낳는 사회적 딜레마의 원형이기 때문에, 경제학·정치학·생물학·컴퓨터과학 등 매우 다양한 분야의 논문에서 협력의 발생 조건을 설명하는 기본 모델로 활용됩니다. 국제관계에서의 군비 경쟁, 기업 간 가격 경쟁, 공공재 제공 문제, 심지어 진화생물학에서 이타적 행동이 어떻게 진화할 수 있는지를 설명하는 데까지 폭넓게 응용됩니다. 이 때문에 협력과 배신이 갈리는 상황을 다루는 실증·이론 연구 대부분이 이 모델을 출발점으로 삼습니다.
논문에서는 이렇게 쓰입니다
한 번뿐인 게임에서는 배신이 유리해 보이지만, 게임이 반복되고 상대의 행동을 볼 수 있으면 "보복당할 위험" 때문에 서로 협력하는 경우가 늘어난다는 뜻입니다.
국제정치경제 연구에서는 국가 간 정책 결정을 죄수의 딜레마 틀로 분석해 협력과 갈등이 반복되는 이유를 설명한다.
진화생물학 및 진화게임이론 연구에서는 죄수의 딜레마를 반복 시뮬레이션하여 협력 전략이 집단 내에서 진화적으로 안정될 수 있는 조건을 탐구한다.
조금 더 깊게 보면
단발성 죄수의 딜레마에서는 배신이 우세 전략(dominant strategy)이자 내쉬균형이지만, 게임이 반복될 때는 상황이 달라집니다. 로버트 액설로드의 유명한 컴퓨터 토너먼트 연구에서는 상대가 협력하면 협력하고 배신하면 배신으로 되갚는 '되받아치기(tit-for-tat)' 전략이 다양한 전략들 중 가장 좋은 성과를 낸 것으로 알려져 있으며, 이는 반복 상호작용에서 협력이 진화적으로 안정될 수 있음을 보여주는 근거로 자주 인용됩니다. 다만 게임이 몇 번 반복될지 참가자들이 미리 알고 있는 경우에는 역진귀납(backward induction)에 의해 협력이 무너질 수 있다는 이론적 논의도 함께 다뤄집니다.
주의할 점
죄수의 딜레마는 게임이 "단 한 번"만 벌어진다고 가정할 때 배신이 우세 전략이 됩니다. 하지만 현실에서는 같은 상대와 반복해서 상호작용하는 경우가 많아, 이때는 협력이 오히려 안정적인 균형이 될 수 있다는 점에서 내쉬균형 개념과 함께 이해해야 합니다.