반복게임과 협력의 진화

한 줄 정의: 같은 상대와 게임을 딱 한 번이 아니라 여러 번 반복할 때는, 미래에 보복당하거나 신뢰를 잃을 위험 때문에 배신보다 협력이 살아남을 수 있다는 이론입니다.

쉽게 풀면

죄수의 딜레마처럼 "각자 배신하는 게 유리한" 상황도, 같은 상대와 다시 마주칠 일이 있다면 이야기가 달라집니다. 오늘 배신하면 내일 상대가 나에게 복수할 수 있기 때문입니다. 정치학자 로버트 액설로드(Robert Axelrod)는 컴퓨터 대회를 열어 여러 전략을 겨루게 했는데, 가장 단순하면서도 좋은 성적을 낸 전략은 "팃포탯(tit-for-tat)"이었습니다. 첫 판에는 무조건 협력하고, 그다음부터는 바로 직전에 상대가 한 행동을 그대로 따라 하는 전략입니다. 상대가 협력하면 나도 협력하고, 배신하면 나도 배신으로 응수하되, 상대가 다시 협력으로 돌아오면 곧바로 용서하고 협력합니다. 이렇게 게임이 언제 끝날지 모르는 채로 반복되면, 당장의 이익보다 "장기적으로 신뢰를 유지하는 편"이 결국 더 큰 이득을 준다는 것이 이 이론의 핵심입니다.

왜 중요한가

반복게임과 협력의 진화는 게임이론, 진화생물학, 행동경제학, 정치학을 잇는 대표적인 접목 지점으로, "이기적인 개체들 사이에서 협력이 어떻게 자연적으로 생겨나고 유지되는가"라는 근본적인 질문에 답을 제공합니다. 국제관계에서의 국가 간 신뢰 형성, 조직 내 반복적 거래 관계, 온라인 평판 시스템 설계 등 실제 정책·제도 설계에도 이론적 근거로 자주 인용됩니다. 또한 실험경제학에서 사람들이 이론적 예측과 실제로 얼마나 다르게 행동하는지를 검증하는 기준선 역할도 합니다.

논문에서는 이렇게 쓰입니다

"참가자들이 무한 반복 게임 조건에서 상호작용했을 때, 팃포탯과 유사한 조건부 협력 전략이 배신 전략보다 유의하게 높은 누적 보수를 얻었다."

이 문장은 "게임이 한 번으로 끝나지 않고 계속 반복된다는 조건 하에서는, 상대의 행동에 맞춰 협력과 보복을 조절하는 전략이 무조건 배신하는 전략보다 실제로 더 유리한 결과를 냈다"는 뜻입니다.

"진화적 시뮬레이션에서 조건부 협력 전략을 사용하는 개체 비율이 세대를 거듭할수록 증가하여, 반복적 상호작용이 협력의 진화적 안정성을 뒷받침함을 확인하였다."

진화생물학·진화게임이론 분야에서는 개별 행위자의 합리적 선택보다, 여러 세대에 걸친 시뮬레이션을 통해 협력 전략이 집단 내에서 살아남고 확산되는지를 확인한다는 것을 보여줍니다.

"국가 간 반복적 무역 관계에서 보복 조치의 신뢰성이 높을수록 협정 위반이 감소하는 것으로 나타나, 반복게임 이론이 예측하는 협력 유지 메커니즘과 부합하였다."

국제정치경제 분야에서는 이 이론이 실제 국가 간 협정 준수나 무역 분쟁을 설명하는 틀로 응용된다는 것을 보여주는 예문입니다.

조금 더 깊게 보면

팃포탯 외에도 실수를 좀 더 관대하게 용서하는 "너그러운 팃포탯(generous tit-for-tat)"이나, 상대의 협력 이력을 평판으로 추적해 판단하는 "간접 상호성(indirect reciprocity)" 모형 등 다양한 변형 전략이 연구되어 왔으며, 어떤 전략이 더 안정적으로 살아남는지는 잡음(실수)의 존재 여부나 상대를 다시 만날 확률(할인율)에 따라 달라집니다. 이론적으로는 "포크 정리(folk theorem)"가 반복게임에서 협력을 포함한 다양한 결과가 균형으로 성립할 수 있음을 보여주는 근거로 자주 인용됩니다. 논문을 읽을 때는 게임이 유한 반복인지 무한(또는 불확실한 종료) 반복인지, 그리고 참가자 간 행동 관찰에 오류나 잡음이 반영되었는지를 확인하는 것이 핵심입니다.

주의할 점

이 이론이 성립하려면 게임이 언제 끝날지 참가자들이 미리 알 수 없어야 합니다. 마지막 판이 언제인지 확실히 알려져 있으면, 마지막 판에는 배신하는 게 유리해지고, 그 배신을 예상해 그 전 판에서도 배신하는 식으로 거슬러 올라가 결국 처음부터 배신하는 것이 내쉬균형이 되어버립니다. 즉 "반복"만으로 협력이 보장되는 것은 아니고, "반복 횟수가 불확실하다"는 조건이 함께 필요합니다.