내쉬균형 (Nash Equilibrium)

한 줄 정의: 게임에 참여한 모든 사람이 상대방의 전략을 알고 있는 상태에서, 자기 혼자만 전략을 바꿔봐야 더 나아질 게 없어 아무도 전략을 바꾸지 않는 균형 상태입니다.

쉽게 풀면

두 편의점이 나란히 붙어 있고 둘 다 같은 가격에 물건을 팔고 있다고 해봅시다. 한쪽이 가격을 올리면 손님을 다 뺏기고, 가격을 내리면 손해를 보니 둘 다 지금 가격을 유지하는 게 최선입니다. 이렇게 "상대방이 지금 선택을 유지한다는 전제 하에, 나 혼자 선택을 바꿔봐야 이득이 없는" 상태를 내쉬균형이라고 부릅니다. 반드시 모두에게 가장 좋은 결과라는 뜻은 아니고, 단지 누구도 일방적으로 전략을 바꿀 유인이 없는 '안정된' 상태라는 뜻입니다. 게임이론에서 가장 핵심적인 균형 개념입니다.

왜 중요한가

내쉬균형은 여러 의사결정 주체가 서로의 선택에 반응하며 상호작용하는 상황을 분석하는 표준적인 틀을 제공해, 경제학의 시장 경쟁 분석뿐 아니라 정치학의 투표 행태, 진화생물학의 개체 간 전략 경쟁, 컴퓨터과학의 알고리즘 설계(메커니즘 디자인)에 이르기까지 폭넓게 응용됩니다. 개별 행위자의 합리적 선택이 모여 어떤 사회적 결과로 귀결되는지를 예측하는 데 핵심적인 도구이기 때문에, 게임이론을 사용하는 거의 모든 논문에서 기본 개념으로 전제됩니다.

논문에서는 이렇게 쓰입니다

"두 기업 간의 가격 경쟁 모형을 분석한 결과, 두 기업 모두 한계비용 수준에서 가격을 책정하는 것이 유일한 내쉬균형(Nash equilibrium)임을 도출하였다."

이 문장은 경쟁하는 두 기업이 서로의 가격 전략에 대응해 최선의 선택을 한 끝에, 특정 가격 수준에서 더 이상 가격을 바꿀 유인이 없는 균형에 도달한다는 것을 수학적으로 보였다는 뜻입니다.

"두 국가 간 군비 경쟁 모형에서 상호 군비를 증강하는 전략 조합이 내쉬균형으로 나타났으며, 이는 두 국가 모두에게 열등한 결과임에도 개별적으로는 이탈할 유인이 없었다."

이 예문은 국제정치학 연구에서 내쉬균형이 개별 행위자에게는 합리적이지만 전체적으로는 비효율적인 결과(죄수의 딜레마와 유사한 구조)를 설명하는 데 쓰인 사례입니다.

"진화적으로 안정된 전략(ESS)은 개체군 내에서 내쉬균형에 해당하는 행동 전략으로, 돌연변이 전략의 침입에 저항하는 성질을 가진다."

이 문장은 진화생물학에서 내쉬균형 개념이 동물의 행동 전략이 왜 특정 형태로 안정적으로 유지되는지를 설명하는 데 활용된 사례를 보여줍니다.

조금 더 깊게 보면

내쉬균형에는 순수전략 균형과 혼합전략 균형이 있으며, 유한한 참여자와 전략을 가진 게임에서는 혼합전략까지 고려하면 적어도 하나의 내쉬균형이 항상 존재한다는 것이 존 내쉬의 정리로 증명되어 있습니다. 다만 균형이 여러 개 존재하는 경우 어떤 균형이 실제로 선택될지, 그리고 게임을 반복할 때 참여자들이 균형에 어떻게 도달하는지는 별도의 이론(균형 선택, 진화적 게임이론, 학습 모형 등)으로 다루어집니다. 또한 내쉬균형은 참여자들이 상대의 전략을 정확히 알고 합리적으로 행동한다는 가정에 기반하므로, 이 가정이 현실적으로 얼마나 타당한지도 논문에서 함께 논의되는 경우가 많습니다.

주의할 점

내쉬균형은 "모두에게 최선의 결과"가 아니라 "각자에게는 더 나은 대안이 없는 결과"일 뿐입니다. 공유지의 비극이나 죄수의 딜레마처럼, 각자가 내쉬균형에 따라 합리적으로 행동한 결과가 사회 전체적으로는 비효율적인 결과를 낳는 경우도 많습니다.