중국어 방 논증 (Chinese Room Argument)
한 줄 정의: 규칙에 따라 기호를 조작하는 것만으로는 이해가 생기지 않는다는 것을 보이려 한 존 설의 사고실험입니다.
쉽게 풀면
중국어를 전혀 모르는 사람이 방 안에 있고, 들어오는 중국어 쪽지에 대해 두꺼운 규칙책을 보고 알맞은 중국어 답장을 만들어 내보낸다고 합시다. 밖에서 보기에는 방 안에 중국어를 아는 사람이 있는 것 같지만, 정작 그 사람은 아무것도 이해하지 못합니다. 설은 컴퓨터 프로그램도 이와 같아서, 기호를 규칙대로 처리하는 것만으로는 진짜 이해나 마음이 생기지 않는다고 주장했습니다.
왜 중요한가
중국어 방 논증은 '적절한 프로그램을 실행하면 마음을 갖는다'는 강한 인공지능 주장과 기능주의에 대한 대표적 반론입니다. 대규모 언어 모델이 등장한 뒤 기계가 의미를 '이해'하는지를 둘러싼 논문에서 다시 자주 인용되고 있습니다.
논문에서는 이렇게 쓰입니다
"중국어 방 논증에 대한 '시스템 응답'은 방 안의 사람이 아니라 사람·규칙책·쪽지를 포함한 전체 시스템이 중국어를 이해한다고 반박한다."
이 논증에 대한 가장 잘 알려진 반론 중 하나를 소개하는 문장입니다.
조금 더 깊게 보면
설은 1980년 논문 「마음, 뇌, 그리고 프로그램」에서 이 논증을 제시했습니다. 핵심 주장은 구문(syntax)만으로는 의미(semantics)가 생기지 않는다는 것입니다. 시스템 응답, 로봇 응답(감각·행동과 연결하면 이해가 생긴다), 뇌 시뮬레이터 응답 등 여러 반론이 제시되었고, 설은 각각에 재반론을 내놓았습니다.
주의할 점
이 논증은 기계가 지능적으로 행동할 수 있다는 것을 부정하지 않으며, 그 행동이 곧 이해나 지향성을 뜻하지 않는다고 주장합니다. 사전의 '기능주의'는 이 논증이 겨냥하는 입장이고, '튜링 기계'는 계산 모형 자체를 다루는 항목입니다.