채널부호화 정리 (Channel Coding Theorem)

한 줄 정의: 잡음이 있는 통신 채널에서도 전송률이 채널 용량 이하이기만 하면, 적절한 부호화를 통해 오류 확률을 임의로 낮게 만들 수 있음을 보인 섀넌의 정보이론 정리입니다.

쉽게 풀면

모든 통신 채널에는 잡음이 섞여 신호가 왜곡될 위험이 있습니다. 상식적으로는 정보를 많이 보낼수록 오류도 늘어날 것 같지만, 채널부호화 정리는 놀랍게도 "채널 용량"이라는 한계값보다 낮은 속도로만 보내면, 아무리 오류 확률을 낮추고 싶어도 원하는 만큼 낮출 수 있는 부호화 방법이 반드시 존재한다는 사실을 수학적으로 증명했습니다. 다만 이 정리는 그런 부호가 존재한다는 것만 보장할 뿐, 구체적으로 어떻게 만드는지는 알려주지 않습니다. 이후 등장한 다양한 오류정정부호들이 이 이론적 한계에 실제로 다가가려는 시도라고 볼 수 있습니다.

왜 중요한가

채널부호화 정리는 통신 시스템 설계의 이론적 한계를 제시함으로써, 오류정정부호 설계자들이 얼마나 더 개선할 여지가 있는지를 가늠하는 기준점을 제공합니다. 무선통신, 저장장치, 위성통신 등 잡음이 존재하는 모든 디지털 통신 시스템 설계의 기초 이론으로 다뤄집니다.

논문에서는 이렇게 쓰입니다

"According to the channel coding theorem, reliable communication is possible as long as the code rate remains below the channel capacity."

채널부호화 정리에 따르면 부호율이 채널 용량 이하로 유지되는 한 신뢰성 있는 통신이 가능하다는 내용입니다.

"The proposed low-density parity-check code approaches the limit predicted by the channel coding theorem within a small gap."

제안된 저밀도 패리티검사 부호가 채널부호화 정리가 예측한 한계에 작은 격차로 근접한다는 예문입니다.

조금 더 깊게 보면

채널부호화 정리는 채널 용량이라는 값을 상호정보량의 최댓값으로 정의하고, 부호율이 이 값 이하이면 오류 확률을 0에 가깝게 만드는 부호가 존재함을(순정리) 보이는 동시에, 이 값을 초과하면 오류 없이 통신할 수 없음을(역정리) 함께 보입니다. 실제 부호 설계에서는 터보 부호, 저밀도 패리티검사 부호 등이 이 한계에 근접하는 성능을 보이는 것으로 알려져 있습니다.

주의할 점

채널부호화 정리는 이상적인 조건(무한한 부호 길이 등)을 전제로 한 존재성 증명이며, 실제 시스템은 유한한 지연과 복잡도 제약 속에서 이 한계에 근사할 뿐 정확히 도달하지는 못합니다.