나이퀴스트-섀넌 표본화 정리 (Nyquist-Shannon Sampling Theorem)
쉽게 풀면
영화에서 빠르게 도는 자동차 바퀴가 마치 천천히 돌거나 거꾸로 도는 것처럼 보이는 착시를 본 적이 있을 겁니다. 이는 카메라가 "얼마나 자주 사진을 찍는지(표본화 속도)"가 바퀴가 "얼마나 빨리 도는지(신호의 주파수)"에 비해 너무 느려서 생기는 왜곡, 즉 에일리어싱입니다. 나이퀴스트-섀넌 정리는 이런 왜곡 없이 원래 움직임을 정확히 재현하려면, 신호가 가진 가장 빠른 변화(최고 주파수)보다 최소 2배 더 자주 표본을 찍어야 한다고 알려줍니다. CD 음원이 사람이 들을 수 있는 최고 주파수(약 20kHz)의 2배가 넘는 44.1kHz로 샘플링되는 이유도 여기에 있습니다.
왜 중요한가
나이퀴스트-섀넌 표본화 정리는 아날로그 세계와 디지털 세계를 잇는 다리 역할을 하는 원리이기 때문에, 신호처리뿐 아니라 통신공학, 의료영상, 계측공학 등 아날로그 신호를 다루는 거의 모든 실험 논문에서 표본화 조건의 타당성을 뒷받침하는 근거로 인용됩니다. 표본화가 이 조건을 만족하지 못하면 이후의 모든 분석 결과가 왜곡된 데이터에 기반하게 되므로, 실험 설계의 신뢰성을 판단하는 기준으로도 자주 활용됩니다.
논문에서는 이렇게 쓰입니다
이 문장은 측정하려는 신호에서 가장 빠르게 변하는 성분이 초당 500번 진동하는 수준이었기 때문에, 나이퀴스트-섀넌 정리에 따라 최소 1kHz(500Hz의 2배)보다 여유 있게 높은 1.5kHz로 표본을 채취해 신호를 왜곡 없이 기록했다는 뜻입니다.
생체신호 연구에서는 측정하려는 생리학적 신호의 주파수 대역을 고려해 표본화 속도를 정할 때 이 정리를 근거로 제시합니다.
영상처리·광학 분야에서는 시간 신호가 아닌 공간 신호에도 표본화 정리를 확장 적용해 화질 저하 현상을 설명하는 경우가 있습니다.
조금 더 깊게 보면
실제 신호는 이론처럼 대역이 완전히 제한되어 있지 않은 경우가 많아, 표본화 전에 저역통과 필터로 고주파 성분을 미리 걸러내는 안티에일리어싱 처리가 필수적으로 함께 논의됩니다. 또한 실무에서는 이론적 최소 속도(나이퀴스트율)보다 여유를 둔 오버샘플링을 적용해 잡음이나 필터의 불완전성으로 인한 오차를 줄이는 경우가 일반적이며, 반대로 신호의 희소성(sparsity)을 이용해 나이퀴스트율보다 훨씬 낮은 속도로도 신호를 복원하는 압축센싱(compressed sensing) 같은 후속 이론도 함께 언급되곤 합니다.
주의할 점
표본화 속도가 나이퀴스트 기준(최고 주파수의 2배)보다 낮으면 고주파 성분이 저주파처럼 잘못 나타나는 에일리어싱이 발생하므로, 실제로는 푸리에 변환으로 신호의 주파수 성분을 미리 파악하고 충분한 여유를 둔 표본화 속도를 정하는 것이 일반적입니다.