나이퀴스트 표본화 정리 (Nyquist Sampling Theorem)

한 줄 정의: 연속적인 아날로그 신호를 원래 형태로 완전히 복원하기 위해서는 신호에 포함된 최고 주파수의 두 배 이상의 속도로 표본화해야 한다는 신호처리의 기본 정리.

쉽게 풀면

아날로그 소리를 디지털 신호로 바꾸려면 일정한 시간 간격마다 신호의 값을 측정하는 표본화 과정을 거쳐야 합니다. 나이퀴스트 표본화 정리는 이때 신호에 포함된 가장 높은 주파수 성분의 최소 두 배 속도로 표본화해야만, 나중에 원래의 아날로그 신호를 왜곡 없이 완벽하게 복원할 수 있다는 것을 알려줍니다. 만약 이보다 느리게 표본화하면 원래는 없던 낮은 주파수 신호가 나타나는 왜곡 현상(에일리어싱)이 발생해서 원래 신호를 정확히 복원할 수 없게 됩니다. CD 음질이 44.1 kHz로 표본화되는 이유도 사람이 들을 수 있는 최고 주파수(약 20 kHz)의 두 배 이상을 확보하기 위한 것으로, 이 정리는 모든 디지털 신호처리 시스템 설계의 기초가 됩니다.

왜 중요한가

나이퀴스트 표본화 정리는 아날로그 신호를 디지털로 다루는 거의 모든 공학 분야의 출발점이기 때문에, 통신, 오디오, 의료영상, 센서 데이터 처리 등 다양한 논문에서 표본화 주파수를 설정하는 근거로 인용됩니다. 표본화 속도가 이 기준보다 낮으면 신호 자체가 왜곡되어 이후의 모든 분석과 복원이 무의미해지므로, 실험 설계 단계에서 반드시 짚고 넘어가야 하는 전제 조건으로 다뤄집니다.

논문에서는 이렇게 쓰입니다

"나이퀴스트 표본화 정리에 따라 신호 대역폭의 두 배 이상인 5 kHz로 표본화 주파수를 설정하였다."

아날로그-디지털 변환기(ADC)의 표본화 주파수를 결정할 때 나이퀴스트 표본화 정리가 최소 요구 조건으로 적용된다.

"본 MRI 촬영 프로토콜에서는 나이퀴스트 조건을 만족하지 못한 위상 인코딩 단계 수로 인해 영상에 폴딩(aliasing) 아티팩트가 관찰되었다."

의료영상 논문에서는 공간 주파수 표본화가 나이퀴스트 조건을 만족하지 못할 때 발생하는 영상 왜곡 문제를 설명하는 데 이 정리가 자주 쓰입니다.

"무선 통신 시스템에서 수신 신호의 대역폭을 고려하여 나이퀴스트율 이상으로 오버샘플링함으로써 복조 정확도를 향상시켰다."

통신공학 논문에서는 여유를 두고 나이퀴스트율보다 더 높은 속도로 표본화하는 오버샘플링 기법을 설명할 때 이 개념을 기준점으로 삼습니다.

조금 더 깊게 보면

실제 시스템에서는 신호에 포함된 정확한 최고 주파수를 알기 어렵고 잡음도 섞여 있기 때문에, 이론적인 나이퀴스트율보다 여유를 두고 더 높은 속도로 표본화하는 오버샘플링이 흔히 쓰입니다. 또한 에일리어싱을 막기 위해 표본화 직전에 저역통과 필터(안티에일리어싱 필터)를 거치는 것이 일반적이며, 논문에서 표본화 설계를 설명할 때는 이 필터의 차단 주파수 설정까지 함께 다뤄지는 경우가 많습니다.

주의할 점

표본화 주파수가 나이퀴스트 기준보다 낮으면 에일리어싱이 발생하므로, 실제 설계에서는 표본화 전에 저역통과 필터로 고주파 성분을 미리 제거하는 것이 일반적이다.