양자화잡음 분석 (Quantization Noise Analysis)

한 줄 정의: 연속적인 아날로그 값을 유한한 개수의 디지털 레벨로 반올림할 때 발생하는 오차(양자화잡음)의 통계적 특성과 신호 품질에 미치는 영향을 분석하는 것입니다.

쉽게 풀면

아날로그 신호를 디지털로 바꾸려면 무한히 많은 값을 유한한 개수의 계단 값으로 반올림해야 합니다. 이때 원래 값과 반올림된 값 사이에는 항상 작은 차이가 생기는데, 이를 양자화잡음이라고 부릅니다. 계단 간격이 촘촘할수록(즉 비트 수가 많을수록) 이 오차는 작아지고, 성기게 나눌수록 오차는 커집니다. 양자화잡음 분석은 이 오차가 신호 대비 얼마나 큰지, 어떤 통계적 성질을 갖는지를 수학적으로 살펴보는 작업입니다.

왜 중요한가

아날로그-디지털 변환기, 오디오 코덱, 영상 압축 등 디지털 신호처리의 거의 모든 단계에서 양자화는 피할 수 없는 과정이므로, 양자화잡음 분석은 시스템이 요구하는 비트 수와 달성 가능한 신호 품질 사이의 균형을 설계하는 데 필수적인 이론적 도구입니다.

논문에서는 이렇게 쓰입니다

"Under the uniform quantization noise assumption, the quantization error is modeled as an additive white noise uncorrelated with the input signal."

균일 양자화잡음 가정 하에서 양자화 오차를 입력 신호와 상관없는 백색잡음으로 모델링했다는 내용입니다.

"Our quantization noise analysis shows that increasing the bit depth by one bit improves the signal-to-quantization-noise ratio."

비트 깊이를 1비트 늘리면 신호 대 양자화잡음비가 개선된다는 분석 결과를 보여주는 예문입니다.

조금 더 깊게 보면

양자화잡음은 흔히 양자화 스텝 크기 내에서 균등하게 분포한다고 가정하며, 이 가정 아래에서 양자화잡음의 평균 전력을 유도할 수 있습니다. 이를 바탕으로 비트 수가 늘어날수록 신호 대 양자화잡음비가 개선된다는 관계가 성립하며, 이는 오디오 및 영상 코덱의 비트 할당 설계에 널리 활용됩니다.

주의할 점

양자화잡음을 백색잡음으로 근사하는 것은 입력 신호가 충분히 복잡하고 양자화 스텝이 작을 때 성립하는 근사이며, 신호가 단순하거나 양자화 레벨이 매우 거칠 경우에는 이 가정이 잘 맞지 않아 별도의 왜곡 분석이 필요할 수 있습니다.