최대우도 시퀀스추정 (Maximum Likelihood Sequence Estimation)

한 줄 정의: 수신된 신호 전체를 관측했을 때, 가능한 모든 송신 심볼 시퀀스 중 그 관측을 만들어낼 확률(우도)이 가장 높은 시퀀스를 찾아내는 최적 수신 기법입니다.

쉽게 풀면

통신 채널을 거치는 동안 신호는 잡음이나 채널 왜곡으로 조금씩 흐트러집니다. 수신 측은 이렇게 흐트러진 신호만 보고 원래 어떤 심볼들이 순서대로 보내졌는지를 추측해야 합니다. 최대우도 시퀀스추정은 매 심볼을 하나씩 따로 판단하는 대신, 전체 시퀀스를 통째로 놓고 "이 시퀀스가 보내졌다면 지금 받은 신호가 나올 확률이 가장 높다"고 계산되는 시퀀스를 찾아내는 방식입니다. 개별 판단보다 훨씬 정확하지만, 가능한 모든 시퀀스를 다 따져야 하므로 계산이 복잡해질 수 있습니다.

왜 중요한가

채널이 심볼 간 간섭을 일으키는 상황에서는 심볼 하나씩 독립적으로 판정하는 방식보다 시퀀스 전체를 고려하는 방식이 오류율을 크게 낮출 수 있어, 디지털 통신 시스템의 수신단 설계에서 성능의 이론적 기준으로 널리 다뤄집니다.

논문에서는 이렇게 쓰입니다

"The receiver employs maximum likelihood sequence estimation implemented via the Viterbi algorithm to combat intersymbol interference."

비터비 알고리즘으로 구현한 최대우도 시퀀스추정을 사용해 심볼 간 간섭에 대응했다는 내용입니다.

"Maximum likelihood sequence estimation achieves lower bit error rate than symbol-by-symbol detection at the cost of increased computational complexity."

최대우도 시퀀스추정이 계산 복잡도 증가를 대가로 심볼별 검출보다 낮은 비트 오류율을 달성한다는 예문입니다.

조금 더 깊게 보면

가능한 시퀀스의 수는 심볼 수에 따라 기하급수적으로 늘어나므로, 실제로는 이를 효율적으로 계산하는 비터비 알고리즘 같은 동적계획법 기반 기법이 함께 사용됩니다. 이 알고리즘은 채널의 상태를 트렐리스(격자) 구조로 표현하고, 각 경로의 누적 확률(또는 거리)을 비교해 가장 그럴듯한 경로를 효율적으로 찾아냅니다.

주의할 점

최대우도 시퀀스추정은 채널의 통계적 특성(임펄스 응답 등)을 정확히 알고 있다는 가정 위에서 최적이므로, 채널 추정이 부정확하면 실제 성능이 이론적 최적치보다 저하될 수 있습니다.