나이퀴스트 안정성 판별법 (Nyquist Stability Criterion)

한 줄 정의: 개루프 시스템의 주파수 응답 그래프가 특정 점(-1)을 몇 번, 어느 방향으로 감싸는지를 세어서 폐루프 제어 시스템이 안정한지를 판별하는 제어공학 기법입니다.

쉽게 풀면

제어기를 설계할 때 "이 시스템에 피드백을 걸었을 때 정말 안정적으로 작동할까?"를 직접 폐루프를 만들어보지 않고도 미리 확인하고 싶을 때가 있습니다. 나이퀴스트 안정성 판별법은 시스템에 다양한 주파수의 신호를 넣었을 때 나오는 응답을 복소평면 위에 그린 곡선(나이퀴스트 선도)이, 좌표 (-1, 0)이라는 특정 지점을 몇 바퀴 감싸는지를 세는 방법입니다. 이 횟수와 방향을 시스템이 원래 가지고 있던 불안정 요소의 개수와 비교하면, 실제로 피드백을 걸었을 때 시스템이 안정할지 아닐지를 수학적으로 증명할 수 있습니다.

왜 중요한가

피드백 제어 시스템은 잘못 설계하면 오히려 진동이 커지며 불안정해질 수 있는데, 나이퀴스트 안정성 판별법은 시스템을 실제로 만들어 시험하지 않고도 주파수 응답 그래프만으로 안정성을 미리 검증할 수 있게 해줍니다. 이 때문에 전자공학, 로봇공학, 항공우주공학처럼 안정성 확보가 필수적인 제어 시스템 설계 논문에서 이론적 근거로 널리 쓰이며, 특히 시간 지연이 있는 시스템처럼 다른 판별법으로는 다루기 까다로운 경우에도 적용할 수 있다는 점에서 중요하게 다뤄집니다.

논문에서는 이렇게 쓰입니다

"제안된 보상기를 적용한 개루프 전달함수에 나이퀴스트 안정성 판별법(Nyquist stability criterion)을 적용한 결과, 나이퀴스트 선도가 (-1, 0)점을 감싸지 않아 폐루프 시스템이 안정함을 확인하였다."

이 문장은 새로 설계한 보상 회로를 넣었을 때, 그래프 분석을 통해 시스템이 진동하지 않고 안정적으로 목표값에 수렴한다는 것을 수학적으로 증명했다는 뜻입니다. 전자공학·제어공학·항공우주공학 논문에서 폐루프 안정성을 검증하는 핵심 근거로 흔히 등장합니다.

"시간 지연을 포함한 네트워크 제어 시스템의 안정성을 나이퀴스트 판별법으로 분석한 결과, 지연 시간이 특정 임계값을 넘으면 폐루프 시스템이 불안정해지는 것으로 나타났다."

네트워크 제어 시스템 논문에서는 통신 지연이 안정성 여유(위상 여유, 이득 여유)를 어떻게 갉아먹는지 설명할 때 이 판별법을 활용합니다.

"모터 구동 회로의 전류 제어 루프에 나이퀴스트 판별법을 적용해 이득 여유와 위상 여유를 산출하고, 이를 근거로 제어기 게인을 조정하였다."

전력전자·모터제어 분야 논문에서는 안정성 판별 결과를 바탕으로 제어기 파라미터를 튜닝하는 근거로 이 방법을 제시합니다.

조금 더 깊게 보면

나이퀴스트 판별법을 실무에서 활용할 때는 안정 여부를 이분법으로 보는 데 그치지 않고, 시스템이 불안정해지기까지 얼마나 여유가 있는지를 수치로 나타내는 이득 여유(gain margin)와 위상 여유(phase margin)를 함께 산출하는 경우가 많습니다. 이 두 값이 클수록 시스템이 외란이나 모델링 오차에도 안정성을 유지할 가능성이 높다고 해석되며, 제어기 설계 논문에서는 이 여유값을 정량적 성능 지표로 함께 보고하는 것이 일반적입니다.

주의할 점

이름이 비슷해서 신호처리 분야의 나이퀴스트-섀넌 표본화 정리와 자주 혼동되지만, 둘은 완전히 다른 개념입니다. 표본화 정리는 "아날로그 신호를 디지털로 바꿀 때 얼마나 자주 샘플을 찍어야 원래 신호를 복원할 수 있는가"를 다루는 반면, 나이퀴스트 안정성 판별법은 제어 시스템이 진동 없이 안정적으로 동작하는지를 판별하는 방법으로, 같은 인물(해리 나이퀴스트)의 이름을 딴 서로 다른 이론입니다.