극한과 연속 (Limit and Continuity)

한 줄 정의: 함수의 극한은 입력이 어떤 값에 한없이 가까워질 때 함수값이 다가가는 값을 의미하며, 연속은 그 극한값이 실제 함수값과 일치하는 성질을 뜻한다.

쉽게 풀면

극한은 어떤 지점에 '거의 다다랐을 때' 함수가 향해 가는 값을 말한다. 연속이란 그렇게 다가간 값이 실제로 그 지점에서의 함수값과 정확히 같아서, 함수 그래프에 끊긴 부분이 전혀 없다는 뜻이다. 종이에서 펜을 떼지 않고 그릴 수 있는 그래프라면 대체로 연속이라고 생각하면 이해하기 쉽다.

왜 중요한가

극한과 연속은 미분과 적분을 정의하는 데 필요한 가장 기초적인 도구여서, 순수수학뿐 아니라 최적화, 제어이론, 물리학의 모형화 등 함수를 다루는 거의 모든 응용 분야에서 전제로 깔리는 개념입니다. 어떤 함수가 연속인지 아닌지는 그 함수에 미적분 도구를 적용할 수 있는지, 최적해가 존재하는지, 수치해석 알고리즘이 안정적으로 수렴하는지를 판단하는 출발점이 되기 때문에 다양한 논문의 가정(assumption) 부분에서 자주 언급됩니다.

논문에서는 이렇게 쓰입니다

"손실함수가 파라미터 공간 전체에서 연속임을 가정하여 최적화의 수렴성을 논의하였다."

함수의 연속성은 최적화나 근사 이론에서 알고리즘의 안정성과 수렴 보장을 위한 기본 전제로 쓰인다.

"제어입력이 시간에 대해 연속이라는 조건 하에서, 시스템의 상태변수가 유한한 시간 내에 목표값으로 수렴함을 증명하였다."

제어이론 논문에서는 제어신호나 시스템 출력이 연속이라는 가정이 안정성 증명의 전제조건으로 쓰인다는 예시입니다.

"수치적분 오차의 극한이 격자 간격이 0으로 갈수록 0으로 수렴함을 보여, 제안한 방법의 수렴성을 이론적으로 뒷받침하였다."

수치해석 논문에서는 격자를 세밀하게 할수록 오차가 어떤 값(보통 0)에 다가가는지를 극한 개념으로 나타내 알고리즘의 타당성을 입증한다는 예시입니다.

조금 더 깊게 보면

연속성에도 여러 단계가 있는데, 정의역의 한 점에서만 성립하는 국소적 연속과 정의역 전체에서 성립하는 전역적 연속이 구분되며, 나아가 균등연속(uniform continuity)처럼 더 강한 조건을 요구하는 개념도 존재합니다. 응용 분야에서는 단순 연속보다 한 단계 강한 립시츠 연속(Lipschitz continuity)이나 미분가능성을 함께 요구하는 경우가 많은데, 이는 함수가 얼마나 급격하게 변할 수 있는지에 상한을 두어 최적화 알고리즘의 수렴 속도나 안정성을 보장하는 데 쓰이기 때문입니다.

주의할 점

연속인 함수라고 해서 반드시 미분가능한 것은 아니며, 둘은 구별되는 별개의 성질이다.