극값과 변곡점 (Local Extrema and Inflection Point)

한 줄 정의: 극값은 그래프가 주변보다 순간적으로 가장 높거나 낮아지는 지점이고, 변곡점은 그래프가 볼록에서 오목으로(또는 그 반대로) 굽는 방향이 바뀌는 지점입니다.

쉽게 풀면

산길을 걷는다고 생각해봅시다. 오르막을 걷다가 정상을 찍고 다시 내리막이 시작되는 지점, 또는 내리막을 걷다가 바닥을 찍고 다시 오르막이 시작되는 지점이 바로 극값(극대값·극소값)입니다. 미분을 이용하면 이 지점에서 기울기(도함수 값)가 정확히 0이 된다는 것을 알 수 있습니다. 한편 변곡점은 길이 오목하게 파여 있다가 볼록하게 튀어나오는 형태로 바뀌는 지점, 즉 굽는 방향 자체가 바뀌는 지점을 말합니다. 극값과 달리 변곡점에서는 그래프가 반드시 최고점이나 최저점일 필요는 없습니다.

왜 중요한가

극값과 변곡점은 함수나 데이터의 형태를 정량적으로 요약해주는 기본 도구이기 때문에, 최적화 문제를 다루는 공학·경제학 연구부터 시계열 데이터의 전환점을 찾는 통계 분석까지 폭넓게 활용됩니다. 극값을 찾는 것은 최댓값이나 최솟값을 구하는 최적화의 출발점이 되고, 변곡점은 증가나 감소의 '속도'가 바뀌는 지점을 알려주기 때문에 성장 곡선이나 반응 곡선의 특성을 해석하는 데 자주 근거로 쓰입니다.

논문에서는 이렇게 쓰입니다

"측정된 반응 곡선은 t=12에서 극값을 가졌으며, 이는 해당 시점 이후 반응이 감소 국면으로 전환되었음을 시사한다."

이 문장은 특정 시점(t=12)에서 관찰된 값이 그 주변 구간 중 가장 크거나 작았고, 그 지점을 기준으로 증가하던 경향이 감소로 바뀌었다는 뜻입니다. 실험 데이터나 시뮬레이션 결과에서 변화의 전환점을 짚어낼 때 자주 쓰입니다.

"인구 성장 모형에서 변곡점은 성장률이 최대가 되는 시점을 나타내며, 이후 성장 속도는 점차 둔화되는 것으로 나타났다."

인구가 늘어나는 속도가 가장 빠른 시점을 변곡점으로 찾아냈고, 그 이후로는 늘어나는 속도 자체가 점점 느려졌다는 내용입니다.

"손실 함수의 지역 극값에 수렴하는 것을 방지하기 위해 모멘텀 기반 최적화 기법을 적용하였다."

인공지능 모델을 학습시킬 때, 진짜 최선의 답이 아닌 '주변에서만 가장 좋아 보이는' 지점(지역 극값)에 갇히지 않도록 관성을 활용한 최적화 방법을 썼다는 뜻입니다.

조금 더 깊게 보면

극값 판정에는 흔히 1차 도함수 판정법(도함수 부호가 양에서 음으로, 또는 음에서 양으로 바뀌는지 확인)과 2차 도함수 판정법(2차 도함수의 부호로 극대·극소를 구분)이 함께 쓰입니다. 변곡점은 2차 도함수 값이 0이 되면서 그 앞뒤로 부호가 바뀌는 지점으로 정의되며, 이는 함수의 오목·볼록성(곡률의 방향)이 바뀐다는 것을 의미합니다. 머신러닝 최적화 맥락에서는 '지역 극값(local extremum)'과 '전역 최적값(global optimum)'을 구분하는 것이 중요하게 다뤄지는데, 이는 앞서 설명한 극값과 최댓값·최솟값의 차이와 같은 맥락입니다.

주의할 점

극값은 그래프 전체에서의 최댓값·최솟값(최댓값·최솟값)과 다릅니다. 극값은 어디까지나 "그 주변 구간에서만" 가장 크거나 작은 값이며, 그래프 전체를 보면 극값보다 더 큰 값이나 작은 값이 다른 구간에 있을 수 있습니다. 또한 도함수 값이 0이라고 해서 반드시 극값인 것도 아니므로, 미분 값의 부호 변화를 함께 확인해야 합니다.