수치미분 (Numerical Differentiation)
쉽게 풀면
자동차 속도계가 고장 났을 때, 1초 간격으로 찍은 위치 기록만 있어도 대략적인 속도를 짐작할 수 있습니다. "1초 동안 이동한 거리 차이"를 "걸린 시간"으로 나누면 그 순간의 속도에 가까운 값을 얻을 수 있기 때문입니다. 수치미분은 정확히 이 아이디어를 씁니다. 함수의 정확한 수식이 없어도, 아주 가까운 두 지점에서 측정한 값의 차이를 그 지점 사이의 거리로 나누어 미분값(기울기)을 추정합니다. 실험 데이터나 센서 값처럼 수식이 없는 경우에 특히 유용합니다.
왜 중요한가
수치미분은 해석적으로 미분하기 어려운 실험 데이터나 시뮬레이션 결과로부터 변화율, 속도, 민감도 같은 정보를 뽑아내는 기본 도구이기 때문에 공학, 물리학, 데이터 분석 등 폭넓은 분야의 논문에서 활용됩니다. 편미분방정식을 격자 위에서 근사적으로 푸는 유한차분법의 핵심 요소이기도 해서, 수치해석과 전산과학 연구에서 빠질 수 없는 기법입니다. 최근에는 신경망 학습의 역전파와 대비되는 개념으로, 그래디언트를 검증하는 수단으로도 언급됩니다.
논문에서는 이렇게 쓰입니다
이 문장은 실험 계측이나 센서 데이터 분석 논문에서 흔히 볼 수 있습니다. 위치나 속도처럼 직접 측정한 데이터로부터, 미분해야 얻어지는 다음 단계의 물리량(속도에서 가속도 등)을 수식 없이 근사적으로 계산했다는 의미입니다.
편미분방정식을 수치적으로 푸는 전산과학 연구에서 수치미분이 활용되는 방식을 보여준다.
머신러닝 연구에서 그래디언트 계산을 검증하는 수단으로 수치미분이 쓰이는 예시이다.
조금 더 깊게 보면
수치미분에는 전진차분, 후진차분, 중심차분 등 여러 방식이 있으며, 일반적으로 중심차분이 같은 간격에서 더 높은 정확도를 갖는 것으로 알려져 있습니다. 다만 간격(h)을 지나치게 작게 잡으면 부동소수점 연산의 반올림 오차가 커지고, 반대로 너무 크게 잡으면 근사 자체의 절단 오차가 커지는 상충 관계가 있어 적절한 간격 선택이 중요합니다. 이러한 노이즈 민감성 문제를 줄이기 위해 자동미분(automatic differentiation)이라는 대안적 방법이 함께 언급되는 경우도 많습니다.
주의할 점
수치미분은 데이터에 섞인 작은 잡음(노이즈)에도 매우 민감하게 반응해 오차가 크게 증폭될 수 있습니다. 반대로 함수를 잘게 쪼개어 넓이(적분값)를 근사하는 심프슨의 법칙 같은 수치적분 방법은 오차가 상쇄되며 비교적 안정적인 경우가 많아, 두 방법의 안정성 차이를 혼동하지 않도록 주의해야 합니다.