미분 (derivative)
쉽게 풀면
자동차 계기판의 속도계를 생각해보세요. "지금 이 순간" 시속 60km라는 숫자는 사실 "위치가 시간에 따라 얼마나 빨리 변하는지"를 나타낸 것입니다. 미분은 바로 이 "순간의 변화 속도"를 수학적으로 구하는 방법입니다. 그래프로 보면, 어떤 함수의 그래프 위 한 점에서 그은 접선의 기울기가 바로 그 점에서의 미분값입니다. 기울기가 가파르면 그 순간 값이 빠르게 변하고 있다는 뜻이고, 기울기가 0이면 순간적으로 변화가 멈춘 상태(예: 그래프의 꼭대기나 바닥)라는 뜻입니다.
왜 중요한가
미분은 어떤 값이 다른 값에 따라 얼마나 민감하게 변하는지를 정량화하는 도구이기 때문에, 최적화·물리학·경제학 등 변화와 최적점을 다루는 거의 모든 학문에서 기본 언어로 쓰입니다. 특히 기계학습에서는 모델을 더 나은 방향으로 조금씩 조정하는 학습 과정 전체가 미분값(기울기)을 계산하는 데 의존하고 있어, 관련 논문의 수식을 이해하려면 미분 개념이 필수적입니다.
논문에서는 이렇게 쓰입니다
이 문장은 "모델이 얼마나 틀렸는지를 나타내는 함수(손실함수)가 각 설정값이 조금 바뀔 때 얼마나 변하는지를 계산해서, 그 방향을 참고해 설정값을 더 나은 쪽으로 조금씩 조정했다"는 뜻입니다. 인공지능의 경사하강법이 바로 이 원리를 사용합니다.
물리학에서는 위치가 시간에 따라 얼마나 빠르게 바뀌는지를 미분해 속도를 얻고, 속도가 다시 얼마나 빠르게 바뀌는지를 미분해 가속도를 얻는다는 뜻으로, 운동을 분석하는 가장 기본적인 방식입니다.
경제학에서는 노동자를 한 명 더 투입했을 때 생산량이 얼마나 늘어나는지를 미분으로 계산한다는 뜻으로, 이렇게 구한 값을 한계생산성이라 부르며 자원 배분 의사결정의 근거로 활용됩니다.
조금 더 깊게 보면
미분은 함수의 그래프 위 한 점에서 아주 가까운 두 점을 잡아 그 사이의 평균 변화율을 구한 뒤, 두 점의 간격을 한없이 0에 가깝게 좁히는 극한(limit) 과정을 통해 엄밀하게 정의됩니다. 여러 변수에 동시에 의존하는 함수의 경우 한 변수만 바꾸며 나머지는 고정한 채 미분하는 편미분(partial derivative)을 사용하며, 이를 변수별로 모아 놓은 것이 바로 기계학습에서 자주 언급되는 그래디언트(gradient)입니다. 논문에서 미분 기호(d/dx, ∂/∂x 등)를 볼 때는 어떤 변수에 대해, 어떤 조건 아래에서 미분했는지를 함께 확인하는 것이 중요합니다.
주의할 점
미분은 "그 순간의 변화 속도"이고, 적분은 정반대로 "변화를 처음부터 끝까지 다 더한 누적량"입니다. 둘은 서로 반대 방향의 계산이라서 자주 짝지어 나오지만 혼동하기 쉽습니다. 또한 그래프가 뾰족하게 꺾이는 지점처럼 순간의 기울기를 하나로 정할 수 없는 곳에서는 미분이 정의되지 않을 수 있습니다.