편미분 (partial derivative)
쉽게 풀면
피자 맛이 "도우 두께"와 "치즈 양"이라는 두 가지 재료에 따라 달라진다고 해봅시다. "치즈 양을 조금 늘리면 맛이 얼마나 좋아질까?"를 알고 싶다면, 도우 두께는 그대로 둔 채 치즈 양만 살짝 바꿔서 맛의 변화를 재보면 됩니다. 이렇게 여러 재료(변수) 중 딱 하나만 살짝 움직이고 나머지는 꽁꽁 묶어둔 채 재는 변화율이 바로 편미분입니다. 변수가 하나뿐인 보통의 미분과 원리는 같지만, 편미분은 "이 변수만 바꿨을 때"라는 조건이 붙는다는 점이 다릅니다.
왜 중요한가
편미분은 변수가 여러 개인 현실 문제를 다루기 위한 필수 도구로, 딥러닝의 역전파, 경제학의 한계효용 분석, 물리학의 장 방정식 등 거의 모든 다변수 정량 분석의 기반이 됩니다. 특히 여러 변수가 동시에 결과에 영향을 주는 시스템에서 각 변수의 개별적인 기여도를 분리해 살펴볼 수 있다는 점에서, 복잡한 모델을 이해하고 최적화하는 데 핵심적인 역할을 합니다. 이 때문에 편미분은 순수 수학을 넘어 공학, 경제학, 기계학습 전반에서 공통 언어처럼 쓰입니다.
논문에서는 이렇게 쓰입니다
이 문장은 인공신경망 모델이 수많은 가중치(변수)를 동시에 가지고 있을 때, 손실이 각 가중치 하나하나에 대해 얼마나 민감하게 반응하는지를 편미분으로 따로따로 계산했다는 뜻입니다. 이렇게 구한 편미분 값들을 모은 것이 경사하강법에서 쓰이는 기울기(그래디언트)이며, 물리학의 유체·열 방정식이나 경제학의 다변수 최적화 문제에서도 핵심적으로 쓰입니다.
경제학에서 편미분이 한 변수(소득)가 결과(효용)에 미치는 한계적 영향을 분석하는 데 쓰이는 예문이다.
물리학 및 공학 분야에서 편미분이 공간에 따라 변하는 물리량의 국소적 변화를 기술하는 데 쓰이는 사례다.
조금 더 깊게 보면
편미분을 여러 변수에 대해 각각 구해 벡터로 모은 것을 그래디언트(gradient)라 부르며, 이는 함수가 가장 가파르게 증가하는 방향을 나타냅니다. 편미분을 다시 한 번 미분한 이차 편미분들을 모은 행렬은 헤시안(Hessian)이라 부르며, 함수가 오목한지 볼록한지, 극값이 최솟값인지 최댓값인지를 판단하는 데 쓰입니다. 논문에서 편미분이 등장할 때는 어떤 변수에 대한 것인지, 그리고 그 결과가 최적화(극값 탐색)나 민감도 분석 중 어느 목적으로 쓰이는지를 확인하면 맥락을 파악하기 쉽습니다.
주의할 점
편미분은 다른 변수를 "상수처럼 고정"한 상태에서 계산하는 것이지, 다른 변수의 영향을 완전히 무시한다는 뜻은 아닙니다. 모든 변수가 동시에 변할 때의 전체 변화율을 알고 싶다면 각 편미분 값을 조합한 전미분(total derivative)을 따로 살펴봐야 합니다.