산술평균과 기하평균 (AM-GM Inequality)

한 줄 정의: 두 양수의 산술평균(더해서 2로 나눈 값)은 항상 기하평균(곱해서 제곱근을 씌운 값)보다 크거나 같다는 부등식입니다.

쉽게 풀면

두 양수 a, b가 있을 때 흔히 쓰는 평균은 (a+b)/2로 계산하는 "산술평균"입니다. 그런데 수학에는 곱한 뒤 제곱근을 씌우는 √(ab)라는 "기하평균"도 있습니다. 신기하게도 어떤 양수를 넣어도 항상 산술평균이 기하평균보다 크거나 같습니다. 예를 들어 4와 9를 산술평균 하면 6.5이고, 기하평균 하면 √36=6으로, 산술평균이 더 큽니다. 두 값이 같아지는 경우는 딱 하나, a와 b가 서로 같을 때뿐입니다. 이 성질은 "둘레가 정해진 직사각형 중 넓이가 가장 큰 것은 정사각형이다"처럼, 합이 일정할 때 곱의 최댓값을 구하거나 곱이 일정할 때 합의 최솟값을 구하는 문제에 자주 활용됩니다.

왜 중요한가

AM-GM 부등식은 미분이나 라그랑주 승수법 같은 복잡한 도구 없이도 최댓값·최솟값의 상한이나 하한을 간단히 보일 수 있어, 최적화 이론과 알고리즘 분석 논문에서 보조정리(lemma)로 자주 등장합니다. 통신·신호처리 분야에서는 신호 대 잡음비나 전력 배분 문제의 이론적 한계를 유도할 때, 통계학에서는 분산이나 오차 항의 상한을 증명할 때 활용됩니다. 또한 볼록 최적화(convex optimization)나 기하 계획법(geometric programming) 같은 더 일반적인 이론의 기초가 되는 성질이기도 해서, 관련 분야 논문을 읽을 때 배경지식으로 자주 전제됩니다.

논문에서는 이렇게 쓰입니다

"자원 배분 최적화 모형에서 두 변수의 곱이 일정하게 유지되는 제약 조건 하에 총 비용의 하한을 산술평균과 기하평균의 관계를 이용해 유도하였다."

이 문장은 공학이나 경제학의 최적화 문제에서, 산술평균과 기하평균의 관계가 복잡한 미분 계산 없이도 최댓값이나 최솟값의 이론적 한계를 간단히 증명하는 도구로 쓰인다는 것을 보여줍니다.

"제안한 전력 배분 기법의 성능 상한은 채널 이득 곱이 일정하다는 가정 아래 산술-기하 평균 부등식을 적용하여 폐형식(closed-form)으로 도출되었다."

무선통신 분야 논문에서는 여러 채널이나 안테나에 전력을 나눠 배분하는 문제의 이론적 성능 한계를 구할 때, 각 항의 곱을 일정하게 놓고 AM-GM 부등식으로 합의 최솟값을 계산하는 방식이 흔히 쓰입니다.

"알고리즘의 시간 복잡도 분석에서 서로 다른 두 매개변수의 곱으로 표현되는 비용 함수의 하한을 산술평균과 기하평균의 관계를 통해 정당화하였다."

컴퓨터과학의 알고리즘 분석에서도, 서로 트레이드오프 관계에 있는 두 자원(예: 시간과 공간)의 곱이 일정할 때 그 합이 최소가 되는 지점을 찾는 데 같은 원리가 응용됩니다.

조금 더 깊게 보면

AM-GM 부등식은 두 변수뿐 아니라 세 개 이상의 양수에 대해서도 일반화되며, n개 양수의 산술평균은 항상 그 기하평균보다 크거나 같습니다. 등호는 마찬가지로 모든 값이 서로 같을 때만 성립합니다. 이 부등식은 더 넓은 부등식 계열의 특수한 경우로도 이해할 수 있는데, 산술평균-기하평균-조화평균(AM-GM-HM) 관계나 코시-슈바르츠 부등식, 옌센 부등식(Jensen's inequality) 등과 함께 볼록함수의 성질을 이용해 증명되는 경우가 많습니다. 실제로 이러한 부등식들은 최적화 문제에서 서로 대체 가능한 증명 도구로 쓰이는 경우가 많으므로, 한 논문에서 AM-GM이 쓰인 자리를 다른 논문에서는 옌센 부등식이나 코시-슈바르츠 부등식으로 대체해 증명하는 경우도 흔히 볼 수 있습니다.

주의할 점

이 부등식은 모든 값에 성립하는 것이 아니라, a와 b가 반드시 0보다 큰 양수일 때만 성립합니다. 또한 등호(=)가 성립하는 경우는 a=b일 때뿐이라는 조건을 빠뜨리면 최댓값·최솟값 문제에서 틀린 답을 낼 수 있습니다. 관련된 이차함수와 그래프의 최솟값 개념과 함께 비교해보면 이해에 도움이 됩니다.