이차형식 (Quadratic Form)
쉽게 풀면
중학교 때 배운 f(x) = ax² 같은 이차함수를 변수가 여러 개인 경우로 확장한 것이 이차형식입니다. 변수가 x, y 두 개라면 f(x, y) = ax² + bxy + cy² 같은 꼴이 되고, 이를 행렬로 쓰면 xᵀAx (x는 변수들을 세로로 나열한 벡터, A는 계수를 담은 대칭행렬)로 깔끔하게 표현됩니다. 왜 굳이 이렇게 쓸까요? 이 식의 값이 "항상 양수인지, 항상 음수인지, 아니면 방향에 따라 달라지는지"를 알면 어떤 점이 최솟값(골짜기)인지 최댓값(봉우리)인지 안장점(말안장 모양)인지 바로 판단할 수 있기 때문입니다. 이때 쓰는 판단 기준이 바로 행렬 A의 고유값과 고유벡터입니다. 고유값이 전부 양수면 골짜기(양의정부호), 전부 음수면 봉우리, 부호가 섞여 있으면 안장점입니다.
왜 중요한가
이차형식은 최적화 문제에서 극점의 성격(최솟값, 최댓값, 안장점)을 판별하는 표준 도구이자, 통계학에서 공분산행렬과 이차형식 검정통계량(예: 카이제곱 형태의 통계량)을 다룰 때, 그리고 물리학·역학에서 에너지 함수를 표현할 때도 핵심적으로 쓰입니다. 여러 분야에서 함수를 2차항까지 근사(테일러 전개)하면 자연스럽게 이차형식이 나타나기 때문에, 안정성 분석이나 곡률 논의가 필요한 논문 전반에 걸쳐 등장하는 개념입니다.
논문에서는 이렇게 쓰입니다
이 문장은 "함수를 2차 근사했을 때 나오는 이차형식의 부호를 확인해서, 지금 찾은 점이 진짜 최소점이 맞는지 수학적으로 검증했다"는 뜻입니다. 최적화, 계량경제학, 통계 모형에서 안정성이나 최적성을 증명할 때 자주 등장합니다.
회귀분석 등에서 잔차나 오차항을 행렬 형태의 이차형식으로 묶어 검정통계량을 만들었고, 이 통계량의 분포가 알려진 형태(카이제곱분포)를 따른다는 것을 이용해 가설검정을 수행했다는 뜻입니다.
역학 시스템에서 에너지를 이차형식으로 나타낸 뒤, 이를 고유값 문제로 바꿔 시스템이 진동하는 고유한 주파수를 계산했다는 의미입니다.
조금 더 깊게 보면
이차형식 xᵀAx의 부호(양의정부호, 음의정부호, 부정부호 등)는 대칭행렬 A의 고유값 부호로 판정할 수 있으며, 실제로는 고유값을 직접 계산하지 않고도 주소행렬식(leading principal minor)의 부호를 살펴보는 실베스터 판정법이 자주 쓰입니다. 통계에서는 이차형식의 기댓값이나 분포가 관련 행렬의 대각합(trace)이나 계수(rank)와 연결되는 성질이 검정통계량 유도에 활용되므로, 논문을 읽을 때는 어떤 행렬의 이차형식인지, 그 행렬의 정부호성이 무엇을 의미하는지를 함께 살펴보는 것이 도움이 됩니다.
주의할 점
이차형식이 항상 양수(양의정부호)인지 여부는 계수만 보고 직관적으로 판단하기 어렵고, 반드시 관련 행렬의 고유값이나 헤시안 행렬의 부호 판정을 거쳐 확인해야 합니다. 또한 변수가 3개 이상으로 늘어나면 그래프로 직접 그려서 확인할 수 없으므로, 행렬 표현과 고유값 분석에 의존하는 경우가 대부분입니다.