그람-슈미트 직교화 (Gram-Schmidt Process)
쉽게 풀면
삐뚤빼뚤 세워진 여러 개의 막대기를 순서대로 하나씩 세운다고 생각해봅시다. 첫 번째 막대는 그대로 두고, 두 번째 막대에서 첫 번째 막대와 겹치는 성분(그림자 부분)만 잘라내면 첫 번째와 정확히 수직인 막대가 남습니다. 세 번째 막대에서도 앞의 두 막대와 겹치는 성분을 모두 잘라내면, 이제 세 막대가 서로 완전히 수직이 됩니다. 이렇게 벡터마다 벡터의 내적을 이용해 이미 만들어진 축들과 겹치는 부분을 빼주는 과정을 순서대로 반복하는 것이 그람-슈미트 직교화입니다. 결과적으로 원래 벡터들이 펼치던 공간은 그대로 유지하면서, 계산하기 훨씬 편한 "서로 수직인 좌표축(직교기저)"을 얻게 됩니다.
왜 중요한가
서로 수직인 좌표축으로 이루어진 직교기저는 계산을 단순화하고 수치적으로 안정적인 결과를 주기 때문에, 선형대수를 다루는 거의 모든 응용 분야의 논문에서 그람-슈미트 직교화가 전처리 단계로 활용됩니다. 회귀분석에서 변수 간 상관관계를 정리하거나, 신호처리에서 독립적인 성분을 추출하거나, 수치해석에서 안정적인 행렬 분해를 수행할 때 이 절차가 기반 기법으로 등장합니다.
논문에서는 이렇게 쓰입니다
이 문장은 서로 얽혀 있던 벡터들을 그람-슈미트 과정을 통해 수직인 벡터들로 정리한 뒤, 그 결과를 행렬 계산(QR분해)에 활용했다는 뜻입니다. 신호처리, 통계, 수치해석 논문에서 기저를 단순화하거나 다중공선성 문제를 다룰 때 자주 언급됩니다.
계량경제학 분야에서도 서로 얽혀 있는 설명변수들을 직교화하여 회귀계수 추정을 더 안정적으로 만들었다는 의미입니다.
조금 더 깊게 보면
손으로 계산하는 방식(고전적 그람-슈미트)은 이해하기 쉽지만 컴퓨터로 구현할 때 반올림 오차가 누적되기 쉬워, 실무에서는 매 단계마다 계산을 다시 갱신하는 변형된 그람-슈미트(Modified Gram-Schmidt)나, 하우스홀더 변환·기븐스 회전처럼 수치적으로 더 안정적인 다른 방식이 QR분해에 흔히 쓰입니다. 논문에서 QR분해를 언급할 때 어떤 방식으로 직교화를 수행했는지까지 명시하는 경우, 계산의 정확도와 안정성을 더 신뢰할 수 있는 근거가 됩니다.
주의할 점
벡터를 처리하는 순서를 바꾸면 최종적으로 얻는 직교기저 자체가 달라질 수 있습니다(단, 벡터들이 펼치는 공간은 동일합니다). 또한 손으로 계산하는 고전적 방식은 컴퓨터로 실제 구현할 때 반올림 오차가 누적되어 불안정해질 수 있어, 실무에서는 이를 보완한 변형된 알고리즘이 흔히 사용됩니다.