행렬식 (determinant)
쉽게 풀면
행렬을 "도형을 변형시키는 틀"이라고 생각하면, 행렬식은 그 틀을 통과했을 때 원래 도형의 넓이(또는 부피)가 몇 배로 늘어나거나 줄어드는지를 알려주는 숫자입니다. 예를 들어 정사각형 하나를 행렬이라는 틀에 통과시켰더니 넓이가 2배가 되었다면 행렬식은 2입니다. 만약 행렬식이 0이라면, 그 틀을 통과하는 순간 도형이 완전히 찌그러져서 선이나 점처럼 차원이 낮아져 버린다는 뜻이며, 이 경우 그 행렬은 되돌릴 수 없는(역행렬이 없는) 변환이 됩니다.
왜 중요한가
행렬식은 역행렬의 존재 여부, 선형 시스템의 해가 유일하게 정해지는지, 그리고 변환이 공간을 얼마나 확대·축소하는지를 동시에 알려주는 지표라서 선형대수를 활용하는 거의 모든 정량적 연구의 기초 도구입니다. 통계학에서는 회귀모형의 안정성 점검에, 물리학과 공학에서는 좌표 변환과 부피 계산에, 최적화와 머신러닝에서는 공분산 구조나 야코비안 분석에 쓰이기 때문에 분야를 막론하고 수식 유도 과정에서 자주 등장합니다.
논문에서는 이렇게 쓰입니다
이 문장은 통계 모형에서 사용한 행렬의 행렬식이 거의 0이라는 것을 확인했다는 뜻으로, 이는 변수들끼리 서로 겹치는 정보가 많아 행렬을 "되돌리는" 계산(역행렬)이 수치적으로 불안정해질 수 있다는 경고 신호로 해석됩니다. 행렬식은 회귀분석의 안정성 점검, 좌표 변환의 부피 계산, 그리고 고유값과 고유벡터를 구하는 과정 등 행렬을 다루는 다양한 논문에서 등장합니다.
물리학이나 공학 논문에서 좌표계를 바꿔 적분을 계산할 때, 그 변환으로 부피가 얼마나 늘거나 줄어드는지를 행렬식으로 계산해 보정했다는 뜻이다.
통계 모형이 수학적으로 타당하게 정의되려면 공분산 행렬이 특정 조건을 만족해야 하는데, 이를 행렬식과 고유값을 통해 점검했다는 의미다.
조금 더 깊게 보면
실제 논문에서는 행렬식 자체보다 그 값의 부호나 크기가 갖는 의미가 더 자주 쓰입니다. 예를 들어 공분산 행렬처럼 특별한 성질을 가진 행렬에서는 행렬식이 양수인지가 "양의 정부호(positive definite)" 여부를 판단하는 단서가 되고, 행렬식이 매우 작은 값(0에 가까운 값)은 다중공선성이나 수치적 불안정성의 신호로 해석됩니다. 큰 행렬의 경우 행렬식을 직접 계산하기보다 LU 분해나 고유값의 곱으로 구하는 방식이 흔히 쓰이며, 이런 계산법의 차이는 논문의 수치해석 절에서 종종 언급됩니다.
주의할 점
행렬식은 반드시 가로세로 크기가 같은 정사각행렬에 대해서만 정의되며, 행렬식이 0이 아니라는 것은 그 행렬을 되돌릴 수 있는 역행렬이 존재한다는 것을 보장하는 중요한 조건입니다.