공분산행렬 추정 (Covariance Matrix Estimation)
쉽게 풀면
변수가 하나일 때는 분산 하나만 계산하면 되지만, 변수가 여러 개일 때는 각 변수의 분산뿐 아니라 변수들 사이의 관계(공분산)까지 모두 정리한 행렬이 필요한데, 이를 표본으로부터 추정하는 것이 공분산행렬 추정이다. 변수의 개수가 표본 크기에 비해 지나치게 많아지면(고차원 자료) 표본 공분산행렬이 불안정해지거나 심지어 역행렬을 구할 수 없는 문제(특이행렬)가 생길 수 있어, 이런 경우 축소추정(shrinkage estimation)과 같은 보정 기법이 함께 사용된다.
왜 중요한가
공분산행렬 추정은 주성분분석, 판별분석, 포트폴리오 최적화, 그래프 모형 추정 등 다변량 통계 방법 전반의 출발점이기 때문에 통계학과 계량경제학, 금융공학 논문에서 폭넓게 다뤄집니다. 특히 유전체 자료나 뇌영상 자료처럼 변수 수가 표본 크기보다 훨씬 많은 고차원 자료가 흔해지면서, 안정적인 공분산행렬 추정 방법 자체가 활발한 연구 주제가 되었습니다.
논문에서는 이렇게 쓰입니다
다변량 분석, 포트폴리오 최적화, 판별분석 등 변수 간 관계 구조를 명시적으로 다루는 모든 분석의 기초로 사용된다.
금융 자료에서 자산 수도 많고 관측 기간도 제한적일 때, 안정적인 공분산행렬 추정이 자산배분 결과의 신뢰도에 직접 영향을 준다는 것을 보여줍니다.
조금 더 깊게 보면
표본 공분산행렬은 변수 개수가 표본 크기에 가까워질수록 고유값이 왜곡되어 실제보다 극단적인 값을 갖게 되는데, 축소추정은 표본 공분산행렬을 단위행렬이나 대각행렬 같은 구조가 단순한 목표행렬 쪽으로 일부 끌어당겨 이런 왜곡을 완화합니다. 이 밖에도 희소성을 가정한 그래프 라쏘(graphical lasso), 요인모형 기반 추정 등 다양한 정규화 기법이 함께 쓰이며, 어떤 방법을 택했는지에 따라 이후 분석 결과가 달라질 수 있으므로 논문에서 추정 방법을 명시하는 것이 중요합니다.
주의할 점
표본 크기가 변수 개수보다 작으면 표본 공분산행렬이 역행렬을 갖지 못해(특이행렬이 되어) 이를 필요로 하는 여러 다변량 기법을 그대로 적용할 수 없다.