주성분분석 (Principal component analysis)
쉽게 풀면
학생들의 국어, 영어, 수학, 사회, 과학 점수 5개를 한 번에 분석하려니 너무 복잡합니다. 그런데 자세히 보니 국어·영어·사회 점수는 서로 비슷하게 오르내리고("언어/문과 능력"), 수학·과학 점수도 서로 비슷하게 움직입니다("이과 능력"). 주성분분석은 이렇게 "함께 움직이는 변수들의 묶음"을 찾아내서, 5개 점수를 "문과 능력 점수"와 "이과 능력 점수"라는 2개의 새로운 축으로 요약해줍니다. 원래 정보를 최대한 유지하면서 변수 개수를 줄이는 것이 핵심입니다.
왜 중요한가
변수 수가 많아질수록 데이터를 시각화하거나 분석 모형에 그대로 투입하기가 어려워지는데(차원의 저주), 주성분분석은 이런 고차원 데이터를 다루기 쉬운 형태로 압축하는 대표적인 해법입니다. 유전체 데이터의 변이 패턴을 요약하거나, 영상 데이터의 특징을 추출하거나, 여러 경제지표를 하나의 종합지수로 묶는 등 데이터의 차원을 줄이면서도 핵심 정보를 보존해야 하는 거의 모든 분야에서 전처리 및 탐색적 분석 도구로 널리 쓰입니다.
논문에서는 이렇게 쓰입니다
이 문장은 원래 12개나 되던 문항을 정보 손실을 크게 겪지 않으면서 3개의 핵심 축으로 줄였다는 뜻입니다. "68.4%를 설명한다"는 것은 원본 데이터가 가진 전체 변동성 중 68.4%를 이 3개 주성분만으로도 충분히 요약할 수 있다는 의미입니다.
유전체학에서는 방대한 수의 유전자 발현 데이터를 소수의 축으로 요약해, 시료 간 차이를 시각적으로 파악하는 탐색적 분석에 흔히 활용됩니다.
영상처리와 컴퓨터비전 분야에서는 고해상도 이미지의 픽셀 정보를 그대로 다루는 대신, 주성분분석으로 핵심적인 특징만 추출해 연산량을 줄이는 데 사용합니다.
조금 더 깊게 보면
주성분분석은 변수들 간의 공분산(또는 상관) 행렬을 고유값 분해하여, 데이터의 분산을 가장 많이 설명하는 방향부터 순서대로 축(주성분)을 찾아내는 방식으로 작동합니다. 각 주성분이 설명하는 분산의 비율을 스크리 도표(scree plot)로 그려 몇 개의 주성분까지 사용할지 판단하는 경우가 많으며, 변수의 척도가 서로 다르면 결과가 특정 변수에 치우칠 수 있어 분석 전에 표준화를 거치는 것이 일반적입니다.
주의할 점
주성분분석은 요인분석과 자주 혼동되지만 목적이 다릅니다. 요인분석은 "관측되지 않은 잠재 개념(요인)이 문항들을 만들어낸다"고 가정하고 그 잠재 개념을 추정하는 반면, 주성분분석은 그런 가정 없이 순수하게 "데이터의 분산을 가장 잘 설명하는 방향"을 수학적으로 찾아 압축할 뿐입니다. 따라서 심리 측정 도구의 잠재 구조를 확인하려는 목적이라면 요인분석이 더 적절할 수 있습니다.