확률밀도함수 (Probability Density Function (PDF))

수학
한 줄 정의: 연속적인 확률변수가 특정 값 주변에 분포하는 상대적인 밀도를 나타내는 함수로, 이 함수를 구간에 걸쳐 적분하면 그 구간에 속할 확률이 된다.

쉽게 풀면

연속적인 값을 갖는 확률변수(예: 키, 몸무게)는 정확히 어떤 한 값을 가질 확률이 사실상 0이기 때문에, 대신 특정 구간에 속할 확률을 그래프 아래의 넓이로 표현한다. 확률밀도함수는 바로 이 그래프의 높이를 나타내며, 함수값이 높은 구간일수록 그 근처에 값이 몰려 있을 가능성이 크다는 뜻이다. 전체 그래프 아래의 넓이(전체 구간에 대한 적분값)는 항상 1이 되어야 한다.

왜 중요한가

확률밀도함수는 연속형 데이터를 다루는 거의 모든 통계적 방법론의 출발점이다. 회귀분석의 오차항, 베이지안 추론의 사전·사후분포, 신호처리의 잡음 모델 등이 모두 확률밀도함수를 통해 정의되기 때문에, 어떤 분포를 가정하느냐가 분석 전체의 타당성을 좌우한다. 그래서 논문에서는 데이터가 특정 분포를 따른다는 가정을 명시하고, 이를 근거로 우도, 신뢰구간, 검정통계량 등을 유도하는 경우가 매우 흔하다.

논문에서는 이렇게 쓰입니다

"관측 데이터가 정규분포를 따른다고 가정하여 확률밀도함수를 이용해 우도함수를 구성하였다."

통계적 추론과 머신러닝의 확률 모델에서 데이터의 분포를 확률밀도함수로 표현하고 그 파라미터를 추정하는 과정이 핵심적으로 쓰인다.

"입자의 위치를 나타내는 파동함수의 절댓값 제곱을 확률밀도함수로 해석하여 관측 확률을 계산하였다."

양자역학에서는 파동함수 자체가 물리량이 아니라, 그 절댓값 제곱이 위치를 관측할 확률밀도함수로 해석된다는 점을 강조할 때 이런 표현이 쓰인다.

"자산 수익률의 확률밀도함수를 커널밀도추정으로 비모수적으로 추정하여 꼬리 위험을 분석하였다."

금융 리스크 분석에서는 수익률 분포가 정규분포를 벗어나는 경우가 많아, 특정 분포 형태를 가정하지 않고 데이터로부터 직접 확률밀도함수를 추정하는 방식이 자주 사용된다.

조금 더 깊게 보면

실제 논문에서는 확률밀도함수의 형태를 모수적으로 가정하는 방법(정규분포, 감마분포 등 특정 함수식을 지정)과, 커널밀도추정처럼 비모수적으로 데이터에서 형태를 추정하는 방법이 구분되어 쓰인다. 다변량 데이터를 다룰 때는 결합확률밀도함수, 그리고 다른 변수를 조건으로 준 조건부확률밀도함수 개념이 자주 등장하며, 두 확률밀도함수 사이의 차이를 비교할 때는 KL 발산 같은 지표가 함께 언급되기도 한다.

주의할 점

확률밀도함수의 값 자체는 확률이 아니며(1보다 클 수도 있음), 반드시 어떤 구간에 대해 적분해야 실제 확률이 된다.

관련 용어