아카이케 정보기준 (Akaike Information Criterion (AIC))

통계
한 줄 정의: 모형의 적합도와 모수 개수 사이의 균형을 평가하여 여러 후보 모형 중 상대적으로 우수한 모형을 선택하는 지표.

쉽게 풀면

BIC와 마찬가지로 모형이 얼마나 자료를 잘 설명하는지와 얼마나 복잡한지를 함께 고려하는 지표이지만, 복잡성에 대한 벌점이 BIC보다 약한 편이다. 값이 작을수록 상대적으로 더 좋은 모형이라고 해석하며, 여러 모형을 비교할 때 널리 쓰인다. 시계열 모형에서 적절한 차수를 정하거나, 회귀모형에서 변수 선택을 할 때도 자주 활용된다.

왜 중요한가

연구자는 실제 자료를 생성한 '참모형'을 알 수 없기 때문에, 후보로 세운 여러 모형 중 어느 것이 자료를 가장 효율적으로 설명하는지 객관적으로 판단할 기준이 필요하다. AIC는 이런 모형 선택 문제를 하나의 숫자로 요약해주기 때문에 회귀분석, 시계열분석, 구조방정식모형 등 모형이 여러 개 후보로 제시되는 거의 모든 통계적 연구에서 반복적으로 등장한다. 특히 변수를 추가할수록 적합도는 항상 좋아지는 경향이 있는데, AIC는 이런 과적합을 억제하면서 설명력과 단순성 사이의 균형을 잡아주므로 실무에서도 널리 신뢰받는다.

논문에서는 이렇게 쓰입니다

"AIC 값이 가장 낮은 모형을 최종 모형으로 선택하였다."

비교한 여러 통계모형 가운데 AIC 값이 가장 작게 나온 모형을 최종적으로 채택했다는 뜻이다.

"ARIMA(1,1,1) 모형이 다른 후보 모형들에 비해 가장 작은 AIC 값을 보여 시계열 예측에 사용되었다."

시계열 분석에서 여러 차수의 ARIMA 모형을 비교한 결과, AIC 기준으로 가장 적합한 모형을 예측에 활용했다는 의미이다.

"설명변수를 단계적으로 추가하며 AIC의 변화를 관찰하여 최적의 변수 조합을 결정하였다."

회귀분석에서 변수를 하나씩 넣거나 빼면서 AIC가 더 이상 개선되지 않는 지점을 찾아 최종 변수 집합을 정했다는 뜻이다.

조금 더 깊게 보면

AIC는 대체로 로그가능도(log-likelihood)에 모수 개수만큼의 벌점을 더하는 형태로 계산되며, 벌점의 크기가 표본 크기를 반영하는 BIC보다 상대적으로 작아 변수를 조금 더 관대하게 포함시키는 경향이 있다. 그래서 두 지표가 서로 다른 모형을 최적으로 지목하는 경우도 흔하며, 논문에서는 이 둘을 함께 제시하면서 결과의 강건성을 보이기도 한다. 표본 크기가 작을 때는 AIC를 보정한 AICc가 대신 쓰이기도 하는데, 이는 모수 개수가 표본 크기에 비해 상대적으로 클 때 발생하는 편향을 줄이기 위한 변형이다.

주의할 점

AIC는 절대적인 적합도를 의미하는 값이 아니라 후보 모형들 사이의 상대적 비교에만 쓰일 수 있는 지표라는 점에 유의해야 한다.

관련 용어