앙상블칼만필터 (Ensemble Kalman Filter)

대기과학
한 줄 정의: 여러 개의 모델 예측(앙상블)을 이용해 배경오차 공분산을 통계적으로 추정하고, 이를 바탕으로 칼만필터 방식으로 관측을 동화하여 분석장을 산출하는 자료동화 기법입니다.

쉽게 풀면

자료동화를 하려면 "지금까지의 예보를 얼마나 믿을지"와 "새 관측을 얼마나 믿을지"의 비율을 정해야 하는데, 이 비율을 정하는 데 필요한 것이 배경오차 공분산입니다. 전통적인 칼만필터는 이 공분산을 수식으로 직접 계산하지만, 대기 모델처럼 변수가 매우 많은 경우 이는 현실적으로 불가능합니다. 앙상블칼만필터(EnKF)는 여러 개의 서로 다른 모델 예측(앙상블)을 만들어두고, 이 앙상블들이 흩어진 정도로부터 오차 공분산을 근사적으로 추정합니다. 여러 명의 예측을 모아 그 편차를 보고 신뢰도를 가늠하는 방식이라, 계산이 훨씬 실용적입니다.

왜 중요한가

EnKF는 명시적인 수반모델 개발 없이도 유동적으로 흐름에 따라 변하는(flow-dependent) 오차 정보를 반영할 수 있어, 변분법 대비 구현이 상대적으로 단순하다는 장점이 있습니다. 이 때문에 여러 현업 및 연구 기관의 자료동화 시스템에서 EnKF 또는 이를 변분법과 결합한 하이브리드 기법이 활용되고 있습니다.

논문에서는 이렇게 쓰입니다

"앙상블칼만필터를 이용하여 국지적 대류계 발달 초기의 배경오차 공분산을 흐름 의존적으로 추정하였다."

고정된 공분산이 아니라 그날그날의 대기 흐름에 따라 달라지는 오차 구조를 앙상블로부터 추정한 사례입니다.

"EnKF 기반 자료동화 시스템에서 앙상블 붕괴(ensemble collapse) 문제를 완화하기 위해 공분산 팽창(covariance inflation) 기법을 적용하였다."

앙상블 멤버들의 퍼짐이 지나치게 줄어드는 문제를 보완하는 기법을 언급하는 대목입니다.

조금 더 깊게 보면

EnKF에는 관측을 동시에 처리하는 방식과 순차적으로 처리하는 방식 등 여러 변형이 존재하며, 앙상블 크기가 유한하기 때문에 발생하는 표본오차를 줄이기 위해 국지화(localization)와 공분산 팽창 같은 보정 기법이 함께 사용됩니다. 변분법과 앙상블 기법의 장점을 결합한 하이브리드 자료동화도 널리 연구되고 있습니다.

주의할 점

앙상블 멤버 수가 충분하지 않으면 공분산 추정에 표본오차가 커지고, 먼 거리의 변수 간에 허위 상관(spurious correlation)이 나타날 수 있습니다. 이를 줄이기 위해 국지화 기법이 필요하지만, 국지화 범위 설정 자체도 신중한 조정이 필요한 요소입니다.

관련 용어