베이지안 최적화 (Bayesian Optimization)
쉽게 풀면
그리드 서치나 랜덤 서치는 이전 시도 결과를 다음 시도에 반영하지 않고 무작정 값을 골라요. 반면 베이지안 최적화는 지금까지 시도한 결과들을 바탕으로 '어느 영역이 좋은 성능을 낼 것 같은지'를 확률적으로 예측하는 대리 모델(surrogate model)을 만들고, 그 예측이 유망한 곳을 우선적으로 다음에 시도합니다. 마치 보물찾기를 할 때 아무 데나 파는 게 아니라 지금까지 파본 곳의 흔적을 보고 다음 위치를 추측하는 것과 비슷해요. 적은 시도 횟수로도 좋은 하이퍼파라미터를 찾을 수 있어 학습 비용이 큰 딥러닝 모델에 특히 유용합니다.
왜 중요한가
딥러닝을 비롯해 학습 한 번에 시간과 비용이 많이 드는 모델일수록 하이퍼파라미터를 무작정 많이 시도해 볼 수가 없습니다. 베이지안 최적화는 적은 시도 횟수로도 좋은 설정을 찾아내는 대표적인 방법이라 자원이 제한된 실험 환경에서 특히 자주 언급됩니다. 또한 하이퍼파라미터 탐색뿐 아니라 실험 설계, 소재·물질 탐색, 로봇 제어 파라미터 조정처럼 '평가 한 번의 비용이 큰' 다양한 최적화 문제 전반에 걸쳐 적용되는 일반적인 프레임워크라는 점에서 여러 분야의 연구와 맞닿아 있습니다.
논문에서는 이렇게 쓰입니다
매 학습이 오래 걸리는 모델이므로 시도 횟수를 최소화하기 위해 확률 모델 기반의 지능적 탐색을 택했다는 뜻이다.
재료과학처럼 후보 하나를 평가하는 데도 비용이 큰 분야에서, 다음으로 검증할 후보를 확률적으로 추천받아 실험 횟수를 줄이는 데 활용했다는 의미다.
실제 로봇으로 반복 실험하는 것은 시간과 마모 비용이 크므로, 적은 시행으로도 성능이 좋은 파라미터를 찾기 위해 사용했다는 뜻이다.
조금 더 깊게 보면
베이지안 최적화는 크게 두 요소로 구성됩니다. 하나는 지금까지의 관측값으로부터 목적함수의 형태를 확률적으로 추정하는 대리 모델(surrogate model)로, 가우시안 프로세스(Gaussian Process)가 대표적으로 쓰입니다. 다른 하나는 그 확률적 예측을 바탕으로 다음에 시도할 지점을 고르는 획득 함수(acquisition function)로, 기대 향상(Expected Improvement, EI)이나 신뢰 상한(Upper Confidence Bound, UCB) 같은 방식이 흔히 사용됩니다. 논문을 읽을 때는 어떤 대리 모델과 획득 함수를 썼는지, 그리고 탐험(exploration)과 활용(exploitation) 사이의 균형을 어떻게 조절했는지가 방법론 비교의 핵심 포인트가 되는 경우가 많습니다.
주의할 점
대리 모델 자체를 학습하고 업데이트하는 데도 계산 비용이 들기 때문에, 하이퍼파라미터 개수가 너무 많으면 오히려 효율이 떨어질 수 있다.