학습률 스케줄링 (Learning Rate Scheduling)
쉽게 풀면
학습률은 파라미터를 한 번에 얼마나 크게 업데이트할지 정하는 값인데, 학습 내내 하나의 고정된 값만 쓰는 것이 항상 최선은 아니에요. 학습률 스케줄링은 학습 초반에는 큰 학습률로 빠르게 최적점 근처까지 이동하고, 학습이 진행될수록 학습률을 점차 줄여서 최적점 주변에서 세밀하게 수렴하도록 조정하는 방법입니다. 계단식으로 특정 시점마다 뚝뚝 줄이는 방식, 코사인 함수 모양으로 부드럽게 줄이는 방식, 처음에 학습률을 서서히 키우는 워밍업(warmup) 등 다양한 스케줄이 있어요. 적절한 스케줄링은 학습 속도와 최종 성능 모두를 개선하는 데 큰 도움이 됩니다.
왜 중요한가
학습률 스케줄링은 대규모 딥러닝 모델, 특히 트랜스포머 기반 언어모델의 사전학습과 미세조정에서 학습 안정성과 최종 성능을 좌우하는 핵심 하이퍼파라미터 설계 요소로 다뤄집니다. 동일한 모델 구조와 데이터라도 스케줄을 어떻게 설계하느냐에 따라 수렴 속도와 최종 성능이 크게 달라질 수 있어, 대규모 모델 학습 논문에서는 최적화 설정을 상세히 보고하는 것이 재현성 확보의 중요한 부분으로 여겨집니다.
논문에서는 이렇게 쓰입니다
학습 초기에는 학습률을 서서히 높이다가, 이후에는 코사인 곡선 모양으로 점차 낮춰가며 학습을 진행했다는 뜻이다.
이 예문은 미리 정해진 스케줄이 아니라, 모델의 학습 진행 상황(검증 손실 정체)을 관찰하며 동적으로 학습률을 조정하는 적응적 방식을 보여줍니다.
강화학습처럼 학습 과정이 불안정해지기 쉬운 영역에서는 학습률 스케줄링이 단순한 성능 최적화를 넘어 학습 자체의 안정성을 지키기 위한 장치로도 쓰인다는 점을 보여줍니다.
조금 더 깊게 보면
학습률 스케줄에는 워밍업 후 코사인 곡선을 따라 감소시키는 코사인 감쇠(cosine decay), 정해진 스텝마다 일정 비율로 낮추는 단계적 감소(step decay), 검증 지표 정체 시 학습률을 낮추는 플래토(plateau) 기반 방식 등이 있으며, 최근 대규모 언어모델 학습에서는 코사인 감쇠와 선형 워밍업을 함께 쓰는 조합이 널리 채택되는 편입니다. 이러한 스케줄은 아담(Adam) 같은 적응적 옵티마이저와 함께 쓰이는 경우가 많은데, 옵티마이저 자체도 파라미터별로 학습률을 조정하기 때문에 전역 학습률 스케줄과 옵티마이저의 상호작용을 함께 고려해야 합니다.
주의할 점
스케줄 방식과 관련 하이퍼파라미터(워밍업 길이, 최소 학습률 등)에 따라 최종 성능이 크게 달라질 수 있어 이를 명확히 보고해야 재현이 가능하다.