메타러닝 (Meta-Learning)
쉽게 풀면
일반적인 머신러닝은 많은 데이터를 넣고 하나의 특정 과제(예: 고양이와 개 구분하기)를 잘하도록 모델을 학습시킵니다. 반면 메타러닝은 "여러 개의 다른 과제들"을 연달아 경험시키면서, 그 과정에서 공통으로 통하는 "효율적으로 배우는 요령" 자체를 모델에 익히게 합니다. 사람으로 치면 새로운 외국어를 배울 때, 이미 여러 언어를 배워본 경험이 있으면 새 언어도 더 빨리 습득하는 것과 비슷합니다. 이렇게 학습된 메타러닝 모델은 처음 보는 새로운 작업이 주어져도 아주 적은 수의 예시(few-shot)만으로 빠르게 적응할 수 있습니다.
왜 중요한가
충분한 라벨 데이터를 확보하기 어려운 실제 문제가 많기 때문에, 적은 예시만으로 빠르게 새로운 작업에 적응하는 능력은 로보틱스, 개인화 추천, 의료 영상처럼 데이터가 희소한 응용 분야에서 특히 중요하게 다뤄집니다. 또한 메타러닝은 모델 스스로 학습 방식을 조정하게 만든다는 점에서, 더 범용적이고 적응력 있는 인공지능 시스템을 만들고자 하는 연구 흐름과 밀접하게 연결됩니다.
논문에서는 이렇게 쓰입니다
이 문장은 "여러 작업을 통해 미리 학습을 학습해 둔 모델이, 처음 보는 새 작업에서도 아주 적은 데이터만으로 빠르게 성능을 낼 수 있었다"는 뜻입니다.
로보틱스 연구에서는 매번 새로운 물체나 환경마다 처음부터 다시 학습시키기 어렵기 때문에, 여러 상황을 미리 경험한 메타러닝 모델이 새로운 상황에도 빠르게 적응하는 능력을 검증하는 방식으로 활용된다.
의료 영상 분야에서는 특정 질환의 데이터가 충분하지 않은 경우가 흔하기 때문에, 여러 질환에 걸쳐 미리 학습해둔 메타러닝 모델을 활용해 데이터 부족 문제를 완화하는 방향으로 연구가 이루어진다.
조금 더 깊게 보면
메타러닝 방법은 크게 초기 파라미터를 새로운 작업에 맞게 몇 단계만 미세조정해도 빠르게 적응하도록 학습하는 최적화 기반 방식(MAML이 대표적), 새로운 예시와 기존 예시를 비교해 유사도를 판단하는 메트릭 기반 방식, 그리고 작업 정보를 입력받아 즉시 대응하는 모델 기반 방식으로 구분되어 논의됩니다. 학습 과정에서는 전체 데이터를 여러 개의 작은 "작업(task)" 단위로 나누어, 각 작업마다 소수의 학습 예시(support set)와 평가 예시(query set)를 구성해 반복적으로 학습시키는 에피소드 학습(episodic training) 방식이 일반적으로 쓰입니다.
주의할 점
메타러닝은 전이학습이나 퓨샷 러닝과 목표가 비슷해 보이지만, 메타러닝은 처음부터 "다양한 작업에 빠르게 적응하는 능력"을 학습 목표로 명시적으로 설계한다는 점에서 차이가 있습니다. 또한 메타러닝 방법의 성능은 학습에 사용한 작업들의 다양성에 크게 좌우되므로, 논문에서 어떤 작업 분포로 메타학습을 진행했는지 확인해야 합니다.