거리공간 (metric space)
쉽게 풀면
우리는 평소 두 지점 사이의 거리를 자로 재듯이 당연하게 생각하지만, 수학에서는 "거리"라고 부르려면 몇 가지 상식적인 규칙을 반드시 지켜야 합니다. 자기 자신까지의 거리는 0이어야 하고, A에서 B까지의 거리와 B에서 A까지의 거리는 같아야 하며, A에서 C로 곧장 가는 것이 A에서 B를 거쳐 C로 가는 것보다 멀 수 없어야 합니다(삼각부등식). 이 규칙들을 만족하는 "거리 재는 방법(거리함수)"이 정의된 집합을 거리공간이라고 부릅니다. 흥미로운 점은 이 규칙만 지킨다면 자로 재는 직선거리뿐 아니라, 문서 사이의 유사도나 두 함수 사이의 차이처럼 전혀 다른 대상에도 "거리"라는 개념을 적용할 수 있다는 것입니다.
왜 중요한가
거리공간은 수렴, 연속, 완비성 같은 해석학의 핵심 개념을 실수 범위를 넘어 함수공간이나 확률분포, 임베딩 벡터 공간처럼 훨씬 추상적인 대상에도 동일한 논리로 적용할 수 있게 해주는 기반입니다. 그 덕분에 순수수학뿐 아니라 기계학습, 최적화, 위상수학 전반에서 "가깝다/수렴한다"는 개념을 엄밀하게 다루는 공통 언어로 쓰이며, 새로운 유사도 척도를 제안하는 논문에서는 그것이 거리공간의 조건을 만족하는지부터 검토하는 경우가 많습니다.
논문에서는 이렇게 쓰입니다
이 문장은 데이터를 벡터로 표현한 뒤, 그 벡터들 사이의 "가까움"을 어떤 방식으로 잴 것인지(어떤 거리함수를 쓸 것인지)를 명시적으로 정했다는 뜻입니다. 자연어처리나 추천시스템처럼 데이터 간 유사도 비교가 핵심인 논문에서 거리공간의 개념이 바탕에 깔려 있습니다.
생성모델 연구에서는 확률분포들의 집합 자체를 거리공간으로 보고, 그 위에서 정의되는 거리(예: 바서슈타인 거리)를 최적화 목표로 삼는 경우가 흔합니다.
해석학·수치해석 논문에서는 함수들의 모임에 거리를 부여하여 근사해가 참해로 수렴하는지를 엄밀하게 논증하는 데 거리공간 개념이 사용됩니다.
조금 더 깊게 보면
거리공간에서 모든 코시수열이 그 공간 안의 점으로 수렴하면 완비거리공간이라 부르며, 이는 반복 알고리즘의 수렴성을 보장하는 바나흐 고정점 정리 등의 전제 조건이 됩니다. 또한 같은 집합이라도 어떤 거리함수를 선택하느냐(유클리드 거리, 맨해튼 거리, 코사인 거리 등)에 따라 "가깝다"는 판단이 달라질 수 있으므로, 논문에서는 어떤 거리를 사용했는지와 그 선택의 타당성을 함께 밝히는 것이 중요합니다.
주의할 점
"거리"라고 부르는 모든 척도가 거리공간의 조건을 만족하는 것은 아닙니다. 예를 들어 어떤 유사도 지표는 삼각부등식을 만족하지 않을 수 있는데, 이 경우 엄밀히는 거리함수가 아니므로 벡터의 노름이나 다른 척도와 혼동하지 않도록 주의해야 합니다. 거리공간은 함수의 극한과 연속 개념을 실수 범위를 넘어 훨씬 일반적인 공간으로 확장하는 토대가 됩니다.