힐베르트 공간 (Hilbert Space)
쉽게 풀면
우리가 익숙한 3차원 공간에서는 두 점 사이의 거리를 재고, 두 화살표(벡터) 사이의 각도를 잴 수 있습니다. 힐베르트 공간은 이런 '거리 재기'와 '각도 재기'라는 개념을 3차원을 훌쩍 넘어 차원이 무한히 많은 세계, 예를 들어 함수들의 집합에까지 확장한 것입니다. 함수 하나하나를 마치 하나의 '점'처럼 다루면서, 두 함수가 얼마나 비슷한지(거리)나 서로 얼마나 관련 있는지(각도, 내적)를 계산할 수 있게 해줍니다. '완비되어 있다'는 것은 이 공간 안에서 점점 가까워지는 값들의 극한을 따라가도 그 끝이 항상 공간 밖으로 새어나가지 않고 안에 머문다는 뜻입니다.
왜 중요한가
힐베르트 공간은 양자역학의 상태 벡터, 신호처리의 함수 분해, 기계학습의 커널 방법 등 서로 다른 분야가 공통으로 의지하는 수학적 언어이기 때문에 중요합니다. 유한 차원의 직관(거리, 각도, 사영)을 무한 차원까지 그대로 확장할 수 있게 해주므로, 함수나 신호, 양자 상태처럼 무한한 자유도를 가진 대상을 엄밀하게 다룰 수 있는 틀을 제공합니다. 이 때문에 순수수학뿐 아니라 물리학, 공학, 데이터과학 논문에서도 이론적 기반으로 폭넓게 인용됩니다.
논문에서는 이렇게 쓰입니다
이 문장은 커널 방법을 사용하는 기계학습이나 함수해석 논문에서 자주 등장합니다. 원래 공간에서는 복잡하게 얽혀 있어 풀기 어려운 비선형 문제를, 함수들을 벡터처럼 다룰 수 있는 힐베르트 공간으로 옮기면 거리와 각도라는 익숙한 도구로 훨씬 쉽게 다룰 수 있다는 뜻입니다.
양자역학 논문에서 물리적 상태와 측정을 수학적으로 정식화할 때 표준적으로 쓰이는 표현입니다.
신호처리·응용수학 논문에서 함수를 급수 형태로 분해해 압축하거나 근사하는 기법을 설명할 때 등장합니다.
조금 더 깊게 보면
힐베르트 공간을 다루는 논문을 읽을 때는 '정규직교기저'(서로 수직이면서 크기가 1인 벡터들의 집합으로, 임의의 원소를 이 기저들의 조합으로 표현하게 해줌)와 '내적'(두 벡터의 유사도를 수치화하는 연산) 개념이 핵심입니다. 또한 재생 커널 힐베르트 공간처럼 특정 목적에 맞게 구성된 특수한 힐베르트 공간도 자주 등장하는데, 이는 커널 함수를 통해 원래는 계산하기 번거로운 고차원 특징 공간에서의 내적을 저차원에서 간접적으로 계산할 수 있게 해주는 구조입니다. 완비성 조건이 성립하지 않는 경우는 '내적공간'이라 구분해 부르며, 완비화(completion)라는 절차를 거쳐야 힐베르트 공간이 된다는 점도 종종 언급됩니다.
주의할 점
힐베르트 공간은 벡터 공간에 내적(각도와 길이를 재는 연산)과 완비성이라는 조건이 추가로 붙은 더 좁은 개념입니다. 즉 모든 벡터공간이 힐베르트 공간인 것은 아니며, 유한 차원 유클리드 공간처럼 익숙한 공간부터 무한 차원 함수 공간까지 폭넓게 포함하는 상위 개념이라는 점을 혼동하지 않아야 합니다.