안티앨리어싱 (Anti-aliasing)

컴퓨터과학·AI

한 줄 정의: 화면이 네모난 픽셀들로 이루어져 있어서 대각선이나 곡선의 경계가 계단처럼 울퉁불퉁하게 보이는 현상(에일리어싱)을, 경계 부분의 색을 주변 색과 섞어 부드럽게 보이도록 처리하는 렌더링 기법입니다.

쉽게 풀면

사각형 타일만으로 둥근 원 모양의 모자이크를 만든다고 생각해봅시다. 타일이 네모나기 때문에 원의 가장자리는 아무리 잘 만들어도 계단처럼 삐죽삐죽하게 보일 수밖에 없습니다. 안티앨리어싱은 이 경계에 있는 타일에 순수한 색 대신, 배경색과 원래 색을 적절한 비율로 섞은 중간색을 칠하는 것과 비슷합니다. 가까이서 보면 여전히 타일이지만, 멀리서 보면 경계가 흐릿하게 번져 보여서 원이 훨씬 매끄러운 곡선처럼 느껴집니다. 컴퓨터 화면의 픽셀도 이 원리를 그대로 이용해 계단현상을 눈에 덜 띄게 만듭니다.

왜 중요한가

안티앨리어싱은 컴퓨터 그래픽스와 영상 처리 전반에서 결과물의 시각적 품질을 좌우하는 기초적인 렌더링 요소이기 때문에 논문에서 자주 다뤄집니다. 실시간 렌더링, 게임 엔진, 가상현실(VR) 디스플레이처럼 화질과 연산 속도를 동시에 요구하는 분야에서는 어떤 안티앨리어싱 기법을 쓰느냐가 결과물의 완성도와 하드웨어 부담을 동시에 결정합니다. 또한 최근에는 신경망을 이용해 실시간으로 계단현상을 제거하는 딥러닝 기반 업스케일링·렌더링 연구와도 밀접하게 연결되어 있어, 그래픽스뿐 아니라 컴퓨터 비전 분야에서도 관련 개념으로 언급됩니다.

논문에서는 이렇게 쓰입니다

"렌더링된 3차원 장면에서 발생하는 계단현상(jagged edge)을 줄이기 위해 4x MSAA(멀티샘플 안티앨리어싱)를 적용하였으며, 이는 래스터화(rasterization) 단계에서 픽셀당 여러 개의 샘플을 평균 처리하는 방식으로 구현되었다."

이 문장은 3차원 그래픽을 화면에 그리는 과정에서 각 픽셀마다 여러 지점을 추가로 계산해 평균을 내는 방식으로, 경계선의 계단현상을 부드럽게 만들었다는 뜻입니다.

"본 연구에서는 신경망 기반 초해상도(super-resolution) 네트워크의 출력 단계에 학습 기반 안티앨리어싱 필터를 결합하여, 저해상도 입력을 고해상도로 복원하는 과정에서 발생하는 경계 왜곡을 완화하였다."

딥러닝으로 저해상도 이미지를 고해상도로 키우는 과정에서도 경계선이 계단처럼 깨질 수 있는데, 이를 줄이기 위해 안티앨리어싱 개념을 학습 기반 필터에 응용했다는 뜻입니다.

"모바일 GPU 환경에서의 실시간 렌더링 성능을 확보하기 위해, 연산량이 큰 MSAA 대신 후처리(post-processing) 방식의 FXAA(고속 근사 안티앨리어싱)를 적용하여 프레임 저하 없이 경계 품질을 개선하였다."

연산 자원이 제한된 모바일 환경에서는 화면을 다 그린 뒤 이미지 전체에 필터를 씌우는 방식의 가벼운 안티앨리어싱 기법을 써서, 속도를 크게 희생하지 않으면서도 계단현상을 줄였다는 뜻입니다.

조금 더 깊게 보면

안티앨리어싱 기법은 크게 렌더링 과정 자체에서 여러 샘플을 계산해 평균 내는 방식(MSAA, SSAA 등 슈퍼샘플링 계열)과, 이미 그려진 이미지에 후처리 필터를 적용해 경계를 부드럽게 하는 방식(FXAA, TAA 등)으로 나뉩니다. 전자는 화질이 좋은 대신 연산 비용이 크고, 후자는 상대적으로 가볍지만 미세한 디테일이 흐려질 수 있어 논문마다 어떤 방식을 택했는지, 그리고 어떤 트레이드오프를 감수했는지를 함께 살펴보는 것이 중요합니다. 최근에는 시간축 정보를 함께 활용하는 TAA(시간적 안티앨리어싱)나, 신경망이 최적의 필터링을 학습하는 딥러닝 기반 기법도 논문에서 자주 등장하므로, 어떤 계열의 기법인지 구분해서 읽으면 이해가 쉽습니다.

주의할 점

안티앨리어싱은 계단현상을 시각적으로 덜 거슬리게 완화해 줄 뿐, 이미지의 실제 해상도나 정보량을 늘려주는 것은 아니다. 또한 픽셀마다 추가 계산이 필요하므로 래스터화나 레이 트레이싱 과정의 연산량과 렌더링 시간이 늘어난다는 점을 함께 고려해야 한다.