리턴지향프로그래밍(ROP) (Return-Oriented Programming)
쉽게 풀면
집에 새 가구를 들여오지 않고, 이미 집 안에 있는 물건들만 재배치해서 원하는 구조를 만드는 상황을 떠올려 보세요. ROP도 비슷합니다. 공격자는 새로운 악성 코드를 심는 대신, 프로그램 메모리 안에 이미 있는 짧은 코드 조각들을 순서대로 실행되도록 스택의 반환 주소를 조작합니다. 각 조각은 'gadget(가젯)'이라 불리며, 마지막에 ret 명령으로 끝나 다음 가젯으로 자연스럽게 이어집니다. 이렇게 여러 가젯을 이어 붙이면 마치 새로운 프로그램을 짠 것과 같은 효과를 냅니다.
왜 중요한가
DEP(데이터실행방지) 같은 방어 기법이 등장하면서 스택에 직접 악성 코드를 심어 실행하는 방식이 막히자, 공격자들은 기존 코드만 재활용하는 ROP로 이를 우회하기 시작했습니다. 이 때문에 시스템 보안 연구에서 ROP는 실행 방지 기법의 한계를 보여주는 대표 사례로 다뤄지며, 이를 막기 위한 CFI 같은 후속 방어 기법 연구의 출발점이 됩니다.
논문에서는 이렇게 쓰입니다
DEP만으로는 ROP 공격을 막을 수 없다는 것을 실험으로 보여준 문장입니다.
ROP를 막기 위한 방어 기술의 동작 원리를 설명하는 문장입니다.
조금 더 깊게 보면
ROP 가젯은 보통 프로그램이나 라이브러리에 이미 존재하는 명령어 시퀀스에서, 임의의 바이트 위치를 명령어 경계로 재해석하여 찾아냅니다. 공격자는 스택에 여러 가젯의 주소를 순서대로 쌓아 두어 하나의 가젯 실행이 끝나면 다음 가젯으로 제어가 넘어가도록 설계합니다. ROP는 x86뿐 아니라 ARM 등 다른 아키텍처에서도 변형된 형태(JOP, COP 등)로 연구되고 있습니다.
주의할 점
ROP는 특정 취약점의 이름이 아니라 취약점을 악용하는 공격 기법이라는 점에 유의해야 합니다. 즉 버퍼 오버플로우 같은 원인 취약점이 먼저 존재해야 ROP를 통한 공격이 가능합니다.