공개키 암호화 (Public-key Cryptography)

한 줄 정의: 서로 다른 두 개의 키(공개키와 개인키)를 한 쌍으로 사용하여, 공개키로 암호화한 내용은 오직 짝을 이루는 개인키로만 복호화할 수 있게 하는 암호화 방식입니다.

쉽게 풀면

누구나 편지를 넣을 수 있지만, 열쇠를 가진 사람만 열어볼 수 있는 우편함을 떠올려봅시다. 우편함 투입구(공개키)는 동네 사람 모두에게 공개해도 상관없습니다. 누구든 그 투입구에 편지를 넣을 수 있지만, 우편함을 열어 내용을 꺼낼 수 있는 열쇠(개인키)는 우편함 주인만 가지고 있기 때문입니다. 공개키 암호화도 이와 같은 원리입니다. 공개키는 모두에게 공개해도 안전하며, 그 공개키로 암호화된 정보는 짝을 이루는 개인키를 가진 사람만 복호화할 수 있습니다. 이 방식 덕분에 사전에 비밀키를 안전하게 나눠 가질 방법이 없던 두 낯선 상대끼리도 인터넷을 통해 안전하게 정보를 주고받을 수 있게 됩니다.

왜 중요한가

공개키 암호화는 인터넷 보안의 근간을 이루는 기술로, 안전한 통신뿐 아니라 신원 인증, 전자서명, 블록체인의 지갑 주소 생성 등 폭넓은 응용의 이론적 토대가 됩니다. 그래서 정보보호학, 분산시스템, 네트워크 프로토콜을 다루는 논문에서 새로운 보안 기법을 제안할 때 흔히 비교 기준이나 기반 기술로 인용되며, 양자컴퓨터 발전에 따른 암호체계의 미래를 논의할 때도 핵심적으로 다뤄집니다.

논문에서는 이렇게 쓰입니다

"서버와 클라이언트 간 최초 키 교환 과정에서 RSA 기반 공개키 암호화 방식을 적용하였다."

이 문장은 네트워크 보안이나 시스템 설계를 다루는 논문의 방법론에서 흔히 등장합니다. 공개키 암호화는 TLS/SSL 같은 인터넷 통신 보안 프로토콜의 기초가 되며, 인증, 키 교환, 전자서명 등 다양한 보안 응용의 이론적 배경으로 인용됩니다.

"제안된 전자투표 시스템은 공개키 암호화(public-key cryptography)를 이용한 전자서명 기반으로 투표자의 신원을 검증하면서도 투표 내용의 익명성을 보장하도록 설계되었다."

전자투표나 전자정부 시스템을 다루는 논문에서는 신원 검증과 프라이버시 보호를 동시에 달성하는 수단으로 공개키 기반 서명 기법을 활용합니다.

"양자컴퓨터의 등장으로 기존 공개키 암호화(public-key cryptography) 체계의 안전성이 위협받음에 따라, 본 논문은 격자 기반 양자내성암호(post-quantum cryptography) 대안을 검토하였다."

암호학 최신 연구에서는 기존 공개키 암호 방식이 미래의 양자컴퓨터 앞에서 취약해질 수 있다는 문제의식에서 출발하는 논의가 늘고 있습니다.

조금 더 깊게 보면

공개키 암호화의 안전성은 큰 수의 소인수분해나 이산로그 문제처럼 계산적으로 풀기 매우 어려운 수학 문제에 기반합니다. RSA 외에도 타원곡선 암호(ECC)는 더 짧은 키 길이로 비슷한 안전성을 제공해 모바일 환경 등에서 널리 쓰입니다. 최근에는 이러한 기존 방식이 양자컴퓨터 알고리즘(쇼어 알고리즘 등) 앞에서 취약해질 수 있다는 우려로, 양자컴퓨터로도 풀기 어려운 수학적 문제에 기반한 양자내성암호 연구가 활발히 진행되고 있습니다.

주의할 점

공개키 암호화는 대칭키 암호화보다 연산량이 훨씬 많아 속도가 느리다는 단점이 있습니다. 그래서 실제 서비스에서는 공개키 암호화로 통신 초반에 안전하게 대칭키를 교환한 뒤, 이후의 대량 데이터 통신은 더 빠른 암호화로 처리하는 하이브리드 방식을 흔히 사용합니다.