양자내성암호는 왜 필요할까? 양자컴퓨터 시대의 보안은 어떻게 달라질까

소프트웨어 개요

출처: IBM Research / IBM Quantum:IBM Quantum System One은 실제 연구에 활용되는 양자컴퓨터 시스템입니다. 사진 속 장비는 렌셀러 폴리테크닉대학교(RPI)에 설치된 시스템으로, 양자컴퓨터가 연구실 수준을 넘어 실제 연구·교육 환경에 도입되고 있음을 보여줍니다.

양자컴퓨터 이야기가 나올 때마다 빠지지 않고 등장하는 것이 보안 문제입니다.

지금 우리가 인터넷뱅킹을 이용하고 온라인 쇼핑을 하거나 이메일을 주고받을 수 있는 이유는 암호화 기술이 데이터를 보호하고 있기 때문입니다.

그런데 충분히 강력한 양자컴퓨터가 등장하면 현재 널리 사용되는 RSA나 ECC 같은 공개키 암호 방식이 지금처럼 안전하지 않을 수 있습니다.

그래서 등장한 기술이 양자내성암호입니다.

양자내성암호는 특정 프로그램이나 애플리케이션의 이름이 아닙니다. 영어로는 Post-Quantum Cryptography, 줄여서 PQC라고 부르며 미래의 양자컴퓨터 공격에도 견딜 수 있도록 설계된 새로운 암호 기술을 뜻합니다.

쉽게 말하면 지금의 자물쇠가 미래의 새로운 도구로 쉽게 열릴 가능성이 생기자 아예 새로운 방식의 자물쇠를 준비하는 것입니다.

기본 정보

양자내성암호의 핵심 목적은 기존 컴퓨터뿐 아니라 미래의 양자컴퓨터를 이용한 공격에도 중요한 데이터를 안전하게 보호하는 것입니다.

현재 인터넷에서 널리 사용되는 RSA는 큰 수를 소인수분해하기 어렵다는 점을 이용하고, ECC는 타원곡선과 관련된 수학 문제의 어려움을 이용합니다.

문제는 양자컴퓨터에서 사용할 수 있는 쇼어 알고리즘입니다.

1994년 피터 쇼어가 발표한 이 알고리즘은 충분히 강력하고 오류 보정이 가능한 양자컴퓨터가 만들어질 경우 RSA와 ECC의 기반이 되는 특정 수학 문제를 기존 컴퓨터보다 훨씬 효율적으로 해결할 가능성을 보여줬습니다.

그렇다고 지금 사용하는 암호가 당장 무너지는 것은 아닙니다.

현재의 양자컴퓨터는 인터넷에서 사용되는 대규모 공개키 암호를 실제로 깨뜨릴 정도의 성능에는 도달하지 못했습니다.

하지만 보안 시스템을 하루아침에 교체할 수 없기 때문에 문제가 현실화되기 전에 새로운 암호 체계를 준비하는 것입니다.

미국 국립표준기술연구소 NIST는 2024년 첫 양자내성암호 표준을 최종 확정했습니다. 대표적으로 ML-KEM, ML-DSA, SLH-DSA가 포함됩니다.

이제 양자내성암호는 단순한 연구 아이디어를 넘어 실제 시스템에 적용하기 위한 단계로 넘어가고 있습니다.

성능 정보

양자내성암호는 기존 암호보다 무조건 빠른 기술은 아닙니다.

오히려 알고리즘에 따라 공개키나 전자서명의 크기가 커지고 처리해야 할 데이터량이 늘어날 수 있습니다.

예를 들어 우리가 인터넷에 접속할 때 몇 초 정도의 차이는 거의 느끼지 못하지만, 수백만 명이 동시에 접속하는 금융기관이나 대형 클라우드 서비스에서는 작은 차이도 전체 시스템 성능에 영향을 줄 수 있습니다.

그래서 양자내성암호를 평가할 때는 단순히 암호가 강하다는 것만 봐서는 안 됩니다.

암호화와 복호화 속도, 키 크기, 전자서명 크기, 서버의 처리 부담, 기존 시스템과의 호환성을 함께 살펴봐야 합니다.

NIST가 표준으로 채택한 ML-KEM은 안전한 통신을 시작하기 위한 키를 공유하는 데 사용되고, ML-DSA와 SLH-DSA는 전자서명과 데이터 검증에 사용됩니다.

하나의 양자내성암호가 모든 역할을 하는 것이 아니라 용도에 따라 서로 다른 알고리즘이 사용되는 것입니다.

다운로드 및 설치 방법

양자내성암호는 일반 프로그램처럼 파일을 다운로드한 뒤 설치해서 사용하는 방식이 아닙니다.

이 부분은 처음 접하는 사람이 가장 헷갈리기 쉬운 부분입니다.

일반 사용자는 별도로 ‘양자내성암호 프로그램’을 설치할 필요가 없습니다.

앞으로 웹 브라우저와 운영체제, 금융 서비스, 클라우드, 기업 서버, 네트워크 장비 등에 양자내성암호 기술이 적용되면 사용자는 평소와 거의 같은 방식으로 서비스를 이용하게 됩니다.

예를 들어 온라인 쇼핑몰에서 결제한다고 가정해 보겠습니다.

우리는 주소를 입력하고 결제 버튼을 누르는 것뿐이지만 뒤에서는 브라우저와 서버 사이에 암호화된 통신이 이루어집니다.

앞으로 이 과정에서 기존 공개키 암호 대신 양자내성암호가 적용되는 방식입니다.

개인이 할 일은 운영체제와 브라우저를 최신 버전으로 유지하고 보안 업데이트를 꾸준히 적용하는 정도면 충분합니다.

반면 기업은 서버, VPN, 인증서, 네트워크 장비와 애플리케이션 가운데 어디에서 기존 RSA나 ECC를 사용하는지 먼저 파악해야 합니다.

양자내성암호 전환이 생각보다 오래 걸리는 이유도 바로 여기에 있습니다.

주요 특징

양자내성암호의 가장 큰 특징은 양자컴퓨터가 없어도 사용할 수 있다는 것입니다.

이름 때문에 양자컴퓨터에서만 작동한다고 생각하기 쉽지만 실제로는 지금 사용하는 일반 컴퓨터와 서버에서도 적용할 수 있습니다.

또한 기존 RSA나 ECC와 다른 종류의 수학 문제를 보안의 기반으로 사용합니다.

대표적으로 격자 기반 암호와 해시 기반 암호 등이 있습니다.

이 기술이 벌써 필요한 또 다른 이유는 ‘지금 수집하고 나중에 해독하는 공격’ 때문입니다.

공격자가 현재 암호화된 자료를 훔쳐 저장해 두었다가 몇 년 뒤 강력한 양자컴퓨터가 등장했을 때 다시 해독을 시도하는 방식입니다.

오늘 보낸 평범한 메시지가 10년 뒤 공개되는 것은 큰 문제가 아닐 수도 있습니다.

하지만 의료 기록이나 금융 정보, 국방 자료처럼 10년이나 20년 뒤에도 보호해야 하는 데이터라면 이야기가 달라집니다.

그래서 장기간 비밀을 유지해야 하는 기관들은 양자컴퓨터가 완성된 이후가 아니라 지금부터 준비해야 합니다.

사용자 평가 및 후기

양자내성암호는 일반 소비자가 직접 구매해서 사용 후기를 남기는 제품이 아니기 때문에 일반적인 별점이나 상품 리뷰 방식으로 평가하기는 어렵습니다.

대신 보안 업계에서는 얼마나 안전하고 효율적으로 기존 암호 체계를 대체할 수 있는지가 중요한 평가 기준입니다.

특히 NIST가 여러 해 동안 후보 알고리즘을 검토하고 표준을 확정했다는 점은 실제 적용 과정에서 중요한 기준이 됐습니다.

다만 표준이 만들어졌다고 해서 모든 문제가 끝난 것은 아닙니다.

전 세계의 서버, 금융 시스템, 스마트폰, 클라우드와 네트워크 장비를 한꺼번에 새로운 암호 방식으로 바꿀 수 없기 때문입니다.

결국 앞으로의 핵심은 새로운 암호 알고리즘 자체보다 기존 인터넷 환경을 얼마나 안전하게 양자내성암호로 전환할 수 있느냐에 있습니다.

장단점 분석

양자내성암호는 미래의 보안 문제를 해결할 중요한 기술이지만 장점만 있는 것은 아닙니다.

새로운 암호 체계를 실제 시스템에 적용하려면 기존 장비와 소프트웨어의 호환성을 확인하고 충분한 테스트도 필요합니다.

그래서 양자내성암호는 단순히 새로운 암호 하나를 추가하는 문제가 아니라 인터넷 보안 인프라 전체가 바뀌는 과정에 가깝습니다.

장점

가장 큰 장점은 미래의 양자컴퓨터 공격에 대비할 수 있다는 것입니다.

또한 새로운 양자 장비가 없어도 현재의 컴퓨터와 서버에서 사용할 수 있기 때문에 실제 인터넷 환경에 적용할 수 있습니다.

국제 표준도 마련되기 시작하면서 기업과 정부기관이 어떤 기술을 기준으로 전환을 준비해야 하는지도 이전보다 명확해졌습니다.

특히 금융, 의료, 국방처럼 장기간 데이터를 보호해야 하는 분야에서는 미리 준비할 수 있다는 점이 중요합니다.

단점

새로운 암호 방식으로 바꾸는 과정은 생각보다 복잡합니다.

알고리즘에 따라 기존 암호보다 키나 전자서명의 데이터 크기가 커질 수 있고 시스템에 추가적인 처리 부담이 생길 수도 있습니다.

오래된 서버나 네트워크 장비가 새로운 알고리즘을 지원하지 않는 문제도 발생할 수 있습니다.

무엇보다 세계의 수많은 시스템을 한 번에 교체할 수 없기 때문에 기존 암호와 양자내성암호를 일정 기간 함께 사용하면서 단계적으로 전환해야 합니다.

양자컴퓨터가 언제 현재의 암호 체계를 실제로 위협할 정도로 발전할지는 아직 정확하게 알 수 없습니다.

하지만 한 가지는 분명합니다.

양자컴퓨터가 충분히 강력해진 다음 보안을 바꾸기 시작하면 늦을 수 있다는 것입니다.

그래서 양자내성암호는 미래의 이야기가 아니라 이미 시작된 보안 변화입니다.

지금 당장 우리의 비밀번호가 모두 사라지는 것은 아니지만 인터넷과 금융, 클라우드에서 데이터를 보호하는 방식은 앞으로 조금씩 달라질 가능성이 큽니다.

결국 양자컴퓨터 시대의 핵심은 “암호가 모두 깨질까?”라는 두려움보다 “깨지기 전에 무엇으로 바꿀 것인가?”에 있습니다.

그리고 그 답으로 가장 먼저 준비되고 있는 기술이 바로 양자내성암호입니다.