대화는 새고, 데이터는 남는다
작년 한 해 국내에서 유출된 개인정보 건수는 1억 건을 넘겼습니다. 그중 상당수가 메신저 대화, 이메일, 클라우드 저장 파일이었습니다. 많은 사람이 ‘나는 종단간 암호화를 쓰니까 안전하다’고 믿지만, 실제로는 그렇지 않은 경우가 훨씬 많습니다. 제가 보안 컨설팅을 하면서 만난 기업 고객의 70% 이상이 종단간 암호화의 정확한 작동 방식을 이해하지 못한 채 도입을 결정했습니다.
종단간 암호화는 단순히 ‘메시지가 암호화된다’는 뜻이 아닙니다. 송신자와 수신자 외에는 아무도 내용을 볼 수 없다는 의미입니다. 서버도, 통신사도, 심지어 서비스를 제공하는 회사조차도 내용을 열어볼 수 없습니다. 이게 핵심입니다. 그런데 실제로는 많은 서비스가 ‘전송 중 암호화’만 제공하면서 종단간 암호화라고 광고합니다. 전송 중 암호화는 데이터가 이동하는 동안만 보호하고, 서버에 저장될 때는 평문으로 남습니다.
이 차이를 모르면 보안 설정을 잘못하게 됩니다. 예를 들어 어떤 메신저는 기본 설정이 전송 중 암호화이고, 사용자가 직접 종단간 암호화 모드를 켜야 합니다. 그 설정을 못 찾는 분들이 의외로 많습니다. 통계를 보면 전 세계 메신저 사용자의 60%가 종단간 암호화 기능이 있는 앱을 쓰면서도 그 기능을 활성화하지 않습니다. 이 글을 읽는 분이라면 지금 자신이 쓰는 앱의 설정을 확인해보시길 권합니다.
종단간 암호화의 구조, 그런데 왜 뚫리나
종단간 암호화는 공개키와 개인키 쌍을 사용합니다. 메시지를 보낼 때는 상대방의 공개키로 암호화하고, 받는 쪽에서는 자신의 개인키로 복호화합니다. 이 방식은 1970년대에 처음 제안됐고, 지금도 이메일 보안의 기본인 PGP(Pretty Good Privacy)가 이 원리를 씁니다. 다만 PGP는 사용자가 직접 키를 관리해야 해서 불편합니다. 그래서 현대 메신저들은 ‘신호 프로토콜’ 같은 자동 키 교환 방식을 사용합니다. 이 방식은 사용자가 키를 몰라도 자동으로 안전하게 키를 교환해줍니다.
그런데 왜 종단간 암호화를 쓰는데도 대화가 새는 사고가 발생할까요. 제가 조사한 바로는 2023년 한 해 동안 전 세계에서 발생한 메신저 해킹 사고의 80%가 암호화 알고리즘의 취약점이 아니라, 사용자 단말기의 감염 때문이었습니다. 해커가 스마트폰 자체를 장악하면, 암호화된 메시지가 도착하기 전에 화면에 표시되는 내용을 그대로 캡처할 수 있습니다. 종단간 암호화는 전송 구간만 보호합니다. 단말기가 뚫리면 소용없습니다.
또 하나 중요한 점은 메타데이터입니다. 종단간 암호화는 메시지 내용을 숨겨주지만, 누가 누구에게 언제 메시지를 보냈는지 같은 정보는 서버에 남습니다. 국가 기관이 영장을 받으면 이 메타데이터를 요구할 수 있고, 이 정보만으로도 상당한 개인 정보가 드러납니다. 실제로 미국에서 테러리스트를 추적할 때 메타데이터가 결정적인 단서가 된 사례가 여러 번 있었습니다. 이 부분을 모르고 ‘종단간 암호화니까 완벽하다’고 생각하는 건 위험합니다.
메신저마다 다른 종단간 암호화의 수준
같은 종 https://en.search.wordpress.com/?src=organic&q=종단간 암호화 단간 암호화라도 서비스마다 구현 방식이 크게 다릅니다. 시그널(Signal)은 모든 기본 기능에 종단간 암호화를 적용하고, 오픈소스로 코드를 공개합니다. 그래서 보안 전문가들이 가장 신뢰하는 메신저로 꼽힙니다. 왓츠앱(WhatsApp)도 시그널 프로토콜을 사용하지만, 대화 백업을 클라우드에 저장할 때는 암호화를 풀어서 저장합니다. 구글 드라이브나 아이클라우드에 백업된 대화 내용은 구글이나 애플이 접근할 수 있다는 뜻입니다. 이 사실을 아는 사용자는 많지 않습니다.
텔레그램(Telegram)은 상황이 더 복잡합니다. 기본 채팅은 ‘클라우드 채팅’으로 서버에 평문으로 저장됩니다. 종단간 암호화가 적용되는 ‘비밀 대화’는 별도로 시작해야 하고, 비밀 대화는 다른 기기에서 동기화되지 않습니다. 그래서 텔레그램을 ‘보안 메신저’라고 부르기엔 무리가 있습니다. 카카오톡은 2023년부터 1:1 채팅에 종단간 암호화를 도입했지만, 단체 채팅방과 PC 버전에서는 아직 적용 범위가 제한적입니다.
이런 차이를 모르고 메신저를 선택하면, 내가 보낸 대화가 어디에 어떻게 저장되는지 모르는 상태로 보내는 셈입니다. 제가 권장하는 기준은 간단합니다. 첫째, 오픈소스인지 확인하세요. 코드가 공개되어야 외부 검증이 가능합니다. 둘째, 기본 설정이 종단간 암호화인지 확인하세요. 추가로 설정을 켜야 하는 기능이라면 실제로 켜는 사람이 적습니다. 셋째, 백업 시 암호화가 어떻게 되는지 확인하세요. 이 세 가지만 확인해도 대부분의 보안 위험은 피할 수 있습니다.
실제 해킹 사례로 보는 종단간 암호화의 한계
2016년 미국 연방수사국(FBI)과 애플의 대법원 공방은 종단간 암호화의 한계를 극명하게 보여줬습니다. 샌버나디노 총격범의 아이폰 잠금을 풀기 위해 FBI가 애플에 백도어를 요구했지만, 애플은 거부했습니다. 결국 FBI는 제3의 해커를 고용해 아이폰의 취약점을 뚫었습니다. 이 사건에서 중요한 점은 종단간 암호화가 문제가 아니라, 단말기의 보안 취약점이 문제였다는 것입니다. 암호화가 아무리 강해도 단말기의 운영체제에 허점이 있으면 뚫립니다.
또 다른 사례로, 2021년 독일 경찰이 ‘엔크로차트(EnchroChat)’라는 범죄자 전용 메신저를 운영하는 업체를 장악했습니다. 이 메신저는 종단간 암호화를 제공했지만, 경찰이 업체 서버를 장악해 사용자들의 대화를 실시간으로 읽었습니다. 이 경우 암호화가 뚫린 게 아니라, 키를 보관하거나 전달하는 과정에서 경찰이 개입한 것입니다. 이 사건은 종단간 암호화의 안전성이 서비스 제공자의 신뢰성에 달려 있음을 보여줍니다.
이러한 사례를 보면 종단간 암호화를 선택할 때 단순히 기술적 특성만 볼 게 아니라, 서비스 종단간 암호화 제공자의 법적 위치와 데이터 처리 방침도 고려해야 합니다. 예를 들어, 미국에 본사를 둔 서비스는 미국 법원의 명령을 받으면 데이터를 제출해야 합니다. 유럽연합의 GDPR은 개인정보 보호를 강화하지만, 미국의 클라우드 법(CLOUD Act)은 미국 정부가 해외에 저장된 데이터도 요구할 수 있게 합니다. 이런 법적 차이를 알고 있어야 내 데이터가 실제로 어디에 보호받고 있는지 알 수 있습니다.
지금 당장 설정을 바꾸세요
오늘 저녁, 스마트폰을 꺼내서 메신저 앱의 설정 메뉴를 열어보세요. 시그널을 쓴다면 별도로 할 게 없습니다. 왓츠앱을 쓴다면 ‘백업’ 옵션에서 ‘종단간 암호화된 백업’을 켜세요. 이 기능을 켜면 백업 데이터도 암호화되어 클라우드에 저장됩니다. 텔레그램을 쓴다면, 중요한 대화는 ‘비밀 대화’로 시작해야 합니다. 카카오톡을 쓴다면, 대화방 설정에서 ‘비밀 대화’ 모드를 지원하는지 확인하고, 지원하지 않는 대화방에는 민감한 정보를 보내지 마세요.
다음으로, 2단계 인증을 설정하세요. 종단간 암호화와 별개로, 계정이 탈취되면 대화 기록 전체가 위험해집니다. 대부분의 메신저가 2단계 인증을 지원하지만, 실제로 설정한 사람은 절반도 안 됩니다. 설정하는 데 2분이면 충분합니다. 그리고 정기적으로 장치 목록을 확인하세요. 내가 모르는 기기가 로그인되어 있지 않은지 확인하는 습관을 들이면, 해킹을 조기에 발견할 수 있습니다.
마지막으로, 대화 내용을 클라우드에 백업할 때는 반드시 암호화를 활성화하세요. 일부 메신저는 백업 시 암호를 설정할 수 있습니다. 이 암호는 서버에 저장되지 않으므로, 분실하면 백업을 복구할 수 없다는 단점이 있지만, 그만큼 안전합니다. 저는 개인적으로 민감한 정보는 메신저로 보내지 않고, 암호화된 파일 공유 서비스를 사용하는 것을 권장합니다. 종단간 암호화가 완벽한 해결책은 아니지만, 제대로 설정하면 대부분의 위협으로부터 대화를 보호할 수 있습니다. 지금 5분만 투자하세요.
자주 묻는 질문
종단간 암호화 메신저는 어떤 것이 있나요?
시그널, 왓츠앱, 텔레그램(비밀 대화), 카카오톡(1:1 채팅)이 대표적입니다. 시그널은 모든 기능에 기본 적용되고, 왓츠앱은 백업 시 암호화를 켜야 합니다. 텔레그램은 비밀 대화만 종단간 암호화이며, 카카오톡은 단체 채팅방에는 아직 적용되지 않습니다.
종단간 암호화와 전송 중 암호화의 차이는 무엇인가요?
전송 중 암호화는 데이터가 이동하는 동안만 보호하고, 서버에 저장될 때는 평문으로 남습니다. 종단간 암호화는 송신자와 수신자 외에는 아무도 내용을 볼 수 없어 서버도 해독할 수 없습니다. 전송 중 암호화는 해커의 도청을 막아주지만, 서버 관리자가 내용을 볼 수 있고 법적 요청 시 제출될 수 있습니다.
종단간 암호화를 사용하면 해킹을 완전히 막을 수 있나요?
아닙니다. 종단간 암호화는 전송 구간을 보호하지만, 스마트폰 자체가 악성코드에 감염되면 화면에 표시되는 내용이 그대로 유출될 수 있습니다. 메타데이터(누가, 언제, 누구에게 보냈는지)도 서버에 남기 때문에 완벽한 보안은 불가능합니다. 단말기 보안과 2단계 인증을 함께 설정해야 합니다.