VPN은 무엇인가｜암호화 터널의 동작과 연결 범위

집이나 출장지에서 사내 시스템에 접속하거나, 서로 떨어진 두 사무실이 같은 내부망처럼 통신해야 할 때가 있습니다. 이때 데이터는 조직이 직접 소유하지 않은 인터넷 구간을 지나갑니다. VPN은 그 공용 구간 위에 통신 당사자가 정한 보호 규칙을 적용한 경로를 만들고, 허용된 단말이나 네트워크가 목적지와 통신하도록 돕은 기술입니다. 이름에 포함된 ‘가상’은 전용 회선을 새로 까는 대신 기존 물리 네트워크 위에 논리적인 연결을 만든다는 뜻이고, ‘사설’은 그 연결의 참여자와 주소 범위를 정책으로 제한한다는 의미에 가깝습니다.

VPN의 정의

NIST는 VPN을 기존 물리 네트워크 위에 구성되며 네트워크나 노드 사이의 데이터와 IP 정보를 보호해 통신할 수 있은 가상 네트워크로 정의합니다. 쉽게 말하면 여러 차량이 오가는 공용 도로 안에 출발지와 목적지가 합의한 규칙으로 운영되는 밀폐 통로를 만드는 셈입니다. 바깥에서는 통로를 오가는 패킷이 보이더라도, 보호 구간 안의 내용은 정해진 암호화 방식과 키를 가진 양 끝이 처리합니다.

VPN의 중심 역할은 ‘어디에서 어디까지 어떤 규칙으로 보호할 것인가’를 정하는 데 있습니다. 암호화는 전송 중 내용을 읽기 어렵게 하고, 무결성 검사는 패킷이 바뀌었는지 확인하며, 상대 인증은 연결하려는 단말이나 게이트웨이가 정책상 허용된 대상인지 판단하는 데 쓰입니다. IPsec처럼 네트워크 계층에서 작동하는 방식은 애플리케이션이 각각 보호 기능을 구현하지 않아도 IP 트래픽에 공통 보호를 적용할 수 있습니다. 다만 실제 보호 범위는 선택한 프로토콜, 암호 설정, 인증 방식, 라우팅 정책에 따라 달라집니다.

두 가지 연결 범위

원격 접속 VPN은 한 대의 사용자 단말과 조직의 VPN 게이트웨가 사이에 연결을 만듭니다. 재택근무자의 노트북이나 출장자의 업무 단말이 클라이언트를 실행하고, 사용자·단말 인증을 거쳐 허용된 내부 주소로 통신하는 형태입니다. 접속자가 바뀌고 단말 위치가 이동하므로 계정 수명주기, 추가 인증, 단말 상태, 세션 종료 정책이 운영 품질에 직접 영향을 줍니다.

지점 간 VPN은 두 네트워크의 경계 장비가 서로 터널의 끝점이 됩니다. 본사와 지사, 데이터센터와 별도 업무망처럼 고정된 주소 대역을 연결할 때 주로 사용합니다. 사용자는 매번 클라이언트를 조작하지 않아도 되지만, 어느 내부 주소 대역을 상대편으로 전달할지와 동일한 주소가 양쪽에 겹치지 않는지, 장애 시 어느 경로로 전환할지를 설계해야 합니다. 두 형태 모두 VPN이라는 같은 원리를 사용하지만, 하나는 개별 단말을 연결하고 다른 하나는 네트워크 두 곳을 연결한다는 배치 차이가 있습니다.

터널 생성과 전송 흐름

연결은 곧바로 데이터를 보내는 단계부터 시작하지 않습니다. 먼저 클라이언트나 게이트웨이가 접속할 상대를 찾고, 서로 지원하는 보안 방식과 인증 조건을 확인합니다. IPsec 환경에서는 IKE가 보안 매개변수를 협상하고 인증을 수행하며, 이후 사용할 키를 설정하는 역할을 맡습니다. 양쪽이 같은 조건에 합의하면 일정 시간과 데이터 양을 기준으로 유지되는 보안 연결이 만들어집니다.

업무 패킷이 터널 대상 주소로 향하면 VPN 끝점은 원래 패킷을 보호 형식으로 감싸고 암호화·무결성 정보를 붙입니다. 공용망의 중간 장비는 바깥쪽 전달 정보에 따라 패킷을 다음 VPN 끝점까지 운반합니다. 도착한 끝점은 상대와 패킷 상태를 확인하고 보호를 해제한 뒤, 원래 목적지인 내부 서비스로 전달합니다. 응답도 반대 순서로 터널을 지나갑니다. 이 과정에서 재전송된 패킷을 구분하는 기능과 연결 수명 관리가 함께 동작해 이전 세션의 데이터를 그대로 되풀이하는 위험을 줄입니다.

1. 접속 상대와 인증 조건 확인
2. 지원 보안 방식과 매개변수 협상
3. 세션에 사용할 키와 보호 연결 설정
4. 대상 패킷의 캡슐화·암호화 전송
5. 도착 지점의 검증·복호화·내부 전달

트래픽 경로

VPN이 연결됐다는 표시만으로 모든 통신이 터널을 지나는 것은 아닙니다. 라우팅 표가 어떤 목적지의 패킷을 VPN 인터페이스로 보낼지 결정합니다. 전체 터널 방식은 단말의 일반 인터넷 통신까지 VPN 게이트웨이로 보내 조직의 보안 정책과 기록 체계를 일관되게 적용하기 쉽습니다. 대신 게이트웨가 대역폭과 지연, 원격 사용자의 체감 성능을 함께 고려해야 합니다.

분할 터널 방식은 사내 주소나 지정 서비스처럼 필요한 목적지만 VPN으로 보내고, 나머지 통신은 단말의 기존 인터넷 경로를 사용합니다. 조직 구간의 부하는 줄일 수 있지만 어떤 주소가 보호 경로에 포함되는지 정확히 관리해야 합니다. 새 업무 서비스의 주소가 추가됐는데 경로 정책이 갱신되지 않으면 의도한 터널을 벗어날 수 있습니다. DNS 요청이 어느 경로와 서버를 사용하는지도 이름 해석 결과와 접속 성공 여부에 영향을 주므로, 주소 대역·경로·이름 해석 정책을 한 묶음으로 검토하는 편이 좋습니다.

접근 정책과 권한

VPN 인증에 성공했다는 사실은 내부의 모든 시스템을 사용할 권한과 같지 않습니다. 연결 뒤에는 사용자 역할, 단말 유형, 업무 목적에 따라 도달할 수 있은 주소 대역과 서비스 포트를 제한해야 합니다. 예를 들어 협력사 계정은 작업에 필요한 관리 구간만, 일반 사용자는 업무 애플리케이션 구간만 접근하도록 범위를 나눌 수 있습니다. 지점 간 연결도 상대 네트워크 전체를 자동으로 허용하기보다 필요한 출발지·목적지 조합을 정책으로 명시하는 것이 운영 경계를 선명하게 만듭니다.

주소 계획도 중요합니다. 원격 사용자에게 할당하는 가상 주소가 내부 서버 대역이나 다른 지점과 겹치면 응답 경로가 엉키거나 잘못된 곳으로 전달될 수 있습니다. 연결 수가 늘어날수록 할당 주소 풀, 동시에 유지할 세션 수, 유휴 세션 종료 시간, 재인증 주기를 함께 관리해야 합니다. 권한 변경이나 퇴사처럼 계정 상태가 바뀌면 VPN 접근도 같은 흐름에서 회수되어야 오래된 자격 증명이 별도 통로로 남지 않습니다.

운영 점검

VPN 게이트웨이는 외부 네트워크와 맞닿아 있으므로 제품 업데이트와 보안 권고를 정기적으로 확인해야 합니다. CISA와 NSA는 표준 기반 솔루션을 선택하고, 알려진 취약점이 수정된 버전을 적용하며, 관리 인터페이스의 외부 노출을 줄이고, 강한 인증과 관찰 가능한 기록을 함께 운영하도록 권고합니다. 장비만 패치하고 클라이언트를 오래된 버전으로 남겨두지 않도록 서버와 단말의 지원 버전 정책도 맞춰야 합니다.

• 게이트웨이·클라이언트의 지원 버전과 업데이트 상태
• 비밀번호 외 추가 인증과 관리자 계정의 별도 보호
• 인증서·키의 발급 대상, 만료일, 교체·폐기 절차
• 사용자·지점별 허용 주소 대역과 서비스 범위
• 접속 주체·시각·세션 결과를 남기는 로그와 경보
• 동시 접속 용량, 회선 장애, 보조 게이트웨가 전환 절차

로그는 접속 성공과 실패만 세는 데 그치지 않고 사용자나 장비 식별자, 접속 시각, 할당 주소, 세션 종료 사유처럼 운영 판단에 필요한 맥락을 남겨야 합니다. 평소와 다른 국가·시간대의 반복 인증, 한 계정의 동시 접속, 짧은 시간에 되풀이되는 터널 재협상은 계정 오용이나 설정 장애를 살펴볼 단서가 됩니다. 장애 전환 장비가 있어도 인증서와 정책이 주 장비와 일치하지 않으면 실제 전환 순간에 연결이 실패할 수 있으므로 정기적인 전환 시험이 필요합니다.

오해와 한계

VPN은 터널 안의 전송을 보호하지만 단말과 서버 자체를 안전하게 만드는 만능 장치는 아닙니다. 악성코드에 감염된 단말이 정상 계정으로 접속하면 터널은 그 통신도 규칙에 따라 운반할 수 있습니다. 복호화가 끝난 뒤 내부 서비스에서 처리되거나 저장되는 데이터는 해당 서비스와 단말의 보안 통제를 따릅니다. NIST도 IPsec이 모든 네트워크 위험을 없애지는 않는다고 설명하므로, VPN의 보호 구간과 끝점 보안을 구분해야 합니다.

VPN을 사용하면 인터넷에서 완전히 익명이 된다는 설명도 정확하지 않습니다. 목적지 서비스는 VPN 게이트웨이의 주소를 볼 수 있고, 연결을 운영하는 조직은 정책에 따라 접속 기록을 남길 수 있습니다. 또한 분할 터널로 제외된 통신은 지정된 VPN 경로를 지나지 않습니다. 따라서 VPN 도입의 목표는 막연한 익명성이 아니라, 특정 사용자·단말·네트워크 사이의 통신 경로와 보호 규칙을 관리 가능한 형태로 만드는 데 두는 것이 적절합니다.

VPN은 공용 네트워크를 없애는 기술이 아니라 그 위에 논리적인 보호 경로를 구성하는 기술입니다. 원격 단말과 게이트웨이를 잇거나 두 네트워크를 연결하고, 상대 인증·보안 협상·키 설정·암호화 전송·복호화 전달의 흐름으로 작동합니다. 제대로 운영하려면 터널의 존재만 확인하지 말고 어떤 트래픽이 그 경로를 타는지, 연결 뒤 어디까지 접근할 수 있는지, 키와 계정이 제때 교체되는지, 로그와 장애 전환이 실제로 작동하는지를 함께 살펴야 합니다.