VPN TCP UDP 차이와 성능 비교: 언제 UDP, 언제 TCP를 선택할까?
VPN에서 TCP/UDP는 “차선”이에요: 성능 체감이 갈리는 이유
VPN을 켜면 내 트래픽은 “터널”로 들어가서 암호화된 채로 서버까지 이동하잖아요. 여기서 TCP냐 UDP냐는, 그 터널을 달리는 차가 “안전벨트 꽉 매고 규정속도 지키는 스타일(TCP)”인지, “일단 빨리 달리고 누락은 앱이 알아서 처리하는 스타일(UDP)”인지에 가까워요.
제가 2023년에 독일(프랑크푸르트) 리전에 붙는 원격근무 VPN(주로 OpenVPN) 트러블을 봤을 때도, 같은 회선에서 UDP로 바꾸자 평균 지연이 대략 20~30ms 정도 줄어 “키보드가 덜 끊기는” 체감이 바로 나오는 경우가 있었거든요.
NordVPN 자료에 따르면 UDP가 TCP보다 빠른 핵심 이유는, UDP는 수신 확인(ACK)이나 재전송 같은 절차를 기본으로 강제하지 않아서 오버헤드(부가 절차)가 적기 때문이에요. 그래서 VPN에서도 “같은 회선인데 왜 체감이 다르지?”가 여기서 자주 갈립니다. (출처: NordVPN, https://nordvpn.com/ko/blog/tcp-udp-comparison/)
실무에서 이 포인트가 중요한 이유는, “암호화가 느린가?” 같은 엉뚱한 곳부터 의심하기 전에 전송 방식(UDP/TCP)에서 병목이 생기는지 먼저 걸러내면 문제 해결이 훨씬 빨라지기 때문이에요.
TCP vs UDP, VPN 성능에 직접 꽂히는 비교 포인트 4가지
1) 속도/지연: “빨리 도착”이냐 “확실히 도착”이냐
UDP는 연결 설정이 가볍고, 패킷이 조금 빠져도 일단 계속 진행해요. 그래서 게임, 영상 스트리밍처럼 “약간 깨져도 끊기지만 않으면” 하는 쪽에서 지연이 덜하고 체감이 좋은 편이죠.
반대로 TCP는 3-way 핸드셰이크(연결을 시작하기 전 서로 준비됐는지 악수하는 절차), 순서 보장, 재전송을 기본으로 해요. velog 자료에 따르면 TCP는 흐름제어/혼잡제어까지 포함해서 안정성을 끌어올리는 대신 절차가 늘어나는 구조입니다. 그래서 지연에 민감한 상황에선 답답하게 느껴질 수 있어요. (출처: velog, https://velog.io/@hidaehyunlee/TCP-%EC%99%80-UDP-%EC%9D%98-%EC%B0%A8%EC%9D%B4)
2) 손실이 있을 때: TCP는 “복구”, UDP는 “넘어감”
와이파이가 불안정하거나, 모바일에서 기지국이 바뀌는 순간처럼 패킷 손실이 생기면 차이가 커져요.
TCP: 빠진 조각을 다시 가져오려고 멈칫합니다. 대신 파일 다운로드, 웹페이지 로딩처럼 “정확히”가 중요한 작업은 결과가 깔끔해요.
UDP: 빠진 조각은 일단 지나가요. 대신 전체 흐름이 덜 끊겨서 실시간성에 유리합니다.
즉, “끊김 없는 진행”이 필요하면 UDP가, “완벽한 복원”이 필요하면 TCP가 심리적으로 편합니다.
3) VPN에서 특히 유명한 함정: “TCP over TCP” 멍청해짐
VPN 자체가 TCP로 돌아가는데(예: OpenVPN TCP), 그 안에서 또 TCP 트래픽(대부분의 웹/앱)이 흐르면 “TCP가 TCP를 감싸는” 모양이 됩니다. 이때 둘 다 재전송/혼잡제어를 하려다 보니, 손실이 조금만 나도 서로 눈치 보느라 속도가 확 꺾이거나 지연이 튀는 경우가 있어요. 현장에선 이걸 “왜 이렇게 버벅이지?”의 단골 원인으로 봅니다(환경마다 다를 수 있어요).
TCP 혼잡제어의 기본 동작(손실을 혼잡 신호로 보고 전송 속도를 줄이는 방식)은 IETF RFC 5681 같은 표준 문서에서도 정리돼 있어서, “손실 조금 → 속도 확 꺾임”이 그냥 기분 탓이 아니라 구조적으로도 충분히 나올 수 있는 그림이거든요.
그래서 OpenVPN을 쓴다면 보통 UDP를 먼저 권하는 흐름이 자연스럽습니다.
4) 데이터 사용량/효율: TCP가 더 “말이 많을” 수 있어요
top10vpn 가이드에 따르면 OpenVPN에서 TCP는 UDP보다 데이터 소비가 더 많을 수 있다고 정리돼 있어요. 확인 응답, 재전송 같은 절차가 붙으니 같은 내용을 보내도 부가 트래픽이 늘 수 있거든요. (출처: top10vpn, https://www.top10vpn.com/ko/guides/udp-vs-tcp/)
다만 이건 회선 품질, 손실률, MTU 같은 변수에 따라 체감이 달라집니다. “무조건 TCP가 데이터 많이 먹는다”라기보다, TCP의 성격상 그럴 가능성이 높다 정도로 잡는 게 안전해요.
그럼 VPN은 UDP가 정답? “막히면 TCP”가 실전 공식인 이유
OpenVPN 기준으로 top10vpn은 “UDP를 먼저 시도하고, 실패하면 TCP”를 권장합니다. 이유는 간단해요. UDP가 대체로 빠르고 효율적인데, 어떤 네트워크는 UDP를 막아버리거나(회사/학교/일부 공공 와이파이), UDP 품질이 유독 나빠서 연결이 불안정할 수 있거든요. 그럴 때 TCP는 “어쨌든 통과는 시켜주는” 경우가 많습니다. (출처: top10vpn, https://www.top10vpn.com/ko/guides/udp-vs-tcp/)
정리하면 이런 느낌이에요.
기본은 UDP: 속도/지연 이점 기대
안 되면 TCP: 차단 우회, 연결 안정성 확보
상황별 추천: 내가 하는 작업 기준으로 고르면 덜 후회해요
UDP가 잘 맞는 경우
스트리밍(유튜브/OTT), 영상통화, 온라인 게임
원격 작업 중에서도 “반응 속도”가 중요한 경우(예: 원격 데스크톱 조작감)
회선이 괜찮고, UDP가 막히지 않는 환경
끊김이 아주 약간 있어도 “흐름이 유지”되는 게 더 중요할 때요.
TCP가 잘 맞는 경우
웹서핑/이메일/업무 사이트처럼 “정확히 로딩”이 중요한 경우
UDP가 막힌 네트워크(회사, 학교, 호텔 와이파이 등)
UDP에서 자꾸 연결이 끊기거나 속도가 널뛰는 경우
다만 TCP로 바꿨는데 “오히려 더 느려졌다”면, 위에서 말한 TCP over TCP 성격 때문에 그럴 수도 있어요. 이때는 VPN 프로토콜 자체를 바꾸는 게 더 효과적일 때가 있습니다.
TCP/UDP 말고도 더 큰 변수: “VPN 프로토콜”이 성능을 좌우할 때
여기서 한 번 더 현실 체크를 해야 해요. TCP/UDP는 “운반 방식”이고, 실제 VPN 성능은 OpenVPN, WireGuard, IKEv2 같은 “VPN 프로토콜” 선택에 크게 좌우됩니다.
top10vpn의 VPN 프로토콜 비교 자료에 따르면 WireGuard가 속도, 보안, 데이터 효율성 면에서 추천 1순위로 언급되고, OpenVPN은 오래 검증된 안전한 대안으로 설명돼요. 즉, OpenVPN에서 UDP/TCP를 고민하는 것도 의미 있지만, 가능하면 “더 가벼운 프로토콜”로 갈아타는 게 체감이 더 크게 올 때가 많습니다. (출처: top10vpn, https://www.top10vpn.com/ko/what-is-a-vpn/vpn-protocols/)
다만 회사 정책, 사용 중인 VPN 서비스 지원 범위 때문에 선택지가 제한될 수는 있어요.
결론: VPN 성능 체감, 이렇게 정리하면 깔끔해요
다만, 이 글에서 말한 체감 차이는 “특정 VPN 앱이 UDP/TCP를 선택할 수 있는 상황”과 “회선 품질/차단 정책이 섞인 일반적인 환경”을 기준으로 한 거라, 통신사·공유기·회사 방화벽 정책에 따라 결과가 반대로 나올 수도 있어요.
“대부분의 집/개인 환경”에서는 UDP가 더 빠르고 지연이 낮게 느껴질 가능성이 큽니다. (출처: NordVPN)
“막히는 곳/불안정한 곳”에서는 TCP가 연결 성공률과 안정성을 올려줄 때가 많습니다. (출처: top10vpn)
그런데 속도가 진짜 중요하면, TCP/UDP 토글만 만지기보다 WireGuard 같은 프로토콜 지원 여부도 같이 보는 게 체감 개선에 더 직접적일 수 있어요. (출처: top10vpn)
한 줄로 말하면, UDP로 달리다가 길이 막히면 TCP로 우회하는 게 “동네 IT 형”이 제일 많이 쓰는 실전 루트입니다. 환경마다 다를 수 있으니, 같은 장소에서 UDP↔TCP를 번갈아 5분씩만 테스트해도 답이 꽤 빨리 나오거든요.