FakeDNS 작동 원리: 가상 IP 매핑과 트래픽 스니핑, 활용 사례

FakeDNS가 예약된 주소 대역으로 실제 DNS 응답을 대체하고 도메인을 복원해 라우팅하는 원리를 알아봅니다. 트래픽 스니핑과 비교하고, 활성화 조건과 부작용을 정리합니다.

이 글의 핵심

TUN을 켰는데 도메인 규칙이 적용되지 않는다면, 먼저 커널이 도메인과 실제 IP 중 무엇을 받았는지 확인하세요. 이 글에서는 DNS 응답과 이후 연결 과정을 따라 FakeDNS의 작동 원리를 설명하고, 활성화 조건과 비교 테스트 방법, 가상 주소 충돌이나 캐시 불일치 시의 복구 순서를 안내합니다.

가상 IP에서 도메인을 복원하는 방법

앱이 도메인에 접속할 때는 보통 먼저 DNS를 조회한 다음 응답받은 IP로 연결합니다. 일반 DNS는 실제 주소를 반환하지만, TUN이 연결을 가로챌 때 확인할 수 있는 목적지는 IP뿐입니다. 여러 도메인이 같은 주소를 공유할 수 있으므로 IP를 역조회해 앱이 원래 접속하려던 도메인을 알아낼 수는 없습니다. FakeDNS는 DNS 응답 방식을 바꿉니다. 주소 풀에서 가상 IP를 할당해 도메인과 연결한 뒤, 해당 가상 IP를 앱에 반환합니다.

도메인 조회가상 주소 할당대상 연결 가로채기도메인 매핑 복원아웃바운드 규칙 적용

가상 주소는 원격 서버의 주소가 아닙니다. 이후 연결이 해당 매핑에 접근할 수 있는 처리 경로로 들어와야 커널이 목적지 IP를 도메인으로 복원할 수 있습니다. 최종적으로 연결은 실제 목적지로 전달되어야 합니다. 직접 연결은 보통 실제 주소를 조회해야 하고, 프록시 아웃바운드는 커널·프로토콜·아웃바운드 설정에 따라 도메인 조회를 상대편에 맡길 수 있습니다. DNS만 가로채고 앱 연결은 가로채지 않으면 가상 주소는 제 기능을 하지 못합니다.

198.18.0.0/15
FakeDNS에 자주 쓰이는 IPv4 벤치마크 주소 대역
53
일반 DNS에서 주로 사용하는 UDP/TCP 포트
443
HTTPS 및 일반적인 DoH 엔드포인트 포트

이 숫자는 주소와 트래픽을 식별하기 위한 것으로, 클라이언트의 고정 리슨 설정을 뜻하지 않습니다. 벤치마크 주소 대역에 속한 응답을 확인해도 이번 조회에서 가상 주소를 받았을 가능성만 알 수 있으며, 연결까지 가로채졌다는 뜻은 아닙니다. 반대로 53번 포트에서 조회가 잡히지 않아도 앱이 DNS를 조회하지 않았다고 단정할 수 없습니다. 캐시를 사용했거나 HTTPS로 DNS를 조회했을 수 있습니다.

FakeDNS와 트래픽 스니핑의 차이

일반적인 트래픽 스니핑은 연결이 커널에 들어온 뒤 식별 가능한 프로토콜 필드에서 도메인을 추출합니다. 예를 들면 평문 HTTP의 Host 필드나 암호화되지 않아 커널이 식별할 수 있는 TLS SNI가 있습니다. DNS 응답을 바꿀 필요는 없지만, 연결에 사용할 수 있는 도메인 필드가 없거나 프로토콜을 식별할 수 없거나 실제 도메인이 암호화로 숨겨진 경우에는 스니핑으로 올바른 목적지를 알아낼 수 없습니다.

FakeDNS 매핑

도메인 정보 출처
가로챈 DNS 조회
앱이 받는 값
주소 풀에 속한 가상 IP
적용 조건
이후 연결도 가로채지고 해당 매핑이 유효해야 함
주요 실패 원인
앱이 이전 캐시, 별도 DNS 리졸버 또는 IP 주소를 직접 사용

도메인을 복원할 수 있는지는 매핑에 달려 있으며, 앱 데이터에 Host나 SNI가 있는지와는 관계없습니다.

일반 프로토콜 스니핑

도메인 정보 출처
연결에서 확인할 수 있는 프로토콜 필드
앱이 받는 값
기존 DNS 조회 경로가 반환한 주소
적용 조건
인바운드에서 해당 스니핑을 활성화하고 프로토콜 필드를 식별할 수 있어야 함
주요 실패 원인
트래픽에 도메인 필드가 없거나 필드가 보이지 않음

식별한 도메인을 라우팅에만 사용할지, 목적지 주소에도 반영할지는 커널과 설정에 따라 다릅니다.

판단 기준: 인바운드가 도메인을 받았는지 먼저 확인

앱이 명시적 프록시를 통해 도메인을 인바운드에 직접 전달한다면 규칙 순서와 아웃바운드 선택부터 확인하세요. 인바운드에 IP만 계속 전달되고 DNS 조회와 연결을 같은 설정으로 모두 가로챌 수 있을 때 FakeDNS 테스트를 고려하면 됩니다.

활성화 조건과 충돌하기 쉬운 환경

FakeDNS는 다음과 같은 환경에 적합합니다. TUN이 대상 앱을 가로채고, IP 규칙보다 도메인 규칙으로 트래픽을 나누는 편이 적절하지만 앱은 연결할 때 DNS 조회 결과만 보존하는 경우입니다. 클라이언트가 일부 앱만 가로채거나 DNS 조회와 연결이 서로 다른 경로를 거친다면, 각 앱에서 두 경로 모두 가로채지는지 먼저 확인해야 합니다. 예를 들어 v2rayNG의 앱별 프록시에 대상 앱이 포함되어 있는지 실제 DNS 조회 경로와 함께 점검해야 합니다. VPN 아이콘만 확인해서는 충분하지 않습니다.

비교 테스트로 라우팅 확인하기

데스크톱에서는 v2rayN의 「설정」→「매개변수 설정」에서 현재 환경을 확인한 다음, 실제 사용 중인 커널과 TUN·DNS 설정을 점검할 수 있습니다. 버전과 커널에 따라 옵션 위치, 필드 이름, 구현 방식은 다를 수 있습니다. 같은 이름의 옵션을 찾을 수 없더라도 다른 커널의 설정 필드를 그대로 붙여 넣지 마세요. 아래에서는 Windows 단일 기기를 예로 들어 노드, 라우팅 규칙, 앱은 그대로 두고 확인하려는 DNS 동작만 바꿉니다.

  1. 기준 상태 기록. FakeDNS를 끄고 직접 소유하거나 테스트 권한이 있는 도메인을 선택한 다음 대상 앱에서 새 연결을 시작합니다. 연결 로그에 표시되는 목적지 주소와 아웃바운드를 기록하고, 현재 규칙이 어떤 아웃바운드를 선택해야 하는지 확인하세요.
  2. 시스템 DNS 조회 확인. FakeDNS를 켠 뒤 PowerShell에서 Resolve-DnsName을 사용해 같은 도메인의 A와 AAAA 레코드를 각각 조회하세요. 특정 접두사를 기준으로 삼지 말고 현재 사용 중인 주소 풀과 비교하세요. 결과가 여전히 실제 IP라면 조회가 FakeDNS를 거쳤는지, 해당 도메인이 예외 대상인지 먼저 확인하세요.
  3. 앱의 실제 연결 경로 확인. 앱을 완전히 종료한 뒤 다시 열고 새 연결을 시작합니다. 로그에 예상한 도메인이나 아웃바운드 식별 정보가 표시되는지 확인하세요. 시스템 명령과 앱이 서로 다른 DNS 리졸버를 사용할 수 있으므로, 명령 결과에 가상 IP가 나온 것만으로는 이 단계의 확인을 대신할 수 없습니다.
  4. 캐시 문제와 규칙 문제를 구분. 앱이 이전 주소를 계속 사용한다면 앱을 종료한 뒤 ipconfig /flushdns를 실행해 Windows DNS 클라이언트 캐시를 비우고 다시 시도하세요. 이 명령은 앱 자체 캐시를 지우지 않습니다. 로그에 올바른 도메인이 표시되는데도 아웃바운드가 잘못되면 앞쪽 규칙과 기본 규칙을 확인하세요.

자주 발생하는 문제와 복구 방법

커널을 재시작한 뒤 새 창만 연결되지 않는 이유는 무엇인가요?

앱에 가상 주소가 캐시되어 있지만 새로 실행된 커널에는 해당 매핑이 남아 있지 않을 수 있습니다. 문제가 발생한 앱을 종료하고 시스템 DNS 캐시를 비운 다음 앱을 다시 실행해 새로 조회하세요. 새로 연 창은 연결되는데 기존 창은 연결되지 않는다면 앱 캐시나 연결 재사용을 먼저 확인하세요.

시스템에서 가상 IP가 조회되는데 브라우저에는 왜 규칙이 적용되지 않나요?

시스템 조회 결과와 브라우저의 실제 연결 로그를 먼저 비교하세요. 브라우저가 별도의 보안 DNS를 사용하는지, 연결이 TUN으로 들어오는지 확인합니다. 문제를 찾을 때는 설정을 한 번에 하나씩만 바꾸고 다시 시도하세요. DNS 리졸버와 라우팅을 동시에 변경하면 원인을 파악하기 어렵습니다.

FakeDNS를 껐는데도 사내 도메인이 가상 주소를 반환하는 이유는 무엇인가요?

기존 DNS와 TUN 설정을 복원하고 시스템 및 앱 캐시를 비운 다음 도메인을 다시 조회하세요. 결과가 계속 이상하다면 어떤 DNS 리졸버가 응답했는지, 기기에 DNS나 라우팅을 가로채는 다른 네트워크 구성 요소가 있는지 확인하세요.

복구가 완료됐는지는 새 조회에서 예상한 주소가 반환되고 대상 앱이 새 연결을 설정할 수 있는지로 판단하세요. FakeDNS는 도메인과 연결 사이의 연관 문제를 해결할 뿐, 모든 DNS 요청이 지정한 리졸버를 거치게 하거나 조회를 암호화하지는 않습니다. DNS 유출을 점검할 때는 실제 조회가 어디로 전달되는지 확인해야 합니다.

v2rayN 다운로드플랫폼과 설치 파일 선택