웹 트래픽의 출구가 바뀌었다고 도메인 조회도 같은 경로를 이용하는 것은 아닙니다. v2rayN에서 브라우저 DNS 조회, DNS 라우팅 또는 TUN 연결을 점검하려는 분들을 위한 글입니다. 브라우저와 시스템 조회를 비교해 원인을 구분하고, Xray 설정 예시로 내장 리졸버의 상위 DNS 트래픽을 지정한 아웃바운드로 보낸 다음 FakeDNS 사용 시 주소 매핑이 제대로 이어지는지 확인합니다.
DNS 누수 테스트: 외부 IP와 조회 경로 비교
누수란 지정된 경로를 사용해야 하는 조회가 다른 경로로 나가는 것을 말합니다. 정책에 따라 사무실 DNS 서버로 보내는 LAN 도메인 조회는 누수가 아닙니다. 반대로 검사 페이지에 예상한 공용 리졸버가 표시되더라도, 조회 요청 자체는 PC에서 직접 전송됐을 수 있습니다. 검사 페이지에서 확인할 수 있는 것은 대개 재귀 리졸버의 외부 출구뿐이며, PC에서 리졸버까지의 구간이 프록시를 통과했는지는 알 수 없습니다.
기준 상태 기록
Windows v2rayN 트레이 메뉴에서 「시스템 프록시 해제」를 선택합니다. TUN을 사용 중이라면 먼저 끕니다. 같은 브라우저로 웹 접속 시 외부 IP와 DNS 검사 페이지에 표시되는 리졸버를 확인하고, 브라우저의 보안 DNS 사용 여부도 기록합니다. 캐시가 요청을 가리지 않도록 매번 새 하위 도메인을 만드는 검사 페이지를 이용하세요.
프록시만 변경
트레이 메뉴에서 「시스템 프록시 자동 설정」을 선택한 뒤 같은 브라우저로 다시 검사합니다. 우선 보안 DNS 설정은 그대로 둡니다. 웹 접속 시 외부 IP는 바뀌었지만 리졸버가 그대로라면, 두 검사에서 같은 리졸버가 관찰됐다는 뜻일 뿐입니다. 이것만으로 누수라고 판단할 수는 없습니다.
PC에서 나가는 트래픽 확인
실제 네트워크 어댑터에서 검사 시각에 발생한 DNS 요청을 살펴보고 목적지 주소와 포트를 확인합니다. 보호 대상 도메인 조회가 암호화되지 않은 상태로 로컬 게이트웨이에 전송됐고, 해당 게이트웨이가 허용된 조회 경로에 포함되지 않는다면 우회를 확인할 수 있습니다. 외부로 나가는 443 연결만으로는 DoH 연결이라고 단정할 수 없습니다.
시스템 조회 따로 확인
PowerShell에서
Resolve-DnsName -Name example.com -Type A -DnsOnly를 실행해 시스템 조회 경로를 확인한 다음, 새 도메인으로 다시 테스트합니다. 이 명령은 브라우저의 보안 DNS를 검사하지 않으며 브라우저의 HTTP 프록시 설정을 따를 것으로 기대해서도 안 됩니다.
판단 기준: 조회가 예상 경로를 벗어났는지 확인
같은 테스트에서 검사 페이지 결과, 실제 네트워크 어댑터의 목적지 주소, 커널 로그를 함께 비교합니다. 프록시 노드만 트래픽을 받아야 하는데 네트워크 어댑터에서 지정된 리졸버로 직접 연결하는 것이 확인되면, 해당 연결을 브라우저·시스템·커널 중 누가 시작했는지 먼저 살펴보세요. DNS 주소부터 무작정 바꾸지 마세요.
dns 서버 그룹과 아웃바운드 규칙
dns.servers는 커널이 사용할 상위 DNS 서버를 설정합니다. 시스템 네트워크 어댑터의 DNS 설정을 바꾸거나 브라우저의 보안 DNS를 자동으로 가로채지는 않습니다. 내장 리졸버에 들어온 조회에만 이 설정이 적용됩니다. 아래는 v2rayN에서 Xray 코어를 사용할 때 적용할 설정 조각이며, 완전한 노드 설정이 아닙니다. 현재 코어가 지원하는 필드를 확인하고 기존 설정의 인바운드, 아웃바운드, 나머지 라우팅 규칙은 유지하세요.
예시에서는 내부 도메인 접미사 하나를 연결 가능한 것으로 가정한 게이트웨이 192.168.1.1에 보내고, 나머지 조회에는 DoH를 사용합니다. 예시의 접미사와 게이트웨이 주소를 실제 값으로 바꾸고, 게이트웨이가 DNS 서비스를 제공하는지 확인하세요. 내부망에서 단일 레이블 호스트 이름을 조회해야 한다면 시스템 검색 접미사를 별도로 설정해야 합니다. 이 도메인 규칙이 이름을 자동으로 완성해 주지는 않습니다.
{
"dns": {
"tag": "dns-upstream",
"disableFallbackIfMatch": true,
"servers": [
{
"address": "192.168.1.1",
"port": 53,
"domains": ["domain:home.arpa"],
"skipFallback": true
},
"https://1.1.1.1/dns-query"
]
},
"routing": {
"rules": [
{
"type": "field",
"inboundTag": ["dns-upstream"],
"ip": ["192.168.1.1/32"],
"port": "53",
"outboundTag": "direct"
},
{
"type": "field",
"inboundTag": ["dns-upstream"],
"outboundTag": "proxy"
}
]
}
}
- 서버 그룹 선택:
domains는 게이트웨이 리졸버를 우선 선택하고,skipFallback은 접미사와 일치하지 않는 조회가 게이트웨이를 일반 상위 서버로 사용하지 않도록 합니다.disableFallbackIfMatch는 그룹에 일치한 조회가 일반 대체 서버로 넘어가지 않게 합니다. 내부 도메인 조회가 실패하면 사설 이름을 공용 리졸버로 보내지 말고 게이트웨이를 점검하세요. - 규칙 순서:
dns.tag는 내장 DNS 모듈에서 시작된 상위 서버 트래픽을 식별하는 값이지, 브라우저 인바운드의 태그가 아닙니다. 두 규칙은 일반 직결 규칙보다 앞에 두고, 게이트웨이 예외를 먼저 배치한 뒤 나머지 상위 서버 트래픽은 프록시로 보냅니다.direct와proxy는 기존outbounds에서 용도에 맞는 실제 태그를 가리켜야 합니다. - 초기 이름 조회: DoH 엔드포인트를 IP 주소로 지정해 해당 엔드포인트의 도메인을 먼저 조회하지 않도록 했습니다. 노드가 도메인 이름으로 연결된다면 노드 주소의 초기 조회가 아직 연결되지 않은 동일한 프록시에 의존하는지도 확인해야 합니다. 모든 조회를 무조건 직결로 허용하지 말고, 해당 노드 도메인에 사용 가능한 초기 조회 경로를 별도로 마련하세요.
FakeDNS와 라우팅: 가상 주소에서 도메인 복원
FakeDNS는 커널이 매핑에 사용할 가상 주소를 반환합니다. 애플리케이션이 이 주소로 연결하면, 원래 도메인을 복원해 라우팅을 판단할 수 있도록 연결이 해당 매핑을 인식하는 동일한 커널로 돌아와야 합니다. 시스템 프록시만 켠 상태에서 모든 애플리케이션의 DNS 조회와 연결이 가로채질 것이라고 가정해서는 안 됩니다. FakeDNS를 변경하기 전에 TUN 또는 투명 프록시 인바운드가 실제로 처리하는 범위를 확인하세요.
최상위 fakedns 설정을 지원하는 Xray에서는 다음 설정 조각으로 IPv4 풀을 만들고, 우선 테스트 도메인에만 적용할 수 있습니다. 여기의 dns.servers는 새 항목입니다. 앞 절의 실제 상위 DNS 서버를 삭제하라는 뜻이 아니므로, 실제 적용 시 기존 배열에 이 항목을 추가하세요.
{
"fakedns": [
{"ipPool": "198.18.0.0/15", "poolSize": 65535}
],
"dns": {
"servers": [
{
"address": "fakedns",
"domains": ["domain:example.com"],
"skipFallback": true
}
]
}
}
- 조회 가로채기: 애플리케이션의 DNS 트래픽이 시스템 프록시를 통한 웹 연결만으로 처리되는 것이 아니라 실제로 내장 DNS에 전달되는지 확인하세요. 브라우저가 자체적으로 보내는 암호화된 조회는 FakeDNS 항목을 추가해도 자동으로 가상 주소를 사용하지 않습니다.
- 목적지 복원: 실제 연결을 받는 Xray 인바운드에서
sniffing.enabled를 활성화하고,destOverride에fakedns를 포함해 복원한 도메인을 매칭에만 사용하는 것이 아니라 목적지 주소도 바꿀 수 있도록 설정합니다. 테스트 도메인의 프록시 규칙은 먼저 일치할 수 있는 IP 규칙이나 기본 규칙보다 앞에 두고, 아웃바운드가 가상 주소가 아닌 도메인을 받는지 확인하세요. - 주소 체계 확인: 이 설정은 IPv4 풀만 정의합니다. A 레코드, AAAA 레코드, IPv6 연결 경로를 각각 확인하세요. A 레코드 테스트에 성공했다고 듀얼 스택 검증까지 완료된 것은 아닙니다. 가상 네트워크 대역이 기존 라우팅과 충돌한다면 먼저 충돌을 해결한 뒤 활성화하세요.
- 재검사와 되돌리기: 테스트 도메인이 풀에 포함된 주소를 반환한 뒤에도 웹 페이지가 열리는지, 로그에서 예상한 아웃바운드가 선택되는지 확인해야 합니다. 설정을 되돌린 뒤에도 가상 주소로 접속한다면 Windows에서
ipconfig /flushdns를 실행하고 테스트 앱을 다시 시작해 이전 매핑 결과의 캐시를 지우세요.
자주 발생하는 오류: 시간 초과, 이름 조회 실패, 포트 충돌 구분
가장 먼저 실패한 로그를 찾고 같은 로그에 기록된 목적지 주소와 포트를 확인하세요. 상위 DNS 조회 실패, 노드 핸드셰이크 시간 초과, 포트 수신 대기 실패는 모두 웹 페이지가 열리지 않는 증상으로 나타날 수 있습니다. 하지만 DNS 주소 하나를 바꾼다고 세 가지 문제가 모두 해결되지는 않습니다.
오류: context deadline exceeded
원인과 해결: 작업이 제한 시간을 초과했습니다. 로그가 DoH 엔드포인트를 가리킨다면 해당 연결이 예상한 프록시 아웃바운드를 사용하는지, 노드 자체가 정상인지 먼저 확인한 뒤 다시 테스트하세요. 대기 시간만 늘려서는 해결되지 않습니다.
오류: no such host
원인과 해결: 현재 조회 경로에서 대상 호스트의 주소를 찾지 못했습니다. 로그에서 실패한 이름이 노드 도메인인지 서비스 도메인인지 먼저 구분한 다음, 초기 조회 경로나 서버 그룹을 점검하세요.
오류: address already in use
원인과 해결: 로컬 주소와 포트가 이미 사용 중입니다. DNS 수신 대기 포트 53을 가리키는 로그라면 Get-NetUDPEndpoint -LocalPort 53로 UDP 사용 여부를 확인하고 TCP 수신 대기도 점검해 기존 서비스와 중복 바인딩되지 않도록 하세요.
브라우저, 내부 도메인, 재시작 후 재검사
검사 페이지에 낯선 리졸버가 표시되면 바로 설정을 바꿔야 할까요?
먼저 리졸버 주소와 검사 시각을 기록한 다음 PC에서 발생한 연결과 대조하세요. DNS 서비스의 재귀 조회 출구는 설정에 표시된 접속 주소와 다를 수 있습니다. 실제 네트워크 어댑터에서 예상하지 않은 리졸버로 나가는 트래픽이 없다면 커널 로그까지 함께 확인하세요. 검사 페이지에 표시된 기관명이나 지역만 보고 판단하지 마세요.
브라우저의 보안 DNS를 꺼야 할까요?
내장 DNS 조회 경로를 진단할 때는 브라우저 설정에서 「보안 DNS」를 검색해 잠시 끈 상태로 비교 테스트를 진행할 수 있습니다. 보안 DNS를 꺼도 시스템 조회가 자동으로 커널에 전달되는 것은 아닙니다. 테스트가 끝나면 브라우저 조회를 커널에서 처리할지 별도의 암호화 경로로 보낼지에 따라 설정을 다시 맞추세요.
공용 사이트는 열리는데 내부 도메인을 찾지 못하면 어떻게 하나요?
먼저 신뢰할 수 있는 LAN에서 Resolve-DnsName -Name home.arpa -Server 192.168.1.1 -DnsOnly를 실행해 조회 경로를 확인하세요. 실제 테스트에서는 DNS 레코드가 있는 내부 호스트의 전체 이름과 실제 리졸버 주소를 사용합니다. 게이트웨이에서는 레코드가 반환되지만 커널 조회가 실패한다면 접미사 일치, 아웃바운드 태그, 게이트웨이 규칙 순서를 확인하세요.
v2rayN을 다시 시작한 뒤 변경 사항이 유지되는지 어떻게 확인하나요?
「설정」→「매개변수 설정」에서 현재 사용 중인 코어를 확인하고, 현재 노드가 사용자 지정 설정과 클라이언트 생성 설정 중 무엇을 불러오는지도 확인하세요. 임시 생성 파일을 직접 수정하면 재시작하거나 노드를 바꿀 때 변경 내용이 덮어써질 수 있습니다. 재시작 후 캐시되지 않은 도메인으로 다시 테스트하고, 설정 화면의 문구만 보는 대신 상위 서버 연결과 아웃바운드를 확인하세요.