이 글 미리보기

웹 트래픽의 출구가 바뀌었다고 도메인 조회도 같은 경로를 이용하는 것은 아닙니다. v2rayN에서 브라우저 DNS 조회, DNS 라우팅 또는 TUN 연결을 점검하려는 분들을 위한 글입니다. 브라우저와 시스템 조회를 비교해 원인을 구분하고, Xray 설정 예시로 내장 리졸버의 상위 DNS 트래픽을 지정한 아웃바운드로 보낸 다음 FakeDNS 사용 시 주소 매핑이 제대로 이어지는지 확인합니다.

DNS 누수 테스트: 외부 IP와 조회 경로 비교

누수란 지정된 경로를 사용해야 하는 조회가 다른 경로로 나가는 것을 말합니다. 정책에 따라 사무실 DNS 서버로 보내는 LAN 도메인 조회는 누수가 아닙니다. 반대로 검사 페이지에 예상한 공용 리졸버가 표시되더라도, 조회 요청 자체는 PC에서 직접 전송됐을 수 있습니다. 검사 페이지에서 확인할 수 있는 것은 대개 재귀 리졸버의 외부 출구뿐이며, PC에서 리졸버까지의 구간이 프록시를 통과했는지는 알 수 없습니다.

53
일반 DNS의 UDP/TCP 포트
443
DoH에서 주로 사용하는 HTTPS 포트
853
DoT 기본 TCP 포트
  1. 기준 상태 기록

    Windows v2rayN 트레이 메뉴에서 「시스템 프록시 해제」를 선택합니다. TUN을 사용 중이라면 먼저 끕니다. 같은 브라우저로 웹 접속 시 외부 IP와 DNS 검사 페이지에 표시되는 리졸버를 확인하고, 브라우저의 보안 DNS 사용 여부도 기록합니다. 캐시가 요청을 가리지 않도록 매번 새 하위 도메인을 만드는 검사 페이지를 이용하세요.

  2. 프록시만 변경

    트레이 메뉴에서 「시스템 프록시 자동 설정」을 선택한 뒤 같은 브라우저로 다시 검사합니다. 우선 보안 DNS 설정은 그대로 둡니다. 웹 접속 시 외부 IP는 바뀌었지만 리졸버가 그대로라면, 두 검사에서 같은 리졸버가 관찰됐다는 뜻일 뿐입니다. 이것만으로 누수라고 판단할 수는 없습니다.

  3. PC에서 나가는 트래픽 확인

    실제 네트워크 어댑터에서 검사 시각에 발생한 DNS 요청을 살펴보고 목적지 주소와 포트를 확인합니다. 보호 대상 도메인 조회가 암호화되지 않은 상태로 로컬 게이트웨이에 전송됐고, 해당 게이트웨이가 허용된 조회 경로에 포함되지 않는다면 우회를 확인할 수 있습니다. 외부로 나가는 443 연결만으로는 DoH 연결이라고 단정할 수 없습니다.

  4. 시스템 조회 따로 확인

    PowerShell에서 Resolve-DnsName -Name example.com -Type A -DnsOnly를 실행해 시스템 조회 경로를 확인한 다음, 새 도메인으로 다시 테스트합니다. 이 명령은 브라우저의 보안 DNS를 검사하지 않으며 브라우저의 HTTP 프록시 설정을 따를 것으로 기대해서도 안 됩니다.

판단 기준: 조회가 예상 경로를 벗어났는지 확인

같은 테스트에서 검사 페이지 결과, 실제 네트워크 어댑터의 목적지 주소, 커널 로그를 함께 비교합니다. 프록시 노드만 트래픽을 받아야 하는데 네트워크 어댑터에서 지정된 리졸버로 직접 연결하는 것이 확인되면, 해당 연결을 브라우저·시스템·커널 중 누가 시작했는지 먼저 살펴보세요. DNS 주소부터 무작정 바꾸지 마세요.

dns 서버 그룹과 아웃바운드 규칙

dns.servers는 커널이 사용할 상위 DNS 서버를 설정합니다. 시스템 네트워크 어댑터의 DNS 설정을 바꾸거나 브라우저의 보안 DNS를 자동으로 가로채지는 않습니다. 내장 리졸버에 들어온 조회에만 이 설정이 적용됩니다. 아래는 v2rayN에서 Xray 코어를 사용할 때 적용할 설정 조각이며, 완전한 노드 설정이 아닙니다. 현재 코어가 지원하는 필드를 확인하고 기존 설정의 인바운드, 아웃바운드, 나머지 라우팅 규칙은 유지하세요.

예시에서는 내부 도메인 접미사 하나를 연결 가능한 것으로 가정한 게이트웨이 192.168.1.1에 보내고, 나머지 조회에는 DoH를 사용합니다. 예시의 접미사와 게이트웨이 주소를 실제 값으로 바꾸고, 게이트웨이가 DNS 서비스를 제공하는지 확인하세요. 내부망에서 단일 레이블 호스트 이름을 조회해야 한다면 시스템 검색 접미사를 별도로 설정해야 합니다. 이 도메인 규칙이 이름을 자동으로 완성해 주지는 않습니다.

{
  "dns": {
    "tag": "dns-upstream",
    "disableFallbackIfMatch": true,
    "servers": [
      {
        "address": "192.168.1.1",
        "port": 53,
        "domains": ["domain:home.arpa"],
        "skipFallback": true
      },
      "https://1.1.1.1/dns-query"
    ]
  },
  "routing": {
    "rules": [
      {
        "type": "field",
        "inboundTag": ["dns-upstream"],
        "ip": ["192.168.1.1/32"],
        "port": "53",
        "outboundTag": "direct"
      },
      {
        "type": "field",
        "inboundTag": ["dns-upstream"],
        "outboundTag": "proxy"
      }
    ]
  }
}

FakeDNS와 라우팅: 가상 주소에서 도메인 복원

FakeDNS는 커널이 매핑에 사용할 가상 주소를 반환합니다. 애플리케이션이 이 주소로 연결하면, 원래 도메인을 복원해 라우팅을 판단할 수 있도록 연결이 해당 매핑을 인식하는 동일한 커널로 돌아와야 합니다. 시스템 프록시만 켠 상태에서 모든 애플리케이션의 DNS 조회와 연결이 가로채질 것이라고 가정해서는 안 됩니다. FakeDNS를 변경하기 전에 TUN 또는 투명 프록시 인바운드가 실제로 처리하는 범위를 확인하세요.

최상위 fakedns 설정을 지원하는 Xray에서는 다음 설정 조각으로 IPv4 풀을 만들고, 우선 테스트 도메인에만 적용할 수 있습니다. 여기의 dns.servers는 새 항목입니다. 앞 절의 실제 상위 DNS 서버를 삭제하라는 뜻이 아니므로, 실제 적용 시 기존 배열에 이 항목을 추가하세요.

{
  "fakedns": [
    {"ipPool": "198.18.0.0/15", "poolSize": 65535}
  ],
  "dns": {
    "servers": [
      {
        "address": "fakedns",
        "domains": ["domain:example.com"],
        "skipFallback": true
      }
    ]
  }
}

자주 발생하는 오류: 시간 초과, 이름 조회 실패, 포트 충돌 구분

가장 먼저 실패한 로그를 찾고 같은 로그에 기록된 목적지 주소와 포트를 확인하세요. 상위 DNS 조회 실패, 노드 핸드셰이크 시간 초과, 포트 수신 대기 실패는 모두 웹 페이지가 열리지 않는 증상으로 나타날 수 있습니다. 하지만 DNS 주소 하나를 바꾼다고 세 가지 문제가 모두 해결되지는 않습니다.

오류: context deadline exceeded

원인과 해결: 작업이 제한 시간을 초과했습니다. 로그가 DoH 엔드포인트를 가리킨다면 해당 연결이 예상한 프록시 아웃바운드를 사용하는지, 노드 자체가 정상인지 먼저 확인한 뒤 다시 테스트하세요. 대기 시간만 늘려서는 해결되지 않습니다.

오류: no such host

원인과 해결: 현재 조회 경로에서 대상 호스트의 주소를 찾지 못했습니다. 로그에서 실패한 이름이 노드 도메인인지 서비스 도메인인지 먼저 구분한 다음, 초기 조회 경로나 서버 그룹을 점검하세요.

오류: address already in use

원인과 해결: 로컬 주소와 포트가 이미 사용 중입니다. DNS 수신 대기 포트 53을 가리키는 로그라면 Get-NetUDPEndpoint -LocalPort 53로 UDP 사용 여부를 확인하고 TCP 수신 대기도 점검해 기존 서비스와 중복 바인딩되지 않도록 하세요.

브라우저, 내부 도메인, 재시작 후 재검사

검사 페이지에 낯선 리졸버가 표시되면 바로 설정을 바꿔야 할까요?

먼저 리졸버 주소와 검사 시각을 기록한 다음 PC에서 발생한 연결과 대조하세요. DNS 서비스의 재귀 조회 출구는 설정에 표시된 접속 주소와 다를 수 있습니다. 실제 네트워크 어댑터에서 예상하지 않은 리졸버로 나가는 트래픽이 없다면 커널 로그까지 함께 확인하세요. 검사 페이지에 표시된 기관명이나 지역만 보고 판단하지 마세요.

브라우저의 보안 DNS를 꺼야 할까요?

내장 DNS 조회 경로를 진단할 때는 브라우저 설정에서 「보안 DNS」를 검색해 잠시 끈 상태로 비교 테스트를 진행할 수 있습니다. 보안 DNS를 꺼도 시스템 조회가 자동으로 커널에 전달되는 것은 아닙니다. 테스트가 끝나면 브라우저 조회를 커널에서 처리할지 별도의 암호화 경로로 보낼지에 따라 설정을 다시 맞추세요.

공용 사이트는 열리는데 내부 도메인을 찾지 못하면 어떻게 하나요?

먼저 신뢰할 수 있는 LAN에서 Resolve-DnsName -Name home.arpa -Server 192.168.1.1 -DnsOnly를 실행해 조회 경로를 확인하세요. 실제 테스트에서는 DNS 레코드가 있는 내부 호스트의 전체 이름과 실제 리졸버 주소를 사용합니다. 게이트웨이에서는 레코드가 반환되지만 커널 조회가 실패한다면 접미사 일치, 아웃바운드 태그, 게이트웨이 규칙 순서를 확인하세요.

v2rayN을 다시 시작한 뒤 변경 사항이 유지되는지 어떻게 확인하나요?

「설정」→「매개변수 설정」에서 현재 사용 중인 코어를 확인하고, 현재 노드가 사용자 지정 설정과 클라이언트 생성 설정 중 무엇을 불러오는지도 확인하세요. 임시 생성 파일을 직접 수정하면 재시작하거나 노드를 바꿀 때 변경 내용이 덮어써질 수 있습니다. 재시작 후 캐시되지 않은 도메인으로 다시 테스트하고, 설정 화면의 문구만 보는 대신 상위 서버 연결과 아웃바운드를 확인하세요.