XML 사이트맵: 색인을 약속하지 않고 발견 돕기

핵심 요약

사이트맵은 검색엔진에 URL을 알립니다. 읽기나 제출은 즉시 크롤링, 색인 또는 순위를 보장하지 않으며 내부 링크도 유용합니다.

빈 브리핑실의 세계 네트워크 지도
이 글의 목차

파일 한도 지키기

단일 사이트맵은 50000 URL과 비압축 50 MB 한도를 모두 지켜야 합니다. 더 큰 집합은 나누고 필요하면 색인 파일로 묶습니다. UTF-8과 전체 URL을 사용합니다.

검사기준설명
맵당 URL50000파일별 상한.
비압축 크기50 MB이 상한도 적용.
인코딩UTF-8XML 값을 올바르게 이스케이프.
priority와 changefreqGoogle은 무시크롤링을 제어하지 않음.

실제로 원하는 페이지 설명하기

  • 표준 선택과 일치하고 접근 가능하며 색인할 선호 URL을 나열합니다. 제출 전 이동, 오류와 제외 페이지를 찾습니다.
  • XML 값을 올바르게 이스케이프하고 실제 파일, 상태와 하위 맵을 확인합니다. 압축해도 해제 후 크기 한도는 남습니다.
  • lastmod는 중요하고 검증 가능한 변경에 사용합니다. 업데이트를 꾸미려고 매일 모든 날짜를 바꾸지 않습니다.

수락한 파일과 색인 페이지 구분하기

읽기 진단과 URL 상태를 따로 봅니다. 유효한 맵에도 다른 이유로 선택되지 않는 페이지가 있습니다. Google은 priority와 changefreq를 무시하므로 우선권을 사거나 크롤링 주기를 정하지 못합니다.

1차 자료

사이트맵에 의도된 URL을 추가합니다.

사이트맵은 크롤러가 방문하도록 의도된 URL에 대한 검색 목록입니다. 리디렉션, 중복 및 색인되지 않은 페이지는 일관성을 약화시키지만, 유효한 항목이라도 색인 생성이 보장되는 것은 아닙니다.

  • 각 항목을 최종 응답 및 표준 항목과 비교합니다.
  • 실제 변경 후에만 lastmod를 업데이트합니다.
  • 주요 페이지에 대한 언어 대체 및 내부 링크를 확인합니다.

1차 자료: Google Search Central — Crawling and indexing. 관련 방법: 실무 가이드 읽기.

크롤링 가능한 웹 페이지 분할

목록 페이지에는 고정 주소와 발견 가능한 링크가 필요합니다.

  • 두 번째 페이지를 별도 URL로 유지하고 고유 canonical을 지정합니다. 해시 조각이나 모든 페이지를 첫 페이지로 지정하는 canonical은 각각의 다른 내용을 설명하지 못합니다.
  • 무한 스크롤과 함께 사용해도 다음 페이지를 일반 href 링크로 제공합니다. JavaScript 없이 서버 HTML을 확인하세요. 이벤트 처리만으로는 같은 링크 대상을 제공하지 못합니다.
  • 안정적인 순서와 허용 필터를 정의합니다. 마지막 페이지, 범위 밖 번호와 같은 URL 재요청을 시험하고 무한한 빈 페이지 없이 결과를 설명할 수 있는지 확인합니다.

재현 가능한 수락 사례

가상 예시입니다. 고객이나 실제 관측 결과를 나타내지 않습니다.

사례 입력 보기
{
    "page_2": "/catalog?page=2",
    "canonical": "/catalog",
    "next_link": "<button>More</button>"
}

예상 판단

2페이지에는 자체 canonical과 후속 페이지로 가는 크롤링 가능한 href 링크가 필요합니다.

검증 절차

  1. 페이지별 URL, canonical 및 링크를 기록합니다.
  2. JavaScript 버튼 없이 다음 내용에 접근합니다.
  3. 탐색 가능한 href와 자체 canonical을 보존합니다. 각 URL을 직접 열어 표시 항목을 비교하세요. 다른 주소가 첫 페이지를 반복한다면 후속 페이지가 검증된 것이 아닙니다.

Google Search Central — Pagination and incremental page loading

무한 스크롤이 페이지 URL을 대체하나요?

자동으로 대체하지 않습니다. 읽을 수 있는 URL과 링크를 제공하고 같은 내용으로 돌아갈 수 있는지 확인하세요.

1차 자료: Google Search Central — Pagination and incremental page loading. 관련 방법: 실무 가이드 읽기.

사이트맵 품질

올바른 XML도 페이지를 누락하거나 잘못된 대상을 포함할 수 있습니다.

  • 공개 경로와 사이트맵을 비교합니다. 색인을 원하는 절대 형식의 정규 URL을 포함하고 오류, 리디렉션, noindex 페이지를 제외합니다.
  • 파일 하나의 한도는 URL 50,000개와 비압축 50 MB입니다. gzip 파일 대신 UTF-8 바이트를 측정합니다. 안정적인 그룹으로 나누고 사이트맵 색인에 나열합니다.
  • lastmod는 알려진 중요한 변경을 나타냅니다. 모든 페이지에 실행 날짜를 쓰지 마세요. 재생성 후 XML, 접근 가능 여부, robots.txt 참조를 확인합니다.

재현 가능한 수락 사례

가상 예시입니다. 고객이나 실제 관측 결과를 나타내지 않습니다.

사례 입력 보기
{
    "shard_urls": 50001,
    "uncompressed_bytes": 20000000,
    "lastmod_source": "generation_time"
}

예상 판단

50001개 URL은 파일당 제한을 초과합니다. 분할하고 의미 있는 변경으로 lastmod를 계산합니다. 이 연습에서는 URL 50,000개와 1개인 두 파일이 개수 제한을 충족합니다. 각 파일의 비압축 크기 50MB 제한도 확인합니다. gzip은 제한을 늘리지 않습니다. 생성 날짜는 각 페이지의 수정 날짜를 대신하지 않습니다.

검증 절차

  1. URL 수와 비압축 크기를 기록합니다.
  2. 분할, canonical 및 의미 있는 lastmod를 검증합니다.
  3. 제외와 색인 대응 관계를 보존합니다.

Sitemaps.org — Protocol

1차 자료: Sitemaps.org — Protocol. 관련 방법: 실무 가이드 읽기.

Robots.txt: 크롤링, 색인 및 검증 근거

이 언어판의 상세 참고 설명은 영어로 제공됩니다.

A sitemap proposes URLs; it does not decide the index

For Google, sitemap inclusion is a weak canonical signal. A proposed URL still needs to be crawled, processed and potentially selected.

  • Publish useful URLs consistent with canonical signals and internal links.
  • Check robots.txt and each page’s directives separately.
  • Retain evidence of actual indexing; submitting a sitemap is not proof of an outcome.

Review the twelve robots.txt cases →

References reviewed