ルートURLは、クローラーが最初にアクセスするページです。クローラーは、このページから始めて、リンクをたどりながらサイト内のページを巡回していきます。 サイトの構造によっては、複数のルートURLを設定することで、より効率的にクロールできます。 また、被リンクのなくなったページを追加することで、インデックスに再登録できます。
ドメインが example.com の場合:
| パス | 実際にクロールされるURL |
|---|---|
/ | https://example.com/ |
/blog/ | https://example.com/blog/ |
/products/index.html | https://example.com/products/index.html |
/ から始まる部分)を入力してください。