ルートURL設定

クローラーの開始地点となるルートURLを設定します。

ルートURLとは

ルートURLは、クローラーが最初にアクセスするページです。クローラーは、このページから始めて、リンクをたどりながらサイト内のページを巡回していきます。 サイトの構造によっては、複数のルートURLを設定することで、より効率的にクロールできます。 また、被リンクのなくなったページを追加することで、インデックスに再登録できます。

入力例

ドメインが example.com の場合:

パス実際にクロールされるURL
/https://example.com/
/blog/https://example.com/blog/
/products/index.htmlhttps://example.com/products/index.html
パスには、ドメイン以降の部分(/ から始まる部分)を入力してください。