クローラー操作

クロールの実行と管理を行います。

クローラー操作画面では、クロールの実行、停止、インデックスの再構築など、クローラーの操作を行います。

クロール状況の確認

項目説明
総ページ数登録されているページの総数(まだクロールされていないページを含みます)
インデックス済みページ数検索インデックスに登録されているページ数
被リンクがないページ数他のページからリンクされていないページ数

クローラーの一時停止

メンテナンス中など、クローラーを一時的に停止できます。一時停止するには、「クローラーの一時停止」の「設定」ボタンから一時停止解除日時を指定します(過去の日時は指定できません。デフォルトは24時間後です)。一時停止中は「変更」ボタンでいつでも解除日時を変更でき、「解除」ボタンで即座に一時停止を解除することもできます。設定の保存・解除は、反映まで最大で数十秒かかる場合があります。

一時停止中は、通常のクロールに加えて「一部のページを再クロール」による部分クロールも実行されません(クロール禁止時間帯は部分クロールを止めない点が異なります)。検索インデックスへの反映も停止します。

一時停止中はクロール操作を実行できません。

クローラー操作

クロール操作は同時に1つしか実行できません。いずれかの操作を実行している間は、他の操作ボタンは押せません。

検索インデックスを作成(初回のみ)

検索インデックスが未作成の場合に表示されます。クローラーが起動し、インデックスが作成されます。実行するには、あらかじめドメインが1つ以上登録されており、かつ有効なサブスクリプションが必要です。

一部のページを再クロール

指定したページを再クロールします。該当ページの情報が更新されます。

URLは1行に1つずつ、https://example.com/page のような絶対URLで入力します。対象になるのは、すでに登録されているページのURLのみです。未登録のURLを指定してもエラーにはならず、何も起こりません。指定したページは他のページより優先して、次回のクロールでただちに処理されます。クロール禁止時間帯の設定中であっても、この操作はただちに実行されます。

すべてのページを再クロール

すべてのページを再クロールするようリクエストします。既存のインデックスは保持されたまま、各ページの情報が更新されます。処理中のページは対象外です。すべてのページがすぐに再クロールされるわけではなく、クロールリクエストのみ行われ、各ページはクロール並列数やクロールインターバルに応じてクロールされます。

インデックス再構築

クロール済みのデータを元にインデックスを再構築します。実際のページにアクセスせずに、URLパラメータの書き換え設定やクロール対象設定の変更を全ページに即座に反映できます。この操作を行わなくても、次のクロールで設定は反映されます。HTML共通部分の除外・HTMLコンテンツ抽出の設定変更は、この操作では反映されません。

被リンクの無いページを削除

他のページからリンクされていないページを削除します。通常は1週間で自動削除されますが、この操作を行うと最優先の処理対象になり、クローラーが各ページを処理した時点で順次削除されます(対象ページ数が多い場合、削除の完了までに数分かかることがあります)。

インデックス再作成

検索インデックスをすべて削除して、ゼロから再作成します。

インデックス再作成中は、一時的に検索結果が0件になります。