全てのボットを許可するか、完全に拒否するかを選択します。詳細なルールは下部の Allow/Disallow リストで設定します。
Disallow でクロールさせたくないパスを指定します。空欄のままなら全て許可されます。
Allow は広い Disallow ルールで遮断されそうなパスを個別に許可する際に使用します。
主要な検索エンジンごとに個別ポリシーを設定します。Default=全体設定に従う、Disallow=全面拒否、Allow=全面許可。
クローラー User-agent ポリシー
Google Web Googlebot
Google Image Googlebot-Image
Google News Googlebot-News
Bing Web Bingbot
Bing Preview BingPreview
Baidu Baiduspider
Yandex YandexBot
DuckDuckGo DuckDuckBot
Sogou Sogou web spider
360 Search 360Spider
全ての検索エンジンが対応しているわけではありませんが、サーバー負荷の軽減に役立ちます。
完全な sitemap URL を追加して、クローラーにコンテンツを案内します。