全てのボットを許可するか、完全に拒否するかを選択します。詳細なルールは下部の Allow/Disallow リストで設定します。
Disallow でクロールさせたくないパスを指定します。空欄のままなら全て許可されます。
Allow は広い Disallow ルールで遮断されそうなパスを個別に許可する際に使用します。
主要な検索エンジンごとに個別ポリシーを設定します。Default=全体設定に従う、Disallow=全面拒否、Allow=全面許可。
| クローラー |
User-agent |
ポリシー |
| Google Web |
Googlebot |
|
| Google Image |
Googlebot-Image |
|
| Google News |
Googlebot-News |
|
| Bing Web |
Bingbot |
|
| Bing Preview |
BingPreview |
|
| Baidu |
Baiduspider |
|
| Yandex |
YandexBot |
|
| DuckDuckGo |
DuckDuckBot |
|
| Sogou |
Sogou web spider |
|
| 360 Search |
360Spider |
|