ようこそ!tellogs.com

robots.txt生成

クローラー設定の自動作成

設定

カスタムルール

robots.txt

よくある質問

robots.txtとは?
クローラーにサイトのどの部分をクロールするか指示するファイルです。
Sitemapとは?
サイトのページ構造を検索エンジンに伝えるXMLファイルです。
noindexとの違いは?
robots.txtはクロール自体を禁止、noindexはインデックスを禁止します。

関連記事