ようこそ!
tellogs.com
表紙
開発ツール
ホーム
›
ツール一覧
›
robots.txt生成
robots.txt生成
クローラー設定の自動作成
設定
テンプレート
全許可
全禁止
検索エンジン許可
検索エンジン一部禁止
カスタムルール
User-Agent
Allow パス
Disallow パス
Sitemap URL
生成する
robots.txt
コピー
ダウンロード
関連ツール
sitemap生成
サイトマップXMLを自動生成
meta tag生成
OGP・Twitter Cardのメタデータ作成
HTML Entity変換
HTMLエンティティを変換
よくある質問
robots.txtとは?
クローラーにサイトのどの部分をクロールするか指示するファイルです。
Sitemapとは?
サイトのページ構造を検索エンジンに伝えるXMLファイルです。
noindexとの違いは?
robots.txtはクロール自体を禁止、noindexはインデックスを禁止します。
関連記事
robots.txtジェネレーターのAllowルールの設定
robots.txtジェネレーターのボットのブロック
robots.txtジェネレーターのよくある間違いと対処法
robots.txtジェネレーターの類似ツール比較
robots.txtジェネレーターのCrawl-delayの設定
robots.txtジェネレーターのDisallowルールの設定
robots.txtジェネレーターの使い方ガイド
robots.txtジェネレーターのオンラインツールとしての特徴
robots.txtジェネレーターの参考資料・仕様
robots.txtジェネレーターのSitemapの参照設定
robots.txtジェネレーターの活用Tips
robots.txtジェネレーターのUser-agentの設定