ECtune のサイト確認ボットについて
ECtune は、ネットショップのページを読んで、送料・返品・特定商取引法に基づく表記などの載せ方や、リンク切れを診断し、直し方を示すサービスです。 運営は株式会社山愛(Masmarl は当社のブランド名です)です。下の User-Agent の要求は、ECtune がサイトを診断するときに送っているものです。
User-Agent
ECtune/0.1 (+https://ectune.net/bot)
Googlebot や AI のクローラーなど、他社のクローラーを名乗る要求は送りません。
読むもの・読み方
- 誰でも見られる公開ページを GET で読むだけです。フォームの送信・ログイン・購入・書き込みはしません。URL からカート・購入手続き・ログイン・会員・注文・検索のページと分かるものは診断に選びません(URL の作りや転送によっては、その中身を読むことがあります)。
- 最初に robots.txt を読み、次にトップページと sitemap(robots.txt に書かれたもの。書かれていなければ /sitemap.xml。最大3ファイル)を読みます。
- 診断するページは、商品一覧・商品ページ、送料・配送、返品・交換、特定商取引法に基づく表記、お問い合わせ、プライバシーポリシー、会社概要、ご利用ガイドなどのページです。 リンクの文言や URL から選び、トップページを含めて最大12ページです。サービスを売るサイトでは、料金のページも選びます。
- このほか、リンク切れを探すために、同じサイトのページを最大50ページ読みます。ページを読みに行く回数は、1回の診断で合わせて最大80回です。
- サービスを売るサイトでは、トップページから直接リンクされている同じドメインの別のホスト(料金や規約のページを置いたサブドメインなど)のページも読むことがあります。 そのときは、そのホストの robots.txt を読み、その規則に従います。
- 1回の診断は15分で打ち切ります。
- 読んだページの本文の一部は、表示の漏れや分かりにくさを判定するために AI(OpenAI の API)に渡します(応答を後から取り出すための保存を使わない設定で送ります。詳しくは プライバシーポリシー)。診断を依頼できるのは、そのサイトを自分で運営している方か運営者から任された方だけで、診断の結果はその方にだけ示します。
リンク切れの確認
- 読んだページにあるリンクのうち最大300件を、実際に開けるか GET で確かめます。メールアドレス・電話番号のリンク、カート・ログインなどのページ、SNS の共有ボタンは確かめません。
- 他のサイト(外部のホスト)へのリンクも確かめます。そのときは、相手のサイトの robots.txt をホストごとに1回読み、
User-agent: ECtuneの規則(その記載が無ければUser-agent: *)で断られているリンクには要求を送りません。相手の robots.txt が取得できない(5xx・429・通信エラー)ときも送りません。送るのはリンク1件につき1回です(転送されたときは、その転送先にも送ります)。 - 同じサイトの中のリンクが開けたときは、そのサイトが無いページを正しく「無い」と返すかを確かめるため、同じ階層の存在しない URL(名前に
ectune-nonexistent-7c1f3aを含みます)を、階層ごとに1回読みます。アクセスの記録に、この名前への 404 などが残ることがあります。
同時に送る数と間隔
- 同じホストへの要求は、1回の診断の中では1本ずつ送り、前の要求を始めてから1秒以上あけます。
- 診断するページは1ページずつ順に読みます。リンク切れの確認では、別々のホストへの要求を最大4本まで同時に送ります(同じホストへは上のとおり1本ずつです)。
- サイトが 429(混み合っている)や 503 を返したときは、その診断の間、そのホストへ要求を送りません。
robots.txt
- 読むページは、robots.txt の
User-agent: ECtuneの規則に従います(その記載が無ければUser-agent: *)。 例えばUser-agent: ECtuneとDisallow: /を書くと、そのサイトのページは読みません。 - robots.txt が取得できない(5xx・通信エラー)ときは、全面禁止として扱い、トップページも読みません。404 などの 4xx は、robots.txt が無い(制限なし)として扱います。
- 診断のために読むページは、転送された先のパスも同じ規則で確かめます(www の有無は同じサイトとして扱います)。
- robots.txt 自体、sitemap、上に書いた存在しない URL の確認は、規則の照合なしで読みます。
いつ来るか
現在は試行中です。ECtune を運営する株式会社山愛が、依頼を受けたサイトや自社のサイトに対して、手作業で診断を実行したときだけ読みに来ます。
やめてほしいとき
上の robots.txt の書き方で止められます。また、support@masmarl.com にドメインを添えてご連絡ください。確認のうえ、対応します。
扱う情報
読んだページの情報の使い道・外部への送信・保存する期間は、ECtune プライバシーポリシー に書いています。本サービスを利用するときの約束は、ECtune 利用規約 に書いています。