新しいサブドメインに AI 検索ボットはいつ来るか:pw.migurei.ai の 14 日間の記録(2026年10月)

pw.migurei.ai は、migurei が運営する Parallel World 自身のサイトです。2026 年 10 月 1 日から 14 日までの 14 日間、検索エンジンと AI 検索のボットがこのサイトにいつ来て、何ページ取得したかを、サーバーのアクセスログで記録しました。このページはその記録です。

データ取得日:2026 年 10 月 15 日(ログの最後のリクエストは 10 月 14 日 16:54 UTC)

English

先に結論

  • Googlebot:ログの記録を始めてから約 11 日間、1 度も来ませんでした。初めて来たのは 10 月 12 日で、同じ日に Search Console でサイトマップを送信し、「インデックス登録をリクエスト」を実行しています(時刻の前後関係は下の表と注を参照)。13 ページすべてを取得しました。
  • Bingbot:IndexNow で URL を送信してから約 38 時間後に、13 ページすべてを取得しました。
  • Bravebot を名乗るアクセス:Brave Search の URL 送信フォームに 13 URL を入力してから 61 分後に、13 ページすべてを取得しました。ただし User-Agent の自己申告だけで、IP は確認できません。
  • OAI-SearchBot:14 日間で 19 回来ましたが、すべて /robots.txt で、取得したページは 0 です。
  • Claude-SearchBot と PerplexityBot:自発的に取得したページは 0 です。

ボット別の初回アクセス

ボット初回アクセス(UTC/日本時間)取得できたページ数URL の通知方法
Googlebot2026-10-12 01:20 UTC(10:20 JST):robots.txt と sitemap.xml
ページの初回:01:58 UTC(10:58 JST)
13/13(全リクエスト 83 件)Search Console:同日にサイトマップを送信し、「インデックス登録をリクエスト」を実行。初回アクセス(01:20 UTC)は、Google-InspectionTool の初回(01:56 UTC)より前
Bingbot2026-10-10 13:53 UTC(22:53 JST):IndexNow の確認用キーファイル
ページの初回:2026-10-12 04:22 UTC(13:22 JST)
13/13(全リクエスト 31 件)IndexNow(10 月 10 日 13:53 UTC に送信)。ページまで約 38 時間 29 分
Bravebot(User-Agent の自己申告、IP 未確認)2026-10-14 05:43 UTC(14:43 JST):robots.txt
ページ:05:44〜05:46 UTC
13/13(全リクエスト 14 件)Brave Search の URL 送信フォーム(Brave の説明では、更新・削除されたページの再取得用。人が 13 URL を入力、04:42:54 UTC に送信)。送信から 61 分後
OAI-SearchBot2026-10-01 07:46 UTC(16:46 JST):/robots.txt0(19 回すべて /robots.txt)なし
Claude-SearchBotアクセスなし0なし
PerplexityBot自発的なアクセスなし(除外した 2 件は下の注を参照)0なし
Google-InspectionTool2026-10-12 01:56 UTC(10:56 JST)12/13(全リクエスト 146 件)Search Console の URL 検査と同じ時間帯(Google の説明では、URL 検査などの Search のテストツールが使う取得ツール)
GoogleOther2026-10-12 07:03 UTC(16:03 JST)9/13(全リクエスト 22 件)当社の操作とは結びつけられていません
  • 「取得できたページ数」は、13 URL のサイトマップのうち、ボットが成功(2xx または 3xx)の応答で取得できた URL の数です。robots.txt、sitemap.xml、IndexNow の確認用ファイル、画像やスクリプトは含めていません。「全リクエスト」には、これらも含みます。
  • Googlebot の初回アクセス(01:20 UTC)は、robots.txt と sitemap.xml だけでした。ページを初めて取得したのは 01:58 UTC で、その 1 分 47 秒前の 01:56 UTC に Google-InspectionTool が来ています。「インデックス登録をリクエスト」を押した正確な時刻は記録していません。
  • PerplexityBot:10 月 12 日 10:06 UTC に、公式 IP の PerplexityBot(IP が公式範囲外の 2 件とは別です)が /robots.txt とトップページを取得しました。ちょうど当社が Perplexity に質問していた時刻と重なるため、集計ルールに従って除外しています(次の節を参照)。
  • ChatGPT-User や Claude-User のように、ユーザーの依頼で AI アプリが取得しに来るアクセスは、大半が当社の検証によるものなので、この表には入れていません。

数え方

  1. 対象のログ:pw.migurei.ai に届いた GET と HEAD のリクエスト 4,297 件(2026-10-01 07:13 UTC の最初のリクエストから、10 月 14 日 16:54 UTC の最後まで)。サーバー(オリジン)側のログです。
  2. 除外:当社の AI アプリ検証に結びついたリクエスト 1,624 件と、当社のスキャナー(User-Agent に migurei-ParallelWeb)1,166 件を除いた、1,507 件を数えています。
  3. ボットの判定:User-Agent がそのボットを名乗り、かつ送信元 IP が運営元の公式 IP フィード(Google、Microsoft、OpenAI、Anthropic、Perplexity が公開している IP 範囲)に含まれるものだけを「確認済み」として数えます。IP が含まれなければ、User-Agent がボットでも数えません(Googlebot を名乗る 2 件、PerplexityBot を名乗る 2 件が該当)。
  4. IP フィードは日ごとに取得したスナップショット(2026-09-30、10-02、10-11、10-13)で、各リクエストは、その日以前でもっとも新しいスナップショットで判定しています。ボットの一覧と判定方法は、バージョン管理されたレジストリ(bots-2026-10-13)にあり、コードに直接書いていません。
  5. 「取得」は、サーバーが 2xx または 3xx で応答したリクエストです(3xx はリダイレクトを含みます)。
  6. Bravebot:Brave は IP 範囲を公開していないため、確認済みとしては数えられません。表では、User-Agent に Bravebot を含むアクセスを、その旨を明記して別に載せています。
  7. 時刻はすべて UTC で、主な時刻には日本時間(JST、UTC+9 時間)を併記しています。判定には、Parallel World のリポジトリのコミット 6a75347 のコードを使いました。

この記録からは言えないこと

  • 1 サイト、13 URL、14 日間です。数字は件数であって、安定した割合ではありません。
  • URL の通知方法と来訪の因果関係は切り分けられません。Googlebot は、サイトマップを送信した同じ日に来ており、サイトマップの送信時刻を記録していません。初回アクセスが Google-InspectionTool の初回(01:56 UTC)より前だったので、リクエストの結果とは言えません。Bingbot は、Bing Webmaster Tools への登録など IndexNow 以外の経路が 10 月 12 日より前にあったかどうかの記録がありません。Bravebot は 1 回だけの観察で、User-Agent の自己申告です。どれも、その通知方法が来訪の原因だとは言えません。
  • ボットがページを取得(クロール)しても、インデックス登録されたとは限りません。ページを取得されたことと、そのページが検索結果や AI の回答に使われることは別の話です。Google は、クロールのリクエスト後も、クロールには数日から数週間かかることがあると説明しています。
  • 見ているのはオリジンのログだけです。Cloudflare の手前でブロックされたリクエストがあっても、ここには出ません。
  • OAI-SearchBot の 0 ページは、「来ない」ことの証明ではありません。14 日間で 0 だったというだけです。robots.txt は 16〜17 時間おきに取得しています(10 月 10 日以降に生ログで確認できた 7 回の間隔は、中央値 約 16.0 時間、平均 約 16.4 時間。19 回全体では、最初から最後までの平均が約 17.2 時間)が、それが robots.txt の定期チェック以上の意味を持つかは分かりません。Claude-SearchBot の 0 も同じです。
  • PerplexityBot の 2 件を除外したことで、結果が変わります。この 2 件を数えれば、PerplexityBot は 1/13 ページ(トップページ)になります。当社の質問と同時刻だったため、ボットが自発的に来たのか、質問をきっかけに来たのかは分かりません。
  • 数えられなかったもの:各ページの公開時刻、Search Console にサイトマップを送信した時刻、「インデックス登録をリクエスト」を押した正確な時刻は、記録がないため、載せていません。
  • AI の回答は扱っていません。ボットがページを取得したことと、AI アプリが回答でそのページを使うことは別の話です。

参考:外部の 1 サイトの記録

外部の記事(Zenn、2026 年 10 月 11 日:https://zenn.dev/hirajo/articles/crawler-google-vs-chatgpt)には、2026 年 8 月 29 日にドメインを取得した新しいサイトで、OAI-SearchBot が最初の 6 日間は robots.txt だけを 1 日 1〜6 回取得し、9 月 2 日に公開された記事を 9 月 4 日に初めて取得した、という記録があります。筆者は IP を OpenAI の公式リストで確認したと書いています。1 人の筆者による 1 サイトの自己申告で、当社は確認していません。違いがあるとすれば、そのサイトには記事があり、pw.migurei.ai にはこの記録の時点で、サービスを紹介するページしかなかったことですが、これは仮説です。