新しいサブドメインに AI 検索ボットはいつ来るか:pw.migurei.ai の 14 日間の記録(2026年10月)
pw.migurei.ai は、migurei が運営する Parallel World 自身のサイトです。2026 年 10 月 1 日から 14 日までの 14 日間、検索エンジンと AI 検索のボットがこのサイトにいつ来て、何ページ取得したかを、サーバーのアクセスログで記録しました。このページはその記録です。
データ取得日:2026 年 10 月 15 日(ログの最後のリクエストは 10 月 14 日 16:54 UTC)
先に結論
- Googlebot:ログの記録を始めてから約 11 日間、1 度も来ませんでした。初めて来たのは 10 月 12 日で、同じ日に Search Console でサイトマップを送信し、「インデックス登録をリクエスト」を実行しています(時刻の前後関係は下の表と注を参照)。13 ページすべてを取得しました。
- Bingbot:IndexNow で URL を送信してから約 38 時間後に、13 ページすべてを取得しました。
- Bravebot を名乗るアクセス:Brave Search の URL 送信フォームに 13 URL を入力してから 61 分後に、13 ページすべてを取得しました。ただし User-Agent の自己申告だけで、IP は確認できません。
- OAI-SearchBot:14 日間で 19 回来ましたが、すべて
/robots.txtで、取得したページは 0 です。 - Claude-SearchBot と PerplexityBot:自発的に取得したページは 0 です。
ボット別の初回アクセス
| ボット | 初回アクセス(UTC/日本時間) | 取得できたページ数 | URL の通知方法 |
|---|---|---|---|
| Googlebot | 2026-10-12 01:20 UTC(10:20 JST):robots.txt と sitemap.xml ページの初回:01:58 UTC(10:58 JST) | 13/13(全リクエスト 83 件) | Search Console:同日にサイトマップを送信し、「インデックス登録をリクエスト」を実行。初回アクセス(01:20 UTC)は、Google-InspectionTool の初回(01:56 UTC)より前 |
| Bingbot | 2026-10-10 13:53 UTC(22:53 JST):IndexNow の確認用キーファイル ページの初回:2026-10-12 04:22 UTC(13:22 JST) | 13/13(全リクエスト 31 件) | IndexNow(10 月 10 日 13:53 UTC に送信)。ページまで約 38 時間 29 分 |
| Bravebot(User-Agent の自己申告、IP 未確認) | 2026-10-14 05:43 UTC(14:43 JST):robots.txt ページ:05:44〜05:46 UTC | 13/13(全リクエスト 14 件) | Brave Search の URL 送信フォーム(Brave の説明では、更新・削除されたページの再取得用。人が 13 URL を入力、04:42:54 UTC に送信)。送信から 61 分後 |
| OAI-SearchBot | 2026-10-01 07:46 UTC(16:46 JST):/robots.txt | 0(19 回すべて /robots.txt) | なし |
| Claude-SearchBot | アクセスなし | 0 | なし |
| PerplexityBot | 自発的なアクセスなし(除外した 2 件は下の注を参照) | 0 | なし |
| Google-InspectionTool | 2026-10-12 01:56 UTC(10:56 JST) | 12/13(全リクエスト 146 件) | Search Console の URL 検査と同じ時間帯(Google の説明では、URL 検査などの Search のテストツールが使う取得ツール) |
| GoogleOther | 2026-10-12 07:03 UTC(16:03 JST) | 9/13(全リクエスト 22 件) | 当社の操作とは結びつけられていません |
- 「取得できたページ数」は、13 URL のサイトマップのうち、ボットが成功(2xx または 3xx)の応答で取得できた URL の数です。robots.txt、sitemap.xml、IndexNow の確認用ファイル、画像やスクリプトは含めていません。「全リクエスト」には、これらも含みます。
- Googlebot の初回アクセス(01:20 UTC)は、robots.txt と sitemap.xml だけでした。ページを初めて取得したのは 01:58 UTC で、その 1 分 47 秒前の 01:56 UTC に Google-InspectionTool が来ています。「インデックス登録をリクエスト」を押した正確な時刻は記録していません。
- PerplexityBot:10 月 12 日 10:06 UTC に、公式 IP の PerplexityBot(IP が公式範囲外の 2 件とは別です)が
/robots.txtとトップページを取得しました。ちょうど当社が Perplexity に質問していた時刻と重なるため、集計ルールに従って除外しています(次の節を参照)。 - ChatGPT-User や Claude-User のように、ユーザーの依頼で AI アプリが取得しに来るアクセスは、大半が当社の検証によるものなので、この表には入れていません。
数え方
- 対象のログ:pw.migurei.ai に届いた GET と HEAD のリクエスト 4,297 件(2026-10-01 07:13 UTC の最初のリクエストから、10 月 14 日 16:54 UTC の最後まで)。サーバー(オリジン)側のログです。
- 除外:当社の AI アプリ検証に結びついたリクエスト 1,624 件と、当社のスキャナー(User-Agent に migurei-ParallelWeb)1,166 件を除いた、1,507 件を数えています。
- ボットの判定:User-Agent がそのボットを名乗り、かつ送信元 IP が運営元の公式 IP フィード(Google、Microsoft、OpenAI、Anthropic、Perplexity が公開している IP 範囲)に含まれるものだけを「確認済み」として数えます。IP が含まれなければ、User-Agent がボットでも数えません(Googlebot を名乗る 2 件、PerplexityBot を名乗る 2 件が該当)。
- IP フィードは日ごとに取得したスナップショット(2026-09-30、10-02、10-11、10-13)で、各リクエストは、その日以前でもっとも新しいスナップショットで判定しています。ボットの一覧と判定方法は、バージョン管理されたレジストリ(bots-2026-10-13)にあり、コードに直接書いていません。
- 「取得」は、サーバーが 2xx または 3xx で応答したリクエストです(3xx はリダイレクトを含みます)。
- Bravebot:Brave は IP 範囲を公開していないため、確認済みとしては数えられません。表では、User-Agent に Bravebot を含むアクセスを、その旨を明記して別に載せています。
- 時刻はすべて UTC で、主な時刻には日本時間(JST、UTC+9 時間)を併記しています。判定には、Parallel World のリポジトリのコミット 6a75347 のコードを使いました。
この記録からは言えないこと
- 1 サイト、13 URL、14 日間です。数字は件数であって、安定した割合ではありません。
- URL の通知方法と来訪の因果関係は切り分けられません。Googlebot は、サイトマップを送信した同じ日に来ており、サイトマップの送信時刻を記録していません。初回アクセスが Google-InspectionTool の初回(01:56 UTC)より前だったので、リクエストの結果とは言えません。Bingbot は、Bing Webmaster Tools への登録など IndexNow 以外の経路が 10 月 12 日より前にあったかどうかの記録がありません。Bravebot は 1 回だけの観察で、User-Agent の自己申告です。どれも、その通知方法が来訪の原因だとは言えません。
- ボットがページを取得(クロール)しても、インデックス登録されたとは限りません。ページを取得されたことと、そのページが検索結果や AI の回答に使われることは別の話です。Google は、クロールのリクエスト後も、クロールには数日から数週間かかることがあると説明しています。
- 見ているのはオリジンのログだけです。Cloudflare の手前でブロックされたリクエストがあっても、ここには出ません。
- OAI-SearchBot の 0 ページは、「来ない」ことの証明ではありません。14 日間で 0 だったというだけです。robots.txt は 16〜17 時間おきに取得しています(10 月 10 日以降に生ログで確認できた 7 回の間隔は、中央値 約 16.0 時間、平均 約 16.4 時間。19 回全体では、最初から最後までの平均が約 17.2 時間)が、それが robots.txt の定期チェック以上の意味を持つかは分かりません。Claude-SearchBot の 0 も同じです。
- PerplexityBot の 2 件を除外したことで、結果が変わります。この 2 件を数えれば、PerplexityBot は 1/13 ページ(トップページ)になります。当社の質問と同時刻だったため、ボットが自発的に来たのか、質問をきっかけに来たのかは分かりません。
- 数えられなかったもの:各ページの公開時刻、Search Console にサイトマップを送信した時刻、「インデックス登録をリクエスト」を押した正確な時刻は、記録がないため、載せていません。
- AI の回答は扱っていません。ボットがページを取得したことと、AI アプリが回答でそのページを使うことは別の話です。
参考:外部の 1 サイトの記録
外部の記事(Zenn、2026 年 10 月 11 日:https://zenn.dev/hirajo/articles/crawler-google-vs-chatgpt)には、2026 年 8 月 29 日にドメインを取得した新しいサイトで、OAI-SearchBot が最初の 6 日間は robots.txt だけを 1 日 1〜6 回取得し、9 月 2 日に公開された記事を 9 月 4 日に初めて取得した、という記録があります。筆者は IP を OpenAI の公式リストで確認したと書いています。1 人の筆者による 1 サイトの自己申告で、当社は確認していません。違いがあるとすれば、そのサイトには記事があり、pw.migurei.ai にはこの記録の時点で、サービスを紹介するページしかなかったことですが、これは仮説です。