User-Agentは、各Webリクエストの際にブラウザまたはロボットによって送信されるHTTPヘッダーで、リクエストを実行するソフトウェア(ブラウザ、検索エンジンボット、AIクローラーなど)を識別します。

User-Agentとは?

User-Agentは、各WebリクエストのHTTPヘッダーで送信される文字列です。リクエストを実行するソフトウェアを識別します。

AIボットのUser-Agent

AIトラッキングの文脈において、User-AgentはAIエンジンのロボットを識別するために不可欠です:

  • GPTBot/1.0 — OpenAI (ChatGPT)
  • ClaudeBot/1.0 — Anthropic (Claude)
  • PerplexityBot/1.0 — Perplexity AI
  • Google-Extended — Google (Gemini)
  • CCBot/2.0 — Common Crawl (多数のLLMで使用)
  • Bytespider — ByteDance

robots.txtにおける役割

robots.txtファイルは、User-Agentを使用してボットのアクセスを許可またはブロックします:

User-agent: GPTBot
Disallow: /private/

User-agent: ClaudeBot
Allow: /

なぜ重要なのか?

User-Agentの分析により、どのAIボットがサイトを訪問しているか、頻度、閲覧しているページを正確に把握できます。これはAIトラッキングの基盤です。

顧客がブランド名を挙げずにAIに尋ねると、別の誰かが推薦されます。運用中のブランドはどうでしょう?

ChatGPTへの質問で回答にブランド名が挙がらなければ、その分だけ競合が代わりに推奨されます,, 実際のAI回答6,820件で測定。