AI技術

Context Window(コンテキストウィンドウ)

Context Window(コンテキストウィンドウ)とは、言語モデルが一度に処理できるテキストの最大量(トークンで測定)で、入力と出力の両方を含みます。

Context Windowとは?

Context Window(コンテキストウィンドウ)は、言語モデルが1回のインタラクションで「見る」ことができ、処理できる情報の最大量を表します。トークン単位で測定されます(英語では約4文字が1トークン)。この制限を超えるものは、モデルからは単純に見えません。

現在のContext Windowサイズ

  • GPT-4o: 128,000トークン(約96,000語)
  • Claude 3.5 Sonnet: 200,000トークン(約150,000語)
  • Gemini 1.5 Pro: 1,000,000トークン(約750,000語)

パフォーマンスへの影響

  • 長い会話: 時間の経過とともに最初のメッセージがウィンドウから「出ていく」
  • ドキュメント分析: 大きなドキュメントは全体が収まらない可能性がある
  • コスト: Context Windowが埋まるほど、リクエストあたりのコストが高くなる

Context WindowとAI Labs Audit

MCPを介してAIアシスタントでAI Labs Auditを使用する場合、Context Windowのサイズによって、同時に分析できる監査データの量が決まります。大きなウィンドウを持つモデル(Claude、Gemini)では、クライアントポートフォリオ全体を1つの会話で分析できます。

顧客がブランド名を挙げずにAIに尋ねると、別の誰かが推薦されます。運用中のブランドはどうでしょう?

ChatGPTへの質問で回答にブランド名が挙がらなければ、その分だけ競合が代わりに推奨されます,, 実際のAI回答6,820件で測定。