AI 기술

컨텍스트 윈도우 (Context Window)

컨텍스트 윈도우는 언어 모델이 한 번에 처리할 수 있는 최대 텍스트량(토큰으로 측정)으로, 입력과 출력을 모두 포함한다.

컨텍스트 윈도우란?

컨텍스트 윈도우는 언어 모델이 단일 상호작용에서 "볼" 수 있고 처리할 수 있는 최대 정보량이다. 토큰으로 측정되며(영어 기준 토큰당 약 4자), 이 한계를 넘는 내용은 모델이 인식하지 못한다.

현재 컨텍스트 윈도우 크기

  • GPT-4o: 128,000 토큰(~96,000 단어)
  • Claude 3.5 Sonnet: 200,000 토큰(~150,000 단어)
  • Gemini 1.5 Pro: 1,000,000 토큰(~750,000 단어)

성능에 미치는 영향

  • 긴 대화: 시간이 지나면 앞선 메시지가 윈도우에서 "떨어져 나감"
  • 문서 분석: 큰 문서는 전체가 들어가지 않을 수 있음
  • 비용: 컨텍스트 윈도우가 채워질수록 요청당 비용 상승

컨텍스트 윈도우와 AILabsAudit

AI 어시스턴트와 함께 MCP로 AILabsAudit을 사용할 때 컨텍스트 윈도우 크기는 동시에 분석할 수 있는 감사 데이터의 양을 결정한다. 큰 윈도우를 가진 모델(Claude, Gemini)은 단일 대화에서 전체 고객사 포트폴리오를 분석할 수 있게 한다.

고객이 브랜드명 없이 AI에 물으면 다른 곳이 추천됩니다. 담당 브랜드는 어떤가요?

ChatGPT에 대한 질문에서 답변에 브랜드가 언급되지 않을 때마다, 그 자리에는 경쟁사가 추천됩니다: 6,820개의 실제 AI 답변으로 측정된 결과입니다.