RAG(Retrieval-Augmented Generation)는 AI가 답변을 생성하기 전에 웹에서 정보를 검색할 수 있게 해주는 아키텍처입니다. 고정된 학습 데이터에만 의존하는 대신, 모델은 최신 콘텐츠를 가져와 분석하고 종합하여 출처가 명시된 답변을 만들어냅니다. 웹 브라우징 기능을 갖춘 ChatGPT, Perplexity, Google의 AI Overviews는 모두 RAG를 사용합니다.
RAG의 작동 방식
이 과정은 세 가지 뚜렷한 단계로 이루어집니다.
1. 질의 분석: AI는 사용자의 질문을 검색 의도로 분해합니다.
2. 검색(Retrieval): 시스템은 검색 엔진(ChatGPT의 경우 Bing, Perplexity의 경우 자체 인덱스)에 질의하여 가장 관련성 높은 발췌 내용을 가져옵니다.
3. 증강 생성: AI는 검색된 정보를 기존 지식과 종합하여 일관된 답변을 작성합니다.
RAG가 가시성의 판도를 바꾸는 이유
RAG는 LLM에 대한 당신의 실행 창구입니다. 모델의 학습 데이터는 이미 고정되어 있어 소급 수정이 불가능합니다. 하지만 검색 시스템에 의해 선택되도록 콘텐츠를 최적화하는 것은 가능합니다.
Bing이 전략적으로 중요해집니다: ChatGPT는 RAG를 위해 Bing을 사용합니다. Bing에서의 위치는 ChatGPT 답변에서의 가시성에 직접적인 영향을 미칩니다.
콘텐츠의 구조가 중요합니다: RAG는 페이지 전체가 아니라 특정 구절을 추출합니다. 독립적인 블록으로 잘 구조화된 콘텐츠일수록 선택될 가능성이 높습니다.
RAG와 학습 데이터 비교
| 측면 | 학습 데이터 | RAG |
|---|---|---|
| 시점 | 특정 시점에 고정 | 실시간 |
| 통제 가능성 | 거의 없음 | 최적화 가능 |
| 인용 | 출처 표기가 드묾 | 출처가 명확히 표시됨 |
| 실행 소요 기간 | 몇 달~몇 년 | 몇 주 |
답변에 귀사의 이름이 없는 ChatGPT에 대한 모든 질문은 귀사 대신 추천되는 경쟁사입니다 — 6,820개의 실제 AI 답변에서 측정되었습니다.