파인튜닝이란 LLM의 동작을 조정하거나 지식을 특화하기 위해 특정 데이터셋으로 추가 학습을 진행하는 기법입니다. GPT-4와 같은 범용 모델도 의료 데이터로 파인튜닝하면 해당 분야에서 더 나은 답변을 제공할 수 있습니다. AEO 관점에서 파인튜닝을 이해하면 동일한 주제에 대해 서로 다른 AI가 다르게 답변하는 이유를 파악하는 데 도움이 됩니다.
파인튜닝 작동 방식
1. 데이터 선정: 목표에 맞는 데이터셋(질문-답변 예시, 전문 문서)을 구성합니다.
2. 지도 학습: 모델이 새로운 데이터의 패턴을 재현하도록 학습합니다.
3. 검증: 모델이 목표 분야에서 더 나은 답변을 하는지 테스트를 통해 확인합니다.
파인튜닝의 유형
특화 파인튜닝: 모델을 특정 분야(의료, 법률)에 맞게 조정합니다.
스타일 파인튜닝: 답변의 어조나 길이를 조정합니다.
RLHF: 인간 피드백 기반 강화학습(Reinforcement Learning from Human Feedback)입니다.
파인튜닝 대 RAG
| 구분 | 파인튜닝 | RAG |
|---|---|---|
| 데이터 | 모델 내부에 반영됨 | 실시간으로 조회 |
| 업데이트 | 재학습 필요 | 실시간 반영 |
| 비용 | 높음 | 낮음 |
AI 답변에서 브랜드는 6번 중 1번만 나타납니다. 귀사는 나타납니까?
답변에 귀사의 이름이 없는 ChatGPT에 대한 모든 질문은 귀사 대신 추천되는 경쟁사입니다 — 6,820개의 실제 AI 답변에서 측정되었습니다.