ファインチューニングとは、LLMを特定のデータセットで追加トレーニングし、その動作を適応させたり知識を専門化させる手法です。GPT-4のような汎用モデルを医療データでファインチューニングすることで、その分野での回答精度を向上させることができます。AEOの観点では、ファインチューニングを理解することで、なぜ特定のAIが同じトピックに対して異なる回答をするのかを把握できます。
ファインチューニングの仕組み
1. データの選定:ターゲットとなるデータセット(質問と回答の例、専門文書など)を用意します。
2. 教師あり学習:モデルが新しいデータのパターンを再現できるよう学習します。
3. 検証:ターゲット分野でモデルがより適切に回答できるかをテストします。
ファインチューニングの種類
専門化のためのファインチューニング:医療、法律などの特定分野にモデルを適応させます。
スタイルのためのファインチューニング:トーンや回答の長さを調整します。
RLHF:人間のフィードバックからの強化学習(Reinforcement Learning from Human Feedback)。
ファインチューニング vs RAG
| 側面 | ファインチューニング | RAG |
|---|---|---|
| データ | モデルに統合 | リアルタイムで参照 |
| 更新 | 再トレーニングが必要 | リアルタイム |
| コスト | 高い | 低い |
顧客がブランド名を挙げずにAIに尋ねると、別の誰かが推薦されます。運用中のブランドはどうでしょう?
ChatGPTへの質問で回答にブランド名が挙がらなければ、その分だけ競合が代わりに推奨されます,, 実際のAI回答6,820件で測定。