技術

ファインチューニング

ファインチューニングとは、LLMを特定のデータセットで追加トレーニングし、その動作を適応させたり知識を専門化させる手法です。GPT-4のような汎用モデルを医療データでファインチューニングすることで、その分野での回答精度を向上させることができます。AEOの観点では、ファインチューニングを理解することで、なぜ特定のAIが同じトピックに対して異なる回答をするのかを把握できます。

ファインチューニングの仕組み

1. データの選定:ターゲットとなるデータセット(質問と回答の例、専門文書など)を用意します。

2. 教師あり学習:モデルが新しいデータのパターンを再現できるよう学習します。

3. 検証:ターゲット分野でモデルがより適切に回答できるかをテストします。

ファインチューニングの種類

専門化のためのファインチューニング:医療、法律などの特定分野にモデルを適応させます。

スタイルのためのファインチューニング:トーンや回答の長さを調整します。

RLHF:人間のフィードバックからの強化学習(Reinforcement Learning from Human Feedback)。

ファインチューニング vs RAG

側面ファインチューニングRAG
データモデルに統合リアルタイムで参照
更新再トレーニングが必要リアルタイム
コスト高い低い
顧客がブランド名を挙げずにAIに尋ねると、別の誰かが推薦されます。運用中のブランドはどうでしょう?

ChatGPTへの質問で回答にブランド名が挙がらなければ、その分だけ競合が代わりに推奨されます,, 実際のAI回答6,820件で測定。