Il fine-tuning è un addestramento supplementare di un LLM su un set di dati specifico, per adattarne i comportamenti o specializzarne le conoscenze. Un modello generalista come GPT-4 può essere sottoposto a fine-tuning su dati medici per migliorare le sue risposte in questo ambito. Per l'AEO, comprendere il fine-tuning aiuta a capire perché alcune IA rispondono in modo diverso su argomenti identici.
Come funziona il fine-tuning
1. Selezione dei dati: un set di dati mirato (esempi di domande e risposte, documenti specializzati).
2. Addestramento supervisionato: il modello impara a riprodurre gli schemi presenti nei nuovi dati.
3. Validazione: test per verificare che il modello risponda meglio nel dominio target.
Tipi di fine-tuning
Fine-tuning di specializzazione: adattare il modello a un dominio specifico (medico, giuridico).
Fine-tuning di stile: modificare il tono o la lunghezza delle risposte.
RLHF: Reinforcement Learning from Human Feedback.
Fine-tuning vs RAG
| Aspetto | Fine-tuning | RAG |
|---|---|---|
| Dati | Integrati nel modello | Consultati al volo |
| Aggiornamento | Nuovo addestramento | Tempo reale |
| Costo | Elevato | Basso |
Ogni domanda posta a ChatGPT senza il tuo nome nella risposta è un competitor raccomandato al posto tuo — misurato su 6.820 risposte AI reali.