Fine-tuning (messa a punto di un modello AI)
Il fine-tuning è la messa a punto di un modello di AI già addestrato con esempi propri di un compito. Serve a ottenere risposte più coerenti in stile, formato o tipo di lavoro. Non serve ad aggiungere conoscenze aggiornate, per le quali si usano di solito documenti collegati al modello. Richiede dati curati e valutazioni.
Cos’è il fine-tuning e come funziona
Un LLM viene addestrato una prima volta su enormi quantità di testo. Il fine-tuning è un secondo addestramento, più breve e mirato, con un insieme di esempi scelti dall’organizzazione. Ogni esempio mostra una richiesta e la risposta desiderata. Il modello aggiusta i propri parametri e impara a produrre risposte più vicine a quegli esempi.
La documentazione sul supervised fine-tuning di OpenAI lo descrive così: si addestra il modello con esempi del proprio caso d’uso, per ottenere un modello personalizzato che produce con più affidabilità lo stile e il contenuto voluti. Il principio vale anche per i modelli di altri fornitori e per quelli a pesi aperti.
Quando ha senso il fine-tuning
- Classificazione: assegnare ticket, email o documenti a categorie con criteri propri dell’azienda.
- Formato fisso: produrre sempre la stessa struttura, per esempio una scheda con campi precisi.
- Tono e stile: scrivere risposte nel registro del marchio.
- Istruzioni seguite male: correggere errori che il modello commette in modo ripetuto nonostante un buon prompt.
- Compiti ripetitivi ad alto volume, dove un modello più piccolo e specializzato costa meno di uno grande.
Differenza tra fine-tuning, prompt e RAG
| Tecnica | Cosa cambia | Adatta per | Costo di partenza |
|---|---|---|---|
| Prompt engineering | Le istruzioni date al modello | Quasi tutti i casi, come primo tentativo | Basso |
| RAG | I documenti consultati al momento della risposta | Dati aggiornati, riservati o molto numerosi | Medio |
| Fine-tuning | Il comportamento del modello | Stile, formato, classificazioni, errori ricorrenti | Medio-alto |
Il fine-tuning si presta poco a insegnare al modello fatti che cambiano, come listini, procedure o normative: ogni modifica richiederebbe un nuovo addestramento, con il rischio che il modello riporti comunque le informazioni in modo impreciso. Per quei casi la RAG è di solito più semplice e permette di indicare la fonte.
Dati di addestramento per il fine-tuning
Gli esempi si preparano di solito in un file con una riga per esempio, che contiene la richiesta dell’utente e la risposta corretta. La documentazione di OpenAI indica un minimo tecnico di 10 esempi e segnala miglioramenti con 50-100 esempi, consigliando di partire da 50 ben curati e di valutare i risultati. Gli esempi devono essere realistici, specifici e tratti da casi veri, scelti o corretti da esperti.
Esempi sbagliati, incoerenti o con dati personali non necessari insegnano al modello gli stessi difetti.
Misurare prima e dopo
La stessa documentazione raccomanda di impostare le valutazioni prima di avviare l’addestramento. Si prepara un insieme di richieste di prova, mai usate per addestrare. Poi si confrontano le risposte del modello di partenza con quelle del modello affinato. Se 50 esempi non producono alcun miglioramento, conviene rivedere il compito o il prompt prima di aggiungere dati.
Rischi e limiti del fine-tuning
- Overfitting: il modello memorizza gli esempi invece di imparare una regola generale. Fallisce su richieste diverse.
- Costi nascosti: preparare i dati, valutare, aggiornare il modello quando cambia il compito.
- Allucinazioni: il fine-tuning non le elimina. Va combinato con controlli, come spiega la voce sulle allucinazioni dell’AI.
- Dipendenza dal fornitore: un modello affinato su una piattaforma resta legato a quella piattaforma. OpenAI ha annunciato la chiusura della propria piattaforma di fine-tuning, non più accessibile ai nuovi utenti, con i job di addestramento per i clienti esistenti possibili fino al 6 gennaio 2027. Prima di investire conviene controllare lo stato attuale del servizio scelto.
Fine-tuning, privacy e proprietà dei dati
Gli esempi di addestramento contengono spesso dati di clienti o documenti interni. Prima di inviarli a un fornitore servono la verifica delle condizioni d’uso, la base giuridica del trattamento secondo il GDPR, l’eliminazione dei dati personali non necessari e un contratto che chiarisca come vengono conservati e se servono ad addestrare altri modelli.
Come valutare un progetto di fine-tuning
- Provare prima con un buon prompt e con la RAG, misurando i risultati.
- Definire il compito con criteri di successo numerici: percentuale di classificazioni corrette, tempo risparmiato, errori residui.
- Preparare esempi di qualità, rivisti da chi conosce il lavoro.
- Tenere un insieme di prova separato.
- Confrontare i costi: preparazione, addestramento, uso e manutenzione, contro il costo del modello di partenza.
- Pianificare l’aggiornamento e la possibilità di cambiare fornitore.