SFT (Supervised Fine-Tuning)
Entraînement supervisé classique sur un dataset de paires entrée-sortie. Méthode de base, applicable à tous les modèles. Coût proportionnel à la taille du modèle.
Guide technique
Fine-tuning
Fine-tuning — adapter un Large Language Model à votre métier.
Le fine-tuning consiste à entraîner un LLM existant sur un dataset spécifique pour adapter son comportement, son style ou ses connaissances. Option technique puissante mais souvent surinvoquée : la plupart des cas d'usage entreprise sont résolus plus simplement par RAG et prompt engineering avancé. Méthodes : SFT, LoRA, QLoRA, DPO. À industrialiser via MLOps.
Définition
Qu'est-ce que le fine-tuning
Le fine-tuning consiste à entraîner un LLM pré-existant sur un jeu de données spécifique pour adapter son comportement, son style, son vocabulaire ou ses connaissances spécialisées. C'est l'option d'adaptation la plus technique et la plus coûteuse, à différencier de prompt engineering (configuration par instruction) et RAG (enrichissement par documents).
Le fine-tuning est souvent surinvoqué en entreprise. La grande majorité des cas d'usage qui semblent justifier un fine-tuning se résolvent en réalité plus simplement et plus durablement avec un RAG bien conçu et un prompt engineering soigné. Le fine-tuning ne devrait être considéré qu'après échec des deux autres approches.
Comparaison
Fine-tuning vs RAG vs prompt engineering
| Critère | Prompt engineering | RAG | Fine-tuning |
|---|---|---|---|
| Coût initial | Très faible | Modéré | Élevé |
| Mise à jour | Instantanée | Réindexation simple | Réentraînement coûteux |
| Données nécessaires | Quelques exemples | Base documentaire | Centaines à milliers d'exemples annotés |
| Verrouillage modèle | Faible | Modéré | Fort (modèle dédié) |
| Adapté pour | Format, ton, instructions | Connaissance documentaire | Style très spécifique, raisonnement spécialisé |
| Maintenabilité | Excellente | Bonne | Lourde (réentraînements répétés) |
Notre recommandation : commencer par prompt engineering, puis RAG si nécessaire, puis fine-tuning en dernier recours. C'est l'ordre de coût et de complexité croissants.
Méthodes
Quatre techniques de fine-tuning
LoRA (Low-Rank Adaptation)
Technique d'efficacité paramétrique : on n'entraîne qu'une petite partie du modèle (matrices de rang faible). Coût significativement réduit, qualité proche du fine-tuning complet sur la plupart des cas.
QLoRA (Quantized LoRA)
Variante de LoRA avec quantization 4-bits, réduisant encore les besoins en mémoire GPU. Permet le fine-tuning de modèles importants sur du matériel grand public.
DPO (Direct Preference Optimization)
Méthode récente pour aligner un modèle sur des préférences humaines, sans avoir besoin d'un modèle de récompense séparé. Alternative simplifiée au RLHF traditionnel.
Cas d'usage
Quand le fine-tuning est justifié
- Style éditorial très spécifique qui ne peut pas être capturé par un prompt (ton de marque très singulier sur de gros volumes).
- Vocabulaire technique pointu où le modèle généraliste produit des termes incorrects (médecine spécialisée, droit ultra-spécifique, jargon métier).
- Format de sortie strict systématiquement violé par prompt seul (JSON très structuré, format propriétaire).
- Tâche de raisonnement spécialisée où les modèles génériques échouent malgré un prompt engineering soigné.
- Latence ou coût critique où un modèle plus petit fine-tuné devient préférable à un grand modèle généraliste.
Coûts
Budget et complexité d'un fine-tuning
- Préparation des données : généralement 60 à 80 % du coût total. Annotation de qualité, validation, nettoyage. Compter plusieurs semaines pour un dataset entreprise sérieux.
- Coût d'entraînement : variable selon le modèle et la méthode. De quelques centaines d'euros (LoRA sur modèle moyen) à plusieurs dizaines de milliers (fine-tuning complet sur grand modèle).
- Hébergement du modèle fine-tuné : coûts d'inférence dédiés, supérieurs à l'usage d'un modèle managé partagé.
- Maintenance : réentraînement à chaque mise à jour des données ou évolution du modèle de base. Effort récurrent non négligeable.
Industrialisation indispensable via MLOps. Sans MLOps, un fine-tuning devient ingérable dans la durée.
Parlons de votre projet
Un appel stratégique pour cadrer votre démarche IA.
Échangez avec un dirigeant Expert IA pour structurer votre projet d'intelligence artificielle — diagnostic du contexte, identification des cas d'usage prioritaires, cadrage de la démarche.