Ces deux opérations utilisent souvent les mêmes poids et le même type de calcul matriciel. Leur objectif, leur coût et leur organisation sont pourtant très différents.
Ce qui change vraiment
Pendant l'entraînement
Le système conserve les activations, calcule une erreur, remonte cette erreur et met à jour les poids.
- Données nombreuses et préparées
- Mémoire élevée pour les gradients
- Travail souvent réparti sur plusieurs GPU
Pendant l'inférence
Le système charge les poids, lit l'entrée et calcule une sortie sans modifier le modèle.
- Une ou plusieurs requêtes à la fois
- Pas de gradients à conserver
- Possible sur CPU, GPU ou accélérateur
Pourquoi l'entraînement coûte plus cher
Pour apprendre, le modèle effectue une passe avant afin de produire une prédiction, puis une passe arrière afin de savoir comment chaque paramètre a contribué à l'erreur. Il faut aussi stocker des gradients et l'état de l'optimiseur.
En pratique, entraîner un grand modèle depuis zéro demande des volumes de données, de calcul et d'énergie très éloignés d'un homelab classique. Faire fonctionner ce modèle en inférence peut pourtant tenir sur une seule machine, surtout avec une quantization adaptée.
Où placer fine-tuning et LoRA
Le fine-tuning reprend un modèle déjà entraîné et poursuit l'apprentissage sur un jeu de données ciblé. Il coûte moins cher qu'un entraînement depuis zéro, mais modifie encore de nombreux poids.
La méthode LoRA ajoute de petites matrices entraînables autour du modèle de base. Les poids principaux restent figés. On obtient un petit fichier d'adaptation, facile à distribuer et à combiner avec le modèle d'origine.
Le cycle complet
L'évaluation boucle autour de tout le cycle. Sans mesures adaptées, il est impossible de savoir si un entraînement a amélioré la tâche réelle ou seulement mémorisé les exemples.
Impact en local
Pour débuter, concentrez-vous sur l'inférence. Vous apprendrez déjà à choisir un modèle, mesurer sa mémoire, régler son contexte, comparer sa vitesse et connecter une interface. Le fine-tuning devient pertinent quand une limite précise résiste aux instructions, au RAG ou aux outils.
L’essentiel
- L'entraînement modifie les poids en mesurant l'erreur puis en la remontant ; l'inférence les lit sans les modifier.
- L'entraînement coûte beaucoup plus : gradients, état de l'optimiseur, gros volumes de données.
- Le fine-tuning poursuit l'entraînement sur des données ciblées ; LoRA n'entraîne que de petites matrices ajoutées.
- RAG, instructions et outils agissent au moment de l'inférence, sans réécrire les poids.
- Pour débuter en local, concentrez-vous sur l'inférence.
Testez-vous
Répondez de tête ou par écrit, puis vérifiez. Se tester juste après la lecture aide à retenir.
Pourquoi l'entraînement demande-t-il bien plus de mémoire que l'inférence ?
Voir la réponse
Il faut conserver les activations pour la passe arrière, stocker les gradients et l'état de l'optimiseur, en plus des poids eux-mêmes.
Ajouter des documents avec un système RAG, est-ce entraîner le modèle ?
Voir la réponse
Non. Le RAG ajoute des informations dans le contexte au moment de l'inférence. Les poids du modèle ne changent pas.
Qu'est-ce qui distingue LoRA d'un fine-tuning complet ?
Voir la réponse
LoRA garde les poids principaux figés et entraîne seulement de petites matrices d'adaptation. Le résultat est un petit fichier, combinable avec le modèle d'origine.
Sources et pour aller plus loin
- LoRA: Low-Rank Adaptation of Large Language Models : l'article fondateur de la méthode LoRA (Hu et al., 2021).
- Documentation PEFT de Hugging Face : les méthodes d'adaptation légère en pratique.
- Machine Learning Crash Course de Google : la descente de gradient et la séparation entraînement, validation, test.