Fine-tuning, RAG ou prompt engineering : quelle approche pour adapter un LLM à votre entreprise ?

Adapter un grand modèle de langage (LLM) aux besoins de votre entreprise est l'une des décisions techniques les plus structurantes d'un projet IA. Trois approches coexistent : le prompt engineering, le RAG (Retrieval-Augmented Generation) et le fine-tuning. Elles ne sont pas interchangeables, et choisir la mauvaise peut vous coûter des mois de travail pour un résultat inférieur à ce qu'un prompt bien construit aurait produit en quelques jours.

Voici un cadre de décision fondé sur les coûts réels, les contraintes données et la charge de maintenance.

Prompt engineering : la fondation obligatoire

Le prompt engineering consiste à structurer l'instruction envoyée au modèle, sans modifier le modèle lui-même. Un system prompt précis, des exemples en contexte (few-shot), une chaîne de raisonnement guidée (chain-of-thought) : ce sont les leviers disponibles, et ils sont plus puissants que leur réputation ne le laisse entendre.

Pour une très large majorité de cas B2B, un prompt bien conçu suffit. Classification de tickets support, génération de résumés de réunion, extraction d'informations structurées depuis un email, rédaction d'une proposition commerciale à partir d'un brief : ces tâches ne requièrent pas de réentraîner le moindre poids neuronal.

Les avantages sont concrets. Le prompt engineering est réversible en quelques minutes, ne nécessite aucune donnée d'entraînement, et produit les premiers résultats en heures plutôt qu'en semaines. C'est la première étape systématique avant d'envisager quoi que ce soit de plus lourd.

Sa limite principale : lorsque le modèle doit accéder à des connaissances spécifiques à votre entreprise (catalogue produit, documentation technique, historique client), injecter ces données dans le prompt atteint vite les limites de la fenêtre contextuelle et devient peu maintenable.

RAG : la solution pour les connaissances métier

Le RAG sépare deux choses que beaucoup confondent : la capacité de raisonnement du modèle et la connaissance factuelle dont il a besoin pour répondre. Le modèle reste intact. Ce qui change, c'est que chaque requête déclenche d'abord une recherche dans votre base documentaire, et les passages pertinents sont injectés dynamiquement dans le contexte avant génération.

Le bénéfice opérationnel est immédiat : mettre à jour votre base de connaissances (nouvelle version de vos CGV, nouveau catalogue tarifaire, nouvelle réglementation sectorielle) ne nécessite aucun réentraînement. Le modèle lit les nouveaux documents dès la prochaine requête.

Du point de vue des coûts, le RAG est sensiblement plus accessible que le fine-tuning. L'infrastructure d'indexation (base vectorielle, pipeline d'ingestion documentaire) représente une charge initiale de mise en place, mais les coûts mensuels restent maîtrisés, généralement entre 70 et quelques centaines d'euros par mois selon les volumes, sans surcoût d'inférence lié à un modèle affiné.

Le RAG réduit également les hallucinations : le modèle génère ses réponses à partir de sources explicites et vérifiables, ce qui facilite l'audit et la traçabilité, deux impératifs dans les environnements B2B soumis à des contraintes de conformité.

Pour approfondir les mécanismes techniques du RAG, la méthode RAG et ses composants clés sont détaillés dans un article dédié.

Fine-tuning : puissant, coûteux, rarement indispensable

Le fine-tuning réentraîne une partie des poids du modèle sur vos propres données. Le modèle internalise un comportement, un style ou un vocabulaire. Contrairement au RAG, il n'a plus besoin de récupérer des documents externes : la connaissance est encodée dans ses paramètres.

C'est l'approche la plus performante pour des tâches très spécialisées. Un modèle affiné sur des milliers d'ordonnances médicales reconnaîtra des formulations que le modèle de base ne comprend pas. Un modèle entraîné sur votre style éditorial produira des textes indiscernables de votre voix sans instruction explicite.

Le revers est triple.

Coût d'entraînement. Une session de fine-tuning sur GPT-4o mini coûte environ 5 USD par million de tokens d'entraînement chez OpenAI. Un jeu de données représentatif de plusieurs milliers d'exemples annotés représente souvent plusieurs centaines d'euros par run, auxquels s'ajoute le coût de la préparation et de l'annotation des données.

Surcoût d'inférence. Un modèle affiné coûte environ six fois plus cher à l'inférence qu'un modèle de base comparable. Sur des volumes B2B significatifs, cet écart se ressent rapidement.

Maintenance active. Le model drift est une réalité : lorsque vos données ou vos processus évoluent, le modèle affiné décroche progressivement. Il faut surveiller les performances, définir des seuils d'alerte et planifier des cycles de réentraînement. C'est une charge opérationnelle continue, pas un investissement ponctuel.

Le fine-tuning est justifié dans des cas précis : format de sortie très contraint que le prompting ne stabilise pas (JSON structuré complexe, protocoles réglementaires stricts), vocabulaire métier très rare absent des données d'entraînement du modèle de base, ou volume d'appels suffisamment élevé pour que l'économie sur les tokens contextuels compense les coûts d'entraînement.

Le tableau de décision

| Critère | Prompt engineering | RAG | Fine-tuning | |---|---|---|---| | Temps de déploiement | Heures | Jours à semaines | Semaines à mois | | Données requises | Aucune | Base documentaire | Milliers d'exemples annotés | | Coût initial | Faible | Moyen | Elevé | | Coût d'inférence | Standard | Standard | 4 à 6x supérieur | | Mise à jour des connaissances | Réécriture du prompt | Mise à jour documentaire | Réentraînement | | Traçabilité des réponses | Partielle | Excellente (sources citées) | Opaque | | Cas d'usage principal | Tâches génériques structurées | Connaissances métier évolutives | Comportement très spécialisé |

Pourquoi RAG + prompting suffit à la majorité des cas B2B

La plupart des projets IA en entreprise ne se heurtent pas à un problème de capacité du modèle. Ils se heurtent à un problème d'accès à l'information. Le modèle ne sait pas ce que contient votre documentation interne, votre CRM, vos contrats ou vos bases produit, parce que ces informations n'ont jamais fait partie de son entraînement.

Le RAG résout précisément ce problème, sans les contraintes du fine-tuning. Combiné à un prompt system structuré qui cadre le rôle, le ton et le format attendu, il couvre l'immense majorité des besoins : agent de support client connecté à votre base de connaissances, assistant commercial qui consulte vos fiches produit en temps réel, générateur de rapports qui synthétise vos données CRM, ou agent de qualification qui suit votre grille de scoring.

Nos agents explorent cette architecture en détail. La méthode que nous appliquons part systématiquement du prompting, intègre le RAG dès que la base documentaire est identifiée, et ne recommande le fine-tuning qu'après avoir épuisé ces deux leviers.

Le fine-tuning reste un outil pertinent, mais pour une minorité de situations. Le risque le plus fréquent en entreprise n'est pas de sous-investir dans le fine-tuning : c'est de l'engager prématurément, avant d'avoir validé qu'un bon prompt et une base documentaire structurée ne suffisent pas.

Pour aller plus loin

Avant de choisir une architecture d'adaptation, il est utile de comprendre ce que le RAG implique concrètement en termes de pipeline de données et de gestion des embeddings. L'article RAG : mécanismes et cas d'usage approfondit ces points. Pour les équipes qui évaluent plusieurs modèles de base avant d'affiner leur choix, le guide choisir son modèle LLM pour un usage business complète utilement cette réflexion.

---

Vous souhaitez évaluer quelle approche correspond à votre contexte ? Consultez les options disponibles ou parcourez nos agents spécialisés pour voir comment cette architecture s'applique à des cas concrets.

Questions fréquentes

Quelle est la différence entre le fine-tuning et le RAG ?

Le fine-tuning modifie les poids internes du modèle en le réentraînant sur vos données. Le RAG (Retrieval-Augmented Generation) laisse le modèle intact et lui fournit, au moment de la requête, les documents pertinents extraits de votre base de connaissances. Le RAG est plus rapide à déployer, moins coûteux et permet de mettre à jour les informations sans réentraîner le modèle.

Le prompt engineering est-il suffisant pour un usage B2B sérieux ?

Dans la majorité des cas oui. Un system prompt bien structuré, combiné à du few-shot learning (quelques exemples en contexte), permet d'obtenir des résultats solides pour des tâches de classification, de rédaction ou de synthèse sans aucune donnée d'entraînement supplémentaire. Le prompt engineering constitue toujours la première étape avant d'envisager des approches plus lourdes.

Quand le fine-tuning est-il vraiment justifié ?

Le fine-tuning devient pertinent lorsque vous avez un format de sortie très contraint que les prompts ne permettent pas d'obtenir de façon stable (ex. JSON structuré complexe, style rédactionnel très spécifique), ou lorsque vous traitez un vocabulaire métier extrêmement rare absent des données d'entraînement du modèle de base. Il nécessite plusieurs milliers d'exemples annotés, un budget de plusieurs centaines à plusieurs milliers d'euros par session d'entraînement, et une maintenance active pour prévenir le model drift.

Peut-on combiner RAG et fine-tuning ?

Oui, et c'est l'approche retenue dans les domaines exigeants comme la santé, le droit ou la finance. Le fine-tuning ancre un comportement stable et un vocabulaire métier, tandis que le RAG fournit les informations factuelles à jour. Cette combinaison est cependant coûteuse à opérer et rarement nécessaire pour une PME ou un éditeur SaaS B2B standard.

Combien coûte le fine-tuning d'un LLM en 2025 ?

Les coûts varient selon le modèle et le volume de données. À titre indicatif, OpenAI facture environ 5 USD pour 1 million de tokens d'entraînement sur GPT-4o mini. Une session complète sur un jeu de données métier représente souvent plusieurs centaines d'euros, auxquels s'ajoute un surcoût d'inférence estimé à 6 fois celui du modèle de base non affiné. La maintenance régulière pour contrer le model drift alourdit encore la facture.