La réponse en deux lignes
Si vos connaissances évoluent plus vite qu'une fois par trimestre, utilisez le RAG. Si vous avez besoin d'un format de sortie spécifique, d'une latence inférieure à 200 ms ou d'un raisonnement propre au domaine que le modèle de base ne peut pas produire de manière fiable, affinez. Les produits sérieux utilisent les deux : un petit modèle ouvert affiné comme moteur de raisonnement, le RAG fournissant des faits frais et citables. C'est la réponse ennuyeuse et correcte en 2026, celle que nous livrons 9 fois sur 10 pour les clients de notre offre RAG-as-a-Service.
Comment choisir entre RAG et fine-tuning en 2026 ?
Le débat entre RAG et affinage a été brouillé par une année de marketing. Les modèles à contexte long (Claude 4.6 Sonnet à 1M de tokens, Gemini 2.5 Pro à 2M) ont conduit certaines équipes à déclarer que « le RAG est mort ». Il ne l'est pas, et il ne le sera pas. Le contexte long déplace la frontière ; il ne l'efface pas. Le cadre que nous utilisons pour choisir :
- Quelle doit être la fraîcheur de la réponse ? Si les faits changent entre les coupures d'entraînement et l'inférence, vous ne pouvez pas les intégrer par affinage. Le RAG ou l'utilisation d'outils est la seule réponse honnête.
- Quelle est la taille du corpus ? En dessous d'environ 50 000 tokens de connaissances stables, le prompting en contexte suffit. Au-delà, le RAG commence à payer.
- Quelle est la spécificité de la sortie ? Si vous avez besoin d'un JSON strict, d'un DSL personnalisé, d'un ton ou de chaînes de raisonnement propres au domaine, l'affinage justifie son investissement.
- Quelles sont vos économies unitaires ? En dessous de 5M de tokens/jour, les modèles fermés hébergés l'emportent. Au-dessus de 50M de tokens/jour sur une charge de travail stable, un modèle affiné de 8 à 13B sur votre propre GPU est nettement moins cher.
- Quelle latence vous faut-il ? Un modèle 8B affiné auto-hébergé sur H200 fonctionne à 80–120 tokens/s pour un seul utilisateur avec une latence du premier token inférieure à 150 ms. Claude 4.6 Sonnet via API atteint 600–900 ms de latence du premier token depuis l'UE.
Côte à côte, les compromis s'alignent ainsi. Lisez-le comme « quel levier fait bouger cette dimension en votre faveur » — la plupart des équipes de production finissent dans la colonne Hybride à droite.
| Dimension | RAG | Fine-tuning | Hybride (stack 2026 typique) |
|---|---|---|---|
| Fraîcheur des connaissances | Temps réel — réindexez et la réponse change aujourd'hui | Figée à la date de coupe ; obsolète jusqu'au réentraînement | RAG fournit des faits frais, le fine-tuning garde un raisonnement stable |
| Taille de corpus rentable | > ~50k tokens de connaissances changeantes | Toute taille, mais les connaissances doivent être stables | Grand corpus frais + compétences de domaine stables |
| Contrôle de sortie (format, ton, DSL) | Faible — dépend du prompt | Fort — le modèle intériorise le motif | Le fine-tuning fixe le format, RAG remplit le contenu |
| Coût à l'échelle (> 50M tokens/jour) | Payer par appel API à chaque fois | Coût initial élevé, faible par token sur votre GPU | Un 8–13B affiné sur GPU + RAG réduit le plus le coût combiné |
| Latence (premier token) | La récupération ajoute 50–150 ms + latence du modèle | 8B auto-hébergé sur H200 < 150 ms | Petit modèle affiné maintient une faible latence, RAG asynchrone |
| Effort de configuration et maintenance | Modéré — pipeline, chunking, éval | Élevé — préparation des données, entraînement, MLOps, cadence de réentraînement | Le plus élevé, mais la seule réponse honnête pour des produits sérieux |
| Idéal quand | Les connaissances changent chaque semaine ; citations requises | Format/ton/raisonnement fixes ; volume élevé et stable | Vous avez besoin de faits frais et d'un comportement fiable |
RAG : ce qu'il est réellement en 2026 et pourquoi il domine encore
La génération augmentée par récupération en 2026 n'est plus le pipeline naïf « embarquer, rechercher, injecter dans le prompt » de 2023. Un système RAG en production en 2026 comporte au moins six composants, chacun impliquant une vraie décision d'ingénierie :
| Composant | Valeurs par défaut 2026 | Pourquoi c'est important |
|---|---|---|
| Ingestion / découpage | Pipelines LlamaIndex / Unstructured / Haystack, découpage sémantique à 400–800 tokens | 90 % des échecs RAG sont des échecs de découpage |
| Embeddings | Voyage-3, OpenAI text-embedding-3-large, BGE-M3 (ouvert) | Voyage-3 est en tête du classement MTEB ; BGE-M3 est la meilleure option open source |
| Store vectoriel | Qdrant, Weaviate, pgvector, Pinecone serverless | En dessous de 100M de vecteurs, pgvector sur le Postgres que vous faites déjà tourner est difficile à battre |
| Récupération hybride | BM25 + dense + filtre de métadonnées, fusion via RRF | La récupération purement dense est encore inférieure à l'hybride sur les corpus d'entreprise |
| Re-classement | Cohere Rerank 3, BGE-reranker-v2, Voyage Rerank-2 | Ajoute 50–80 ms mais améliore la précision top-3 de 15 à 30 points de pourcentage |
| Génération | Claude 4.6 Sonnet, GPT-4o, Gemini 2.5 Pro ou un modèle affiné auto-hébergé | Choisissez selon la latence et le coût, pas selon « le meilleur benchmark » |
Ce qui a changé ces 18 derniers mois : la récupération structurée. La recherche sémantique pure sur des chunks est inférieure aux pipelines multi-étapes qui combinent BM25, récupération dense, filtres de métadonnées et un re-classeur. Nous observons un bond de precision@5 de 0,62 (dense naïf) à 0,88 (hybride + re-classement) sur le même corpus, ce qui se traduit directement par moins de réponses hallucinées en aval.
Affinage : ce que cela signifie réellement en 2026
L'affinage en 2026 se divise clairement en deux camps :
- Adaptation d'adaptateur sur modèle fermé. OpenAI propose l'affinage de GPT-4o et o3-mini ; Google propose l'ajustement de Gemini 2.5 Flash ; Anthropic propose l'affinage de Claude 4.6 Haiku pour les clients AWS Bedrock. Vous téléchargez un JSONL d'exemples, payez par token d'entraînement et consommez via la même API.
- Affinage de modèle à poids ouverts. LoRA ou QLoRA sur Llama 4 (8B, 70B, 405B), Mistral Large 3, Mixtral 8×22B, Qwen 3 ou DeepSeek V3. Vous possédez les poids, contrôlez l'inférence et le coût unitaire chute de façon spectaculaire à grande échelle.
Ce en quoi l'affinage excelle : le format, le style, le vocabulaire du domaine et les chaînes de raisonnement que le modèle de base a vues mais ne peut pas reproduire de façon fiable. Llama 4 8B affiné sur 30 000 exemples de votre flux de travail de codage médical surpassera Claude 4.6 Sonnet en zéro-shot sur ce flux, tout en fonctionnant à 3 % du coût.
Ce en quoi l'affinage est mauvais : enseigner de nouveaux faits. Malgré une décennie de publications, l'insertion de connaissances paramétriques par affinage reste peu fiable. Les modèles mémorisent certains faits, en généralisent d'autres mal, et confabulent sur les cas limites. Si vous affinez pour « enseigner » au modèle votre catalogue produit, vous passerez trois mois à chasser des cas limites qu'un pipeline RAG résout en une semaine.
Les benchmarks qui comptent pour comparer
Les benchmarks publics sont devenus un mauvais indicateur des performances en production, mais certains aident encore à comparer les modèles de base que vous envisagez d'affiner :
- MMLU et MMLU-Pro : étendue des connaissances générales. Claude 4.6 Opus et GPT-4o dépassent tous deux 90 ; Llama 4 70B autour de 84 ; Mistral Large 3 autour de 82.
- GPQA Diamond : raisonnement de niveau master. o3 mène à ~88 ; Claude 4.6 Opus ~85 ; Gemini 2.5 Pro ~83.
- SWE-bench Verified : génie logiciel en conditions réelles. Claude 4.6 Sonnet mène à ~72 % ; o3 ~70 % ; Gemini 2.5 Pro ~65 %.
- HumanEval+, LiveCodeBench : coding sous contrôle de contamination.
- Votre propre jeu d'évaluation. Toujours. Aucun benchmark public ne prédit les performances sur vos données.
Coûts : chiffres réels 2026
Voici ce que nous payons réellement en mai 2026, par million de tokens, pour les modèles de production les plus courants :
| Modèle | Entrée / 1M | Sortie / 1M | Contexte |
|---|---|---|---|
| Claude 4.6 Opus | 15 $ | 75 $ | 1M |
| Claude 4.6 Sonnet | 3 $ | 15 $ | 1M |
| Claude 4.6 Haiku | 0,80 $ | 4 $ | 200k |
| GPT-4o | 2,50 $ | 10 $ | 128k |
| o3 | 10 $ | 40 $ | 200k |
| Gemini 2.5 Pro | 1,25 $ | 5 $ | 2M |
| Gemini 2.5 Flash | 0,15 $ | 0,60 $ | 1M |
| Llama 4 70B (auto-hébergé, 8×H200) | ~0,40 $ | ~0,60 $ | 128k |
| Llama 4 8B affiné (1×H200) | ~0,10 $ | ~0,15 $ | 128k |
| DeepSeek V3 (API) | 0,27 $ | 1,10 $ | 128k |
Coûts d'affinage en 2026, ce que nous payons réellement :
- Llama 4 8B LoRA sur 50 000 exemples : 200–600 € par exécution sur un H200 loué (8 à 24 heures à 3–5 €/heure).
- Llama 4 70B LoRA sur 50 000 exemples : 1 500–4 000 € sur 4×H200 en 18 à 36 heures.
- Affinage complet Llama 4 70B : 4 000–12 000 € sur 8×H200.
- Affinage GPT-4o : ~25 $/1M de tokens d'entraînement via l'API OpenAI.
- Ajustement Gemini 2.5 Flash : ~8–12 $/1M de tokens d'entraînement.
Ajoutez 30–50 % pour la construction du jeu d'évaluation et 2 à 3 itérations pour converger.
Le schéma hybride utilisé par la plupart des stacks en production
Pour les déploiements en entreprise de taille moyenne à grande, notre architecture par défaut est :
- Générateur : un Llama 4 8B ou dérivé de Mistral 7B affiné avec LoRA, entraîné sur 20 000 à 80 000 exemples du raisonnement de domaine et du format de sortie du client. Hébergé sur un seul H200 ou partagé avec vLLM pour le débit.
- Récupérateur : pgvector hybride + BM25, avec filtres de métadonnées et Cohere Rerank 3.
- Routeur : un petit appel Claude 4.6 Haiku décide s'il faut répondre à partir du contexte précédent, activer la récupération ou escalader vers un modèle plus puissant.
- Escalade : Claude 4.6 Sonnet ou o3 pour les 5 à 10 % de requêtes nécessitant un raisonnement plus profond.
- Ciment : DSPy pour l'optimisation des prompts, serveurs MCP pour des frontières d'outils propres, SDK Anthropic pour le client d'escalade.
Cela revient typiquement à 0,30–0,80 € pour 1 000 interactions utilisateur tout compris, contre 1,50–4,00 € pour un pipeline Claude 4.6 Sonnet pur effectuant le même travail — et vous disposez d'un modèle qui vous appartient.
Stack de référence que nous livrons
- Ingestion : LlamaIndex + Unstructured (PDF, DOCX, diaporamas, formulaires scannés), Haystack pour l'orchestration de pipeline quand le traitement de graphes est intensif.
- Base de données vectorielle : pgvector (moins de 100M de vecteurs), Qdrant (plus de 100M ou multi-tenant), Weaviate quand graphe + vecteur sont importants.
- Embeddings : Voyage-3 (fermé, leader MTEB) ou BGE-M3 (ouvert).
- Re-classeur : Cohere Rerank 3 (API) ou BGE-reranker-v2-m3 (auto-hébergé).
- Couche prompt + programme : DSPy pour les programmes optimisables ; LangChain encore acceptable mais de plus en plus remplacé.
- Surface agent : les serveurs MCP exposent proprement récupération, outils et sources de données à un ou plusieurs clients LLM.
- Évaluation : Ragas, TruLens, plus notre propre jeu de référence retenu par client.
- Observabilité : Langfuse, Helicone, Datadog LLM Observability.
Pour une build de référence, consultez notre service d'intégration GenAI et la page parallèle IA/ML & Ingénierie des données.
Cinq erreurs coûteuses
- Affiner pour « enseigner » des faits. Cela ne fonctionne pas de manière fiable. Utilisez le RAG.
- Ignorer l'évaluation. Si vous ne pouvez pas mesurer la correction sur un jeu de test retenu, vous ne pouvez pas vous améliorer. Construisez l'évaluation avant le modèle.
- Aller directement vers un modèle frontier quand vous avez besoin de débit. Claude 4.6 Opus sur une charge de travail interne à fort volume brûle un budget que vous pourriez allouer à des ingénieurs. Commencez avec Haiku ou Gemini Flash, escaladez seulement quand la précision l'exige.
- Découpage naïf. Des chunks de taille fixe découpent les tableaux et le code. Utilisez un découpage sémantique + structurel. Testez avec de vrais documents dès le premier jour.
- Ignorer l'Acte européen sur l'IA. Si vous déployez dans l'UE, vos pipelines RAG et d'affinage ont de nouvelles obligations de traçabilité depuis août 2026. Nous couvrons ce sujet en détail sous la conformité à l'Acte IA de l'UE.
FAQ
Le RAG est-il toujours moins coûteux que l'affinage ?
Pour des connaissances changeantes, oui. Au-delà d'environ 50M de tokens/jour sur des charges de travail stables, un modèle ouvert affiné de 8 à 13B est moins cher à l'inférence.
Le contexte long sonne-t-il le glas du RAG ?
Non. Injecter 1M de tokens par requête coûte environ 3 $ sur Claude 4.6 Sonnet et ajoute 30 à 90 secondes de latence. Le RAG maintient coût et latence bas.
Quand l'affinage surpasse-t-il sans ambiguïté ?
Formats de sortie spécifiques, raisonnement de domaine que le modèle de base ne peut pas produire de manière fiable, ou latence inférieure à 200 ms à fort débit.
Quelle est la stack par défaut 2026 ?
LlamaIndex + pgvector ou Qdrant + Cohere Rerank 3 + Claude 4.6 Sonnet, avec DSPy pour l'optimisation des prompts et MCP pour les frontières d'outils.
Combien coûte un affinage Llama 4 ?
200–600 € pour un LoRA 8B sur 50k exemples ; 4 000–12 000 € pour un affinage complet 70B sur 8×H200.
Peut-on combiner RAG et affinage ?
Oui, et c'est la configuration par défaut en production pour les produits sérieux : raisonnement affiné + faits récupérés.
Dernière mise à jour le 26 mai 2026. Les tarifs et benchmarks reflètent les grilles tarifaires des fournisseurs et les classements publics en date de mai 2026.
