Qu'est-ce que le RAG ? Comment l'IA répond à partir de vos propres documents

Interrogez un chatbot sur la politique de remboursement de votre entreprise et vous obtiendrez une réponse assurée qui n'a rien à voir avec votre entreprise. Le modèle n'a jamais vu votre politique : il a appris à partir d'un instantané de textes publics qui s'arrête à une date limite. La génération augmentée par récupération (en anglais, retrieval-augmented generation), presque toujours abrégée en RAG, est la solution standard. Avant que le modèle réponde, une étape de recherche trouve les passages pertinents dans vos propres documents et les lui transmet avec la question. Ce guide explique simplement ce qu'est le RAG, comment il fonctionne, quand il l'emporte sur le fine-tuning ou sur le fait de tout coller dans la conversation, comment l'utiliser sans coder et où il se trompe encore.

Ce que signifie le RAG, en termes simples

Le RAG, c'est un examen à livre ouvert pour un modèle d'IA. Sans lui, le modèle répond de mémoire, à partir des schémas qu'il a absorbés pendant son entraînement. Avec lui, on commence par lui donner quelques pages du bon livre, puis on lui demande de répondre à partir de ces pages. Le nom décrit les trois étapes dans l'ordre : retrieval (récupérer le texte pertinent), augmented (l'ajouter au prompt) et generation (rédiger la réponse).

Le terme vient d'un article de 2020 signé Patrick Lewis et ses collègues de Facebook AI Research, de l'University College London et de l'université de New York. Ils ont associé un modèle de langage à un index de Wikipédia interrogeable et obtenu des réponses plus exactes et plus précises qu'avec le modèle seul. L'idée s'est répandue parce qu'elle réglait trois problèmes d'un coup :

• Les connaissances privées : le modèle peut utiliser vos manuels, contrats et wikis internes sans être réentraîné dessus.
• Les connaissances à jour : modifiez un document et la réponse suivante en tient compte.
• Des réponses traçables : comme la réponse s'appuie sur des passages précis, l'outil peut vous montrer lesquels.

Le RAG aide aussi contre les hallucinations de l'IA. Un modèle qui a les faits sous les yeux a moins de raisons de les inventer, même si, comme vous le verrez plus bas, « moins » ne veut pas dire « jamais ».

Comment fonctionne le RAG, étape par étape

Tout système de RAG suit le même enchaînement : une partie se fait à l'avance, l'autre à chaque fois que quelqu'un pose une question.

La préparation (faite une fois, puis tenue à jour) :

1. Rassembler les documents : PDF, pages web, articles d'aide, transcriptions.
2. Les découper en morceaux (chunks) : des passages de quelques centaines de mots, car un modèle travaille mieux avec cinq paragraphes pertinents qu'avec cinquante fichiers entiers.
3. Créer des embeddings : chaque morceau devient une longue liste de nombres qui représente son sens. Des passages qui parlent de choses proches obtiennent des nombres proches, même s'ils emploient des mots différents.
4. Les stocker dans un index : généralement une base de données vectorielle, souvent accompagnée d'un index classique par mots-clés.

Au moment de la question :

1. Chercher : la question est elle aussi transformée en embedding, et le système trouve les morceaux les plus proches. Beaucoup de systèmes lancent aussi une recherche par mots-clés, qui repère les termes exacts comme les références produit.
2. Sélectionner : les meilleurs résultats, souvent entre 5 et 20 morceaux, sont retenus, parfois reclassés par un second modèle appelé reranker.
3. Construire le prompt : les morceaux sont insérés dans le prompt avec des consignes du type « réponds uniquement à partir de ces sources ».
4. Générer : le modèle rédige la réponse, idéalement en citant les morceaux utilisés.

Le prompt caché que reçoit le modèle ressemble à peu près à ceci :

C'est tout le principe. Le RAG ne modifie pas du tout le modèle : il modifie ce que le modèle voit. C'est pourquoi on le présente souvent comme une composante de l'ingénierie du contexte, qui consiste à décider de ce qui entre dans la fenêtre de contexte du modèle à chaque requête.

RAG, fine-tuning ou longue fenêtre de contexte ?

Le RAG n'est pas le seul moyen de transmettre vos connaissances à un modèle, et chaque option convient à un usage différent.

• Le fine-tuning réentraîne le modèle sur des exemples. Il est efficace pour enseigner un comportement, comme un style maison ou un format de sortie fixe. Il l'est beaucoup moins pour enseigner des faits : ils se fondent dans le modèle, ne peuvent pas être cités et deviennent obsolètes dès que quelque chose change.
• Une longue fenêtre de contexte revient à tout coller dans la requête. Pour un petit ensemble de documents stable, c'est souvent l'option la plus simple. Selon les recommandations d'Anthropic, si une base de connaissances fait moins d'environ 200 000 tokens (à peu près 500 pages), vous pouvez l'inclure en entier et utiliser la mise en cache du prompt pour limiter le coût.
• Le RAG ne récupère que ce qui est pertinent pour chaque question. Il s'impose quand la matière est trop volumineuse pour être collée, change souvent, exige des droits d'accès par utilisateur ou doit être accompagnée de citations.

Une règle simple : le fine-tuning pour la façon dont le modèle doit répondre, le RAG pour ce qu'il doit savoir, et un long contexte pour les petites tâches. Vous ne savez pas quel volume représentent vos documents ? Collez un échantillon dans notre compteur de tokens et multipliez.

Là où vous utilisez déjà le RAG

Vous avez sans doute utilisé le RAG cette semaine sans le savoir. Toute fonction d'IA qui lit quelque chose avant de répondre en applique une version :

• La recherche par IA : Perplexity, la recherche de ChatGPT et les AI Overviews de Google cherchent sur le web, lisent les premiers résultats et rédigent une réponse avec des liens. Notre guide comment utiliser Perplexity explique comment en tirer le meilleur.
• Discuter avec vos fichiers : importer des PDF dans un projet ChatGPT ou Claude, ou dans un Gem de Gemini. Avec de gros fichiers, l'outil cherche les parties pertinentes au lieu de relire chaque page à chaque fois.
• NotebookLM : le carnet de recherche de Google répond uniquement à partir des sources que vous ajoutez et affiche une citation pour chaque affirmation. C'est l'exemple grand public le plus clair de RAG.
• Les assistants de travail : Microsoft 365 Copilot et les outils du même genre puisent dans vos e-mails, fichiers et discussions, en filtrant selon ce que vous avez le droit de voir.

Quand un outil de recherche par IA se trompe, le coupable est donc souvent la récupération (une page faible ou périmée), pas le raisonnement du modèle. Vérifiez d'abord ses sources.

Comment mettre en place le RAG sans coder

Pour la plupart des gens, « faire du RAG » ne veut pas dire construire une base de données vectorielle. Cela veut dire choisir un outil qui s'occupe de la récupération à votre place et lui fournir de bonnes sources.

• Choisissez le bon conteneur : NotebookLM pour une recherche sur de nombreux documents (notre guide comment utiliser NotebookLM le détaille), un projet dans ChatGPT ou Claude pour un travail suivi, ou un GPT personnalisé avec des fichiers de connaissances si vous voulez partager l'assistant.
• Triez au lieu de tout déverser : dix documents à jour valent mieux que 200 qui contiennent trois versions de la même politique. Supprimez les fichiers remplacés : le système ne peut pas savoir quelle version fait foi.
• Rendez les documents faciles à chercher : des titres clairs, un sujet par fichier, des noms explicites (« Politique notes de frais 2026 – France », pas « final_v3.pdf ») et des dates dans le texte. Les pages scannées sans texte lisible sont invisibles pour la plupart des outils.
• Rédigez des consignes pour l'assistant : demandez-lui de répondre uniquement à partir des fichiers, de les citer et de reconnaître ses lacunes. Notre générateur de prompts système vous donne une structure de départ.

Un jeu de consignes solide pour un assistant documentaire :

Des prompts pour obtenir de meilleures réponses des outils de RAG

La récupération dépend de votre question : le système cherche à partir de ce que vous tapez, donc une question vague ramène des passages vagues. Quelques habitudes aident :

• Reprenez le vocabulaire des documents : si le règlement intérieur parle de « congés payés », ce terme sera retrouvé plus sûrement que « jours de vacances ».
• Posez une question à la fois : une question en trois parties divise la recherche en trois. Trois questions donnent trois bonnes récupérations.
• Demandez des citations : exiger la phrase exacte rend la réponse plus facile à vérifier et plus difficile à enjoliver.
• Demandez ce qui manque : une bonne réponse de RAG vous signale quand les sources sont muettes. Demandez-le explicitement.

Ce prompt fonctionne dans presque tous les outils qui répondent à partir de vos fichiers ou du web :

Pourquoi les réponses du RAG peuvent encore être fausses

Le RAG réduit les erreurs, mais il leur ouvre un nouvel endroit où se produire : la recherche. Une mauvaise réponse relève généralement d'un de ces cas :

• Le bon passage n'a pas été récupéré : la recherche l'a manqué, et le modèle a répondu à partir d'un passage approchant ou de mémoire. C'est l'échec le plus fréquent.
• Le passage a été coupé en deux : « Les remboursements sont possibles sous 30 jours » s'est retrouvé dans un morceau, « sauf pour les articles soldés » dans le suivant.
• La source était périmée : une ancienne version a été récupérée et citée fidèlement.
• Le modèle a mélangé les sources : il a combiné des faits récupérés avec ses données d'entraînement, ou fusionné deux sources en une seule affirmation.
• La citation n'appuie pas l'affirmation : le passage lié dit quelque chose de légèrement différent. Les citations indiquent où vérifier ; elles ne prouvent pas que la réponse est juste.

Quand quelque chose semble louche, demandez à l'outil de montrer son travail :

Construire une application de RAG : les choix qui comptent

Si votre équipe construit un système de RAG, le modèle est rarement le maillon faible. La qualité dépend d'une poignée de choix peu spectaculaires :

• Le découpage : trop petits, les morceaux perdent leur contexte ; trop grands, ils diluent la correspondance. Découper selon les titres et les sections fonctionne généralement mieux que couper tous les N caractères, et un léger chevauchement évite de séparer une règle de ses exceptions.
• Le contexte de chaque morceau : « le plafond est de 500 € » ne sert à rien si l'on ignore à quelle politique il appartient. La récupération contextuelle (contextual retrieval) d'Anthropic ajoute, avant l'indexation, une courte note qui situe chaque morceau dans son document. Dans leurs tests, combinée à la recherche par mots-clés, elle a réduit les récupérations ratées de 49 %, et de 67 % avec un reranking.
• La recherche hybride : les embeddings gèrent « comment récupérer mon argent ? » ; la recherche par mots-clés gère « code d'erreur E-4012 ». Utilisez les deux.
• Les métadonnées et les droits d'accès : enregistrez les dates, les responsables et les droits d'accès avec chaque morceau, pour pouvoir filtrer par date et ne jamais montrer à quelqu'un un passage qu'il ne devrait pas voir.
• L'évaluation : rassemblez 50 à 100 vraies questions dont vous connaissez la réponse et mesurez deux choses séparément : la récupération a-t-elle trouvé les bons passages, et la réponse leur est-elle restée fidèle ?

Les configurations plus avancées laissent le modèle décider quand et quoi chercher, ou enchaîner plusieurs recherches. C'est là que le RAG commence à recouper les agents IA : la récupération devient un outil parmi d'autres plutôt qu'une étape fixe.

Ce que le RAG ne sait pas faire

Le RAG est le moyen le plus pratique de relier l'IA à de vraies connaissances, mais on lui prête souvent plus qu'il ne peut. Les limites à connaître :

• Il n'élimine pas les hallucinations : il les réduit. Les modèles lisent encore mal ou exagèrent leurs sources, surtout quand la récupération ramène peu de chose.
• Il ne peut pas répondre sur tout un corpus à la fois : « Combien de nos 3 000 contrats contiennent une clause pénale ? » exige de lire chaque document, pas les dix meilleurs passages. Les comptages, les totaux et les listes complètes demandent une requête en base de données ou un passage document par document.
• Vos documents fixent le plafond : des sources fausses ou périmées produisent des réponses fausses ou périmées, livrées avec la même assurance.
• Il apporte des faits, pas des compétences : le texte récupéré ne change pas la façon dont le modèle écrit ou raisonne. Le style vient des consignes, des exemples ou du fine-tuning.
• Le texte récupéré peut contenir des attaques : une page web ou un fichier partagé peut cacher des instructions destinées au modèle, ce qu'on appelle l'injection de prompt (prompt injection). Traitez le contenu récupéré comme des données, pas comme des ordres.
• Il demande de l'entretien : les documents changent et les index se périment. Un système de RAG est une bibliothèque qui a besoin d'un bibliothécaire, pas une installation ponctuelle.

L'idée de fond mérite d'être retenue même si vous n'en construisez jamais : un modèle répond bien quand il a les bons faits sous les yeux, et le RAG est la mécanique qui permet de les trouver. Donnez-lui de bonnes sources, posez des questions précises et vérifiez les citations dès que l'enjeu compte.

Références

• Lewis et al. — Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (arXiv, en anglais)
• Anthropic — Introducing Contextual Retrieval (en anglais)
• Prompt Engineering Guide (DAIR.AI) — Génération augmentée par récupération (RAG)