RAG IA : définition, fonctionnement et cas d’usage

Le RAG IA, ou retrieval augmented generation, va chercher l’information dans vos propres documents avant de générer la réponse. Le modèle ne répond plus de mémoire : il répond à partir des passages retrouvés, qu’il peut citer. Voici son fonctionnement, ses limites et ses usages sur un site web.

RAG IA : qu’est-ce que c’est, en une définition simple ?

Le RAG est une architecture qui fait chercher l’information dans une base documentaire avant de générer la réponse. Le modèle de langage ne puise plus dans sa seule mémoire d’entraînement. Il rédige à partir des passages retrouvés dans vos documents, et affiche le lien vers chacun. La traduction française du sigle est génération augmentée par récupération.

Le terme vient d’un article de recherche signé Patrick Lewis et ses co-auteurs, chez Facebook AI Research, UCL et NYU. Il a été publié le 22 mai 2020 et présenté à la conférence NeurIPS la même année. Les auteurs y montrent que ces modèles produisent un langage « plus spécifique, plus varié et plus factuel » qu’un modèle qui répond uniquement de mémoire. Le texte de référence reste consultable sur arXiv.

Quatre mots à connaître avant d’aller plus loin

• Chunk : un fragment de document, découpé pour pouvoir être retrouvé seul.
• Embedding : la traduction d’un texte en une suite de nombres qui représente son sens.
• Base vectorielle : l’index qui stocke ces embeddings et sait retrouver les plus proches d’une question.
• Recherche sémantique : une recherche par proximité de sens, et non par correspondance de mots.

Pourquoi un LLM seul ne sait pas répondre sur vos documents

Un LLM seul ne connaît que ce qu’il a vu pendant son entraînement. Vos fiches produit, vos contrats-cadres et votre documentation technique n’en font pas partie. Interrogé dessus, il produit une réponse plausible plutôt qu’une réponse exacte.

Trois manques expliquent ce comportement. Ses connaissances sont figées à une date de coupure. Il n’a aucune notion de vos droits d’accès. Il ne peut citer aucune source, puisqu’il n’en a consulté aucune. Dans un RAG, le LLM reste exactement le même : ce qui change, c’est ce qui lui est mis sous les yeux au moment de répondre.

Comment fonctionne un RAG : le pipeline en 5 étapes

Un RAG IA fonctionne en 5 étapes : découpage, vectorisation, indexation, recherche sémantique, puis génération de la réponse à partir des passages retrouvés. Les trois premières se jouent une fois, à l’ingestion des documents. Les deux dernières se rejouent à chaque question posée.

1. Découpage : chaque document est coupé en fragments de quelques centaines de mots. Un guide de 40 pages devient une centaine de fragments interrogeables.
2. Vectorisation : chaque fragment est traduit en vecteur par un modèle d’embedding. Deux passages qui disent la même chose avec des mots différents se retrouvent proches.
3. Indexation : ces vecteurs sont stockés dans une base vectorielle, avec pour chacun son document d’origine et son URL. C’est ce rattachement qui rendra la citation des sources possible.
4. Recherche sémantique : la question du visiteur est vectorisée à son tour, puis comparée à l’index. Le système remonte les passages les plus proches, en général 5 à 20.
5. Génération sourcée : les passages retenus sont transmis au modèle avec la question et une consigne. Il rédige la réponse à partir d’eux, puis affiche les liens vers les pages d’origine.

L’ordre compte plus qu’il n’y paraît. Rien de ce qui n’a pas été retrouvé à l’étape 4 ne peut apparaître à l’étape 5. Un RAG qui répond mal est presque toujours un RAG qui cherche mal, pas un RAG qui rédige mal. Beaucoup de systèmes ajoutent une recherche par mots-clés en parallèle de la recherche sémantique. Cette recherche hybride rattrape les références exactes : un numéro de norme, une référence produit.

Pourquoi le RAG réduit les hallucinations sans les faire disparaître

Le RAG réduit les hallucinations parce qu’il ancre la réponse dans des passages réels et vérifiables. Il ne les supprime pas. Le modèle peut mal interpréter un passage, mélanger deux sources contradictoires, ou combler un vide quand la recherche n’a rien remonté de pertinent.

Le chiffre le plus utile pour un décideur vient d’une évaluation du Stanford RegLab publiée en mai 2024. Elle porte sur des outils professionnels de recherche juridique, tous construits sur du RAG et vendus comme fiables. Ces outils produisent encore de 17 à 33 % de réponses erronées selon le produit testé. Les auteurs concluent que les affirmations des fournisseurs sont surévaluées. L’étude complète est publiée sur arXiv.

Un RAG réduit les hallucinations, il ne les supprime pas, et il ne vaut jamais plus que la base documentaire qui l’alimente.

Cette limite explique pourquoi la citation des sources n’est pas un ornement. Elle donne au lecteur le moyen de vérifier en un clic, et à votre équipe le moyen de repérer un document fautif. Un assistant qui répond sans lien vous demande de le croire sur parole : c’est précisément ce qu’un RAG est censé éviter.

RAG, fine-tuning ou prompt enrichi : que choisir et quand ?

Le RAG convient quand l’information change souvent et doit être citée. Le fine-tuning convient quand c’est le style, le vocabulaire ou le format de sortie qu’il faut modifier. Le prompt enrichi, qui consiste à coller quelques documents dans la conversation, convient à un besoin ponctuel et à un faible volume.

Critère	RAG	Fine-tuning	Prompt enrichi
À quoi cela sert	Répondre à partir de vos documents	Changer le style, le ton, le format	Traiter quelques documents à la main
Coût et effort	Moyen : ingestion, index, maintenance	Élevé : données annotées et puissance de calcul	Faible : aucun développement
Fraîcheur de l’information	Immédiate : réindexer un document suffit	Figée au dernier entraînement	Limitée aux fichiers collés
Citation des sources	Native, chaque passage garde son origine	Impossible	Manuelle
Quand le choisir	Base documentaire vivante, réponses à prouver	Vocabulaire métier ou format très spécifique	Test, prototype, besoin isolé

Les deux premières approches ne s’excluent pas. Un RAG mobilise nettement moins de ressources qu’un fine-tuning, qui exige un volume important de données annotées. Rien n’interdit ensuite d’affiner un modèle pour qu’il adopte votre vocabulaire, tout en lui donnant vos documents par un RAG. Dans les projets que nous cadrons, le point de départ est presque toujours le prompt enrichi. L’équipe s’aperçoit qu’elle recolle les mêmes fichiers chaque semaine, puis bascule sur un RAG.

Pourquoi la qualité du découpage décide de la qualité des réponses

Le découpage est le premier facteur de qualité d’un RAG. Un fragment coupé au mauvais endroit perd son contexte : il ne dit plus de quelle filiale, de quelle année ni de quelle version du produit il parle. La recherche le remonte alors mal, ou ne le remonte pas du tout.

Anthropic a chiffré cet effet en septembre 2024. Sur son protocole de mesure, le taux d’échec de récupération passe de 5,7 % à 2,9 %. Il suffit d’enrichir chaque fragment de son contexte et d’y ajouter une recherche par mots-clés. Il tombe à 1,9 % en ajoutant un réordonnancement des résultats. Le modèle de génération, lui, reste le même d’un bout à l’autre : la méthode complète est publiée sur le blog d’Anthropic.

La conclusion est directement actionnable : le travail de préparation pèse plus lourd que le choix du modèle. La taille des fragments, l’endroit exact où ils sont coupés et leur recouvrement sont des arbitrages de projet, jamais des réglages par défaut. Un document bien structuré, avec des titres et des sections, se découpe presque tout seul. Un PDF scanné de 200 pages, non.

Cette dépendance à la structure documentaire n’est pas propre à l’IA. Sur la plateforme Med’Vet éditée par le SIMV, nous avons construit un moteur de recherche par catégorie, mis à jour quotidiennement par les laboratoires. Cette plateforme Symfony reçoit 50 000 visiteurs mensuels depuis sa refonte. Le facteur décisif était déjà la qualité du classement des documents, bien avant qu’un modèle de langage n’entre dans l’équation.

À quoi sert un RAG sur un site web : recherche interne, support et contenu

Sur un site web, un RAG sert d’abord à transformer une recherche en réponse. Trois usages sortent du lot pour une équipe marketing. Le moteur de recherche interne, le support client appuyé sur la documentation, et l’assistance à la production de contenu. Chacun s’appuie sur des documents que vous possédez déjà.

Un moteur de recherche interne qui répond au lieu de lister

Votre barre de recherche renvoie aujourd’hui une liste de liens, et souvent zéro résultat dès que le visiteur emploie ses mots à lui plutôt que les vôtres. Un RAG répond en 3 phrases et affiche les 2 ou 3 pages qui portent la réponse. Le visiteur économise les onglets qu’il ouvrait au hasard. Votre équipe, elle, récupère la liste des questions réellement posées : c’est un plan éditorial gratuit, alimenté par la demande.

Un support client appuyé sur votre documentation

Les questions répétitives partent vers un assistant qui répond à partir de la documentation publiée, avec le lien vers la page source à chaque fois. Le bénéfice pour l’équipe support n’est pas le volume traité, c’est le tri : elle ne récupère que les demandes qui méritent un humain. Les modalités de mise en œuvre sont détaillées dans notre guide du chatbot pour votre site.

Un assistant de contenu nourri par votre patrimoine éditorial

Vos livres blancs, études de cas, fiches produit et réponses d’appels d’offres forment déjà une base documentaire. Un RAG les rend interrogeables au moment où quelqu’un rédige, au lieu de les laisser dormir dans un espace partagé. Le gain n’est pas la vitesse de rédaction, c’est la cohérence : le même chiffre et la même formulation d’un document à l’autre. C’est le principe de la content factory, où la production s’appuie sur des sources maîtrisées plutôt que sur la mémoire d’un modèle.

Ces trois usages se combinent souvent avec d’autres briques d’intelligence artificielle. Un RAG fournit la connaissance ; un agent décide quoi en faire et déclenche des actions. La différence entre les deux est développée dans notre article sur ce qu’est un agent IA.

Les limites d’un RAG : il ne vaut que ce que vaut votre base documentaire

Un RAG hérite des défauts de vos documents. Deux versions contradictoires d’une même procédure produiront deux réponses contradictoires. Un document obsolète que personne n’a retiré sera cité comme une vérité, avec son lien et son air de sérieux.

• Gouvernance documentaire : qui possède chaque document, qui le met à jour, qui le retire.
• Droits d’accès : sans filtrage par profil, un RAG interne expose des documents confidentiels à qui sait poser la question.
• Fraîcheur de l’index : un document modifié et non réindexé continue de répondre dans son ancienne version.
• Coût de fonctionnement : chaque question consomme une recherche et une génération, à volume de trafic près.
• Évaluation : sans jeu de questions de contrôle rejoué régulièrement, personne ne voit la qualité se dégrader.

Avant de lancer un RAG chez un client, nous vérifions trois points. Qui est propriétaire des documents. À quelle fréquence ils sont mis à jour. Ce qui doit se passer quand deux versions se contredisent. Sans réponse à ces trois questions, le projet livre un assistant convaincant et faux, ce qui est la pire des situations.

Par où commencer pour mettre en place un RAG dans votre entreprise

Commencez par un périmètre étroit et une question mesurable. Un seul corpus, un seul public, un seul usage. 30 documents propres et à jour valent mieux que 5 000 fichiers non triés. La qualité de la recherche se juge sur la précision, pas sur le volume indexé.

1. Choisir le corpus de départ : la documentation publique du site est le meilleur candidat, elle est déjà structurée et déjà validée.
2. Rassembler 20 à 30 questions réelles, prises dans les recherches internes du site et dans les tickets du support.
3. Construire une première version, puis la mesurer sur ces questions : réponse exacte, réponse partielle, réponse absente, réponse fausse.
4. Décider ensuite de l’ouvrir au public ou de la réserver aux équipes internes, selon le taux de réponses fausses observé.
5. Industrialiser : réindexation automatique, filtrage par profil, suivi des questions sans réponse.

Le cadrage documentaire prend souvent plus de temps que le développement lui-même, et c’est normal : le budget d’un RAG se joue d’abord sur l’état de votre corpus, son volume et sa fréquence de mise à jour. Nous avons livré plus de 500 projets depuis 2009, dont l’usine à sites de Chryso qui fédère 20+ filiales internationales : le patrimoine documentaire dispersé nous est familier bien avant l’IA générative, et c’est lui que nous chiffrons au cadrage.

Questions fréquentes

Qu’est-ce que le RAG en intelligence artificielle ?

Le RAG IA, ou retrieval augmented generation, est une architecture qui fait chercher l’information dans une base documentaire avant de générer la réponse. Le modèle de langage rédige à partir des passages retrouvés, et non de sa mémoire d’entraînement. En français, le sigle se traduit par génération augmentée par récupération.

Quelle est la différence entre RAG et fine-tuning ?

Le RAG change ce que le modèle a sous les yeux, le fine-tuning change le modèle lui-même. Le premier sert à répondre sur une information qui bouge et à citer ses sources. Le second sert à imposer un style, un vocabulaire ou un format de sortie. Les deux se combinent, mais le RAG coûte nettement moins cher à mettre en place et à maintenir.

Le RAG supprime-t-il vraiment les hallucinations de l’IA ?

Non, il les réduit. L’évaluation du Stanford RegLab publiée en mai 2024 mesure encore 17 à 33 % de réponses erronées sur des outils juridiques professionnels construits sur du RAG. L’ancrage dans des documents réels rend l’erreur moins fréquente et surtout détectable, puisque chaque affirmation renvoie à une source vérifiable.

Quels documents peuvent alimenter un RAG ?

Tout document textuel exploitable : pages du site, documentation produit, fiches techniques, livres blancs, comptes rendus, contrats, articles de blog. Le format compte moins que la structure. Un document avec des titres et des sections se découpe proprement, un PDF scanné sans couche texte demande une étape de reconnaissance de caractères avant toute indexation.

Un RAG peut-il citer ses sources ?

Oui, et c’est son principal intérêt de confiance. Chaque fragment indexé conserve le lien vers son document d’origine et son URL. La réponse affiche donc les pages qui l’ont produite. Vérifiez ce point avant de choisir une solution : un assistant qui répond sans lien vous prive du seul moyen simple de contrôler sa fiabilité.

Combien de temps faut-il pour mettre en place un RAG ?

Comptez 3 à 6 mois pour une première version utilisable en production, cadrage documentaire compris. Une maquette sur un corpus restreint se monte en quelques semaines. Elle ne dit rien de la tenue en charge, du filtrage par profil ni de la mise à jour de l’index. C’est cette part d’industrialisation qui occupe l’essentiel du calendrier.