Un assistant interne s'appuie sur vos 4 000 documents. Il ne les lit pas tous à chaque question : ils ne tiendraient pas dans sa fenêtre de contexte, et la facture serait énorme. Il cherche d'abord les quelques passages utiles, les ajoute à la requête, puis répond à partir d'eux. C'est le RAG (retrieval-augmented generation, une génération appuyée sur une recherche).
Chercher d'abord, répondre ensuite
Un système RAG fonctionne en trois temps. En amont, les documents sont découpés en passages et indexés. Au moment de la question, l'application cherche les passages les plus proches de la demande. Elle les place ensuite dans la requête, avec l'instruction de s'y tenir. Le modèle ne répond plus de mémoire. La réponse est ainsi ancrée dans vos documents, ce qui réduit les hallucinations et permet de citer les sources.
Une question arrive : avant d'appeler le modèle, l'application cherche dans vos documents.
Concept clé
Le RAG va chercher, au moment de la question, les quelques documents utiles au lieu de tout envoyer au modèle. La qualité de la réponse dépend d'abord de la qualité de la recherche. Si le bon passage n'est pas trouvé, le modèle ne peut pas s'en servir, et il répond quand même.
C'est le piège du RAG. Quand une réponse est fausse, on accuse le modèle, alors que souvent la recherche a ramené les mauvais passages. Mesurez donc les deux séparément : la recherche trouve-t-elle le bon passage, et le modèle en tire-t-il la bonne réponse ?
La recherche rate le bon passage : le modèle reçoit d'autres passages, répond quand même et cite des sources qui ne répondent pas à la question.
Ce que ça change pour vous
Pour les product managers
Décidez quelles sources l'assistant consulte, qui les tient à jour, et ce qu'il répond quand il ne trouve rien. Affichez les sources utilisées pour que l'utilisateur puisse vérifier. Une base documentaire périmée produit des réponses périmées, avec la même assurance.
Pour les tech leads
Traitez la chaîne de recherche comme un produit à part : découpage, embeddings (ou plongements), index, reclassement. Testez-la isolément, sur des questions réelles dont vous connaissez la bonne source. Dans une startup, une base de données classique avec une extension de recherche vectorielle suffit souvent. Dans un grand groupe, la difficulté est ailleurs : des dizaines de sources, des droits d'accès hétérogènes, et des documents qui peuvent contenir des instructions malveillantes.
Pour aller plus loinLes embeddings
Pour chercher par le sens et non par les mots, on transforme chaque passage en embedding : une longue liste de nombres qui représente son sens. Deux textes de sens proche ont des embeddings proches. La question « ai-je le droit de rester chez moi pour travailler ? » retrouve ainsi le passage « télétravail : deux jours par semaine », sans aucun mot en commun. Ces listes sont calculées par des modèles spécialisés, qui n'écrivent pas de texte (voir la page Les autres familles de modèles). En octobre 2026, Anthropic ne propose pas son propre modèle d'embeddings : sa documentation cite Voyage AI comme fournisseur et conseille d'en comparer plusieurs.
L'erreur classique
fAIling RÈGLE I
Le piège : Collez l'intégralité de votre codebase dans le prompt
Pour un gros fonds documentaire, tout coller dans les instructions, « pour que le modèle ait tout », revient à lui faire chercher l'aiguille dans la botte de foin à chaque requête, et à payer la botte à chaque fois. Le RAG fait ce tri avant d'appeler le modèle. Encore faut-il vérifier qu'il le fait bien.
Lire la règle I du manifesteÀ essayer
Rassemblez dix questions que vos utilisateurs posent vraiment. Pour chacune, trouvez à la main le passage qui y répond. Posez ensuite chaque question à votre outil de recherche, ou à votre assistant, et notez si ce passage figure parmi les cinq premiers résultats. Ce score vous dit si le problème vient de la recherche ou du modèle.
Autour du sujet
Pour aller plus loinDécouper les documents
Avant d'indexer, il faut découper les documents en passages (le chunking). Trop courts, les passages perdent leur contexte. Trop longs, ils diluent l'information utile. Anthropic a publié en septembre 2024 un exemple parlant : le passage « le chiffre d'affaires a augmenté de 3 % par rapport au trimestre précédent » ne dit ni de quelle entreprise ni de quel trimestre il s'agit. Sa méthode consiste à ajouter à chaque passage une courte phrase de contexte avant de l'indexer.
Pour aller plus loinRecherche hybride et reclassement
La recherche par le sens rate parfois l'évidence : un numéro de contrat, une référence produit, un nom propre. On la combine donc avec une recherche classique par mots-clés : c'est la recherche hybride. Un modèle de reclassement (re-ranking) relit ensuite les meilleurs candidats et les remet dans l'ordre. Selon les tests publiés par Anthropic en septembre 2024, l'ajout de contexte aux passages, combiné à la recherche hybride, réduisait de 49 % les échecs de recherche, et de 67 % avec le reclassement.
Pour aller plus loinLes droits d'accès sur les documents trouvés
Un assistant ne doit pas citer un document que l'utilisateur n'a pas le droit d'ouvrir. Le filtre se fait au moment de la recherche, à partir des droits de la source d'origine, jamais par une consigne dans les instructions. Dans un grand groupe, les dossiers RH, juridiques ou financiers rendent ce point bloquant. Un document récupéré peut aussi contenir du texte écrit pour détourner le modèle : c'est l'injection de prompt, qui se traite par des garde-fous.
Pour aller plus loinContexte long ou recherche ?
En octobre 2026, les modèles actuels d'Anthropic acceptent un million de tokens par requête (des fragments de texte, souvent des morceaux de mots), soit environ 555 000 mots selon sa documentation. Pour une base petite et stable, tout envoyer peut suffire : Anthropic conseillait dès septembre 2024 de le faire sous 200 000 tokens, avec le cache de prompt pour en réduire le coût. Pour une base grande, changeante ou soumise à des droits d'accès, la recherche reste nécessaire.
Quoi en faire
Décidez quelles sources l'assistant consulte, qui les tient à jour et ce qu'il dit quand il ne trouve rien : une base périmée donne des réponses périmées.
Montrez les sources utilisées par l'assistant, pour que l'utilisateur puisse les vérifier.
Mesurez la recherche et la réponse séparément, en partant de vraies questions dont vous connaissez déjà la bonne source.