Faire répondre une IA à partir de vos documents : le RAG expliqué et hébergé chez vous

Par Mouhamed BANKOLE, CEO chez ITNET Technologies · Mis à jour le 6 novembre 2026 · Lecture : 9 min

Un assistant d'IA généraliste ne connaît ni vos procédures, ni vos contrats, ni la documentation de vos produits, et il invente parfois une réponse plausible. Le RAG IA corrige ce défaut : avant de répondre, l'IA va chercher les passages utiles dans vos propres documents et s'appuie sur eux. C'est aujourd'hui la façon la plus simple de construire un assistant interne fiable. Voici comment fonctionne un RAG, à quoi il sert dans une PME, en quoi il diffère du fine-tuning, et comment l'héberger vous-même sur un serveur GPU.

En résumé

• Le RAG (Retrieval-Augmented Generation, génération augmentée par récupération) fait rechercher à l'IA les passages pertinents de vos documents avant qu'elle réponde.
• Quatre briques : découpage des documents, embeddings, base vectorielle, puis modèle de langage qui rédige la réponse à partir des passages trouvés.
• Il ne modifie pas le modèle : on ajoute ou retire un document sans réentraîner quoi que ce soit, contrairement au fine-tuning.
• L'héberger soi-même garde les documents sensibles chez vous, sur un serveur en France.
• Un serveur GPU fait tourner le modèle ; Ollama, une base vectorielle et Open WebUI suffisent pour démarrer.

Sommaire

1. Qu'est-ce que le RAG en IA ?
2. Comment fonctionne un RAG, étape par étape ?
3. À quoi sert un RAG dans une PME ?
4. RAG ou fine-tuning : quelle différence ?
5. Pourquoi héberger son RAG soi-même ?
6. Quelle architecture pour un RAG auto-hébergé ?
7. Quel serveur faut-il pour un RAG ?
8. Quelles erreurs éviter avec un RAG ?
9. Comment démarrer un RAG rapidement ?

Qu'est-ce que le RAG en IA ?

Le RAG est une méthode qui combine un moteur de recherche dans vos documents et un modèle de langage : l'IA récupère d'abord les passages pertinents, puis rédige sa réponse à partir d'eux. Le terme vient de l'article de recherche « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks » publié par des chercheurs de Facebook AI.

Ce que le RAG change pour l'utilisateur :

• des réponses fondées sur vos documents plutôt que sur la mémoire générale du modèle ;
• des sources citables : l'assistant peut indiquer le document et le passage utilisés ;
• des connaissances à jour : il suffit d'ajouter le nouveau document ;
• moins d'inventions : le modèle répond à partir d'un texte fourni.

Comment fonctionne un RAG, étape par étape ?

Un RAG prépare d'abord vos documents en morceaux indexés, puis, à chaque question, retrouve les morceaux les plus proches et les donne au modèle avec la question. Tout se joue en deux temps : l'indexation, une fois, et la réponse, à chaque requête.

1. Découpage : chaque document est coupé en passages de quelques paragraphes.
2. Embeddings : un modèle spécialisé transforme chaque passage en vecteur, une suite de nombres qui représente son sens.
3. Base vectorielle : les vecteurs sont stockés dans une base qui sait retrouver les plus proches.
4. Recherche : la question est elle aussi transformée en vecteur, et la base renvoie les passages les plus proches.
5. Génération : le modèle de langage reçoit la question et ces passages, et rédige la réponse.

Un modèle d'embedding comme nomic-embed-text ne pèse que 274 Mo et s'appelle par l'API d'Ollama : la partie « recherche » ne demande donc pas une grosse machine.

À quoi sert un RAG dans une PME ?

Un RAG sert à interroger en langage naturel une masse de documents internes : procédures, documentation technique, contrats, base de connaissances du support. Il remplace la recherche par mots-clés dans des dossiers partagés.

• Le RAG ne décide pas : il aide à retrouver et à reformuler, la validation reste humaine.
• La qualité des documents compte : un document obsolète donne une réponse obsolète.

RAG ou fine-tuning : quelle différence ?

Le RAG fournit des documents au modèle au moment de la question, le fine-tuning modifie le modèle lui-même par un nouvel entraînement : pour faire connaître vos documents à une IA, le RAG est presque toujours le bon choix.

• Commencez par le RAG, et réservez le fine-tuning aux cas où le modèle doit adopter un style ou un format particulier.

Pourquoi héberger son RAG soi-même ?

Parce qu'un RAG manipule par définition vos documents internes : l'héberger vous-même évite de les envoyer chez un éditeur d'IA et simplifie votre conformité au RGPD. C'est l'argument décisif pour les contrats, les données RH ou les dossiers clients.

• Maîtrise des données : documents, vecteurs et questions restent sur votre serveur.
• Localisation : un hébergement en France ou en Europe.
• Coût stable : un serveur au mois, quel que soit le nombre de questions.
• Choix des modèles : modèles ouverts, dont Mistral, éditeur français.

Notre guide pour héberger une application IA détaille les options d'infrastructure.

Quelle architecture pour un RAG auto-hébergé ?

Une architecture simple tient sur un seul serveur GPU : Ollama pour le modèle de langage et les embeddings, une base vectorielle pour les passages, et Open WebUI comme interface avec gestion des documents. Les briques sont libres et se déploient en quelques heures.

• Open WebUI intègre déjà la recherche dans des documents, comme l'indique sa documentation : c'est le moyen le plus rapide de tester.
• Pour une application sur mesure, appelez l'API d'Ollama (/api/embed pour les embeddings) depuis votre code.

Quel serveur faut-il pour un RAG ?

Le dimensionnement dépend du modèle de langage, pas des documents : il faut un GPU dont la VRAM contient le modèle choisi, la base vectorielle et l'interface se contentant de quelques ressources. Un corpus de quelques milliers de pages reste modeste pour une base vectorielle.

• Modèle de 7 à 8 milliards de paramètres : il pèse moins de 5 Go selon la bibliothèque Ollama, une carte de 8 Go suffit pour tester.
• Modèle de 27 milliards de paramètres : il pèse 17 Go selon la fiche Gemma 3, un GPU de 32 Go devient nécessaire.
• Interface et base seules : un VPS peut les héberger si le modèle tourne ailleurs.

La location de GPU Wayhost propose une NVIDIA V100 32 Go dédiée à 0,60 € HT de l'heure ou 199,99 € HT par mois, hébergée à Cergy, avec un accès root par clé SSH (constaté le 6 novembre 2026). Pour une machine entière, voyez aussi le serveur physique.

Quelles erreurs éviter avec un RAG ?

Les échecs viennent rarement du modèle et presque toujours des documents ou du découpage : des fichiers obsolètes, des passages trop longs ou trop courts, et l'absence de contrôle des droits d'accès.

1. Indexer tout sans tri : doublons et versions périmées produisent des réponses contradictoires.
2. Mal découper : des passages trop courts perdent le contexte, trop longs noient l'information.
3. Ignorer les droits : un salarié ne doit pas obtenir, via l'IA, un document qu'il n'a pas le droit de lire.
4. Ne pas afficher les sources : l'utilisateur doit pouvoir vérifier le passage cité.
5. Ne pas mesurer : constituez une liste de questions types et vérifiez régulièrement les réponses.
6. Exposer le serveur : l'API d'Ollama ne s'ouvre jamais sur Internet, seule l'interface protégée l'est.

Comment démarrer un RAG rapidement ?

Le plus rapide est de déployer Ollama et Open WebUI sur un serveur GPU, de charger une sélection de documents et de tester avec une liste de vraies questions. Comptez une journée pour un premier pilote.

1. Choisissez un périmètre : une seule équipe, quelques dizaines de documents à jour.
2. Louez un GPU et installez Ollama, un modèle de langage et un modèle d'embedding.
3. Installez Open WebUI et chargez les documents dans une collection.
4. Testez avec les questions que l'équipe pose vraiment.
5. Ajustez le découpage, le nombre de passages récupérés et le modèle.
6. Étendez à d'autres équipes une fois les réponses fiables.

Pour choisir le type de serveur à long terme, lisez notre guide de l'hébergement serveur.

Questions fréquentes

Que veut dire RAG en IA ?

RAG signifie Retrieval-Augmented Generation, soit génération augmentée par récupération. L'IA recherche d'abord des passages dans une base de documents, puis rédige sa réponse à partir d'eux. Elle répond ainsi sur vos contenus et non sur sa seule mémoire.

Le RAG empêche-t-il l'IA d'inventer ?

Il réduit fortement les inventions, car le modèle s'appuie sur des passages fournis. Il ne les supprime pas entièrement, surtout si les documents sont incomplets. Afficher les sources permet de vérifier chaque réponse.

Faut-il un GPU pour faire un RAG ?

Le modèle de langage qui rédige les réponses tourne bien mieux sur un GPU. Les embeddings et la base vectorielle sont plus légers. Sans GPU, la partie génération peut passer par une API distante.

Quels documents peut-on utiliser dans un RAG ?

La plupart des formats texte : PDF, documents bureautiques, pages web, fiches de base de connaissances. Les documents scannés doivent d'abord passer par une reconnaissance de caractères. Plus les documents sont propres et à jour, meilleures sont les réponses.

Un RAG est-il conforme au RGPD ?

Le RAG est une technique, la conformité dépend de l'hébergement et des données traitées. L'héberger en France sur un serveur que vous contrôlez simplifie la démarche. Limitez les documents aux besoins et gérez les droits d'accès.

Quelle différence entre un RAG et ChatGPT ?

ChatGPT répond à partir de ce que son modèle a appris, éventuellement complété par les fichiers que vous lui envoyez. Un RAG interne répond à partir de votre base de documents, indexée chez vous. Les documents ne quittent pas votre serveur.

Combien de temps pour mettre en place un RAG ?

Un pilote avec Ollama et Open WebUI se monte en une journée sur un serveur GPU. Le plus long est de choisir et nettoyer les documents. Une version de production demande ensuite des droits d'accès et un suivi de la qualité.

Ce qu'il faut retenir

• Le RAG fait répondre l'IA à partir de vos documents, avec des sources vérifiables.
• Quatre briques : découpage, embeddings, base vectorielle, modèle de langage.
• Le RAG ne réentraîne pas le modèle : on met à jour un document, pas l'IA.
• L'héberger soi-même garde les documents sensibles sur un serveur en France.
• Ollama, une base vectorielle et Open WebUI sur un GPU suffisent pour un pilote.

Pour faire tourner votre RAG sur une NVIDIA V100 32 Go hébergée en France, découvrez la location de GPU Wayhost.

Article rédigé par Mouhamed BANKOLE, CEO chez ITNET Technologies.